Quellengebundene KI: Warum ein Wissensassistent jede Antwort belegen muss
Wenn eine Marktleiterin um 7:40 Uhr fragt, wie das Pfand einer neuen Mehrwegsorte zu buchen ist, braucht sie keine plausible Antwort. Sie braucht die richtige Antwort und die Stelle in der Arbeitsanweisung, an der sie steht. Das ist der Unterschied zwischen einem Chatbot und einem quellengebundenen Wissensassistenten – und einer der Gründe, warum viele KI-Piloten in regulierten Unternehmen nicht in den Betrieb kommen.
Eine KI-Antwort ohne Quelle ist eine Meinung. In der Filiale, in der Kanzlei und in der Gemeindeverwaltung muss sie ein Beleg sein. Dieser Beitrag erklärt, was „quellengebunden“ konkret bedeutet, woran Sie es vor dem Kauf prüfen und wo auch quellengebundene Systeme an Grenzen stoßen.
Was „quellengebunden“ bedeutet
Technische Grundlage ist Retrieval-Augmented Generation: Das Sprachmodell formuliert nicht aus seinem allgemeinen Trainingswissen, sondern aus Textpassagen, die zuvor aus freigegebenen Dokumenten herausgesucht wurden. Quellengebunden ist ein System erst, wenn zu diesem Mechanismus vier Eigenschaften hinzukommen:
Dokumentverweis je Aussage. Jede Aussage trägt einen Verweis auf das Dokument und die Passage, aus der sie stammt – prüfbar per Klick, nicht nur „Quelle: Intranet“.
Antwortverweigerung bei fehlender Quelle. Liegt zu einer Frage keine freigegebene Information vor, sagt das System genau das, statt eine Antwort zu formulieren.
Rechte spiegeln Berechtigungen. Wer ein Dokument im Dokumentenmanagement nicht sehen darf, bekommt die Information auch vom Assistenten nicht. Die rollenbasierte Zugriffskontrolle gilt für die Antwort, nicht nur für die Ablage.
Audit-Trail je Aktion. Wer hat wann welche Frage gestellt, welche Quellen wurden gezogen, welche Antwort wurde gegeben – nachvollziehbar und exportierbar.
Warum Standard-Assistenten dafür nicht gebaut sind
ChatGPT oder ein Copilot im Auslieferungszustand sind ausgezeichnete Werkzeuge zum Formulieren, Zusammenfassen und Strukturieren. Sie sind nicht dafür gebaut, Antworten an einen definierten Dokumentenbestand mit Rollenrechten zu binden und jede Aktion zu protokollieren. Das ist kein Mangel, sondern ein anderer Zweck.
Die Frage, die eine Geschäftsführung stellen sollte, lautet: Wer hat wann welche Antwort aus welcher Quelle erhalten? Lautet die Antwort „das wissen wir nicht“, ist das System in einem regulierten Umfeld nicht betriebsfähig – unabhängig davon, wie gut seine Antworten klingen. Ohne Protokoll gibt es im Haftungsfall nichts vorzulegen, und ohne Rechtebindung ist jede Antwort ein potenzieller Datenschutzvorfall.
Vier Prüfkriterien vor dem Kauf
Kriterium | Prüffrage | Woran Sie es erkennen |
Dokumentverweis je Aussage | Kann ich jede Aussage per Klick in der Quelle prüfen? | Verweis auf Dokument und Abschnitt; die Passage öffnet sich im Originalkontext |
Rechte spiegeln Berechtigungen | Sieht ein Nutzer nur, was er auch im Dokumentensystem sehen dürfte? | Anbindung an das Identitätssystem (z. B. Microsoft Entra); Test mit zwei Rollen auf dasselbe Dokument |
Audit-Trail je Aktion | Lässt sich jede Anfrage mit Quellen und Antwort nachvollziehen? | Protokoll exportierbar, Aufbewahrungsdauer konfigurierbar, Zugriff auf das Protokoll selbst geregelt |
Datenhaltung | Wo liegen Dokumente und Protokolle, was behält der Modellanbieter? | EU-Region oder On-Premise; Zero Data Retention, wo der Anbieter es plattformseitig zusagt |
Ein fünfter Test gehört in jede Ausschreibung: Stellen Sie eine Frage, zu der es im Dokumentenbestand keine Antwort gibt. Ein quellengebundenes System sagt das. Ein Chatbot antwortet trotzdem.
Ein Beispiel aus dem Filialbetrieb
Alexander Huber hat als Head of Digital Business Hub der REWE International AG den ersten produktiven GenAI-Assistenten im Filialbetrieb der Gruppe mitverantwortet: HaiDI, aufgebaut auf Google Vertex AI, für rund 600 Standorte und etwa 3.000 Mitarbeitende, in vier Sprachen – Deutsch, Englisch, Türkisch und Ungarisch –, mit Quellen-Transparenz je Antwort und Zero Data Retention.
Drei Erfahrungen daraus prägen heute unsere Arbeit. Erstens: Der Dokumentverweis ist kein Compliance-Zusatz, sondern der Akzeptanztreiber. Mitarbeitende vertrauen einer Antwort, die sie prüfen können, und misstrauen einer, die sie glauben sollen. Zweitens: Mehrsprachigkeit entscheidet im Filialbetrieb über die Nutzung – die Belegschaft kommt aus mehreren Sprachräumen, die Arbeitsanweisungen nicht. Drittens: Zero Data Retention ist die Bedingung, unter der eine Konzern-IT einem Cloud-Modell überhaupt zustimmt. Wer das erst im Pilotprojekt klärt, hat den Pilot schon verloren.
Was das mit der KI-Verordnung zu tun hat
Ein interner Wissensassistent ist in der Regel kein Hochrisiko-System. Drei Pflichten treffen ihn trotzdem. Nach Art. 50 müssen Nutzer wissen, dass sie mit einem KI-System interagieren – seit dem 2. August 2026. Nach Art. 4 muss das Unternehmen Maßnahmen zur KI-Kompetenz ergreifen; der Umgang mit Quellen und Fehlern ist dabei die Kernkompetenz der täglichen Nutzung, wie wir in der Analyse zur Schulungspflicht beschreiben. Und die Betreiberrolle greift auch bei rein interner Nutzung.
Der Audit-Trail ist dabei kein Selbstzweck. Er ist der Nachweis, den eine KI-Governance braucht, um Fragen einer Aufsicht, eines Betriebsrats oder eines Gerichts zu beantworten. Deshalb gehört er in die Grundarchitektur, nicht in das nachgelagerte Projekt.
Wo quellengebundene Systeme an Grenzen stoßen
Die Quelle ist veraltet. Die Antwort ist korrekt belegt und trotzdem falsch, weil die Arbeitsanweisung seit drei Monaten nicht mehr gilt. Dokumenten-Governance – Freigabe, Gültigkeitsdatum, Verantwortlicher – ist Teil des Systems, nicht Vorarbeit.
Die Quellen widersprechen sich. Zwei Dokumente, zwei Aussagen. Ein gutes System zeigt beide und benennt den Widerspruch, statt eine Seite auszuwählen.
Quellenbindung senkt das Fehlerrisiko, sie beseitigt es nicht. Deshalb gehört eine regelmäßige Evaluierung mit Testfragen aus dem Fachbereich zum Betrieb – mit dokumentiertem Ergebnis.
Technik ohne Akzeptanz skaliert nicht. Der beste Assistent bleibt ungenutzt, wenn die Belegschaft ihn nicht versteht oder ihm nicht traut. Adoption ist deshalb die vierte Dimension unseres Readiness-Frameworks.
Häufige Fragen
Ist quellengebundene KI dasselbe wie RAG?
RAG ist die Technik, mit der Antworten aus Dokumentpassagen gebildet werden. Quellengebunden ist ein System erst mit Belegpflicht je Aussage, Rechtebindung, Audit-Trail und definiertem Verhalten bei fehlender Quelle.
Kann ein Standard-Copilot quellengebunden konfiguriert werden?
Teilweise. Grounding auf SharePoint und Zitate sind konfigurierbar. Prüfen Sie die vier Kriterien einzeln – insbesondere den Export des Audit-Trails und das Verhalten bei fehlender Quelle.
On-Premise oder Cloud?
Beides ist möglich. Entscheidend ist die Klassifizierung der Dokumente. Für Cloud-Modelle sollte Zero Data Retention plattformseitig zugesagt sein, für On-Premise die Modellpflege geklärt.
Woran scheitert ein Pilot am häufigsten?
Selten an der Technik. Meist an der Freigabe der Dokumente, an ungeklärten Rechten und daran, dass niemand festgelegt hat, wer die Quellen pflegt.
Nächster Schritt: ABD GENIE ist unser quellengebundener Wissensassistent auf internen Dokumenten – mit Dokumentverweis je Aussage, rollenbasierter Zugriffskontrolle und vollständigem Audit-Trail, On-Premise oder in der EU-Cloud. Für einen Pilot mit Ihrem eigenen Dokumentenbestand: office@ai-bd.at.
Kommentare