Dokumente mit KI durchsuchen: wie Antworten mit Fundstelle entstehen

Wer schon einmal in einem 40-seitigen Rahmenvertrag die Kündigungsfrist gesucht hat, kennt das Problem: Die Information ist da, aber sie steckt irgendwo zwischen Paragraf 9 und Anlage 3. Die Idee, Dokumente mit KI durchsuchen zu lassen, klingt deshalb verlockend. Man stellt eine Frage in normaler Sprache und bekommt eine Antwort.

Entscheidend ist dabei nicht, ob eine Antwort kommt, sondern ob man ihr trauen kann. Dieser Beitrag richtet sich an Geschäftsführung, Vertrieb, Verwaltung und Service in kleinen und mittleren Unternehmen. Er erklärt ohne Fachchinesisch, wie ein Assistent Antworten aus Verträgen und Handbüchern bildet, warum die Fundstelle das wichtigste Merkmal ist und was Sie bei vertraulichen Unterlagen vorab regeln sollten.

Dokumente mit KI durchsuchen: so funktioniert es technisch

Ein Sprachmodell, also eine KI, die Texte versteht und formuliert, kennt Ihre Verträge nicht. Es muss die passenden Textstellen für jede Frage erst bekommen. Deshalb arbeiten Dokumentenassistenten fast immer in drei Schritten.

1. Aufbereiten: Die Dokumente werden in kleine Abschnitte zerlegt, etwa Absätze oder Paragrafen. Jeder Abschnitt behält einen Verweis auf Dokument, Seite und Überschrift.
2. Suchen: Zu einer Frage sucht das System die Abschnitte heraus, die inhaltlich am besten passen. Moderne Verfahren vergleichen dabei die Bedeutung, nicht nur einzelne Wörter. Die Frage „Wie lange vorher muss ich kündigen?“ findet so auch einen Absatz, in dem „Kündigungsfrist“ steht.
3. Antworten: Erst jetzt kommt das Sprachmodell ins Spiel. Es erhält die gefundenen Abschnitte und formuliert daraus eine Antwort, zusammen mit den Verweisen auf die verwendeten Stellen.

Fachleute nennen dieses Vorgehen „Retrieval Augmented Generation“, kurz RAG: Die Antwort wird durch vorher gefundene Textstellen gestützt. Der Vorteil liegt auf der Hand. Das Modell soll nicht aus seinem allgemeinen Wissen antworten, sondern aus Ihren Unterlagen. Ganz ausschließen lässt sich ein Fehler trotzdem nicht.

Warum die Fundstelle wichtiger ist als die Antwort

Sprachmodelle formulieren flüssig, auch wenn sie danebenliegen. Eine Frist kann falsch übernommen, eine Ausnahme übersehen oder zwei Klauseln können vermischt werden. Ich halte deshalb einen Grundsatz für unverzichtbar: Jede Antwort muss zeigen, woher sie stammt.

Gut gemacht heißt das, dass ein Klick auf den Verweis den zitierten Satz im Originaldokument hervorhebt. Wer die Antwort nutzt, sieht in Sekunden, ob sie stimmt. Fehlt eine passende Stelle, sollte der Assistent das offen sagen oder nachfragen, statt eine plausible Vermutung zu liefern.

In der Live-Demo des Dokumentenassistenten können Sie genau das ausprobieren: Fragen an drei erfundene Beispieldokumente stellen und sich die Fundstelle markieren lassen. Die Demo läuft bewusst im gekennzeichneten Demo-Modus ohne KI. Statt eines Sprachmodells sucht eine lokale Suche im Browser die passenden Sätze heraus, die Zusammenfassung ist ein Auszug wichtiger Sätze, und die Extraktion von Fristen oder Beträgen arbeitet mit festen Mustern. Ein Sprachmodell kommt erst hinzu, wenn es in einem konkreten Vorhaben angebunden wird. Gerade dadurch wird sichtbar, wie viel schon die Suche mit Fundstelle leistet.

Welche Dokumente sich eignen und welche nicht

Am besten funktionieren Unterlagen mit klarem Aufbau und echtem Text: Verträge mit nummerierten Paragrafen, Bedienungsanleitungen, Datenblätter, Hausordnungen oder interne Arbeitsanweisungen. Schwieriger sind eingescannte Seiten ohne Texterkennung, Tabellen mit vielen Zahlen, handschriftliche Notizen und Dokumente, deren Fassungen sich widersprechen.

Ein Beispiel zur Veranschaulichung: Ein Handwerksbetrieb möchte seine Wartungsverträge und Herstellerunterlagen befragbar machen. Liegen drei Versionen desselben Vertrags im Ordner, wird der Assistent womöglich aus der veralteten zitieren. Bevor irgendetwas technisch passiert, lohnt sich deshalb Aufräumarbeit: gültige Fassungen bestimmen, Altstände archivieren, Dateinamen vereinheitlichen.

Vertrauliche Dokumente und Auftragsverarbeitung

Verträge, Personalunterlagen oder Angebote enthalten oft Geschäftsgeheimnisse und personenbezogene Daten. Bevor sie in einen Assistenten wandern, sollten vier Fragen geklärt sein.

• Wo wird verarbeitet? Auf eigenen Servern, in einer abgesicherten Cloud-Umgebung oder bei einem externen KI-Anbieter? Davon hängt ab, wer die Inhalte technisch zu sehen bekommt.
• Wer ist Dienstleister, und gibt es einen Vertrag? Verarbeitet ein externer Anbieter personenbezogene Daten in Ihrem Auftrag, regelt die DSGVO das als Auftragsverarbeitung (Art. 28 DSGVO). Dazu gehört ein entsprechender Vertrag. Ob und in welcher Form das im Einzelfall nötig ist, sollte Ihre Datenschutzberatung bewerten.
• Wer darf was sehen? Ein Assistent darf nicht mehr preisgeben, als die fragende Person ohnehin lesen dürfte. Die Rechte aus Ihrer Ablage müssen sich also im Assistenten wiederfinden.
• Wann wird gelöscht? Legen Sie fest, wie lange Dokumente, Fragen und Antworten gespeichert bleiben, und ob Protokolle überhaupt nötig sind.

Ich empfehle, mit wenigen, klar abgegrenzten Dokumenten zu beginnen, statt das gesamte Laufwerk anzubinden. Was nicht angebunden ist, kann auch nicht versehentlich in einer Antwort auftauchen. Wer Dokumente in einem Intranet oder einem Kundenportal bereitstellt, kann dort bestehende Rollen und Rechte nutzen.

Für die Transparenz gilt zusätzlich: Seit dem 2. August 2026 verlangt Art. 50 Abs. 1 der KI-Verordnung, dass Menschen erkennen können, wenn sie mit einem KI-System interagieren, sofern das nicht ohnehin offensichtlich ist. Ein klarer Hinweis im Assistenten ist ohnehin gute Praxis.

Wo Menschen prüfen müssen

Ein Dokumentenassistent findet und fasst zusammen. Er entscheidet nicht. Ob eine Kündigung fristgerecht ist, ob eine Gewährleistung greift oder ob eine Wartung fällig ist, bleibt eine Entscheidung von Menschen, die das Original lesen und die Verantwortung tragen.

Praktisch heißt das: Bei allem, was Geld, Fristen oder Rechte berührt, ist der Blick in die Fundstelle Pflichtprogramm, nicht Kür. Hilfreich ist eine kurze Regel im Team, welche Antworten ungeprüft genutzt werden dürfen, etwa die Seitenzahl im Handbuch, und welche nicht. Wie man solche Kontrollpunkte sinnvoll gestaltet, ohne dass sie zum reinen Abhaken werden, beschreibe ich im Beitrag zur menschlichen Aufsicht bei KI.

Ein Dokumentenassistent ist übrigens kein Chatbot für die Website-Besucher. Ein KI-Chatbot beantwortet öffentliche Fragen aus freigegebenen Inhalten, der Dokumentenassistent arbeitet meist intern mit sensibleren Unterlagen. Technisch sind beide verwandt, die Anforderungen an Zugriff und Vertraulichkeit unterscheiden sich deutlich.

Was Sie jetzt tun können

1. Fragen sammeln: Notieren Sie zwei Wochen lang, wonach Ihr Team in Dokumenten sucht. Das zeigt, ob sich ein Assistent lohnt.
2. Dokumente auswählen: Beginnen Sie mit einer überschaubaren Gruppe, zum Beispiel Handbüchern oder Standardverträgen, und klären Sie die gültigen Fassungen.
3. Vertraulichkeit festlegen: Verarbeitungsort, Dienstleister, Rechte und Löschfristen schriftlich klären, bei Bedarf mit Ihrer Datenschutzberatung.
4. Prüfregeln vereinbaren: Bestimmen Sie, welche Antworten immer im Original nachgelesen werden.
5. Demo ausprobieren: Testen Sie im Digital Experience Lab, wie sich Antworten mit Fundstelle anfühlen. Einen Überblick über alle Demos gibt die Ankündigung des Labs.

Fazit

Dokumente mit KI durchsuchen spart vor allem dort Zeit, wo dieselben Fragen immer wieder in denselben Unterlagen beantwortet werden. Der Wert eines solchen Assistenten steht und fällt mit der Fundstelle: Sie macht jede Antwort überprüfbar und hält die Verantwortung dort, wo sie hingehört. Wer vorab klärt, welche Dokumente angebunden werden, wo sie verarbeitet werden und wer prüft, bekommt ein Werkzeug, das Wissen zugänglich macht, ohne neue Risiken zu verstecken.

Quellen

• Artikel 50: Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme, AI Act Service Desk der Europäischen Kommission (konsolidierte Fassung)
• Regulatory framework for AI, Europäische Kommission
• Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), EUR-Lex