Das Problem
Das Strategiewissen des Unternehmens steckte in rund 300 verschiedenen PDF-Dokumenten. Inhaltlich sauber dokumentiert, aber praktisch schwer zugänglich. Wer eine Antwort brauchte, musste zuerst wissen, in welchem Dokument diese zu finden ist, dann den Inhalt verinnerlichen ggf. mit anderen Quellen abgleichen und kompakt wiedergeben.
Erfahrene Mitarbeitende hatten diese Landkarte im Kopf. Neue nicht. Eine Volltextsuche half nur begrenzt, weil sie Wörter findet und keine Antworten.
Was das Unternehmen brauchte
Zugang zum eigenen Wissen in Alltagssprache: eine zuverlässige Antwort auf eine Frage erhalten, ohne vorher die Dokumentenstruktur zu kennen.
Ebenso wichtig war die Nachprüfbarkeit. In der Beratung zählt, worauf sich eine Aussage stützt. Eine Antwort ohne Quelle ist wertlos, ein Chatbot, der plausibel klingende Inhalte erfindet, ist ein Risiko.
Die Lösung
Ein RAG-basierter KI-Chatbot. Die Dokumente werden über eine NLP-Pipeline zerlegt, aufbereitet und in einer Vektordatenbank abgelegt. Eine Frage in natürlicher Sprache findet die passenden Stellen aus den Originaldokumenten, das KI-Sprachmodell formuliert die Antwort ausschließlich aus diesem Material und gibt die Quelle mit an.
Bereitgestellt als Backendservice, zur einfachen Integration in bestehende Systeme. So kann der Chatbot in die interne Wissensplattform, das Intranet oder die eigene Webapp eingebunden werden.
Halluzinationen wurden durch umfassende Tests (Validierung) und die strikte Trennung von Originaldokumenten und KI-Sprachmodell vermieden.
Das Ergebnis
Wissen ist in Sekunden abrufbar und auch wer die Dokumentenlandschaft nicht kennt, kommt in kurzer Zeit zu einer belastbaren Antwort.
Jede Aussage verweist auf ihre Quelle im Originaldokument und ist damit nachvollziehbar. Keine Halluzinationen also keine freien Erfindungen des Chatbots.
