PIPELINEKI-Wissen
RAG einfach erklärt: warum KI-Antworten eine Quelle brauchen
Die Technik hinter Chatbots, die nichts erfinden, sondern ehrlich sagen, wenn sie etwas nicht wissen. Ohne Fachjargon erklärt.
Ein Sprachmodell antwortet aus dem, was es beim Training gesehen hat. Über euren Betrieb weiß es nichts — und wenn es gefragt wird, formuliert es trotzdem eine plausible Antwort. Das ist die Ursache erfundener Auskünfte.
01
Das Problem
Ein Sprachmodell antwortet aus dem, was es beim Training gesehen hat. Über euren Betrieb weiß es nichts — und wenn es gefragt wird, formuliert es trotzdem eine plausible Antwort. Das ist die Ursache erfundener Auskünfte.
02
Die Lösung
Bevor das Modell antwortet, wird in euren Dokumenten gesucht. Die gefundenen Stellen werden ihm mitgegeben, und die Anweisung lautet: Antworte nur daraus. Findest du nichts, sag das. Diese Kombination heißt retrieval-augmented generation.
03
Warum das den Unterschied macht
Die Antwort hat eine Quelle, die man nachlesen kann. Änderungen an den Dokumenten wirken sofort, ohne dass etwas neu trainiert werden muss. Und die Grenze des Wissens ist definiert statt unsichtbar.
04
Woran es scheitert
Nicht an der Technik, sondern an der Dokumentenlage. Wenn drei Versionen einer Preisliste kursieren, findet das System alle drei. Widersprüche im Bestand werden sichtbar — was unangenehm und nützlich zugleich ist.
05
Wie sich die Qualität der Antworten prüfen lässt
Man testet mit einer festen Liste echter Fragen aus dem Betrieb, deren richtige Antwort man vorher kennt, und vergleicht sie mit dem, was das System liefert. Diese Liste wird nach jeder größeren Änderung an der Wissensbasis erneut durchlaufen — nur so merkt man, ob eine Anpassung tatsächlich geholfen hat oder nur woanders neue Lücken aufgerissen hat.
Fragen
Häufige Fragen
Muss man RAG selbst programmieren?
Nein, die gängigen Chatbot- und Wissensdatenbank-Werkzeuge bringen das bereits mit. Was Aufwand macht, ist nicht die Technik, sondern die Aufbereitung der eigenen Dokumente — Struktur, Aktualität, Rechte.
Was, wenn die Dokumente widersprüchlich sind?
Dann liefert das System widersprüchliche Antworten oder zeigt beide Varianten mit Quelle — was unangenehm ist, aber ehrlich. Die Lösung liegt nicht in der Technik, sondern darin, vorher zu klären, welche Version gilt.
Funktioniert das auch mit wenigen Dokumenten?
Ja, RAG funktioniert auch mit einer Handvoll gut gepflegter Seiten. Die Qualität hängt nicht an der Menge, sondern daran, ob die Antwort auf eine Frage tatsächlich irgendwo im Bestand steht.
Ist das dasselbe wie Fine-Tuning?
Nein. Fine-Tuning verändert das Modell selbst und ist aufwendig sowie schwer nachvollziehbar. RAG lässt das Modell unverändert und reicht ihm bei jeder Anfrage die passenden Dokumente — deshalb lässt sich die Wissensbasis jederzeit ändern, ohne neu zu trainieren.
Merkt man RAG dem Chatbot im Gespräch überhaupt an?
Nein, aus Nutzersicht wirkt es wie ein gut informiertes Gegenüber. Der Unterschied zeigt sich erst, wenn man nach etwas fragt, das nicht in den Dokumenten steht — dann antwortet ein RAG-System ehrlich statt zu raten.
Nächster Schritt
Schickt uns ein paar Sätze zu eurem Vorhaben.
Wir lesen jede Anfrage selbst und melden uns persönlich zurück. Kein Vertriebsteam, kein Rückrufformular in die Leere.