Glossar · KI und Automatisierung

Was ist RAG?

RAG bedeutet, dass ein Sprachmodell vor dem Antworten in einer festgelegten Dokumentensammlung nachschlägt und nur auf Basis der gefundenen Stellen antwortet. Damit stammt die Antwort aus geprüften eigenen Inhalten statt aus dem allgemeinen Trainingswissen — und die Quelle lässt sich mitliefern.

Stand 2026Kurz erklärt

01 — Einordnung

RAG (Retrieval Augmented Generation) im Detail

Der Ablauf hat zwei Schritte. Zuerst wird die Frage benutzt, um in der eigenen Wissensbasis die passenden Textstellen zu finden. Danach bekommt das Sprachmodell genau diese Stellen mitgeliefert und die Anweisung, ausschließlich daraus zu antworten.

Das löst das Kernproblem freier Sprachmodelle: Sie erfinden plausibel klingende Antworten, wenn sie etwas nicht wissen. Mit RAG ist die richtige Antwort auf eine unbekannte Frage nicht eine erfundene, sondern ein ehrliches „dazu finde ich nichts" mit Verweis an einen Menschen.

02 — Praxis

Was das für kleine Betriebe bedeutet

Einordnung

Für Unternehmen ist RAG der Grund, warum ein Website-Chatbot überhaupt verlässlich sein kann. Die Qualität hängt dann nicht mehr am Modell, sondern an der Wissensbasis — also daran, wie vollständig und aktuell die eigenen Unterlagen sind.

03 — Fragen

Häufige Fragen

Braucht RAG besonders viele Daten?

Nein, eher gut strukturierte als viele. Eine gepflegte FAQ, aktuelle Leistungsbeschreibungen und ein paar Beispieldokumente reichen für den Anfang meist aus.

Werden unsere Dokumente damit Teil des Modells?

Nein. Sie bleiben in einer separaten Ablage und werden nur zur Laufzeit mitgeliefert. Ein Training mit euren Daten findet dabei nicht statt.

Nächster Schritt

Reden wir kurz darüber, ob sich das bei euch rechnet.

Ein Gespräch von zwanzig Minuten reicht meistens, um zu klären, ob ein Projekt Sinn hat. Wenn nicht, sagen wir das — das ist billiger für beide Seiten als ein Angebot, das niemand braucht.