PIPELINEGlossar · KI und Automatisierung
Was ist eine KI-Halluzination?
Als Halluzination bezeichnet man eine Antwort, die ein Sprachmodell überzeugend formuliert, die aber sachlich falsch oder frei erfunden ist. Der Grund ist die Funktionsweise: Das Modell sagt das wahrscheinlichste nächste Wort voraus, es prüft keine Fakten.
01 — Einordnung
Halluzination im Detail
Halluzinationen entstehen typischerweise dort, wo im Trainingsmaterial wenig oder widersprüchliche Information vorlag — bei Nischenwissen, aktuellen Ereignissen, konkreten Zahlen oder Eigennamen. Besonders tückisch ist, dass der Tonfall identisch bleibt: Eine erfundene Antwort klingt genauso sicher wie eine richtige.
Im Betrieb lässt sich das Risiko stark begrenzen. Drei Maßnahmen wirken: das Modell ausschließlich aus geprüften Inhalten antworten lassen, ihm ausdrücklich erlauben, „weiß ich nicht" zu sagen, und bei allem mit rechtlicher oder finanzieller Tragweite eine menschliche Kontrolle vorsehen.
02 — Praxis
Was das für kleine Betriebe bedeutet
Für den Einsatz im Kundenkontakt ist das die entscheidende Konfigurationsfrage. Ein Bot, der bei Unsicherheit weiterleitet, ist nützlich; einer, der Öffnungszeiten oder Preise erfindet, richtet mehr Schaden an, als er Arbeit spart.
03 — Fragen
Häufige Fragen
Lässt sich das komplett abstellen?
Vollständig nicht, aber praktisch weitgehend. Mit Quellenbindung und der Erlaubnis, nichts zu sagen, sinkt die Rate auf ein Niveau, das für den Kundenkontakt tragfähig ist.
Woran erkennt man eine Halluzination?
Am häufigsten an erfundenen Details: Zahlen, Namen, Fristen oder Quellenangaben, die es nicht gibt. Deshalb ist die Quellenangabe im Bot so wertvoll — sie ist nachprüfbar.
04 — Weiter
Passende Begriffe und Leistungen
- RAG (Retrieval Augmented Generation)
- Prompt
- Automatisierung
- Sprachmodell (LLM)
- Wissensbasis
- EU AI Act
- Core Web Vitals
- AI Overview
- Webhook
- Alle Begriffe
Dazu passende Leistungen
Nächster Schritt
Wir schauen uns eure Ausgangslage an.
Erzählt uns, was heute Zeit frisst. Daraus entsteht eine Einschätzung mit Aufwand und Nutzen — und erst danach ein Angebot.