Was ist eine KI-Halluzination?
Bei einer Halluzination erzeugt ein generatives Modell eine Aussage, die nicht durch verlässliche Informationen gedeckt ist. Das kann ein erfundener Name, ein falsches Datum, eine nicht existente Quelle oder eine verdrehte Zusammenfassung sein. Die Formulierung klingt oft sicher, weil ein LLM sprachlich passende Fortsetzungen berechnet. Es besitzt dabei keinen eingebauten Mechanismus, der jede Aussage vor der Ausgabe als wahr bestätigt.
Eine Halluzination ist keine absichtliche Lüge. Dem Modell fehlen Absicht und menschliches Wahrheitsverständnis. Fehler entstehen unter anderem bei fehlendem Kontext, mehrdeutigen Fragen, lückenhaften Trainingsdaten oder ungeeigneten Quellen. Gegenmaßnahmen hängen vom Einsatz ab: klare Eingaben, begrenzte Aufgaben, strukturierte Ausgaben, Quellenabruf mit RAG, Validierungsregeln und menschliche Prüfung. Keine einzelne Maßnahme beseitigt das Problem vollständig. Je höher die Folgen einer falschen Aussage, desto weniger darf bloße sprachliche Plausibilität als Freigabekriterium gelten.
Halluzination im Klartext
So gehst du mit Halluzinationen um
Häufige Fragen
Warum halluzinieren Sprachmodelle?
Sprachmodelle erzeugen Ausgaben anhand statistischer Muster im verfügbaren Kontext. Ihr Grundmechanismus prüft nicht automatisch, ob jede Behauptung wahr oder belegt ist. Fehlen passende Informationen, sind Eingaben mehrdeutig oder enthalten Quellen Widersprüche, kann das Modell eine sprachlich passende Lücke füllen. Das Ergebnis wirkt überzeugend, obwohl seine Grundlage nicht trägt.
Ist eine KI-Halluzination eine Lüge?
Nein. Eine Lüge setzt voraus, dass jemand die Wahrheit kennt und bewusst täuschen will. Ein Sprachmodell hat keine solche Absicht. Der Begriff Halluzination bezeichnet das fehlerhafte Ergebnis, nicht ein Motiv. Für Nutzerinnen und Nutzer bleibt die Wirkung dennoch relevant: Eine erfundene Quelle oder falsche Anweisung kann Schaden verursachen, auch wenn keine Täuschungsabsicht vorliegt.
Wie lassen sich Halluzinationen reduzieren?
Hilfreich sind eng begrenzte Aufgaben, verlässlicher Kontext, Quellenabruf, klare Ausgabeformate und Prüfregeln für Daten wie IDs oder Beträge. Das System sollte Unsicherheit zeigen und ohne ausreichende Evidenz stoppen dürfen. Bei folgenreichen Aussagen ist eine fachkundige Freigabe nötig. Welche Kombination wirkt, muss mit repräsentativen Fällen für die konkrete Anwendung getestet werden.
Kann RAG Halluzinationen vollständig verhindern?
Nein. RAG kann verlässliche Informationen in den Kontext holen und dadurch unbelegte Antworten verringern. Es kann aber falsche Dokumente abrufen, wichtige Passagen übersehen oder vom Modell ungenau zusammengefasst werden. Prüfe deshalb nicht nur, ob eine Quelle angezeigt wird, sondern ob sie die konkrete Aussage tatsächlich belegt und aktuell ist.