KI-Halluzination
Kurz erklärt
Eine KI-Halluzination ist eine von einem KI-Sprachmodell erzeugte Aussage, die faktisch falsch oder frei erfunden ist, aber überzeugend und faktenähnlich klingt. Ursache ist, dass das Modell das wahrscheinlichste nächste Wort vorhersagt und Fakten nicht überprüft.
Was ist eine KI-Halluzination?
In der künstlichen Intelligenz bezeichnet eine Halluzination eine von einem KI-System erzeugte Antwort, die falsche oder irreführende Informationen als Tatsache darstellt. Der Begriff ist eine lose Analogie zur menschlichen Wahrnehmung, obwohl Sprachmodelle weder Sinneseindrücke noch ein Bewusstsein besitzen. Typisch ist, dass die erfundene Aussage sprachlich flüssig, plausibel und selbstsicher formuliert ist – etwa ein frei erfundenes Zitat, eine nicht existierende Quelle oder eine falsche Jahreszahl. Bekannt wurden Fälle, in denen Chatbots wissenschaftliche Literaturangaben oder Gerichtsurteile frei erfanden; der Support-Chatbot der Fluggesellschaft Air Canada nannte einmal eine Rückerstattungsregel, die es gar nicht gab.
Warum halluzinieren Sprachmodelle?
Große Sprachmodelle (LLMs) werden darauf trainiert, das jeweils wahrscheinlichste nächste Wort vorherzusagen. Sie besitzen kein internes Faktenmodell und keinen Wahrheitsbegriff, sondern setzen Texte fort, die statistisch zu ihren Trainingsdaten passen. Fehlt konkretes Wissen, „raten" die Modelle dennoch eine plausible Fortsetzung, statt Unsicherheit einzuräumen. Forschende von OpenAI führen Halluzinationen unter anderem darauf zurück, dass Training und Bewertung von LLMs das Raten belohnen und das Eingestehen von Nichtwissen bestrafen. In der Praxis besitzt ein Modell kein verlässliches Signal dafür, was es nicht weiß, und liefert daher auf nahezu jede Eingabe eine Antwort.
Ist „Konfabulation" der treffendere Begriff?
Kritiker halten „Halluzination" für irreführend, weil der Begriff sinnliche Wahrnehmung suggeriert. Häufig wird stattdessen der aus der Psychiatrie stammende Begriff Konfabulation (englisch confabulation) vorgeschlagen: das Erzeugen erfundener, aber nicht als falsch erkannter Details. Er beschreibt besser, dass die Fehler aus Lücken in der Informationswiedergabe entstehen und nicht aus einer falschen Wahrnehmung.
Wie lässt sich das Risiko verringern?
Halluzinationen lassen sich nicht vollständig ausschließen, aber eindämmen. Ein verbreiteter Ansatz ist Retrieval-Augmented Generation (RAG): Das Modell erhält geprüfte Quelltexte und stützt seine Antwort darauf. Weitere Maßnahmen sind das Zitieren von Belegstellen, präzise Prompts, das Anfordern von Quellenangaben sowie das eigenständige Nachprüfen wichtiger Fakten. Auch das Aufteilen einer Aufgabe in kleinere, überprüfbare Schritte und das Gegenprüfen mit einer zweiten Quelle senken die Fehlerquote. Gerade beim Lernen gilt: KI-Ausgaben sind ein Ausgangspunkt, keine gesicherte Quelle. Faktenkritik bleibt Aufgabe des Menschen.