Halluzination

Was eine Halluzination bei KI ist

Von einer Halluzination spricht man, wenn ein KI-Modell etwas behauptet, das weder in seinen Eingaben noch in der Wirklichkeit eine Grundlage hat, und es dabei genauso überzeugend formuliert wie eine richtige Antwort. OpenAI definiert Halluzinationen knapp als plausible, aber falsche Aussagen von Sprachmodellen.

Das Wort ist ein Bild, kein Befund: Das Modell nimmt nichts wahr und will auch niemanden täuschen. Es erzeugt einen Text, der nicht stimmt, ohne dass es selbst den Unterschied bemerkt. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) nennt Halluzinationen in seiner Publikation „Generative KI-Modelle“ ein großes Problem, weil die Ausgaben meist glaubhaft erscheinen, gerade wenn sie auf wissenschaftliche Publikationen oder andere Referenzen verweisen, die selbst frei erfunden sein können.

Der Bekannte, der auf alles eine Antwort hat

Fast jeder Freundeskreis kennt so jemanden: einen Bekannten, der auf jede Frage eine Antwort weiß: wie viele Menschen in Graz leben, wann der Gotthard-Basistunnel eröffnet wurde, welcher Paragraf das Rücktrittsrecht regelt. Er antwortet sofort, freundlich und im immer gleichen sicheren Ton.

Meistens liegt er richtig, denn er liest viel. Heikel sind die Fälle, in denen er es nicht weiß. „Keine Ahnung“ kommt in seinem Wortschatz nicht vor, also füllt er die Lücke mit etwas, das passen könnte: eine runde Zahl, ein Jahr, das ungefähr hinkommt, eine Studie, an deren Titel er sich angeblich erinnert. Sein Tonfall verrät nicht, welche Antwort sitzt und welche geraten ist.

Mit der Zeit lernt man, mit ihm umzugehen. Für Gesprächsstoff beim Abendessen ist er großartig. Geht es um die Steuererklärung, fragt man lieber nach, woher er das hat, und schaut selbst nach. Genau diese Haltung brauchst du gegenüber einem Chatbot.

Warum Sprachmodelle halluzinieren

1. Wahrscheinlich statt wahr. Ein Sprachmodell berechnet die wahrscheinlichste Fortsetzung eines Textes. Die KI-Servicestelle der österreichischen Regulierungsbehörde RTR bringt es auf den Punkt: Die wahrscheinlichste Antwort muss nicht immer korrekt sein.
2. Seltene Fakten folgen keinem Muster. Rechtschreibung und Grammatik folgen festen Regeln, die ein Modell beim Training zuverlässig lernt. Ein Geburtstag, eine Aktennummer oder der Titel einer bestimmten Doktorarbeit folgen keinem Muster. Laut einer Untersuchung von OpenAI vom September 2025 entstehen gerade bei solchen seltenen, willkürlichen Fakten Halluzinationen.
3. Raten wird belohnt. Viele Tests bewerten Modelle nur danach, wie oft sie richtig liegen. Ein Modell, das rät, sammelt so mehr Punkte als eines, das „weiß ich nicht“ sagt. OpenAI vergleicht das mit einer Multiple-Choice-Prüfung ohne Minuspunkte und sieht darin einen Grund, warum auch fortgeschrittene Modelle weiter halluzinieren.
4. Veraltetes Wissen. Das Training endet an einem Stichtag. Hat ein Modell keinen Zugriff auf aktuelle Daten, erfindet es laut BSI bei Fragen zu aktuellen Themen mitunter Inhalte, die weder in der Eingabe noch in den Trainingsdaten vorkamen.
5. Lücken in der Vorlage. Auch beim Zusammenfassen eines Dokuments kann ein Modell Dinge ergänzen, die dort nicht stehen. Die RTR unterscheidet deshalb zwei Maßstäbe: die Treue gegenüber den bereitgestellten Daten und die Faktizität gegenüber dem realen, überprüfbaren Wissen.

Die Schweizer Behörde BACS fasst den Kern in einem Satz zusammen: Sprachmodelle sind keine Wissensmodelle. Sie erzeugen Texte anhand statistischer Zusammenhänge, die richtig sein können, aber nicht müssen.

Wo Halluzinationen typischerweise auftauchen

Der Punkt Programmcode hat eine Sicherheitsseite. Das BSI beschreibt, wie Angreifende Programmbibliotheken genau unter den Namen veröffentlichen, die ein bestimmtes Modell häufig erfindet. Wer den vorgeschlagenen Namen ungeprüft installiert, holt sich so womöglich Schadsoftware auf den eigenen Rechner. Auch Bildgeneratoren bilden laut BSI mitunter Sachverhalte falsch ab, etwa Körperteile oder Schatten.

Ein Beispiel aus einem kleinen Team

Ein Verein in Graz mit drei Teilzeitkräften bereitet einen Förderantrag vor. Eine Mitarbeiterin bittet einen Chatbot um „drei Studien, die belegen, dass Nachhilfe für Volksschulkinder die Noten verbessert“, mit Quellenangabe. Die Antwort kommt nach Sekunden: drei Titel mit Autorenschaft, Jahr und Zeitschrift, jeweils mit einem Satz zum Ergebnis.

Beim Nachschlagen zeigt sich ein gemischtes Bild. Die erste Studie gibt es genau so. Die zweite existiert, kommt aber zu einem vorsichtigeren Ergebnis als behauptet. Die dritte ist nirgends zu finden, weder in der Bibliothekssuche noch auf der Seite der genannten Zeitschrift.

Hier hilft kein anderer Chatbot, sondern ein anderer Ablauf: die Quellen selbst suchen oder einem Dienst mit Websuche auftragen, nur Studien mit Link zu nennen, und dann jeden Link öffnen. Für den Antrag zählt am Ende, was im Original steht, nicht was die Zusammenfassung verspricht.

Verbreitete Irrtümer

• „Mit Websuche passiert das nicht.“ Websuche und hinterlegte Dokumente (Retrieval Augmented Generation, kurz RAG) grenzen Halluzinationen laut BSI und RTR ein, weil sich das Modell auf konkrete Textstellen stützen kann. Es kann eine Quelle aber falsch wiedergeben oder auf eine unzuverlässige oder manipulierte Seite stoßen.
• „Neue Modelle halluzinieren nicht mehr.“ OpenAI schreibt, Halluzinationen blieben eine grundlegende Herausforderung für alle großen Sprachmodelle, auch wenn neuere Modelle laut Hersteller seltener danebenliegen.
• „Wenn es sicher klingt, stimmt es.“ Der Ton sagt nichts über die Richtigkeit. Das BSI warnt vor Automation Bias, also vor zu großem Vertrauen in überzeugend formulierte Ausgaben.
• „Halluzinationen sind unvermeidbar, also egal.“ Laut OpenAI lassen sie sich verringern, wenn Modelle bei Unsicherheit auf eine Antwort verzichten. Anthropic empfiehlt, dem Modell ausdrücklich zu erlauben, eine Wissenslücke zuzugeben, betont aber, dass auch das Halluzinationen nicht vollständig beseitigt.
• „Ich frage einfach nach, ob es stimmt.“ Das hilft nur mit Belegen, etwa wörtlichen Zitaten aus einem mitgelieferten Dokument. Ein weiterer Hinweis aus der Anthropic-Dokumentation: dieselbe Frage mehrmals stellen. Weichen die Antworten voneinander ab, ist das ein Warnzeichen.

Checkliste: So prüfst du eine KI-Antwort

1. Behauptungen markieren: Welche Teile sind prüfbar? Zahlen, Daten, Namen, Zitate, Paragrafen und Quellen.
2. Quelle verlangen: Gibt es zu jeder wichtigen Behauptung einen Link? Wenn nicht, nachfragen oder selbst suchen.
3. Original lesen: Den Link öffnen und die Stelle suchen. Steht dort wirklich, was die Antwort behauptet?
4. Quelle bewerten: Ist sie verlässlich und unabhängig, also etwa eine Behörde, ein Gesetzestext, ein Hersteller oder eine Fachzeitschrift? Das BSI rät zur Gegenprüfung über zuverlässige, unabhängige Quellen.
5. Land prüfen: Gilt die Aussage für dein Land? Eine deutsche Regel gilt nicht automatisch in Österreich oder der Schweiz.
6. Datum prüfen: Wie alt ist die Quelle, und gilt bei Gesetzen noch dieselbe Fassung?
7. Gegenprobe machen: Bei Wichtigem dieselbe Frage neu oder einem zweiten Dienst stellen und vergleichen.

Wenn die KI Falsches über dich behauptet

Erfindet ein Chatbot etwas über eine reale Person, etwa über dich, ist das mehr als ein Ärgernis. Die Rechtslage hängt vom Land ab:

• Deutschland und Österreich: Nach Art. 16 DSGVO kannst du vom Verantwortlichen verlangen, unrichtige personenbezogene Daten über dich unverzüglich zu berichtigen. Die deutschen Datenschutzaufsichtsbehörden halten fest, dass dieses Recht auch beim Einsatz von KI umsetzbar sein muss.
• Schweiz: Nach Art. 32 Abs. 1 DSG kann eine betroffene Person verlangen, dass unrichtige Personendaten berichtigt werden, mit wenigen gesetzlichen Ausnahmen.

Google bietet für Gemini einen eigenen Weg an: über das Dreipunkt-Menü unter der Antwort und „Rechtliches Problem melden“. Im Privacy Hub für Gemini-Apps schreibt Google selbst, dass Gemini halluzinieren und fehlerhafte Informationen als Fakten präsentieren kann. Bei anderen Anbietern steht der Weg in der jeweiligen Datenschutzerklärung.

Noch ein Hinweis zum Datenschutz beim Prüfen: Wer eine fragwürdige Antwort mit Daumen runter bewertet, gibt bei ChatGPT, Claude und Gemini das zugehörige Gespräch an den Anbieter zur Auswertung. Stehen darin vertrauliche Angaben, verzichtest du besser auf die Bewertung.

Was du jetzt tun kannst

1. Nimm die letzte KI-Antwort, die du weitergegeben hast, und prüfe zwei Fakten daraus mit der Checkliste.
2. Ergänze deine Aufträge an den Chatbot um den Satz: „Wenn du etwas nicht sicher weißt, sag das, statt zu raten.“
3. Lass dir Quellen immer mit Link geben und öffne mindestens die, auf die es ankommt.
4. Schlag Gesetze und Fristen im offiziellen Text nach: gesetze-im-internet.de für Deutschland, das RIS für Österreich, Fedlex für die Schweiz.
5. Installiere Software oder Programmbibliotheken, die ein Chatbot vorschlägt, erst nach einem Blick in die offizielle Dokumentation.

Weiter im Glossar

Woher die Neigung zum Erfinden kommt, erklärt der Eintrag dazu, wie ein Sprachmodell Antworten berechnet. Wie du Aufträge so formulierst, dass seltener etwas erfunden wird, zeigt der Eintrag darüber, wie du gute Prompts schreibst. Warum auch Bild- und Videogeneratoren danebenliegen können, steht im Eintrag zur generativen KI für Text und Bild.