KI-Halluzinationen: Warum Modelle Dinge erfinden und wie du sie erkennst
Kurz gesagt: Eine Halluzination ist eine selbstbewusste, plausible, aber erfundene KI-Antwort. Es ist kein Fehler – es ist die Funktionsweise der Technologie: Das Modell sagt eine wahrscheinliche Textfortsetzung voraus, und wenn es die Antwort nicht kennt, sieht die „wahrscheinliche Fortsetzung“ immer noch wie eine echte Antwort aus. Abwehr: Überprüfe, was wichtig ist, gib dem Modell Quellen, aktiviere die Websuche.
Warum Modelle Dinge erfinden
Ein Sprachmodell „schlägt keine Antworten in einer Datenbank nach“ – es generiert Text Token für Token und wählt die wahrscheinlichste Fortsetzung. Es hat keine eingebaute „Ich weiß es nicht“-Markierung: Wenn die Fakten ausgehen, wird statistisch wahrscheinlicher Text trotzdem produziert – mit Daten, Namen und einem selbstbewussten Ton.
Wo das Risiko am größten ist
- Links und Quellen – Modelle erfinden leicht plausible URLs und Titel von Fachartikeln
- Genaue Zahlen, Daten, Zitate
- Weniger bekannte Personen und Ereignisse – wenig Daten, viel Fantasie
- Rechtliche und medizinische Details – wo Fehler am teuersten sind
4 Abwehrtechniken
- Überprüfe, was wichtig ist. Jede Zahl, jedes Zitat oder jeder Link, von dem etwas abhängt – öffne die Originalquelle.
- Erlaube Unsicherheit. Füge „wenn unsicher – sag es“ zu deinem Prompt hinzu. Das reduziert nachweislich Falschinformationen.
- Stelle Material bereit. Ein Modell mit einem Dokument antwortet aus dem Dokument, nicht aus dem Gedächtnis.
- Aktiviere die Websuche – Antworten, die auf gefundenen Seiten basieren, können über deren Links überprüft werden.
Das Wichtigste, was du dir merken solltest
Plausible Details sind kein Beweis. Ein selbstbewusster Ton ist kein Beweis. Der einzige Beweis ist die Originalquelle, die du selbst geöffnet hast.
Verwandte Themen
Die Hälfte der Halluzinationsabwehr ist eine gut formulierte Anfrage: Wie du dem Modell Material gibst und es Unsicherheit zugeben lässt, wird in was ein Prompt ist und wie man einen schreibt behandelt. Wenn du gerade erst anfängst, beginne mit dem Anfängerleitfaden für ChatGPT. Und welche Daten überhaupt sicher sind, um sie einem Modell anzuvertrauen, erfährst du in unserem Artikel über Datenschutz bei der Arbeit mit KI.
FAQ
Werden Halluzinationen jemals verschwinden?
Modelle werden genauer, und Suche plus Grounding reduzieren das Risiko – aber die generative Natur von LLMs macht Falschinformationen von Natur aus möglich. Verifizierung bleibt eine Kernkompetenz.
Was ist eine KI-Halluzination einfach erklärt?
Eine KI-Halluzination: selbstbewusst, plausibel, aber erfunden. Das Modell nennt nicht existierende Fakten, Links oder Zitate. Nur durch Überprüfung erkennst du den Unterschied zur Wahrheit.
Woran erkennst du, dass die KI gerade etwas erfindet?
Es gibt kein zuverlässiges äußeres Zeichen – das ist die Gefahr. Indirekte Signale: sehr präzise Zahlen ohne Quelle, Links, die sich nicht öffnen, Details über wenig bekannte Personen. Überprüfe jedes kritische Detail anhand der Originalquelle.
Warum sagt das Modell nicht einfach „Ich weiß es nicht“?
Weil es keine Antwort in einer Datenbank nachschlägt – es vervollständigt die wahrscheinlichste Textfortsetzung. Es hat keine eingebaute „unbekannt“-Markierung. Aber du kannst fragen: Füge „wenn unsicher, sag es“ zu deinem Prompt hinzu, und Falschinformationen nehmen ab.
Beseitigt die Websuche Falschinformationen vollständig?
Nicht vollständig, aber es senkt das Risiko merklich: Die Antwort basiert auf gefundenen Seiten, die du über deren Links überprüfen kannst. Der Schlüssel ist, die Quelle selbst zu öffnen, anstatt der Nacherzählung des Modells zu vertrauen.
Wo sind Halluzinationen besonders gefährlich?
Wo die Fehlerkosten hoch sind: rechtliche und medizinische Details, Finanzberechnungen, genaue Zitate und Links, Fakten über bestimmte Personen. In diesen Bereichen ist KI ein Entwurf und ein Assistent, nicht das letzte Wort.
Wie hängen Halluzinationen mit der Prompt-Qualität zusammen?
Direkt. Gib dem Modell ein Quelldokument und bitte es, nur daraus zu antworten, und der Spielraum für Erfindungen schrumpft. Wie du solche Anfragen erstellst, steht in unserem Prompt-Artikel.