Grenzen und Halluzinationen: Was du nicht glauben solltest

Du hast gesehen, wie flüssig eine KI antwortet. Jetzt zur Kehrseite: manchmal erfindet sie Dinge genauso flüssig. Das zu wissen, ist kein Grund, sie nicht mehr zu nutzen – es ist die Voraussetzung, um sie erwachsen einzusetzen.

Was eine Halluzination ist

Eine Halluzination ist eine selbstbewusste, glatt formulierte, aber falsche Antwort: ein erfundenes Zitat, ein Link ins Leere, ein verdrehtes Datum, eine erfundene Tatsache. Das Tückische daran ist, dass es genauso überzeugend klingt wie die Wahrheit – ohne Zögern, ohne Einschränkungen. Das ist eine gemeinsame Eigenschaft aller drei Modelle, keine Krankheit eines einzelnen Modells.

Warum sie so selbstbewusst lügt

Eine KI „weiß“ keine Fakten wie ein Nachschlagewerk – sie prognostiziert eine plausible Fortsetzung von Text. Meistens stimmt plausibel mit wahr überein, aber wo die Datenlage dünn war, vervollständigt das Modell trotzdem einen flüssigen Satz – nur ist er dann falsch. Sie hat kein internes „Ich bin mir nicht sicher“, bis du danach fragst. Daher die Regel: Ein selbstbewusster Ton ist kein Beweis für Richtigkeit.

Der Wissens-Cutoff: Warum sie „nichts über gestern weiß“

Jedes Modell hat einen Wissens-Cutoff – den Zeitpunkt, bis zu dem es die Texte der Welt gesehen hat. Alles, was danach geschah, weiß es nicht von selbst und kann es erfinden. Genau deshalb sollte ein Allrounder ohne Suchzugriff nicht „Was kostet X heute?“ oder „Wer hat gestern Abend gewonnen?“ beantworten – das ist ein Job für Gemini oder Perplexity mit aktueller Suche (erinnere dich an die Tabelle „Aufgabe → KI“).

Wo alle drei gleich versagen

• Genaue Zahlen und Daten – Statistiken, Quoten, Jahreszahlen: Sie mögen es „ungefähr richtig“.
• Links und Zitate – sie können eine plausible Quelle erfinden, die nicht existiert.
• Recht und Medizin – es klingt autoritär, aber die Verantwortung liegt bei dir; das sind Themen für menschliche Spezialisten.
• Aktuelle Ereignisse – alles nach dem Wissens-Cutoff, ohne Suche.
• Komplexe Kopfrechnungen – lange Berechnungen fragst du besser Schritt für Schritt ab oder machst sie mit einem Taschenrechner.

Der Fall des Anwalts, der blind vertraute

Juni 2023, New York. Anwalt Steven Schwartz bereitet eine Klageschrift vor und bittet ChatGPT, Präzedenzfälle zu finden. Das Modell liefert sechs Fälle mit Zahlen und Zitaten – elegant und überzeugend. Schwartz nimmt sie in ein Gerichtsdokument auf. Das Problem: Keiner der sechs Fälle existiert – ChatGPT hat sie erfunden. Der Richter verhängt eine Geldstrafe, und die Geschichte macht weltweit Schlagzeilen. Eine Lektion, die Tausende von Dollar und einen Ruf kostete: KI ist ein Entwurf, keine Quelle der Wahrheit. Das Überprüfen ist Aufgabe des Menschen.

Wo Halluzinationen kaum eine Rolle spielen

Es ist wichtig, nicht ins andere Extrem zu verfallen – „wenn sie lügt, kann man nichts trauen“. Es gibt einen großen Bereich, in dem Erfindungen kaum Schaden anrichten: Entwürfe, Ideen, Formulierungen, Erklärungen allgemeiner Konzepte, Brainstorming. Wenn du zehn Überschriften oder einen umgeschriebenen Absatz anfragst, gibt es keine „Fakten“ zu prüfen – das Ergebnis beurteilst du ohnehin mit eigenen Augen.

Schalte die Vorsicht ein, wo die Antwort über dich hinaus als Fakt reist: eine Zahl in einem Bericht, ein Link in einem Artikel, ein Argument in einer Debatte, Ratschläge zu deiner Gesundheit oder dem Gesetz. Die Regel ist einfach: Je schwerwiegender die Folgen eines Fehlers, desto strenger die Prüfung.

Drei Gewohnheiten, die dich retten

1. Frage nach Quellen und öffne sie. „Gib mir einen Link für jede Behauptung“ – dann klicke dich durch. Kein Link oder ein toter Link bedeutet, es ist eine Hypothese, kein Fakt. Genau dafür wurde Perplexity entwickelt.
2. Wichtiges mit einem zweiten Modell gegenprüfen. Dieselbe Frage an zwei KIs: Wenn sie übereinstimmen, ist es wahrscheinlicher wahr; wenn sie abweichen, grabe selbst tiefer.
3. Gib dem Modell die Erlaubnis, „Ich weiß es nicht“ zu sagen. Füge deiner Anfrage hinzu: „Wenn du dir nicht sicher bist, sag es, erfinde nichts.“ Das reduziert Erfindungen merklich.

Häufige Mythen

• „Die Bezahlversion halluziniert nicht.“ Top-Modelle irren seltener, aber sie hören nicht auf: Du überprüfst trotzdem.
• „Sie hat selbstbewusst geantwortet, also muss es stimmen.“ Selbstbewusster Ton und Richtigkeit sind verschiedene Dinge; das Modell zweifelt nicht laut, es sei denn, du bittest es darum.
• „Halluzinationen sind ein Fehler, den sie bald beheben werden.“ Sie sind eine Eigenschaft des Ansatzes „Fortsetzung vorhersagen“, keine Panne; sie werden seltener, aber sie werden deine Gewohnheit des Überprüfens nicht in Rente schicken.

Mach das jetzt

Ein kleiner Vertrauenstest, drei Minuten. Frage deine KI etwas Prüfbares aus deinem eigenen Fachgebiet, wo du die richtige Antwort kennst, und bitte sie um eine Quelle. Beurteile es: Ist alles korrekt, führt der Link zu einer echten Seite? Eine solche Erfahrung kalibriert dein Vertrauen besser als zehn Warnungen – diese hier eingeschlossen.