Halluzination

Halluzinationen entstehen aus der Funktionsweise von Sprachmodellen. Ein Modell lernt, Text zu erzeugen, der angesichts des Vorangegangenen statistisch plausibel ist; es schlägt keine Fakten nach und hat kein eingebautes Gespür dafür, was es nicht weiß. Fehlt die Antwort im Training oder ist sie nur schwach vertreten, bleibt die plausibelste Fortsetzung trotzdem ein flüssiger Satz, und so füllt es die Lücke mit etwas, das gut klingt. Vage oder suggestive Fragen, entlegene Themen, Wünsche nach exakten Zahlen, Fußnoten, Urteilszitaten oder Telefonnummern und sehr lange Eingaben machen das wahrscheinlicher.

Sie treten in mehreren Formen auf. Ein Modell kann eine Tatsache erfinden, ein Zitat der falschen Person zuschreiben, eine Studie, ein Gerichtsurteil oder eine Webadresse nennen, die es nicht gibt, zwei ähnliche Städte, Medikamente oder Firmen verwechseln oder einem Dokument widersprechen, das es erhalten hat. Im Code ist ein typischer Fall der Aufruf einer Bibliotheksfunktion mit plausiblem Namen, die es in der Bibliothek nicht gibt. Der Tonfall verrät nichts, denn eine erfundene Antwort ist meist so glatt geschrieben wie eine richtige.

Nichts beseitigt das Problem vollständig, aber mehrere Gewohnheiten verringern es. Gib dem Modell das Quellmaterial und bitte es, nur daraus zu antworten. Verlange Zitate oder Verweise, die du öffnen kannst. Nutze für mehrstufige Fragen ein Reasoning-Modell. Vergleiche Antworten zweier Modelle oder lass ein zweites das erste prüfen. Senke die Zufälligkeit bei Faktenabfragen und bevorzuge eine kurze, eingegrenzte Frage statt einer ausufernden. Und was rechtliches, medizinisches, finanzielles oder sicherheitsrelevantes Gewicht hat, bestätigst du mit einer verlässlichen Quelle. Forschende unterscheiden intrinsische Fälle, in denen die Ausgabe dem gelieferten Material widerspricht, von extrinsischen, in denen sie Behauptungen hinzufügt, die sich weder bestätigen noch widerlegen lassen; Zusammenfassung, Übersetzung und Fragebeantwortung zeigen beide Arten.

Die Seite zum Faktencheck von KI-Antworten beschreibt, wie der Gegencheck von NeverNo funktioniert: Ein Modell aus einer anderen Familie liest die Antwort noch einmal, zitiert, was falsch aussieht, und schlägt eine Korrektur vor, in zwei Modi, einem, der ohne Web nachliest, und einem, der Behauptungen im Web nachschlägt und Quellen nennt. Claude Sonnet 5.5, das ausgewogene Modell von Anthropic, ist eines der anonymisierten Modelle, die du für beide Seiten dieses Austauschs nutzen kannst; es hat ein Kontextfenster von 200.000 Tokens, und wie lange es nachdenkt, lässt sich einstellen.

Anonymisiert heißt, der Hersteller Anthropic liest den Text, ohne zu wissen, wer du bist, und seine eigenen Regeln gelten. Wir behaupten nicht, dass ein Modell mehr oder weniger halluziniert als ein anderes. Der vernünftige Umgang ist für alle derselbe: Quellen verlangen, sie öffnen und bei Wichtigem einen menschlichen Blick behalten.