Was ist eine KI-Halluzination?

Eine KI-Halluzination ist, wenn ein KI-Modell falsche Informationen mit voller Überzeugung ausgibt: erfundene Fakten, falsche Quellen, Ereignisse, die nie passiert sind. Es passiert, weil das Modell Text erzeugt, der plausibel klingt, statt Fakten nachzuschlagen. Falsche Antworten lesen sich exakt wie richtige.

Halluzinationen entstehen, weil ein Sprachmodell die plausibelsten nächsten Wörter aus den Mustern seines Trainings vorhersagt, und plausibel ist nicht dasselbe wie wahr. Kennt das Modell ein Thema gut, ist das, was richtig klingt, meist auch richtig. Kennt es das Thema nicht, fließen die Wörter trotzdem weiter, genauso flüssig und überzeugt, nur voller Dinge, die bloß richtig klingen: ein erfundener Gerichtsfall, eine ausgedachte Statistik, ein nie geschriebenes Buch. Das berühmte Beispiel: Anwälte wurden sanktioniert, weil ihr Schriftsatz sechs Gerichtsfälle zitierte, die die KI schlicht erfunden hatte. Zwei Dinge machen es gefährlich: Die Überzeugung sinkt nie, man hört den Unterschied also nicht, und die Fehler landen genau dort, wo Prüfen mühsam ist, in Zitaten, Zahlen und technischen Details. Die Gegenmittel lindern, statt zu heilen: das Modell auf abgerufene Dokumente stützen, damit es zitiert statt erinnert, Quellen verlangen, die kreative Streuung senken, und überall dort einen Menschen prüfen lassen, wo es zählt.

Die brillante Chirurgin beim Familienessen. In der Medizin ist sie wirklich hervorragend, und genau das ist das Problem. Dieselbe Autoritätsstimme deckt jetzt Motoren, Steuerrecht und das alte Rom ab, Themen, die sie kaum kennt, weil Jahrzehnte des Rechthabens ihr Gespür abschliffen, wo ihre Expertise endet; sie lügt nicht, sie spürt die Grenze nicht. Alles jenseits davon kommt in derselben sicheren Chirurgenstimme, und die Gäste erfahren erst beim Nachprüfen, welche Aussagen solide waren.