Eine Halluzination ist eine Ausgabe, die plausibel klingt, aber sachlich falsch oder frei erfunden ist. Das Tückische ist nicht der Fehler — es ist, dass er im selben souveränen Ton daherkommt wie alles Richtige.
Erfundene Quellenangaben, ein Gesetzesparagraph, den es nicht gibt, eine Zahl, die zu gut passt: Halluzinationen sind der häufigste Grund, warum KI-Projekte in Unternehmen an Vertrauen verlieren.
Wichtig zum Verständnis: Das ist kein Defekt, den ein Update behebt. Es folgt daraus, wie diese Modelle funktionieren.
Warum Modelle erfinden #
Ein Sprachmodell sagt vorher, welche Wortfolge am wahrscheinlichsten passt. Es hat kein internes Register aus „weiß ich" und „weiß ich nicht". Wenn zu einer Frage kein verlässliches Muster vorliegt, entsteht trotzdem eine flüssige Antwort — nur eben eine erfundene.
Deshalb sind Halluzinationen dort am wahrscheinlichsten, wo es um präzise Einzelfakten geht: Namen, Zahlen, Daten, Aktenzeichen, Zitate. Und am unwahrscheinlichsten dort, wo es um Struktur, Formulierung und Zusammenfassung geht.
Je nachprüfbarer ein Detail ist, desto eher musst du es nachprüfen. Zusammenfassen und Umformulieren kannst du weitgehend abgeben — Fakten behaupten nicht.
Wie man das Risiko senkt #
- Quellen mitgeben statt abfragen. Ein Modell, das aus einem beigefügten Dokument antwortet, erfindet deutlich seltener als eines, das aus dem Gedächtnis antworten soll. Genau das leistet RAG.
- Belege verlangen. Wer im Prompt nach Fundstelle und Zitat fragt, bekommt entweder eine prüfbare Angabe — oder ein sichtbares Eingeständnis.
- Unsicherheit erlauben. „Sag ausdrücklich, wenn du es nicht sicher weißt" wirkt erstaunlich zuverlässig.
- Zwei Modelle gegeneinander. Bei kritischen Aussagen dieselbe Frage an ein zweites Modell — Abweichung ist ein Alarmsignal.
Was ich nie ungeprüft übernehme #
Alles, was jemand später gegen mich verwenden könnte: Rechtsangaben, Zahlen in Angeboten, Zitate, Namen und Funktionen von Personen, historische Daten.
Ein Beispiel aus diesem Blog: Für den Faktencheck zur KI-Kennzeichnung habe ich jede Fundstelle einzeln nachgeschlagen — Randnummer, Abschnitt, Seite. Nicht weil ich dem Modell misstraue, sondern weil ein erfundener Paragraph in einem Artikel über Rechtssicherheit der teuerste denkbare Fehler wäre.
Häufige Fragen #
Warum erfindet KI Quellen?
Weil Sprachmodelle Wortfolgen vorhersagen, statt in einer Datenbank nachzuschlagen. Eine Quellenangabe hat ein sehr typisches Muster — das lässt sich flüssig erzeugen, ohne dass die Quelle existiert.
Kann man Halluzinationen ganz abstellen?
Nein. Man kann sie stark reduzieren: mit mitgelieferten Quellen, mit der Aufforderung, Unsicherheit zu benennen, und mit menschlicher Prüfung bei nachprüfbaren Fakten.
Halluzinieren neuere Modelle weniger?
Tendenziell ja, besonders wenn sie Quellen anbinden dürfen. Verschwunden ist das Problem nicht — und je souveräner der Ton, desto schwerer fällt das Erkennen.
Woran erkenne ich eine Halluzination?
An überprüfbaren Details, die zu gut passen: eine exakte Zahl ohne Quelle, ein Zitat ohne Fundstelle, ein Paragraph, der genau das sagt, was du hören wolltest. Solche Stellen immer gegenprüfen.
Quellen #
- Anthropic — Reduce hallucinations
- Verordnung (EU) 2024/1689 (KI-Verordnung) — Art. 4: Verpflichtung zu ausreichender KI-Kompetenz bei Betreibern
- Eigene Praxis: Fundstellenprüfung im Faktencheck zur KI-Kennzeichnung, August 2026
Wie sichert ihr KI-Ergebnisse ab?
Frag mich — oder frag Ada. Sie ist meine KI-Assistentin, rund um die Uhr erreichbar, und schlägt dir bei Bedarf einen Termin mit mir vor. Kostenfrei, ohne Formular.