Grundlagen
Halluzination
Eine erfundene, aber flüssig formulierte Antwort, die das Modell nicht als unsicher kennzeichnet.
Halluzination bezeichnet den Fall, dass ein Modell etwas behauptet, was es nicht wissen kann oder was falsch ist, und das im selben souveränen Ton wie eine korrekte Antwort. Typische Fälle sind erfundene Quellen, Paragrafen, Produktnamen und Zahlen.
Das ist keine Kinderkrankheit, die mit der nächsten Version verschwindet, sondern eine Folge davon, wie Modelle arbeiten: Sie sagen plausible Fortsetzungen vorher. Fehlt Wissen, ist die plausibelste Fortsetzung oft eine gut klingende Erfindung.
Was hilft: Quellen mitgeben statt aus dem Gedächtnis fragen, das Modell explizit erlauben lassen, „weiß ich nicht“ zu sagen, und alles Prüfbare prüfen. Für Zahlen, Namen und Rechtliches heißt das: nachschauen, jedes Mal.
Verwandte Begriffe
- RAG
Passende Ausschnitte aus eigenen Dokumenten suchen und dem Modell als Kontext mitgeben, statt es aus dem Gedächtnis antworten zu lassen.
- Prompt-Engineering
Das systematische Formulieren und Verbessern von Prompts, damit ein Modell verlässlich das Gewünschte liefert.
- Guardrails
Technische und organisatorische Grenzen, die festlegen, was ein KI-System tun darf und was nicht.
In der Praxis üben
In der AI Masterclass kommt dieser Begriff nicht als Definition vor, sondern in einer Session, in der damit gearbeitet wird.