Eine Halluzination (auch Konfabulation oder Delusion) liegt vor, wenn ein generatives KI-Modell sprachlich flüssige Aussagen erzeugt, die sachlich falsch sind, nicht aus dem bereitgestellten Kontext hervorgehen oder auf erfundenen Quellen beruhen.
Erklärung
Sprachmodelle speichern Wissen nicht als abfragbare Datenbankeinträge, sondern berechnen Token für Token die statistisch wahrscheinlichste Fortsetzung einer Sequenz. Fehlen dem Modell spezifische Informationen im Kontextfenster oder sind Fakten in den Trainingsdaten unterrepräsentiert, füllt es Wissenslücken oft mit plausibel klingenden Textmustern auf. Im B2B-Einsatz äußert sich das etwa in erfundenen Produktfunktionen, falschen Preisangaben, nicht existierenden API-Parametern oder fehlerhaften Zusammenfassungen von Gesprächsnotizen. Technisch begrenzen Entwickler Halluzinationen durch Retrieval-Augmented Generation (RAG) mit strikter Quellenbindung, niedrige Sampling-Temperaturen, klare Rückfallregeln bei fehlender Datenlage sowie automatisierte Evaluierungspipelines, die Modellantworten gegen die Originaldokumente prüfen.