Halluzinieren ist ein zentrales Problem großer Sprachmodelle und anderer generativer KI-Systeme. Es tritt auf, wenn die KI plausible, aber faktisch unzutreffende Aussagen produziert – etwa erfundene Zitate, falsche Statistiken oder nicht existente Quellen. Der Begriff stammt aus der Psychologie und wurde auf KI übertragen, weil die Systeme keine bewusste Täuschungsabsicht haben, sondern aufgrund ihrer Architektur Muster kombinieren, die in den Trainingsdaten nicht oder anders vorkommen.

Für Organisationen ist Halluzinieren besonders riskant, wenn KI-Output ungeprüft in Entscheidungen, Berichte oder Kundenkommunikation einfließt. Es untergräbt Vertrauen in automatisierte Prozesse und kann rechtliche oder reputative Folgen haben. Gegenstrategien umfassen Prompt-Engineering, Faktenprüfung durch Menschen oder den Einsatz von Retrieval-Augmented Generation (RAG), um die KI mit aktuellen, vertrauenswürdigen Daten zu versorgen.