Halluzination
Als Halluzination bezeichnet man eine sachlich falsche, aber sprachlich überzeugend formulierte Ausgabe eines Sprachmodells. Sie ist kein Angriff, sondern eine Eigenschaft des Verfahrens — und wird in den OWASP LLM Top 10 als eigenes Risiko geführt.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind OWASP LLM Top 10, RAG (Retrieval-Augmented Generation), LLM-as-a-Judge.
Bezug zu Prompt Injection
Für die Sicherheit ist sie doppelt relevant: Erstens lässt sie sich gezielt provozieren, um Falschinformationen in Zusammenfassungen und Berichte zu bringen. Zweitens erschwert sie die Vorfallanalyse, weil eine falsche Ausgabe sowohl Modellfehler als auch Ergebnis einer Injektion sein kann. Sie ist damit kein Angriff, aber ein Faktor in nahezu jeder Bewertung eines Vorfalls. Für Betreiber heißt das, Ausgaben mit Quellenbezug zu versehen und automatisierte Weiterverarbeitung nur dort zuzulassen, wo eine Prüfung dahintersteht.
Beispiel
Ein Assistent nennt eine plausibel klingende, aber nicht existierende Programmbibliothek als Abhängigkeit — die ein Angreifer anschließend unter genau diesem Namen veröffentlichen kann.
Verwandte Begriffe
- OWASP LLM Top 10 — Die OWASP Top 10 für LLM-Anwendungen sind die maßgebliche Referenzliste der häufigsten Sicherheitsrisiken generativer…
- RAG (Retrieval-Augmented Generation) — RAG erweitert ein Sprachmodell um eine Suchkomponente, die zur Anfrage passende Dokumente abruft und in den Kontext stellt…
- LLM-as-a-Judge — Bei LLM-as-a-Judge bewertet ein Sprachmodell die Ausgaben eines anderen Modells. Das Verfahren ist in Evaluation und Guardrails…
Quellen
- Halluzination — Beleg: https://genai.owasp.org/llmrisk/llm092025-misinformation/