OWASP LLM Top 10
Die OWASP Top 10 für LLM-Anwendungen sind die maßgebliche Referenzliste der häufigsten Sicherheitsrisiken generativer Anwendungen. In der Fassung 2025 steht Prompt Injection unverändert als LLM01 an erster Stelle.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Prompt Injection, MITRE ATLAS, NIST AI Risk Management Framework.
Bezug zu Prompt Injection
Die Liste ist die gemeinsame Sprache, in der Sicherheitsteams, Prüfer und Anbieter über LLM-Risiken sprechen — deshalb lohnt es, eigene Maßnahmen darauf abzubilden. Für Prompt Injection sind neben LLM01 vor allem LLM02 (Sensitive Information Disclosure), LLM05 (Improper Output Handling), LLM06 (Excessive Agency) und LLM07 (System Prompt Leakage) relevant, weil sie die Folgeschäden abdecken. Sie ist eine Risiko-Taxonomie, kein Prüfkatalog mit bestandener oder nicht bestandener Zertifizierung.
Beispiel
Ein Sicherheitskonzept ordnet jede Maßnahme einem LLM-Risiko zu und macht damit sichtbar, dass für LLM05 bislang keine Kontrolle existiert.
Verwandte Begriffe
- Prompt Injection — Prompt Injection bezeichnet einen Angriff, bei dem eingeschleuster Text das Verhalten eines Sprachmodells entgegen der Absicht…
- MITRE ATLAS — MITRE ATLAS ist eine Wissensbasis realer Angriffstaktiken und -techniken gegen KI-Systeme, aufgebaut nach dem Vorbild von…
- NIST AI Risk Management Framework — Das NIST AI RMF ist ein freiwilliges Rahmenwerk zum Management von Risiken in KI-Systemen entlang der Funktionen Govern, Map…
Quellen
- OWASP LLM Top 10 — Beleg: https://genai.owasp.org/llm-top-10/