MITRE ATLAS
MITRE ATLAS ist eine Wissensbasis realer Angriffstaktiken und -techniken gegen KI-Systeme, aufgebaut nach dem Vorbild von ATT&CK. Sie enthält dokumentierte Fallstudien, darunter mehrere Prompt-Injection-Vorfälle.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind OWASP LLM Top 10, Red Teaming, CVE.
Bezug zu Prompt Injection
ATLAS ergänzt OWASP um die Angreiferperspektive: Statt Risiken zu sortieren, beschreibt es Taktiken und Techniken entlang eines realen Angriffsablaufs und verweist auf dokumentierte Fälle. Für Red Teams ist es die praktikablere Grundlage, weil sich Testfälle direkt aus einzelnen Techniken ableiten lassen. Prompt Injection ist dort als eigene Technik samt Untervarianten geführt. Weil die Einträge auf gemeldeten Vorfällen beruhen, eignet es sich zudem als Beleg gegenüber Entscheidern, dass es nicht um theoretische Risiken geht.
Beispiel
Ein Red-Team-Plan listet je ATLAS-Technik einen konkreten Testfall für die eigene Anwendung auf und macht Lücken in der Abdeckung sichtbar.
Verwandte Begriffe
- OWASP LLM Top 10 — Die OWASP Top 10 für LLM-Anwendungen sind die maßgebliche Referenzliste der häufigsten Sicherheitsrisiken generativer…
- Red Teaming — Red Teaming ist das systematische Angreifen des eigenen Systems, um Schwachstellen vor Dritten zu finden. Bei KI-Systemen…
- CVE — Eine CVE-Nummer ist die eindeutige öffentliche Kennung einer konkreten Schwachstelle. Prompt-Injection-Befunde erhalten…
Quellen
- MITRE ATLAS — Beleg: https://atlas.mitre.org/