EU-KI-Verordnung (AI Act)
Die EU-KI-Verordnung regelt KI-Systeme risikobasiert und stellt an Hochrisiko-Systeme sowie an KI-Modelle mit allgemeinem Verwendungszweck Anforderungen an Robustheit und Cybersicherheit. Für Betreiber in der DACH-Region ist sie der maßgebliche rechtliche Rahmen für Sicherheitsmaßnahmen.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind NIST AI Risk Management Framework, OWASP LLM Top 10.
Bezug zu Prompt Injection
Für Betreiber in der DACH-Region ist die Verordnung der Grund, warum Prompt Injection nicht nur ein technisches, sondern ein regulatorisches Thema ist: Artikel 15 verlangt für Hochrisiko-Systeme ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit und nennt dabei Datenvergiftung, Modellvergiftung und adversariale Eingaben ausdrücklich. Für Modelle mit allgemeinem Verwendungszweck bestehen zusätzliche Pflichten zu Dokumentation und Risikobewertung. Die Anforderungen sind ergebnisoffen formuliert — was als Stand der Technik gilt, ergibt sich aus Normen und Praxis.
Beispiel
Ein Hochrisiko-System dokumentiert seine Maßnahmen gegen Prompt Injection als Teil des Nachweises technischer Robustheit.
Verwandte Begriffe
- NIST AI Risk Management Framework — Das NIST AI RMF ist ein freiwilliges Rahmenwerk zum Management von Risiken in KI-Systemen entlang der Funktionen Govern, Map…
- OWASP LLM Top 10 — Die OWASP Top 10 für LLM-Anwendungen sind die maßgebliche Referenzliste der häufigsten Sicherheitsrisiken generativer…
Quellen
- EU-KI-Verordnung (AI Act) — Beleg: https://eur-lex.europa.eu/eli/reg/2024/1689/oj