Verwirrter Stellvertreter (Confused Deputy)
Ein verwirrter Stellvertreter ist eine Komponente, die ihre legitimen Rechte im Auftrag eines Angreifers einsetzt. KI-Agenten sind dafür besonders anfällig, weil sie mit den Rechten des Nutzers handeln, ihre Ziele aber aus Text beziehen.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind KI-Agent, Least Privilege, Tödliche Trias.
Bezug zu Prompt Injection
Der Begriff stammt aus der klassischen Sicherheitsforschung und beschreibt die Lage eines KI-Agenten exakt: Er besitzt die Rechte des Nutzers, bezieht seine Ziele aber aus Text, der von beliebigen Quellen stammen kann. OWASP führt die Folge als LLM06 (Excessive Agency). Die Gegenmaßnahme ist nicht besseres Prompten, sondern engere Rechte und eine Bestätigungspflicht für folgenschwere Aktionen.
Beispiel
Ein Agent mit Leserecht auf ein Postfach und Schreibrecht auf ein Ticketsystem legt auf Anweisung aus einer eingegangenen E-Mail ein Ticket mit vertraulichem Inhalt an.
Verwandte Begriffe
- KI-Agent — Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen und einer Handlungsschleife verbindet, um Aufgaben eigenständig…
- Least Privilege — Least Privilege bedeutet, jeder Komponente nur die minimal nötigen Rechte zu geben. Für KI-Agenten ist es die wirksamste…
- Tödliche Trias — Die tödliche Trias beschreibt die gefährliche Kombination aus Zugriff auf private Daten, Verarbeitung nicht vertrauenswürdiger…
Quellen
- Verwirrter Stellvertreter (Confused Deputy) — Beleg: https://genai.owasp.org/llmrisk/llm062025-excessive-agency/