Prompt-Infektion
Eine Prompt-Infektion ist eine sich selbst weitergebende Injektion, die den empfangenden Agenten anweist, sie an alle weiteren Agenten weiterzureichen. Ein einziger Einstiegspunkt kann so ein gesamtes Agentensystem erfassen.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Multi-Agenten-System, KI-Agent, Indirekte Prompt Injection.
Bezug zu Prompt Injection
Die zugrunde liegende Arbeit überträgt das Wurm-Prinzip auf Agentensysteme: Der Payload enthält die Anweisung zur eigenen Weitergabe und verbreitet sich entlang der Kommunikationswege. Praktisch relevant wird das erst mit automatisierter Agent-zu-Agent-Kommunikation ohne menschliche Zwischenschritte. Begrenzung entsteht durch Herkunftsprüfung, Nachrichtenfilterung und die Entwurfsregel, dass Agenten einander Daten übergeben, aber keine Anweisungen. Sie ist damit weniger eine neue Technik als eine Eigenschaft der Topologie: Je dichter Agenten miteinander sprechen, desto größer die Reichweite eines einzelnen Einstiegspunkts.
Beispiel
Ein Agent leitet mit einer Zusammenfassung unbemerkt den Satz weiter, der den nächsten Agenten zur erneuten Weitergabe auffordert.
Verwandte Begriffe
- Multi-Agenten-System — In einem Multi-Agenten-System arbeiten mehrere spezialisierte KI-Agenten zusammen und tauschen Zwischenergebnisse aus. Eine…
- KI-Agent — Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen und einer Handlungsschleife verbindet, um Aufgaben eigenständig…
- Indirekte Prompt Injection — Bei der indirekten Prompt Injection stammt die Anweisung aus Inhalten, die das System selbst abruft — Webseiten, Dokumenten…
Quellen
- Prompt-Infektion — Beleg: https://arxiv.org/abs/2410.07283