prompt injections.de
Glossar

Prompt Leaking

Prompt Leaking ist die Offenlegung des verborgenen System-Prompts einer Anwendung. Der erbeutete Text macht Folgeangriffe gezielter und legt Geschäftslogik offen, die als vertraulich gedacht war.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind System-Prompt, Canary-Token, Prompt Injection.

Bezug zu Prompt Injection

OWASP führt das Auslesen des System-Prompts seit der Fassung 2025 als LLM07 — nicht weil der Text selbst immer sensibel wäre, sondern weil viele Anwendungen ihn als Ersatz für Zugriffskontrolle missbrauchen. Steht dort ein Schlüssel, eine interne Regel oder eine Preisgrenze, ist sie mit dem Leck offengelegt. Daraus folgt eine einfache Entwurfsregel: Der System-Prompt darf nichts enthalten, dessen Offenlegung schadet.

Beispiel

Ein Assistent gibt auf eine als Fehlersuche getarnte Bitte seine vollständige Betreiberanweisung samt interner Eskalationsregeln aus.

Wo der Begriff auftaucht

  • Anweisungen-ignorieren-Angriff — Der klassische Einstieg in die Prompt Injection: Der Angreifer schreibt in die Nutzereingabe eine Anweisung, die dem Modell befiehlt, seine…
  • System-Prompt-Auslesen — Angriff mit dem Ziel, den verborgenen System-Prompt einer Anwendung offenzulegen — samt Regeln, Rollenbeschreibung und teils eingebetteten…
  • Zielentführung — Der Angreifer ersetzt nicht die Regeln, sondern das Ziel der Anwendung: Ein Übersetzungsdienst schreibt plötzlich Werbetexte, ein Support-Bot gibt…

Verwandte Begriffe

  • System-Prompt — Der System-Prompt ist die vom Betreiber gesetzte Grundanweisung, die Rolle, Regeln und Aufgabenrahmen des Modells festlegt. Er…
  • Canary-Token — Ein Canary-Token ist eine eindeutige Zeichenfolge, die verdeckt in den System-Prompt eingebettet wird. Taucht sie in einer…
  • Prompt Injection — Prompt Injection bezeichnet einen Angriff, bei dem eingeschleuster Text das Verhalten eines Sprachmodells entgegen der Absicht…

Quellen

  1. Prompt Leaking — Beleg: https://arxiv.org/abs/2505.23817

Im Zusammenhang