DAN
DAN steht für „Do Anything Now" und bezeichnet die bekannteste Familie von Community-Jailbreak-Prompts, die dem Modell eine regelfreie Zweitpersönlichkeit zuschreiben. Die Varianten zirkulieren öffentlich und werden laufend an neue Modellversionen angepasst.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Jailbreak, Rollenspiel-Jailbreak, Prompt Injection.
Bezug zu Prompt Injection
DAN-Prompts sind vor allem als Messlatte interessant: Sie sind öffentlich, gut dokumentiert und werden von jedem ernsthaften Guardrail erkannt — wer daran scheitert, hat kein Schutzniveau. Shen und Kollegen sammelten und analysierten mehrere tausend solcher Prompts aus öffentlichen Quellen und zeigten, dass einzelne Varianten über Monate hinweg wirksam blieben. Für die Praxis heißt das: DAN zu blockieren ist Mindeststandard, nicht Sicherheit.
Beispiel
Ein Prompt weist das Modell an, ab sofort in einer zweiten Persönlichkeit zu antworten, für die die üblichen Regeln angeblich nicht gelten.
Verwandte Begriffe
- Jailbreak — Ein Jailbreak ist der Versuch, die Sicherheitsregeln eines Modells auszuhebeln, damit es Inhalte erzeugt, die es normalerweise…
- Rollenspiel-Jailbreak — Beim Rollenspiel-Jailbreak nimmt das Modell eine fiktive Rolle ein, für die die üblichen Regeln angeblich nicht gelten. Die…
- Prompt Injection — Prompt Injection bezeichnet einen Angriff, bei dem eingeschleuster Text das Verhalten eines Sprachmodells entgegen der Absicht…
Quellen
- DAN — Beleg: https://arxiv.org/abs/2308.03825