Perplexitäts-Filter
Ein Perplexitäts-Filter verwirft Eingaben, deren statistische Unwahrscheinlichkeit auf maschinell optimierten Text hindeutet. Er wirkt gut gegen GCG-Suffixe und praktisch nicht gegen sprachlich flüssige Angriffe.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind GCG-Suffix, AutoDAN, Guardrail.
Bezug zu Prompt Injection
Der Filter ist billig und in Sekundenbruchteilen berechenbar, deckt aber nur eine Angriffsklasse ab — er ist ein sinnvoller erster Schritt, keine Verteidigungslinie. Zu eng eingestellt verwirft er legitime Eingaben wie Codeblöcke, Logausschnitte, Seriennummern oder fremdsprachige Passagen. Der Schwellwert sollte deshalb an realen Eingaben des eigenen Systems kalibriert und nicht aus einer Veröffentlichung übernommen werden.
Beispiel
Ein Nutzer fügt einen Stacktrace in den Support-Chat ein und wird abgewiesen, weil der Text statistisch ebenso unwahrscheinlich ist wie ein optimiertes Angriffssuffix.
Verwandte Begriffe
- GCG-Suffix — Ein GCG-Suffix ist eine automatisch berechnete, meist sinnlos wirkende Zeichenfolge, die an eine Anfrage angehängt deren…
- AutoDAN — AutoDAN erzeugt mit einem genetischen Algorithmus Jailbreak-Prompts, die sprachlich unauffällig bleiben. Gerade diese Lesbarkeit…
- Guardrail — Ein Guardrail ist eine Schutzschicht außerhalb des Modells, die Ein- und Ausgaben prüft, filtert oder blockiert. Guardrails sind…
Quellen
- Perplexitäts-Filter — Beleg: https://arxiv.org/abs/2309.00614