Sandbox
Eine Sandbox ist eine abgeschottete Ausführungsumgebung ohne Zugriff auf produktive Daten und Netzwerke. Sie ist Pflicht, sobald ein Modell Code erzeugt, der tatsächlich ausgeführt wird.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Least Privilege, Sichere Ausgabeverarbeitung, KI-Agent.
Bezug zu Prompt Injection
Sobald ein Modell Code erzeugt, der ausgeführt wird, entscheidet nicht mehr der Prompt über den Schaden, sondern die Umgebung. Eine Sandbox ohne Netzwerkzugang schließt zugleich den Ausgangskanal und nimmt der tödlichen Trias eine Zutat. Zu prüfen sind neben Dateisystem und Netzwerk auch Umgebungsvariablen und Metadatendienste, in denen häufig Zugangsdaten liegen. Sie senkt allerdings nur den Schaden aus der Ausführung; die Modellausgabe selbst muss weiterhin geprüft werden, bevor sie in andere Systeme gelangt.
Beispiel
Ein Codeinterpreter läuft in einem Container ohne ausgehende Netzwerkverbindung — erzeugter Code kann Daten weder nachladen noch versenden.
Verwandte Begriffe
- Least Privilege — Least Privilege bedeutet, jeder Komponente nur die minimal nötigen Rechte zu geben. Für KI-Agenten ist es die wirksamste…
- Sichere Ausgabeverarbeitung — Sichere Ausgabeverarbeitung behandelt jede Modellantwort als nicht vertrauenswürdige Eingabe für das nachfolgende System — mit…
- KI-Agent — Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen und einer Handlungsschleife verbindet, um Aufgaben eigenständig…
Quellen
- Sandbox — Beleg: https://genai.owasp.org/llmrisk/llm052025-improper-output-handling/