Provenienz
Provenienz ist der nachvollziehbare Herkunftsnachweis von Modellen, Daten und Werkzeugen. Ohne sie lässt sich nach einem Vorfall weder feststellen, was manipuliert wurde, noch der Schaden eingrenzen.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Lieferkette (Supply Chain), Backdoor (Sleeper Agent), Vertrauensgrenze.
Bezug zu Prompt Injection
Provenienz ist die Voraussetzung dafür, nach einem Vorfall überhaupt handlungsfähig zu sein: Ohne Angabe, welches Modell in welcher Version mit welchen Daten lief, lässt sich weder eingrenzen noch zurückrollen. In RAG-Systemen gehört dazu die Herkunft jedes einzelnen Chunks — sie ist zugleich die Grundlage dafür, fremde Inhalte im Prompt als Daten zu kennzeichnen. Für Hochrisiko-Systeme verlangt die EU-KI-Verordnung eine entsprechende Dokumentation.
Beispiel
Jeder abgerufene Textabschnitt trägt Quelle, Zeitstempel und Vertrauensstufe als Metadatum — nach einem Vorfall ist damit nachvollziehbar, welches Dokument die Anweisung enthielt.
Verwandte Begriffe
- Lieferkette (Supply Chain) — Die KI-Lieferkette umfasst alle fremden Bestandteile einer Anwendung: Modelle, Adapter, Datensätze, Bibliotheken und…
- Backdoor (Sleeper Agent) — Eine Backdoor ist ein im Training eingebautes Verhalten, das nur bei einem bestimmten Auslöser aktiv wird. Anthropic zeigte…
- Vertrauensgrenze — Eine Vertrauensgrenze ist die Linie, an der Daten aus einer weniger vertrauenswürdigen Quelle in einen geschützten Bereich…
Quellen
- Provenienz — Beleg: https://genai.owasp.org/llmrisk/llm032025-supply-chain/