RAG (Retrieval-Augmented Generation)
RAG erweitert ein Sprachmodell um eine Suchkomponente, die zur Anfrage passende Dokumente abruft und in den Kontext stellt. Genau dieser Abrufkanal ist zugleich der wichtigste Weg für indirekte Prompt Injection.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Retriever, Vektordatenbank, Indirekte Prompt Injection.
Bezug zu Prompt Injection
RAG ist der häufigste Weg, ein Modell mit Unternehmensdaten zu verbinden — und damit der häufigste Weg, fremden Text in den Kontext zu holen. Jedes indexierte Dokument ist potenziell eine Anweisung: Wer in eine indexierte Quelle schreiben kann, schreibt mittelbar in den Prompt. Die Rechteprüfung muss deshalb beim Abruf greifen und nicht erst bei der Anzeige der Antwort.
Beispiel
Ein interner Wissens-Assistent zieht zu einer Frage einen Wiki-Abschnitt heran, in dem jemand eine Anweisung an „das lesende KI-System“ hinterlassen hat.
Verwandte Begriffe
- Retriever — Der Retriever ist die Komponente eines RAG-Systems, die zu einer Anfrage die passendsten Dokumente aus einem Index auswählt. Wer…
- Vektordatenbank — Eine Vektordatenbank speichert Texte als numerische Einbettungen und findet inhaltlich ähnliche Passagen über Abstandsmaße. Ohne…
- Indirekte Prompt Injection — Bei der indirekten Prompt Injection stammt die Anweisung aus Inhalten, die das System selbst abruft — Webseiten, Dokumenten…
- RAG-Vergiftung — Bei der RAG-Vergiftung werden präparierte Dokumente so gestaltet, dass sie für bestimmte Fragen zuverlässig abgerufen werden und…
Quellen
- RAG (Retrieval-Augmented Generation) — Beleg: https://arxiv.org/abs/2005.11401