Testen generativer KI · Frage 54 von 60
Ein Unternehmen will ein LLM mit RAG-Anbindung vor dem Start per Red Teaming auf Sicherheitslücken prüfen. Welche Angriffe sollten betrachtet werden?
3 Antworten sind richtig. Schwer
Lösung anzeigen
Lösung
- C Indirekte Prompt-Injection
- D Nicht-KI-spezifische Sicherheitsfaktoren
- E Versteckte bösartige Inhalte in den Dokumenten, die RAG nutzt
Erklärung
Geht es beim Red Teaming um Security, prüft man, wie angreifbar das System von außen ist, bei klassischen wie bei KI-typischen Schwachstellen. Zu Letzteren zählen indirekte Prompt-Injection und Dokumente mit versteckten Anweisungen, die über RAG ins System gelangen.