Angriffe auf KI-Systeme · Frage 12 von 12
Warum gilt Prompt Injection als schwer vollständig zu beheben, anders als etwa SQL-Injection?
1 Antwort ist richtig. Schwer
Lösung anzeigen
Lösung
- A Modelle trennen Befehl und Daten nicht fest
Erklärung
Bei SQL-Injection trennen Prepared Statements Code und Daten zuverlässig. Ein Sprachmodell verarbeitet dagegen alles als Text im selben Kontext. Deshalb setzt man auf mehrere Schichten: Filter, minimale Rechte, Bestätigungen und Überwachung.