Testen generativer KI · Frage 12 von 60
Was ist Red Teaming (RT)?
1 Antwort ist richtig. Einfach
Lösung anzeigen
Lösung
- A Ein gezielter Angriff, meist ohne Einblick ins Modell, der schädliches Verhalten aufdecken soll
Erklärung
Beim Red Teaming greifen Tester das KI-System planmäßig an, meist ohne ins Innere zu schauen, und versuchen, schädliche oder unerwünschte Antworten herauszulocken. Was sie finden, fließt in die Verbesserung des Systems. Das laufende Überwachen im Betrieb heißt dagegen Blue Teaming.