Testen generativer KI · Frage 37 von 60
Mit welchen Ansätzen lässt sich beim Red Teaming eine umfassende Abdeckung erreichen?
3 Antworten sind richtig. Mittel
Lösung anzeigen
Lösung
- A Hybride Ansätze aus menschlicher Kreativität und Automatisierung
- C Automatisierung, bei der ein LLM Angriffsprompts erzeugt und ein anderes die Ausgaben prüft
- D Crowdsourcing von Prompts
Erklärung
Red Teaming muss nicht nur ein kleines Expertenteam machen. Man kann Prompts auch von vielen Freiwilligen sammeln (Crowdsourcing), ein LLM massenhaft Angriffe erzeugen und ein zweites LLM die Antworten bewerten lassen, oder beides mischen: Menschen liefern die Ideen, Automatisierung die Menge.