Test de l'IA générative · Question 36 sur 60
Quelles étapes l'approche typique du red teaming comprend-elle ?
3 réponses sont correctes. Moyen Créé avec l’IA
Afficher la solution
Solution
- C Créer des jeux de données à partir des menaces pour appuyer les mesures d'atténuation
- D Sonder le système pour y trouver des vulnérabilités par des prompts et analyser les défaillances
- E Constituer une équipe diversifiée et fournir un accès dans un environnement de test sûr
Explication
L'approche typique comprend cinq étapes : constituer une équipe diversifiée, fournir un accès dans un environnement de test sûr, soumettre des prompts au système pour identifier des vulnérabilités, analyser les défaillances identifiées et créer des jeux de données à partir des menaces pour appuyer les mesures d'atténuation. Le cœur est souvent un dialogue interactif de 15–20 tours de conversation.