Test de l'IA générative · Question 55 sur 60
Un chatbot de santé doit être vérifié sous l'angle de la sûreté par du red teaming. Quel est l'objectif, à la différence du red teaming de sécurité ?
1 réponse est correcte. Difficile Créé avec l’IA
Afficher la solution
Solution
- B Comment le système produit des sorties nuisibles, comme des conseils dangereux, dans le cadre d'un usage ordinaire sans intention adverse
Explication
Le red teaming de sécurité porte sur les entrées malveillantes. Avec la sûreté et d'autres objectifs, on se demande en revanche souvent si le système peut causer un tort lors d'un usage tout à fait normal, par exemple avec un conseil de santé dangereux, même si l'utilisateur n'avait aucune mauvaise intention.