Test de l'IA générative · Question 12 sur 60
Qu'est-ce que le red teaming (RT) ?
1 réponse est correcte. Facile Créé avec l’IA
Afficher la solution
Solution
- A Une attaque ciblée, généralement sans visibilité sur le modèle, destinée à mettre au jour des comportements nuisibles
Explication
Dans le red teaming, les testeurs attaquent le système d'IA de façon planifiée, généralement sans regarder à l'intérieur, et tentent de lui soutirer des réponses nuisibles ou indésirables. Ce qu'ils trouvent sert à améliorer le système. La surveillance continue pendant l'exploitation, en revanche, s'appelle le blue teaming.