Test de l'IA générative · Question 37 sur 60
Avec quelles approches peut-on obtenir une couverture complète en red teaming ?
3 réponses sont correctes. Moyen Créé avec l’IA
Afficher la solution
Solution
- A Les approches hybrides combinant créativité humaine et automatisation
- C L'automatisation, où un LLM génère des prompts d'attaque et un autre vérifie les sorties
- D La génération de prompts par la foule
Explication
Le red teaming n'a pas à être réalisé uniquement par une petite équipe d'experts. Les prompts peuvent aussi être collectés auprès de nombreux volontaires (crowdsourcing), un LLM peut générer des attaques en masse tandis qu'un second LLM juge les réponses, ou les deux peuvent être mélangés : les humains apportent les idées, l'automatisation le volume.