Tests adverses · Question 54 sur 60
Une équipe n'a qu'un accès par API au modèle d'images d'un fournisseur et veut le tester face aux exemples adversariaux. Quelles approches sont possibles ?
2 réponses sont correctes. Difficile Créé avec l’IA
Afficher la solution
Solution
- C Utiliser une approche par force brute avec un très grand nombre de tests
- D Créer un modèle équivalent aux composants internes connus, y générer des entrées adversariales et les transférer au modèle du fournisseur
Explication
Sans connaissance des composants internes, le test adversarial est possible en boîte noire. On peut créer un modèle équivalent aux composants internes connus et appliquer ses entrées adversariales au modèle d'origine sur la base de l'hypothèse de transférabilité, ou utiliser une approche par force brute avec un très grand nombre de tests. Un test en boîte blanche exigerait de connaître l'architecture et les paramètres.