Tests adverses · Question 55 sur 60
Un système de reconnaissance de panneaux de signalisation classe mal un panneau stop après la modification de quelques pixels, à peine visibles pour l'humain. Quelles affirmations sont correctes ?
2 réponses sont correctes. Difficile Créé avec l’IA
Afficher la solution
Solution
- B L'image modifiée est un exemple adversarial
- D De telles constatations doivent servir à intégrer des protections et à rendre le modèle plus robuste
Explication
Les exemples adversariaux sont des versions légèrement modifiées d'entrées légitimes, dont les perturbations sont souvent imperceptibles pour l'humain et qui amènent le modèle à les classer à tort. Les vulnérabilités identifiées servent à intégrer des protections. Les exemples adversariaux peuvent apparaître accidentellement ou être utilisés de façon malveillante dans des attaques.