IA et sécurité · Question 50 sur 60
Une équipe veut utiliser LIME pour un système d'IA lié à la sécurité afin de rendre les décisions traçables. Que faut-il prendre en compte ?
2 réponses sont correctes. Difficile Créé avec l’IA
Afficher la solution
Solution
- B LIME peut donner un aperçu du raisonnement
- D De telles techniques ne sont pas largement disponibles et peuvent compromettre les performances du système
Explication
Avec les systèmes liés à la sécurité, il faut comprendre pourquoi le système décide comme il le fait. Des méthodes telles que LIME (Local interpretable model-agnostic explanations) montrent quelles entrées ont façonné une décision. Cependant, elles ne sont pas disponibles partout, peuvent ralentir le système et ne rendent pas les tests inutiles.