Test des biais · Question 43 sur 60
Un modèle de crédit doit être vérifié quant aux biais. L'équipe génère des demandes identiques à l'exception du genre et constate, sur de nombreux tests, que les décisions diffèrent de manière significative. Quelles affirmations sont correctes ?
2 réponses sont correctes. Difficile Créé avec l’IA
Afficher la solution
Solution
- C Le résultat indique un biais dans le modèle
- D L'approche correspond à une analyse d'impact disproportionné avec des contrefactuels
Explication
Dans l'analyse d'impact disproportionné, on identifie les attributs sensibles, on génère des contrefactuels, par exemple avec un genre modifié, et l'on analyse statistiquement les sorties du modèle sur de nombreux tests. Si la modification de l'attribut sensible change le résultat de manière significative, cela signale un biais.