Biais et variance · Question 11 sur 12
Un modèle de recrutement propose moins souvent des femmes pour des postes techniques. Les données d'entraînement sont constituées de décisions d'embauche des dix dernières années. Quelles causes sont probables ?
2 réponses sont correctes. Difficile Créé avec l’IA
Afficher la solution
Solution
- C Des caractéristiques comme les loisirs servent de proxys du genre
- E Une discrimination historique est contenue dans les étiquettes
Explication
Si les décisions passées étaient biaisées, le modèle apprend ce biais à partir des étiquettes. De plus, des caractéristiques apparemment neutres peuvent être corrélées au genre. Des métriques de biais, par exemple avec SageMaker Clarify, la vérification des caractéristiques et l'analyse par sous-groupe le révèlent.