बायस और वैरिएंस · प्रश्न 11 / 12
एक भर्ती मॉडल तकनीकी पदों के लिए महिलाओं को कम बार सुझाता है। ट्रेनिंग डेटा पिछले दस वर्षों के भर्ती निर्णयों से बना है। कौन-से कारण संभावित हैं?
2 उत्तर सही हैं। कठिन AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- C शौक जैसी विशेषताएँ लिंग के proxy का काम करती हैं
- E लेबलों में ऐतिहासिक भेदभाव मौजूद है
व्याख्या
अगर पिछले निर्णय पक्षपातपूर्ण थे, तो मॉडल लेबलों से यह पक्षपात सीख लेता है। इसके अलावा, देखने में तटस्थ विशेषताएँ लिंग से सहसंबद्ध हो सकती हैं। Bias मेट्रिक्स, जैसे SageMaker Clarify के साथ, विशेषताओं की जाँच और उप-समूह विश्लेषण इसे उजागर करते हैं।