AI उपयोग के जोखिम · प्रश्न 8 / 12
आवेदकों के चयन के लिए बना एक AI सिस्टम एक लिंग के आवेदकों को व्यवस्थित रूप से तरजीह देता है, क्योंकि पिछली नियुक्तियाँ उसी तरह बँटी थीं। इस समस्या को क्या कहते हैं?
1 उत्तर सही है। आसान AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- A Bias
व्याख्या
मॉडल अपने प्रशिक्षण डेटा के पैटर्न अपना लेते हैं, अनुचित पैटर्न भी। अगर अतीत में कुछ समूहों के साथ भेदभाव हुआ था, तो मॉडल उसे आगे बढ़ाता है। संतुलित डेटा, bias परीक्षण और मानवीय निगरानी इसमें मदद करते हैं।