AI के मूल सिद्धांत · प्रश्न 42 / 60
एक प्राधिकरण चिकित्सीय निदान के लिए एक AI सिस्टम को अनुमोदित करना चाहता है और माँग करता है कि हर निर्णय का औचित्य बताया जा सके। परंपरागत सिस्टमों से कौन-सा अंतर यहाँ मुख्य समस्या है?
1 उत्तर सही है। कठिन AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- A बहुत अधिक पैरामीटरों वाले बड़े मॉडलों की कम व्याख्येयता
व्याख्या
व्याख्येयता AI-आधारित सिस्टमों की एक प्रमुख चुनौती है। Deep learning मॉडलों में अरबों पैरामीटर हो सकते हैं, इसलिए उन्हें अक्सर ब्लैक बॉक्स माना जाता है। विशेषकर स्वास्थ्य सेवा में यह समझना निर्णायक है कि मॉडल ने कोई निर्णय क्यों लिया। AI सिस्टम अनिश्चितता को विशेष रूप से अच्छी तरह संभालते हैं, इसलिए वह समस्या नहीं बल्कि एक ताकत है।