AI और सुरक्षा · प्रश्न 50 / 60
एक टीम सुरक्षा-संबंधी AI सिस्टम के लिए निर्णयों को अनुरेखणीय बनाने हेतु LIME का उपयोग करना चाहती है। किस बात का ध्यान रखना होगा?
2 उत्तर सही हैं। कठिन AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- B LIME तर्क-प्रक्रिया में अंतर्दृष्टि दे सकता है
- D ऐसी तकनीकें व्यापक रूप से उपलब्ध नहीं हैं और सिस्टम के प्रदर्शन से समझौता कर सकती हैं
व्याख्या
सुरक्षा-संबंधी सिस्टमों में यह समझना ज़रूरी है कि सिस्टम वैसा निर्णय क्यों लेता है। LIME (Local interpretable model-agnostic explanations) जैसी विधियाँ दिखाती हैं कि किन इनपुटों ने निर्णय को आकार दिया। लेकिन वे हर जगह उपलब्ध नहीं हैं, सिस्टम को धीमा कर सकती हैं और टेस्टिंग को अनावश्यक नहीं बनातीं।