प्रतिकूल परीक्षण · प्रश्न 55 / 60
कुछ पिक्सेल, जो मनुष्यों को मुश्किल से दिखते हैं, बदले जाने के बाद एक ट्रैफ़िक साइन पहचानकर्ता स्टॉप साइन को गलत वर्गीकृत करता है। कौन-से कथन सही हैं?
2 उत्तर सही हैं। कठिन AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- B संशोधित छवि एक adversarial example है
- D ऐसे निष्कर्षों का उपयोग सुरक्षा उपाय शामिल करने और मॉडल को अधिक मज़बूत बनाने के लिए किया जाना चाहिए
व्याख्या
Adversarial examples वैध इनपुट के थोड़े संशोधित रूप होते हैं जिनके विक्षोभ अक्सर मनुष्यों को अदृश्य होते हैं और जो मॉडल को उन्हें गलत वर्गीकृत करने पर मजबूर करते हैं। पहचानी गई कमज़ोरियाँ सुरक्षा उपाय शामिल करने के काम आती हैं। Adversarial examples संयोगवश भी उत्पन्न हो सकते हैं या हमलों में दुर्भावनापूर्वक उपयोग किए जा सकते हैं।