AI और सुरक्षा · प्रश्न 49 / 60

नियंत्रण केंद्र में एक स्वयं सीखने वाले सहायक का परिनियोजन से पहले व्यापक टेस्ट किया गया था। कौन-से उपाय मदद करते हैं ताकि संचालन के दौरान कोई खतरनाक व्यवहार न आ जाए?

2 उत्तर सही हैं। कठिन AI से बनाया गया

उत्तर दिखाएँ

उत्तर

  • A यह प्रबंधित करना कि मॉडल कैसे सीखता है और कौन-सा डेटा उपयोग करता है
  • D ऐसे safety guards लागू करना जो सुरक्षा से समझौता करने वाली सीख या निर्णयों को रोकें

व्याख्या

स्वयं सीखने वाले सिस्टमों में व्यवहार धीरे-धीरे मूल रूप से टेस्ट किए गए व्यवहार से दूर होता जाता है, जिससे सुरक्षा तर्क (safety case) कमज़ोर पड़ता है। यह प्रबंधित करना कि मॉडल कैसे सीखता है और कौन-सा डेटा उपयोग करता है, मदद कर सकता है। वैकल्पिक रूप से safety guards उसे ऐसे ढंग से सीखने या निर्णय लेने से रोक सकते हैं जो सुरक्षा से समझौता करे, उदाहरण के लिए prompts को फ़िल्टर करने वाला content moderation घटक।

सर्टिफ़िकेशन और परीक्षाएँ

अगली परीक्षा कौन-सी होगी?

आप 51 परीक्षाओं का अभ्यास पहले से कर सकते हैं, 16 पर वोटिंग चल रही है। सभी सर्टिफ़िकेशन आधिकारिक जानकारी के साथ देखें, वोट करें या अपनी परीक्षा सुझाएँ।

सभी सर्टिफ़िकेशन देखें