AI और सुरक्षा · प्रश्न 32 / 60
स्व-अधिगम वाले सिस्टम के लिए safety guard का उदाहरण कौन-सा है?
1 उत्तर सही है। मध्यम AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- B एक कंटेंट मॉडरेशन घटक जो प्रॉम्प्ट को फ़िल्टर करता है
व्याख्या
Safety guard मॉडल के लिए सीमाएँ तय करते हैं ताकि वह कुछ ऐसा न सीखे और न तय करे जो खतरनाक बन सके। एक उदाहरण मॉडरेशन घटक है जो प्रॉम्प्ट को पहले से फ़िल्टर करता है। दूसरा तरीका यह नियंत्रित करना है कि मॉडल कैसे और किस डेटा से सीखता है।