ML मॉडल जोखिम · प्रश्न 43 / 60
एक चैटबॉट कभी-कभी खतरनाक मार्गदर्शन देता है और व्यक्तिगत डेटा प्रकट कर देता है। इन जोखिमों के लिए कौन-सा शमन उपयुक्त है?
1 उत्तर सही है। कठिन AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- C Red teaming
व्याख्या
Red teaming सुरक्षा (security और safety) कमज़ोरियों, गोपनीयता उल्लंघनों और नस्लवादी विचारों या खतरनाक मार्गदर्शन जैसे हानिकारक या अवांछित आउटपुट का शमन है। वर्णित दोनों समस्याएँ इसी में आती हैं।