जनरेटिव AI का परीक्षण · प्रश्न 55 / 60
एक स्वास्थ्य सेवा chatbot की सुरक्षा (safety) की जाँच red teaming से की जानी है। security red teaming के विपरीत इसका उद्देश्य क्या है?
1 उत्तर सही है। कठिन AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- B यह कि सिस्टम बिना विरोधी इरादे के सामान्य उपयोग में असुरक्षित सलाह जैसे हानिकारक आउटपुट कैसे उत्पन्न करता है
व्याख्या
Security red teaming दुर्भावनापूर्ण इनपुट के बारे में होती है। इसके विपरीत safety और अन्य लक्ष्यों के साथ अक्सर यह पूछा जाता है कि क्या सिस्टम बिल्कुल सामान्य उपयोग में हानि पहुँचा सकता है, उदाहरण के लिए किसी ख़तरनाक स्वास्थ्य सुझाव से, भले ही उपयोगकर्ता का इरादा बुरा न हो।