जनरेटिव AI का परीक्षण · प्रश्न 36 / 60
विशिष्ट red teaming दृष्टिकोण में कौन-से चरण शामिल हैं?
3 उत्तर सही हैं। मध्यम AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- C शमन को समर्थन देने के लिए खतरों से डेटासेट बनाना
- D प्रॉम्प्ट देकर सिस्टम में कमज़ोरियों की जाँच करना और विफलताओं का विश्लेषण करना
- E एक विविध टीम बनाना और सुरक्षित टेस्ट परिवेश में पहुँच उपलब्ध कराना
व्याख्या
विशिष्ट दृष्टिकोण में पाँच चरण हैं: एक विविध टीम बनाना, सुरक्षित टेस्ट परिवेश में पहुँच देना, कमज़ोरियाँ पहचानने के लिए सिस्टम को प्रॉम्प्ट देना, पहचानी गई विफलताओं का विश्लेषण करना और शमन को समर्थन देने के लिए खतरों से डेटासेट बनाना। मूल अक्सर 15–20 बातचीत के चरणों तक इंटरैक्टिव प्रॉम्प्टिंग होता है।