जनरेटिव AI का परीक्षण · प्रश्न 37 / 60
red teaming में व्यापक कवरेज किन दृष्टिकोणों से हासिल की जा सकती है?
3 उत्तर सही हैं। मध्यम AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- A हाइब्रिड दृष्टिकोण जो मानवीय रचनात्मकता और स्वचालन को जोड़ते हैं
- C स्वचालन, जिसमें एक LLM हमला करने वाले प्रॉम्प्ट बनाता है और दूसरा आउटपुट की जाँच करता है
- D क्राउड-सोर्स्ड प्रॉम्प्ट जनरेशन
व्याख्या
red teaming केवल विशेषज्ञों की छोटी टीम द्वारा ही नहीं करनी पड़ती। प्रॉम्प्ट कई स्वयंसेवकों से भी जुटाए जा सकते हैं (क्राउडसोर्सिंग), एक LLM थोक में हमले बना सकता है जबकि दूसरा LLM उत्तरों को आँकता है, या दोनों को मिलाया जा सकता है: लोग विचार देते हैं, स्वचालन मात्रा।