जनरेटिव AI का परीक्षण · प्रश्न 54 / 60

एक कंपनी लॉन्च से पहले सुरक्षा कमज़ोरियों के लिए RAG एकीकरण वाले एक LLM की red teaming से जाँच करना चाहती है। किन हमलों पर विचार करना चाहिए?

3 उत्तर सही हैं। कठिन AI से बनाया गया

उत्तर दिखाएँ

उत्तर

  • C अप्रत्यक्ष prompt injection
  • D गैर-AI सुरक्षा कारक
  • E RAG द्वारा उपयोग किए जाने वाले दस्तावेज़ों में छिपी दुर्भावनापूर्ण सामग्री

व्याख्या

जब red teaming सुरक्षा (security) के बारे में हो, तो आप जाँचते हैं कि सिस्टम बाहर से कितना असुरक्षित है, क्लासिक और AI-विशिष्ट दोनों कमज़ोरियों के साथ। बाद वाली में अप्रत्यक्ष prompt injection और छिपे निर्देशों वाले दस्तावेज़ शामिल हैं जो RAG के माध्यम से सिस्टम में पहुँच जाते हैं।

सर्टिफ़िकेशन और परीक्षाएँ

अगली परीक्षा कौन-सी होगी?

आप 51 परीक्षाओं का अभ्यास पहले से कर सकते हैं, 16 पर वोटिंग चल रही है। सभी सर्टिफ़िकेशन आधिकारिक जानकारी के साथ देखें, वोट करें या अपनी परीक्षा सुझाएँ।

सभी सर्टिफ़िकेशन देखें