AI प्रणालियों पर हमले · प्रश्न 1 / 12
Prompt injection क्या है?
1 उत्तर सही है। आसान AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- D इंजेक्ट किए गए निर्देश भाषा मॉडल को मोड़ देते हैं
व्याख्या
Prompt injection में इनपुट के अंदर ऐसे निर्देश होते हैं जिन्हें मॉडल मान लेता है, भले ही वे संचालक के नियमों के विरुद्ध हों, जैसे "पिछले सभी नियम अनदेखा करो"। भाषा मॉडल डेटा और कमांड को भरोसेमंद ढंग से अलग नहीं कर पाते।