AI प्रणालियों पर हमले · प्रश्न 2 / 12
भाषा मॉडल के संदर्भ में jailbreaking का क्या अर्थ है?
1 उत्तर सही है। आसान AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- D इनपुट के ज़रिए मॉडल के सुरक्षा नियमों को दरकिनार करना
व्याख्या
Jailbreak में role play, शब्दों को बदलने या चालों से मॉडल के सुरक्षा नियम दरकिनार किए जाते हैं, ताकि वह ऐसी सामग्री बनाए जिसे उसे मना करना चाहिए। प्रदाता अपनी सुरक्षा लगातार सुधारते हैं, फिर भी इसे पूरी तरह रोकना लगभग असंभव है।