Attaques contre les systèmes d'IA · Question 2 sur 12
Qu'entend-on par jailbreaking dans le contexte des modèles de langage ?
1 réponse est correcte. Facile Créé avec l’IA
Afficher la solution
Solution
- D Contourner par la saisie les règles de sécurité du modèle
Explication
Un jailbreak utilise le jeu de rôle, la reformulation ou des astuces pour contourner les règles de sécurité d'un modèle afin qu'il produise des contenus qu'il devrait refuser. Les fournisseurs améliorent sans cesse leurs protections, mais il est difficile de l'empêcher complètement.