Attaques contre les systèmes d'IA · Question 1 sur 12
Qu'est-ce que l'injection de prompt ?
1 réponse est correcte. Facile Créé avec l’IA
Afficher la solution
Solution
- D Des instructions injectées détournent un modèle de langage
Explication
Dans l'injection de prompt, l'entrée contient des instructions que le modèle suit bien qu'elles contredisent les règles de l'exploitant, comme « Ignore toutes les règles précédentes ». Les modèles de langage ne séparent pas de façon fiable les données des commandes.