Attaques contre les systèmes d'IA · Question 12 sur 12
Pourquoi considère-t-on l'injection de prompt comme difficile à corriger complètement, contrairement à l'injection SQL ?
1 réponse est correcte. Difficile Créé avec l’IA
Afficher la solution
Solution
- A Les modèles ne séparent pas strictement les commandes des données
Explication
Avec l'injection SQL, les requêtes préparées séparent de façon fiable le code et les données. Un modèle de langage, en revanche, traite tout comme du texte dans le même contexte. C'est pourquoi on utilise plusieurs couches : filtres, droits minimaux, confirmations et surveillance.