Test de l'IA générative · Question 54 sur 60
Une entreprise veut recourir au red teaming pour rechercher des vulnérabilités de sécurité dans un LLM intégrant du RAG avant son lancement. Quelles attaques faut-il envisager ?
3 réponses sont correctes. Difficile Créé avec l’IA
Afficher la solution
Solution
- C L'injection de prompt indirecte
- D Des facteurs de sécurité non liés à l'IA
- E Du contenu malveillant caché dans les documents utilisés par le RAG
Explication
Lorsque le red teaming porte sur la sécurité, on vérifie la vulnérabilité du système vue de l'extérieur, avec des faiblesses classiques comme propres à l'IA. Parmi ces dernières figurent l'injection de prompt indirecte et les documents contenant des instructions cachées qui entrent dans le système via le RAG.