Test de l'IA générative · Question 54 sur 60

Une entreprise veut recourir au red teaming pour rechercher des vulnérabilités de sécurité dans un LLM intégrant du RAG avant son lancement. Quelles attaques faut-il envisager ?

3 réponses sont correctes. Difficile Créé avec l’IA

Afficher la solution

Solution

  • C L'injection de prompt indirecte
  • D Des facteurs de sécurité non liés à l'IA
  • E Du contenu malveillant caché dans les documents utilisés par le RAG

Explication

Lorsque le red teaming porte sur la sécurité, on vérifie la vulnérabilité du système vue de l'extérieur, avec des faiblesses classiques comme propres à l'IA. Parmi ces dernières figurent l'injection de prompt indirecte et les documents contenant des instructions cachées qui entrent dans le système via le RAG.

Certifications & examens

Quel examen pour la suite ?

Tu peux déjà t’entraîner pour 51 examens, 16 sont soumis au vote. Découvre toutes les certifications avec les infos officielles, vote ou propose ton examen.

Voir toutes les certifications