IA et sécurité · Question 49 sur 60

Un assistant auto-apprenant dans un centre de contrôle a été testé de manière exhaustive avant son déploiement. Quelles mesures aident à éviter qu'un comportement dangereux ne s'installe en exploitation ?

2 réponses sont correctes. Difficile Créé avec l’IA

Afficher la solution

Solution

  • A Maîtriser la manière dont le modèle apprend et les données qu'il utilise
  • D Mettre en place des garde-fous de sécurité qui empêchent un apprentissage ou des décisions compromettant la sécurité

Explication

Pour les systèmes auto-apprenants, le comportement s'éloigne progressivement du comportement testé à l'origine, ce qui sape l'argumentaire de sécurité. Maîtriser la manière dont le modèle apprend et les données qu'il utilise peut aider. Alternativement, des garde-fous de sécurité peuvent l'empêcher d'apprendre ou de décider d'une manière compromettant la sécurité, par exemple un composant de modération de contenu qui filtre les prompts.

Certifications & examens

Quel examen pour la suite ?

Tu peux déjà t’entraîner pour 51 examens, 16 sont soumis au vote. Découvre toutes les certifications avec les infos officielles, vote ou propose ton examen.

Voir toutes les certifications