IA et sécurité · Question 49 sur 60
Un assistant auto-apprenant dans un centre de contrôle a été testé de manière exhaustive avant son déploiement. Quelles mesures aident à éviter qu'un comportement dangereux ne s'installe en exploitation ?
2 réponses sont correctes. Difficile Créé avec l’IA
Afficher la solution
Solution
- A Maîtriser la manière dont le modèle apprend et les données qu'il utilise
- D Mettre en place des garde-fous de sécurité qui empêchent un apprentissage ou des décisions compromettant la sécurité
Explication
Pour les systèmes auto-apprenants, le comportement s'éloigne progressivement du comportement testé à l'origine, ce qui sape l'argumentaire de sécurité. Maîtriser la manière dont le modèle apprend et les données qu'il utilise peut aider. Alternativement, des garde-fous de sécurité peuvent l'empêcher d'apprendre ou de décider d'une manière compromettant la sécurité, par exemple un composant de modération de contenu qui filtre les prompts.