ISTQB CT-AI
Tests des modèles de ML : risques, performance, attaques
Facile
Risques des modèles ML
- Quelle mesure d'atténuation correspond au risque « exemples adverses » ?
- Quelle mesure d'atténuation aide contre une dérive des données ou une dérive de concept inacceptable ?
- Quelle mesure d'atténuation aide si le déploiement d'un modèle mis à jour risque de provoquer une défaillance immédiate ?
- Quelle mesure d'atténuation aide contre une efficacité de performance inadéquate du modèle de ML ?
- Quelle mesure d'atténuation aide contre une mauvaise documentation du modèle ?
- Quelle mesure d'atténuation aide contre un défaut dans l'API du modèle ?
Documentation du modèle
- Pourquoi la documentation des modèles de ML est-elle si importante ?
- Que sont les model cards ?
- Que décrivent les « datasheets for datasets » ?
- Quel rôle joue un audit de la documentation pour les systèmes à haut risque ?
- À quelle section de la documentation d'un modèle de ML appartiennent le plan de déploiement, les métriques de surveillance et le plan de retour arrière ?
Tests de performance fonctionnelle
- Qu'évalue le test de performance fonctionnelle du ML ?
- Que signifie l'abréviation MoE en lien avec les critères d'acceptation statistiques ?
- Comment faut-il formuler un rapport de test sur la performance fonctionnelle d'un modèle de ML probabiliste ?
- Quelles exigences le jeu de données de test doit-il satisfaire pour le test de performance fonctionnelle ?
Tests adverses
Moyen
Risques des modèles ML
- Quels types de risques le test des modèles de ML couvre-t-il ?
- Quelles mesures d'atténuation aident contre le problème de l'oracle de test pour les modèles de ML ?
- Quelles mesures d'atténuation aident en cas d'exigences système médiocres ?
- Quelles mesures d'atténuation aident contre un manque de robustesse du modèle face à des entrées inattendues ?
- Quelles mesures d'atténuation conviennent aux mises à jour du modèle qui introduisent des défauts ou réduisent la performance fonctionnelle ?
- Contre quels risques le red teaming est-il utile ?
- Quelles mesures d'atténuation conviennent aux risques « le modèle provoque des effets de bord » et « le modèle pratique le détournement de récompense (reward hacking) » ?
Documentation du modèle
- Quels sont les objectifs de la revue de la documentation d'un modèle de ML au regard d'une liste de contrôle ?
- Quels contenus relèvent de la section « jeux de données » de la documentation d'un modèle de ML ?
- Quels contenus relèvent de la section « utilisation » de la documentation d'un modèle de ML ?
- Quel rôle la transparence joue-t-elle pour la documentation d'un modèle ?
Tests de performance fonctionnelle
- Quelle est une condition préalable au test de performance fonctionnelle des systèmes de ML probabilistes ?
- Que se passe-t-il si le niveau de confiance est fixé lorsque le nombre de tests augmente ?
- Que se passe-t-il si la marge d'erreur est fixée lorsque le nombre de tests augmente ?
- Combien de cas de test faut-il pour confirmer « 98 % de précision avec une marge d'erreur de ±4 % à un niveau de confiance de 95 % » dans toutes les conditions ?
- Que permet le test séquentiel dans le test de performance fonctionnelle ?
- Pourquoi le test de performance fonctionnelle des systèmes de ML probabilistes va-t-il au-delà d'un simple « réussi/échoué » ?
Tests adverses
Difficile
Risques des modèles ML
- Après une mise à jour du modèle, une équipe signale : le nouveau modèle plante immédiatement après le déploiement, et dans une autre version des cas auparavant corrects ne fonctionnent plus. Quelles mesures d'atténuation correspondent à ces deux risques ?
- Quelles associations entre risque du modèle et mesure d'atténuation sont correctes ?
- Un chatbot fournit occasionnellement des conseils dangereux et divulgue des données personnelles. Quelle mesure d'atténuation correspond à ces risques ?
- Une équipe n'a ni oracle de test ni exigences précises pour un nouveau modèle. Quelles mesures d'atténuation correspondent à ces deux risques ?
Documentation du modèle
- Lors de la revue de la documentation du modèle, on constate que les détails du jeu de données de test, l'indépendance des tests et les activités de test adversarial manquent. Quelle section de la documentation est incomplète, et quel objectif de la revue est concerné ?
- Quelles associations entre contenu et section de la documentation d'un modèle ML sont correctes ?
- Une équipe doit décrire de façon standardisée à une autorité de régulation le modèle et les données d'entraînement d'un système à haut risque. Quels cadres de documentation conviennent, et pour quoi ?
- Pourquoi une revue approfondie de la documentation du modèle est-elle aussi utile pour des systèmes non considérés comme à haut risque ?
Tests de performance fonctionnelle
- Pour le critère « 98 % d'exactitude avec une marge d'erreur de ±4 % à un niveau de confiance de 95 % », 601 cas de test ont été planifiés et tous exécutés, dont 580 réussis. Le critère est-il rempli ?
- Pour un système critique pour la sécurité, « 99 % de fiabilité avec 95 % de confiance » s'applique. Quelles affirmations sont correctes ?
- Après 601 cas de test, l'exactitude observée est de 98 %. Que vaut la marge d'erreur mesurée au niveau de confiance de 95 % ?
- Une équipe utilise le test séquentiel pour le critère « 98 % d'exactitude avec ±4 % à un CL de 95 % », et l'exactitude observée reste constamment à 98 % ou plus. Quand le test peut-il s'arrêter, approximativement ?
- Une équipe mesure l'exactitude d'un modèle sur un échantillon du jeu de données d'entraînement et indique « 96 % ±3 % à un CL de 95 % ». Que faut-il critiquer ?
- Quel rapport de test convient pour des systèmes ML probabilistes ?
- Une partie prenante exige seulement « exactitude ≥ 95 % » pour la recette. Que manque-t-il pour un critère d'acceptation défini statistiquement, et à quoi cela sert-il ?
- Un chef de projet demande pourquoi pas moins de 601 cas de test sont planifiés pour « 98 % d'exactitude avec ±4 % à un CL de 95 % », alors que le modèle atteint de toute façon environ 98 %. Quelle en est la raison ?
Tests adverses
- Une équipe n'a qu'un accès par API au modèle d'images d'un fournisseur et veut le tester face aux exemples adversariaux. Quelles approches sont possibles ?
- Un système de reconnaissance de panneaux de signalisation classe mal un panneau stop après la modification de quelques pixels, à peine visibles pour l'humain. Quelles affirmations sont correctes ?
- Une équipe de développement a un accès complet à l'architecture, aux paramètres et au processus d'entraînement de son modèle. Quelle approche du test adversarial est alors typiquement plus facile ?
- Une entreprise a réalisé un test adversarial une seule fois il y a deux ans et considère le sujet comme réglé. Qu'est-ce qui s'y oppose ?