Fondamentaux de l'IA · Question 42 sur 60
Une autorité veut homologuer un système d'IA pour des diagnostics médicaux et exige que chaque décision puisse être justifiée. Quelle différence avec les systèmes conventionnels constitue ici le principal problème ?
1 réponse est correcte. Difficile Créé avec l’IA
Afficher la solution
Solution
- A La faible explicabilité des grands modèles comportant un très grand nombre de paramètres
Explication
L'explicabilité est un défi majeur des systèmes basés sur l'IA. Les modèles de deep learning peuvent contenir des milliards de paramètres et sont donc souvent considérés comme une boîte noire. Dans la santé en particulier, il est crucial de comprendre pourquoi un modèle a pris une décision. Les systèmes d'IA gèrent particulièrement bien l'incertitude ; c'est donc une force et non un problème.