Test de l'IA générative · Question 55 sur 60

Un chatbot de santé doit être vérifié sous l'angle de la sûreté par du red teaming. Quel est l'objectif, à la différence du red teaming de sécurité ?

1 réponse est correcte. Difficile Créé avec l’IA

Afficher la solution

Solution

  • B Comment le système produit des sorties nuisibles, comme des conseils dangereux, dans le cadre d'un usage ordinaire sans intention adverse

Explication

Le red teaming de sécurité porte sur les entrées malveillantes. Avec la sûreté et d'autres objectifs, on se demande en revanche souvent si le système peut causer un tort lors d'un usage tout à fait normal, par exemple avec un conseil de santé dangereux, même si l'utilisateur n'avait aucune mauvaise intention.

Certifications & examens

Quel examen pour la suite ?

Tu peux déjà t’entraîner pour 51 examens, 16 sont soumis au vote. Découvre toutes les certifications avec les infos officielles, vote ou propose ton examen.

Voir toutes les certifications