Pruebas de IA generativa · Pregunta 55 de 60
Se quiere comprobar la seguridad (safety) de un chatbot sanitario mediante red teaming. ¿Qué persigue esto, a diferencia del red teaming de seguridad (security)?
1 respuesta es correcta. Difícil Creado con IA
Mostrar solución
Solución
- B Cómo produce el sistema salidas dañinas, como consejos inseguros, en un uso ordinario sin intención adversaria
Explicación
El red teaming de seguridad (security) trata de entradas maliciosas. Con la seguridad (safety) y otros objetivos, en cambio, a menudo se pregunta si el sistema puede causar daño durante un uso completamente normal, por ejemplo con un consejo de salud peligroso, aunque el usuario no tuviera mala intención.