Riesgos de los modelos de ML · Pregunta 43 de 60
Un chatbot ofrece ocasionalmente orientaciones peligrosas y revela datos personales. ¿Qué mitigación se ajusta a estos riesgos?
1 respuesta es correcta. Difícil Creado con IA
Mostrar solución
Solución
- C Red teaming
Explicación
El red teaming es la mitigación para las vulnerabilidades de seguridad (security y safety), las violaciones de la privacidad y las salidas dañinas o indeseables, como opiniones racistas u orientaciones peligrosas. Los dos problemas descritos entran en esta categoría.