Pruebas de IA generativa · Pregunta 12 de 60
¿Qué es el red teaming (RT)?
1 respuesta es correcta. Fácil Creado con IA
Mostrar solución
Solución
- A Un ataque dirigido, normalmente sin conocimiento interno del modelo, destinado a descubrir comportamientos dañinos
Explicación
En el red teaming, los testers atacan el sistema de IA de forma planificada, normalmente sin mirar dentro, e intentan arrancarle respuestas dañinas o indeseables. Lo que encuentran sirve para mejorar el sistema. La supervisión continua durante la operación, en cambio, se denomina blue teaming.