Pruebas de IA generativa · Pregunta 37 de 60
¿Con qué enfoques se puede lograr una cobertura amplia en el red teaming?
3 respuestas son correctas. Medio Creado con IA
Mostrar solución
Solución
- A Enfoques híbridos que combinan la creatividad humana y la automatización
- C Automatización en la que un LLM genera prompts de ataque y otro comprueba las salidas
- D Generación de prompts mediante colaboración abierta
Explicación
El red teaming no tiene que hacerlo solo un pequeño equipo de expertos. También se pueden recopilar prompts de muchos voluntarios (crowdsourcing), un LLM puede generar ataques en masa mientras un segundo LLM juzga las respuestas, o se pueden mezclar ambos: las personas aportan las ideas y la automatización el volumen.