Pruebas de IA generativa · Pregunta 54 de 60
Una empresa quiere usar red teaming para comprobar, antes del lanzamiento, vulnerabilidades de seguridad en un LLM con integración de RAG. ¿Qué ataques deben considerarse?
3 respuestas son correctas. Difícil Creado con IA
Mostrar solución
Solución
- C Inyección indirecta de prompts
- D Factores de seguridad no relacionados con la IA
- E Contenido malicioso oculto en los documentos utilizados por RAG
Explicación
Cuando el red teaming se centra en la seguridad, se comprueba cuán vulnerable es el sistema desde fuera, tanto con debilidades clásicas como específicas de la IA. Entre estas últimas figuran la inyección indirecta de prompts y los documentos con instrucciones ocultas que llegan al sistema a través de RAG.