Pruebas de IA generativa · Pregunta 54 de 60

Una empresa quiere usar red teaming para comprobar, antes del lanzamiento, vulnerabilidades de seguridad en un LLM con integración de RAG. ¿Qué ataques deben considerarse?

3 respuestas son correctas. Difícil Creado con IA

Mostrar solución

Solución

  • C Inyección indirecta de prompts
  • D Factores de seguridad no relacionados con la IA
  • E Contenido malicioso oculto en los documentos utilizados por RAG

Explicación

Cuando el red teaming se centra en la seguridad, se comprueba cuán vulnerable es el sistema desde fuera, tanto con debilidades clásicas como específicas de la IA. Entre estas últimas figuran la inyección indirecta de prompts y los documentos con instrucciones ocultas que llegan al sistema a través de RAG.

Certificaciones y exámenes

¿Qué examen viene después?

Ya puedes practicar 51 exámenes y 16 están en votación. Mira todas las certificaciones con información oficial, vota o propón tu examen.

Ver todas las certificaciones