Ataques a sistemas de IA · Pregunta 1 de 12
¿Qué es la inyección de prompts?
1 respuesta es correcta. Fácil Creado con IA
Mostrar solución
Solución
- D Instrucciones inyectadas desvían un modelo de lenguaje
Explicación
En la inyección de prompts, la entrada contiene instrucciones que el modelo sigue aunque contradigan las reglas del operador, como "Ignore all previous rules". Los modelos de lenguaje no separan de forma fiable los datos de las órdenes.