Pruebas adversarias · Pregunta 55 de 60
Un reconocedor de señales de tráfico clasifica mal una señal de stop después de que se cambiaran unos pocos píxeles, apenas visibles para las personas. ¿Qué afirmaciones son correctas?
2 respuestas son correctas. Difícil Creado con IA
Mostrar solución
Solución
- B La imagen modificada es un ejemplo adversario
- D Hallazgos así deben usarse para incorporar salvaguardas y hacer el modelo más robusto
Explicación
Los ejemplos adversarios son versiones ligeramente modificadas de entradas legítimas, cuyas perturbaciones suelen ser imperceptibles para las personas y que hacen que el modelo las clasifique mal. Las vulnerabilidades identificadas sirven para incorporar salvaguardas. Los ejemplos adversarios pueden darse de forma accidental o usarse con fines maliciosos en ataques.