IA y seguridad · Pregunta 48 de 60
Un modelo de IA sometido a pruebas rigurosas para un sistema de control industrial reacciona de forma distinta en campo ante entradas casi idénticas. ¿Qué reto se muestra aquí?
1 respuesta es correcta. Difícil Creado con IA
Mostrar solución
Solución
- C El no determinismo, por ejemplo debido a números aleatorios o pequeñas variaciones en las entradas
Explicación
Muchos sistemas de IA no son deterministas, por lo que su comportamiento nunca puede prometerse con exactitud. Incluso un modelo probado a fondo puede reaccionar de forma sorprendente porque internamente intervienen números aleatorios o porque la entrada se desvía mínimamente. Las especificaciones poco claras o las normativas son problemas distintos y no explican esto.