IA y seguridad · Pregunta 49 de 60
Un asistente que aprende por sí mismo en un centro de control se probó exhaustivamente antes del despliegue. ¿Qué medidas ayudan a que no se introduzca un comportamiento peligroso durante la operación?
2 respuestas son correctas. Difícil Creado con IA
Mostrar solución
Solución
- A Gestionar cómo aprende el modelo y qué datos utiliza
- D Implementar salvaguardas que impidan el aprendizaje o las decisiones que comprometan la seguridad
Explicación
En los sistemas que aprenden por sí mismos, el comportamiento se aleja progresivamente del comportamiento probado originalmente, lo que socava el caso de seguridad. Gestionar cómo aprende el modelo y qué datos utiliza puede ayudar. Alternativamente, las salvaguardas pueden impedir que aprenda o decida de formas que comprometan la seguridad, por ejemplo un componente de moderación de contenido que filtra los prompts.