IA y seguridad · Pregunta 49 de 60

Un asistente que aprende por sí mismo en un centro de control se probó exhaustivamente antes del despliegue. ¿Qué medidas ayudan a que no se introduzca un comportamiento peligroso durante la operación?

2 respuestas son correctas. Difícil Creado con IA

Mostrar solución

Solución

  • A Gestionar cómo aprende el modelo y qué datos utiliza
  • D Implementar salvaguardas que impidan el aprendizaje o las decisiones que comprometan la seguridad

Explicación

En los sistemas que aprenden por sí mismos, el comportamiento se aleja progresivamente del comportamiento probado originalmente, lo que socava el caso de seguridad. Gestionar cómo aprende el modelo y qué datos utiliza puede ayudar. Alternativamente, las salvaguardas pueden impedir que aprenda o decida de formas que comprometan la seguridad, por ejemplo un componente de moderación de contenido que filtra los prompts.

Certificaciones y exámenes

¿Qué examen viene después?

Ya puedes practicar 51 exámenes y 16 están en votación. Mira todas las certificaciones con información oficial, vota o propón tu examen.

Ver todas las certificaciones