AI 与安全 · 第 49 题,共 60 题

控制中心的一个自学习助手在部署前经过了全面测试。哪些措施有助于避免运行中出现危险行为?

有 2 个正确答案。 困难 由 AI 生成

显示答案

答案

  • A 管理模型的学习方式及其使用的数据
  • D 实施安全防护措施,阻止损害安全的学习或决策

解析

对于自学习系统,其行为会逐渐偏离最初测试过的行为,这会削弱安全论证。管理模型的学习方式及其使用的数据会有帮助。另外,安全防护措施可以阻止其以损害安全的方式学习或决策,例如过滤提示词的内容审核组件。

认证与考试

下一个考试是什么?

已有 51 项考试可以练习,16 项正在投票中。查看所有认证及官方信息,投出你的一票,或推荐你的考试。

查看全部认证