AI 与安全 · 第 49 题,共 60 题
控制中心的一个自学习助手在部署前经过了全面测试。哪些措施有助于避免运行中出现危险行为?
有 2 个正确答案。 困难 由 AI 生成
显示答案
答案
- A 管理模型的学习方式及其使用的数据
- D 实施安全防护措施,阻止损害安全的学习或决策
解析
对于自学习系统,其行为会逐渐偏离最初测试过的行为,这会削弱安全论证。管理模型的学习方式及其使用的数据会有帮助。另外,安全防护措施可以阻止其以损害安全的方式学习或决策,例如过滤提示词的内容审核组件。
AI 与安全 · 第 49 题,共 60 题
有 2 个正确答案。 困难 由 AI 生成
对于自学习系统,其行为会逐渐偏离最初测试过的行为,这会削弱安全论证。管理模型的学习方式及其使用的数据会有帮助。另外,安全防护措施可以阻止其以损害安全的方式学习或决策,例如过滤提示词的内容审核组件。