生成式 AI 测试 · 第 55 题,共 60 题
要通过红队测试检查一个医疗聊天机器人的安全性(safety)。与安全(security)红队测试不同,它的目标是什么?
有 1 个正确答案。 困难 由 AI 生成
显示答案
答案
- B 系统在没有对抗意图的普通使用下,如何产生不安全建议等有害输出
解析
安全(security)红队测试针对的是恶意输入。而对于安全性(safety)及其他目标,则常常要问系统在完全正常的使用中是否会造成伤害,例如给出危险的健康建议,尽管用户并无恶意。
生成式 AI 测试 · 第 55 题,共 60 题
有 1 个正确答案。 困难 由 AI 生成
安全(security)红队测试针对的是恶意输入。而对于安全性(safety)及其他目标,则常常要问系统在完全正常的使用中是否会造成伤害,例如给出危险的健康建议,尽管用户并无恶意。