生成式 AI 测试 · 第 55 题,共 60 题

要通过红队测试检查一个医疗聊天机器人的安全性(safety)。与安全(security)红队测试不同,它的目标是什么?

有 1 个正确答案。 困难 由 AI 生成

显示答案

答案

  • B 系统在没有对抗意图的普通使用下,如何产生不安全建议等有害输出

解析

安全(security)红队测试针对的是恶意输入。而对于安全性(safety)及其他目标,则常常要问系统在完全正常的使用中是否会造成伤害,例如给出危险的健康建议,尽管用户并无恶意。

认证与考试

下一个考试是什么?

已有 51 项考试可以练习,16 项正在投票中。查看所有认证及官方信息,投出你的一票,或推荐你的考试。

查看全部认证