生成式 AI 测试 · 第 35 题,共 60 题
红队测试例如应当诱发哪些有害结果?
有 3 个正确答案。 中等 由 AI 生成
显示答案
答案
- B 侵犯隐私
- C 种族主义言论
- E 关于化学、生物、放射性或核(CBRN)攻击的指导
解析
在红队测试中,你会有意尝试从系统中诱出有害或不希望出现的输出,例如私人数据、种族主义言论或CBRN武器的制造说明。任何成功的尝试都揭示了一个可以随后修复的弱点。
生成式 AI 测试 · 第 35 题,共 60 题
有 3 个正确答案。 中等 由 AI 生成
在红队测试中,你会有意尝试从系统中诱出有害或不希望出现的输出,例如私人数据、种族主义言论或CBRN武器的制造说明。任何成功的尝试都揭示了一个可以随后修复的弱点。