生成式 AI 测试 · 第 12 题,共 60 题
什么是红队测试(RT)?
有 1 个正确答案。 简单 由 AI 生成
显示答案
答案
- A 通常在不了解模型内部的情况下进行的有针对性的攻击,旨在发现有害行为
解析
在红队测试中,测试人员有计划地攻击AI系统,通常不查看内部,并试图诱导出有害或不良的回答。他们的发现用于改进系统。相比之下,运行期间的持续监控称为蓝队测试。
生成式 AI 测试 · 第 12 题,共 60 题
有 1 个正确答案。 简单 由 AI 生成
在红队测试中,测试人员有计划地攻击AI系统,通常不查看内部,并试图诱导出有害或不良的回答。他们的发现用于改进系统。相比之下,运行期间的持续监控称为蓝队测试。