生成式 AI 测试 · 第 37 题,共 60 题
在红队测试中,可以用哪些方法实现全面的覆盖?
有 3 个正确答案。 中等 由 AI 生成
显示答案
答案
- A 结合人类创造力与自动化的混合方法
- C 自动化:由一个LLM生成攻击提示词,另一个检查输出
- D 众包生成提示词
解析
红队测试不必只由一个小型专家团队完成。也可以从众多志愿者那里收集提示词(众包),可以让一个LLM批量生成攻击,同时由第二个LLM评判回答,或者两者混合:人提供想法,自动化提供数量。
生成式 AI 测试 · 第 37 题,共 60 题
有 3 个正确答案。 中等 由 AI 生成
红队测试不必只由一个小型专家团队完成。也可以从众多志愿者那里收集提示词(众包),可以让一个LLM批量生成攻击,同时由第二个LLM评判回答,或者两者混合:人提供想法,自动化提供数量。