生成式 AI 测试 · 第 54 题,共 60 题
一家公司想在上线前通过红队测试检查集成了 RAG 的 LLM 是否存在安全漏洞。应考虑哪些攻击?
有 3 个正确答案。 困难 由 AI 生成
显示答案
答案
- C 间接提示词注入
- D 非 AI 的安全因素
- E 隐藏在 RAG 所用文档中的恶意内容
解析
当红队测试关注安全时,要从外部检查系统有多脆弱,既包括经典的弱点,也包括 AI 特有的弱点。后者包括间接提示词注入,以及通过 RAG 进入系统的含有隐藏指令的文档。
生成式 AI 测试 · 第 54 题,共 60 题
有 3 个正确答案。 困难 由 AI 生成
当红队测试关注安全时,要从外部检查系统有多脆弱,既包括经典的弱点,也包括 AI 特有的弱点。后者包括间接提示词注入,以及通过 RAG 进入系统的含有隐藏指令的文档。