生成式 AI 测试 · 第 54 题,共 60 题

一家公司想在上线前通过红队测试检查集成了 RAG 的 LLM 是否存在安全漏洞。应考虑哪些攻击?

有 3 个正确答案。 困难 由 AI 生成

显示答案

答案

  • C 间接提示词注入
  • D 非 AI 的安全因素
  • E 隐藏在 RAG 所用文档中的恶意内容

解析

当红队测试关注安全时,要从外部检查系统有多脆弱,既包括经典的弱点,也包括 AI 特有的弱点。后者包括间接提示词注入,以及通过 RAG 进入系统的含有隐藏指令的文档。

认证与考试

下一个考试是什么?

已有 51 项考试可以练习,16 项正在投票中。查看所有认证及官方信息,投出你的一票,或推荐你的考试。

查看全部认证