针对人工智能系统的攻击 · 第 1 题,共 12 题

什么是提示注入?

有 1 个正确答案。 简单 由 AI 生成

显示答案

答案

  • D 注入的指令使语言模型被误导

解析

在提示注入中,输入包含模型会照做的指令,即使这些指令与运营方的规则相矛盾,例如“忽略之前的所有规则”。语言模型无法可靠地区分数据和命令。

认证与考试

下一个考试是什么?

已有 51 项考试可以练习,16 项正在投票中。查看所有认证及官方信息,投出你的一票,或推荐你的考试。

查看全部认证