针对人工智能系统的攻击 · 第 1 题,共 12 题
什么是提示注入?
有 1 个正确答案。 简单 由 AI 生成
显示答案
答案
- D 注入的指令使语言模型被误导
解析
在提示注入中,输入包含模型会照做的指令,即使这些指令与运营方的规则相矛盾,例如“忽略之前的所有规则”。语言模型无法可靠地区分数据和命令。
针对人工智能系统的攻击 · 第 1 题,共 12 题
有 1 个正确答案。 简单 由 AI 生成
在提示注入中,输入包含模型会照做的指令,即使这些指令与运营方的规则相矛盾,例如“忽略之前的所有规则”。语言模型无法可靠地区分数据和命令。