针对人工智能系统的攻击 · 第 2 题,共 12 题
在语言模型的语境中,越狱是指什么?
有 1 个正确答案。 简单 由 AI 生成
显示答案
答案
- D 通过输入绕过模型的安全规则
解析
越狱利用角色扮演、改写措辞或其他技巧绕过模型的安全规则,使其生成本应拒绝的内容。提供商不断改进防护,但几乎无法完全杜绝。
针对人工智能系统的攻击 · 第 2 题,共 12 题
有 1 个正确答案。 简单 由 AI 生成
越狱利用角色扮演、改写措辞或其他技巧绕过模型的安全规则,使其生成本应拒绝的内容。提供商不断改进防护,但几乎无法完全杜绝。