对抗性测试 · 第 55 题,共 60 题
一个交通标志识别器在几个像素被改动后把停车标志误分类,而这些改动人眼几乎看不出来。以下哪些说法是正确的?
有 2 个正确答案。 困难 由 AI 生成
显示答案
答案
- B 被修改的图像是一个对抗样本
- D 应利用此类发现来加入防护措施并使模型更稳健
解析
对抗样本是合法输入的轻微修改版本,其扰动往往人眼无法察觉,却会导致模型将其误分类。发现的漏洞用于加入防护措施。对抗样本可能偶然出现,也可能被恶意用于攻击。
对抗性测试 · 第 55 题,共 60 题
有 2 个正确答案。 困难 由 AI 生成
对抗样本是合法输入的轻微修改版本,其扰动往往人眼无法察觉,却会导致模型将其误分类。发现的漏洞用于加入防护措施。对抗样本可能偶然出现,也可能被恶意用于攻击。