对抗性测试 · 第 54 题,共 60 题
某团队只有某供应商图像模型的 API 访问权限,想测试它的对抗样本。哪些方法是可行的?
有 2 个正确答案。 困难 由 AI 生成
显示答案
答案
- C 使用蛮力方法,进行海量测试
- D 创建一个内部结构已知的等效模型,在其上生成对抗输入,再迁移到供应商的模型上
解析
在不了解内部结构的情况下,对抗性测试可以作为黑盒测试进行。可以创建一个内部结构已知的等效模型,基于可迁移性的假设把它的对抗输入用于原模型,或者使用蛮力方法进行海量测试。白盒测试则需要了解架构和参数。