AI 与安全 · 第 50 题,共 60 题
一个团队想在安全相关的 AI 系统中使用 LIME,使决策可追溯。必须考虑什么?
有 2 个正确答案。 困难 由 AI 生成
显示答案
答案
- B LIME 可以提供对推理过程的洞察
- D 此类技术并未被广泛提供,并且可能损害系统性能
解析
对于安全相关的系统,需要理解系统为何这样决策。LIME(Local interpretable model-agnostic explanations)等方法可以显示哪些输入塑造了某个决策。然而,它们并非处处可用,可能拖慢系统,也不会使测试变得不必要。