偏见测试 · 第 43 题,共 60 题
要检查一个信贷模型是否存在偏见。团队生成了除性别外完全相同的申请,并在大量测试中发现决策存在显著差异。以下哪些说法是正确的?
有 2 个正确答案。 困难 由 AI 生成
显示答案
答案
- C 该结果表明模型存在偏见
- D 该方法相当于使用反事实的差别影响分析
解析
在差别影响分析中,先识别敏感属性,再生成反事实(例如改变性别),并对大量测试中的模型输出做统计分析。如果改变敏感属性会使结果发生显著变化,就表明存在偏见。
偏见测试 · 第 43 题,共 60 题
有 2 个正确答案。 困难 由 AI 生成
在差别影响分析中,先识别敏感属性,再生成反事实(例如改变性别),并对大量测试中的模型输出做统计分析。如果改变敏感属性会使结果发生显著变化,就表明存在偏见。