Testen auf Verzerrung · Frage 43 von 60
Ein Kreditmodell soll auf Verzerrung geprüft werden. Das Team erzeugt Anträge, die bis auf das Geschlecht identisch sind, und stellt über viele Tests fest, dass sich die Entscheidungen signifikant unterscheiden. Welche Aussagen treffen zu?
2 Antworten sind richtig. Schwer
Lösung anzeigen
Lösung
- C Das Ergebnis weist auf Verzerrung im Modell hin
- D Das Vorgehen entspricht der Disparate-Impact-Analyse mit kontrafaktischen Beispielen
Erklärung
Bei der Disparate-Impact-Analyse werden sensible Merkmale bestimmt, kontrafaktische Beispiele erzeugt, etwa mit geändertem Geschlecht, und die Modellausgaben über viele Tests statistisch ausgewertet. Ändert der Wechsel des sensiblen Merkmals das Ergebnis signifikant, deutet das auf Verzerrung hin.