Bias und Varianz · Frage 11 von 12
Ein Bewerbungsmodell schlägt Frauen seltener für technische Stellen vor. Die Trainingsdaten sind Einstellungsentscheidungen der letzten zehn Jahre. Welche Ursachen sind wahrscheinlich?
2 Antworten sind richtig. Schwer
Lösung anzeigen
Lösung
- C Merkmale wie Hobbys wirken als Stellvertreter für das Geschlecht
- E Historische Benachteiligung steckt in den Labels
Erklärung
Wenn frühere Entscheidungen verzerrt waren, lernt das Modell diese Verzerrung aus den Labels. Zudem können scheinbar neutrale Merkmale mit dem Geschlecht korrelieren. Bias-Metriken etwa mit SageMaker Clarify, Prüfung der Merkmale und Untergruppenanalyse decken das auf.