Grundlagen der KI · Frage 42 von 60
Eine Behörde will ein KI-System für medizinische Diagnosen zulassen und verlangt, dass jede Entscheidung begründet werden kann. Welcher Unterschied zu konventionellen Systemen ist hier das Hauptproblem?
1 Antwort ist richtig. Schwer
Lösung anzeigen
Lösung
- A Die geringe Erklärbarkeit großer Modelle mit sehr vielen Parametern
Erklärung
Erklärbarkeit ist eine zentrale Herausforderung KI-basierter Systeme. Deep-Learning-Modelle können Milliarden von Parametern enthalten und gelten deshalb oft als Blackbox. Gerade im Gesundheitswesen muss man verstehen, warum ein Modell eine Entscheidung getroffen hat. Mit Unsicherheit können KI-Systeme dagegen besonders gut umgehen, das ist eher eine Stärke.