KI und funktionale Sicherheit · Frage 50 von 60
Ein Team will für ein sicherheitsrelevantes KI-System LIME einsetzen, um Entscheidungen nachvollziehbar zu machen. Was ist dabei zu beachten?
2 Antworten sind richtig. Schwer
Lösung anzeigen
Lösung
- B LIME kann Einblicke in die Entscheidungsfindung geben
- D Solche Techniken sind nicht weit verbreitet und können die Systemleistung beeinträchtigen
Erklärung
Bei sicherheitsrelevanten Systemen muss man verstehen, warum das System so entscheidet. Verfahren wie LIME (Local interpretable model-agnostic explanations) zeigen, welche Eingaben eine Entscheidung geprägt haben. Sie sind aber nicht überall verfügbar, können das System bremsen und machen Tests nicht überflüssig.