KI und funktionale Sicherheit · Frage 47 von 60
Ein Hersteller will für ein KI-basiertes Bremsassistenzsystem die Rückverfolgbarkeit von den Anforderungen bis zur Umsetzung nachweisen. Warum ist das schwierig?
1 Antwort ist richtig. Schwer
Lösung anzeigen
Lösung
- C Die Anforderungen beginnen oft mit vagen Zielen und werden implizit über die Trainingsdaten vorgegeben
Erklärung
Bei klassischen sicherheitsrelevanten Systemen werden Anforderungen verfeinert, bis sie in Code umgesetzt werden, was die Rückverfolgbarkeit ermöglicht. Bei vielen KI-Systemen beginnen Anforderungen mit vagen Zielen und werden über die Trainingsdaten implizit vorgegeben, ohne jedes Detail vorab zu formalisieren. Die nötige Rückverfolgbarkeit kann dadurch unzureichend sein.