KI und funktionale Sicherheit · Frage 48 von 60
Ein gründlich getestetes KI-Modell für eine Industriesteuerung reagiert im Feld auf nahezu identische Eingaben unterschiedlich. Welche Herausforderung zeigt sich hier?
1 Antwort ist richtig. Schwer
Lösung anzeigen
Lösung
- C Nichtdeterminismus, etwa durch Zufallszahlen oder kleine Abweichungen der Eingaben
Erklärung
Viele KI-Systeme sind nicht deterministisch, ihr Verhalten lässt sich also nie ganz genau zusagen. Selbst ein gründlich getestetes Modell kann überraschend reagieren, weil intern Zufallszahlen im Spiel sind oder die Eingabe minimal abweicht. Unklare Spezifikationen oder Vorschriften sind andere Probleme und erklären das nicht.