KI und funktionale Sicherheit · Frage 49 von 60
Ein selbstlernender Assistent in einer Leitstelle wurde vor der Inbetriebnahme umfassend geprüft. Welche Maßnahmen helfen, damit sich im Betrieb kein gefährliches Verhalten einschleicht?
2 Antworten sind richtig. Schwer
Lösung anzeigen
Lösung
- A Steuern, wie das Modell lernt und welche Daten es verwendet
- D Schutzmechanismen einbauen, die sicherheitsgefährdendes Lernen oder Entscheiden verhindern
Erklärung
Bei selbstlernenden Systemen entfernt sich das Verhalten schrittweise vom ursprünglich getesteten Verhalten, was den Sicherheitsnachweis untergräbt. Es kann helfen zu steuern, wie das Modell lernt und welche Daten es nutzt. Alternativ können Schutzmechanismen verhindern, dass es sicherheitsgefährdend lernt oder entscheidet, etwa eine Inhaltsmoderation, die Prompts filtert.