KI und funktionale Sicherheit · Frage 32 von 60
Welches ist ein Beispiel für einen Schutzmechanismus (Safety Guard) bei selbstlernenden Systemen?
1 Antwort ist richtig. Mittel
Lösung anzeigen
Lösung
- B Eine Komponente zur Inhaltsmoderation, die Prompts filtert
Erklärung
Schutzmechanismen (safety guards) setzen dem Modell Grenzen, damit es nichts lernt und nichts entscheidet, was gefährlich werden könnte. Ein Beispiel ist ein Moderationsbaustein, der Prompts vorab filtert. Der andere Weg ist, zu kontrollieren, wie das Modell lernt und mit welchen Daten.