Testen generativer KI · Frage 55 von 60
Ein Gesundheits-Chatbot soll per Red Teaming auf Sicherheit (Safety) geprüft werden. Worauf zielt das anders als ein Security-Red-Teaming?
1 Antwort ist richtig. Schwer
Lösung anzeigen
Lösung
- B Darauf, wie das System bei normaler Nutzung ohne böse Absicht schädliche Ausgaben wie unsichere Ratschläge erzeugt
Erklärung
Beim Security-Red-Teaming geht es um böswillige Eingaben. Bei Safety und anderen Zielen fragt man dagegen oft, ob das System schon bei ganz normaler Nutzung Schaden anrichten kann, zum Beispiel mit einem gefährlichen Gesundheitstipp, obwohl der Nutzer nichts Böses vorhatte.