Gegnerisches Testen · Frage 55 von 60
Ein Verkehrszeichenerkenner klassifiziert ein Stoppschild falsch, nachdem wenige, für Menschen kaum sichtbare Pixel verändert wurden. Welche Aussagen dazu treffen zu?
2 Antworten sind richtig. Schwer
Lösung anzeigen
Lösung
- B Das veränderte Bild ist ein gegnerisches Beispiel
- D Solche Befunde sollen genutzt werden, um Schutzmaßnahmen einzubauen und das Modell robuster zu machen
Erklärung
Gegnerische Beispiele sind leicht veränderte Versionen legitimer Eingaben, deren Störungen für Menschen oft nicht wahrnehmbar sind und die das Modell zu Fehlklassifikationen bringen. Gefundene Schwachstellen dienen dazu, Schutzmaßnahmen einzubauen. Gegnerische Beispiele können zufällig auftreten oder böswillig in Angriffen eingesetzt werden.