Angriffe auf KI-Systeme · Frage 2 von 12
Was versteht man bei Sprachmodellen unter Jailbreaking?
1 Antwort ist richtig. Einfach
Lösung anzeigen
Lösung
- D Schutzregeln des Modells per Eingabe aushebeln
Erklärung
Ein Jailbreak umgeht mit Rollenspielen, Umschreibungen oder Tricks die Sicherheitsvorgaben eines Modells, damit es Inhalte erzeugt, die es verweigern sollte. Anbieter verbessern ihre Schutzmechanismen laufend, vollständig verhindern lässt es sich kaum.