Jailbreaking bezeichnet Eingabetechniken, mit denen Nutzer die antrainierten Sicherheitsrichtlinien (Alignment) eines Sprachmodells umgehen, um eigentlich gesperrte Ausgaben oder Verhaltensweisen zu erzwingen.
Erklärung
Während eine Prompt Injection primär darauf abzielt, die Anwendungslogik oder Systemanweisungen einer konkreten Software zu überschreiben, richtet sich ein Jailbreak gegen die Sicherheitsgrenzen des zugrundeliegenden Modells selbst. Angreifer verpacken unzulässige Anfragen dabei häufig in fiktive Rollenspiele, mehrstufige Argumentationsketten, ungewöhnliche Sprach- oder Zeichencodierungen (etwa Base64) oder adversarielle Zeichenfolgen. In öffentlich zugänglichen B2B-Chatbots oder Kundenportalen kann ein erfolgreicher Jailbreak dazu führen, dass der Assistent markenschädigende Aussagen trifft, rechtlich unzulässige Ratschläge erteilt oder interne Systemprompts offenlegt. Da ein Sprachmodell Anweisungen und Nutzereingaben im selben Token-Strom verarbeitet, kombinieren Betreiber Sicherheitstrainings und Red-Teaming mit vorgelagerten Klassifikatoren, eng begrenzten Tool-Berechtigungen und Ausgabefiltern (Guardrails).