Plattform
Plattform-ÜbersichtAI Adoption & Multi-ModellSelbstbefüllendes KI-CRMSales & Branchen CRMSales CRM Use CasesRecruiting CRM Use CasesB2B Kontakt-SucheMulti-Channel-KampagnenProjekte & AufgabenTeam-MessengerSocial Media StudioFunnel & NewsletterMeetings & Terminbuchung
Beratung, Preise & Ressourcen
KI-Transformation & StrategieManaged ServicesAlexander Weltzsch · Executive AdvisoryDennis Hilger · B2B Growth AdvisoryPreise & LizenzrechnerÜber unsKI im UnternehmenTech und KI GlossarLeitfaden für erfolgreiche LandingpagesGeschäftsbedingungen und RichtlinienKontakt & Live-Demo
← Zurück zum Tech und KI Glossar (A–Z)
Tech und KI Glossar · Buchstabe · Buchstabe J

Jailbreaking

Jailbreaking

Definition

Jailbreaking bezeichnet Eingabetechniken, mit denen Nutzer die antrainierten Sicherheitsrichtlinien (Alignment) eines Sprachmodells umgehen, um eigentlich gesperrte Ausgaben oder Verhaltensweisen zu erzwingen.

Erklärung

Während eine Prompt Injection primär darauf abzielt, die Anwendungslogik oder Systemanweisungen einer konkreten Software zu überschreiben, richtet sich ein Jailbreak gegen die Sicherheitsgrenzen des zugrundeliegenden Modells selbst. Angreifer verpacken unzulässige Anfragen dabei häufig in fiktive Rollenspiele, mehrstufige Argumentationsketten, ungewöhnliche Sprach- oder Zeichencodierungen (etwa Base64) oder adversarielle Zeichenfolgen. In öffentlich zugänglichen B2B-Chatbots oder Kundenportalen kann ein erfolgreicher Jailbreak dazu führen, dass der Assistent markenschädigende Aussagen trifft, rechtlich unzulässige Ratschläge erteilt oder interne Systemprompts offenlegt. Da ein Sprachmodell Anweisungen und Nutzereingaben im selben Token-Strom verarbeitet, kombinieren Betreiber Sicherheitstrainings und Red-Teaming mit vorgelagerten Klassifikatoren, eng begrenzten Tool-Berechtigungen und Ausgabefiltern (Guardrails).