Was ist Untitled

---
title: "Jailbreaking"
slug: "jailbreaking"
type: "glossary"
---
Définition
Le jailbreaking désigne le contournement délibéré des mécanismes de sécurité, des filtres et des directives éthiques au sein des grands modèles linguistiques (LLM) par l'utilisation de prompts manipulés. L'objectif de ces techniques est d'inciter le modèle à générer des contenus indésirables, restreints ou potentiellement nuisibles.
Explication
Dans le secteur B2B et SaaS, le jailbreaking représente un risque de sécurité majeur, car les entreprises intègrent de plus en plus de modèles d'IA dans leurs interactions clients et leurs processus internes. Les attaquants cherchent à contourner les prompts système prédéfinis et les garde-fous (ou "guardrails") des logiciels, en utilisant des attaques par "injection de prompt". Ces attaques peuvent amener les chatbots de service client à fournir des réponses inappropriées, à divulguer des données d'entreprise confidentielles ou à être détournés à des fins malveillantes. Pour prévenir de telles attaques, les développeurs doivent mettre en œuvre des couches de validation robustes, réaliser des tests de sécurité continus (Red Teaming) et optimiser la résilience des modèles face aux entrées manipulées. Une protection efficace contre le jailbreaking est essentielle pour garantir la confiance des utilisateurs dans les applications SaaS basées sur l'IA sur le long terme.