Was ist Token

Définition

Un Token est l'unité sémantique fondamentale (par exemple, un mot, une syllabe ou un caractère unique) en laquelle un texte est décomposé afin qu'un modèle de langage étendu (LLM) puisse le traiter mathématiquement.

Explication

Dans le contexte des modèles de langage étendus (LLM), le traitement du texte ne s'effectue pas directement sur des mots complets, mais via un processus appelé "tokenisation". En moyenne, un mot anglais correspond à environ 1,3 Token, tandis qu'en allemand, en raison de la formation de mots composés plus longs, un mot nécessite souvent davantage de Tokens. Étant donné que la tarification et les fenêtres contextuelles des modèles d'IA SaaS commerciaux (par exemple, la facturation par 1 000 Tokens) sont directement basées sur cette unité, la compréhension des Tokens est économiquement essentielle pour les entreprises B2B. Une utilisation efficiente des prompts et l'optimisation de la consommation de Tokens sont donc cruciales pour maîtriser les coûts opérationnels des intégrations CRM basées sur l'IA ou des chatbots de support.