Was ist Token

Definición

Un Token es la unidad semántica fundamental (por ejemplo, una palabra, una sílaba o un carácter individual) en la que se descompone un texto para que un Modelo de Lenguaje Grande (LLM) pueda procesarlo matemáticamente.

Explicación

En el contexto de los Modelos de Lenguaje Grandes (LLMs), el procesamiento de texto no se realiza con palabras completas, sino a través de lo que se conoce como tokenización. Una palabra promedio en inglés equivale aproximadamente a 1,3 tokens, mientras que en alemán, debido a la formación de palabras compuestas más largas, a menudo se requieren más tokens por palabra. Dado que la estructura de precios y las ventanas de contexto de los modelos comerciales de IA SaaS (por ejemplo, la facturación por cada 1.000 tokens) se basan directamente en esta unidad, comprender los tokens resulta fundamental desde una perspectiva económica para las empresas B2B. La utilización eficiente de los prompts y la optimización del consumo de tokens contribuyen a mantener a raya los costes operativos de las integraciones de CRM impulsadas por IA o los bots de soporte.