Objectifs
Comprendre ce qu'est un modèle de langage au sens strict, pour mesurer ensuite précisément ce que l'agentique y ajoute.
Un LLM prédit des tokens
Un LLM (Large Language Model) est un modèle statistique entraîné à prédire la suite d'un texte. Il ne manipule pas des mots mais des tokens : des unités de texte dont la taille varie. Un mot courant peut être un seul token, un mot long ou rare peut en former plusieurs, et la ponctuation ou l'espace qui précède un mot peuvent compter dans le découpage.
Chaque modèle possède son propre tokenizer, qui dépend du corpus d'entraînement, de l'algorithme de découpage et de la taille du vocabulaire. Un grand vocabulaire garde plus de mots entiers ; un petit vocabulaire découpe davantage. Le même texte n'a donc pas le même nombre de tokens d'un modèle à l'autre.
Pourquoi les tokens comptent pour un chef de produit
- La fenêtre de contexte est une limite en nombre de tokens : c'est la « mémoire de travail » du modèle.
- Le coût et souvent la latence dépendent du nombre de tokens lus et écrits.
- La qualité du traitement dépend de la façon dont le texte est découpé (langues moins bien représentées, codes, nombres).
La prédiction
Face à « Paris est la capitale de la », le modèle calcule une distribution de probabilités sur le token suivant : « France » reçoit une probabilité très élevée, d'autres mots une probabilité faible. Il choisit le plus probable, ou échantillonne selon un paramètre de température. C'est pourquoi un même prompt peut donner des réponses différentes : le modèle est non déterministe.
Le point clé
Un LLM ne « sait » pas que Paris est une capitale : il reproduit des régularités statistiques apprises dans ses données. Pris seul, il ne vérifie pas ses affirmations, n'agit pas sur le monde et ne connaît pas vos systèmes internes. C'est exactement ce que l'agentique cherche à compenser.
Pour vérifier votre compréhension
Prenez une phrase de votre métier et estimez combien de tokens elle contient. Quels mots seront probablement découpés ? Un outil de visualisation de tokenizer public vous permet de vérifier.