1.4 — Comment un modèle de langage produit une réponse

Un grand modèle de langage — souvent abrégé LLM — a appris des régularités présentes dans une immense quantité de textes. Quand vous lui écrivez, il ne cherche pas une réponse complète dans une base secrète. Il construit sa sortie petit morceau par petit morceau.

Le jeu du morceau suivant

Complétez mentalement :

Pour ouvrir la porte, elle tourne la…

Vous avez probablement pensé à « clé » ou « poignée ». Le modèle effectue une opération comparable à très grande échelle : il attribue une probabilité à de nombreux morceaux possibles, en sélectionne un, puis recommence avec la séquence obtenue.

Ces morceaux sont appelés tokens. Un token peut être un mot court, une partie de mot, un signe de ponctuation ou un nombre.

Votre demande + le contexte
          ↓
probabilités du prochain token
          ↓
un token est produit, puis le calcul recommence
          ↓
réponse complète

Pourquoi la réponse paraît intelligente

Le modèle a rencontré pendant son entraînement de très nombreuses façons d’expliquer, résumer, argumenter ou rédiger. Il peut reproduire et combiner ces structures avec une grande souplesse. Cela lui permet de produire une réponse nouvelle et adaptée à votre demande.

Mais une phrase probable n’est pas forcément vraie. Le modèle peut assembler un nom, une date et une explication qui semblent cohérents sans disposer d’une preuve.

Le contexte est son espace de travail

Le modèle reçoit une quantité limitée de contenu : votre demande, les messages précédents, certaines instructions du système et éventuellement des documents. Cet ensemble forme la fenêtre de contexte.

Deux conséquences pratiques :

1. une information absente du contexte ne peut pas être utilisée de façon fiable ;
2. dans une très longue conversation, certains éléments peuvent être moins bien pris en compte ou sortir de la fenêtre disponible.

Pour Atelier Nova, le modèle ne connaît pas la règle « photo obligatoire au-dessus de 80 € » si nous ne la lui donnons pas ou si aucun outil ne lui permet de la consulter.

Exercice — observez la probabilité, pas la vérité

Demandez à votre assistant :

Invente le nom, l’auteur et le résumé d’un roman qui n’existe pas.
Puis explique pourquoi une réponse inventée peut paraître aussi crédible qu’une réponse factuelle.

Ce qu’un professionnel doit en conclure

La fluidité, le niveau de détail et le ton assuré ne prouvent pas l’exactitude. Une affirmation importante doit être reliée à une source, vérifiée par une règle ou validée par une personne compétente.

✅ Réflexe professionnel : traitez une sortie de LLM comme une proposition à vérifier, pas comme une base de données garantie.

À ajouter à votre carnet

Notez les informations dont votre assistant aura besoin dans son contexte pour traiter votre tâche. Séparez ce que l’utilisateur fournit, ce qui vient d’un document et ce qui vient d’un outil.