💬 NLP

The Illusion of Stochasticity in LLMs

Cette étude démontre que, contrairement aux agents d'apprentissage par renforcement classiques, les grands modèles de langage échouent fondamentalement à générer des échantillons stochastiques fiables directement à partir de leurs estimations de probabilités internes, révélant ainsi une limitation critique pour leur utilisation en tant qu'agents autonomes.

Auteurs originaux : Xiangming Gu, Soham De, Michalis Titsias, Larisa Markeeva, Petar Veličković, Razvan Pascanu

Publié 2026-04-09

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Xiangming Gu, Soham De, Michalis Titsias, Larisa Markeeva, Petar Veličković, Razvan Pascanu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🎲 L'Illusion du Hasard : Pourquoi les IA ne savent pas vraiment jouer aux dés

Imaginez que vous demandez à un ami très intelligent, mais un peu rigide, de lancer un dé à 6 faces pour vous. Vous lui dites : "Lance-le, je veux un résultat totalement aléatoire."

Votre ami réfléchit longuement, analyse la physique du dé, le vent dans la pièce, et finit par vous dire : "C'est bon, j'ai lancé le dé. Le résultat est 6."
Vous le faites recommencer 100 fois. À chaque fois, il vous donne un 6. Ou parfois un 4. Mais presque jamais un 1 ou un 2.

C'est exactement ce que cette étude révèle sur les Grands Modèles de Langage (LLM), comme ceux qui font fonctionner les chatbots actuels. Bien qu'ils soient capables de discuter de philosophie, de coder ou de résoudre des équations complexes, ils sont terriblement mauvais pour générer du vrai hasard.

Voici les trois grandes découvertes de l'article, expliquées avec des analogies :

1. Le "Savoir" ne signifie pas le "Faire" (Le paradoxe du chef cuisinier)

Les chercheurs ont demandé à des IA de générer des nombres au hasard (par exemple, entre 0 et 9).

Ce que l'IA sait : Si vous lui demandez "Qu'est-ce qu'une distribution uniforme ?", elle vous répondra parfaitement : "C'est quand chaque chiffre a exactement la même chance de sortir." Elle comprend la théorie.
Ce que l'IA fait : Quand elle doit réellement choisir un chiffre, elle triche. Elle a des "préférences".
- L'analogie : Imaginez un chef cuisinier qui connaît par cœur la recette d'un gâteau parfait. Il peut vous expliquer la recette mot pour mot. Mais quand il doit faire le gâteau, il oublie toujours d'ajouter le sucre et met trop de farine. Il sait quoi faire, mais son cerveau (ou son modèle) a des biais qui l'empêchent de le faire correctement.
- Le résultat : Si vous demandez à une IA de choisir une lettre au hasard dans l'alphabet, elle choisira souvent la lettre "C" ou "A" beaucoup trop souvent, juste parce que ces lettres apparaissent souvent dans ses livres d'entraînement. C'est comme si elle avait un dé pipé par son éducation.

2. Le problème de la "Mémoire" (Le jeu de l'escalier)

Les chercheurs ont essayé de corriger le problème en demandant à l'IA : "Voici les nombres que tu as sortis la dernière fois, essaie d'en sortir un différent."

Ce qui se passe : L'IA commence à jouer à un jeu bizarre. Au lieu de choisir au hasard, elle devient trop consciente de son passé.
- L'analogie : Imaginez un joueur qui joue à "Pierre, Feuille, Ciseaux". S'il a gagné avec "Pierre" la dernière fois, au lieu de choisir au hasard, il va systématiquement choisir "Ciseaux" pour être différent, ou "Feuille" parce qu'il a peur de répéter. Il devient prévisible.
- Le résultat : Les IA créent des motifs répétitifs (par exemple : 1, 2, 3, 4, 5, 1, 2, 3...) au lieu de vraies séquences aléatoires. Elles ne savent pas "oublier" leur passé pour être vraiment imprévisibles.

3. La solution : L'IA comme "Traducteur" plutôt que "Générateur"

C'est la partie la plus intéressante. Les chercheurs ont découvert que si on donne à l'IA un nombre aléatoire déjà généré (par exemple, un nombre fourni par un ordinateur externe) et qu'on lui demande de le transformer en un autre nombre, elle est excellente.

L'analogie : L'IA est comme un excellent traducteur, mais un mauvais écrivain.
- Si vous lui dites : "Écris une histoire aléatoire", elle va échouer (elle va copier des histoires qu'elle a lues).
- Mais si vous lui donnez un texte écrit par quelqu'un d'autre et que vous dites : "Traduis ce texte en français", elle le fera parfaitement.
Le résultat : Les IA peuvent convertir un nombre aléatoire en un autre nombre aléatoire (une "conversion de distribution") avec une grande précision, à condition qu'elles aient un point de départ fiable. Elles ne peuvent pas créer le hasard, mais elles peuvent le manipuler.

🚨 Pourquoi est-ce important ?

Aujourd'hui, on utilise de plus en plus ces IA comme des agents autonomes (des robots qui prennent des décisions pour nous).

Si un agent IA doit explorer un environnement (comme un jeu vidéo ou une stratégie d'investissement), il doit prendre des décisions imprévisibles pour ne pas se faire piéger.
Si l'IA essaie de jouer au hasard mais que ses choix sont biaisés (elle choisit toujours "Gauche" au lieu de "Droite"), un adversaire intelligent peut facilement la battre.

En résumé

Ce papier nous dit : Ne faites pas confiance aux IA pour générer du hasard pur.
Elles sont comme des acteurs qui jouent très bien le rôle d'une personne qui lance un dé, mais en réalité, elles suivent des scripts cachés dans leur mémoire. Pour avoir du vrai hasard, il faut utiliser des outils externes (comme un générateur de nombres aléatoires informatique) et demander à l'IA de simplement utiliser ce résultat, pas de le créer.

C'est une limite fondamentale de leur architecture actuelle : elles sont faites pour prédire le prochain mot d'une phrase, pas pour être de véritables dés à jouer.

1. Problématique

L'article aborde une limitation fondamentale des Grands Modèles de Langage (LLMs) lorsqu'ils sont déployés en tant qu'agents autonomes. Bien que les agents aient souvent besoin d'agir de manière stochastique (aléatoire) selon des politiques inférées, les LLMs échouent à générer des échantillons fiables à partir de distributions de probabilité spécifiques.

Le problème central est le suivant : les LLMs sont conçus pour échantillonner des tokens à partir d'un vocabulaire, et non pour échantillonner des actions à partir d'un espace d'actions défini par une distribution (comme une distribution uniforme ou gaussienne). Les auteurs démontrent que ce que l'on perçoit souvent comme du "bruit" ou de l'aléatoire dans les réponses d'un LLM est en réalité une illusion de stochasticité. Ce comportement est biaisé par les données d'entraînement et les préférences du modèle, plutôt que par une véritable capacité à suivre une distribution cible. Cela rend les politiques d'agents imprévisibles, non reproductibles et potentiellement exploitables dans des contextes adversariaux.

2. Méthodologie

Les auteurs ont mené une analyse empirique rigoureuse à travers plusieurs familles de modèles (Gemini, Qwen, OLMO) et de tailles (de 1.7B à 32B+ paramètres), en testant différentes approches d'échantillonnage :

Échantillonnage Indépendant : Le modèle est invité à générer un échantillon unique à chaque inférence pour des distributions cibles (uniforme discrète, uniforme continue, gaussienne).
Échantillonnage Séquentiel et par Lots (Batched) :
- Séquentiel : Utilisation de l'historique des échantillons précédents dans le contexte (avec ou sans tout l'historique).
- Par lots : Demande au modèle de générer N valeurs en une seule fois.
Utilisation d'Outils (Tool-Use) : Le modèle génère et exécute du code Python utilisant des générateurs de nombres pseudo-aléatoires (PRNG) standards.
Simulation de PRNG : Le modèle reçoit le code d'un algorithme PRNG et une graine (seed) pour simuler le processus de génération sans exécution externe.
Conversion de Distribution : Le modèle reçoit un nombre aléatoire uniforme $U[0,1]$ et doit le transformer en une distribution cible (discrète, gaussienne, mélange gaussien) via un processus déterministe.

Les performances sont évaluées via des tests de qualité d'ajustement (Goodness-of-Fit tests : Chi-carré, Kolmogorov-Smirnov) et l'analyse des autocorrélations et des matrices de transition.

3. Résultats Clés

A. Échec de l'échantillonnage direct

Biais de distribution et positionnel : Les LLMs ne suivent pas les distributions cibles. Ils montrent des préférences fortes pour certains nombres (ex: 7, 42) ou certaines positions dans une liste (ex: la lettre "C" dans un QCM, ou "up" dans une liste de directions).
Insensibilité aux paramètres de décodage : Changer la température, le top-p ou le top-k ne corrige pas ces biais. Même avec des températures très élevées, les modèles échouent à produire des distributions uniformes ou gaussiennes correctes.
Échec des modèles avancés : Les modèles de pointe (Frontier models) comme Gemini-3.0-Pro ou Qwen3-32B ne parviennent pas à surmonter ce problème par simple échantillonnage direct.

B. Limites des approches séquentielles et par lots

Biais temporels : L'échantillonnage séquentiel avec tout l'historique améliore légèrement la distribution uniforme mais introduit des biais de répulsion (le modèle évite de répéter le dernier échantillon). L'échantillonnage avec seulement le dernier échantillon crée des corrélations fortes et des motifs périodiques indésirables.
Problèmes de comptage : L'échantillonnage par lots échoue souvent car les LLMs ne peuvent pas compter précisément le nombre de valeurs générées, et les séquences présentent des motifs répétitifs.

C. Utilisation d'outils et simulation de PRNG

Avec exécution de code : Les modèles peuvent utiliser des PRNG Python, mais cela nécessite une instruction explicite pour initialiser la graine (seed) avec l'heure actuelle. Sinon, le sandbox d'exécution réinitialise souvent la graine, rendant les résultats déterministes et non aléatoires.
Simulation de PRNG (sans outil) : Les modèles peuvent simuler des algorithmes PRNG pour des distributions uniformes avec une grande précision (>90% de succès pour les modèles >4B). Cependant, ils échouent systématiquement pour les distributions gaussiennes (qui nécessitent la transformée de Box-Muller et des multiplications de grands nombres), car ils ne parviennent pas à effectuer les calculs arithmétiques complexes nécessaires.

D. Conversion de distribution (Découverte majeure)

Capacité émergente : Contrairement à l'échantillonnage direct, les LLMs sont très efficaces pour convertir un nombre aléatoire fourni (ex: $U[0,1]$ ) en une distribution cible via un algorithme déterministe (ex: méthode de l'inverse de la CDF, bucketization).
Propriété émergente : Cette capacité dépend de la taille du modèle. Pour les distributions gaussiennes, un modèle d'au moins 4B paramètres est nécessaire pour obtenir des résultats statistiquement fiables.
Complexité : Cette méthode fonctionne bien pour des distributions standard et même des mélanges gaussiens, tant que la transformation reste algorithmique et déterministe.

4. Contributions Principales

Démonstration de l'illusion : Preuve empirique que les LLMs ne peuvent pas générer de véritables nombres aléatoires selon des distributions spécifiques par simple inférence, créant une "illusion de stochasticité".
Analyse comparative exhaustive : Évaluation systématique de multiples stratégies (indépendante, séquentielle, par lots, avec outils, simulation) sur une large gamme de modèles et de distributions.
Distinction entre échantillonnage et conversion : Identification que le problème n'est pas la compréhension de la distribution, mais la génération du bruit aléatoire. Les modèles excellent dans la transformation déterministe d'un bruit fourni (conversion) mais échouent dans la génération de ce bruit.
Limites computationnelles : Mise en évidence de l'incapacité des LLMs à effectuer des multiplications de grands nombres nécessaires pour les algorithmes PRNG complexes (comme Box-Muller) lors de la simulation pure.

5. Signification et Implications

Pour les Agents Autonomes : Les systèmes agentic qui reposent sur l'exploration stochastique (comme dans les jeux, la robotique ou l'optimisation) sont fondamentalement compromis s'ils utilisent les LLMs pour générer l'aléa. Leurs politiques sont biaisées et prévisibles.
Architecture des Systèmes : L'article suggère que pour des applications agentic fiables, il est impératif de fournir aux LLMs un échantillonneur externe et étatique (stateful sampler) ou de leur fournir des nombres aléatoires pré-générés pour qu'ils les convertissent, plutôt que de leur demander de générer l'aléa eux-mêmes.
Recherche Future : Cela ouvre la voie à l'étude de l'apprentissage de la stochasticité via l'entraînement spécifique (comme suggéré par von Oswald et al., 2024) ou le développement d'outils de gestion d'état pour les agents.

En résumé, ce papier établit que la capacité des LLMs à agir de manière stochastique est une illusion : ils peuvent raisonner sur les probabilités et transformer des aléas, mais ils ne peuvent pas créer de l'aléa fiable de manière native.