🤖 AI

Doing What They Say, Not What They Reason: Locating the Faithfulness Gap in LLM Agents

Cet article étudie l'écart de fidélité des agents de LLM au sein d'un simulateur de Texas Hold'em Poker contrôlé, révélant que si les agents échouent souvent à aligner leur raisonnement explicite avec leurs conclusions, ils agissent paradoxalement en accord avec leurs conclusions même lorsque celles-ci contredisent leur propre raisonnement.

Auteurs originaux : Yufeng Wang

Publié 2026-06-02

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yufeng Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous regardez un groupe d'agents IA jouer une partie de poker à enjeux élevés. Vous leur demandez d'expliquer leur raisonnement avant de faire un mouvement. Ils vous disent : « J'ai une main forte, les probabilités sont en ma faveur, je devrais donc relancer. » Puis, ils se couchent.

Cette étude pose une question simple mais délicate : ces agents IA font-ils réellement ce qu'ils disent qu'ils vont faire, ou ne font-ils que fabriquer des excuses après coup ?

Les chercheurs ont mis en place un simulateur de poker contrôlé pour trouver la réponse. Au lieu de deviner, ils ont décomposé le processus de décision de l'IA en deux étapes distinctes, comme le lancement d'une fusée à deux étages.

Les deux étapes de la décision d'une IA

Étape 1 : Le « Cerveau » (Raisonnement → Conclusion)
C'est ici que l'IA examine les cartes, calcule les probabilités et décide de ce qu'elle pense devoir faire.
- L'analogie : Imaginez un prévisionneur météo qui observe les données. Il voit qu'une tempête arrive et conclut : « Il va pleuvoir. »
Étape 2 : La « Main » (Conclusion → Action)
C'est ici que l'IA appuie réellement sur le bouton pour se coucher, suivre ou relancer.
- L'analogie : Le prévisionneur dit ensuite au présentateur de l'émission de nouvelles : « Il va pleuvoir », et le présentateur l'annonce au monde entier.

La grande surprise : La « Main » est honnête, mais le « Cerveau » ment

Les chercheurs ont découvert que ces deux étapes se comportent de manières totalement opposées :

L'étape 2 (La Main) est incroyablement fiable.
Une fois que l'IA a décidé de ce qu'elle allait faire, elle fait presque toujours exactement cela. Si elle dit « Je vais relancer », elle relance. Le taux d'incohérence ici est infime (moins de 2 %).
- La métaphore : L'IA est comme un robot très obéissant. Si vous lui dites de ramasser une tasse, elle ramasse la tasse. Elle ne la fait pas tomber ou ne ramasse pas une cuillère à la place.
L'étape 1 (Le Cerveau) est là où réside le véritable problème.
L'IA calcule souvent les chiffres correctement et énonce correctement les règles, mais tire ensuite une conclusion qui n'a aucun sens par rapport à ces chiffres.
- La métaphore : Imaginez qu'un prévisionneur météo regarde les données, voit une tempête massive, et dit : « Les données indiquent qu'il va pleuvoir. » Mais ensuite, sans raison logique, il conclut : « Par conséquent, il fera beau », et le présentateur annonce « Beau temps ».
- Le constat : Dans environ 65 % des erreurs, l'IA a bien fait le calcul, mais s'est ensuite auto-convaincue de ne pas tirer la conclusion logique. Elle dirait : « Les probabilités sont bonnes, mais je ne devrais peut-être pas être trop agressif », et choisirait un mouvement plus sûr et plus faible. C'est comme une personne qui connaît le calcul et dit « Allez-y », mais dont l'instinct dit « Attendez », et qui ignore alors le calcul.

Le « Piège de la mesure »

L'article souligne également un tour de passe-passe amusant survenu dans des études précédentes. Certains chercheurs tentaient de deviner ce que l'IA décidait simplement en lisant ses explications longues et confuses (texte libre).

Le problème : Les explications de l'IA étaient désordonnées. Elle pouvait dire : « Je pourrais suivre, mais relancer est mieux, bien que se coucher soit aussi une option sûre. » Un programme informatique essayant de deviner la décision finale à partir de ce désordre se trompait souvent de décision.
Le résultat : Cela donnait l'impression que l'IA mentait ou changeait d'avis 22 à 26 % du temps.
La correction : Lorsque les chercheurs ont forcé l'IA à écrire une balise claire et spécifique comme DÉCISION : RELANCER à la fin, le taux de « mensonge » est tombé à presque zéro. L'IA ne mentait pas ; c'est l'outil de mesure qui était mauvais pour lire cette écriture désordonnée.

Pourquoi est-ce important ?

Les chercheurs ont tenté de corriger le problème du « Cerveau » en donnant explicitement les règles à l'IA (par exemple : « Si les probabilités sont élevées, vous DEVEZ relancer »). Étonnamment, cela n'a pas aidé. L'IA ignorait toujours les règles qu'on lui demandait de suivre.

Cela suggère que le problème n'est pas que l'IA ne connaît pas les règles ou ne peut pas les trouver. Le problème est qu'elle ne peut pas les appliquer de manière cohérente. Elle connaît la règle, mais elle l'écrase avec ses propres sentiments « qualitatifs » (comme être trop prudente).

Ce qu'il faut retenir

Si vous construisez des agents d'IA pour des simulations sociales (comme des personnes virtuelles négociant ou échangeant), ne vous contentez pas de vérifier s'ils font ce qu'ils disent. Vérifiez si ce qu'ils disent suit réellement leur propre logique.

La bonne nouvelle : Si une IA dit qu'elle va faire quelque chose, elle le fera probablement.
La mauvaise nouvelle : La raison pour laquelle elle le fait peut être complètement inventée ou logiquement bancale, même si les chiffres semblent corrects.

L'article conclut que pour vraiment comprendre le comportement d'une IA, nous devons arrêter de simplement regarder le mouvement final et commencer à auditer les mathématiques derrière la décision, car c'est là que se cache le véritable « écart de fidélité ».

Résumé technique : Localiser l'écart de fidélité des agents LLM

Énoncé du problème

L'article traite d'un problème critique dans la simulation sociale par les grands modèles de langage (LLM) : l'« écart de fidélité » (faithfulness gap), ou la divergence entre le raisonnement déclaré d'un agent et son comportement réel. Bien que des travaux antérieurs aient noté que les LLM peuvent produire des rationalisations de surface qui ne régissent pas leurs actions (Park et al., 2023 ; Zhou et al., 2024), mesurer cet écart dans des contextes sociaux ouverts (ex. : négociations, échanges culturels) est difficile en raison de l'absence de référence de vérité terrain pour le comportement correct. Les auteurs soutiennent que sans une référence vérifiable, il est impossible de distinguer un véritable comportement stratégique des artefacts du modèle ou des écarts « savoir-faire » (Lin et al., 2026).

Méthodologie

Pour créer un environnement contrôlé doté d'une référence vérifiable, les auteurs ont construit un simulateur de Texas Hold'em poker où chaque siège est occupé par un agent LLM. Le cadre expérimental repose sur trois composantes fondamentales :

L'environnement : Une arène de Texas Hold'em où une heuristique de seuil basée sur l'équité sert de politique de référence reproductible. Pour chaque décision, un calculateur d'équité par Monte Carlo (500 simulations) détermine l'action « correcte » (fold, call ou raise) en fonction de l'équité de la main et des cotes du pot (pot odds).
La décomposition du pipeline de décision : Les auteurs décomposent l'écart de fidélité en deux étapes distinctes :
- Raisonnement $\to$ Conclusion : La décision déclarée de l'agent découle-t-elle logiquement de ses propres entrées déclarées (équité, cotes du pot) et de la règle qu'il prétend suivre ?
- Conclusion $\to$ Action : L'agent exécute-t-il l'action qu'il a explicitement énoncée dans sa trace de raisonnement ?
Configuration expérimentale : L'étude implique trois familles de modèles : Claude Haiku 4.5, Gemini 2.5 Flash-Lite et DeepSeek-v4-pro (un modèle de raisonnement entraîné nativement). Quatre stratégies de prompt sont testées :
- Baseline : Cadrage d'expert minimal, aucun raisonnement demandé.
- CoT (Chaîne de pensée) : Instructions pour « réfléchir étape par étape » et émettre une balise DECISION explicite.
- Persona : Style comportemental imposé (ex. : « tight-aggressive ») sans demande de raisonnement.
- GTO-contraint : La règle de décision (équité vs cotes du pot) est explicitement injectée dans le prompt.
- GTO-verbeux (Diagnostique) : Une stratégie spécifique instruisant les agents à produire des lignes étiquetées pour l'Équité, les Cotes du Pot, la Règle et la Décision afin de permettre une analyse granulaire des erreurs.

Principales contributions

L'article apporte quatre contributions majeures :

Prudence de mesure : Il démontre que les taux d'« infidélité » rapportés sont très sensibles aux méthodes d'extraction. L'extraction de phrases en texte libre produit des taux d'incohérence de 22 à 26 %, tandis que le balisage explicite de la décision réduit ce taux à moins de 2 %, suggérant qu'une grande partie de l'écart précédemment rapporté est un artefact de mesure.
Localisation de l'écart : En séparant les étapes du pipeline, les auteurs montrent que l'écart de fidélité est concentré en amont. Les agents exécutent leurs décisions déclarées avec une grande fidélité (Conclusion $\to$ Action est fiable), mais dérivent fréquemment de manière invalide à partir de leur propre raisonnement (Raisonnement $\to$ Conclusion est peu fiable).
Caractérisation de l'échec en amont : Le mode d'erreur dominant (65 % des échecs) est la « mauvaise application de la règle ». Les agents estiment correctement les entrées et énoncent la règle, mais supplantent ensuite la règle quantitative par un flou qualitatif (ex. : « pas significativement au-dessus ») dans une direction systématiquement prudente face au risque. L'injection de la règle dans le prompt ne pallie pas ce problème.
Instrument de fidélité portable : Les auteurs publient un banc d'essai vérifiable et reproductible (code et démo multi-agents en direct) qui peut être adapté à des simulations sociales plus riches pour détecter la dérive de persona et la rationalisation de surface au niveau de l'étape.

Résultats

Cohérence Conclusion $\to$ Action : Lorsque les conclusions sont extraites via des balises explicites, les taux d'incohérence sont négligeables (0,0 % – 1,8 % selon les modèles). En revanche, les parseurs de texte libre rapportent 22 à 33 % d'incohérence, principalement parce que le parseur extrait la dernière action candidate mentionnée plutôt que la décision finale.
Validité Raisonnement $\to$ Conclusion : Dans le diagnostic GTO-verbeux, 65 % des décisions erronées étaient causées par une mauvaise application de la règle. Les agents ont correctement calculé l'équité et les cotes du pot (à moins de 0,15 de la vérité Monte Carlo dans 68 % des cas) et ont énoncé la bonne règle, mais ont tiré une conclusion qui contredisait les calculs.
- Directionnalité : Les erreurs ne sont pas des erreurs arithmétiques aléatoires. Dans 97 % des cas de mauvaise application de la règle, la règle impliquait un « raise », mais l'agent choisissait une action passive (call/fold). Les agents utilisaient systématiquement un langage de prudence pour justifier un comportement prudent malgré des probabilités mathématiques favorables.
Injection de Prompt : La stratégie « GTO-contrainte », qui fournissait explicitement la règle de décision au modèle, n'a pas amélioré l'adhérence. Les taux d'adhérence pour cette stratégie étaient systématiquement au niveau ou proche du bas de l'échelle (47,9 % – 54,6 %), confirmant que le goulot d'étranglement est l'application de la règle, et non sa récupération ou sa compréhension.

Signification et affirmations

L'article affirme que la préoccupation centrale consistant à distinguer le véritable comportement stratégique des artefacts du modèle nécessite un changement de focalisation de l'évaluation.

Réévaluation de la fidélité : L'« infidélité » apparente des LLM est souvent un artefact de mesure causé par la manière dont les conclusions sont extraites. Lorsqu'elles sont mesurées correctement, les agents sont très fidèles à leurs décisions déclarées.
Le véritable mode d'échec : Le problème substantiel n'est pas que les agents ignorent leur raisonnement, mais qu'ils effectuent des inférences invalides à partir de leur propre raisonnement. Ils énoncent des prémisses et des règles correctes, mais les supplantent par des jugements qualitatifs et prudents.
Implications pour la simulation sociale : Dans les simulations sociales complexes, cet échec « en amont » peut se manifester par une « dérive de persona ». Un agent peut articuler un persona spécifique (ex. : « agressif ») et raisonner correctement à son sujet, mais son action finale est tirée vers un a priori générique et conservateur. Comme cette dérive se produit lors de l'étape de dérivation, elle est invisible pour les contrôles au niveau du résultat ou de la conclusion.
Changement méthodologique : Les auteurs préconisent des évaluations de fidélité de processus qui ciblent la dérivation des conclusions à partir du raisonnement et qui exigent des conclusions explicites vérifiables par machine pour éviter de confondre le bruit de mesure avec le comportement du modèle.

L'article conclut que bien que le poker ne soit pas une simulation sociale complète, il constitue un environnement de calibration nécessaire pour exposer ces sondes de fidélité au niveau de l'étape, lesquelles peuvent ensuite être transférées à des domaines plus complexes où la vérité terrain est plus difficile à définir.