🤖 AI

The Shape of Wisdom: Decision Trajectories in Language Models

Cet article analyse 9 000 trajectoires de décision à travers trois modèles de langage pour révéler que la correction et la stabilité sont des propriétés distinctes, démontrant que les mécanismes d'attention pilotent principalement des réponses correctes stables tandis que des segments de texte spécifiques influencent de manière critique les marges de décision.

Auteurs originaux : Shailesh Rana

Publié 2026-06-02

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Shailesh Rana

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous regardez une course où la ligne d'arrivée n'est pas seulement un instant unique, mais un long chemin sinueux. La plupart des gens ne regardent que qui franchit la ligne d'arrivée en premier (la réponse finale). Mais cet article nous demande de regarder toute la course pour voir comment les coureurs y sont réellement arrivés.

Voici l'histoire de l'article, « The Shape of Wisdom » (La forme de la sagesse), décomposée en concepts simples :

1. La course est un voyage, pas un instantané

D'habitude, nous pensons qu'un modèle d'IA est une machine qui lit une question et recrache instantanément une réponse (A, B, C ou D). Cet article soutient que c'est faux. À l'intérieur du modèle, la réponse est en réalité un voyourage qui se déroule couche par couche, comme la montée d'un escalier.

Au bas de l'escalier (les premières couches), le modèle peut pencher vers la mauvaise réponse. À mi-chemin, il peut être confus, hésitant sur le fil du rasoir entre deux choix. En haut, il peut enfin décider de la bonne réponse. Ou bien, il peut décider de la bonne réponse tôt, puis vaciller et presque changer d'avis, avant de se stabiliser à la toute dernière seconde.

Les auteurs appellent ce chemin une « trajectoire ». Ils suivent à quel point le modèle « aime » la bonne réponse par rapport à la meilleure mauvaise réponse à chaque étape de la montée.

2. Les quatre types de coureurs

En observant ces voyages, les chercheurs ont découvert que les modèles ne donnent pas seulement des réponses « Justes » ou « Fausses ». Ils se répartissent en quatre types de personnalité distincts :

Stable-Correct (Stable-Juste) : Le modèle trouve la bonne réponse tôt, avec assurance, et s'y tient avec confiance jusqu'au sommet. (Le vainqueur confiant).
Stable-Wrong (Stable-Faux) : Le modèle choisit la mauvaise réponse tôt et s'y tient avec assurance. (Le perdant confiant).
Unstable-Correct (Instable-Juste) : Le modèle finit par obtenir la bonne réponse, mais le trajet a été mouvementé. Il a vacillé, a failli changer d'avis, et ne s'est stabilisé sur la bonne réponse qu'à la toute dernière seconde. (Le vainqueur nerveux).
Unstable-Wrong (Instable-Faux) : Le modèle choisit la mauvaise réponse, vacille, manque de changer d'avis, mais finit quand même par avoir tort. (Le perdant nerveux).

La grande surprise : Le groupe le plus courant dans leur étude était le groupe Unstable-Correct. Cela signifie que même quand l'IA obtient la bonne réponse, elle ne s'est souvent pas « fixée » dessus avant le tout dernier moment. C'est une réponse correcte qui tenait à peine bon.

3. Qu'est-ce qui pousse le coureur ? (La salle des machines)

Une fois qu'ils ont su comment les modèles se déplaçaient, ils ont cherché à savoir ce qui les poussait. Ils ont examiné deux « moteurs » principaux à l'intérieur de l'IA :

L'Attention : C'est comme les yeux du modèle, qui scannent la question pour voir quels mots sont importants.
Le MLP (Feed-Forward) : C'est comme la pensée interne ou la mémoire du modèle, traitant ce qu'il a vu.

Ils ont trouvé une division amusante :

Dans les cas Stable-Correct, le moteur de l'Attention était celui qui poussait systématiquement le modèle vers la bonne réponse, étape par étape.
Le moteur MLP, étonnamment, poussait souvent dans la mauvaise direction ou n'aidait pas beaucoup dans ces cas stables.

4. L'expérience de la « suppression »

Pour prouver ce qui était important, les chercheurs ont joué à un jeu de « supprimer et voir ». Ils ont pris le texte de la question et ont supprimé des parties spécifiques :

Supprimer les « preuves » : Lorsqu'ils ont retiré la partie du texte qui soutenait réellement la bonne réponse, la confiance du modèle dans la bonne réponse a chuté.
Supprimer les « distracteurs » : Lorsqu'ils ont retiré les parties confuses ou fausses du texte, la confiance du modèle dans la bonne réponse a en fait augmenté.

Cela a prouvé que le modèle réagit véritablement au sens des mots, et ne devine pas au hasard.

5. Le test du « voyage dans le temps »

Enfin, ils ont fait une expérience étrange : ils ont pris un modèle « nerveux » qui échouait et ont essayé d'échanger ses « pièces de moteur » internes avec celles d'un modèle « confiant » qui réussissait.

Lorsqu'ils ont échangé les parties d'Attention, cela a aidé un peu.
Lorsqu'ils ont échangé les parties MLP (la pensée interne), cela a fait une différence énorme, transformant souvent un modèle en échec en un modèle gagnant.

Cela suggère que si l'Attention aide le modèle à rester sur la bonne voie étape par étape, le traitement interne profond (MLP) est ce qui permet réellement de verrouiller la décision finale.

La conclusion principale

La conclusion de l'article est que dire vrai n'est pas la même chose qu'être stable.

Ce n'est pas parce qu'une IA vous donne la bonne réponse qu'elle la « connaît ». Cela peut être un coup de chance, une panique de dernière seconde ou une supposition fragile. La « sagesse » du modèle n'est pas seulement le score final ; c'est le chemin fluide et confiant qu'il a pris pour y arriver. Les meilleurs modèles sont ceux qui trouvent la bonne réponse tôt et s'y maintiennent, plutôt que ceux qui trébuchent jusqu'à la ligne d'arrivée.

Résumé technique : La forme de la sagesse : Trajectoires de décision dans les modèles de langage

Énoncé du problème

Les évaluations actuelles des modèles de langage de grande taille (LLM) traitent généralement la sortie comme un point final unique : un jeton final sélectionné à la dernière couche. Cet article soutient que cette perspective occulte le processus interne de prise de décision. Dans les contextes de choix multiples, la préférence d'un modèle pour une réponse n'est pas statique ; elle évolue à travers la profondeur du réseau. Un modèle peut préférer la bonne réponse tôt, basculer vers une mauvaise réponse, stagner près d'une frontière de décision ou se stabiliser tardivement. L'article pose l'idée qu'une réponse doit être comprise comme une trajectoire à travers les couches du réseau plutôt que comme un événement de la couche finale. Le défi central consiste à séparer trois propriétés distinctes souvent confondues par la précision de l'extrémité : l'état actuel de la décision, la direction de son mouvement et sa proximité avec un basculement de décision.

Méthodologie

L'étude analyse 9 000 trajectoires modèle-prompt sur trois modèles de 7 à 8 milliards de paramètres ajustés par instructions : Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct et Mistral-7B-Instruct-v0.3. Tous les modèles ont été évalués sur les mêmes 3 000 prompts MMLU à quatre choix.

Observables et métriques

Les auteurs définissent trois quantités primaires suivies à chaque couche (de la couche 1 à la couche finale) :

État (Marge) : Le score de l'option correcte moins le score du concurrent incorrect le plus fort. Une marge positive indique que l'option correcte mène ; une marge négative indique une avance de l'option incorrecte.
Mouvement (Dérive) : Le changement de la marge d'une couche à la suivante.
Distance à la frontière : La valeur absolue de la marge, représentant la distance jusqu'à un basculement de décision (où la marge traverse zéro).

Classification des trajectoires

Sur la base de la réponse finale et de la stabilité de la queue de la trajectoire (les dernières couches), les auteurs classent les trajectoires en quatre régimes opérationnels :

Stable-Correct (SC) : La réponse finale est correcte et la queue est stable.
Stable-Wrong (SW) : La réponse finale est incorrecte et la queue est stable.
Unstable-Correct (UC) : La réponse finale est correcte, mais la trajectoire présente un mouvement significatif dans les couches tardives.
Unstable-Wrong (UW) : La réponse finale est incorrecte, avec un mouvement significatif dans les couches tardives.

Analyse mécaniste

Pour expliquer le mouvement au sein de ces trajectoires, les auteurs ont utilisé un sous-ensemble tracé de 600 prompts (150 par type de trajectoire).

Comptabilité scalaire : Les traces stockées ont enregistré des résumés scalaires de la manière dont les blocs d'Attention et les blocs MLP ont déplacé la marge à chaque couche.
Suppression de segments (Span Deletion) : Une intervention consistant à supprimer des segments spécifiques du prompt (étiquetés comme preuve, distracteur ou neutre) pour mesurer l'effet causal sur la marge de la réponse.
Rejeu contrefactuel : Des expériences de suppression et de substitution simulées où les contributions des composants (scalaires d'attention ou de MLP) d'une trajectoire « défaillante » ont été remplacées par celles d'une trajectoire source « stable-correcte » pour observer les changements dans la marge finale.

Résultats clés

1. Hétérogénéité de l'exactitude

La découverte empirique la plus significative est que l'Unstable-Correct (UC) est le groupe de trajectoires le plus important, comprenant 42,1 % de toutes les lignes modèle-prompt (3 790 trajectoires). En revanche, l'Stable-Correct (SC) ne représente que 19,0 % (1 711 trajectoires).

Cela implique qu'une réponse finale correcte ne signifie pas nécessairement que le modèle s'est « stabilisé » sur cette réponse tôt ; de nombreuses réponses correctes sont atteintes par une incertitude persistante et un mouvement dans les couches tardives.
La précision de l'extrémité confond la « justesse établie » avec la « justesse fragile ».

2. Moteurs mécanistes du mouvement

Comptabilité linéaire : Une combinaison linéaire des scalaires d'attention et de MLP reconstruit avec succès la dérive de la marge de couche en couche, atteignant des scores $R^2$ élevés (0,90 pour Qwen, 0,76 pour Llama, 0,91 pour Mistral).
Dynamique Stable-Correct : Dans les trajectoires stable-correct, le scalaire d'attention moyen est positif (0,14), ce qui indique qu'il pousse la réponse correcte en avant. Inversement, le scalaire MLP moyen est négatif (-0,22).
Dynamique Stable-Wrong : Les scalaires d'attention et de MLP sont tous deux négatifs dans les trajectoires stable-wrong.

3. Interventions sur les entrées

Les expériences de suppression de segments ont confirmé les liens causaux entre le contenu du prompt et le mouvement de la marge :

La suppression des segments de preuve a provoqué une chute de la marge correcte (effet moyen : +2,92 unités de logit).
La suppression des segments de distracteur a provoqué une hausse de la marge correcte (effet moyen : -2,18 unités de logit).
Les segments neutres ont montré des effets négligeables. Cela démontre que des segments de texte spécifiques pilotent causalement la marge définie par les régimes de trajectoire.

4. Substitution contrefactuelle

Lors de la substitution de composants de couches tardives de trajectoires stable-correct dans des trajectoires défaillantes :

La substitution MLP a produit un décalage moyen plus important dans la marge finale (ex : +5,75 dans le protocole « legacy first ») par rapport à la substitution d'attention (-0,31).
Cela suggère que si l'attention fournit une poussée constante couche par couche vers la stabilité, le MLP transporte un « boost » transférable plus important pour la marge finale lors de ce protocole de rejeu spécifique.

Signification et affirmations

Le papier évite explicitement de prétendre avoir découvert un circuit complet de l'état caché ou une transition de phase physique universelle. Sa signification réside plutôt dans la fourniture d'un cadre reproductible pour distinguer différents types de comportements de modèles :

Découplage de l'exactitude et de la stabilité : Ce travail démontre que « obtenir la bonne réponse » et « avoir la réponse établie » sont des propriétés distinctes. La prévalence des trajectoires Unstable-Correct suggère que de nombreuses sorties correctes sont fragiles et restent proches des frontières de décision jusqu'à la dernière couche.
Lisibilité des processus de décision : En suivant l'état, le mouvement et la distance à la frontière, les auteurs rendent le processus de décision lisible sans dépendre de la découverte de circuits complexes.
Identification des sources de mouvement : L'étude identifie que l'attention est la contribution positive la plus claire au mouvement stable-correct couche par couche, tandis que les composants MLP semblent piloter des décalages simulés plus importants dans les marges finales lors des interventions contrefactuelles.
Sensibilité causale des entrées : Les résultats confirment que la suppression de texte soutenant la réponse ou l'ajout de distracteurs déplace la marge de décision dans des directions prévisibles et interprétables.

Les auteurs concluent que le « meilleur comportement » dans ces modèles n'est pas simplement d'atteindre l'extrémité correcte, mais de l'atteindre tôt et de maintenir cette position (se stabiliser). Les métriques et interventions fournies offrent un moyen de mesurer quelles réponses sont établies, lesquelles sont fragiles, et quelles forces mesurées (attention vs MLP, preuves vs distracteurs) pilotent ces résultats.