💬 NLP

Integrated and Cross-Architecture Interpretation of LLM Reasoning

Cet article présente le cadre de raisonnement intégré et inter-architectures (IAR), qui combine l'analyse des pics d'information mutuelle calibrée en bande passante avec les métriques de chevauchement du ratio de réflexion profonde et de stabilité de Jaccard afin de fournir une méthode unifiée et généralisable pour interpréter les schémas de raisonnement à travers différentes architectures et domaines de modèles de langage de grande taille.

Auteurs originaux : Leonardo Matthew Yauw, Wei-Bin Kou, Yujiu Yang

Publié 2026-05-28

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Leonardo Matthew Yauw, Wei-Bin Kou, Yujiu Yang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous regardez un magicien exécuter un tour complexe. Vous pouvez voir le résultat final (le lapin dans le chapeau) et entendre l'explication verbale du magicien (« Maintenant, observez attentivement pendant que je sors le lapin... »). Mais vous ne pouvez pas voir les mouvements secrets se déroulant à l'intérieur du chapeau ni le processus de pensée interne du magicien.

Depuis longtemps, les chercheurs tentent de comprendre comment les grands modèles de langage (LLM) « pensent » pour résoudre des problèmes difficiles comme des équations mathématiques ou des énigmes de programmation. Ils peuvent voir les mots que l'IA écrit (la « chaîne de raisonnement »), mais le travail mental réel se déroulant à l'intérieur du cerveau de l'ordinateur reste une boîte noire.

Cet article, intitulé « Interprétation intégrée et inter-architecture du raisonnement des LLM », propose une nouvelle façon d'entrevoir l'intérieur de cette boîte noire. Les auteurs, Leonardo Matthew Yauw, Wei-Bin Kou et Yujiu Yang, soutiennent que se fier à un seul indice ne suffit pas. Au lieu de cela, ils ont conçu un kit d'enquête en trois parties appelé IAR (Reasoning Intégré, Agnostique de l'Architecture) pour comprendre comment différents modèles d'IA raisonnent.

Voici comment leur méthode fonctionne, expliquée avec des analogies simples :

Les trois indices du kit d'enquête IAR

Les chercheurs ont réalisé que les méthodes précédentes ressemblaient à essayer de résoudre une énigme avec seulement la moitié des preuves. Ils ont combiné trois « sondes » différentes pour obtenir une image complète :

1. Le détecteur de moment « Eureka ! » (MIP)

L'analogie : Imaginez que vous écoutez un cours. La plupart du temps, l'orateur ne fait que remplir le temps. Mais occasionnellement, il dit quelque chose qui se connecte parfaitement à la clé de réponse. Ce mot spécifique est un moment « Eureka ! ».
La science : L'équipe utilise un outil appelé Mutual Information Peak (MIP). Il scanne la sortie de l'IA pour trouver des mots spécifiques (tokens) qui portent le plus d'informations sur la réponse correcte.
La difficulté : Pour que cela fonctionne sur différents types de modèles d'IA, ils ont dû « calibrer » l'outil, comme ajuster la mise au point d'un objectif d'appareil photo, afin qu'il ne soit pas flou sur certains modèles mais trop net sur d'autres.

2. Le traqueur de « Pensée profonde » (DTR)

L'analogie : Imaginez un étudiant résolvant un problème de mathématiques. Certaines étapes sont faciles et se produisent instantanément (pensée superficielle). D'autres étapes nécessitent que l'étudiant s'arrête, se gratte la tête et réfléchisse profondément avant d'écrire quoi que ce soit (pensée profonde).
La science : Ils utilisent un outil appelé Deep-Thinking Ratio (DTR). Cela mesure combien de « travail de calcul » se produit à l'intérieur des couches du modèle avant qu'un mot ne soit finalement choisi. Si un mot n'est décidé qu'après que le modèle l'a traité à travers de nombreuses couches profondes, c'est un token de « pensée profonde ».

3. Le contrôle de « Cohérence » (Stabilité Jaccard)

L'analogie : Si vous posez la même question difficile à un étudiant trois fois, utilisera-t-il exactement les mêmes étapes clés pour la résoudre ? S'il le fait, il comprend probablement vraiment le concept. S'il devine différemment à chaque fois, il pourrait simplement avoir de la chance.
La science : Les chercheurs posent le même problème à l'IA trois fois avec de légères variations. Ils vérifient si les mots « Eureka ! » (de l'étape 1) apparaissent aux mêmes endroits à chaque fois. S'ils le font, le raisonnement est stable et authentique. S'ils changent considérablement, le raisonnement pourrait être un hasard.

La grande découverte : Assembler les indices

La découverte la plus excitante de l'article est ce qui se passe lorsque vous combinez ces indices.

L'effet « Filtre » :
Les chercheurs ont constaté que les mots « Eureka ! » (MIP) sont presque toujours un petit sous-ensemble spécial des mots « Pensée profonde » (DTR).

Pensez-y ainsi : Imaginez une usine produisant 1 000 pièces (pensées profondes). La plupart ne sont que des pièces standard. Mais seulement 50 d'entre elles sont les engrenages critiques qui font réellement fonctionner la machine.
L'outil MIP agit comme un filtre qui trouve ces 50 engrenages critiques au milieu de la pile de 1 000 pensées profondes.
Pourquoi cela compte : Auparavant, les gens pensaient que « Pensée profonde » signifiait « Bon raisonnement ». Cet article montre que le fait qu'un modèle réfléchisse intensément ne signifie pas qu'il pense correctement. Vous avez besoin du filtre « Eureka ! » pour trouver les bonnes pensées difficiles.

Tests sur différents modèles

L'équipe n'a pas testé cela sur une seule IA. Ils l'ont testé sur trois modèles différents (Qwen-7B, Qwen-14B et Llama-8B) sur quatre types de tâches : Mathématiques, Programmation, Logique et Sens commun.

Les résultats :

Motif universel : L'effet « Filtre » (où les mots « Eureka ! » critiques ne constituent qu'une petite partie des pensées profondes) fonctionnait de la même manière sur les trois modèles, même s'ils étaient construits différemment. Cela suggère une façon universelle dont les modèles d'IA raisonnent.
Chance vs Authenticité : Ils pouvaient distinguer un modèle qui a vraiment résolu un problème d'un qui a eu de la chance.
- Raisonnement authentique : Le modèle a trouvé quelques mots « Eureka ! » très spécifiques et s'y est tenu de manière cohérente.
- Devinettes chanceuses : Le modèle a produit beaucoup de mots « Eureka ! », mais ils étaient dispersés, incohérents et ne correspondaient pas entre différentes tentatives.
L'échec « silencieux » : Parfois, le modèle donne la mauvaise réponse mais produit tout de même une chaîne de raisonnement. L'équipe a constaté que dans ces cas, les mots « Eureka ! » étaient soit absents, soit instables.

Ce que cela signifie (et ne signifie pas)

Ce que l'article affirme :

Nous pouvons maintenant voir où et comment les modèles d'IA raisonnent en examinant des mots spécifiques et la profondeur de la réflexion du modèle à leur sujet.
Cette méthode fonctionne sur différents types de modèles d'IA, pas seulement sur une marque spécifique.
Nous pouvons distinguer un modèle qui comprend vraiment un problème d'un qui ne fait que deviner ou halluciner.

Ce que l'article ne prétend PAS :

Il ne dit pas que cela rendra l'IA plus intelligente à l'avenir.
Il ne prétend pas que cela peut être utilisé pour diagnostiquer la santé mentale humaine ou des problèmes cliniques.
Il ne promet pas que nous pouvons maintenant « corriger » immédiatement les erreurs de raisonnement de l'IA ; cela nous donne simplement un meilleur moyen de les voir.

Résumé

Considérez cet article comme l'invention d'une nouvelle paire de lunettes. Auparavant, lorsque nous regardions une IA résoudre un problème de mathématiques, nous voyions un flou de mots. Avec ces nouvelles lunettes (le cadre IAR), nous pouvons clairement voir les moments spécifiques où l'IA effectue son vrai travail, distinguer une idée brillante d'une devinette chanceuse, et confirmer que ce « style de pensée » est une partie fondamentale du fonctionnement de ces machines, indépendamment de leur marque.

Résumé Technique : Interprétation Intégrée et Trans-Architecture du Raisonnement des LLM

1. Énoncé du Problème

L'interprétabilité du raisonnement des grands modèles de langage (LLM) est entravée par une asymétrie fondamentale : alors que les chaînes de raisonnement générées (sorties) sont observables, les trajectoires de calcul internes qui les produisent restent opaques. Les méthodes d'interprétabilité existantes souffrent de deux limitations principales :

Isolement des sondes : Les méthodes actuelles reposent sur des sondes uniques fournissant des vues partielles. Les pics d'information mutuelle (MIP) identifient les tokens ayant une forte teneur en information concernant la réponse de référence au niveau de la couche de sortie, mais ignorent la profondeur de calcul requise pour les produire. À l'inverse, le ratio de pensée profonde (DTR) mesure la profondeur de calcul via la divergence inter-couches, mais se déclenche sur trop de tokens pour servir de signal discriminant de la pertinence du raisonnement à lui seul.
Absence de validation trans-architecture : Les analyses antérieures sont souvent confinées à une seule famille de modèles, rendant difficile la distinction entre les propriétés fondamentales du raisonnement et les artefacts architecturaux.

2. Méthodologie : Le Cadre IAR

Les auteurs proposent le cadre Integrated, Architecture-agnostic Reasoning (IAR) (Raisonnement Intégré et Indépendant de l'Architecture), un pipeline unifié qui analyse le raisonnement selon trois axes : pertinence du raisonnement, profondeur de calcul et robustesse au bruit.

2.1 Isolement des Tokens Cruciaux pour le Raisonnement (Couche de Sortie)

Le cadre isole d'abord les tokens critiques pour le raisonnement en utilisant un MIP calibré en bande passante :

Estimation HSIC : L'information mutuelle (MI) entre la représentation de sortie d'un token et l'embedding de la réponse de référence est estimée à l'aide du critère d'indépendance Hilbert–Schmidt (HSIC) avec un noyau RBF gaussien.
Calibration de la bande passante : Pour éviter l'effondrement du noyau (saturation des similarités), la largeur de bande du noyau ( $\sigma$ ) est calibrée par architecture. Pour les modèles Qwen, un $\sigma=50$ fixe est utilisé ; pour Llama-8B, une heuristique de médiane par problème basée sur les distances des états cachés est appliquée.
Détection des pics : Une règle non paramétrique Tukey IQR identifie les tokens « cruciaux pour le raisonnement » ( $P_q$ ) où la MI dépasse $Q3 + 1,5 \times IQR$ .

2.2 Analyse des Trajectoires Inter-Couches (Profondeur de Calcul)

Le cadre trace ensuite la profondeur de calcul de ces tokens en utilisant le DTR :

Divergence Jensen–Shannon (JSD) : La divergence entre la distribution prédictive de chaque couche cachée et la couche finale est calculée.
Couche de stabilisation : Un token est défini comme DTR-profond si sa distribution prédictive ne se stabilise (JSD < seuil) que dans les couches supérieures du réseau.
Analyse de chevauchement : Le cadre effectue une analyse de chevauchement au niveau des ensembles entre l'ensemble MIP ( $P_q$ $P_{q}$ ) et l'ensemble DTR-profond ( $D_q$ $D_{q}$ ). Il teste deux hypothèses :
- Indépendance ( $H_1$ ) : Les MIP sont dispersés parmi les tokens profonds et peu profonds.
- Inclusion ( $H_2$ ) : $P_q \subseteq D_q$ , impliquant que les MIP constituent un sous-ensemble épars et pertinent pour le raisonnement des tokens de calcul profond.

2.3 Validation de la Qualité du Raisonnement (Robustesse au Bruit)

Pour vérifier que les tokens identifiés reflètent un raisonnement authentique et non des artefacts stochastiques, le cadre emploie une métrique de Stabilité Jaccard Tripartite :

Génération stochastique : Trois chaînes de raisonnement indépendamment ensemencées sont générées pour chaque problème.
Métrique de stabilité ( $J_3$ ) : L'intersection des ensembles MIP sur les trois générations est divisée par leur union.
Taxonomie : Les problèmes sont catégorisés en Authentiques (structure MIP correcte et stable), Chanceux (structure MIP correcte mais instable) et Silencieux (incorrects) en fonction de l'exactitude et de $J_3$ .
Discrimination : Les statistiques agrégées des MIP (nombre de pics, ratio, intensité) sont testées pour voir si elles discriminent les problèmes Authentiques des problèmes Chanceux/Silencieux à l'aide de tests U de Mann–Whitney.

3. Configuration Expérimentale

Modèles : Trois modèles de raisonnement de la famille DeepSeek-R1-Distill : Qwen-7B, Qwen-14B et Llama-8B.
Domaines : Mathématiques (GSM8K), Code (MBPP), Logique (BBH Boolean Expressions) et Bon sens (CommonsenseQA).
Décodage : Déterministe (glouton) pour la détection/analyse de chevauchement ; Stochastique (échantillonnage, $T=0,7$ ) pour la stabilité et la discrimination de qualité.

4. Résultats Clés

Les expériences produisent quatre résultats principaux à travers les trois architectures et les quatre domaines :

DéTECTabilité (RQ1) : La détection de MIP calibrée en bande passante est viable sur toutes les architectures mais montre une sensibilité conditionnelle. Llama-8B présente une détection uniforme sur tous les domaines. Les modèles Qwen montrent une scission : une détection élevée sur les tâches symboliques (mathématiques, code) mais une détection quasi nulle sur les tâches en langage naturel (logique, bon sens) pour Qwen-7B, attribuée aux interactions entre la dimensionnalité des embeddings et la largeur de bande du noyau.
Inclusion (RQ2) : L'Hypothèse d'Inclusion ( $H_2$ ) est fortement soutenue. Les tokens identifiés par MIP constituent un sous-ensemble de haute précision (Précision du Pool de Tokens $\approx 0,82$ ) des tokens DTR-profonds. Cela confirme que les tokens cruciaux pour le raisonnement sont intensifs en calcul, et que le MIP agit comme un filtre interprétable sur l'ensemble plus large des tokens profonds.
Stabilité (RQ3) : Bien que l'existence du MIP soit stable à l'échantillon (l'événement binaire de détection des pics est reproductible), l'identité spécifique des tokens MIP est fragile à l'échantillon (faible stabilité Jaccard, $J_3 \approx 0,09–0,28$ ). Cela suggère que la qualité du raisonnement doit être évaluée via des statistiques agrégées plutôt que par les identités spécifiques des tokens.
Discrimination de Qualité (RQ4) : Les statistiques agrégées des MIP discriminent le raisonnement Authentique des devinettes Chanceuses. Contre-intuitivement, les problèmes Authentiques présentent moins de MIP, plus épars et plus faibles que les problèmes Chanceux. Cela soutient une vision d'« économie du raisonnement » où les vraies solutions reposent sur quelques ancres nettes, tandis que les trajectoires chanceuses produisent une activité MI diffuse et volumineuse. Cette discrimination est portable entre architectures, bien que les tailles d'effet varient (les plus fortes chez Qwen-14B).

5. Signification et Contributions

L'article revendique les contributions suivantes :

Cadre Unifié : Il introduit l'IAR, un paradigme qui révèle conjointement le raisonnement par la pertinence, la profondeur et la robustesse, dépassant les sondes isolées.
Insight Compositionnel : Il établit que le MIP et le DTR ne sont pas des métriques concurrentes mais compositionnelles ; le MIP filtre les tokens de calcul profond identifiés par le DTR pour trouver le sous-ensemble pertinent pour le raisonnement.
Généralisation Trans-Architecture : Il fournit la première preuve d'un motif de raisonnement transférable (inclusion du MIP dans les tokens DTR-profonds) à travers différentes familles de modèles (Qwen et Llama) et échelles.
Rigueur Méthodologique : Il démontre la nécessité d'une évaluation stochastique multi-ensemencée et d'un calibrage de la bande passante pour éviter les artefacts architecturaux, affinant la compréhension des « tokens de pensée » dans les LLM.

Les auteurs concluent que, bien que les identités de tokens individuels soient instables, les propriétés statistiques agrégées des traces de raisonnement offrent un signal robuste et invariant à l'architecture pour distinguer le raisonnement authentique d'une réussite stochastique.