🤖 AI

Revealing Algorithmic Deductive Circuits for Logical Reasoning

Cet article examine comment les grands modèles de langage effectuent un raisonnement logique en utilisant l'analyse de médiation causale pour identifier des têtes d'attention spécifiques qui récupèrent des règles factuelles et des têtes de couches supérieures qui intègrent des informations pour exécuter des stratégies algorithmiques globales telles que la traversée de graphes.

Auteurs originaux : Phuong Minh Nguyen, Tien Huu Dang, Naoya Inoue

Publié 2026-05-28

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Phuong Minh Nguyen, Tien Huu Dang, Naoya Inoue

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un Grand Modèle de Langage (LLM) comme un détective brillant et ultra-rapide, entraîné à résoudre des énigmes logiques. Vous donnez au détective quelques exemples de la manière de résoudre une énigme, puis vous lui demandez d'en résoudre une nouvelle. Il s'en sort généralement très bien, en écrivant son processus de réflexion étape par étape (une méthode appelée « Chaîne de Pensée »).

Mais voici le mystère : Comment le détective « réfléchit »-il réellement ? Comprend-il vraiment la logique, ou se contente-t-il de deviner en se basant sur des motifs qu'il a déjà vus ?

Ce papier, « Révélation des circuits déductifs algorithmiques pour le raisonnement logique », agit comme un mécanicien ouvrant le cerveau du détective pour voir exactement quelles engrenages tournent lorsqu'il résout un problème logique.

La boîte à outils du détective : les moments « incertains »

Les chercheurs ont remarqué que, lorsque le détective résout une énigme, la plupart des mots qu'il écrit sont faciles. Il les connaît avec 100 % de certitude. Par exemple, écrire « Par conséquent... » ou « La réponse est... » est facile.

Cependant, il existe des moments précis où le détective hésite. Ce sont les points de décision critiques :

Choisir le fait : « D'accord, quel élément de preuve dois-je examiner en premier ? »
Arrêter la recherche : « Ai-je examiné assez d'éléments de preuve, ou dois-je continuer à chercher ? »
Choisir la règle : « Quelle règle s'applique à cette situation spécifique ? »

Le papier a révélé que ce sont les moments où le modèle est le moins confiant. C'est comme un détective humain qui s'arrête pour réfléchir : « Hmm, cet indice correspond-il ? » Les chercheurs ont réalisé que s'ils pouvaient comprendre comment le modèle prend ces choix spécifiques et difficiles, ils comprendraient l'ensemble du processus de raisonnement.

Le « scanner cérébral » : trouver les engrenages spécialisés

Pour comprendre ce qui se passe à l'intérieur du modèle, les chercheurs ont utilisé une technique appelée Analyse de Médiation Causale. Imaginez cela comme un « scanner cérébral » pour l'IA.

Ils ont créé un scénario où ils ont pris une énigme « propre » et une énigme « corrompue » (où ils ont secrètement modifié un fait ou une règle). Ensuite, ils ont joué à un jeu de « changement » avec les parties internes du modèle (appelées têtes d'attention).

Ils prenaient la partie « réflexion » du modèle de l'énigme propre et la collaient dans l'énigme corrompue.
Si le modèle commençait soudainement à résoudre correctement l'énigme corrompue, ils savaient que cette partie spécifique était responsable de la logique.

Ce qu'ils ont découvert : une chaîne de montage spécialisée

L'étude a révélé que le modèle n'utilise pas tout son cerveau pour chaque tâche. Au lieu de cela, il utilise une équipe très spécifique et réduite d'« engrenages » spécialisés (environ 3 % de ses parties internes totales) pour gérer la logique.

Ils ont trouvé une hiérarchie claire, comme une chaîne de montage dans une usine :

Les premières couches (Les bibliothécaires) : Les parties inférieures du modèle agissent comme des bibliothécaires. Leur seul travail est de trouver les bons faits et les bonnes règles dans le texte et de les retirer de l'étagère. Ils ne prennent pas de décisions ; ils rassemblent simplement des informations.
Les couches intermédiaires (Les entremetteurs) : Ces engrenages prennent les faits et les règles et vérifient s'ils s'adaptent. « Le Fait A correspond-il à la Règle B ? »
Les couches supérieures (Les gestionnaires) : Les couches supérieures agissent comme les chefs de projet. Ils ne regardent pas les faits individuels ; ils regardent la vue d'ensemble. Ils décident de la stratégie globale, comme « Utilisons une recherche en largeur » (vérifier toutes les options à la fois) ou « Allons d'abord profondément dans un chemin ». Ils coordonnent tous les engrenages inférieurs pour résoudre l'énigme entière.

Le test « Knockout »

Pour prouver que ces engrenages étaient réellement nécessaires, les chercheurs ont mené une expérience de « knockout ». Ils ont temporairement désactivé les 3 % spécifiques d'engrenages responsables de la logique et ont demandé au modèle de résoudre à nouveau des énigmes.

Résultat : La capacité du modèle à résoudre des énigmes logiques s'est effondrée. Il est passé d'un détective brillant à quelqu'un incapable de résoudre une devinette, souvent en devinant au hasard.
La surprise : Lorsqu'ils ont posé au modèle des questions de connaissances générales (comme « Qui était le premier président ? »), il a à peine remarqué les engrenages manquants. Il pouvait toujours y répondre correctement.

Cela prouve que ces engrenages spécifiques sont exclusivement dédiés au raisonnement logique. Ils ne sont pas de simples parties « intelligentes » générales ; ce sont des outils spécialisés pour la déduction.

La vue d'ensemble

Le papier conclut que lorsqu'un LLM apprend à raisonner à partir de quelques exemples seulement, il ne se contente pas de mémoriser les réponses. Il apprend en réalité à activer un réseau spécifique et éparse de circuits internes qui imitent un algorithme (un programme informatique étape par étape).

Les couches basses rassemblent les données.
Les couches intermédiaires vérifient les règles.
Les couches hautes exécutent la stratégie.

C'est comme si le modèle avait une équipe cachée et minuscule d'experts en logique à l'intérieur, qui ne se réveillent que lorsque vous lui demandez de résoudre une énigme, travaillant ensemble comme une machine bien huilée pour trouver la vérité.

Résumé technique : Révélation de circuits déductifs algorithmiques pour le raisonnement logique

Énoncé du problème

Des études récentes indiquent que les grands modèles de langage (LLM) peuvent atteindre des performances de raisonnement élevées en intégrant des représentations symboliques fonctionnelles qui décrivent de manière abstraite des algorithmes de parcours de graphe dans des contextes de chaîne de pensée (CoT) à quelques exemples. Cependant, il reste unclear comment les LLM comprennent véritablement la signification abstraite des étapes individuelles de raisonnement et de l'algorithme global à partir d'un nombre limité de démonstrations. Alors que les travaux antérieurs se sont concentrés sur le développement de cadres de raisonnement sophistiqués ou sur l'amélioration des performances par l'ingénierie de prompts et le fine-tuning, cette étude aborde une question de recherche fondamentale : Quels mécanismes les LLM emploient-ils en interne pour résoudre des tâches de raisonnement logique ?

Plus précisément, l'article examine le raisonnement déductif, qui nécessite un raisonnement multi-sauts pour déterminer si une conclusion découle logiquement d'un ensemble de prémisses. Les auteurs émettent l'hypothèse que les LLM « apprennent » la signification des étapes d'inférence en activant des sous-ensembles spécifiques de têtes d'attention qui agissent comme des médiateurs pour exécuter les étapes d'inférence et respecter les algorithmes de parcours de graphe (par exemple, le parcours en largeur ou le parcours en profondeur).

Méthodologie

Les auteurs emploient l'analyse de médiation causale (CMA) dans le domaine de l'interprétabilité mécaniste pour localiser et caractériser les composants internes (circuits) responsables du raisonnement logique.

1. CoT assisté par symboles et construction de jeu de données

L'étude utilise un format de prompt CoT assisté par symboles où le processus de raisonnement est modélisé comme un graphe d'inférence construit sur des faits et des règles prédéfinis.

Jeu de données synthétisé ( $D_{syn}$ ) : Un jeu de données a été construit avec des prémisses simplifiées (lettres majuscules A–Z), des règles aléatoires (8 à 18 par échantillon) et des chaînes de raisonnement générées via l'algorithme de parcours en largeur (BFS).
Identification des tokens incertains : Les auteurs ont d'abord identifié les « tokens incertains » — des positions dans la chaîne de raisonnement ayant de faibles probabilités de prédiction (confiance < 0,8). L'analyse a révélé que trois composants de raisonnement spécifiques expliquent la majorité de cette incertitude :
1. Sélection de prémisse : Choisir un fait dans la base de connaissances (KB) qui satisfait une règle.
2. Terminaison de la sélection de prémisse : Décider quand arrêter la sélection de prémisses pour l'étape actuelle.
3. Sélection de règle : Déterminer quelle règle appliquer étant donné les prémisses sélectionnées.

2. Découverte de circuits par patching d'activation et de chemin

Pour identifier les têtes d'attention spécifiques responsables de ces composants, les auteurs ont construit des paires de prompts propres et corrompus. Les prompts corrompus modifient systématiquement les éléments causaux (par exemple, les valeurs de faits, les définitions de règles ou les algorithmes de parcours dans les démonstrations) pour induire des choix de tokens différents aux positions des composants de raisonnement.

Patching d'activation : Utilisé pour évaluer la contribution des têtes d'attention individuelles en mesurant l'effet indirect moyen (AIE). Cela consiste à patcher des activations propres dans des passes avant corrompues pour voir si le modèle retrouve son comportement d'origine.
Patching de chemin : Utilisé pour quantifier le flux d'information entre des paires de têtes en corrompant et restaurant systématiquement les activations entre elles. Cela révèle l'influence causale d'une tête sur une autre.

3. Études d'ablation

Pour valider la nécessité des circuits identifiés, les auteurs ont réalisé des expériences d'ablation où les $k$ têtes de raisonnement identifiées ont été « mises hors service » (réglées sur une activation nulle). Cela a été testé sur :

Le jeu de données synthétisé ( $D_{syn}$ ).
Des benchmarks de raisonnement logique établis : ProntoQA et ProofWriter.
Un benchmark de connaissances générales : MMLU.

Résultats et découvertes clés

1. Localisation des têtes de raisonnement

Structure hiérarchique : L'analyse révèle une structure temporelle et hiérarchique claire dans le traitement des tâches de raisonnement.
- Couches précoces à intermédiaires : Contiennent des « têtes de lecture » (par exemple, Lire un fait, Lire une condition de règle) qui extraient les informations pertinentes de la description du problème et les propagent à travers le flux résiduel.
- Couches intermédiaires à supérieures : Contiennent des « têtes de décision » (par exemple, Sélectionner une prémisse, Sélectionner une règle) qui effectuent des opérations logiques et intègrent les informations.
Sparsité : Les têtes critiques pour le raisonnement sont hautement éparses. Par exemple, dans le modèle Llama-3.1-8B-Instruct, une seule tête peut représenter plus de 30 % de l'effet pour la sélection de règle. Sur tous les modèles, les têtes de raisonnement identifiées constituent environ 3 % du total des têtes d'attention.
Polysemanticité : De nombreuses têtes d'attention effectuent plusieurs sous-tâches (par exemple, lire les conditions de règle et les faits), agissant comme des centres d'intégration d'informations.

2. Caractéristiques du réseau de circuits

Spécialisation : Des circuits spécifiques gèrent des composants de raisonnement distincts (par exemple, un « circuit de correspondance de conditions de règle » transfère les informations sur les conditions de règle des têtes de lecture vers les têtes de décision).
Flux d'information : L'information circule des têtes de lecture dans les couches inférieures vers les têtes de décision dans les couches plus profondes. Les couches supérieures facilitent principalement l'intégration d'informations et l'émergence de stratégies de raisonnement globales (comme les algorithmes de parcours de graphe) qui coordonnent plusieurs étapes intermédiaires.
Différences de modèles : Alors que Llama-3.1-8B-Instruct partage principalement des têtes pour des rôles de lecture causale, les modèles Qwen tendent à partager des têtes à travers des rôles de prise de décision.

3. Impact de l'ablation

Raisonnement déductif : Le retrait des têtes de raisonnement identifiées (le paramètre /3Roles, ablation d'environ 3 % des têtes) a fait effondrer la capacité de raisonnement de tous les LLM à presque zéro sur les données synthétisées et a considérablement dégradé les performances sur ProntoQA et ProofWriter.
Connaissances générales : Sur le jeu de données MMLU, l'ablation de composants de raisonnement individuels a eu un impact limité comparable à une ablation aléatoire. Cependant, l'ablation simultanée de toutes les têtes de raisonnement a provoqué une dégradation nettement plus importante que l'ablation aléatoire, suggérant que ces têtes sont recrutées même pour la récupération de connaissances larges, bien que leur contribution collective soit la plus critique pour la déduction structurée.
Généralisation : Les circuits identifiés sur le jeu de données synthétisé se sont bien généralisés aux benchmarks standards (ProntoQA, ProofWriter), indiquant qu'ils ne sont pas biaisés vers des caractéristiques de données spécifiques.

Importance et affirmations

L'article prétend fournir des insights mécanistes sur la manière dont les LLM internalisent des algorithmes de raisonnement abstraits à partir de démonstrations limitées. En révélant une architecture de circuit sparse et modulaire qui soutient une inférence multi-sauts complexe, ce travail démontre que les LLM ne se contentent pas de mémoriser des motifs, mais activent des voies neuronales spécifiques et localisées pour exécuter des étapes de raisonnement algorithmique.

Les auteurs positionnent ce travail comme une étape vers l'amélioration de la robustesse du raisonnement, de l'interprétabilité et des interventions ciblées pour les futurs modèles de langage. Ils soulignent que leurs résultats mettent en évidence l'importance de têtes d'attention spécifiques dans l'orientation du processus de raisonnement, en particulier aux positions de tokens « incertains » où le modèle doit satisfaire des contraintes strictes imposées par l'algorithme de raisonnement et les démonstrations à quelques exemples.

L'étude reconnaît des limites, notant que l'analyse est principalement menée sur des jeux de données synthétisés avec des structures logiques explicites et peut ne pas se généraliser pleinement à des textes libres ou à des processus de chaîne de pensée implicites dans des contextes naturalistes. De plus, l'accent reste mis sur les mécanismes d'attention, excluant les contributions potentielles des couches MLP.