🤖 machine learning

Scalable Circuit Learning for Interpreting Large Language Models

Le document présente CircuitLasso, une méthode de régression linéaire creuse et évolutive qui apprend efficacement des circuits interprétables sur les caractéristiques d'autoencodeurs creux dans les grands modèles de langage, égalant la précision des techniques coûteuses basées sur l'intervention tout en permettant une généralisation de domaine efficace pour une fraction du coût computationnel.

Auteurs originaux : Naiyu Yin, Dennis Wei, Tian Gao, Amit Dhurandhar, Karthikeyan Natesan Ramamurthy, Yue Yu

Publié 2026-06-16

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Naiyu Yin, Dennis Wei, Tian Gao, Amit Dhurandhar, Karthikeyan Natesan Ramamurthy, Yue Yu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un grand modèle de langage (LLM) comme une usine massive et incroyablement complexe. À l'intérieur de cette usine, des millions de petits travailleurs (neurones) se passent des notes les uns aux autres pour produire le résultat final : une phrase ou une réponse.

Pendant longtemps, les scientifiques qui tentaient de comprendre comment fonctionne cette usine ont été confrontés à un problème majeur : les travailleurs sont confus. Un seul travailleur peut être activé par le mot « pomme », la couleur « rouge » et le concept de « santé » en même temps. Parce qu'un travailleur fait tellement de choses sans rapport, il est difficile de savoir exactement quel travailleur est responsable de quelle partie de la phrase finale. C'est comme essayer de déterminer qui a cuisiné un gâteau quand chaque boulanger dans la cuisine jongle simultanément avec de la farine, des œufs et des pinceaux.

Le nouvel outil : les « Détecteurs de caractéristiques »

Pour corriger cela, les chercheurs ont commencé à utiliser un outil spécial : un Autoencodeur Creux (Sparse Autoencoder - SAE). Voyez cela comme un traducteur qui se tient entre les travailleurs de l'usine et le monde extérieur. Au lieu de regarder directement les travailleurs confus, le traducteur regroupe leur activité en « caractéristiques » très spécifiques et à usage unique.

Désormais, au lieu d'un travailleur qui jongle avec tout, nous avons une caractéristique dédiée « Fan de sport », une caractéristique « Police de la grammaire » ou une caractéristique « Faim ». Chacune de ces caractéristiques s'allume pour un seul concept clair. Cela rend le fonctionnement interne de l'usine beaucoup plus facile à lire.

Le problème : Trop de données

Voici le hic : bien que ces « caractéristiques » soient beaucoup plus claires, il y en a des milliers. Essayer de cartographier comment ces milliers de caractéristiques communiquent entre elles, c'est comme essayer de dessiner la carte de chaque route d'une ville géante tout en conduisant une voiture qui ne peut aller qu'à un kilomètre par heure.

Les anciennes méthodes pour cartographier ces connexions nécessitaient des « interventions ». Imaginez essayer de comprendre un plan routier en bloquant physiquement chaque rue une par une pour voir ce qui se passe. C'est incroyablement lent, coûteux et informatiquement impossible pour de très grands modèles.

La solution : CircuitLasso

Les auteurs de cet article présentent une nouvelle méthode appelée CircuitLasso.

Au lieu de bloquer les rues une par une, CircuitLasso agit comme un détective super intelligent utilisant une loupe et un raccourci statistique. Il observe les schémas de circulation (les données) qui se produisent déjà naturellement et utilise une technique mathématique appelée « régression creuse » (sparse regression) pour identifier les connexions.

L'analogie : Imaginez que vous vouliez savoir quels ingrédients sont essentiels dans une soupe.
- L'ancienne méthode (Intervention) : Vous goûtez la soupe, puis vous retirez un ingrédient, vous goûtez à nouveau, vous remettez l'ingrédient, vous en retirez un autre, vous goûtez à nouveau... faisant cela pour chaque épice. Cela prend un temps infini.
- CircuitLasso : Vous regardez une liste de tous les ingrédients et le goût final, et vous utilisez un algorithme intelligent pour calculer instantanément quels ingrédients font réellement le plus gros du travail. C'est beaucoup plus rapide et ne nécessite pas de toucher à la soupe.

Ce qu'ils ont découvert

L'article affirme trois points principaux :

Vitesse sans sacrifice : CircuitLasso est considérablement plus rapide que les anciennes méthodes de « blocage de rues ». Dans leurs tests, il était 3 fois plus rapide sur les benchmarks standards, tout en trouvant exactement les mêmes « circuits » (cartes de connexions) avec le même niveau de précision.
Des récits plus clairs : Parce qu'il travaille avec les « caractéristiques » claires (comme la « Faim » ou la « Grammaire ») plutôt qu'avec les neurones confus, les cartes qu'il dessine sont faciles à comprendre pour les humains. Ils ont découvert des chemins « en forme d'arbre » montrant comment un concept comme la « faim » circule à travers les couches du modèle, menant finalement à l'action de « manger ». Ils ont même repéré des « corrélations spécieuses » — des fausses connexions où le modèle pense que la « faim » est liée au « soi » simplement parce que ces mots apparaissent souvent ensemble dans les données d'entraînement.
Utilité concrète : Ils ont testé cela sur une tâche où le modèle devait deviner le métier d'une personne à partir de sa biographie. Le modèle était biaisé (par exemple, supposant que toutes les infirmières sont des femmes). En utilisant CircuitLasso pour identifier et supprimer les caractéristiques de « genre » spécifiques qui causaient ce biais, ils ont pu corriger les prédictions du modèle. Ils ont fait cela beaucoup moins cher et plus rapidement que les méthodes précédentes, obtenant des résultats similaires ou légèrement meilleurs.

L'essentiel

Cet article présente une nouvelle façon efficace de rétro-concevoir la pensée des modèles d'IA. En passant de l'observation de travailleurs confus à l'observation de caractéristiques claires à usage unique, et en utilisant un raccourci mathématique rapide au lieu de tests de force brute lents, les auteurs ont créé un outil capable de cartographier le « cerveau » des grands modèles d'IA rapidement et clairement. Cela aide à comprendre non seulement ce que l'IA dit, mais aussi pourquoi elle le dit, et comment la corriger lorsqu'elle commet des erreurs.

Résumé technique : Apprentissage de circuits scalables pour l'interprétation des grands modèles de langage

1. Énoncé du problème

L'interprétabilité mécaniste vise à découvrir le « pourquoi » derrière les comportements des grands modèles de langage (LLM) en identifiant des circuits : des sous-graphes compacts reliant des composants clés (par exemple, des têtes d'attention, des neurones) qui pilotent des capacités spécifiques. Cependant, les méthodes existantes d'apprentissage de circuits font face à deux goulots d'étranglement principaux :

La polysémantisme : Les neurones bruts des LLM sont polysémantiques, ce qui signifie qu'un seul neurone s'active pour plusieurs concepts non liés. Cela produit des circuits appris qui sont denses, bruités et difficiles à interpréter pour l'humain.
La scalabilité : Bien que les Autoencodeurs Creux (SAE) offrent une solution en décomposant les activations en caractéristiques de haute dimension et monosémantiques (concept unique), les méthodes existantes d'apprentissage de circuits fondées sur l'intervention (par exemple, le traçage causal, le patch de l'attribution) ne passent pas à l'échelle face à la haute dimensionnalité des caractéristiques des SAE. Ces méthodes nécessitent des interventions contrefactuelles coûteuses en calcul (passes avant et arrière) pour chaque composant, ce qui les rend prohibitives pour les modèles de grande taille et les espaces de caractéristiques de haute dimension.

2. Méthodologie : CircuitLasso

Les auteurs proposent CircuitLasso, une approche d'apprentissage de circuits scalable qui remplace les pipelines coûteux basés sur l'intervention par un cadre de régression linéaire creuse.

Formulation centrale

Au lieu d'estimer les effets causaux via des interventions, CircuitLasso traite le graphe de calcul du LLM comme un Modèle d'Équations Structurelles (SEM) linéaire creux. Étant donné $N$ composants (neurones ou caractéristiques SAE) et $M$ observations, la méthode cherche une matrice d'adjacence pondérée $A$ telle que :
$X \approx A^\top X$
où $X$ est la matrice des activations. Le but est d'apprendre un Graphe Acyclique Dirigé (DAG) représentant les dépendances en minimisant l'erreur de reconstruction sous contraintes de parcimonie ( $\ell_1$ ) et d'acyclicité :
$\hat{A} = \arg \min_{A} \|X - A^\top X\|_F^2 + \lambda \|A\|_1$

Gestion des contraintes et scalabilité

Acyclicité : Plutôt que d'imposer des contraintes d'acyclicité continues complexes (qui sont très coûteuses en calcul), CircuitLasso tire parti de l'architecture feed-forward connue des Transformers. Il suppose une structure triangulaire supérieure par blocs où la couche $i$ dépend uniquement des couches $j < i$ . Cela transforme le problème en une série de sous-problèmes de Lasso (régression linéaire creuse) indépendants, solubles efficacement via l'algorithme FISTA.
Données observationnelles : La méthode opère uniquement sur des données observationnelles (activations issues d'une passe avant), évitant ainsi le besoin des multiples passes avant/arrière requises par les méthodes basées sur l'intervention.
Intégration des SAE : Le cadre est étendu pour opérer directement sur les caractéristiques des SAE ( $z \in \mathbb{R}^D$ , où $D \gg d$ ). Il apprend les dépendances par couche entre les caractéristiques SAE et peut également lier les caractéristiques de la dernière couche aux cibles de prédiction en aval ( $y$ ).

Analyse de la complexité

L'analyse théorique (Proposition 3.2) démontre que CircuitLasso offre des gains d'efficacité garantis par rapport aux méthodes de pointe basées sur l'intervention (comme EAP-ig) sous des régimes spécifiques, particulièrement lorsque le nombre d'emplacements de composants ( $L$ ) est modéré par rapport à la longueur de la séquence et aux dimensions du modèle. Le coût est de l'ordre de $O(M L^2 d^2)$ , tandis que les méthodes d'intervention passent à l'échelle avec le coût des passes avant/arrière supplémentaires à travers l'ensemble du modèle.

3. Principales contributions

Algorithme CircuitLasso : Un substitut de régression creuse pour la découverte de circuits qui remplace les pipelines lourds en interventions par une approche observationnelle basée sur le Lasso.
Scalabilité aux SAE : La première méthode capable d'apprendre efficacement des circuits sur des caractéristiques SAE de haute dimension et monosémantiques, surmontant les prohibitions computationnelles des techniques précédentes.
Efficacité théorique : Une analyse formelle établissant les conditions sous lesquelles l'approche par régression est prouvée plus rapide que les bases de référence par intervention.
Validation empirique : Des démonstrations sur les neurones de modèles et les caractéristiques SAE montrant que CircuitLasso atteint une précision structurelle comparable aux bases de référence de l'état de l'art (SOTA) pour une fraction du coût de calcul.

4. Résultats expérimentaux

Performance de référence (Neurones du modèle)

Évalué sur InterpBench (86 transformers semi-synthétiques et la tâche d'identification de l'objet indirect) :

Précision : CircuitLasso (variante linéaire) a obtenu une distance de Hamming structurelle (SHD) moyenne de 3,16, statistiquement indiscernable de la base de référence par intervention EAP-ig (2,98) et meilleure que EAP (3,61).
Efficacité : Il était 3,0x plus rapide que EAP-ig (16,3s vs 49,1s par cas) et 2,1x plus rapide que EAP.
Non-linéarité : Une extension non linéaire de CircuitLasso a offert des améliorations marginales de précision mais avec un temps d'exécution nettement plus élevé, suggérant que le substitut linéaire est suffisant pour récupérer le squelette de dépendance.

Étude de cas d'interprétabilité (Caractéristiques SAE)

Appliqué à GPT-2 Small sur le jeu de données CoLA (Corpus of Linguistic Acceptability) :

Circuits monosémantiques : La méthode a récupéré des circuits en forme d'arbre où les nœuds correspondent à des concepts interprétables par l'humain (ex: "-self", "faim/soif", "ponctuation de fin").
Propagation sémantique : Les circuits ont révélé comment les concepts persistent à travers les couches, fusionnent (combinant des concepts de plusieurs parents) ou disparaissent (ignorant certaines entrées).
Causal vs Spurieux : Les graphes appris ont capturé à la fois des relations sémantiques causales (ex: "faim" menant à "manger") et des corrélations spécieuses probablement introduites par les biais de l'ensemble de données (ex: cooccurrence de "-self" et "faim").

Utilité en aval (Généralisation de domaine)

Évalué sur la tâche Bias-in-Bios (prédire la profession tout en atténuant le biais de genre) :

Performance : CircuitLasso a atteint une précision de prédiction de la profession comparable à, et dans certains cas légèrement supérieure à, la base de référence non-Oracle la plus forte (SHIFT), tout en maintenant une fuite de genre proche du niveau idéal de 50 %.
Efficacité : Comme le montre le Tableau 1, CircuitLasso a nécessité nettement moins de caractéristiques et un temps d'exécution substantiellement moindre que SHIFT. Pour le modèle Gemma-2-9B, CircuitLasso a pris 107,4s contre 908,4s pour SHIFT.

5. Signification et affirmations

Le papier affirme que CircuitLasso répond avec succès au goulot d'étranglement de la scalabilité dans l'interprétabilité mécaniste. Sa principale importance réside dans l'atteinte d'une « efficacité à précision égale » :

Il récupère des circuits structurels aussi précisément que les méthodes les plus rigoureuses basées sur l'intervention, mais pour une fraction du coût de calcul.
Il permet l'utilisation de caractéristiques SAE monosémantiques pour l'analyse de circuits, fournissant des explications plus claires et interprétables par l'humain sur la façon dont les concepts sémantiques se propagent à travers les LLM.
Les informations dérivées de ces circuits sont pratiquement utiles, permettant des tâches de généralisation de domaine et d'atténuation des biais efficaces à un coût bien moindre que les méthodes existantes.

Les auteurs restent modestes quant à la nature des poids appris, notant que les coefficients linéaires représentent un squelette de dépendance plutôt que les effets causaux exacts du calcul non linéaire sous-jacent. Ils considèrent la méthode comme un substitut de premier ordre qui identifie efficacement quels composants influencent les autres, plutôt que de quantifier l'ampleur précise des effets causaux.