💬 NLP

Scaling Inherently Interpretable Language Models

Cet article remet en question l'idée que l'interprétabilité est un compromis au détriment de la capacité en démontrant que l'intégration de contraintes d'interprétabilité dans le pipeline d'entraînement permet à des modèles comme Steerling-8B de monter en puissance efficacement, en devenant plus transparents et alignés avec les concepts humains tout en maintenant des performances compétitives.

Auteurs originaux : Guide Labs Team, Andreas Madsen, Aya Abdelsalam Ismail, Giang Nguyen, Isaac Plant, Muawiz Chaudhary, Nathaniel Monson, Saqib Azim, Zhichen Guo, Julius Adebayo

Publié 2026-08-11

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Guide Labs Team, Andreas Madsen, Aya Abdelsalam Ismail, Giang Nguyen, Isaac Plant, Muawiz Chaudhary, Nathaniel Monson, Saqib Azim, Zhichen Guo, Julius Adebayo

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de comprendre comment fonctionne une bibliothèque géante et magique. Pendant des années, les plus brillants bibliothécaires (chercheurs en IA) ont construit ces bibliothèques pour qu'elles soient aussi grandes et puissantes que possible, mais ils ont accepté une règle étrange : pour que la bibliothèque soit véritablement puissante, elle doit être une « boîte noire ». Vous pouvez lui poser une question, et elle vous donnera une réponse brillante, mais vous n'avez aucune idée de comment elle a trouvé cette réponse. C'est comme un sorcier qui lance un sort et dit : « Faites-moi confiance, ça marche », sans vous montrer les ingrédients ou l'incantation. À cause de cela, si la bibliothèque fait une erreur ou dit quelque chose de bizarre, nous ne pouvons pas facilement la corriger ; nous ne pouvons que deviner pourquoi cela s'est produit après coup. Ce document pose une question audacieuse : Et si nous n'avions pas à accepter ce compromis ? Et si nous pouvions construire une bibliothèque qui soit à la fois un super-génie et transparente, où nous pourrions voir exactement quels livres elle a utilisés et quelles idées elle avait en tête pendant qu'elle rédigeait sa réponse ?

Les auteurs de ce document, une équipe appelée Guide Labs, ont décidé de tester cette idée. Ils ont construit un nouveau type de modèle de langage appelé Steerling-8B. Contrairement aux modèles habituels de type « boîte noire » qui sont entraînés pour simplement prédire le mot suivant dans une phrase, Steerling a été entraîné avec une règle spéciale ancrée dans son cerveau dès le premier jour : il doit expliquer sa propre pensée au fur et à mesure. Ils ont découvert quelque chose de surprenant : faire en sorte que le modèle s'explique ne l'a pas rendu plus faible. En fait, à mesure qu'ils rendaient le modèle plus grand et lui donnaient plus de puissance de calcul, il ne devenait pas seulement plus intelligent ; il devenait en fait meilleur pour s'expliquer. Plus le modèle devenait grand, plus ses pensées internes devenaient claires, et plus il était facile de voir exactement quelles idées il utilisait pour former ses réponses.

Le problème de la magie de la « boîte noire »

Pendant longtemps, la méthode standard pour construire une IA a été d'entraîner un modèle à être le plus performant possible dans la prédiction de texte, puis, une fois l'apprentissage terminé, d'essayer de jeter un coup d'œil à l'intérieur pour voir ce qu'il fait. Les chercheurs utilisent des outils comme les « sondes » (qui tentent de deviner si un concept est caché à l'intérieur du modèle) ou l'« attribution » (qui tente de deviner quels mots étaient les plus importants). Mais les auteurs soutiennent que ces outils sont comme essayer de comprendre comment fonctionne un moteur de voiture en écoutant le bruit qu'il fait après qu'il a déjà été construit. Le moteur n'a pas été conçu pour être écouté, donc le bruit peut être trompeur. Une sonde pourrait dire : « Hé, le mot "chat" est là dedans ! », mais cela ne signifie pas que le modèle a réellement utilisé l'idée d'un chat pour prendre sa décision. Cela pourrait simplement être une coïncidence.

Le document soutient que cette approche consistant à « réparer plus tard » est fondamentalement erronée. Si vous voulez un modèle qui soit véritablement compréhensible, vous ne pouvez pas simplement ajouter une lampe de poche après coup ; vous devez construire la lampe de poche dans le moteur pendant que vous construisez le moteur.

La recette : Construire un cerveau transparent

Pour résoudre cela, l'équipe a créé une nouvelle « recette » pour l'entraînement de l'IA. Au lieu de simplement apprendre au modèle à prédire le mot suivant, ils lui ont enseigné trois choses spécifiques simultanément :

Attribution d'entrée : « Quels mots de votre question ont été les plus importants ? »
Attribution de concept : « Quelles grandes idées ou quels sujets êtes-vous en train de traiter en ce moment ? »
Attribution de données : « De quelles parties de votre bibliothèque d'entraînement avez-vous appris ceci ? »

Pour que cela fonctionne, ils ont dû construire une nouvelle bibliothèque massive de « concepts ». Imaginez un dictionnaire, mais au lieu de simplement contenir des mots, il contient 33 000 idées spécifiques comme « descente de gradient », « poésie médiévale » ou « sarcasme ». Ils ont construit un système appelé Atlas qui a lu des millions de documents et les a marqués avec ces idées, créant ainsi une carte du savoir humain que l'IA pouvait réellement utiliser.

Ensuite, ils ont construit le cerveau du modèle, Steerling-8B, avec un « goulot d'étranglement » spécial au milieu. Pensez à une IA normale comme un tuyau droit où l'eau (l'information) coule de l'entrée vers la sortie. Steerling possède un filtre au milieu. Avant que l'eau ne puisse sortir, elle doit passer par un ensemble de seaux étiquetés (les concepts). Le modèle doit décider : « D'accord, cette phrase concerne à 40 % les "mathématiques" et à 20 % l' "histoire" ». Parce que le modèle doit utiliser ces seaux pour faire sa prédiction, nous pouvons voir exactement quels seaux il a utilisés. S'il fait une erreur, nous pouvons regarder les seaux et dire : « Ah, il s'est trop concentré sur l' "histoire" et a ignoré les "mathématiques" ».

La grande surprise : Plus c'est grand, plus c'est clair

La partie la plus excitante du document est ce qui s'est passé lorsqu'ils ont agrandi le modèle. Habituellement, lorsque vous rendez un système complexe plus grand, il devient plus difficile à comprendre. Mais ici, c'est l'inverse qui s'est produit.

L'équipe a testé des modèles allant de très petits jusqu'au massif Steerling-8B de 8 milliards de paramètres. Ils ont découvert qu'à mesure que le modèle grandissait, ses « seaux » internes devenaient plus organisés et plus alignés avec les idées humaines.

Le mythe de la « taxe » : Beaucoup de gens pensaient que rendre un modèle capable de s'expliquer coûterait en performance, comme une taxe sur son intelligence. Le document montre que ce n'est pas vrai. Le « coût » de l'interprétabilité est une petite quantité fixe, comme des frais que vous payez une seule fois, et non une facture qui augmente à mesure que vous vous enrichissez.
Le passage à l'échelle (Scaling Up) : À mesure qu'ils ajoutaient de la puissance de calcul (environ 1,35 billion de mots de données d'entraînement), le modèle ne devenait pas seulement plus intelligent ; il devenait plus transparent. Les concepts qu'il apprenait devenaient plus clairs, et il dépendait moins d'un « résidu » (une partie cachée et inexplicable du cerveau) et davantage des concepts étiquetés.

Diriger le navire

Parce que le modèle est construit de cette façon, vous pouvez réellement le « diriger » sans le réentraîner. Imaginez que vous conduisez une voiture. Dans une IA normale, si vous voulez éviter de parler de violence, vous devez espérer que la voiture n'ait pas d'accident. Dans Steerling, vous pouvez simplement tourner un cadran. Si vous voulez que le modèle soit plus « académique », vous pouvez augmenter le seau « académique ». Si vous voulez l'empêcher de parler de « politique », vous pouvez supprimer ce seau. Le document montre qu'ils pouvaient faire cela instantanément, changeant le comportement du modèle en modifiant simplement les concepts qu'il utilisait déjà.

Les résultats

L'équipe a entraîné Steerling-8B sur 1,2 billion de tokens (une quantité énorme de texte). Ils l'ont comparé à d'autres modèles open-source qui ont été entraînés avec 2 à 16 fois plus de puissance de calcul. Malgré un budget d'entraînement plus faible et le « poids » supplémentaire d'être interprétable, Steerling a presque aussi bien performé que ces modèles massifs et opaques.

Le document conclut que nous n'avons pas à choisir entre une IA intelligente et une IA transparente. En concevant le modèle pour qu'il soit compréhensible dès le départ, nous pouvons construire des systèmes qui sont non seulement puissants, mais aussi dignes de confiance, car nous pouvons voir exactement comment ils pensent et les corriger lorsqu'ils font des erreurs. C'est un passage de la construction de boîtes noires à la construction de maisons de verre où la lumière peut traverser.

Résumé Technique : Mise à l'échelle de Modèles de Langage Intrinsèquement Interprétables

Énoncé du Problème

Les modèles de langage de grande taille (LLM) actuels sont généralement entraînés en tant que systèmes opaques, où l'interprétabilité est traitée comme une « taxe » post-hoc sur la capacité. Les flux de travail standards consistent à entraîner un modèle de haute performance, puis à tenter de rétro-concevoir son comportement à l'aide de sondes, d'attributions de caractéristiques ou d'auto-encodeurs parcimonieux. Les auteurs soutiennent que cette approche souffre d'une limitation structurelle fondamentale : le modèle n'a jamais été entraîné pour faire de l'explication une interface valide de son calcul. Par conséquent, les méthodes post-hoc échouent souvent à satisfaire aux exigences de fidélité (l'explication reflète le raisonnement réel) et de validité (les interventions sont significatives). De plus, il existe une hypothèse prédominante selon laquelle contraindre les modèles à des structures compréhensibles par l'humain dégrade nécessairement les performances, créant un compromis entre capacité et interprétabilité.

Méthodologie

1. La Recette de l'Interprétabilité Intrinsèque

Les auteurs proposent un pipeline d'entraînement où l'interprétabilité est une contrainte optimisée parallèlement à l'objectif de modélisation du langage, plutôt qu'une réflexion après coup. Cette recette modifie les étapes d'entraînement standard pour satisfaire cinq conditions formelles d'interprétabilité intrinsèque :

Nativité : Les variables attribuées doivent faire partie du chemin de calcul produisant la sortie.
Accord : Les scores d'attribution doivent prédire l'effet des interventions (par exemple, le masquage ou le pilotage de concepts) avant qu'elles ne soient appliquées.
Validité : Les interventions doivent être dans la distribution (le modèle doit avoir vu les états perturbés pendant l'entraînement).
Interprétation : Les descriptions sémantiques (cartes) doivent représenter fidèlement les variables internes du modèle.
Couverture : Les composants interprétables doivent rendre compte d'une fraction significative de la prédiction, minimisant le résidu inexpliqué.

2. Données : Le Pipeline Atlas

Un obstacle majeur était l'absence d'une bibliothèque de concepts compréhensibles par l'humain à l'échelle des corpus de pré-entraînement modernes. Pour y remédier, les auteurs ont construit Atlas, un pipeline automatisé en trois étapes :

Étape 1 (Étiquetage) : Échantillonne 6,6 millions de documents, les fragmente, et utilise un LLM pour générer des étiquettes à haut rappel et en forme libre.
Étape 2 (Canonicalisation) : Regroupe les étiquettes en une bibliothèque cohérente de 33 732 concepts compréhensibles par l'humain, étiquetés et dédoublonnés.
Étape 3 (Annotateur) : Entraîne un modèle pour assigner ces concepts à des fragments de texte arbitraires sur un corpus de 1,5 billion de tokens.
La bibliothèque résultante couvre divers domaines (sciences, code, droit, etc.) et est validée pour garantir que les concepts sont humainement significatifs, et non simplement fluides pour un LLM.

3. Architecture : Steerling-8B

Les auteurs instaurent cette recette avec Steerling-8B, un modèle de langage à Diffusion Causale doté d'un Goulot d'Étranglement de Concepts Additif.

Diffusion Causale : Contrairement aux modèles autorégressifs standards, Steerling utilise un objectif de diffusion masqué avec une attention bloc-causale. Cela permet un débruitage parallèle au sein des blocs tout en conservant un cache KV de style autorégressif entre les blocs pour une inférence efficace. Crucialement, l'objectif de masquage entraîne le modèle sur une base de référence « sans information » ([MASK]), permettant une attribution d'entrée valide.
Module de Concept : Inséré entre le backbone du transformer et la tête de modélisation du langage, ce module décompose l'état caché $h$ en trois composantes additives :
$\bar{h} = \hat{k} + \hat{u} + \epsilon$
Où $\hat{k}$ est une somme pondérée de concepts connus (issus de la bibliothèque Atlas), $\hat{u}$ est une somme pondérée de concepts inconnus (appris pendant l'entraînement), et $\epsilon$ est un terme résiduel.
Fonctions de Perte : L'objectif d'entraînement combine :
- Perte de Modélisation du Langage : Prédit les tokens basés sur l'état décomposé $\bar{h}$ .
- Perte de Concept : Aligne les activations de concepts connus avec les annotations de niveau fragment de vérité terrain.
- Perte de Reconstruction : Garantit que la tête inconnue capture l'information non expliquée par les concepts connus.
- Perte d'Indépendance : Encourage l'orthogonalité entre les représentations connues et inconnues pour éviter la redondance.

4. Dynamique d'Entraînement

Les auteurs emploient des programmes de force de l'enseignant (teacher forcing schedules) pour les têtes de concepts connues et inconnues. Au début de l'entraînement, des représentations de concepts de vérité terrain sont injectées pour stabiliser l'apprentissage, avec un recuit progressif vers les propres prédictions du modèle. Cela empêche le modèle de s'appuyer sur le canal résiduel ou d'apprendre des corrélations spécieuses avant que les têtes de concepts ne soient fiables.

Résultats Clés

1. Lois d'Échelle (Scaling Laws)

Les auteurs ont réalisé des analyses de mise à l'échelle IsoFLOP sur trois ordres de grandeur de calcul (de 10M à 8B de paramètres) sur des backbones autorégressifs et de diffusion causale.

Capacité : L'ajout du module de concept introduit un petit décalage fixe par backbone dans le calcul optimal, plutôt qu'une pénalité croissante. La perte irréductible ( $L_\infty$ ) diminue en fait pour les variantes interprétables.
Interprétabilité : Les quatre métriques d'interprétabilité (Perte de Concept, Perte d'Indépendance, Contribution, et Alignement) s'améliorent avec l'échelle. Contrairement à l'hypothèse selon laquelle l'interprétabilité se dégrade avec la taille, les modèles deviennent plus désenchevêtrés et alignés avec les concepts humains à mesure qu'ils croissent.
Prédiction : Des ajustements à petite échelle ont prédit avec précision la perte de validation du modèle Steerling-8B (à 0,11 nat) et ont borné ses métriques d'interprétabilité.

2. Performance de Steerling-8B

Steerling-8B a été pré-entraîné sur 1,2 billion de tokens et entraîné à mi-chemin sur 150 milliards de tokens.

Compétitivité : Malgré les contraintes d'interprétabilité, Steerling-8B atteint une performance proche de 90 % de celle des modèles ouverts entraînés avec 2 à 16× plus de calcul.
Capacités : Le modèle supporte l'intervention en boucle fermée :
- Attribution : Il peut tracer les sorties vers les tokens d'entrée, des concepts spécifiques et des données d'entraînement similaires.
- Pilotage : Les utilisateurs peuvent amplifier ou supprimer des concepts spécifiques lors de l'inférence sans réentraînement, en manipulant directement les plongements de concepts utilisés lors de la passe avant.

Signification et Revendications

L'article remet en question le postulat que l'interprétabilité est une taxe sur la capacité. Ses principales revendications sont :

L'interprétabilité peut être conçue dans l'entraînement : En satisfaisant les conditions de fidélité et de validité pendant le processus d'entraînement, les modèles peuvent fournir des explications qui sont structurellement couplées à leurs calculs.
L'interprétabilité évolue avec la capacité : Plutôt que de devenir plus difficiles à comprendre à mesure qu'ils grandissent, les modèles intrinsèquement interprétables deviennent plus désenchevêtrés et alignés avec les concepts humains à grande échelle.
La compétitivité est réalisable : Un modèle peut être à la fois interprétable et compétitif avec des pairs opaques entraînés avec nettement plus de calcul, suggérant un nouveau paradigme de mise à l'échelle où la compréhension est une caractéristique de l'architecture, et non un coût post-hoc.

Les auteurs concluent que l'effet Rashomon (où plusieurs modèles ayant des performances identiques possèdent des mécanismes internes différents) peut être atténué en ancrant l'interface explicative (bibliothèque de concepts, bases de référence, décomposition) à travers tous les modèles produits par la procédure d'entraînement.