💬 NLP

Tracing Computation Density in LLMs

Ce papier introduit la méthode s-Trace pour révéler que les grands modèles de langage fonctionnent de manière modulaire et en deux phases, où un sous-graphe parcimonieux des premières couches fournit une prédiction approximative basée sur des statistiques superficielles, laquelle est ensuite affinée de manière incrémentale par des calculs plus denses dans les couches ultérieures, la quantité de calcul nécessaire étant corrélée à l'incertitude du modèle.

Auteurs originaux : Corentin Kervadec, Iuliia Lysova, Iuri Macocco, Marco Baroni, Gemma Boleda

Publié 2026-05-27

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Corentin Kervadec, Iuliia Lysova, Iuri Macocco, Marco Baroni, Gemma Boleda

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un orchestre massif d'un milliard de personnes (le modèle de langage à grande échelle) jouant une symphonie. Chaque fois que vous posez une question, tous les milliards de musiciens se mettent à jouer simultanément pour créer la réponse. Il semble qu'ils travaillent tous également, n'est-ce pas ?

Ce papier pose une question simple : Est-ce vraiment le cas ? Ou est-il possible qu'un tout petit groupe spécifique de musiciens fasse réellement le gros du travail, tandis que le reste se contente de rester sur le côté ?

Les auteurs ont développé un nouvel outil appelé s-Trace pour le découvrir. Considérez s-Trace comme un « projecteur » capable de désactiver des parties de l'orchestre pour voir si la musique sonne toujours de la même manière. En éteignant progressivement de plus en plus de musiciens (les arêtes du graphe informatique), ils ont déterminé exactement combien sont nécessaires pour accomplir la tâche.

Voici ce qu'ils ont découvert, décomposé en concepts simples :

1. La Pièce en Deux Actes

Les auteurs ont constaté que l'orchestre ne fonctionne pas en ligne droite. Au contraire, la musique est construite en deux phases distinctes :

Acte 1 : La construction du « Cœur » (Le Brouillon)
Imaginez un petit groupe de musiciens dans le premier rang (les premières couches du modèle). Lorsque le projecteur est très faible, seuls ces quelques-uns jouent. Étonnamment, ils peuvent déjà jouer la mélodie principale suffisamment bien pour que vous sachiez exactement quelle chanson vient ensuite.
- Le Nombre Magique : Il s'avère qu'une infime fraction du modèle — environ 0,1 % de toutes ses parties — suffit pour prédire le mot suivant le plus probable. C'est ce qu'on appelle le « Cœur Minimal ».
- Qui fait partie du Cœur ? Fait intéressant, ce cœur n'est pas un seul type de musicien. C'est un mélange équilibré d'outils différents (connexions résiduelles, MLP et têtes d'attention) travaillant ensemble dans les premières étapes du processus.
Acte 2 : Le « Raffinement » (La Finition)
Une fois la mélodie principale en place, le reste de l'orchestre (les couches ultérieures) se joint lentement. Ils ne changent pas la chanson ; ils ajoutent simplement les décorations élégantes, les émotions subtiles et les harmonies parfaites.
- Le Coût : Pour passer de « assez bien » à « parfait », il faut activer beaucoup plus de musiciens. Plus vous souhaitez affiner la réponse, plus vous devez activer une partie importante de cet orchestre massif. C'est dans cette phase que le modèle ajoute la nuance nécessaire pour une réponse de haute qualité, semblable à celle d'un humain.

2. Le Compteur de « Difficulté »

Le papier a également révélé que l'orchestre n'utilise pas toujours la même quantité d'énergie. Il s'adapte à la difficulté de la tâche :

Mots Faciles (Haute Fréquence) : Si le mot suivant est quelque chose de très courant (comme « le » ou « et »), l'orchestre reste petit. Le « Cœur Minimal » suffit. C'est comme un musicien jouant un rythme simple et répétitif ; il n'a pas besoin de tout le groupe.
Mots Difficiles (Basse Fréquence) : Si le mot suivant est rare ou délicat, le modèle devient « incertain ». Pour gérer cela, il active davantage de l'orchestre, en particulier les couches ultérieures, pour comprendre les détails complexes.
Le Lien : Plus le modèle est incertain quant à la réponse, plus il recrute de « musiciens ». La quantité de travail effectuée par le modèle est directement liée à la difficulté de deviner l'entrée.

3. Pourquoi Cela Compte (Selon le Papier)

Les auteurs suggèrent que les modèles de langage à grande échelle ne sont pas de simples masses géantes et désordonnées de mathématiques. Ils possèdent une organisation modulaire :

Ils ont un cœur épars et efficace qui gère les bases (comme la reconnaissance de motifs simples).
Ils ont une couche dense et expansive qui gère les détails complexes et nuancés.

Cela ressemble à la façon dont les humains pourraient traiter le langage : nous utilisons un réflexe rapide et automatique pour les mots courants, mais nous engageons toute notre puissance cérébrale lorsque nous rencontrons quelque chose de rare ou de complexe.

Analogie de Résumé

Imaginez le modèle comme un chef cuisinant un repas :

Le Cœur (0,1 %) : C'est le chef qui saisit les ingrédients de base (farine, eau, sel) et les mélange. On peut immédiatement dire qu'ils font du pain.
Le Raffinement (Le reste) : C'est le chef qui pétrit, enfourne, ajoute des épices et dresse le plat. Le pain est déjà « du pain » après la première étape, mais pour en faire une délicieuse miche de pain au levain, il doit utiliser toute la cuisine et tous les outils.

Le papier conclut que pour de nombreuses tâches, le « chef » n'a pas besoin de toute la cuisine pour savoir ce qu'il cuisine, mais il a besoin de toute la cuisine pour que cela ait bon goût.

Résumé Technique : Traçage de la Densité de Calcul dans les LLM

Énoncé du Problème

Les grands modèles de langage (LLM) basés sur l'architecture Transformer fonctionnent comme des graphes de calcul profonds et larges impliquant des milliards de paramètres et d'opérations. Cependant, il reste incertain si ces modèles exploitent leur pleine capacité pour chaque entrée ou s'ils reposent sur des sous-réseaux nettement plus clairsemés. Les questions ouvertes clés incluent :

La computation effective requise pour une prédiction fidèle est-elle uniformément distribuée, ou se compose-t-elle de sous-graphes distincts denses et clairsemés ?
La quantité de computation effective dépend-elle de propriétés spécifiques de l'entrée ?
Comment pouvons-nous quantifier précisément l'empreinte computationnelle nécessaire pour reconstruire la distribution de sortie d'un modèle ?

Répondre à ces questions est crucial tant pour l'efficacité pratique (élagage, routage, distillation) que pour la compréhension théorique (interprétabilité mécaniste, réconciliation des vues symboliques et distribuées du langage, et mesure de la complexité linguistique).

Méthodologie : Le s-Trace

Les auteurs introduisent le s-Trace, une méthode pour estimer efficacement le sous-graphe de taille $s$ qui approxime le mieux la distribution de sortie d'un modèle complet.

1. Formulation du Graphe

Le LLM est modélisé comme un graphe acyclique dirigé $G=(V, E)$ où :

Nœuds ( $V$ ) : Représentent les états intermédiaires des tokens à chaque couche.
Arêtes ( $E$ ) : Représentent les opérations affectant le flux d'information, décomposées en :
- Arêtes d'Attention : Contributions de têtes d'attention spécifiques déplaçant des vecteurs entre les tokens source et cible.
- Arêtes MLP : Mises à jour provenant des Perceptrons Multicouches.
- Arêtes Résiduelles : Connexions d'identité transportant les états des couches précédentes.
  Cette formulation permet une granularité au niveau du token, distinguant les contributions individuelles des têtes d'attention plutôt que de les agréger.

2. Définition du Trace

Le s-Trace ( $T_s$ ) est défini comme le sous-graphe optimal de taille $s$ (où la taille est le nombre d'arêtes) qui minimise la distance entre la distribution de sortie du modèle complet $P(t_{n+1}|t)$ et la prédiction restreinte du sous-graphe $\hat{P}_{T_s}(t_{n+1}|t)$ . La métrique de distance utilisée est la distance de Variation Totale (TV), choisie pour sa nature bornée et son accent sur les modes de probabilité dominants plutôt que sur les queues de faible probabilité.

3. Extraction du Trace

Étant donné l'ingérabilité de la recherche du sous-graphe optimal dans les grands modèles (7 à 14 milliards de paramètres), les auteurs emploient une stratégie de recherche gloutonne "best-first" sans entraînement :

Évaluation de l'Importance : Les arêtes sont notées en fonction de la norme L1 de leurs vecteurs de mise à jour, normalisée par nœud cible pour assurer une comparaison équitable.
Parcours : En partant du nœud du token final dans la dernière couche, l'algorithme ajoute itérativement l'arête disponible la plus importante et ses nœuds connectés jusqu'à ce que le budget $s$ soit atteint.

4. Configuration Expérimentale

Modèles : 10 LLMs issus de 7 familles HuggingFace, allant de 7 à 14 milliards de paramètres (par exemple, Llama-3, Mistral, Qwen, OLMo, Phi-4).
Données : 5 000 séquences issues de Wikitext (moyenne de 40 mots).
Granularité : Les traces ont été extraites à 26 niveaux de taille, de $10^{-5}$ à $10^0$ (modèle complet).

Résultats Clés

1. Deux Phases Distinctes de Calcul

L'analyse de l'erreur de reconstruction par rapport à la taille du trace révèle deux phases cohérentes à travers tous les modèles :

Phase de Construction ( $s \in [10^{-4}, 10^{-2}]$ ) : Caractérisée par un déclin raide et non linéaire de l'erreur de reconstruction. Durant cette phase, un Cœur Minimal émerge à environ $s \approx 10^{-3}$ (0,1 % du modèle complet). Ce cœur est suffisant pour récupérer les 1 % supérieurs de la masse de probabilité (le token le plus probable) et est hautement stable à travers les entrées.
Phase de Raffinement ( $s > 10^{-2}$ ) : Au-delà du cœur minimal, l'erreur diminue lentement. Cette phase nécessite une augmentation d'un ordre de grandeur de la taille du trace pour récupérer la masse de probabilité restante (par exemple, passer de 40 % à 90 % de couverture). L'utilité marginale des arêtes ajoutées est faible, suggérant l'intégration d'informations nuancées.

2. Composition Structurelle du Trace

Distribution par Couche : Le cœur minimal est principalement composé de nœuds des couches précoces (couches initiales et milieu-précoce), qui constituent ~80 % des arêtes à $s=10^{-3}$ . À mesure que le trace entre dans la phase de raffinement, les couches ultérieures dominent de plus en plus les arêtes ajoutées.
Distribution des Composantes :
- Dans le modèle complet, les arêtes d'attention représentent >99 % des arêtes possibles.
- Dans le cœur minimal, la distribution est étonnamment équilibrée : ~30 % résiduel, ~20 % MLP, et ~50 % d'arêtes d'attention.
- La phase de raffinement se caractérise par une augmentation brutale de la proportion d'arêtes d'attention, indiquant leur rôle spécifique dans l'affinement de la distribution de sortie.

3. Clairsemage Dépendant de l'Entrée

La densité de calcul (mesurée par l'aire sous la courbe erreur-taille) corrèle avec les propriétés de l'entrée :

Incertitude du Modèle : Il existe une corrélation positive entre la densité de calcul et l'entropie de Shannon de la sortie du modèle. Les entrées à haute entropie (incertaines) nécessitent des traces plus grands (plus de calcul) pour atteindre une faible erreur de reconstruction.
Fréquence des Tokens : Il existe une corrélation négative entre la fréquence du token prédit et la densité de calcul. Les tokens fréquents (statistiques superficielles) sont reconstruits par des traces plus clairsemés, tandis que les tokens rares nécessitent des sous-graphes plus denses.
Cohérence Inter-Modèles : Ces motifs sont remarquablement cohérents à travers différentes architectures et échelles de modèles, suggérant que l'allocation des ressources est pilotée par des propriétés intrinsèques de l'entrée plutôt que par des détails architecturaux.

Signification et Revendications

L'article revendique fournir une méthode générale pour quantifier le calcul effectif des LLM, révélant une organisation modulaire cohérente :

Cœur Précocement Clairsemé : Un petit sous-graphe stable d'opérations des couches précoces fournit une prédiction approximative suffisante pour identifier le token le plus probable.
Raffinement Dense Tardif : Les couches subséquentes effectuent un calcul plus dense et distribué pour affiner cette prédiction, capturant toute la richesse de la distribution de sortie.

Implications pour l'Interprétabilité :

Échelle des Circuits : Le cœur minimal (~0,1 % du modèle) représente une borne inférieure pour la découverte de circuits "fidèles" ; des circuits plus petits que cela peuvent échouer à capturer les dynamiques essentielles.
La Distribution Compte : Évaluer les sous-graphes uniquement sur la réussite binaire de la tâche (par exemple, la précision top-1) est insuffisant ; la préservation de la distribution de sortie complète est cruciale.
Au-delà de l'Hyper-Clairsemage : L'interprétabilité mécaniste ne devrait pas se limiter à la recherche de circuits hyper-clairsemés mais devrait également analyser les phases de traitement denses et distribuées.

Implications pour la Science Cognitive :

Complexité Linguistique : La densité de calcul pourrait servir de métrique novatrice pour la complexité linguistique, car elle évolue avec la difficulté de l'entrée (incertitude et rareté).
Traitement Efficace : La découverte que les LLMs recrutent moins de ressources pour les mots fréquents s'aligne sur les théories du traitement efficace du langage humain.
Symbolique vs Distribué : L'existence d'un cœur clairsemé des couches précoces gérant les statistiques de base (ressemblant à des règles symboliques) suivi d'un raffinement distribué offre une réconciliation potentielle entre les vues symboliques et distribuées de la compétence linguistique.

Les auteurs maintiennent que ces résultats sont spécifiques à l'architecture transformer et aux données en anglais, notant que l'identification des traces dépend de la méthode d'extraction choisie (recherche gloutonne basée sur la norme L1). Ils positionnent ce travail comme une première étape vers la caractérisation des dynamiques internes des LLMs au-delà de la simple identification de circuits.