Résumé technique : Permanence latente des objets dans les variétés de Transformers profonds

1. Énoncé du problème

L'article traite d'une lacune fondamentale dans l'interprétabilité des grands modèles de langage (LLM) : alors que les espaces latents sont souvent modélisés comme des champs sémantiques continus, le raisonnement multi-étapes nécessite des opérations discrètes (négation, quantification, liaison de variables). Les auteurs étudient si les Transformers profonds implémentent spontanément un mécanisme pour discrétiser les représentations continues en unités stables et réutilisables. Ils émettent l'hypothèse que cette discrétisation se produit via une transition de phase dans la géométrie de la variété d'activation latente en fonction de la profondeur du réseau. Plus précisément, ils proposent que les modèles suffisamment larges subissent une transition d'un régime « liquide » à haute entropie (superposition diffuse) vers un régime « solide » à faible entropie (bassins stables supportant la permanence de l'objet).

2. Méthodologie et cadre théorique

Les auteurs formalisent la profondeur $L$ du Transformer comme une variable de temps discrète $\gamma = l/L \in [0, 1]$. Ils analysent l'évolution du flux résiduel $h^{(l)}$ et de sa matrice de covariance $C^{(l)}$ à travers trois prismes principaux :

2.1 Thermodynamique de l'attention

L'article modélise les mécanismes d'attention en utilisant la physique statistique.

• Principe de l'énergie libre : Il est démontré que les poids d'attention minimisent un fonctionnel d'énergie libre $F(p) = \sum p_j E_j + \frac{1}{\beta} \sum p_j \log p_j$, où $E_j$ sont des termes d'énergie dérivés des produits scalaires requête-clé (query-key).
• Effet de refroidissement : Bien que l'inverse de la température $\beta$ soit fixé par l'architecture, les auteurs soutiennent que l'augmentation des magnitudes des requêtes et des clés avec la profondeur « refroidit » effectivement le système. Cela réduit l'importance relative du terme d'entropie, poussant le système vers des sélections nettes et à faible entropie (cristallisation).

2.2 Analyse géométrique et spectrale

• Paramètre d'ordre : Ils définissent l'Intégrité de l'Objet ($\Omega$) comme une métrique de type parcimonie : $\Omega(h) = 1 - \frac{\|h\|_1}{\sqrt{d}\|h\|_2}$. Une valeur $\Omega$ élevée indique des vecteurs diffus et superposés ; une valeur faible indique des vecteurs d'objets nets et structurés.
• Densité spectrale : Ils analysent le spectre des valeurs propres $\rho_l(\lambda)$ de la matrice de covariance, en le comparant à la distribution de Marchenko–Pastur (MP) (le modèle nul pour le bruit non structuré).
• Analogie du groupe de renormalisation (RG) : La profondeur est traitée comme un flux de RG qui intègre les corrélations à courte portée (syntaxe locale) et stabilise les opérateurs à longue portée.

2.3 Formalisations théoriques

L'article fournit des conditions mathématiques rigoureuses pour l'émergence de cette phase « solide » :

• Contraction transversale (Théorème 6.1) : Ils prouvent que si la dynamique linéarisée d'un intervalle de profondeur contracte les directions non pertinentes (sous-espace transversal) par un facteur $q < 1$, la covariance transversale décroît exponentiellement, menant à un effondrement spectral.
• Modèle de mélange (Théorème 6.3) : Ils démontrent que si les états latents se regroupent autour de $k$ prototypes discrets (un modèle de mélange), la matrice de covariance présente nécessairement une structure de rang faible (au plus $k-1$ valeurs propres de signal au-dessus du bruit isotrope), créant des écarts spectraux.

3. Contributions clés

1. Hypothèse de transition de phase : La proposition que les Transformers profonds présentent une profondeur critique $\gamma_c \approx 0,42$ où une brisure de symétrie se produit, déplaçant la dynamique d'un régime « liquide » (haute entropie, type MP) vers un régime « solide » (faible entropie, écarts spectraux).
2. Objets de classe transitoires (TCOs) : Une définition formelle des bassins stables dans la variété latente qui supportent la « permanence de l'objet » à travers les étapes de raisonnement. Les TCOs sont caractérisés par une invariance approximative, une contraction transversale et une stabilité de classe.
3. Garanties théoriques :
   • Conditions suffisantes pour l'effondrement spectral via la contraction transversale.
   • Preuve rigoureuse que les structures de classes discrètes (séparabilité logique) impliquent une covariance de type « spiked » à rang faible, indépendamment de toute hypothine de loi de puissance spécifique.
4. Interprétation thermodynamique : Une caractérisation variationnelle de l'attention comme minimisation de l'énergie libre, liant l'affinement des poids d'attention à un processus de « refroidissement ».

4. Résultats

Les auteurs analysent une suite de modèles allant de 1,5B à plus de 30B de paramètres (incluant Qwen, Gemma, Llama et un modèle de 30B orienté raisonnement).

• Profondeur critique ($\gamma_c$) : L'analyse empirique du paramètre d'ordre d'intégrité de l'objet $m(\gamma)$ révèle un saut brusque près de $\gamma \approx 0,42$ dans les grands modèles (ex: 30B), où $\Omega$ augmente significativement (ex: de ~0,69 à ~0,90). Les modèles moyens montrent une transition similaire mais plus faible, tandis que les petits modèles ne franchissent pas le seuil pratique, restant dans le régime « liquide ».
• Bimodalité : Dans les modèles capables, la distribution de $\Omega$ devient bimodale, indiquant une bande distincte d'objets à haute intégrité séparée du bruit de fond. Les petits modèles restent unimodaux.
• Anomalies spectrales : Les couches post-critiques dans les grands modèles présentent :
  • Une diminution du rang effectif et du ratio de participation.
  • Des queues spectrales qui dévient du volume Marchenko–Pastur, montrant des « pics » (valeurs propres aberrantes) cohérents avec la structure de signal à faible rang prédite par le modèle de mélange.
• Mise à l'échelle (Scaling) : L'amplitude de la transition varie avec la taille du modèle, suggérant que la phase « solide » est une propriété émergente de l'échelle.

5. Signification et revendications

L'article prétend fournir un cadre mathématiquement explicite reliant les capacités de raisonnement émergentes aux transitions de phase géométriques dans l'espace latent. Sa signification réside dans :

• Unification des mécanismes : Connecter les principes thermodynamiques (énergie libre), la théorie des matrices aléatoires (pics spectraux) et les flux de groupe de renormalisation (contraction de dimensionnalité) pour expliquer comment les LLM parviennent au raisonnement discret.
• Explication de la permanence de l'objet : Offrir un mécanisme (TCOs) par lequel les modèles maintiennent des représentations stables de variables ou de concepts à travers des chaînes de raisonnement multi-étapes, dépassant la simple vue de « superposition de caractéristiques » des couches peu profondes.
• Diagnostics prédictifs : Proposer que la profondeur critique $\gamma_c$ et l'émergence d'écarts spectraux servent de diagnostics opérationnels pour la capacité d'un modèle à effectuer un raisonnement complexe.

Les auteurs restent modestes, présentant leur travail comme un ensemble de « conditions suffisantes » et d'« hypothèses diagnostiques » plutôt que comme une théorie complète de la cognition. Ils soulignent que la phase « solide » est une conséquence géométrique de la profondeur et de l'échelle, facilitant la séparabilité logique requise pour le raisonnement multi-étapes.