Résumé Technique : L'Auto-attention comme Transport : Limites des Diagnostics Spectraux Symétriques

Énoncé du Problème

Les grands modèles de langage (LLM) hallucinent à travers des pathologies de routage distinctes : les échecs de goulot d'étranglement, où l'attention se concentre excessivement sur un ensemble restreint de positions, et les échecs diffus, où l'attention se répartit si finement que la pertinence est diluée. Bien que ces modes apparaissent quantitativement similaires sous des lentilles spectrales standard, ils sont mécanistiquement opposés. Les diagnostics spectraux existants (par exemple, LLM-Check, EigenTrack, LapEigvals) échouent souvent à les distinguer ou confondent les échecs de capacité avec les échecs directionnels. De plus, de nombreuses caractéristiques spectrales héritent de dépendances confondantes liées à la longueur de la séquence, obscurcissant le véritable signal structurel du routage de l'attention. Cet article vise à caractériser les limites structurelles de ce que les diagnostics basés sur l'attention peuvent et ne peuvent pas mesurer, en traitant spécifiquement des limitations des méthodes spectrales symétriques dans la détection de la direction du flux d'information.

Méthodologie

Les auteurs formalisent les têtes d'attention comme des opérateurs de transport bipartites normalisés par le degré ($M$) entre les requêtes et les clés. Cette représentation produit un opérateur invariant d'échelle dont les propriétés spectrales encodent la qualité du routage. La méthodologie repose sur trois piliers :

1. Décomposition Orthogonale : L'opérateur de transport $M$ est décomposé selon le produit scalaire de Hilbert–Schmidt en une composante symétrique ($M_{sym}$) gouvernant la capacité de transport et une composante antisymétrique ($M_{asym}$) gouvernant la direction du transport.
2. Diagnostics Spectraux :
   • Conductance ($\phi$) : Dérivée de la composante symétrique via l'inégalité de Cheeger, $\phi$ mesure l'efficacité du transport d'information. Un $\phi$ faible indique des goulots d'étranglement ; un $\phi$ élevé indique un mélange diffus.
   • Coefficient d'Asymétrie ($G$) : Défini comme la distance de Frobenius normalisée de $M$ par rapport au sous-espace symétrique ($G = \|M_{asym}\|_F / (\|M\|_F + \epsilon)$), $G$ sert de complément minimal requis pour récupérer l'information directionnelle perdue par les résumés symétriques.
   • Saut Spectral ($1-\sigma_2$) : La deuxième valeur singulière de $M$ agit comme un proxy pour la conductance.
3. Évaluation Contrôlée par la Longueur : Pour traiter la confusion, les auteurs introduisent un protocole LC-AUROC (Area Under the Receiver Operating Characteristic Curve contrôlée par la longueur). Cela implique de stratifier les échantillons par longueur de réponse en classes, de résiduer les scores par rapport à la longueur au sein de ces classes, et d'agréger via un AUROC pondéré par paires. Cela isole les signaux de routage structurels des artefacts dépendants de la longueur.
4. Références Théoriques : L'article dérive des paysages de conductance sous forme close pour des architectures causales canoniques (causal uniforme, attention par fenêtre) afin d'établir des « planchers » architecturaux et des formes attendues des modes d'échec.

Contributions Clés

1. Limites Structurelles des Diagnostics Symétriques (Aveuglement à l'Orientation)

L'article démontre le Théorème 4 (Aveuglement à l'Orientation) : Tout diagnostic spectral dépendant uniquement des valeurs singulières ou de la composante symétrique de l'opérateur d'attention est invariant par transposition. Par conséquent, de tels diagnostics sont structurellement « aveugles à l'orientation » et ne peuvent distinguer un opérateur de sa transposée, les rendant incapables de détecter la direction du flux d'information. Un inverse quantitatif (Proposition 6) établit que tout diagnostic Lipschitzien sensible à la direction doit dépendre de la composante antisymétrique, avec une sensibilité bornée par $\|M_{asym}\|_F$.

2. Théorie de la Conductance à Double Face

Contrairement aux métriques ne détectant qu'un seul mode d'échec, le cadre de conductance fournit un diagnostic à double face :

• Goulots d'étranglement : Une faible conductance ($\phi$) certifie un routage trop concentré.
• Mélange Diffus : Une conductance anormalement élevée (par rapport aux références architecturales) certifie un routage insuffisamment concentré.
  Les auteurs dérivent un paysage bipartite-Cheeger sous forme close pour l'attention causale uniforme, prouvant un plancher indépendant de $n$ de $\phi \ge 1/5$ avec une coupe au pire des cas à $t^*/n \approx 0,32$. Il est démontré que l'attention par fenêtre perce ce plancher en $O(w/n)$.

3. Suffisance du Degré et Structure de Couplage

Le Théorème 2 (Suffisance du Degré) formalise lorsque la structure de couplage contribue aux propriétés spectrales au-delà de l'hétérogénéité du degré. Il établit que pour une attention quasi-régulière ($\kappa \approx 1$), le saut spectral est entièrement expliqué par les distributions de degrés. Ce n'est que lorsque l'hétérogénéité du degré s'écarte significativement que la structure de couplage fournit un signal indépendant.

4. Prédiction Empirique de la Polarité

Le cadre produit une prédiction falsifiable : les références dominées par les goulots d'étranglement et celles dominées par la diffusion devraient présenter une polarité opposée dans les scores de conductance.

• HaluEval : Les hallucinations se regroupent dans le régime de faible conductance (goulot d'étranglement).
• MedHallu : Les hallucinations se regroupent dans le régime de haute conductance (diffusion).
  Ce renversement de polarité est observé empiriquement sous une évaluation contrôlée par la longueur, validant la théorie à double face.

Résultats Empiriques

• Performance Diagnostique : Sous LC-AUROC, les caractéristiques de transport conservent un signal interprétable (0,62–0,84) sur des modèles allant jusqu'à 8 milliards de paramètres.
  • Conductance ($\phi$) : Capture les échecs de capacité. Le signal dominant change avec l'échelle du modèle : à 70 millions de paramètres, les statistiques de position (moyenne) dominent (dépression uniforme) ; à 1,4 milliard, les statistiques de dispersion (écart-type) dominent (hétérogénéité de routage).
  • Asymétrie ($G$) : Généralement sparse (performance proche du hasard) dans les modèles uniquement décodeurs, reflétant le fait que le routage directionnel dépendant du contenu n'est pas le mode d'échec principal. Les exceptions incluent Flan-T5 (où $G$ détecte les échecs d'ancrage de l'attention croisée) et Pythia (où $G$ détecte les déviations par rapport à la décroissance positionnelle induite par RoPE).
• Comparaison avec les Références :
  • Sondes d'états cachés (LLM-Check) : Atteignent une détection générale forte (0,62–0,72 LC-AUROC) mais sont structurellement agnostiques aux modes d'échec et montrent une confusion modérée liée à la longueur.
  • Classificateurs Spectraux Supervisés (EigenTrack) : Montrent un signal marginal et une mauvaise généralisation à travers les jeux de données, probablement due au surapprentissage aux signatures spectrales spécifiques aux jeux de données et à une dépendance irréductible à la longueur via les rapports d'aspect.
• Mise à l'échelle : Les diagnostics de transport persistent à travers les échelles de Pythia (de 70 millions à 1,4 milliard) et LLaMA 3.1 8B, bien que la méthode d'agrégation requise pour capturer le signal passe d'une base de moyenne à une base de variance à mesure que la capacité du modèle augmente.

Importance et Revendications

L'article revendique l'établissement d'une limite structurelle pour les diagnostics d'attention plutôt que de proposer un seul « meilleur » détecteur d'hallucinations. Son importance principale réside dans :

1. Décomposition : Le partitionnement des échecs de routage en axes orthogonaux (capacité vs direction) avec des garanties formelles (inégalité de Cheeger, théorème de l'aveuglement à l'orientation).
2. Interprétabilité : Fournir une explication mécaniste pour la raison pour laquelle différents jeux de données présentent différents modes d'échec (goulot d'étranglement vs diffusion) basée sur la forme du paysage de conductance.
3. Rigueur Méthodologique : Démontrer que la confusion liée à la longueur peut gonfler l'AUROC brute jusqu'à 0,28 points et établir un protocole (LC-AUROC) pour isoler les signaux structurels.
4. Insight Architectural : Montrer que la « parcimonie » des signaux directionnels ($G$) dans les modèles uniquement décodeurs est une propriété architecturale (dominance de la structure positionnelle sur la direction dépendante du contenu) plutôt qu'un échec du diagnostic.

Les auteurs soulignent que, bien que le cadre caractérise comment le routage de l'attention échoue, il ne prétend pas résoudre la détection d'hallucinations dans tous les cas (par exemple, les lacunes de connaissances sans pathologie de routage peuvent rester indétectables). La contribution est un cadre principiel pour comprendre les limites structurelles de l'analyse spectrale de l'attention.