💬 NLP

Hessian-Enhanced Token Attribution (HETA): Interpreting Autoregressive LLMs

Ce papier présente HETA, un cadre d'attribution innovant conçu spécifiquement pour les modèles de langage autoregressifs qui combine des vecteurs de transition sémantique, des scores de sensibilité basés sur la Hessienne et la divergence KL pour fournir des explications plus fidèles et sémantiquement fondées que les méthodes existantes.

Auteurs originaux : Vishal Pramanik, Maisha Maliha, Nathaniel D. Bastian, Sumit Kumar Jha

Publié 2026-04-16

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Vishal Pramanik, Maisha Maliha, Nathaniel D. Bastian, Sumit Kumar Jha

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imagine que vous avez un ami très intelligent, un "Grand Livre" numérique (un modèle de langage comme ceux qui écrivent des histoires ou répondent à des questions), qui génère du texte mot par mot. Parfois, ce livre vous dit : "C'est parce que j'ai lu le mot 'chien' plus tôt que j'ai décidé d'écrire 'aboyer' maintenant."

Mais comment savoir si c'est vrai ? Est-ce vraiment le mot "chien" qui a causé "aboyer", ou est-ce une coïncidence ? Ou peut-être est-ce un mot caché plus loin dans la phrase qui a eu plus d'influence ?

C'est là que le papier de recherche HETA (Hessian-Enhanced Token Attribution) intervient. Voici une explication simple, avec des analogies, de ce que les auteurs ont créé.

🕵️‍♂️ Le Problème : Les détectives imparfaits

Jusqu'à présent, pour comprendre pourquoi l'IA écrit ce qu'elle écrit, on utilisait des méthodes un peu comme des détectives qui ne regardent que la surface.

L'ancienne méthode (les gradients) : C'est comme regarder la pente d'une colline. Si le terrain est plat, le détective dit "rien ne bouge, donc ce mot n'est pas important". Mais en réalité, le terrain pourrait être plat juste à cet endroit précis, mais très raide juste à côté. Le détective rate l'information !
L'attention : C'est comme regarder où l'IA "regarde". Mais parfois, l'IA regarde un mot juste pour faire joli, sans que ce mot ait vraiment changé la décision finale. C'est comme un chef d'orchestre qui regarde le violoniste, mais c'est le batteur qui a lancé le rythme.

Les méthodes actuelles sont souvent trompeuses, surtout pour les modèles qui écrivent (les modèles "décodeurs").

🚀 La Solution : HETA, le Super-Détective

Les auteurs proposent HETA, un nouveau système qui combine trois outils pour ne rien laisser passer. Imaginez que pour comprendre pourquoi un mot est choisi, HETA utilise trois lunettes différentes :

1. La Loupe du Flux Sémantique (Le Chemin de la Cause)

Imaginez que l'IA est une ville avec des routes. Quand un mot est lu, il envoie des "paquets de données" à travers ces routes pour arriver au mot final.

L'analogie : HETA trace le trajet exact de ces paquets. Il ne regarde pas juste qui est dans la pièce, mais qui a vraiment apporté l'information jusqu'à la décision finale. Il s'assure que le mot a bien un "chemin causal" vers le résultat. C'est comme vérifier que le messager a bien livré le message à la bonne porte, et pas juste qu'il était dans le quartier.

2. Le Sismographe (La Sensibilité Hessianienne)

C'est la partie la plus technique, mais l'analogie est simple.

L'analogie : Imaginez que vous poussez un objet sur une table. Si la table est lisse, un petit coup suffit. Mais si la table a des bosses et des creux (c'est ce qu'on appelle la "courbure" ou le Hessian), un petit coup peut avoir un effet énorme, ou aucun effet du tout selon l'endroit exact.
Les anciennes méthodes ne sentaient que la pente (le premier coup). HETA, lui, sent la forme de la table. Il détecte les zones où le modèle est très sensible, même si la pente semble plate. Il comprend les "effets secondaires" et les interactions complexes entre les mots que les autres méthodes ignorent.

3. Le Test de l'Oubli (La Divergence KL)

C'est une expérience de pensée.

L'analogie : Imaginez que vous avez un puzzle complet. HETA demande : "Si j'enlève ce morceau de puzzle (ce mot), est-ce que l'image finale change ?"
Si l'image change radicalement, alors ce mot était crucial. Si l'image reste la même, le mot n'était pas important. HETA mesure exactement cette différence de "confusion" ou d'incertitude quand on retire un mot.

🏆 Pourquoi HETA est le champion ?

Les auteurs ont testé HETA sur plusieurs modèles et des tas de textes (des histoires, des questions de quiz, des biographies).

Résultat : HETA est beaucoup plus précis que les autres méthodes. Il ne se trompe pas sur les mots importants.
Stabilité : Même si on change un peu les paramètres de l'IA (comme la température ou le hasard dans la génération), HETA reste calme et cohérent. Les autres méthodes, elles, paniquent et donnent des résultats différents à chaque fois.
Le Nouveau Dataset : Les auteurs ont aussi créé un "examen de contrôle" spécial. Ils ont mélangé une histoire (qui ne sert à rien pour la réponse) avec des faits scientifiques (qui servent à la réponse). HETA a réussi à ignorer l'histoire et à pointer uniquement les faits scientifiques, là où les autres méthodes se perdaient dans le décor.

En résumé

HETA est comme un détective qui ne se contente pas de regarder qui est présent dans la pièce (l'attention), ni de mesurer la pente du sol (les gradients). Il :

Trace le chemin exact de l'information (Flux).
Sent les bosses et les creux invisibles du terrain (Hessian/Courbure).
Fait l'expérience de "ce qui se passerait si ce mot n'existait pas" (Oubli/KL).

Grâce à cette combinaison, il nous donne enfin une explication fiable et honnête de ce que l'IA pense vraiment, mot par mot. C'est un pas de géant pour rendre les "boîtes noires" de l'intelligence artificielle plus transparentes et dignes de confiance.

1. Problématique et Contexte

Les modèles de langage autoregressifs (LLM) basés sur des architectures "decoder-only" sont de plus en plus déployés dans des domaines critiques, mais leur nature de "boîte noire" pose des problèmes de confiance et de débogage. Bien que le domaine de l'IA explicable (XAI) ait développé de nombreuses méthodes d'attribution (comme LIME, Integrated Gradients, ou les méthodes basées sur l'attention), celles-ci présentent des limites majeures lorsqu'elles sont appliquées aux modèles génératifs :

Limites des méthodes basées sur l'attention : Les poids d'attention indiquent où le modèle "regarde", mais ne reflètent pas nécessairement une influence causale réelle sur la sortie. Ils ignorent souvent les chemins d'influence indirects via les connexions résiduelles et les couches MLP.
Limites des méthodes du premier ordre (Gradients) : Les méthodes basées sur les gradients (comme Integrated Gradients) reposent sur des approximations linéaires locales. Elles échouent souvent dans les régions où le gradient s'annule (zones plates ou saturées), même si une perturbation finie de l'entrée modifie significativement la sortie. Elles ne capturent pas les interactions non-linéaires complexes inhérentes à la génération autoregressive.
Inadéquation architecturale : La plupart des méthodes existantes sont conçues pour des architectures basées sur des encodeurs (bidirectionnels) et ne respectent pas la contrainte de causalité stricte des modèles decoder-only, où la génération d'un token dépend uniquement des tokens précédents.

2. Méthodologie : HETA

Les auteurs proposent HETA (Hessian-Enhanced Token Attribution), un cadre d'attribution conçu spécifiquement pour les modèles de langage decoder-only. HETA vise à quantifier la contribution causale de chaque token d'entrée à la probabilité log d'un token cible, en intégrant trois composantes complémentaires :

A. Influence de Transition Sémantique (Semantic Transition Influence)

Pour garantir la causalité, HETA trace le flux de valeurs pondéré par l'attention, en ne conservant que les chemins qui se terminent au token cible $T$ .

Pour chaque couche $l$ et chaque tête d'attention $h$ , le modèle calcule un "rollout" conditionné à la cible $\Phi^{(l,h)}(i \to T)$ .
L'influence sémantique $M_T[i]$ est calculée en agrégeant les normes des vecteurs de valeur transformés le long de ces chemins causaux.
Cela agit comme une porte causale : seuls les tokens ayant un chemin causal vers la cible reçoivent une attribution non nulle.

B. Sensibilité basée sur le Hessien (Hessian-Based Sensitivity)

Pour capturer les effets non-linéaires et les interactions d'ordre supérieur, HETA utilise la courbure de la surface de log-vraisemblance.

Au lieu de calculer le Hessien complet (inaccessible pour de grandes séquences), HETA estime la sensibilité via des produits Hessien-Vecteur (HVP) utilisant l'estimateur de Hutchinson.
La sensibilité $S_i^{(T)}$ mesure la magnitude de la courbure locale autour de l'embedding du token $i$ . Cela permet de détecter l'influence des tokens même lorsque les gradients du premier ordre sont nuls (zones plates).

C. Impact Informationnel (KL Divergence)

Pour quantifier la contribution informationnelle, HETA mesure la perte d'information lorsque le token est masqué.

On compare la distribution de probabilité du token cible avec et sans le token $x_i$ (masqué).
La divergence de Kullback-Leibler (KL) $I(x_i \to x_T)$ mesure le changement dans l'incertitude prédictive, fournissant une interprétation probabiliste de l'apport d'information du token.

Formule Finale

Le score d'attribution final est une combinaison pondérée :
$\text{Attr}(x_i \to x_T) = M_T[i] \cdot \left( \beta \cdot S_i^{(T)} + \gamma \cdot I(x_i \to x_T) \right)$
Où $\beta$ et $\gamma$ sont des hyperparamètres pondérant la sensibilité de courbure et la contribution informationnelle, respectivement. La porte $M_T[i]$ assure que l'attribution est restreinte aux chemins causaux.

3. Contributions Clés

Cadre HETA : Une nouvelle méthode d'attribution unifiée pour les modèles decoder-only, combinant le flux sémantique causal, la sensibilité du second ordre (Hessien) et la perte informationnelle (KL).
Nouveau Benchmark : Introduction d'un jeu de données curaté (2 000 instances) mélangeant des segments narratifs (NARRATIVEQA) et des segments de support de réponse (SCIQ). Ce dataset permet d'évaluer si l'attribution se concentre sur les preuves pertinentes (segment SCIQ) plutôt que sur le contexte distracteur (segment narratif), en utilisant la métrique DSA (Dependent Sentence Attribution).
Validation Empirique : Des expériences exhaustives sur quatre modèles (GPT-J, Phi-3, LLaMA-3.1, Qwen2.5) démontrant la supériorité de HETA par rapport aux méthodes de l'état de l'art (ContextCite, ReAgent, Integrated Gradients, etc.).

4. Résultats Expérimentaux

Les résultats montrent que HETA surpasse systématiquement les méthodes existantes sur plusieurs axes :

Fidélité (Faithfulness) : HETA obtient les scores les plus élevés sur les métriques Soft-NC et Soft-NS, indiquant une robustesse supérieure aux perturbations d'entrée. Par exemple, sur GPT-J 6B, HETA atteint un score Soft-NC de 10,3 contre 1,68 pour le deuxième meilleur (ReAgent).
Alignement Humain (DSA) : Sur le dataset curaté, HETA obtient des scores DSA bien supérieurs (ex: 4,80 à 5,10 selon le modèle) comparé aux méthodes baselines qui obtiennent souvent des scores négatifs, signifiant qu'elles attribuent de l'importance aux tokens distractors plutôt qu'aux preuves.
Robustesse aux Hyperparamètres : HETA est remarquablement stable face aux changements d'hyperparamètres de décodage (température, top-p, top-k). La variation relative des métriques est inférieure à 1 %, contre 2-5 % pour les méthodes de base.
Robustesse Syntaxique : HETA maintient une cohérence élevée lors de reformulations actives/passives des phrases, contrairement aux méthodes basées sur les gradients qui sont très sensibles à la syntaxe.
Ablation : Les études d'ablation confirment que les trois composantes (Flux, Hessien, KL) sont nécessaires. Retirer l'un d'eux dégrade significativement la performance, prouvant leur complémentarité.

5. Signification et Limites

Signification :
HETA établit un nouvel état de l'art pour l'interprétabilité des modèles génératifs. En passant d'approximations linéaires à une modélisation de la courbure (Hessien) et en intégrant une contrainte de causalité stricte, il offre des explications plus fiables, stables et sémantiquement fondées. Cela permet de mieux comprendre comment les LLMs utilisent le contexte pour générer des réponses, ce qui est crucial pour le débogage, la sécurité et la confiance dans les systèmes d'IA.

Limites :

Coût Computations : Le calcul des produits Hessien-Vecteur et le déroulement de l'attention augmentent le temps d'exécution et la consommation mémoire par rapport aux méthodes basées uniquement sur les gradients.
Évolutivité : Bien que des approximations (Hessien de rang faible, fenêtrage) aient été proposées pour réduire la charge (réduisant le temps d'exécution de ~40-50 % avec une perte minime de qualité), HETA reste plus coûteux que les méthodes simples pour des contextes très longs.

En conclusion, HETA représente une avancée majeure en fournissant un cadre théoriquement solide et empiriquement validé pour l'attribution de tokens dans les modèles de langage génératifs modernes, comblant le fossé entre la complexité non-linéaire des modèles et la nécessité d'explications interprétables.