Résumé Technique : Verbalisateur d'Activation Universel (UAV)

Énoncé du Problème

Bien que les modèles de langage à grande échelle (LLM) aient obtenu des succès significatifs grâce à l'apprentissage de représentations, la compréhension des informations spécifiques encodées dans leurs activations internes reste un défi central. Les méthodes existantes de verbalisation d'activation — où un modèle décrit le contenu d'un état caché en langage naturel — sont principalement limitées à l'auto-explication. Dans ces approches, un modèle est entraîné à expliquer uniquement ses propres activations. Cette restriction empêche la réutilisation des verbalisateurs entre différentes familles de modèles, architectures ou échelles, rendant l'analyse des grands modèles « donneurs » inefficace et non généralisable. De plus, les méthodes sans entraînement (par exemple, le patchage direct des activations dans les invites) échouent souvent à récupérer des informations factuelles et sémantiques fines.

Méthodologie : Le Cadre UAV

Les auteurs proposent le Verbalisateur d'Activation Universel (UAV), un cadre unifié conçu pour expliquer les activations de modèles donneurs hétérogènes en utilisant un décodeur partagé. Le cadre repose sur le principe qu'un adaptateur léger peut mapper les activations d'un donneur dans l'espace d'embedding d'un modèle décodeur, permettant ainsi une verbalisation inter-modèle.

Architecture

L'UAV se compose de deux composants principaux :

1. Adaptateur Entraînable ($\mathcal{A}$) : Ce module fait le pont entre l'espace d'activation du donneur et l'espace d'embedding du décodeur. Il mappe une activation spécifique du donneur $h_i^\ell$ (de la couche $\ell$ à la position $i$) vers une séquence de $n$ « tokens doux » continus ($z_{1:n}$). L'article examine deux architectures d'adaptateur :
   • Style MLP : Un réseau de projection avec des couches de goulot d'étranglement optionnelles.
   • Style Q-Former : Une conception basée sur l'attention utilisant des tokens de requête apprenables pour extraire des informations à partir d'emplacements de contexte dérivés de l'activation du donneur.
2. Modèle Décodeur ($\mathcal{M}_v$) : Un modèle de langage figé ou partiellement affiné (par exemple, la famille Qwen) qui génère des explications en langage naturel. Les tokens doux générés par l'adaptateur sont préfixés à l'invite textuelle en tant que préfixe conditionné par l'activation.

Stratégie d'Entraînement

L'UAV emploie un processus d'entraînement en deux étapes :

1. Alignement Activation-Vers-Texte (Étape 1) : L'adaptateur est entraîné pour reconstruire le préfixe de texte d'entrée $\langle t_0, \dots, t_i \rangle$ à partir de l'activation du donneur $h_i^\ell$ en utilisant la force de l'enseignant. Le décodeur est figé durant cette étape. Cela sert de phase de préchauffage pour aligner l'espace d'activation avec l'espace d'embedding du décodeur.
2. Alignement Suivi d'Instructions (Étape 2) : Le modèle est affiné pour répondre à des questions sur le texte d'entrée (par exemple, « Quelle est l'idée principale ? » ou « Quelle était la profession ? »). Cette étape implique un entraînement conjoint de l'adaptateur et des paramètres côté décodeur (spécifiquement LoRA) afin d'améliorer la capacité du modèle à suivre des instructions orientées explication.

Transfert Adaptateur-Seulement

Une innovation clé est la stratégie de Transfert Adaptateur-Seulement. Après avoir effectué une adaptation complète en deux étapes sur un donneur source, le LoRA côté décodeur est figé. Pour un nouveau modèle donneur, seul un nouvel adaptateur est entraîné à partir de zéro, tandis que le socle du décodeur et le LoRA appris restent fixes. Cela permet la réutilisation du comportement orienté explication du décodeur à travers différents modèles donneurs sans réentraîner l'ensemble du système.

Contributions Clés

1. Cadre Unifié : La proposition de l'UAV, un cadre adaptateur-décodeur qui permet la verbalisation d'activation inter-modèle à travers des familles de modèles hétérogènes (par exemple, Llama, Gemma, Yi, Qwen) et des échelles variées.
2. Transfert Adaptateur-Seulement : L'introduction d'un mécanisme de transfert qui fige le LoRA côté décodeur, permettant une adaptation efficace à de nouveaux donneurs en n'entraînant que l'adaptateur.
3. Analyse Systématique : Des expériences et des ablations complètes démontrant que l'UAV prend en charge l'explication d'activation à travers les familles de modèles tout en restant compétitif par rapport à des bases de référence d'auto-explication robustes.

Résultats Expérimentaux

Les auteurs ont évalué l'UAV sur des tâches de question-réponse génératives ancrées dans les activations, couvrant la classification, la récupération de faits et le résumé de l'idée principale.

• Performance vs Bases de Référence : L'UAV surpasse significativement les méthodes sans entraînement (SelfIE, PatchScope), en particulier dans la récupération de faits où les méthodes de patchage peinent avec les informations fines. Comparé aux bases de référence d'auto-explication basées sur l'entraînement (LatentQA, Activation Oracle), l'UAV reste compétitif, obtenant souvent les meilleurs scores ROUGE-L et BERTScore globaux dans les contextes d'auto-explication.
• Capacité Inter-Modèle : Un décodeur partagé (par exemple, Qwen3-4B) verbalise avec succès les activations de donneurs divers (Llama-3.1-8B, Gemma-3, Yi-1.5-34B). Bien que le décodage autonome (utilisant le donneur comme son propre décodeur) produise généralement des résultats légèrement meilleurs, l'écart de performance dans la verbalisation inter-modèle est modéré, démontrant l'universalité du cadre.
• Taille du Décodeur : Des décodeurs plus grands (jusqu'à 14B) améliorent généralement les performances, suggérant une meilleure conversion des signaux d'activation alignés en langage naturel, bien que la tendance ne soit pas strictement monotone.
• Analyse des Composants (Ablations) :
  • Ajustement côté Décodeur : Améliore principalement le comportement au niveau de la tâche et le suivi des instructions (par exemple, les schémas de classification).
  • Adaptateur : Essentiel pour récupérer les informations factuelles et sémantiques spécifiques à l'entrée. Sans l'adaptateur entraîné, le modèle ne peut pas extraire de manière fiable les détails fins des activations.
  • Préchauffage Étape-1 : L'étape d'alignement activation-vers-texte est une condition préalable critique ; son retrait dégrade systématiquement les performances.

Importance et Revendications

L'article revendique que l'UAV répond à l'inefficacité et au manque de généralisabilité des méthodes actuelles d'explication d'activation. En découplant la cartographie des activations (adaptateur) de la capacité de génération (décodeur), l'UAV permet :

• Réutilisabilité : Un seul décodeur orienté explication peut être adapté à plusieurs modèles donneurs.
• Efficacité : La stratégie de transfert adaptateur-seulement réduit les coûts de calcul lors de l'analyse de nouveaux modèles.
• Fidélité : Le cadre fournit un mécanisme pour récupérer des informations factuelles et sémantiques à partir des activations qui sont souvent perdues dans les approches sans entraînement.

Les auteurs reconnaissent les limites, notant que l'UAV rencontre toujours des difficultés pour récupérer des attributs fins à partir d'activations uniques et est actuellement limité aux entrées à contexte court. Des travaux futurs sont proposés pour améliorer la récupération de faits et la compréhension de l'idée principale grâce à un alignement plus fort et une supervision plus riche.