Interpretability-Guided Layer Selection over Subspace Projection: SAEs as Stethoscopes, Not Scalpels, for Raw Task Vector Model Editing

Résumé Technique : Sélection de Couches Guidée par l'Interprétabilité via Projection de Sous-espace

Énoncé du Problème
Les Grands Modèles de Langage (LLM) nécessitent de plus en plus une édition de modèle « chirurgicale » pour améliorer des capacités spécifiques à un domaine, sans engendrer le coût computationnel ou l'oubli catastrophique associés au fine-tuning complet. Deux axes de recherche principaux abordent cette problématique : l'Arithmétique des Tâches, qui traite les différences de poids entre les modèles fine-tunés et les modèles de base comme des « vecteurs de tâche » additifs dans l'espace des poids, et l'Interprétabilité Mécaniste (MI), qui utilise des Autoencodeurs Parsimonieux (SAE) pour décomposer l'espace d'activation en caractéristiques interprétables en vue d'interventions.

L'hypothèse prédominante suggère un pipeline synergique : utiliser les SAE pour identifier des caractéristiques pertinentes pour le domaine, puis injecter les vecteurs de tâche uniquement à travers ces caractéristiques spécifiques (projection de sous-espace). Cet article évalue rigoureusement cette hypothèse sur des tâches de raisonnement mathématique en utilisant Gemma-3-4B-IT et met en évidence un mode de défaillance fondamental dans cette approche.

Méthodologie
L'article oppose deux pipelines pour l'édition de modèle guidée par SAE (illustrés dans la Figure 1) :

1. L'Approche Échouée (Projection SAE) :

   • Processus : Les vecteurs de tâche ($\Delta W$) sont projetés sur le sous-espace engendré par les vecteurs décodeurs SAE spécifiques au domaine avant injection.
   • Mécanisme : Cela tente de filtrer les modifications de l'espace des poids à travers des directions de l'espace d'activation.
   • Résultat : Cela agit comme un goulot d'étranglement sévère en information, éliminant environ 97 % de l'énergie de modification. Les auteurs attribuent cela à un désalignement géométrique : les vecteurs décodeurs SAE engendrent la variété d'activation (capturant les régularités statistiques des représentations), tandis que les vecteurs de tâche existent dans l'espace des poids (encodant des changements computationnels). Projeter des modifications de l'espace des poids à travers des directions de l'espace d'activation confond deux structures géométriques distinctes, entraînant une perte quasi totale du signal fonctionnel.

2. L'Approche Proposée (SAE comme Stéthoscope, non comme Scalpel) :

   • Processus : Les SAE sont utilisés strictement pour le diagnostic (sélection de couches), et non pour l'intervention (filtrage).
   • Étape 1 (Extraction du Vecteur de Tâche) : Un vecteur de tâche est extrait via un fine-tuning LoRA sur un jeu de données spécifique au domaine (par exemple, la Théorie des Nombres).
   • Étape 2 (Sélection de Couches Guidée par SAE) : Un Score de Spécificité (SP) par couche est calculé. Pour chaque couche $l$, le score correspond à la spécificité maximale de ses caractéristiques SAE, où la spécificité est le rapport entre l'activation moyenne sur les entrées du domaine cible et celle des autres domaines. Les couches avec $SP(l) \geq \tau_{SP}$ (par exemple 4,0) sont sélectionnées.
   • Étape 3 (Injection Brute Sélective) : Le vecteur de tâche brut, non filtré ($\Delta W$) est injecté uniquement dans les couches sélectionnées, mis à l'échelle par un paramètre global $\alpha$. Aucune projection ni aucun masquage n'est appliqué au vecteur lui-même.
   • Insight Clé : Cela préserve 100 % de l'énergie de modification tout en confinant les éditions aux régions pertinentes pour le domaine. Les auteurs observent une loi de conservation empirique : lorsque le nombre de couches sélectionnées diminue, le paramètre d'échelle optimal $\alpha$ augmente proportionnellement ($n_{couches} \times \alpha_{opt} \approx 11,2$).

Résultats Clés
Évalué sur le benchmark Minerva Math (7 sujets, incluant Théorie des Nombres, Dénombrement & Probabilités, Algèbre, etc.) en utilisant Gemma-3-4B-IT :

• Échec de la Projection : La méthode de projection SAE (injectant des vecteurs projetés dans les couches sélectionnées) n'a produit aucune amélioration statistiquement significative sur aucun des sept sujets de mathématiques, même en augmentant la largeur des caractéristiques SAE de 16K à 262K. Elle ne conservait que ~2–3,5 % de l'énergie de modification.
• Succès de l'Injection Brute : La méthode proposée (injectant des vecteurs bruts dans les couches sélectionnées par SAE) a considérablement amélioré les performances :
  • Théorie des Nombres : La précision est passée de 29,6 % à 39,4 % ($z = +3,41, p = 0,0007$).
  • Global : 5 des 7 sujets ont montré des améliorations statistiquement significatives ; aucun n'a été significativement dégradé.
  • Comparaison : La fusion complète LoRA (appliquant $\Delta W$ à toutes les 34 couches) a dégradé les performances dans plusieurs sujets en raison d'interférences.
• Robustesse : La méthode est robuste au paramètre d'échelle $\alpha$ dans une large plage (0,70–1,10) et est entièrement déterministe à la précision float64.

Contributions Clés

1. Cadre Méthodologique : Propose la « Sélection de Couches Guidée par SAE avec Injection de Vecteur de Tâche Brut », démontrant que les SAE sont efficaces pour identifier où éditer (diagnostic) mais inefficaces pour filtrer quoi injecter (intervention).
2. Résultat Négatif Substantiel : Documente que projeter les vecteurs de tâche sur les sous-espaces de caractéristiques SAE élimine ~97 % de l'énergie de modification et échoue à produire des gains. Ceci est présenté comme la contribution scientifique centrale, remettant en cause l'hypothèse intuitive selon laquelle la sélection de caractéristiques dans l'espace d'activation peut filtrer directement les mises à jour de l'espace des poids.
3. Preuve Empirique de Désaccord Géométrique : Fournit des preuves solides que les directions SAE de l'espace d'activation et les vecteurs de tâche de l'espace des poids ne sont pas interchangeables, soutenant la littérature récente qui questionne la fiabilité des SAE en tant qu'outils d'intervention au-delà du sondage.
4. Ablation Étendue : Comprend plus de 30 configurations testant les largeurs de caractéristiques, les seuils de sélection de couches, les sources de vecteurs de tâche et les paramètres d'échelle.

Signification et Revendications
L'article affirme que la distinction entre l'espace d'activation et l'espace des poids est un « axe porteur » du problème de l'édition de modèle. La signification principale réside dans la redéfinition du rôle des outils d'interprétabilité :

• SAE comme Stéthoscopes : Ils sont précieux pour diagnostiquer la spécialisation de domaine au niveau de la couche.
• Les SAE ne sont pas des Scalpels : Ils ne doivent pas être utilisés pour filtrer chirurgicalement les modifications de l'espace des poids via projection.

Les auteurs concluent qu'une édition chirurgicale efficace nécessite une séparation des rôles : utiliser les SAE pour identifier les couches cibles, mais injecter le vecteur de tâche brut et non filtré pour préserver le signal fonctionnel. Cette approche offre un cadre principiel, sans entraînement (post-entraînement) et déterministe pour améliorer les capacités de domaine sans oubli catastrophique. Les résultats suggèrent que l'efficacité de cette sélection diagnostique dépend de la « netteté » du vecteur de tâche lui-même, nécessitant des données d'entraînement de domaine ciblées.