Résumé technique : Atlas de caractéristiques de référence pour l'audit mécaniste des modèles de langage

1. Énoncé du problème

L'audit de nouveaux modèles de langage (LM) pour la sécurité, les biais ou les objectifs cachés nécessite généralement de réapprendre et de réinterpréter les caractéristiques internes à partir de zéro pour chaque nouvelle version. Les outils actuels, tels que les auto-encodeurs creux (SAE) et les crosscodeurs creux, souffrent de limitations significatives dans ce contexte :

• Absence de bases communes : Les SAE de modèles uniques produisent un dictionnaire frais pour chaque cible, ce qui rend impossible la distinction entre une anomalie spécifique au modèle et une caractéristique typique d'une famille.
• Comparaison inefficace : Les crosscodeurs par paires amortissent l'interprétation sur deux modèles mais nécessitent un réentraînement pour un troisième modèle. Ils isolent les caractéristiques spécifiques à la cible via un seuillage post-hoc de la norme du décodeur au sein d'un dictionnaire partagé, ce qui est une décision souple par caractéristique plutôt qu'une séparation architecturale.
• Absence de systèmes de coordonnées : Il n'existe aucun outil actuel offrant un système de coordonnées stable où différents objectifs peuvent être comparés sur un pied d'égalité, ni de mécanisme pour signaler explicitement la structure qui se situe « en dehors » d'un panel de référence de modèles connus.

Le défi central est de distinguer les mécanismes génériques et partagés à travers une famille de modèles des mécanismes spécifiques à une cible qui peuvent encoder des objectifs cachés ou des biais uniques, sans redémarrer le pipeline d'interprétabilité pour chaque nouveau modèle.

2. Méthodologie : Atlas de caractéristiques de référence

Les auteurs proposent un Atlas de caractéristiques de référence, une bibliothèque de caractéristiques creuses entraînée une seule fois sur un panel de référence de modèles et réutilisée pour de nouvelles cibles. La méthodologie sépare l'identité de la caractéristique (ce qu'est une caractéristique) de l'usage de la caractéristique (la force avec laquelle un nouveau modèle l'engage).

2.1 Entraînement de l'atlas (Étape 1)

Un panel de référence $P = \{M_1, \dots, M_k\}$ de $k$ modèles est utilisé pour entraîner un système de coordonnées creux partagé.

• Architecture : Un encodeur multi-entrées $E_A$ projette les activations de tous les modèles du panel dans un espace latent partagé $z_A \in \mathbb{R}^K$.
• Sparsité : Le système utilise une sparsité BatchTopK (conservant les $k$ plus grandes activations par jeton) pour assurer une stabilité du nombre de caractéristiques à travers des échelles d'activation hétérogènes, évitant ainsi les artefacts associés à la sparsité L1 dans l'entraînement des crosscodeurs.
• Objectif : L'atlas minimise la fraction de variance inexpliquée (FVU) pour reconstruire les activations de chaque modèle du panel ($h_i$) en utilisant son décodeur spécifique $D_i$ et le code partagé $z_A$ :
  $$\mathcal{L}_{atlas} = \sum_{i=1}^k \text{FVU}(h_i, D_i z_A)$$
• Curation des métadonnées : Une fois entraîchées, les caractéristiques de l'atlas sont interprétées (par exemple, via des hypothèses générées par LLM, des prompts activant fortement les caractéristiques) et validées. Ces métadonnées sont fixes et réutilisées pour tous les audits futurs.

2.2 Attachement d'une cible (Étape 2)

Lorsqu'un nouveau modèle cible $M_\star$ arrive, il est « attaché » à l'atlas gelé sans réentraîner l'encodeur ni les décodeurs du panel.

1. Ajustement du décodeur linéaire : Un décodeur cible linéaire unique $D_\star$ est ajusté pour reconstruire les activations de $M_\star$ en utilisant le code de l'atlas gelé $z_A$ :
   $$\hat{h}_\star = D_\star z_A$$
   Cette étape est peu coûteuse en calcul (régression ridge sur un corpus neutre) et produit le Canal de l'Atlas.
2. Canal résiduel : La partie des activations de la cible non reconstruite par l'atlas est définie comme le résidu :
   $$r_\star = \text{sg}[h_\star - D_\star z_A]$$
   Un SAE résiduel dédié est entraîné sur $r_\star$ pour former un dictionnaire séparé. Ce canal capture explicitement la structure non couverte par le panel — les caractéristiques qui existent dans la cible mais qui ne sont pas représentées dans le panel de référence.

2.3 Sortie de l'audit

L'audit produit deux vues complémentaires :

• Canal de l'Atlas : Lit la cible sur les caractéristiques déjà interprétées du panel. Il fournit un système de coordonnées stable pour une comparaison N-voies, montant quelles caractéristiques partagées la cible engage et lesquelles elle ignore.
• Canal Résiduel : Fait émerger un inventaire de caractéristiques nommées pour les mécanismes « en dehors du panel de référence ». Parce que ces caractéristiques résident dans un dictionnaire séparé par construction architecturale (et non par seuillage post-hoc), elles sont distinctes des caractéristiques partagées.

3. Contributions clés

1. Système de coordonnées de caractéristiques réutilisable : L'atlas fournit un système de coordonnées partagé entraîné une fois sur un panel de référence. Les nouvelles cibles s'attachent via un décodeur linéaire, permettant une comparaison directe avec tous les modèles de référence sans réentraîner le dictionnaire de caractéristiques.
2. Séparation architecturale de la structure non couverte par le panel : Contrairement aux crosscodeurs creux qui mélangent les caractéristiques partagées et spécifiques au modèle dans un seul dictionnaire, cette méthode ajuste un SAE résiduel séparé sur le signal non reconstruit. Cela fait de la caractéristique « non couverte par le panel » une propriété architecturale fixe, et non une décision post-hoc.
3. Signature de lignée via l'attachement : La qualité de l'attachement (mesurée par la FVU ou la divergence KL) sert de métrique scalaire de la part du comportement d'une cible qui se situe en dehors du panel de référence. Cela est étendu en un inventaire de caractéristiques nommées par le SAE résiduel.

4. Résultats expérimentaux

Les auteurs ont entraîné deux atlas en leave-one-out sur un panel de cinq modèles d'instruction de 7 à 9B (Llama-3.1, Qwen2.5, Mistral-7B, Gemma-2, OLMo-2) et ont audité les modèles exclus (Mistral et Qwen).

4.1 Audit contrôlé d'objectif caché

Trois objectifs cachés (une marque de dessert fictive, les épicycles de Ptolémée et la promotion du monstre volant spaghetti) ont été injectés dans les deux cibles exclues via de petits LoRA.

• Récupération : Le canal résiduel a récupéré le mécanisme injecté comme étant la caractéristique de rang supérieur (rang moyen 1.0, $\sigma=0$) dans les six exécutions appariées (3 graines $\times$ 2 cibles).
• Contrôle causal : Les interventions au runtime sur les directions résiduelles ont ramené le taux de l'objectif injecté à zéro tout en laissant les contrôles bénins correspondants inchangés.
• Comparaison avec les bases de référence : Sur la cible Mistral, les auteurs ont réentraîné des SAE par cible et des crosscodeurs par paires pour un benchmark tête-à-tête. Les deux bases de référence ont échoué à récupérer l'objectif comme la caractéristique principale (rangs 12 et 9, respectivement), alors que l'atlas de référence y est parvenu.

4.2 Découverte de cadrage politique relatif au panel (Qwen)

• Écart d'attachement : Qwen-2.5 s'est attaché à l'Atlas B (où il était exclu) avec une divergence KL $\sim7\times$ plus élevée que sa valeur intra-panel, indiquant une structure significative en dehors du panel de référence.
• Découverte résiduelle : Le canal résiduel a localisé cet écart dans des continuations politiques spécifiques non couvertes par le panel, incluant les restrictions de pouvoirs d'urgence, le cadrage de suspension des médias lors de troubles, et les justifications de l'ordre et de la loi qui minimisent les droits individuels.
• Intervention : Le pilotage du cluster résiduel a déplacé de manière monotone le taux de refus des mots-clés politiques et la part du cadrage de l'ordre et de la loi, tandis que les contrôles hors domaine restaient inchangés.
• Nature de la découverte : Les auteurs soulignent qu'il s'agit d'une découverte relative au panel. Elle identifie une structure dans Qwen que le panel de référence, entraîné principalement en Occident, ne couvre pas, plutôt que de faire une affirmation intrinsèque sur les valeurs du modèle.

5. Signification et affirmations

L'article affirme que l'Atlas de caractéristiques de référence offre un cadre plus évolutif, efficace et rigoureux pour l'audit mécaniste par rapport aux méthodes de pointe actuelles.

• Efficacité : Il évite le coût computationnel du réentraînement de dictionnaires complets pour chaque nouveau modèle, ne nécessant qu'un ajustement de décodeur linéaire.
• Comparabilité : Il résout le problème de l'« incommensurabilité » des SAE de modèles uniques et des crosscodeurs par paires en fournissant un système de $K$ dimensions pour une comparaison N-voies.
• Détection explicite d'anomalies : En séparant architecturalement le canal résiduel, la méthode fait émerger explicitement les mécanismes qui sont « en dehors du panel de référence », fournissant un signal clair pour les anomalies spécifiques à la cible que les dictionnaires partagés pourraient occulter.
• Modestie : Les auteurs notent que les résultats sont relatifs au panel de référence et au corpus d'audit. Par exemple, la découverte sur le cadrage politique est limitée à la distribution de prompts et au panel utilisés ; un panel différent pourrait absorber ces caractéristiques dans les coordonnées partagées. La méthode nécessite un accès aux activations (modèles à poids ouverts) et repose sur des étiquettes de caractéristiques qui restent des hypothèses nécessitant une validation.

Ce travail positionne l'atlas non pas seulement comme un extracteur de caractéristiques, mais comme un protocole d'audit standardisé qui permet aux chercheurs de distinguer les traits familiaux partagés des objectifs cachés spécifiques à une cible avec une précision accrue et des coûts opérationnels moindres.