🤖 machine learning

WriteSAE: Sparse Autoencoders for Recurrent State

Cet article présente WriteSAE, le premier autoencodeur parcimonieux conçu pour décomposer et modifier les écritures de cache matricielles des modèles de langage récurrents hybrides et à espace d'état en factorisant les atomes du décodeur dans leur forme native de mise à jour de rang 1, permettant ainsi des interventions comportementales précises et une prédiction d'effets hautement exacte.

Auteurs originaux : Jack Young

Publié 2026-05-14

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jack Young

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un grand modèle de langage (comme ceux qui écrivent des histoires ou répondent à des questions) comme une usine massive et ultra-rapide. À l'intérieur de cette usine, il existe une « carte mémoire » spéciale où la machine note ses pensées actuelles avant de passer à l'étape suivante.

Pendant longtemps, les scientifiques ont tenté de comprendre ce qui est écrit sur cette carte à l'aide d'outils appelés Autoencodeurs parcimonieux (SAE). Imaginez ces outils comme une paire de lunettes permettant aux chercheurs de voir les « idées » ou « caractéristiques » individuelles sur lesquelles la machine réfléchit. Cependant, il y avait un problème : ces lunettes ne fonctionnaient que sur la sortie de l'usine, et non sur la manière spécifique dont la machine écrit sur sa carte mémoire dans certains modèles avancés.

Cet article présente un nouvel outil appelé WriteSAE. Voici comment il fonctionne, expliqué simplement :

1. Le Problème : La Mauvaise Forme des Lunettes

Dans les anciens modèles, la machine écrivait ses pensées sous forme d'une simple liste de nombres. Les anciennes lunettes (SAE standards) étaient conçues pour lire des listes.
Mais dans les modèles plus récents et plus rapides (comme Gated DeltaNet, Mamba-2 et RWKV-7), la machine n'écrit pas une liste. Au lieu de cela, elle écrit une matrice (une grille de nombres) en utilisant une astuce mathématique spécifique appelée « mise à jour de rang 1 ».

L'Analogie : Imaginez que la machine peint un tableau. Les anciens outils tentaient de décrire le tableau en observant la toile terminée. Mais les nouvelles machines peignent en ajoutant une seule touche de pinceau spécifique (une seule ligne de couleur) à la fois sur une grille complexe. Les anciens outils ne pouvaient pas voir cette touche unique car ils cherchaient une liste complète de couleurs, et non un seul trait.

2. La Solution : WriteSAE

Les auteurs ont construit WriteSAE, une nouvelle paire de lunettes conçue spécifiquement pour voir cette touche unique.

L'Adéquation de la Forme : Au lieu d'essayer de lire une liste, les « atomes » de WriteSAE (les éléments qu'il recherche) ont exactement la même forme que la touche de pinceau utilisée par la machine. Ce sont de minuscules motifs de trait unique.
Le Résultat : Parce que la forme correspond parfaitement, WriteSAE peut isoler exactement ce que la machine écrit dans sa mémoire à tout moment donné.

3. Les Expériences : Échanger les Touches de Pinceau

Pour prouver que cela fonctionne, les chercheurs ont pratiqué une « chirurgie » sur la mémoire de la machine.

L'Échange : Ils ont repéré un moment où la machine écrivait une touche de pinceau spécifique. Ils ont effacé ce trait et l'ont remplacé par un trait « appris » provenant de leur nouveau dictionnaire (WriteSAE).
Le Test : Ils ont comparé cela à deux autres scénarios :
1. L'effacer complètement (en laissant un espace vide).
2. Y mettre un gribouillis aléatoire.
Le Résultat : Lorsqu'ils ont inséré le trait WriteSAE, la machine a continué à fonctionner presque exactement comme avant (dans 92,4 % des cas). Lorsqu'ils l'ont effacé ou utilisé un gribouillis aléatoire, la machine s'est confuse et a fait des erreurs.
La Métaphore : C'est comme remplacer une roue dentée spécifique d'une horloge par une roue sur mesure qui s'adapte parfaitement. L'horloge continue de battre. Si vous retirez la roue ou mettez un caillou au hasard, l'horloge s'arrête.

4. Ce Qu'ils Ont Découvert

Deux Types de Traits : Ils ont découvert que la machine utilise deux types principaux de touches de pinceau :
- Registres : Ce sont des traits précis et concentrés qui accomplissent des tâches spécifiques (comme marquer le début d'une phrase ou un nom propre).
- Paquets : Ce sont des traits plus dispersés qui semblent accomplir un mélange de choses.
Prédire l'Avenir : Ils ont trouvé une formule mathématique capable de prédire exactement comment modifier un trait spécifique changera le mot suivant de la machine. C'est comme savoir que si vous ajustez cette roue dentée spécifique, l'horloge sonnera une seconde plus tôt.
Modifier la Machine : Ils ont utilisé avec succès cet outil pour « installer » de nouveaux comportements. Par exemple, ils pouvaient forcer la machine à continuer de parler d'un sujet spécifique (comme un mot de « rang moyen ») qu'elle n'aurait normalement pas choisi, simplement en insérant le bon trait de pinceau dans la carte mémoire.

5. Les Limites

L'article précise soigneusement que cela fonctionne mieux sur les modèles qui écrivent de cette manière spécifique de « trait unique » (rang 1).

Si un modèle écrit de manière plus complexe (comme en utilisant deux traits à la fois ou un motif diagonal), l'outil ne fonctionne pas aussi parfaitement, bien qu'il trouve encore certains motifs.
L'outil fonctionne très bien sur le modèle Qwen3.5 (un type spécifique d'IA), et ils ont montré qu'il fonctionne sur d'autres modèles similaires, mais la « formule magique » pour prédire l'avenir change selon l'architecture du modèle.

Résumé

WriteSAE est un nouvel outil qui nous permet de voir et de modifier la manière spécifique dont les modèles d'IA avancés écrivent dans leur mémoire interne. En faisant correspondre la forme de l'outil à la forme de l'écriture de la machine, les chercheurs peuvent échanger des pensées spécifiques, prédire comment la machine réagira et même orienter la machine pour qu'elle dise des choses qu'elle ne dirait normalement pas, le tout sans casser la machine. C'est la première fois que les scientifiques réussissent à pratiquer ce type de « chirurgie » directement sur le site d'écriture de la mémoire de ces types spécifiques de modèles.

Résumé Technique : WriteSAE pour la Décomposition Récurrente de l'État

Énoncé du Problème

Les modèles de langage récurrents à espace d'état et hybrides (par exemple, Gated DeltaNet, Mamba-2, RWKV-7, Qwen3.5) utilisent un cache matriciel pour la propagation de l'état, où chaque token écrit un produit extérieur de rang 1 ( $k_t v_t^\top$ ) dans une matrice $d_k \times d_v$ . Les Autoencodeurs Creux (SAE) existants opèrent sur les flux résiduels, lisant l'état après l'émission. Par conséquent, les SAE standards ne peuvent pas accéder directement ni décomposer le mécanisme d'écriture natif, qui se produit en amont dans la récurrence. De plus, puisque l'état est mis à jour via des produits extérieurs de rang 1, un atome de décodeur SAE basé sur un vecteur standard ne peut pas remplacer une seule écriture de cache sans rompre la correspondance structurelle requise pour l'intervention causale (patching de cache).

Méthodologie

L'article introduit WriteSAE, le premier autoencodeur creux conçu pour décomposer et éditer l'écriture de cache matriciel des modèles récurrents.

Architecture et Entraînement

Correspondance de Forme Native : Les atomes du décodeur WriteSAE sont contraints d'être des produits extérieurs de rang 1 ( $v_i w_i^\top$ ), correspondant au primitif d'écriture natif ( $k_t v_t^\top$ ) de l'architecture hôte. Cela permet à un seul atome de remplacer une mise à jour spécifique d'un emplacement de cache.
Encodeur Biliaire : Pour encoder efficacement l'état matriciel $S_t$ , le modèle utilise un encodeur bilinéaire ( $a_i = v_i^\top S_t w_i$ ) plutôt qu'un encodeur dense aplati. Cela réduit le nombre de paramètres par atome de $d_k d_v$ (16 384 pour $128 \times 128$ ) à $d_k + d_v$ (256), soit une réduction de 64 fois.
Objectif d'Entraînement : Le modèle est entraîné sur des états centrés sur la moyenne ( $x = \text{vec}(S_t - M)$ ) en utilisant une contrainte de parcimonie TopK et une perte auxiliaire pour réactiver les caractéristiques mortes. Le corpus d'entraînement est composé de séquences OpenWebText traitées par Qwen3.5-0.8B (et d'autres modèles) à des couches et des têtes spécifiques.

Classification des Caractéristiques

Le dictionnaire entraîné est partitionné en deux classes basées sur la similarité cosinus médiane entre la direction d'écriture de l'atome et la direction d'écriture native :

Registres : Atomes avec une forte alignement cosinus aux écritures natives (récupérables depuis le cache).
Paquets : Atomes avec des directions d'écriture dispersées à travers le cache.

Tests d'Intervention Causale

L'article propose trois mécanismes de validation principaux :

Substitution d'Emplacement de Cache : Remplacer l'écriture native ( $k_t v_t^\top$ ) par un atome SAE de norme Frobenius correspondante ( $\hat{S}_t = S_t - \Delta_{nat} + \Delta_{atom}$ ) et mesurer la divergence KL en aval.
Décalage de Logits sous Forme Close : Dériver une expression à trois facteurs pour prédire les décalages de logits par token : $\Delta \ell \approx G_{t_0 \to t} \langle w_i, q_t \rangle \langle v_i, W_U[\text{tok}] \rangle$ , où $G$ est le produit de la porte, $q_t$ est la requête de lecture, et $W_U$ est la ligne de décodage.
Interventions Directes sur le Cache : Effacer ou installer des atomes à des positions spécifiques pour observer les changements dans les probabilités de tokens et le comportement de génération.

Contributions Clés

Dictionnaire Correspondant à l'Architecture : Un dictionnaire où les atomes sont des produits extérieurs de rang 1, permettant la substitution directe des écritures de cache natives, une capacité précédemment inaccessible aux SAE de flux résiduel.
Validation par Substitution : Démonstration que les atomes appris peuvent remplacer les écritures natives avec une haute fidélité. Sur Qwen3.5-0.8B (Couche 9, Tête 4), les atomes surpassent l'ablation à norme correspondante sur 92,4 % des 4 851 déclenchements.
Prédiction sous Forme Close : Une formule à trois facteurs sans paramètres qui prédit les décalages de logits par déclenchement avec un $R^2$ médian de 0,98 sur 200 cellules atome-par-epsilon.
Transfert Inter-Architectures : Validation que le succès de la substitution et le partitionnement des caractéristiques (Registre vs Paquet) tiennent à travers différentes architectures récurrentes matricielles (Gated DeltaNet, RWKV-7, Mamba-2), bien que les taux de succès varient selon le « rang d'écriture » du substrat.

Résultats Expérimentaux

Performance de Substitution

Qwen3.5-0.8B (Gated DeltaNet) : À L9 H4, les atomes surpassent l'ablation sur 92,4 % des déclenchements. Le test de population sur 87 atomes se maintient à 89,8 %. L'ordre strict $KL_{atom} < KL_{ablate} < KL_{random}$ tient sur 89,5 % des déclenchements.
Mamba-2-370M : La substitution réussit à 88,1 % sur 2 500 déclenchements, malgré l'utilisation par Mamba-2 d'une mise à jour d'état diagonale plutôt que d'un produit extérieur complet de rang 1.
RWKV-7 : Montre une performance intermédiaire, cohérente avec sa règle d'écriture de rang 2.

Prédiction de Décalage de Logits

L'expression sous forme close suit avec précision les effets mesurés. À L9 H4, le $R^2$ médian entre les décalages de logits prédits et mesurés est de 0,98. Cependant, cette forme close échoue ( $R^2$ négatif) sur Mamba-2 et Qwen3.5-4B, indiquant que le facteur de porte $G$ est spécifique au substrat.

Interventions Comportementales

Effacement : L'effacement d'un atome de registre spécifique (F412) à ses positions de déclenchement naturelles a réduit la probabilité logarithmique du token cible (« espace ») d'une médiane de -0,116 nats ( $p=1,07 \times 10^{-6}$ ).
Pilotage de Génération : L'installation soutenue d'une direction sous forme close à trois positions consécutives a augmenté le taux « cible-dans-continuation » pour les tokens de rang moyen de 33,3 % à 100 % sous un décodage glouton.
Amplification au Niveau du Passage : L'amplification des caractéristiques corrélées aux limites dans un modèle 4B a réduit la génération de sauts de ligne de 33 % (de 16,8 à 11,2 par 400 tokens) à une dose de 5x, démontrant un contrôle sur la structure du document.

Portée Architecturale

L'article établit une hiérarchie d'efficacité du « rang d'écriture » :

Gated DeltaNet (Rang 1) : Séparation cosinus de registre la plus élevée (0,262) et fidélité de substitution.
RWKV-7 (Rang 2) : Séparation intermédiaire (0,180).
Mamba-2 (Diagonale/Scalaire) : Séparation la plus faible (0,0575), mais atteint tout de même ~88 % de succès de substitution.

Signification et Revendications

L'article revendique fournir le premier dictionnaire causal pour le site d'écriture récurrente matricielle, allant au-delà de l'analyse du flux résiduel. Il démontre que :

Le Rang d'Écriture est Déterminant : La capacité à décomposer l'état en « registres » interprétables est corrélée au rang de la règle d'écriture native (Rang 1 > Rang 2 > Diagonale).
La Substitution Causale est Possible : Les atomes appris peuvent remplacer les écritures natives avec une divergence KL en aval minimale, validant le concept de « registre » dans les modèles récurrents.
Interprétabilité sous Forme Close : Pour Gated DeltaNet, l'effet d'une caractéristique sur les logits peut être prédit analytiquement sans ajustement de paramètres, reliant directement le dictionnaire aux mécanismes de porte et de lecture du modèle.

Les auteurs notent modestement des limites : le coefficient sous forme close ne se transfère pas entre substrats (par exemple, échoue sur Mamba-2), et l'identité par atome est spécifique à la graine (bien que les propriétés au niveau de la classe soient stables). Ce travail établit une nouvelle référence pour l'interprétabilité mécaniste dans les modèles à espace d'état, montrant que le primitif « écriture » est une cible viable pour l'apprentissage de dictionnaire et l'édition causale.