🤖 machine learning

WriteSAE: Sparse Autoencoders for Recurrent State

Dieser Beitrag stellt WriteSAE vor, den ersten sparse Autoencoder, der entwickelt wurde, um die Matrix-Cache-Schreibvorgänge von State-Space- und hybriden rekurrenten Sprachmodellen zu zerlegen und zu bearbeiten, indem Decoder-Atome in ihre native Rank-1-Aktualisierungsform zerlegt werden, was präzise Verhaltensinterventionen und eine hochgenaue Vorhersage von Effekten ermöglicht.

Ursprüngliche Autoren: Jack Young

Veröffentlicht 2026-05-14

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Jack Young

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich ein großes Sprachmodell (wie die, die Geschichten schreiben oder Fragen beantworten) als eine riesige, hochgeschwindigkeitsfähige Fabrik vor. In dieser Fabrik gibt es ein spezielles „Speicherbrett", auf dem die Maschine ihre aktuellen Gedanken aufschreibt, bevor sie zum nächsten Schritt übergeht.

Lange Zeit haben Wissenschaftler versucht, mit Werkzeugen namens Sparse Autoencoder (SAE) zu verstehen, was auf diesem Brett geschrieben steht. Stellen Sie sich diese Werkzeuge als eine Brille vor, die es Forschern ermöglicht, die einzelnen „Ideen" oder „Merkmale" zu sehen, über die die Maschine nachdenkt. Es gab jedoch ein Problem: Diese Brille funktionierte nur auf dem Ausgang der Fabrik, nicht auf die spezifische Art und Weise, wie die Maschine in bestimmten fortgeschrittenen Modellen auf ihr Speicherbrett schreibt.

Diese Arbeit stellt ein neues Werkzeug namens WriteSAE vor. So funktioniert es, einfach erklärt:

1. Das Problem: Die falsche Form der Brille

In älteren Modellen schrieb die Maschine ihre Gedanken als einfache Liste von Zahlen auf. Die alte Brille (standard SAEs) war dafür ausgelegt, Listen zu lesen.
Aber in neueren, schnelleren Modellen (wie Gated DeltaNet, Mamba-2 und RWKV-7) schreibt die Maschine keine Liste. Stattdessen schreibt sie eine Matrix (ein Gitter von Zahlen) unter Verwendung eines spezifischen mathematischen Tricks, der als „Rank-1-Update" bezeichnet wird.

Die Analogie: Stellen Sie sich vor, die Maschine malt ein Bild. Die alten Werkzeuge versuchten, das Gemälde zu beschreiben, indem sie auf die fertige Leinwand schauten. Aber die neuen Maschinen malen, indem sie jeweils einen bestimmten Pinselstrich (eine einzelne Farblinie) zu einem komplexen Gitter hinzufügen. Die alten Werkzeuge konnten diesen einzelnen Pinselstrich nicht erkennen, weil sie nach einer ganzen Liste von Farben suchten, nicht nach einem einzelnen Strich.

2. Die Lösung: WriteSAE

Die Autoren bauten WriteSAE, eine neue Brille, die speziell darauf ausgelegt ist, diesen einzelnen Pinselstrich zu sehen.

Die Formübereinstimmung: Anstatt zu versuchen, eine Liste zu lesen, sind die „Atome" von WriteSAE (die Teile, nach denen es sucht) exakt so geformt wie der Pinselstrich, den die Maschine verwendet. Es sind winzige, einstrichige Muster.
Das Ergebnis: Da die Form perfekt übereinstimmt, kann WriteSAE genau isolieren, was die Maschine zu jedem gegebenen Moment auf ihr Speicherbrett schreibt.

3. Die Experimente: Der Austausch der Pinselstriche

Um zu beweisen, dass dies funktioniert, führten die Forscher eine „Operation" am Speicher der Maschine durch.

Der Tausch: Sie fanden einen Moment, in dem die Maschine einen bestimmten Pinselstrich schrieb. Sie löschten diesen Strich und ersetzten ihn durch einen „gelernten" Strich aus ihrem neuen Wörterbuch (WriteSAE).
Der Test: Sie verglichen dies mit zwei anderen Szenarien:
1. Komplettes Löschen (eine leere Stelle hinterlassend).
2. Einsetzen eines zufälligen Kritzels.
Das Ergebnis: Als sie den WriteSAE-Strich einsetzten, arbeitete die Maschine fast genau so weiter wie zuvor (in 92,4 % der Fälle). Als sie ihn löschten oder ein zufälliges Kratzen verwendeten, geriet die Maschine in Verwirrung und machte Fehler.
Die Metapher: Es ist wie der Austausch eines spezifischen Zahnrads in einer Uhr durch ein maßgefertigtes Zahnrad, das perfekt passt. Die Uhr tickt weiter. Wenn Sie das Zahnrad entfernen oder einen zufälligen Stein einsetzen, steht die Uhr still.

4. Was sie fanden

Zwei Arten von Strichen: Sie entdeckten, dass die Maschine zwei Hauptarten von Pinselstrichen verwendet:
- Register: Dies sind präzise, fokussierte Striche, die spezifische Aufgaben erfüllen (wie das Markieren des Beginns eines Satzes oder eines Eigennamens).
- Bündel: Dies sind eher verstreute Striche, die eine Mischung aus Dingen zu tun scheinen.
Vorhersage der Zukunft: Sie fanden eine mathematische Formel, die genau vorhersagen kann, wie die Änderung eines bestimmten Strichs das nächste Wort der Maschine verändern wird. Es ist wie zu wissen, dass wenn Sie dieses eine spezifische Zahnrad justieren, die Uhr eine Sekunde früher schlagen wird.
Bearbeiten der Maschine: Sie nutzten dieses Werkzeug erfolgreich, um neue Verhaltensweisen zu „installieren". Beispielsweise konnten sie die Maschine zwingen, weiter über ein bestimmtes Thema zu sprechen (wie ein „Mid-Rank"-Wort), das sie normalerweise nicht wählen würde, indem sie einfach den richtigen Pinselstrich auf das Speicherbrett einfügten.

5. Die Grenzen

Die Arbeit betont sehr sorgfältig, dass dies am besten bei Modellen funktioniert, die auf diese spezifische „Einzelstrich"- (Rank-1-) Weise schreiben.

Wenn ein Modell auf komplexere Weise schreibt (wie beispielsweise zwei Striche gleichzeitig oder ein diagonales Muster verwendend), funktioniert das Werkzeug nicht ganz so perfekt, obwohl es dennoch einige Muster findet.
Das Werkzeug funktioniert hervorragend beim Qwen3.5-Modell (ein spezifischer Typ von KI), und sie zeigten, dass es auch bei anderen ähnlichen Modellen funktioniert, aber die „magische Formel" zur Vorhersage der Zukunft ändert sich je nach Architektur des Modells.

Zusammenfassung

WriteSAE ist ein neues Werkzeug, das es uns ermöglicht, die spezifische Art und Weise fortgeschrittener KI-Modelle zu sehen und zu bearbeiten, wie sie auf ihr internes Speicherbrett schreiben. Indem die Forscher die Form des Werkzeugs an die Form des Schreibens der Maschine anpassen, können sie spezifische Gedanken austauschen, vorhersagen, wie die Maschine reagieren wird, und sogar die Maschine dazu bringen, Dinge zu sagen, die sie normalerweise nicht sagen würde, alles ohne die Maschine zu beschädigen. Es ist das erste Mal, dass Wissenschaftler erfolgreich eine solche „Operation" direkt an der Speicher-Schreibstelle dieser spezifischen Modelltypen durchgeführt haben.

Technische Zusammenfassung: WriteSAE für die rekurrente Zustandszerlegung

Problemstellung

Zustandsraum- und hybride rekurrente Sprachmodelle (z. B. Gated DeltaNet, Mamba-2, RWKV-7, Qwen3.5) nutzen einen Matrix-Cache für die Zustandspropagation, wobei jedes Token ein Rang-1-Außenprodukt ( $k_t v_t^\top$ ) in eine $d_k \times d_v$ -Matrix schreibt. Bestehende Sparse Autoencoder (SAEs) operieren auf Residualströmen und lesen den Zustand nach der Emission. Folglich können Standard-SAEs den nativen Schreibmechanismus, der stromaufwärts in der Rekursion stattfindet, nicht direkt zugreifen oder zerlegen. Darüber hinaus kann ein standardmäßiger, vektorbasierter SAE-Decodier-Atom den einzelnen Cache-Schreibvorgang nicht ersetzen, ohne die für kausale Interventionen (Cache-Patching) erforderliche strukturelle Korrespondenz zu verletzen, da der Zustand über Rang-1-Außenprodukte aktualisiert wird.

Methodik

Die Arbeit stellt WriteSAE vor, den ersten Sparse Autoencoder, der entwickelt wurde, um den Matrix-Cache-Schreibvorgang rekurrenter Modelle zu zerlegen und zu bearbeiten.

Architektur und Training

Native Formanpassung: Die Decoder-Atome von WriteSAE sind als Rang-1-Außenprodukte ( $v_i w_i^\top$ ) beschränkt und entsprechen dem nativen Schreibprimitiv ( $k_t v_t^\top$ ) der Host-Architektur. Dies ermöglicht es einem einzelnen Atom, ein spezifisches Cache-Slot-Update zu ersetzen.
Bilinearer Encoder: Um den Matrixzustand $S_t$ effizient zu kodieren, verwendet das Modell einen bilinearen Encoder ( $a_i = v_i^\top S_t w_i$ ) anstelle eines flachgelegten dichten Encoders. Dies reduziert die Parameteranzahl pro Atom von $d_k d_v$ (16.384 für $128 \times 128$ ) auf $d_k + d_v$ (256), eine 64-fache Reduktion.
Trainingsziel: Das Modell wird auf mittenzentrierten Zuständen ( $x = \text{vec}(S_t - M)$ ) unter Verwendung einer TopK-Spärlichkeitsbeschränkung und eines Hilfsverlusts zum Wiederbeleben toter Features trainiert. Das Trainingskorpus besteht aus OpenWebText-Sequenzen, die durch Qwen3.5-0.8B (und andere Modelle) an bestimmten Schichten und Köpfen verarbeitet wurden.

Feature-Klassifizierung

Der trainierte Wörterbuch wird basierend auf der medianen Kosinusähnlichkeit zwischen der Schreibrichtung des Atoms und der nativen Schreibrichtung in zwei Klassen unterteilt:

Register: Atome mit hoher Kosinus-Ausrichtung auf native Schreibvorgänge (wiederherstellbar aus dem Cache).
Bündel: Atome mit verteilten Schreibrichtungen über den Cache hinweg.

Kausale Interventions-Tests

Die Arbeit schlägt drei primäre Validierungsmechanismen vor:

Cache-Slot-Ersetzung: Ersetzen des nativen Schreibvorgangs ( $k_t v_t^\top$ ) durch ein passendes Frobenius-Norm-SAE-Atom ( $\hat{S}_t = S_t - \Delta_{nat} + \Delta_{atom}$ ) und Messen der downstream-KL-Divergenz.
Geschlossene Logit-Verschiebung: Herleitung eines dreifaktoriellen Ausdrucks zur Vorhersage von pro-Token-Logit-Verschiebungen: $\Delta \ell \approx G_{t_0 \to t} \langle w_i, q_t \rangle \langle v_i, W_U[\text{tok}] \rangle$ , wobei $G$ das Gate-Produkt, $q_t$ die Lese-Abfrage und $W_U$ die Unembedding-Zeile ist.
Direkte Cache-Interventionen: Löschen oder Installieren von Atomen an spezifischen Positionen, um Änderungen in den Token-Wahrscheinlichkeiten und dem Generierungsverhalten zu beobachten.

Hauptbeiträge

Architektur-angepasstes Wörterbuch: Ein Wörterbuch, bei dem Atome Rang-1-Außenprodukte sind und eine direkte Ersetzung nativer Cache-Schreibvorgänge ermöglichen, eine Fähigkeit, die zuvor für Residualstrom-SAEs nicht verfügbar war.
Validierung der Ersetzung: Demonstration, dass gelernte Atome native Schreibvorgänge mit hoher Genauigkeit ersetzen können. Bei Qwen3.5-0.8B (Schicht 9, Kopf 4) schlagen Atome die abgestimmte Norm-Ablation bei 92,4 % von 4.851 Auslösungen.
Geschlossene Vorhersage: Eine parameterfreie, dreifaktorielle Formel, die pro-Auslösung-Logit-Verschiebungen mit einem medianen $R^2$ von 0,98 über 200 Atom-By-Epsilon-Zellen vorhersagt.
Architekturübergreifende Übertragung: Validierung, dass der Erfolg der Ersetzung und die Feature-Partitionierung (Register vs. Bündel) über verschiedene Matrix-rekurrente Architekturen (Gated DeltaNet, RWKV-7, Mamba-2) hinweg gelten, obwohl die Erfolgsraten je nach „Schreibrang" des Substrats variieren.

Experimentelle Ergebnisse

Ersetzungsleistung

Qwen3.5-0.8B (Gated DeltaNet): Bei L9 H4 schlagen Atome die Ablation bei 92,4 % der Auslösungen. Der Populations-Test über 87 Atome liegt bei 89,8 %. Die strenge Reihenfolge $KL_{atom} < KL_{ablate} < KL_{random}$ gilt bei 89,5 % der Auslösungen.
Mamba-2-370M: Die Ersetzung gelingt bei 88,1 % über 2.500 Auslösungen, obwohl Mamba-2 eine diagonale Zustandsaktualisierung anstelle eines vollen Rang-1-Außenprodukts verwendet.
RWKV-7: Zeigt mittlere Leistung, konsistent mit seiner Rang-2-Schreibregel.

Logit-Verschiebungsvorhersage

Der geschlossene Ausdruck verfolgt gemessene Effekte genau. Bei L9 H4 beträgt der mediane $R^2$ zwischen vorhergesagten und gemessenen Logit-Verschiebungen 0,98. Dieser geschlossene Ausdruck versagt jedoch (negatives $R^2$ ) bei Mamba-2 und Qwen3.5-4B, was darauf hindeutet, dass der Gate-Faktor $G$ substratspezifisch ist.

Behaviorale Interventionen

Löschung: Das Löschen eines spezifischen Register-Atoms (F412) an seinen natürlichen Auslösepositionen reduzierte die Log-Wahrscheinlichkeit des Ziel-Tokens („space") um einen Median von -0,116 Nats ( $p=1,07 \times 10^{-6}$ ).
Generierungssteuerung: Die anhaltende Installation einer geschlossenen Richtung an drei aufeinanderfolgenden Positionen erhöhte die „Target-in-Continuation"-Rate für Midrank-Tokens von 33,3 % auf 100 % unter gieriger Dekodierung.
Passage-Level-Verstärkung: Die Verstärkung von grenzkorrelierten Features in einem 4B-Modell reduzierte die Zeilenumbruch-Generierung um 33 % (von 16,8 auf 11,2 pro 400 Token) bei einer 5-fachen Dosis und demonstrierte die Kontrolle über die Dokumentstruktur.

Architektonischer Geltungsbereich

Die Arbeit etabliert eine Hierarchie der „Schreibrang"-Effektivität:

Gated DeltaNet (Rang-1): Höchste Register-Kosinus-Trennung (0,262) und Ersetzungsqualität.
RWKV-7 (Rang-2): Mittlere Trennung (0,180).
Mamba-2 (Diagonal/Skalar): Niedrigste Trennung (0,0575), erreicht jedoch immer noch ~88 % Erfolgsrate bei der Ersetzung.

Bedeutung und Behauptungen

Die Arbeit behauptet, das erste kausale Wörterbuch für die Matrix-rekurrente Schreibstelle bereitzustellen und über die Residualstrom-Analyse hinauszugehen. Sie zeigt, dass:

Der Schreibrang entscheidend ist: Die Fähigkeit, den Zustand in interpretierbare „Register" zu zerlegen, korreliert mit dem Rang der nativen Schreibregel (Rang-1 > Rang-2 > Diagonal).
Kausale Ersetzung möglich ist: Gelernte Atome können native Schreibvorgänge mit minimaler downstream-KL-Divergenz ersetzen und validieren so das „Register"-Konzept in rekurrenten Modellen.
Geschlossene Interpretierbarkeit besteht: Für Gated DeltaNet kann der Effekt eines Features auf Logits analytisch vorhergesagt werden, ohne Parameter zu fitten, und verbindet das Wörterbuch direkt mit den Gate- und Lese-Mechanismen des Modells.

Die Autoren vermerken bescheiden Einschränkungen: Der geschlossene Koeffizient überträgt sich nicht über Substrate hinweg (versagt z. B. bei Mamba-2), und die Atom-Identität ist seed-spezifisch (obwohl klassenübergreifende Eigenschaften stabil sind). Die Arbeit etabliert einen neuen Benchmark für mechanistische Interpretierbarkeit in Zustandsraum-Modellen und zeigt, dass das „Schreib"-Primitiv ein viables Ziel für Wörterbuchlernen und kausale Bearbeitung ist.