💬 NLP

VASAE: Naming SAE Dictionary Directions with Vocabulary-Aligned Anchoring

Das Paper stellt VASAE vor, eine Methode, die Sparse Autoencoder mit vokabular-ausgerichteter Verankerung trainiert, um während des Trainings intrinsische Token-Namen den Features zuzuweisen, wodurch hohe Alignment-Raten in den flachen und mittleren Schichten von Transformer-Modellen ohne Beeinträchtigung der Rekonstruktionsqualität erreicht werden.

Ursprüngliche Autoren: Kairui Zhang, Ziwen Yu, Zahraa S. Abdallah, Martha Lewis

Veröffentlicht 2026-06-29

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Kairui Zhang, Ziwen Yu, Zahraa S. Abdallah, Martha Lewis

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich eine riesige, komplexe Maschine vor (wie ein modernes KI-Sprachmodell), die Geschichten schreibt, Fragen beantwortet und Probleme löst. In dieser Maschine fließen Informationen durch eine Reihe von „Rohren“, die Residualströme (residual streams) genannt werden. Während die Maschine einen Satz verarbeitet, tragen diese Rohre einen ständig wechselnden Datenstrom.

Um zu verstehen, wie die Maschine denkt, nutzen Forscher ein Werkzeug namens Sparse Autoencoder (SAE). Denken Sie an einen SAE als ein hochtechnologisches Mikroskop, das diesen komplexen Datenstrom in eine Liste einfacher, unterscheidbarer „Zutaten“ oder „Merkmale“ (features) zerlegt.

Das Problem: Die „namenlosen“ Zutaten
In der Vergangenheit konnten Forscher mit diesen Mikroskopen zwar die Zutaten sehen, hatten aber keine Namen für sie. Es war, als würde man in ein Gewürzregal schauen, in dem jedes Glas nur mit einer Nummer beschriftet ist (z. B. „Merkmal #4.592“). Um herauszufinden, was „Merkmal #4.592“ tatsächlich war, mussten Forscher im Nachhinein viel Detektivarbeit leisten: Sie ließen tausende Sätze durch die Maschine laufen, beobachteten, wann diese spezifische Nummer aufleuchtete, und ratierten dann: „Oh, dieses Merkmal scheint immer dann aktiv zu werden, wenn die Maschine über Bäckereien spricht.“

Dieser „Post-hoc“-Prozess (nach dem Ereignis) ist langsam, manuell und oft unpräzise.

Die Lösung: VASAE (Das „beschriftete Gewürzregal“)
Die Arbeit stellt eine neue Methode namens VASAE (Vocabulary-Aligned Sparse Autoencoder) vor. Anstatt die Maschine diese Zutaten in einem Vakuum lernen zu lassen, zwingt VASAE die Zutaten dazu, nah an dem internen Wörterbuch der Maschine zu bleiben.

Hier ist die Analogie:

Der alte Weg: Ein Koch lernt das Kochen, indem er zufällige Mischungen probiert. Später versucht er zu erraten, was jede Zutat ist, indem er die Gerichte betrachtet, die er zubereitet hat.
Der VASAE-Weg: Ein Koch lernt das Kochen, aber jedes Mal, wenn er eine neue Zutat in die Hand nimmt, wird er sanft geleitet, sie direkt neben das Glas mit der Aufschrift „Salz“, „Pfeffer“ oder „Zucker“ im Vorratsschrank zu platzieren. Die Zutat muss nicht exakt dasselbe sein wie das Glas, aber sie muss nah genug dran sein, um als zu dieser Kategorie gehörend erkannt zu werden.

Wie es funktioniert

Der Anker: Die Maschine besitzt bereits eine feste Liste von Wort-Embeddings (mathematische Repräsentationen von Wörtern wie „Katze“, „laufen“ oder „Straße“). VASAE nutzt diese Wortrepräsentationen als „Anker“.
Das Training: Während die Maschine lernt, den Datenstrom zu zerlegen, erhält sie eine spezielle Regel: „Stelle sicher, dass deine neuen ‚Zutaten‘ geometrisch nah an einem der bestehenden Wort-Anker bleiben.“
Das Ergebnis: Wenn das Training abgeschlossen ist, erhält jede einzelne Zutat (feature) automatisch einen Namen. Er wird einfach nach dem Wort benannt, dem sie am nächsten steht. Wenn ein Merkmal dem Wort „Straße“ am nächsten kommt, wird es „Straße“ genannt. Wenn es dem Wort „befindet“ am nächsten kommt, heißt es „befindet“.

Was sie herausgefunden haben
Die Forscher testeten dies an zwei verschiedenen KI-Modellen (GPT-2-small und Llama-3.1-8B) und fanden heraus:

Kein Qualitätsverlust: Die Maschine verstand und rekonstruierte die Daten weiterhin genauso gut wie zuvor. Das „Mikroskop“ wurde nicht verschwommen; es erhielt lediglich Etiketten.
Automatische Benennung: In den frühen Schichten (den „flachen“ Schichten) der KI erhielten etwa 90 % bis 93 % der Merkmale einen klaren, relevanten Namen. Zum Beispiel wurden in einem Satz über ein Café die Merkmale, die aufleuchteten, automatisch als „befindet“, „Straße“, „Ecke“ und „um ... herum“ benannt.
Tiefe spielt eine Rolle: Die Methode funktionierte in den frühen und mittleren Schichten der KI am besten. In den ganz letzten Schichten (wo die KI entscheidet, welches Wort als nächstes gesagt wird) war die Ausrichtung etwas ungeordneter, was darauf hindeutet, dass die „Zutaten“ dort abstrakter werden und schwerer auf ein einzelnes Wort festzulegen sind.

Das Fazre Fazit
VASAE zeigt uns nicht nur, was die KI denkt; es gibt den internen Gedanken der KI ein Vokabular, das sie sprechen kann. Es verwandelt eine Liste mysteriöser Zahlen in ein Wörterbuch von Wörtern, die die KI intern verwendet, was es viel einfacher macht, zu verstehen, was die Maschine tut, ohne stundenlange manuelle Detektivarbeit leisten zu müssen.

Hinweis: Die Arbeit konzentriert sich strikt auf diesen Benennungsmechanismus und die Qualität der Rekonstruktion. Sie behauptet nicht, dass diese Methode die KI sicherer, präziser in realen Aufgaben oder bereit für den klinischen Einsatz macht; sie bietet lediglich einen besseren Weg, das interne „Gewürzregal“ der KI zu beschriften und zu inspizieren.

Technisches Resümee: VASAE – Benennung von SAE-Dictionary-Richtungen mittels vokabular-ausgerichteter Verankerung

1. Problemstellung

Sparse Autoencoder (SAEs) werden zunehmend eingesetzt, um die hochdimensionalen Residualströme von Transformer-Modellen in dünnbesetzte Codes über gelernte Dictionaries zu zerlegen, was die mechanistische Interpretierbarkeit unterstützt. Eine wesentliche Einschränkung von Standard-SAEs ist jedoch, dass ihre gelernten Merkmale (Dictionary-Richtungen) nicht intrinsisch mit dem Token-Vokabular des Modells verbunden sind.

In der gängigen Praxis ist die Benennung von Merkmalen ein Post-hoc-Prozess. Forscher müssen Kontexte untersuchen, in denen bestimmte Merkmale aktivieren, oder separate automatisierte Interpretationsverfahren durchführen, um semantische Labels zuzuweisen. Diese Diskrepanz entsteht, weil die Geometrie des gelernten Dictionarys und die Geometrie der Token-Embeddings typischerweise unzusammenhängend sind; ein Merkmal kann zwar Aktivierungen effektiv rekonstruieren, liegt aber weit entfernt von einem Token-Embedding-Vektor, wodurch ihm ein „intrinsischer“ Name auf Vokabular-Ebene fehlt.

Die Arbeit stellt die Frage: Können wir SAE-Merkmale so trainieren, dass sie flexibel genug für eine hochwertige Rekonstruktion bleiben, aber geometrisch nah genug an den Token-Embeddings verankert sind, um während des Trainings intrinsische Token-Namen zu erwerben, ohne die Rekonstruktionsleistung zu opfern?

2. Methodik: Vocabulary-Aligned Sparse Autoencoder (VASAE)

Die Autoren schlagen VASAE vor, eine Modifikation des Standard-SAE-Trainingszielobjektivs, das einen Mechanismus zur vokabular-ausgerichteten Verankerung einführt.

Kernarchitektur

Input: VASAE operiert auf den Post-Residualstream-Vektoren ( $h^{(\ell)}$ ) eines Transformer-Layers $\ell$ .
Encoder: Verwendet einen standardmäßigen Top-k Sparse Encoder (lineare Abbildung + ReLU + Top-K Auswahl), um einen dünnbesetzten Code $z$ zu erzeugen.
Decoder: Verwendet eine lernbare Dictionary-Matrix $W_D$ (wobei die Spalten die Feature-Vektoren $d_i$ sind), um den Residualstream zu rekonstruieren.
Anker: Die Methode nutzt die festen Input-Token-Embeddings ( $W_E$ ) des Modells als Referenzrichtungen. Diese Embeddings teilen dieselbe Dimensionalität wie der Residualstream (oder werden darauf projiziert).

Das Verankerungs-Zielobjektiv (Anchoring Objective)

Die zentrale Innovation ist die Hinzufügung eines Anker-Verlustterms zum Standard-Rekonstruktionsverlust.

Nächster-Token-Ausrichtung: Für jedes gelernte Merkmal $d_i$ berechnet die Methode die Kosinus-Ähnlichkeit mit allen festen Token-Embeddings $w_v$ .
$s_i = \max_{v \in V} \cos(d_i, w_v)$
Der Token $v^*_i$ , der dieses Maximum erreicht, definiert den intrinsischen Token-Namen für das Merkmal $i$ .
Anker-Verlust: Das Trainingsziel ermutigt die Merkmale, nahe bei ihrem nächsten Token-Embedding zu bleiben:
$L_{anchor} = -\frac{1}{d_{sparse}} \sum_{i=1}^{d_{sparse}} s_i$
Das Minimieren dieses Verlusts maximiert die Kosinus-Ähnlichkeit zwischen den Merkmalen und ihren nächsten Vokabular-Tokens.
Gesamtverlust: Das kombinierte Zielobjektiv lautet:
$L_{vasae} = L_{recon} + \lambda_{anchor} L_{anchor}$
wobei $\lambda_{anchor}$ ein Hyperparameter ist, der die Stärke der Ausrichtungsbeschränkung steuert.

Unterscheidung von Hard-Tying

Die Autoren unterscheiden VASAE explizit von einer „Hard-Tied“-Decoder-Baseline, bei der die Decoder-Gewichte exakt gleich der Token-Embedding-Matrix ( $W_D = W_E$ ) sind. Hard-Tying erzwingt, dass Merkmale exakte Token-Embeddings sind, was laut der Arbeit unzureichend für eine hochwertige Rekonstruktion ist. VASAE hält das Dictionary lernbar, zieht es aber über den Anker-Verlust in Richtung der Vokabular-Geometrie.

3. Experimenteller Aufbau

Die Methode wurde an zwei Decoder-only Transformer-Modellen evaluiert:

GPT-2-small: 12 Layer, $d_{model}=768$ , Vokabulargröße $|V|=50.257$ .
L-Llama-3.1-8B: 32 Layer, $d_{model}=4096$ , Vokabulargröße $|V|=128.256$ .

Baselines:

Standard SAE: Trainiert mit nur Rekonstruktionsverlust.
Hard-Tied Decoder: Decoder-Gewichte sind auf Token-Embeddings fixiert; nur der Encoder wird trainiert.

Metriken:

Rekonstruktion: Mittlerer quadratischer Fehler (MSE), Erklärte Varianz (VE) und Cross-Entropy (CE) Recovery nach Substitution des Residualstreams.
Ausrichtung: Geometrische Feature-Ausrichtungsrate (Prozentsatz der Merkmale mit einem Ausrichtungsscore $s_i \ge 0,8$ ) und Vokabular-Abdeckung.
Fallstudien: Qualitative Inspektion der intrinsischen Token-Namen, die aktiven Merkmalen in spezifischen Kontexten zugewiesen wurden.

4. Kernergebnisse

Rekonstruktionsqualität

VASAE erreicht Rekonstruktionsmetriken, die mit dem Standard-SAE vergleichbar sind, und übertrifft die Hard-Tied-Decoder-Baseline signifikant.

GPT-2-small: Sowohl VASAE als auch das Standard-SAE erreichen eine erklärte Varianz (VE) von 0,965 und eine CE-Recovery von 0,975.
Llama-3.1-8B: Sowohl VASAE als auch das Standard-SAE erreichen eine VE von 0,931 und eine CE-Recovery von 0,906.
Hard-Tied Baseline: Schneidet schlecht ab (z. B. negative VE in GPT-2-small), was bestätigt, dass das Erzwingen exakter Token-Embeddings die Rekonstruktionsfähigkeit zerstört.

Geometrische Ausrichtung

GPT-2-small: Mit $\lambda_{anchor} = 10^{-4}$ überschreiten 89–94 % der Merkmale in den Layern 0–10 den Ausrichtungs-Cutoff ( $s_i \ge 0,8$ ). Die Ausrichtung ist stark und konsistent über flache und mittlere Layer hinweg.
Llama-3.1-8B: Die Ausrichtung ist tiefenabhängig. Bei einem höheren Koeffizienten ( $\lambda_{anchor} = 5 \times 10^{-3}$ ) erreicht der flache Layer (L0) eine Ausrichtung von 92,8 %. Die Ausrichtung sinkt jedoch in tieferen Layern (z. B. L31) signifikant ab, was darauf hindeutet, dass die Vokabular-Verankerung besser mit Zuständen kompatibel ist, die näher am Embedding-Raum liegen.

Fallstudien

Die qualitative Analyse der intrinsischen Token-Namen zeigt semantische Kohärenz:

In GPT-2-small werden Merkmale, die in einem Satz über „Baker Street“ aktiv sind, mit intrinsischen Namen wie located, Street, corner und around zugewiesen.
Zusätzliche Beispiele zeigen die Ausrichtung von Merkmalen auf Adjektive/Adverbien (z. B. perfect, feasible), Begriffe im Zusammenhang mit Auszeichnungen (z. B. winner, praise) und Selbstvorstellungsbegriffe (z. B. fan, name).
In Llama-3.1-8B zeigt der flache Layer eine ähnliche Ausrichtung auf ortsbezogene Begriffe, während tiefere Layer weniger Konsistenz aufweisen, was die quantitativen Ausrichtungsmetriken widerspiegelt.

5. Beiträge und Bedeutung

Die Arbeit leistet drei primäre Beiträge:

Einführung von VASAE: Ein Zielobjektiv zur sanften Vokabular-Verankerung, das gelernten SAE-Decoder-Richtungen während des Trainings den nächstgelegenen Token-Namen zuweist, statt dies erst post-hoc zu tun.
Evaluierung der Verankerung: Der Nachweis, dass die Vokabular-ausgerichtete Verankerung eine Rekonstruktionsqualität liefert, die mit Standard-SAEs vergleichbar ist, während gleichzeitig bewiesen wird, dass das Hard-Tying des Decoders an Token-Embeddings für diese Aufgabe unzureichend ist.
Geometrische Analyse: Die Analyse der Feature-Ausrichtung im Embedding-Raum und der Vokabular-Abdeckung liefert Belege dafür, dass intrinsische Token-Namen als geometrie-abgeleitete Identifikatoren fungieren.

Bedeutung:
Die Autoren argumentieren, dass VASAE bestehende Post-hoc-Interpretationsmethoden ergänzt, indem es gelernte Merkmale während des Trainings mit intrinsischen Token-Namen verbindet. Dies bietet einen „vokabular-indizierten Griff“ für Merkmale und dient als Ausgangspunkt für die Untersuchung.

Entscheidend ist, dass die Autoren eine moderate Haltung gegenüber der Bedeutung dieser Namen einnehmen:

Keine Erklärungen: Ein intrinsischer Token-Name ist keine vollständige Erklärung eines Features. Er erklärt nicht, warum ein Feature aktiviert wird oder welche kausale Rolle es in der Berechnung des Modells spielt.
Indizierungswerkzeug: Die Namen dienen als vorläufige Indizierungswerkzeuge. Wahre Erkenntnis erfordert weitere Analysen darüber, wie benannte Merkmale in Schaltkreisen (Circuits) interagieren, wie sie mit anderen Komponenten verbunden sind und wie sich Interventionen auf sie auf das Verhalten auswirken.
Einschränkungen: Die Ausrichtung ist in GPT-2-small und in den flachen/mittleren Layern von Llama-3.1-8B am robustesten. Die Methode verankert derzeit nur an den Input-Embeddings; für Modelle mit untrennbaren (untied) Input/Output-Embeddings bleibt die Wahl der Anker-Matrix eine offene Frage.

Zusammenfassend lässt sich sagen, dass VASAE die Lücke zwischen dem geometrischen Raum der gelernten Merkmale und dem Vokabular-Raum des Modells erfolgreich schließt, indem es ermöglicht, dass Merkmale intrinsische Token-Namen tragen, ohne deren Nutzen für die Rekonstruktion zu beeinträchtigen.