💻 computer science

Interpretability Transfer from Language to Vision via Sparse Autoencoders

Dieser Beitrag stellt VISTA vor, ein Framework, das Interpretierbarkeit von der Sprache auf die Vision überträgt, indem es visuelle Tokens mit einem bestehenden, beschrifteten textuellen Sparse-Autoencoder-Raum in Vision-Sprach-Modellen ausrichtet und dadurch eine präzise Lokalisierung visueller Konzepte sowie effektive intermodale Eingriffe ohne das Training dedizierter visueller SAEs ermöglicht.

Ursprüngliche Autoren: Alexey Kravets, Da Li, Chuan Li, Da Chen, Vinay P. Namboodiri

Veröffentlicht 2026-05-26

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Alexey Kravets, Da Li, Chuan Li, Da Chen, Vinay P. Namboodiri

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr intelligenten Roboter, der Bilder sehen und darüber sprechen kann. Dieses Robot hat ein „Gehirn" (ein Large Language Model), das unglaublich gut darin ist, Wörter zu verstehen, aber es ist ein wenig rätselhaft, wie es die Welt tatsächlich „sieht". Normalerweise ist es, wenn wir versuchen, einen Blick in das Gehirn dieses Roboters zu werfen, um zu sehen, was es über ein Bild denkt, wie der Versuch, ein Buch zu lesen, das in einer Sprache geschrieben ist, die noch niemand spricht.

Dieser Artikel stellt eine neue Methode namens VISTA (Visual Interpretability via SAE Transfer Alignment) vor, um dieses Problem zu lösen. So funktioniert es, einfach erklärt:

1. Das Problem: Die „Wörterbuch"-Diskrepanz

Stellen Sie sich das Gehirn des Roboters als ein riesiges, vorab geschriebenes Wörterbuch von Konzepten vor (wie „Hund", „laufen", „glücklich"). Dieses Wörterbuch wurde durch das Lesen von Millionen Büchern erstellt und ist sehr gut organisiert. Wenn der Roboter jedoch ein Bild betrachtet, stimmen die Signale, die er von seinen Augen erhält (die visuellen Daten), nicht mit den Wörtern in diesem Wörterbuch überein. Sie sind wie zwei verschiedene Sprachen.

Um zu verstehen, was der Roboter sieht, versuchen Wissenschaftler normalerweise, ein neues Wörterbuch speziell für Bilder zu erstellen. Dies ist jedoch schwierig, da die Kennzeichnung visueller Konzepte verwirrend ist. Ist ein „Hund"-Feature einfach nur ein Hund, oder eine bestimmte Rasse, oder ein laufender Hund? Es ist mehrdeutig und erfordert viel Arbeit, um es zu kennzeichnen.

2. Die Lösung: VISTA (Der universelle Adapter)

Anstatt ein neues Wörterbuch für Bilder zu erstellen, fungiert VISTA wie ein universeller Übersetzungsadapter.

Das Setup: Der Roboter hat ein eingefrorenes „Gehirn" (das Sprachmodell) mit seinem bestehenden, gekennzeichneten Wörterbuch. Er hat auch eine „Kamera" (einen Vision Encoder), die die Welt sieht.
Der Trick: VISTA trainiert einen kleinen, einfachen Verbinder (einen Projektor) zwischen der Kamera und dem Gehirn.
Das Ziel: Das Ziel ist es, die Signale der Kamera dazu zu zwingen, sich perfekt in das bestehende Wörterbuch des Gehirns einzupassen. Die Forscher tun dies, indem sie während des Trainings eine spezielle Regel hinzufügen: „Die Bildsignale, die Sie an das Gehirn senden, müssen unter Verwendung des eigenen Wortwörterbuchs des Gehirns rekonstruierbar sein."

Es ist, als würde man einen quadratischen Pflock (das Bild) dazu zwingen, in ein rundes Loch (das Wortwörterbuch) zu passen, indem man den Pflock umformt, anstatt zu versuchen, ein ganz neues quadratisches Loch zu bauen.

3. Das Ergebnis: Sehen ist Verstehen

Da VISTA die Bildsignale dazu zwingt, sich mit dem Wortwörterbuch auszurichten, können wir nun „lesen", was der Roboter sieht, indem wir die Wörter verwenden, die er bereits kennt.

Die „Neuronpedia"-Verbindung: Der Artikel verwendet eine öffentliche Datenbank namens Neuronpedia, die wie ein Legende für das Gehirn des Roboters fungiert. Sie sagt uns, dass ein bestimmtes Signal „Katze" oder „Keks" bedeutet.
Der Durchbruch: Mit VISTA leuchtet, wenn der Roboter ein Bild einer Katze betrachtet, das Signal, das es an das Gehirn sendet, genau dasselbe „Katze"-Konzept im Wörterbuch auf, als hätte jemand gerade das Wort „Katze" getippt. Dies geschieht, ohne dass etwas neu gekennzeichnet werden muss oder ein neues Wörterbuch trainiert werden muss.

4. Die Kamera ist entscheidend: DINOv2 vs. CLIP

Der Artikel testete auch verschiedene „Kameras" (Vision Encoder), um zu sehen, welche am besten mit diesem Übersetzer funktioniert.

CLIP (Der globale Denker): Stellen Sie sich eine Kamera vor, die ein ganzes Bild betrachtet und sagt: „Das ist eine Szene mit einer Katze." Sie ist gut im Großen und Ganzen, aber schlecht in Details. Wenn Sie sie bitten, genau zu zeigen, wo die Katze ist, könnte sie verwirrt sein und auf den Hintergrund zeigen.
DINOv2 (Der lokale Detektiv): Diese Kamera ist wie ein Detektiv, der kleine Ausschnitte des Bildes betrachtet. Sie weiß genau, welches winzige Pixelquadrat das Katzenohr enthält und welches den Schwanz.
Die Erkenntnis: VISTA funktioniert am besten mit DINOv2. Da DINOv2 die Position von Objekten präzise beibehält, kann VISTA eine „Chirurgie" an der Vision des Roboters durchführen.

5. Der magische Trick: Visuelle Steuerung

Da die Bildsignale nun perfekt mit dem Wortwörterbuch ausgerichtet sind, können die Forscher eine „visuelle Steuerung" durchführen. Dies ist wie das Bearbeiten der Wahrnehmung der Realität des Roboters mit Mathematik.

Das Experiment: Sie nahmen ein Bild eines „Mädchens, das einen Schokoladenkeks isst".
Die Aktion: Sie fanden die spezifischen Signale für „Schokolade" und subtrahierten sie oder fügten Signale für „Brot" hinzu.
Das Ergebnis: Die Beschreibung des Roboters änderte sich von „isst einen Schokoladenkeks" zu „isst ein Sandwich" oder „isst Brot", aber nur für diesen spezifischen Teil des Bildes. Der Rest der Szene (das Mädchen, der Stuhl) blieb genau gleich.

Ohne VISTA (und speziell mit der DINOv2-Kamera) würde der Roboter entweder versagen, das Objekt zu ändern, oder er würde anfangen, seltsame Dinge zu halluzinieren (wie eine Person, die aus dem Nichts erscheint), weil er nicht genau bestimmen konnte, wo er die Änderung vornehmen muss.

Zusammenfassung

Kurz gesagt zeigt dieser Artikel, dass wir einem Roboter keine neue Sprache beibringen müssen, um seine Vision zu verstehen. Stattdessen können wir seine „Augen" dazu bringen, dieselbe Sprache wie sein „Gehirn" zu sprechen. Indem wir eine bestimmte Art von Kamera (DINOv2) und einen cleveren Trainingstrick verwenden, können wir die Vision des Roboters so klar und präzise machen, dass wir nicht nur verstehen können, was er sieht, sondern auch seine Wahrnehmung spezifischer Objekte in einem Bild bearbeiten können, während wir die restliche Welt intakt lassen.

Technische Zusammenfassung: Transfer von Interpretierbarkeit von Sprache zu Vision durch Sparse Autoencoder

1. Problemstellung

Die Interpretierbarkeit von Large Multimodal Models (LMMs) bleibt eine erhebliche Herausforderung. Während Sparse Autoencoder (SAEs) polysemantische Sprachmerkmale erfolgreich in monosemantische, interpretierbare Konzepte innerhalb von Large Language Models (LLMs) zerlegt haben, wird die Übertragung dieses Erfolgs auf den visuellen Bereich durch zwei Hauptbeschränkungen behindert:

Mehrdeutigkeit der Beschriftung: Das Training domänenspezifischer SAEs auf visuellen Encodern erzeugt monosemantische visuelle Merkmale, doch die Beschriftung dieser Merkmale ist schwierig. Die Unterscheidung, ob ein Merkmal ein spezifisches Objekt, eine Rasse oder eine Aktion darstellt, ist mehrdeutig. Darüber hinaus zeigen vision-only SAEs nicht auf, wie visuelle Merkmale interpretiert werden, sobald sie in den residualen Stream des LLMs eintreten.
Rechenkosten: Das Fine-Tuning bestehender, auf LLMs basierender SAEs zur Einbeziehung visueller Informationen ist prohibitiv teuer. Beispielsweise erfordert die Anpassung eines Modells wie Gemma Scope massive Rechenressourcen und umfangreiche Neubeschriftungsbemühungen (z. B. Hunderttausende von LLM-Anfragen), um verschobene latente Räume zu berücksichtigen.

Die zentrale Frage lautet: Können sprachbasierte Sparse Autoencoder wiederverwendet werden, um visuelle Konzepte zu interpretieren, ohne neue, vision-spezifische SAEs zu trainieren?

2. Methodik: VISTA-Framework

Die Autoren schlagen VISTA (Visual Interpretability via SAE Transfer Alignment) vor, ein Framework, das darauf ausgelegt ist, Interpretierbarkeit von Sprache zu Vision innerhalb eines LLaVA-artigen Vision-Language-Modells zu übertragen. Die Kerninnovation besteht darin, den visuellen Projektor so zu beschränken, dass er visuelle Token direkt in den bereits vorhandenen, beschrifteten textuellen SAE-Raum des LLMs abbildet.

Architektur und Trainingsziel

Aufbau: Das Framework verwendet einen eingefrorenen visuellen Encoder (z. B. DINOv2, CLIP) und einen eingefrorenen LLM. Ein trainierbarer linearer Projektor ( $P_\theta$ ) bildet visuelle Token ( $v$ ) in den Embedding-Raum des LLMs ( $e_v$ ) ab.
Verlustfunktion: Im Gegensatz zum Standard-Training, das nur den Cross-Entropy-Verlust ( $L_{CE}$ $L_{C E}$ ) auf dem Zieltext minimiert, führt VISTA einen zusätzlichen SAE-Rekonstruktionsverlust ( $L_{SAE}$ $L_{S A E}$ ) ein.
- Ein vortrainierter SAE, der ausschließlich mit Textdaten auf dem residualen Stream des LLMs trainiert wurde, dient als Beschränkung.
- Der Verlust minimiert den mittleren quadratischen Fehler zwischen den projizierten visuellen Token und ihrer Rekonstruktion durch den textuellen SAE: $L_{SAE} = \frac{1}{|M|} \sum_{l \in M} ||SAE_l(e^l_v) - e^l_v||^2_2$ .
- Das Gesamtziel ist $L_{total} = L_{CE} + L_{SAE}$ .
Mechanismus: Dies zwingt visuelle Token, auf der durch die textuellen SAEs definierten Mannigfaltigkeit zu liegen. Folglich können visuelle Eingaben über vorbeschriftete linguistische SAE-Konzepte interpretiert werden, mit vernachlässigbaren zusätzlichen Rechenkosten, wodurch die Notwendigkeit eines trainingsbasierten vision-spezifischen SAE-Trainings umgangen wird.

Feingranulare Steuerung

Sobald die Ausrichtung erfolgt ist, wird die visuelle Manipulation zu einer arithmetischen Operation innerhalb der linguistischen Mannigfaltigkeit. Das Framework ermöglicht eine lokalisierte Steuerung, indem Decoder-Richtungen (Konzepte) des textuellen SAEs zu bestimmten visuellen Token-Positionen ( $v_{source}$ ) addiert oder subtrahiert werden:

Entfernung: $v_{steered} = v_{source} - \beta \cdot v_{remove}$
Ersetzung: $v_{steered} = v_{source} + \alpha \cdot v_{add}$
Dies ermöglicht das Entfernen oder Ersetzen spezifischer Objekte in der Wahrnehmung des Modells, während der umgebende Szenenkontext erhalten bleibt.

3. Hauptbeiträge

Transfer von Interpretierbarkeit: Die Einführung eines Trainingsziels, das visuelle Token mit LLM-SAE-Merkmalen ausrichtet und damit einen modalitätsübergreifenden Transfer der Interpretierbarkeit ermöglicht, ohne die Rechenlast des Trainings oder der Beschriftung vision-spezifischer SAEs.
Encoder-Analyse: Ein rigoroser Vergleich visueller Encodern, der durch VISTA ermöglicht wird und zeigt, dass DINOv2 eine überlegene und architekturstabile räumliche Lokalisierung erreicht. Im Gegensatz zu kontrastiven Modellen wie CLIP, die globale Zusammenfassungen priorisieren und unter räumlicher Verwirrung leiden, bewahrt das selbstüberwachte lokal-zu-global-Ziel von DINOv2 die feingranularen lokalen Informationen, die für die Genauigkeit auf Patch-Ebene erforderlich sind.
Kausale Validierung: Der Nachweis, dass arithmetische Interventionen an visuellen Token unter Verwendung von text-SAE-Richtungen kohärente, lokalisierte Änderungen im Modellausgang bewirken. Dies liefert kausale Belege dafür, dass visuelle Token die textuelle SAE-Mannigfaltigkeit bewohnen.

4. Ergebnisse und Erkenntnisse

Ausrichtung und Übereinstimmungsrate

Übereinstimmungsrate: VISTA-Beschränkungen führen zu einer Verdreifachung der Übereinstimmungsrate (die Genauigkeit, mit der aktivierende textuelle Konzepte semantischen Elementen im Bild entsprechen) im Vergleich zu Baselines ohne Beschränkungen.
Verzögerte Ausrichtung: Die Arbeit hinterfragt das Konzept der „verzögerten Ausrichtung" (bei der visuelle Token nur in tieferen Schichten natürlich mit Textmerkmalen ausgerichtet sind). Während dieses Phänomen bei Gemma-Modellen ohne Beschränkungen beobachtet wurde, tritt es nicht universell auf (z. B. bei LLaMA-3.1-8B). VISTA-Beschränkungen erzwingen eine sofortige Ausrichtung über alle Architekturen und Schichten hinweg.
Rekonstruktion und Sparsamkeit: Mit SAE-Beschränkungen erreichen visuelle Token eine sofortige Konvergenz bei Rekonstruktionsfehler und Sparsamkeit und entsprechen der Verteilung von Text-Token ab der ersten Schicht, während unbeschränkte Token oft im gesamten Netzwerk dicht und mit hohem Fehler bleiben.

Räumliche Lokalisierung

DINOv2 vs. CLIP: DINOv2 zeigt eine Genauigkeit der räumlichen Lokalisierung (SLA) von 0,927 (mit Gemma-2-2B) und übertrifft CLIP (0,201) und I-JEPA (0,702) signifikant.
CLIP-Beschränkungen: CLIP-Aktivierungen zeigen räumliche Verwirrung und aktivieren oft Konzepte weit entfernt vom relevanten Objekt, was eine feingranulare Steuerung instabil macht.
Robustheit: DINOv2 behält über verschiedene LLM-Backbones (Gemma-2-2B, Gemma-2-9B, LLaMA-3.1-8B) hinweg eine hohe Lokalisierungsgenauigkeit bei, während die Leistung von CLIP stark variiert und niedriger bleibt.

Steuerungsleistung

Quantitative Gewinne: Unter Ausnutzung der Präzision von DINOv2 erzielt VISTA eine Verbesserung von 35 % bei Aufgaben zur Objektentfernung und eine Verbesserung von 47 % bei Aufgaben zum Objektersatz im Vergleich zu den besten vision-only-Baselines (VisionSAE und PatchSAE).
Qualitative Ergebnisse: Die Steuerung mit DINOv2 ermöglicht präzise Modifikationen (z. B. Änderung eines „laufenden Hundes" in eine „laufende Katze" oder Entfernen einer Katze von einem Sofa), während der globale Szenenkontext erhalten bleibt. Im Gegensatz dazu führt die CLIP-basierte Steuerung oft zu Halluzinationen oder Änderungen des globalen Kontexts.
Kausale Belege: Kontrollierte Vergleiche bestätigen, dass VISTA die Wahrnehmung des Modells spezifischer visueller Patches modifiziert und nicht den Sprachgenerierungspfad kapert. Text-only-Steuerung oder Prompt-Steuerung scheitern daran, die Szenenkohärenz zu bewahren.

Leistungsbeeinflussung

Kleine Modelle: Bei kleineren Modellen (z. B. Gemma-2-2B) führen SAE-Beschränkungen zu einer marginalen Genauigkeitsregression bei einigen Benchmarks, wahrscheinlich aufgrund begrenzter Darstellungskapazität.
Große Modelle: Bei größeren Architekturen (z. B. LLaMA-3.1-8B) wirken SAE-Beschränkungen als vorteilhafter Regularizer und verbessern die Leistung bei der Mehrheit der Benchmarks.
OOD-Robustheit: Die Ausrichtung von VISTA generalisiert auf Out-of-Distribution (OOD)-Daten (DomainNet) und behält konsistente Rekonstruktion, Sparsamkeit und Übereinstimmungsraten bei, was darauf hindeutet, dass die Ausrichtung eine strukturelle Eigenschaft und kein Artefakt des Trainingsdatensatzes ist.

5. Bedeutung und Behauptungen

Die Arbeit behauptet, dass Interpretierbarkeit eine übertragbare Eigenschaft über Modalitäten hinweg ist. Durch die Erzwingung von SAE-Beschränkungen während der Ausrichtung visueller Encodern an LLMs bildet VISTA visuelle Token in einen bereits vorhandenen, beschrifteten linguistischen Merkmalsraum ab. Dies eliminiert die Notwendigkeit der mit dem Training vision-spezifischer SAEs verbundenen Rechen- und Beschriftungskosten.

Die Autoren betonen, dass der Erfolg der lokalisierten Interpretierbarkeit und Steuerung intrinsisch mit der räumlichen Genauigkeit des visuellen Backbones verknüpft ist. Sie zeigen, dass das lokale Ziel von DINOv2 die notwendige Präzision für diesen Transfer liefert und kontrastive Modelle wie CLIP signifikant übertrifft. Dieses Paradigma des „Interpretierbarkeits-Transfers" bietet einen skalierbaren Weg zum Verständnis und zur Kontrolle komplexer multimodaler Systeme und ermöglicht feingranulare kausale Interventionen und die Analyse von Merkmalskreisen ohne die prohibitiven Kosten des Neutrainierens fundamentaler Modelle.

Die Arbeit wurde über mehrere LLM-Architekturen (Gemma, LLaMA) und visuelle Encoder (CLIP, DINOv2, I-JEPA) validiert, wobei der Code zur Verfügung gestellt wurde, um weitere Forschung zur mechanistischen Interpretierbarkeit in multimodalen Systemen zu unterstützen.