💬 NLP

The Mechanistic Emergence of Symbol Grounding in Language Models

Dieses Paper führt ein kontrolliertes Evaluierungsframework ein, das demonstriert, dass die Symbolverankerung (Symbol Grounding) in den mittleren Schichten skaliert trainierter multimodaler Sprachmodelle durch einen Aggregationsmechanismus entsteht, bei dem Attention-Heads Umwelteingaben mit linguistischen Vorhersagen verknüpfen – ein Phänomen, das in Transformern und State-Space-Modellen beobachtet wurde, jedoch nicht in unidirektionalen LSTMs.

Ursprüngliche Autoren: Shuyu Wu, Ziqiao Ma, Xiaoxi Luo, Yidong Huang, Josue Torres-Fonseca, Freda Shi, Joyce Chai

Veröffentlicht 2026-06-04

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Shuyu Wu, Ziqiao Ma, Xiaoxi Luo, Yidong Huang, Josue Torres-Fonseca, Freda Shi, Joyce Chai

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die große Frage: Wie bekommen Wörter ihre Bedeutung?

Stellen Sie sich einen Roboter vor, der jedes Buch der Welt gelesen hat, aber noch nie einen echten Apfel gesehen, seine Schale gefühlt oder seine Süße geschmeckt hat. Für diesen Roboter ist das Wort „Apfel“ nur ein Muster aus Buchstaben, wie ein Geheimcode. Er weiß, dass „Apfel“ oft in der Nähe von „rot“ oder „Kuchen“ vorkommt, aber er weiß nicht wirklich, was ein Apfel ist.

Dieses Problem wird als Symbolverankerung (Symbol Grounding) bezeichnet. Es stellt die Frage: Wie verbinden sich abstrakte Symbole (Wörter) mit realen Erfahrungen in der Welt?

Lange Zeit glaubten Wissenschaftler, man müsse dem Computer diese Verbindung explizit beibringen (indem man ihm zum Beispiel jedes Mal ein Bild eines Apfels zeigt, wenn er das Wort ausspricht). Aber neuere, große KI-Modelle scheinen dies von selbst zu verstehen, allein dadurch, dass sie das nächste Wort in einem Satz vorhersagen.

Die große Frage, die dieses Paper stellt: Wie findet die KI das heraus? Wo genau in der „Gehirnstruktur“ des Roboters findet dieser „Aha!“-Moment statt?

Das Experiment: Ein kontrollierter Spielplatz

Um die Antwort zu finden, schauten die Forscher nicht einfach auf eine riesige, komplexe KI. Stattdessen bauten sie einen winzigen, kontrollierten Spielplatz (ein „Testbed“), um den Lernprozess in Zeitlupe beobachten zu können.

Der Aufbau:
Stellen Sie sich ein Bilderbuch vor, in dem jedes Objekt zweimal beschrieben wird:

Das Umwelt-Token (Die „Szene“): Eine Beschreibung der Szene, wie zum Beispiel: „Da steht ein Karton auf dem Boden.“
Das linguistische Token (Die „Sprache“): Ein Kind, das spricht, wie zum Beispiel: „Ich sehe einen Karton.“

Entscheidend war, dass die Forscher sicherstellten, dass der Computer das Wort „Karton“ in der Szene und das Wort „Karton“ in der Sprache als völlig unterschiedliche, unzusammenhängende Codes behandelt. Die KI hatte keine andere Wahl, als zu lernen, dass diese zwei verschiedenen Codes tatsächlich dasselbe bedeuten.

Der Test:
Sie baten die KI, vorherzusagen, welches Wort das Kind als Nächstes sagen würde.

Szenario A (Übereinstimmung): Die Szenenbeschreibung erwähnte einen „Karton“. Die KI konnte „Karton“ problemlos vorhersagen.
Szenario B (Abweichung): Die Szenenbeschreibung erwähnte stattdessen ein „Spielzeug“. Die KI hatte Schwierigkeiten, „Karton“ vorherzusagen.

Das Ergebnis:
Die KI wurde viel besser darin, das Wort vorherzusagen, wenn die „Szene“ mit der „Sprache“ übereinstimmte. Dies bewies, dass die KI gelernt hatte, das Wort zu verankern (die Sprache mit der Szene zu verbinden), ohne dass dies explizit gelehrt wurde.

Die Entdeckung: Der „Mittlere Manager“ des Gehirns

Sob-weiß die Forscher, dass die KI es kann, wollten sie auch wissen, wie. Sie schauten in das „Gehirn“ der KI (ihre neuronalen Netzwerkschichten), um zu sehen, welche Teile hart arbeiteten.

Sie fanden heraus, dass die Magie nicht ganz am Anfang (dem Input) oder ganz am Ende (dem Output) geschah. Sie geschah in den mittleren Schichten.

Die Analogie: Die Bibliothek und der Bibliothekar
Stellen Sie sich die Schichten der KI wie ein Bibliothekssystem vor:

Frühe Schichten: Das sind wie die Regale, in denen Bücher (Informationen) einfach nur gestapelt werden. Sie halten die Rohdaten bereit.
Mittlere Schichten: Das sind die Bibliothekare.
Späte Schichten: Das sind die Leute, die den fertigen Bericht schreiben.

Die Forscher fanden heraus, dass bestimmte „Bibliothekare“ (genannt Attention Heads) in den mittleren Schichten eine besondere Aufgabe übernahmen. Sie fungierten wie ein Magnet.

Sammeln: Einige Bibliothekare schnappten sich die „Umwelt“-Informationen (die Szenenbeschreibung) und führten sie zusammen.
Aggregieren: Andere Bibliothekare nahmen diese gesammelten Informationen und drückten sie nach vorne, um bei der Vorhersage des „sprachlichen“ Wortes zu helfen.

Sie nennen dies den „Aggregationsmechanismus“. Es ist wie ein Team von Arbeitern, bei dem eine Gruppe die Rohmaterialien aus dem Lager holt und eine andere Gruppe diese Materialien sofort nutzt, um das fertige Produkt herzustellen.

Die Wendung: Nicht alle Gehirne sind gleich gebaut

Die Forscher testeten verschiedene Arten von KI-Architekturen, um zu sehen, ob diese „Verankerung“ ein universelles Merkmal oder spezifisch für bestimmte Designs war.

Transformer (Der aktuelle Standard, wie GPT): Ja! Sie besitzen die mittleren Schicht-Bibliothekare, die die Szene erfolgreich mit dem Wort verbinden.
Mamba-2 (Ein neueres, effizientes Design): Ja! Auch sie besitzen diese Fähigkeit zur Verankerung.
LSTMs (Ältere Technologie): Nein. Diese Modelle scheiterten daran, die Szene mit dem Wort zu verbinden.

Warum? Das Paper legt nahe, dass ältere Modelle (LSTMs) wie ein Förderband sind, das sich immer nur einen Schritt nach vorne bewegt. Sie können nicht leicht „zurückgreifen“, um ein Stück Information aus der Szene zu packen und zum aktuellen Wort zu bringen. Die neueren Modelle (Transformer) sind wie ein Netz, in dem jeder Teil sofort mit jedem anderen Teil kommunizieren kann, was es ihnen ermöglicht, „zurückzugreifen“ und den Kontext zu greifen, den sie benötigen.

Das Fazit

Dieses Paper beweist, dass eine moderne KI, wenn man sie mit genügend Daten trainiert, ganz natürlich einen Mechanismus entwickelt, um Wörter mit ihrem realen Kontext zu verknüpfen. Sie braucht keinen Lehrer, der sagt: „Dieses Wort bedeutet dieses Bild.“

Stattdessen baut die KI ihr eigenes internes „Ablagesystem“ in der Mitte ihres Gehirns auf. Spezielle Teile des Netzwerks lernen, als Brücken zu fungieren, die Umweltreize abrufen und sie nutzen, um Sprache sinnvoll zu interpretieren. Dies geschieht automatisch, solange die Architektur der KI flexibel genug ist, damit diese Teile miteinander kommunizieren können.

Kurz gesagt: Die KI hat gelernt, ihre Symbole zu „verankern“, indem sie ein spezialisiertes Team von Arbeitern in den mittleren Schichten aufbaute, die wissen, wie man den richtigen Kontext abholt und an das richtige Wort liefert.

Technisches Resümee: Die mechanistische Emergenz der Symbolverankerung in Sprachmodellen

Problemstellung

Die Symbolverankerung (Symbol Grounding), ursprünglich von Harnad (1900) definiert, befasst sich mit der Frage, wie abstrakte Symbole (z. B. Wörter) Bedeutung erlangen, indem sie eine Verbindung zu realweltlichen sensorimotorischen Erfahrungen herstellen. Während jüngste groß angelegte visuelle Sprachmodelle (VLMs) und autoregressive Sprachmodelle (LMs) vorläufige Hinweise darauf geliefert haben, dass Verankerung ohne explizite Überwachung entstehen kann, bleiben die spezifischen Orte und Mechanismen, die diese Emergenz antreiben, unerforscht. Vorherige Arbeiten stützten sich weitgehend auf korrelative Evidenz (z. B. Attention-Überlappungen oder geometrische Ausrichtungen) und konzentrierten sich auf statische Endstadien-Modelle, wobei sie den Trainingsverlauf und die kausalen internen Mechanismen, die Umweltkontexte mit linguistischen Formen verknüpfen, vernachlässigten.

Methodik

Um diese Lücken zu schließen, führen die Autoren ein kontrolliertes Evaluierungsframework ein, das die Entstehung der Symbolverankerung durch mechanistische und kausale Analysen nachverfolgt.

1. Kontrollierte Testumgebungen und Tokenisierung

Die Studie konstruiert minimale Testumgebungen, in denen jedes lexikalische Item durch zwei distinkte, nicht überlappende Token repräsentiert wird:

Umwelt-Token ( $\langle ENV \rangle$ ): Erscheinen in nicht-verbalen Szenenbeschreibungen (z. B. „Box“ in einer Szenenbeschreibung) oder visuellen Eingaben (Bild-Patches).
Linguistische Token ( $\langle LAN \rangle$ ): Erscheinen in gesprochenen oder geschriebenen Äußerungen (z. B. „Box“ in einem Dialog).
Ein benutzerdefinierter Tokenizer stellt sicher, dass diese Formen über separate Vokabular-Indizes verfügen, um zu verhindern, dass die Verankerung trivial über die Identität der geteilten Token gelöst wird. Das Framework nutzt:
Kindgerechte Sprache (CHILDES): Verwendung von Umwelt-Annotationen (lokale Ereignisse, Handlungen, situative Ebenen) als $\langle ENV \rangle$ und Äußerungen als $\langle LAN \rangle$ .
Bildgestützter Dialog (Visual Dialog): Verwendung von gefrorenen ViT-Embeddings (DINOv2) als $\langle ENV \rangle$ und Dialogrunden als $\langle LAN \rangle$ .
Caption-gestützter Dialog: Ein intermediäres Setup unter Verwendung von Bildunterschriften als $\langle ENV \rangle$ .

2. Evaluierungsprotokoll

Verankerung wird mittels Surprisal (Überraschungswert) und Grounding Information Gain ( $G_\theta$ ) quantifiziert. Die Autoren vergleichen zwei Bedingungen:

Match (Übereinstimmung): Der Kontext enthält das $\langle ENV \rangle$ -Token, das dem Ziel- $\langle LAN \rangle$ -Token entspricht.
Mismatch (Nicht-Übereinstimmung): Der Kontext enthält ein anderes, unzusammenhängendes $\langle ENV \rangle$ -Token.
Ein positiver $G_\theta$ zeigt an, dass das passende Umwelt-Token die Vorhersagbarkeit seines linguistischen Gegenstücks signifikant erhöht, über das hinaus, was einfache Ko-Okkurenz-Statistiken vorhersagen würden.

3. Modellarchitekturen und Training

Die Modelle werden von einer zufälligen Initialisierung aus mit Standard-Causal-Language-Modeling-Zielen trainiert. Die Studie evaluiert:

Transformer: Varianten mit 4, 12 und 18 Schichten.
State-Space Models (SSMs): Mamba-2 (4 und 12 Schichten).
LSTMs: 4-schichtige unirektionale LSTMs (dienen als Baseline für sequentielle Kompression ohne inhaltsadressierbare Abfrage).
Experimente werden mit 5 zufälligen Seeds wiederholt, um Robustheit zu gewährleisten.

4. Mechanistische Analyse

Um zu erklären, wie Verankerung entsteht, verwenden die Autoren:

Saliency-Analyse: Quantifizierung des Beitrags von Attention-Gewichten zum Loss, insbesondere die Verfolgung der Flüsse von $\langle ENV \rangle$ zum Token, der dem $\langle LAN \rangle$ -Token vorausgeht.
Tuned Lens: Sondierung der intermediären Hidden States, um Repräsentationsverschiebungen über die Schichten hinweg zu bewerten.
Kausale Interventionen: Nullsetzen spezifischer Attention-Heads, die als „Gather“- oder „Aggregate“-Heads identifiziert wurden, um deren Einfluss auf den Surprisal zu messen.

Kernergebnisse

1. Behaviorale Emergenz von Verankerung

Architektonische Abhängigkeit: Transformer- und Mamba-2-Modelle zeigen konsistent eine Reduktion des Surprisals für $\langle LAN \rangle$ -Token, wenn $\langle ENV \rangle$ -Token im Kontext präsent sind. Im Gegensatz dazu zeigen unirektionale LSTMs keine signifikante Trennung zwischen Match- und Mismatch-Bedingungen und versagen somit bei der Ausbildung von Verankerung.
Jenseits von Ko-Okkurenz: Während in der frühen Trainingsphase eine Korrelation zwischen Grounding-Gain und Token-Ko-Okkurenz ( $R^2$ ) besteht, nimmt diese Korrelation im weiteren Trainingsverlauf ab. Der Grounding Information Gain steigt selbst dann weiter an, wenn $R^2$ sinkt, was darauf hindeutet, dass die Modelle reichere, nicht-statistische Abbildungen lernen statt bloßer Memorierung.
Generalisierung: Diese Trends halten über Modalitäten hinweg (Text-only CHILDES, bildgestützter Dialog und Caption-gestützter Dialog) und Architekturen (Transformer und SSMs) stand.

2. Mechanistischer Ort: Der Aggregationsmechanismus

Schichtkonzentration: Die Saliency-Analyse zeigt, dass Verankerungsrelationen in den mittleren Schichten konzentriert sind (speziell Schichten 7–9 in 12-Schicht-Transformern). Frühe Schichten bleiben selbst in späten Trainingsstadien schlechte Prädiktoren.
Gather-and-Aggregate Heads: Die Studie identifiziert einen spezifischen Mechanismus, bei dem:
- Gather Heads: In flachen Schichten (3–4) lokalisiert, komprimieren sie kontextuelle Informationen aus $\langle ENV \rangle$ -Token in abrufbare Zustände.
- Aggregate Heads: In mittleren Schichten (7–8) lokalisiert, redistribuieren sie diese Informationen an das Token unmittelbar vor der $\langle LAN \rangle$ -Form und unterstützen so direkt die Vorhersage.
Kausale Validierung: Das Nullsetzen von Aggregate Heads verursacht einen signifikanten Anstieg des Surprisals ( $p < 0.001$ ), während das Nullsetzen von Gather Heads oder zufälligen Kontroll-Heads vernachlässigbare Auswirkungen hat. Dies bestätigt, dass Aggregate Heads die primären mechanistischen Treiber der Symbolverankerung sind.

3. Skalierung und Realwelt-Modelle

In voll skalierten VLMs (z. B. LLaVA-1.5-7B) werden Attention-Heads identifiziert, die ein ähnliches Aggregationsverhalten aufweisen, was die Hypothese verstärkt, dass Verankerung aus spezialisierten Heads selbst in komplexen, vortrainierten Systemen entsteht.

Signifikanz und Ansprüche

Das Paper behauptet, den ersten kausalen und mechanistischen Beweis dafür zu liefern, dass Symbolverankerung in autoregressiven multimodalen Sprachmodellen, die ausschließlich mit Next-Token-Prediction-Zielen trainiert wurden, entstehen kann.

Mechanistische Definition von Verankerung: Die Arbeit definiert Verankerung nicht bloß als statistische Korrelation zwischen visuellen und textuellen Signalen, sondern als eine mechanistische Eigenschaft, die durch Trainingsdynamiken nachverfolgbar ist und auf spezifische Attention-Mechanismen (Aggregate Heads) lokalisiert werden kann.
Architektonische Grenzen: Sie zeichnet die notwendigen architektonischen Bedingungen für die Entstehung von Verankerung nach und stellt fest, dass Architekturen, denen inhaltsadressierbare Abfragen fehlen (wie Standard-LSTMs), diese Fähigkeit nicht entwickeln können.
Praktische Implikationen: Die Identifizierung von Aggregate Heads bietet einen potenziellen Weg zur Diagnose und Kontrolle der Modellzuverlässigkeit. Da Halluzinationen oft aus Fehlallokationen der Attention in intermediären Schichten resultieren, könnte die Überwachung dieser spezifischen Heads als früher Indikator für „falsche Verankerung“ oder Übervertrauen dienen und Strategien zur Dekodierung zur Minderung von Halluzinationen informieren.

Die Autoren kommen zu dem Schluss, dass, obwohl ihre minimalen Testumgebungen ein kontrolliertes Proxy darstellen, die Ergebnisse auf realistische multimodale Settings generalisieren, was darauf hindeutet, dass die Fähigkeit zur Symbolbindung und -verankerung eine inhärente emergente Eigenschaft hinreichend expressiver autoregressiver Architekturen ist.