💻 computer science

Mixing Mechanisms: How Language Models Retrieve Bound Entities In-Context

Diese Arbeit zeigt, dass Sprachmodelle zwar zunächst auf einen positionsbasierten Mechanismus angewiesen sind, um gebundene Entitäten im Kontext abzurufen, dass dieser Ansatz jedoch mit zunehmender Kontextkomplexität unzuverlässig wird, was die Modelle dazu veranlasst, ihn durch lexikalische und reflexive Mechanismen zu ergänzen, um ein robustes, kausales Modell zu bilden, das das Verhalten über diverse und längere Eingaben hinweg genau vorhersagt.

Ursprüngliche Autoren: Yoav Gur-Arieh, Mor Geva, Atticus Geiger

Veröffentlicht 2026-05-29

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yoav Gur-Arieh, Mor Geva, Atticus Geiger

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Das „Lost in the Middle"-Problem

Stellen Sie sich vor, Sie lesen eine Geschichte, in der ein Charakter eine lange Liste von Freunden und ihren Lieblingsessen vorstellt:

Ann liebt Kuchen.
Joe liebt Marmelade.
Pete liebt Tee.
Tim liebt Bier.
...und so weiter, für 20 verschiedene Personen.

Dann fragt die Geschichte: „Wer liebt Bier?"

Wenn Sie ein Mensch sind, scannen Sie die Liste. Wenn Sie eine KI (Sprachmodell) sind, müssen Sie herausfinden, wie Sie die Antwort in Ihrem Gedächtnis dieser Geschichte finden.

Lange Zeit glaubten Forscher, dass KI dies löste, indem sie einfach Positionen zählte. Sie würde denken: „Die Frage betrifft die 4. erwähnte Person, also schaue ich mir den 4. Namen an." Das ist wie ein Bibliothekar, der Bücher nur nach ihrem Regalnummer kennt.

Dieses Paper sagt, dass dieser Bibliothekar falsch liegt. Die KI nutzt nicht nur Regalnummern. Tatsächlich wird die Methode der „Regalnummer" verwirrt, wenn die Liste lang wird, besonders bei Personen in der Mitte der Liste. Um dies zu beheben, nutzt die KI tatsächlich drei verschiedene Tricks gleichzeitig, um die richtige Antwort zu finden.

Die drei Tricks (Mechanismen)

Die Autoren entdeckten, dass die KI drei spezifische Strategien mischt, um sich zu merken, wer was mag. Stellen Sie sich das wie einen Detektiv vor, der einen Fall mit drei verschiedenen Werkzeugen löst:

1. Der Positionale Mechanismus (Der „Regalnummer"-Trick)

Wie er funktioniert: Die KI schaut darauf, wo die Information im Text erschien. Wenn „Ann" die erste erwähnte Person war, merkt sich die KI „Erste Person".
Wann er funktioniert: Das ist großartig für die allerersten und allerletzten Elemente in einer Liste. Es ist wie das perfekte Erinnern an das erste und letzte Buch auf einem Regal.
Wann er versagt: Wenn die Liste länger wird, wird die „Mitte" des Regals verschwommen. Die KI wird verwirrt, ob „Tim" die 5. oder 6. Person ist. Das Signal wird „rauschend" und unzuverlässig.

2. Der Lexikalische Mechanismus (Der „Wortassoziation"-Trick)

Wie er funktioniert: Anstatt zu zählen, schaut die KI auf die Wörter selbst. Wenn die Frage lautet „Wer liebt Kuchen?", sucht die KI nach dem Wort „Kuchen" in ihrem Gedächtnis und holt sich den damit verbundenen Namen.
Die Analogie: Es ist wie ein Kellner, der sich nicht an Tischnummern erinnert, sondern denkt: „Oh, die Person, die den Kuchen bestellt hat, ist die mit dem roten Hut."
Wann er hilft: Das ist sehr scharf und präzise. Es rettet den Tag, wenn die „Regalnummer" in der Mitte der Liste verschwommen wird.

3. Der Reflexive Mechanismus (Der „Selbstzeiger"-Trick)

Wie er funktioniert: Dies ist der einzigartigste. Wenn die KI „Tim liebt Bier" liest, erstellt sie einen geheimen, unsichtbaren Pfeil, der vom Wort „Bier" zurück zu „Tim" zeigt. Später, wenn nach „Bier" gefragt wird, folgt sie diesem Pfeil direkt.
Die Analogie: Stellen Sie sich vor, „Bier" hat einen winzigen GPS-Tracker, der direkt auf „Tim" zeigt. Die KI muss nicht suchen; sie folgt einfach dem Tracker.
Warum er nötig ist: Manchmal kommt die Frage vor der Antwort in der Satzstruktur (z. B. „Wer liebt Bier? Tim."). Der „Wortassoziation"-Trick kann nicht leicht rückwärts funktionieren, also braucht die KI diesen direkten „Zeiger", um direkt zur Antwort zu springen.

Das „Mitte"-Problem und die Lösung

Das Paper fand ein faszinierendes Muster:

Am Anfang und Ende der Liste: Die KI verlässt sich hauptsächlich auf den Positionalen Trick (Zählen). Hier ist sie stark und zuversichtlich.
In der Mitte der Liste: Der Positionale Trick wird schwach und verschwommen (dies wird als „Lost in the Middle"-Effekt bezeichnet).
Die Lösung: In der Mitte wechselt die KI zu einer Mischung aus dem Lexikalischen (Wortassoziation) und dem Reflexiven (Zeiger) Trick. Diese sind viel schärfer und helfen der KI, das Rauschen der langen Liste zu ignorieren.

Die Autoren bewiesen dies, indem sie das Gehirn der KI „patchten". Sie nahmen das Gedächtnis der KI aus einer Geschichte und tauschten es mit dem Gedächtnis aus einer anderen Geschichte aus.

Wenn sie das Positionale Gedächtnis austauschten, riet die KI basierend auf der Reihenfolge der neuen Liste.
Wenn sie das Lexikalische Gedächtnis austauschten, riet die KI basierend auf den Wörtern der neuen Liste.
Wenn sie das Reflexive Gedächtnis austauschten, folgte die KI den neuen Pfeilen.

Dadurch zeigten sie, dass die KI nicht nur eine Methode verwendet; sie mischt ständig alle drei, um die richtige Antwort zu erhalten.

Das „Kausale Modell" (Das Rezept)

Die Forscher bauten ein einfaches mathematisches Modell, das diese drei Tricks kombiniert.

Sie fanden heraus, dass, wenn man dem Modell sagt, es solle alle drei verwenden (Positional + Lexikalisch + Reflexiv), es vorhersagen kann, was die KI als Nächstes sagen wird, mit 95% Genauigkeit.
Wenn sie versuchten, nur die alte „Positionale" Methode zu verwenden (so wie alle dachten, es funktioniere), sank die Genauigkeit auf etwa 45% – im Grunde geraten.

Funktioniert das in der realen Welt?

Das Paper testete dies nicht nur an einfachen Listen, sondern an Geschichten mit „Füller"-Text (zufällige Sätze über das Wetter oder den Verkehr), die zwischen die Fakten eingefügt wurden.

Selbst mit all diesem zusätzlichen Rauschen nutzte die KI immer noch dieselben drei Tricks.
Allerdings wurde, wenn der Text sehr lang wurde, der „Wortassoziation"- (Lexikalische) Trick etwas schwächer, und der „Regalnummer"- (Positionale) Trick wurde etwas rauschender. Dies erklärt, warum KI manchmal mit sehr langen Dokumenten kämpft – es ist nicht so, dass die KI vergisst; es ist, dass ihre drei Werkzeuge etwas weniger präzise werden, wenn die Liste wächst.

Zusammenfassung

Sprachmodelle zählen nicht einfach durch eine Geschichte. Sie verwenden ein Hybridsystem:

Zählen (Positional) für die Ränder.
Wörter abgleichen (Lexikalisch) für die Mitte.
Pfeilen folgen (Reflexiv) für direkte Verbindungen.

Indem wir diese Mischung verstehen, erhalten wir ein viel klareres Bild davon, wie KI tatsächlich denkt und Dinge in langen Gesprächen erinnert.

Technische Zusammenfassung: Mischmechanismen beim Abruf von Entitäten im Kontext

Problemstellung

Sprachmodelle (LMs) zeichnen sich durch Schlussfolgern im Kontext aus, eine Fähigkeit, die grundlegend auf der Fähigkeit beruht, verwandte Entitäten innerhalb eines Textes zu binden (z. B. „Ann" mit „Kuchen" in „Ann liebt Kuchen" zu verknüpfen) und diese anschließend basierend auf einer Abfrage abzurufen (z. B. die Frage „Wer liebt Kuchen?" zu beantworten). Während frühere Forschungen gezeigt haben, dass LMs einen positionsabhängigen Mechanismus nutzen – den Abruf von Entitäten basierend auf ihrem Index in der Kontextsequenz –, wurde diese Sichtweise weitgehend aus Studien mit kurzen Listen von Entitätsgruppen abgeleitet (z. B. $n=2$ oder $3$).

Das zentrale Problem, das in dieser Arbeit behandelt wird, ist die Zuverlässigkeit dieses positionsabhängigen Mechanismus in komplexeren, realistischeren Szenarien. Mit zunehmender Anzahl gebundener Entitätsgruppen haben LMs Schwierigkeiten beim Schlussfolgern über lange Kontexte und zeigen Phänomene wie den „Lost-in-the-Middle"-Effekt. Die Autoren untersuchen, ob sich der positionsabhängige Mechanismus auf längere Sequenzen verallgemeinert oder ob LMs alternative Strategien einsetzen, um die Abrufgenauigkeit aufrechtzuerhalten.

Methodik

Die Autoren wenden Techniken der mechanistischen Interpretierbarkeit an, speziell Interchange-Interventionen, um die interne kausale Struktur von LMs zu untersuchen.

Aufgaben-Setup: Die Studie nutzt templatische Schlussfolgerungsaufgaben im Kontext, die „Entitätsgruppen" beinhalten (Tupel von Entitäten, die spezifische Rollen erfüllen, z. B. Name + Nahrungsmittel). Das Modell wird aufgefordert, eine Zielentität basierend auf einer Abfrage-Entität innerhalb einer bestimmten Gruppe abzurufen.
Kontrafaktisches Design: Um konkurrierende Hypothesen zu unterscheiden, konstruieren die Autoren gepaarte Datensätze aus originalen und kontrafaktischen Eingaben. Diese Paare sind so gestaltet, dass drei hypothesierte Mechanismen – Positionsabhängig, Lexikalisch und Reflexiv – bei Durchführung einer Interchange-Intervention an ihren jeweiligen Zwischenvariablen unterschiedliche Ausgaben vorhersagen würden.
- Positionsabhängiger Mechanismus ( $P$ ): Ruft die Entität am Index der kontrafaktischen Abfrage-Gruppe ab.
- Lexikalischer Mechanismus ( $L$ ): Ruft die an die kontrafaktische Abfrage-Entität gebundene Entität ab (z. B. wenn sich die Abfrage von „Tim" zu „Ann" ändert, wird abgerufen, was „Ann" liebt).
- Reflexiver Mechanismus ( $R$ ): Ruft die Zielentität über einen direkten Zeiger ab, der von der Zielentität selbst ausgeht und über die Abfrage dereferenziert wird.
Interventionsprotokoll: Die Autoren führen Interchange-Interventionen im Residual-Stream des letzten Tokens an spezifischen Schichten ( $\ell$ ) durch, die als der Punkt kurz vor dem Abruf identifiziert wurden. Sie patchen den Residual-Stream-Vektor aus dem kontrafaktischen Lauf in den originalen Lauf und beobachten die resultierende Next-Token-Verteilung.
Kausale Modellierung: Es wird ein kausales Modell ( $M$ $M$ ) entwickelt, um das Verhalten des LM zu simulieren. Dieses Modell kombiniert die drei Mechanismen als gewichtete Mischung:
- Der positionsabhängige Term wird als Gauß-Verteilung modelliert, die am Abfrage-Index zentriert ist, wobei die Varianz vom Index abhängt.
- Die lexikalischen und reflexiven Terme werden als One-Hot-Verteilungen modelliert.
- Das Modell wird trainiert, um die Logit-Verteilung des LMs unter Verwendung der Jensen-Shannon-Divergenz (JSD) als Verlustmetrik vorherzusagen.
Umfang: Die Experimente umfassen neun Modelle aus drei Familien (Llama, Gemma, Qwen) mit Größen von 2B bis 72B Parametern, die an zehn verschiedenen Bindungsaufgaben evaluiert werden.

Hauptbeiträge

1. Identifizierung von drei distincten Mechanismen

Die Arbeit stellt die vorherrschende Ansicht in Frage, dass der Abruf ausschließlich positionsabhängig ist. Sie zeigt, dass LMs eine Mischung aus drei Mechanismen einsetzen:

Positionsabhängig: Wirksam für Entitäten am Anfang und Ende des Kontexts, wird jedoch für mittlere Positionen rauschbehaftet und diffus, wenn die Anzahl der Gruppen ( $n$ ) zunimmt.
Lexikalisch: Ruft das gebundene Gegenstück der Abfrage-Entität ab (z. B. „Kuchen" $\to$ „Ann"). Dieser Mechanismus liefert ein scharfes, One-Hot-Signal.
Reflexiv: Verwendet einen direkten Zeiger von der Zielentität zu sich selbst, der über die Abfrage abgerufen wird. Dies ist besonders entscheidend, wenn die Zielentität vor der Abfrage in einem Satz erscheint (z. B. „Tim liebt Tee" $\to$ „Wer liebt Tee?"), ein Szenario, bei dem das lexikalische Kopieren für autoregressive Modelle architektonisch schwierig ist.

2. Das „U-förmige" Zuverlässigkeitsmuster

Durch umfangreiche Interventions-Experimente decken die Autoren ein konsistentes Muster auf:

Erste und letzte Positionen: Der Abruf wird vom positionsabhängigen Mechanismus dominiert, der hochkonzentriert und zuverlässig ist.
Mittlere Positionen: Das positionsabhängige Signal verschlechtert sich erheblich. Um dies auszugleichen, verlassen sich LMs stark auf die lexikalischen und reflexiven Mechanismen, die schärfere Signale liefern, um die korrekte Entität zu disambiguieren.
Interaktion: Die Mechanismen zeigen eine „konkurrierende Synergie". Wenn Indizes übereinstimmen, verstärken sich die Signale; wenn sie divergieren, unterdrücken sie sich gegenseitig.

3. Kausales Modell der Next-Token-Vorhersage

Die Autoren konstruieren ein kausales Modell, das diese drei Mechanismen kombiniert. Dieses Modell erzielt eine Übereinstimmung von 95 % (gemessen durch Jensen-Shannon-Ähnlichkeit) mit den tatsächlichen Next-Token-Verteilungen der LMs über verschiedene Aufgaben und Modellgrößen hinweg. Im Gegensatz dazu erzielen Modelle, die sich ausschließlich auf den positionsabhängigen Mechanismus verlassen (die vorherrschende Ansicht), deutlich niedrigere Werte (~45 %) und schneiden in einigen Konfigurationen schlechter als eine uniforme Basislinie ab.

4. Verallgemeinerung auf naturalistische Eingaben

Die Studie validiert, dass diese Erkenntnisse auch in naturalistischeren Settings gelten, in denen Entitätsgruppen mit „Füller"-Text (offen endende Sätze) durchmischt sind. Obwohl die Hinzufügung von Füller-Tokens das Rauschen erhöht und den lexikalischen Mechanismus leicht abschwächt, bleibt die grundlegende Abhängigkeit von der Mischung der drei Mechanismen bestehen und bietet eine mechanistische Erklärung für den „Lost-in-the-Middle"-Effekt.

Ergebnisse

Verbreitung der Mechanismen: In mittleren Positionen langer Kontexte macht der positionsabhängige Mechanismus nur etwa 20 % des Modellverhaltens aus, während die lexikalischen und reflexiven Mechanismen zu den Haupttreibern des korrekten Abrufs werden.
Modell-Robustheit: Das Mischmuster ist konsistent über Modellfamilien (Llama, Gemma, Qwen) und Skalen (2B bis 72B Parameter) hinweg.
Validierung des Reflexiven: Durch spezifische kontrafaktische Designs, bei denen die kontrafaktische Antwort im originalen Kontext nicht existiert, beweisen die Autoren die Existenz eines reflexiven Zeigermechanismus, der vom Antwort-Token selbst unterscheidbar ist.
Ablationsstudien: Das Entfernen eines einzelnen Mechanismus aus dem kausalen Modell verschlechtert die Leistung erheblich, was bestätigt, dass alle drei für eine genaue Abstraktion des LM-Verhaltens notwendig sind.

Bedeutung und Behauptungen

Die Arbeit behauptet, ein vollständigeres Bild davon zu etablieren, wie LMs Entitäten im Kontext binden und abrufen. Indem sie über die vereinfachte positionsabhängige Sichtweise hinausgehen, liefern die Autoren eine mechanistische Erklärung sowohl für die Stärken (robuster Abruf durch multiple Signale) als auch für die Fragilitäten (Rauschen in mittleren Positionen, das zu „Lost-in-the-Middle"-Fehlern führt) von LLMs in Settings mit langen Kontexten.

Die Arbeit legt nahe, dass das Phänomen „Lost-in-the-Middle" nicht lediglich ein Versagen der Aufmerksamkeit ist, sondern eine spezifische Degradation des positionsabhängigen Signals, die nur teilweise durch lexikalische und reflexive Mechanismen kompensiert wird. Die Autoren veröffentlichen ihren Code und ihre Daten, um weitere Forschungen zu den kausalen Mechanismen des Schlussfolgerns im Kontext zu ermöglichen.