💻 computer science

Scale Determines Whether Language Models Organize Representation Geometry for Prediction

Dieser Beitrag stellt Subspace PGA vor, um zu zeigen, dass zwar die Repräsentationsgeometrie von Sprachmodellen für die Vorhersage organisiert ist, kleine Modelle diese Ausrichtung jedoch in späteren Schichten aufgrund eines Kapazitätstausches verlieren, der durch dominante Richtungen maskiert wird, während große Modelle sie während des gesamten Trainings bewahren.

Ursprüngliche Autoren: Weilun Xu

Veröffentlicht 2026-05-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Weilun Xu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die große Idee: Wie Sprachmodelle im Raum „denken"

Stellen Sie sich ein Sprachmodell (wie die, die Aufsätze schreiben oder mit Ihnen chatten) als eine riesige, mehrstöckige Bibliothek vor. Jedes Mal, wenn das Modell ein Wort liest, erstellt es ein „Lesezeichen" (eine Repräsentation) und legt es auf ein bestimmtes Regal in einem bestimmten Raum (einer Schicht) der Bibliothek ab.

Das Paper stellt eine einfache Frage: Wie sind diese Lesezeichen angeordnet?

Lange Zeit haben Wissenschaftler die Form der Regale betrachtet (sind sie überfüllt? sind sie leer?). Dieses Paper fragt etwas anderes: Sind die Regale so angeordnet, dass das Modell das nächste Wort vorhersagen kann?

Die Autoren entdeckten, dass die Antwort vollständig von der Größe der Bibliothek (dem Maßstab des Modells) abhängt.

Das Werkzeug: Der „Vorhersage-Kompass" (Subspace PGA)

Um diese Frage zu beantworten, entwickelten die Autoren ein neues Messwerkzeug namens Subspace PGA.

Stellen Sie sich das endgültige Ziel des Modells als eine „Zielzone" vor (die Unembedding-Matrix oder $W_U$ ). Dies ist die spezifische Richtung, in die das Modell zeigen muss, um das nächste Wort korrekt zu raten.

Der Test: Die Autoren nehmen die „Lesezeichen" aus der Mitte der Bibliothek und fragen: „Wenn wir nur die Richtungen betrachten, die auf die Zielzone zeigen, ergeben die Lesezeichen dann immer noch Sinn zueinander?"
Der Score (Z-Score):
- Hoher positiver Score: Die Lesezeichen sind perfekt organisiert. Selbst wenn Sie alle anderen Richtungen ignorieren, halten die Richtungen, die auf die Zielzone zeigen, die Karte zusammen. Die Bibliothek ist auf Vorhersage organisiert.
- Null oder negativer Score: Die Lesezeichen sind verstreut. Die Richtungen, die auf die Zielzone zeigen, sind genauso zufällig wie jede andere Richtung. Die Bibliothek hat ihre Organisation für Vorhersage verloren.

Die Entdeckung: Größe zählt

Die Forscher testeten Bibliotheken unterschiedlicher Größen (von winzigen Modellen mit 70 Millionen Parametern bis hin zu riesigen Modellen mit 6,9 Milliarden Parametern). Sie fanden zwei sehr unterschiedliche Verhaltensweisen:

1. Die großen Bibliotheken (Große Modelle)

Die „Direkte Route"
In großen Modellen (wie Pythia-1B und größer) ist die Organisation vom untersten bis zum obersten Stockwerk konsistent.

Analogie: Stellen Sie sich ein riesiges Autobahnnetz vor. Egal, welche Ausfahrt Sie nehmen, die Wegweiser sind immer klar und zeigen direkt zum Ziel. Die Richtungen der „Zielzone" sind immer die wichtigsten.
Ergebnis: Die Geometrie bleibt durchgehend für Vorhersagen organisiert.

2. Die kleinen Bibliotheken (Kleine Modelle)

Die „Umleitung"
In kleineren Modellen (wie Pythia-410M und kleiner) passiert etwas Seltsames in der Nähe der oberen Stockwerke (den späteren Schichten).

Analogie: Stellen Sie sich eine kleine, überfüllte Stadt vor. Je näher Sie an die Ausfahrt kommen, desto mehr wird die Hauptstraße von einem riesigen, langsam fahrenden Lastwagen blockiert (einer „dominanten Richtung" der Varianz). Dieser Lastwagen fährt nicht zur Zielzone; er fährt woanders hin.
Das Problem: Da die Stadt klein ist, gibt es nicht genug Platz sowohl für die „Zielzone-Straße" als auch für die „Lastwagen-Straße". Der Lastwagen übernimmt die ganze Straße. Die Schilder, die zur Zielzone zeigen, werden zur Seite gedrängt und unsichtbar.
Die Wendung: Kurz vor der allerletzten Ausfahrt (der letzten Schicht) räumt das Modell plötzlich den Lastwagen weg und stellt die Schilder wieder auf. Die endgültige Antwort ist immer noch korrekt, aber die Reise dorthin war eine Umleitung.

Wichtige Erkenntnisse in einfacher Sprache

1. Der „Maskierungs"-Effekt
Das Paper argumentiert, dass die kleinen Modelle nicht vergessen, wie man vorhersagt. Die Information ist noch da, aber sie wird von dieser einen riesigen „Lastwagen"-Richtung maskiert (versteckt).

Beweis: Wenn Sie künstlich diese eine dominante Richtung (den Lastwagen) entfernen, zeigen die kleinen Modelle plötzlich wieder eine perfekte Organisation, genau wie die großen. Die Struktur wurde nie zerstört; sie war nur zugedeckt.

2. Verlustkurven lügen
Normalerweise bewerten wir ein Modell anhand seines „Verlusts" (wie viele Fehler es macht).

Die Überraschung: Sowohl die kleinen Modelle (mit der Umleitung) als auch die großen Modelle (mit der direkten Route) erreichen dieselbe niedrige Fehlerrate. Beide sagen das nächste Wort gleich gut voraus.
Die Lehre: Man kann nicht daran erkennen, ob ein Modell „organisiert" ist oder eine „Umleitung" nimmt, indem man nur seine Fehlerrate betrachtet. Ein Modell kann perfekte Vorhersagen treffen, während seine innere Geometrie völlig durcheinander ist.

3. Alte Werkzeuge haben das übersehen
Wissenschaftler verwendeten zuvor Werkzeuge, die die „Form" der Daten maßen (wie weit die Lesezeichen verteilt sind).

Das Versagen: Diese alten Werkzeuge sagten, dass die kleinen und großen Modelle gleich aussahen. Sie konnten nicht erkennen, dass die kleinen Modelle eine Umleitung nahmen. Der neue „Vorhersage-Kompass" (Subspace PGA) ist das erste Werkzeug, das diesen Unterschied aufdeckt.

Zusammenfassende Analogie

Stellen Sie sich zwei Köche vor, die dieselbe Suppe zubereiten.

Der große Koch (Großes Modell): Hält alle Zutaten von Anfang bis Ende in beschrifteten Schüsseln organisiert. Wenn es Zeit zum Servieren ist, ist die Suppe fertig.
Der kleine Koch (Kleines Modell): Beginnt mit beschrifteten Schüsseln. Aber auf halber Weg kippt er alles in einen einzigen riesigen, chaotischen Topf, weil seine Küche zu klein ist, um die Schüsseln getrennt zu halten. Er rührt wild umher (die „Umleitung"). Allerdings schöpft er kurz vor dem Servieren magisch die perfekte Suppe aus dem Chaos heraus und serviert sie.

Das Ergebnis: Beide Köche servieren dieselbe köstliche Suppe (niedriger Verlust).
Der Unterschied: Die Küche des großen Kochs war die ganze Zeit über für die Aufgabe organisiert. Die Küche des kleinen Kochs war für den größten Teil des Prozesses chaotisch und unorganisiert und ordnete sich erst in der allerletzten Sekunde wieder.

Die Schlussfolgerung: Die Größe des Modells bestimmt nicht nur, wie gut es vorhersagt, sondern wie es seine innere Welt organisiert, um dies zu tun. Kleine Modelle nehmen einen chaotischen Umweg; große Modelle nehmen einen direkten Weg.

Technische Zusammenfassung: Die Skalierung bestimmt, ob Sprachmodelle die Repräsentationsgeometrie für die Vorhersage organisieren

Problemstellung

In Sprachmodellen (LMs) wird der semantische Inhalt einer Repräsentation durch die Geometrie ihres Repräsentationsraums bestimmt – spezifisch durch die Abstände zwischen Punkten und nicht durch ihre absoluten Aktivierungen. Während bestehende Werkzeuge die Form dieser Geometrie charakterisieren (z. B. Rang, spektraler Zerfall, Konvergenz über Modelle hinweg), adressieren sie nicht die funktionale Frage: wofür ist diese Geometrie organisiert?

Theoretische Rahmenwerke legen nahe, dass sich Repräsentationen um die Vorhersageaufgabe des Modells herum organisieren sollten, speziell um die Unembedding-Matrix $W_U$ , die verborgene Zustände auf die Verteilung des nächsten Tokens abbildet. Es bleibt jedoch eine empirische Frage, ob mittlere Schichten ihre Abstandsstrukturen mit diesem Ausleseteilraum ausrichten. Aktuelle Metriken, wie die Logit-Lens (die die Dekodierbarkeit einzelner Punkte testet) oder spektrale Metriken (die die Form der Mannigfaltigkeit beschreiben), erfassen nicht, ob die geometrische Anordnung der Abstände funktional auf die Vorhersage ausgerichtet ist. Ferner ist unbekannt, ob diese Organisation über alle Schichten und Modellskalen hinweg einheitlich aufrechterhalten wird.

Methodik: Subspace PGA

Die Autoren führen Subspace Predictive-Geometric Alignment (Subspace PGA) ein, eine Metrik, die den Grad quantifiziert, in dem die Abstandsstruktur einer Schicht mit dem prädiktiven Auslesemechanismus des Modells übereinstimmt.

Definition des Ausleseteilraums: Die Unembedding-Matrix $W_U$ wird mittels Singulärwertzerlegung (SVD) zerlegt. Die top- $k$ rechten Singulärvektoren definieren den Ausleseteilraum ( $V_k$ ), der die Richtungen im verborgenen Raum darstellt, die $W_U$ am stärksten verstärkt, um Vorhersagen zu erzeugen.
Erhaltung der Abstände: Für eine gegebene Schicht $\ell$ berechnen die Autoren paarweise Kosinusabstände zwischen verborgenen Zuständen im vollständigen $d$ -dimensionalen Raum ( $d_{full}$ ) und im projizierten Ausleseteilraum ( $d_{proj}$ ).
Nullverteilung: Um den spezifischen Beitrag des Ausleses zu isolieren, vergleichen die Autoren die Spearman-Korrelation zwischen $d_{full}$ und $d_{proj}$ mit einer Nullverteilung. Diese Nullverteilung wird erzeugt, indem dieselben verborgenen Zustände auf 100 zufällige $k$ -dimensionale Teilräume projiziert werden, die gleichmäßig aus der Grassmann-Mannigfaltigkeit gezogen wurden.
Berechnung des Z-Scores: Subspace PGA ist definiert als der Z-Score:
$PGA(\ell) = \frac{\rho_{readout} - \mu_{null}}{\sigma_{null}}$
Ein hoher positiver $z$ -Wert zeigt an, dass die Geometrie für die Vorhersage organisiert ist (der Auslesemechanismus erhält mehr Struktur als zufällige Teilräume). Ein $z \approx 0$ impliziert keine besondere Ausrichtung, und $z < 0$ impliziert, dass der Auslesemechanismus weniger mit der Abstandsstruktur übereinstimmt als zufällige Teilräume.
Korrektur der Anisotropie: Um zu verhindern, dass die dominante Varianzrichtung (die die Kosinusähnlichkeit aufbläht) die Metrik verfälscht, wenden die Autoren eine Mittelwertzentrierung gefolgt von CCR-1 (Entfernung der führenden Hauptkomponente) an, bevor sie die Abstände berechnen.

Schlüsselergebnisse

Die Studie bewertet sieben Pythia-Modelle (70M bis 6,9B Parameter) und drei Modelle verschiedener Familien (OLMo, Phi, Gemma).

1. Skalierungsabhängige Organisation

Große Modelle ( $d \ge 2048$ ): Diese Modelle behalten eine starke prädiktive Organisation über alle mittleren Schichten hinweg bei. Die $z$ -Werte bleiben signifikant positiv (mit Spitzenwerten von $z=9–24$ in den mittleren Schichten), was darauf hindeutet, dass die Abstandsstruktur konsistent mit dem Ausleseteilraum ausgerichtet ist.
Kleine Modelle ( $d \le 1024$ ): Diese Modelle zeigen ein „Umweg"-Regime. Zwar etablieren sie eine prädiktive Organisation früh im Training und in frühen Schichten, verlieren diese Ausrichtung jedoch progressiv in späten, aber nicht-finalen Schichten (z. B. Schichten 20–23 in Pythia-410M). In diesen „Kollapszonen" fallen die $z$ -Werte signifikant ab (z. B. auf $-32$), was darauf hindeutet, dass die Abstandsstruktur mit dem Auslesemechanismus fehljustiert wird, selbst während sich der Validierungsverlust des Modells weiter verbessert.
Wiederherstellung: In kleinen Modellen stellt die letzte Schicht die Ausrichtung wieder her und projiziert die Geometrie vor der Ausgabe zurück in den Ausleseteilraum.

2. Mechanismus: Kapazitätstrade-off und Maskierung

Der Verlust der Organisation in kleinen Modellen ist keine Zerstörung prädiktiver Informationen, sondern ein Maskierungs-Effekt, der durch Kapazitätsbeschränkungen verursacht wird.

Migration der dominanten Richtung: In den späten Schichten kleiner Modelle dreht sich die Richtung der größten Varianz im Residualstrom (PC1) weg vom Ausleseteilraum in „dunkle" Richtungen (orthogonal zu $W_U$ ).
Maskierung: Da die dominante Varianzrichtung den Großteil der Abstandsstruktur trägt, erhalten zufällige Teilräume (die einen Bruchteil dieser Varianz erfassen) die Abstandsstruktur am Ende genauso gut oder besser als der Ausleseteilraum. Dies führt dazu, dass der $z$ -Wert sinkt.
Wiederherstellung: Das Entfernen der obersten Hauptkomponenten (CCR-5 oder CCR-10) stellt positive $z$ -Werte in allen Schichten von Modellen mit $d \ge 768$ wieder her. Dies bestätigt, dass die prädiktive Struktur intakt war, aber durch einige wenige dominante, für die Vorhersage irrelevante Richtungen verdeckt wurde.

3. Unabhängigkeit von spektralen Metriken und Verlust

Spektrale Blindheit: Standard-spektrale Metriken (RankMe, $\alpha$ -ReQ, Isotropie, Konditionszahl) versagen bei der Erkennung dieser Unterscheidung. In den Kollapszonen kleiner Modelle bleiben spektrale Metriken stabil oder flach, während Subspace PGA um mehr als 40 Standardabweichungen schwankt.
Verlust-Unempfindlichkeit: Validierungsverlustkurven sind über kleine und große Modelle hinweg nahezu identisch und erfassen die geometrische Reorganisation in mittleren Schichten nicht.

4. Konvergenz über Architekturen hinweg

Der Ausleseteilraum konzentriert eine überarchitektonische konvergente Struktur. Beim Vergleich verschiedener Modelle (z. B. Pythia vs. OLMo) ist die Spearman-Korrelation der paarweisen Abstände im 100-dimensionalen Ausleseteilraum höher als im vollständigen Raum oder in zufälligen Teilräumen. Dies legt nahe, dass das, worüber unabhängig trainierte Modelle geometrisch übereinstimmen, spezifisch mit der prädiktiven Funktion verknüpft ist.

5. Nutzen für nachgelagerte Aufgaben

In großen Modellen liefern Schichten mit hohen Subspace PGA $z$ -Werten auch eine höhere Genauigkeit für lineare Sonden bei nachgelagerten Aufgaben (AG News). In kleinen Modellen bleibt die Sondengenauigkeit auch in der „Kollapszone" hoch, wo $z$ negativ ist, was weiter beweist, dass die zugrundeliegenden Merkmale erhalten bleiben, lediglich aber mit der Ausleseschnittstelle fehljustiert sind.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass die Skalierung nicht nur bestimmt, wie gut ein Modell vorhersagt, sondern auch, wie seine Repräsentationsgeometrie organisiert ist, um dies zu tun.

Zwei geometrische Regime: Die Autoren identifizieren ein „direktes" Regime (große Modelle), bei dem die Geometrie mit der Vorhersage ausgerichtet bleibt, und ein „Umweg"-Regime (kleine Modelle), bei dem späte Schichten die Berechnung vorübergehend durch für die Vorhersage irrelevante Richtungen leiten, bevor sie am Ausgang korrigieren.
Funktionale Ausrichtung: Die Studie verlagert den Fokus von der Charakterisierung der Form der Repräsentationsgeometrie hin zum Verständnis ihrer funktionalen Ausrichtung. Sie zeigt, dass Geometrie hochstrukturiert sein kann, aber funktional mit dem Ziel des Modells fehljustiert ist.
Grenzen aktueller Metriken: Die Arbeit hebt hervor, dass Verlustkurven und spektrale Metriken unzureichend sind, um die funktionale Organisation intermediärer Repräsentationen zu diagnostizieren. Subspace PGA bietet eine aufgabenfreie, dimensionsangepasste Metrik, um diese Phänomene zu erkennen.
Kapazität vs. Architektur: Das Phänomen wird der repräsentativen Kapazität (Breite) zugeschrieben und nicht architektonischen Spezifika, da es über verschiedene Modellfamilien hinweg beobachtet wird, wenn die Dimensionen klein sind.

Die Autoren schließen, dass der „Umweg" in kleinen Modellen ein Nebeneffekt begrenzter Kapazität ist, der eine Kollision zwischen intermediären Berechnungsrichtungen und ausleserichtungsorientierten Richtungen erzwingt, und nicht eine explizit erlernte Routing-Strategie. Diese Unterscheidung ist für Standard-Trainingssignale unsichtbar, aber entscheidend für das Verständnis der internen Mechanik von Sprachmodellen.