Technische Samenvatting: Schaal Bepaalt Of Taalmodellen Representatiegeometrie Organiseren voor Predictie

Probleemstelling

In taalmodellen (LM's) wordt de semantische inhoud van een representatie bepaald door de geometrie van diens representatieruimte—specifiek de afstanden tussen punten in plaats van hun absolute activeringen. Bestaande tools karakteriseren de vorm van deze geometrie (bijv. rang, spectrale afname, cross-model convergentie), maar ze beantwoorden niet de functionele vraag: waarvoor is deze geometrie georganiseerd?

Theoretische kaders suggereren dat representaties zich moeten organiseren rondom de predictieve taak van het model, specifiek de unembedding-matrix $W_U$ die verborgen toestanden afbeeldt op de volgende-tokenverdeling. Het blijft echter een empirische vraag of tussenliggende lagen hun afstandsstructuren afstemmen op deze readout-ruimte. Huidige metrieken, zoals de Logit Lens (die de decodeerbaarheid van individuele punten test) of spectrale metrieken (die de vorm van het manifold beschrijven), slagen er niet in om vast te stellen of de geometrische rangschikking van afstanden functioneel is gericht op predictie. Bovendien is onbekend of deze organisatie uniform wordt gehandhaafd over alle lagen en modelschalen.

Methodologie: Subspace PGA

De auteurs introduceren Subspace Predictive-Geometric Alignment (Subspace PGA), een metriek ontworpen om de mate te kwantificeren waarin de afstandsstructuur van een laag is afgestemd op de predictieve readout van het model.

1. Definitie Readout-ruimte: De unembedding-matrix $W_U$ wordt ontbonden via Singuliere Waarde Decompositie (SVD). De top-$k$ rechter singuliere vectoren definiëren de readout-ruimte ($V_k$), die de richtingen in de verborgen ruimte vertegenwoordigt die $W_U$ het meest versterkt om predicties te produceren.
2. Behoud van Afstand: Voor een gegeven laag $\ell$ berekenen de auteurs paarsgewijze cosinusafstanden tussen verborgen toestanden in de volledige $d$-dimensionale ruimte ($d_{full}$) en in de geprojecteerde readout-ruimte ($d_{proj}$).
3. Nulverdeling: Om de specifieke bijdrage van de readout te isoleren, vergelijken de auteurs de Spearman-correlatie tussen $d_{full}$ en $d_{proj}$ met een nulverdeling. Deze nulverdeling wordt gegenereerd door dezelfde verborgen toestanden te projecteren op 100 willekeurige $k$-dimensionale ruimtes die uniform zijn gesampled uit de Grassmannian.
4. Z-score Berekening: Subspace PGA wordt gedefinieerd als de z-score:
   $$PGA(\ell) = \frac{\rho_{readout} - \mu_{null}}{\sigma_{null}}$$
   Een hoge positieve $z$ geeft aan dat de geometrie is georganiseerd voor predictie (de readout behoudt meer structuur dan willekeurige ruimtes). Een $z \approx 0$ impliceert geen speciale afstemming, en $z < 0$ impliceert dat de readout minder is afgestemd op de afstandsstructuur dan willekeurige ruimtes.
5. Anisotropie Correctie: Om te voorkomen dat de dominante variatierichting (die de cosinusgelijkheid opblaast) de metriek verstoort, passen de auteurs middelpuntcorrectie toe gevolgd door CCR-1 (verwijdering van de leidende hoofdcomponent) voordat ze de afstanden berekenen.

Belangrijkste Resultaten

De studie evalueert zeven Pythia-modellen (70M tot 6,9B parameters) en drie cross-family modellen (OLMo, Phi, Gemma).

1. Schaal-afhankelijke Organisatie

• Grote Modellen ($d \ge 2048$): Deze modellen handhaven een sterke predictieve organisatie door alle tussenliggende lagen heen. De $z$-scores blijven significant positief (piekend bij $z=9–24$ in middenlagen), wat aangeeft dat de afstandsstructuur consistent is afgestemd op de readout-ruimte.
• Kleine Modellen ($d \le 1024$): Deze modellen vertonen een "omweg"-regime. Hoewel ze vroeg in het trainingstraject en in vroege lagen een predictieve organisatie vestigen, verliezen ze deze afstemming progressief in late maar niet-finale lagen (bijv. lagen 20–23 in Pythia-410M). In deze "instortingszones" dalen de $z$-scores significant (bijv. tot $-32$), wat aangeeft dat de afstandsstructuur misaligneert met de readout, zelfs terwijl de validatieverlies van het model blijft verbeteren.
• Herstel: In kleine modellen herstelt de laatste laag de afstemming en projecteert de geometrie terug in de readout-ruimte voordat de output wordt gegenereerd.

2. Mechanisme: Capaciteitstrade-off en Maskering

Het verlies van organisatie in kleine modellen is geen vernietiging van predictieve informatie, maar een maskerend effect veroorzaakt door capaciteitsbeperkingen.

• Migratie Dominante Richting: In de late lagen van kleine modellen roteert de richting van grootste variatie in de residustroom (PC1) weg van de readout-ruimte naar "donkere" richtingen (orthogonaal op $W_U$).
• Maskering: Omdat de dominante variatierichting het grootste deel van de afstandsstructuur draagt, behouden willekeurige ruimtes (die een fractie van deze variatie vastleggen) uiteindelijk de afstandsstructuur net zo goed als, of beter dan, de readout-ruimte. Dit zorgt voor een daling van de $z$-score.
• Herstel: Het verwijderen van de top paar hoofdcomponenten (CCR-5 of CCR-10) herstelt positieve $z$-scores in alle lagen van modellen met $d \ge 768$. Dit bevestigt dat de predictieve structuur intact was, maar werd verduisterd door een paar dominante, predictie-irrelevante richtingen.

3. Onafhankelijkheid van Spectrale Metrieken en Verlies

• Spectrale Blindheid: Standaard spectrale metrieken (RankMe, $\alpha$-ReQ, isotropie, conditienummer) slagen er niet in om dit onderscheid te detecteren. In de instortingszones van kleine modellen blijven spectrale metrieken stabiel of vlak, terwijl Subspace PGA meer dan 40 standaardafwijkingen zwaait.
• Verlies-ongevoeligheid: Validatieverliescurves zijn bijna identiek tussen kleine en grote modellen, en slagen er niet in de geometrische herorganisatie die plaatsvindt in tussenliggende lagen vast te leggen.

4. Cross-architectuur Convergentie

De readout-ruimte concentreert cross-architectuur convergente structuur. Bij het vergelijken van verschillende modellen (bijv. Pythia versus OLMo) is de Spearman-correlatie van paarsgewijze afstanden hoger in de 100-dimensionale readout-ruimte dan in de volledige ruimte of willekeurige ruimtes. Dit suggereert dat wat onafhankelijk getrainde modellen geometrisch overeenkomen, specifiek gekoppeld is aan de predictieve functie.

5. Downstream Nut

In grote modellen leveren lagen met hoge Subspace PGA $z$-scores ook hogere nauwkeurigheid op voor lineaire probes op downstream-taken (AG News). In kleine modellen blijft de probe-nauwkeurigheid hoog, zelfs in de "instortingszone" waar $z$ negatief is, wat verder bewijst dat de onderliggende kenmerken behouden blijven maar slechts misaligneerd zijn met de readout-interface.

Betekenis en Claims

Het artikel beweert dat schaal niet alleen bepaalt hoe goed een model voorspelt, maar ook hoe de representatiegeometrie is georganiseerd om dit te doen.

• Twee Geometrische Regimes: De auteurs identificeren een "direct" regime (grote modellen) waarbij de geometrie blijft afgestemd op predictie, en een "omweg"-regime (kleine modellen) waarbij late lagen computation tijdelijk routeren via predictie-irrelevante richtingen voordat er correctie plaatsvindt bij de output.
• Functionele Oriëntatie: De studie verschuift de focus van het karakteriseren van de vorm van representatiegeometrie naar het begrijpen van zijn functionele oriëntatie. Het demonstreert dat geometrie sterk gestructureerd kan zijn maar functioneel misaligneerd met het doel van het model.
• Beperkingen van Huidige Metrieken: Het werk benadrukt dat verliescurves en spectrale metrieken ontoereikend zijn voor het diagnosticeren van de functionele organisatie van tussenliggende representaties. Subspace PGA biedt een taakvrije, dimensie-gematchte metriek om deze fenomenen te detecteren.
• Capaciteit versus Architectuur: Het fenomeen wordt toegeschreven aan representatieve capaciteit (breedte) in plaats van architecturale specificaties, aangezien het wordt waargenomen over verschillende model-families wanneer de dimensies klein zijn.

De auteurs concluderen dat de "omweg" in kleine modellen een neveneffect is van beperkte capaciteit die een botsing forceert tussen tussenliggende computatierichtingen en readout-gealigneerde richtingen, in plaats van een expliciet geleerde routeringsstrategie. Dit onderscheid is onzichtbaar voor standaard trainingssignalen, maar cruciaal voor het begrijpen van de interne mechanica van taalmodellen.