Revisiting Anisotropy in Language Transformers: The Geometry of Learning Dynamics

Probleemstelling

Transformatormodellen voor natuurlijke taalverwerking (NLP) genereren vaak anisotrope representaties: token-embeddings zijn niet uniform verdeeld in de vectorruimte, maar concentreren zich in een smalle kegel met hoge cosinus-ähnelijkheid, zelfs voor semantisch ongerelateerde inhoud.

• Huidige uitdaging: Traditioneel werd dit gezien als een pathologie die de semantische interpretatie en downstream-taken (zoals zoekopdrachten) bemoeilijkt. Echter, recente studies suggereren dat anisotropie inherent kan zijn aan het zelf-attentie-mechanisme of zelfs gunstig kan zijn voor generalisatie in overgeparametriseerde modellen.
• Gat in de literatuur: Bestaande theoretische verklaringen zijn zelden geworteld in de onderliggende meetkunde van de representatie. Er ontbreekt een expliciet meetkundig perspectief dat rekening houdt met lokale structuur en fenomenen op het "manifold" (oppervlak) van de data, in plaats van alleen globale statistieken.

Methodologie

De auteurs combineren theoretische meetkundige analyse met empirische validatie tijdens het trainingsproces.

1. Theoretisch Kader: Meetkunde en Sampling

• Lokaal Manifold-hypothese: In plaats van te veronderstellen dat embeddings een enkel globaal glad manifold vormen, gaan de auteurs uit van een lokaal manifold (of gestratificeerd manifold). In kleine semantische buurten concentreren embeddings zich rond een laag-dimensionaal differentieerbaar oppervlak.
• Frequentie-afhankelijke Variatie: Er wordt een hypothese geformuleerd dat frequente tokens een sterkere "norm-schrinking" ondergaan dan zeldzame tokens. Dit leidt tot een radiale concentratie van de sampling-verdeling: frequente tokens worden "vastgepind" dicht bij hun ideale centroid, wat de variatie in de omgeving verkleint.
• Meetkundige Bias: De auteurs tonen wiskundig aan dat bij een dichte sampling rond kleine stralen (kleine $t$), de invloed van kromming (curvature) op de verdeling van richtingen wordt verzwakt. Hoog-krommingsrichtingen worden ondervertegenwoordigd, wat leidt tot een verlies van meetkundige expressiviteit.
• Gradiënt-vooringenomenheid: Een tweede theoretisch argument is dat gradiënt-updates tijdens training tangentiële richtingen (langs het manifold) preferentieel versterken ten opzichte van normale richtingen (loodrecht op het manifold). Omdat de normale componenten kwadratisch kleiner zijn dan de tangentiële componenten ($O(t^2)$ vs $O(t)$), worden updates in normale richtingen parametrisch onderdrukt. Dit creëert een zelfversterkende lus die anisotropie versterkt.

2. Empirische Validatie

• Concept-based Mechanistic Interpretability: In plaats van alleen post-hoc analyse, gebruiken de auteurs concepten afgeleid van activaties tijdens het trainen. Ze extraheren een laag-rang subruimte (tangent proxy) gebaseerd op vroege checkpoints.
• Gradiënt-analyse: Ze vergelijken de energie van echte backpropagatie-gradiënten met deze tangentiële proxies versus "normale" controlemetingen (random subruimtes van dezelfde rang).
• Modeldiversiteit: De tests worden uitgevoerd op een breed scala aan modellen, waaronder encoder-modellen (EuroBERT, CamemBERT) en decoder-modellen (Pythia, OLMo, SmolLM2), variërend in grootte en architectuur.
• Statistieken: Ze meten de concentratie van gradiënt-energie ($R_{energy}$) en de verandering in isotropie (via IsoScore*) bij het verwijderen van de tangentiële subruimte.

Belangrijkste Bijdragen

1. Theoretische Afleiding: Het paper biedt een meetkundige onderbouwing voor waarom frequentie-gebaseerde sampling de zichtbaarheid van kromming vermindert en waarom training tangentiële richtingen versterkt.
2. Verbinding met Leer-dynamiek: Het koppelt deze meetkundige bias aan de leermechanismen van Transformers, specifiek hoe architectuur en trainingsdynamiek (gradiënten) deze richtingen selectief versterken.
3. Empirisch Bewijs: Het levert sterke empirische ondersteuning dat anisotropie niet willekeurig is, maar specifiek uitgelijnd is met de tangentiële subruimtes van de activaties, vooral in de vroege fasen van training.
4. Nieuw Perspectief: Het stelt dat anisotropie niet per se een defect is, maar een impliciete dimensiereductie die generalisatie kan ondersteunen.

Resultaten

• Frequentie en Variatie: Er is een sterke negatieve correlatie gevonden tussen token-frequentie en de geometrische stabiliteit (variatie) van embeddings. Frequentere tokens oscilleren in een veel smaller volume dan zeldzame tokens, wat de theorie van "variance collapse" bevestigt.
• Gradiënt-energie: In de vroege trainingsfase wordt de gradiënt-energie aanzienlijk vaker geconcentreerd in de activatie-afgeleide tangentiële richtingen dan in normale richtingen. De verhouding ($R_{energy}$) ligt vaak een orde van grootte hoger voor tangentiële richtingen.
• Isotropie: Het verwijderen van de tangentiële subruimte leidt tot een grotere verbetering in isotropie (IsoScore*) dan het verwijderen van een vergelijkbare normale subruimte. Dit bevestigt dat de anisotropie voornamelijk in de tangentiële richting zit.
• Tijdsdynamiek: Het effect is het sterkst in de vroege trainingsfase. In latere fasen verzwakt het, maar de anisotrope structuur die vroeg is gevormd, blijft behouden. Encoder-modellen tonen een zwakker effect dan decoder-modellen, wat consistent is met hun mildere frequentie-concentratie.
• Diepte-trend: De effecten zijn het sterkst in de eerste en middelste lagen, wat suggereert dat de basis van de representatieruimte vroeg wordt vastgelegd.

Betekenis en Conclusie

Dit werk verschuift het perspectief op anisotropie van een puur negatief artefact naar een fundamenteel meetkundig en dynamisch fenomeen.

• Generalisatie: Anisotropie kan worden gezien als een vorm van impliciete regularisatie die een overgeparametriseerd probleem terugbrengt naar een ondergeparametriseerd regime, wat generalisatie bevordert.
• Oorzaak: De anisotropie wordt niet alleen veroorzaakt door het trainingsdoel (zoals likelihood-maximalisatie), maar is een direct gevolg van de interactie tussen de frequentie-gebaseerde sampling van taaldata en de meetkundige dynamiek van de gradiënt-afstapeling.
• Toekomst: Het paper suggereert dat het begrijpen van deze lokale meetkunde cruciaal is voor het interpreteren van modelgedrag en dat toekomstig werk zich moet richten op de interactie tussen vroege meetkundige concentratie en latere, verlies-gedreven gradiëntstructuren.

Kortom, de auteurs tonen aan dat de "smalle kegel" van Transformer-embeddings het resultaat is van een meetkundig geforceerd proces waarbij frequente tokens en de trainingsdynamiek samenwerken om de representatie te projecteren op een laag-dimensionaal, tangentieel oppervlak.