Same Geometry, Opposite Noise: Transformer Magnitude Representations Lack Scalar Variability

Probleemstelling

Biologische systemen voor het verwerken van grootheden (zoals tijd, aantal of afstand) vertonen twee fundamentele eigenschappen die vaak worden toegeschreven aan het principe van efficiënte codering:

1. Log-compressieve geometrie: De interne representatieve afstand volgt een logaritmische functie van de stimulusgrootte (Weber's Wet).
2. Scalar variabiliteit (Scalare variabiliteit): De representatieve ruis schaalt evenredig met de grootte van de stimulus, wat resulteert in een constante variatiecoëfficiënt (CV).

Het paper onderzoekt of Transformer-taalmodellen (Large Language Models of LLM's) deze eigenschappen eveneens vertonen. Hoewel eerdere studies (Cacioli, 2026) hebben aangetoond dat transformers een log-compressieve geometrie voor numerieke grootheden hebben, is het onduidelijk of ze ook de biologische "ruis-schaal" vertonen. Transformers hebben geen metabole beperkingen (zoals een vast "ruisbudget" of beperkte populatiegrootte van neuronen), wat theoretisch zou kunnen leiden tot een afwezigheid van scalar variabiliteit, ondanks de aanwezigheid van de juiste geometrie.

Methodologie

De auteur heeft een vooraf geregistreerde analyse uitgevoerd (OSF: https://osf.io/w4892) met de volgende opzet:

• Modellen: Drie 7–8B parameter modellen: Llama-3-8B-Instruct, Mistral-7B-Instruct-v0.3, en Llama-3-8B-Base.
• Data: Hidden-state vectoren (pre-RMSNorm) geëxtraheerd op de positie van het numerieke token voor 26 verschillende magnitudes (van 1 tot 1000) in 5 dragende zinnen.
• Variabiliteitsmaat: De primaire maat was de gemiddelde Euclidische afstand van de 5 zinnen-vectoren tot hun centroid per magnitude en laag ($V(n, l)$).
  • Twee controlematen werden toegepast:
    1. Zin-identiteitscorrectie ($V_{residual}$): Verwijdering van systematische zinsniveauschommelingen.
    2. Projectie op de magnitude-as ($V_{proj}$): Variatie van vectoren geprojecteerd op de eerste hoofdcomponent (PC1) van de centroiden, om variatie specifiek langs de magnitude-as te isoleren.
• Analyse: Log-log regressie van de variabiliteit ($V$) tegen de magnitude ($n$) om de schalingsexponent $\alpha$ te schatten via OLS en Theil–Sen.
  • Hypothese: Onder scalar variabiliteit zou $\alpha = 1$ moeten zijn (constante CV).
  • Vergelijking: Er werd gekeken naar 16 primaire lagen (lagen 16–31) waar de geometrie het sterkst is.

Belangrijkste Bijdragen en Resultaten

De resultaten tonen een opmerkelijke dissociatie tussen geometrie en ruisstructuur:

1. Afwijking van Scalar Variabiliteit (Anti-scalar patroon):

   • In plaats van dat variabiliteit toeneemt met de grootte ($\alpha > 0$), nam de representatieve variabiliteit af naarmate de numerieke grootte toenam.
   • De schalingsexponent $\alpha$ was negatief in alle 48 model-laag combinaties (3 modellen × 16 lagen) voor alle drie de maten.
   • Waarden: De gemiddelde $\alpha$ varieerde van $-0.031$ tot $-0.046$ voor de ruwe maat, en was zelfs sterker negatief ($\alpha \approx -0.19$) bij projectie op de magnitude-as.
   • Dit betekent dat grote getallen in de representatieve ruimte van transformers strakker (minder variabel) worden weergegeven dan kleine getallen, het tegenovergestelde van biologische systemen.

2. Invloed van Corpusfrequentie:

   • Er was een sterke correlatie ($\rho \approx 0.84$) tussen de corpusfrequentie van een getal en de representatieve variabiliteit.
   • Interpretatie: Frequent voorkomende getallen (vaak kleine getallen) verschijnen in diverse linguïstische contexten, wat leidt tot bredere spreiding. Zeldzame getallen (vaak grote getallen) verschijnen in meer gestandaardiseerde contexten, wat leidt tot strakkere clusters. De variabiliteit wordt dus gedreven door contextuele diversiteit en niet door de magnitude zelf.

3. Richting van het Effect:

   • Het "anti-scalar" patroon was 3 tot 5 keer sterker langs de magnitude-as (PC1) dan in orthogonale richtingen. Dit suggereert dat het effect specifiek is voor het gedragsrelevant subruimte.

4. Invloed van Instruction Tuning:

   • Het Llama-Instruct model vertoonde een nog negatievere $\alpha$ dan het Base model. Instruction tuning versterkt dus het comprimeren van representaties voor zeldzame (grote) getallen.

5. Geen Laag-afhankelijkheid:

   • Het patroon was stabiel over de diepte van het netwerk; er was geen significante correlatie tussen laagniveau en de schalingsexponent.

Significantie en Conclusie

Dit paper levert een cruciaal inzicht in de aard van representaties in transformermodellen:

• Dissociatie van Eigenschappen: Het bewijst dat log-compressieve geometrie en scalar variabiliteit theoretisch en empirisch gescheiden kunnen zijn. De distributiestatistieken van de trainingsdata (power-law verdeling van gehele getallen) zijn voldoende om de geometrie te genereren, maar niet om de biologische ruisstructuur te produceren.
• Rol van Metabole Beperkingen: De afwezigheid van scalar variabiliteit in transformers wordt toegeschreven aan het ontbreken van metabole beperkingen (zoals een vast ruisbudget). Biologische systemen moeten ruis proportioneel verdelen vanwege energiebeperkingen; transformers, zonder deze beperkingen, alloceren minder variabiliteit aan zeldzame (grote) magnitudes omdat deze in de trainingsdata in beperktere contexten voorkomen.
• Beperkingen van Distributioneel Leren: Alleen distributioneel leren is onvoldoende om de volledige kenmerken van biologische magnitude-systemen na te bootsen. Om scalar variabiliteit te verkrijgen, zijn mogelijk extra beperkingen nodig die in huidige LLM-architecturen ontbreken.

Kortom: Transformers reproduceren de vorm (geometrie) van biologische magnitude-representaties, maar niet de ruis (variabiliteit).