📊 statistics

Numerical stability analysis of large language models

Dit artikel presenteert een mixed-precision analyse van transformer-inferentie die nieuwe foutmarges en stabiliteitsvoorwaarden afleidt voor kerncomponenten zoals LayerNorm, RMSNorm en self-attention, wat uiteindelijk onthult dat numerieke stabiliteit wordt beheerst door de wisselwerking tussen gewichtsmagnitudes en de groei van de residual stream, een bevinding die gevalideerd is door experimenten op GPT-2.

Oorspronkelijke auteurs: Stanislav Budzinskiy, Wenyi Fang, Longbin Zeng, Philipp Petersen

Gepubliceerd 2026-06-23

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Stanislav Budzinskiy, Wenyi Fang, Longbin Zeng, Philipp Petersen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een Large Language Model (zoals de modellen die chatbots aansturen) voor als een enorme, meerverdiepingsfabriek. Binnen deze fabriek stroomt informatie van de begane grond naar de bovenste verdieping, waarbij het door honderden kamers (lagen) gaat. In elke kamer wordt de informatie verwerkt, gemengd en hervormd voordat deze naar de volgende kamer wordt doorgegeven.

De paper die je hebt verstrekt is een veiligheidsinspectierapport voor deze fabriek. De auteurs vragen zich af: "Als we beginnen met een minuscuul, bijna onzichtbaar stofje (een kleine computer-afrondingsfout) in de eerste kamer, hoe groot zal dat stofje zijn tegen de tijd dat het de bovenste verdieping bereikt?"

Hier is een uitsplitsing van hun bevindingen met eenvoudige analogieën:

1. De "Lage Precisie" Afkorting

Om deze fabrieken snel en goedkoop te laten draaien, gebruiken ingenieurs vaak "lage precisie"-wiskunde. Denk hierbij aan het meten van ingrediënten met een liniaal die alleen streepjes per inch heeft in plaats van millimeterstreepjes. Het is sneller, maar je verliest een beetje nauwkeurigheid.

Het Probleem: Wanneer je duizenden berekeningen achter elkaar uitvoert, kunnen die kleine "inch-fouten" zich opstapelen. De auteurs wilden weten: Stort de fabriek in onder het gewicht van deze kleine fouten, of blijft het stabiel?

2. De "Normaliserende" Deuren (LayerNorm vs. RMSNorm)

Voordat informatie een nieuwe kamer binnengaat, moet deze door een "normaliserende deur" die de grootte van de data aanpast.

De Oude Deur (LayerNorm): Deze deur trekt de gemiddelde grootte van de data af. De auteurs ontdekten dat als de data één enorme uitschieter heeft (één enorm groot getal dat veel groter is dan de rest), deze deur wankel kan worden. Het is alsof je een wipwap probeert te balanceren waarbij aan de ene kant een olifant staat en aan de andere kant een muis; de wiskunde wordt gevoelig.
De Nieuwe Deur (RMSNorm): Dit is de moderne deur die wordt gebruikt in topmodellen. Deze deur trekt niet het gemiddelde af; hij schaalt alleen op basis van de totale grootheid. De auteurs ontdekten dat deze deur onvoorwaardelijk stabiel is. Zelfs met die olifant op de wipwap houdt de deur stand. Het is een robuuster ontwerp.

3. De "Attention" Spotlight

Het beroemdste deel van deze modellen is "Self-Attention", wat bepaalt welke woorden in een zin belangrijk zijn voor elkaar.

De "Softmax" Schakelaar: Dit is het mechanisme dat ruwe scores omzet in waarschijnlijkheden (percentages). De auteurs analyseerden een veelgebruikte truc genaamd "shifting" (het aftrekken van het grootste getal vóór de berekening) om te voorkomen dat de wiskunde explodeert (overflow).
De Bevinding: Ze hebben bewezen dat deze "shifting"-truc veilig is. Het maakt het systeem misschien iets gevoeliger voor ruis (maximaal 4 keer meer), maar het breekt de wiskunde niet. Het is als een zonnebril dragen om naar de zon te kijken; het verandert de manier waarop je dingen ziet een klein beetje, maar het maakt je niet blind.
De "Attention Sink": Ze merkten ook op dat het model in lange gesprekken vaak sterk focust op de allereerste paar woorden (de "sink"). Hun wiskunde laat zien dat zelfs met deze lange sequenties, de fouten niet zo hard uit de hand lopen als oude theorieën suggereerden.

4. De "Residual Stream" (De Lopende Band)

De data stroomt door de fabriek via een "residual stream"—een lopende band die de hoofdtekst vooruit draagt.

De Groei: Terwijl de data naar de hogere verdiepingen beweegt, wordt de lopende band van nature "zwaarder" (de getallen worden groter).
De Gewichten: De machines op de lopende band (de gewichten) worden kleiner geschaald naarmate de fabriek hoger wordt om het evenwicht te bewaren.
De Grote Ontdekking: De auteurs vonden een gouden regel: Als je de lopende band groter of kleiner schaalt, blijft de relatieve fout hetzelfde.
- Analogie: Stel je voor dat je op een loopband loopt. Als je de snelheid van de loopband verdubbelt en ook de grootte van je schoenen verdubbelt, verandert je loopstijl (relatief aan je grootte) niet.
- De Catch: Dit werkt alleen als de lopende band "lineair" (voorspelbaar) gedrag vertoont. Als je de gewichten te veel schaalt, kan de lopende band plotseling overgaan op een compleet andere modus van werken (een "kwalitatieve transitie"). In dat specifieke geval breekt de stabiliteit. Maar zolang de band in zijn normale ritme blijft, schaalt het aanpassen van de gewichten de nauwkeurigheid niet aan.

5. Het "GPT-2" Experiment

Om te bewijzen dat hun wiskunde niet slechts theorie was, testten ze het op een echt model genaamd GPT-2.

Random Weights: Wanneer ze een model gebruikten met willekeurige, ongetrainde gewichten, groeiden de fouten langzaam en voorspelbaar.
Getrainde Weights: Wanneer ze een echt, getraind model gebruikten, groeiden de fouten iets sneller (exponentieel), maar nog steeds binnen beheersbare grenzen.
Het Verdict: De wiskunde hield stand. De "relatieve fout" (de fout in verhouding tot de grootte van de data) bleef consistent, tenzij ze het model in een vreemde, onstabiele staat dwongen door de gewichten te drastisch te veranderen.

Samenvatting

De paper concludeert dat Large Language Models numeriek stabiel zijn.
Hoewel ze "ruwe" wiskunde gebruiken (lage precisie) en enorme getallen moeten verwerken, is de architectuur zo ontworpen dat de fouten niet opstapelen tot een ramp. De sleutel tot deze stabiliteit is de wisselwerking tussen de grootte van de gewichten en de groei van de datastroom. Zolang het model niet in een vreemde, onstabiele staat wordt gedreven, blijft de "ruis" die door de lage-precisie wiskunde wordt geïntroduceerd een minuscuul, beheersbaar stofje, en geen modderlawine.

Technisch overzicht: Numerieke stabiliteitsanalyse van Large Language Models

Probleemstelling

Large Language Models (LLM's), gebouwd op Transformer-architecturen, zijn sterk afhankelijk van rekenkunde met lage precisie voor efficiënte training en inferentie. Hoewel kwantisatie en mixed-precision strategieën aanzienlijke computationele winst bieden, introduceren ze numerieke perturbaties die door het netwerk voortplanten. Deze fouten worden versterkt door de inherente afrondingsfouten van floating-point (FP) operaties. Hoewel empirische studies de impact van kwantisatie uitgebreid hebben gedocumenteerd, blijft een rigoureuze theoretische analyse van de numerieke stabiliteit in diepe Transformer-architecturen schaars. Dit werk adresseert dit tekort door een deterministische, mixed-precision numerieke analyse van Transformer-inferentie te ontwikkelen, met als doel grenzen af te leiden voor de conditienummers en forward-fouten van de constituerende onderdelen van de architectuur.

Methodologie

De auteurs maken gebruik van een deterministisch afrondingsfout-analyseframework (Higham, 2002) dat is aangepast voor mixed-precision omgevingen. De analyse onderscheidt vier verschillende precisies:

Kwantisatieprecisie ( $u_q$ ): Gebruikt voor het afronden van operanden in General Matrix Multiplication (GEMM).
Accumulatieprecisie ( $u_a$ ): Gebruikt voor het sommeren van inwendige producten.
Werkprecisie ( $u_w$ ): Gebruikt voor het evalueren van niet-lineaire functies.
Residuele precisie ( $u_r$ ): Gebruikt voor het opslaan van staatvariabelen in de residu-stroom (residual stream).

De studie richt zich op een representatieve decoder-only Transformer-architectuur met pre-normalisatie, causale multi-head self-attention met Rotary Positional Embeddings (RoPE), en ofwel GELU of SwiGLU feedforward (FF) mechanismen. De analyse verloopt via:

Het afleiden van conditienummers (normwise, componentwise, en mixed) voor individuele componenten: LayerNorm/RMSNorm, FF-blokken, Softmax, en Self-Attention.
Het vaststellen van forward error bounds voor deze componenten onder FP-rekenkunde, rekening houdend met specifieke accumulatie-algoritmen (bijv. recursieve versus pairwise sommatie) en absorptie-effecten in Softmax.
Het aggregeren van deze lokale grenzen om de globale forward error van de diepe Transformer-architectuur te analyseren, waarbij de groeidynamiek van de residu-stroom expliciet wordt gemodelleerd.

Belangrijkste bijdragen

1. Normalisatiestabiliteit (LayerNorm vs. RMSNorm)

Het artikel biedt een vergelijkende numerieke stabiliteitsanalyse van LayerNorm en RMSNorm, specifiek in het regime van "massieve uitschieters" (massive outliers) dat kenmerkend is voor moderne LLM-inferentie.

Bevindingen: Geen van beide functies is strikt superieur wat betrekt wordt tot sensitiviteit (conditienummers). Echter, de forward error van LayerNorm wordt bepaand door de magnitude van de achtergrondwaarden van de uitschieter, terwijl RMSNorm onvoorwaardelijke forward stabiliteit vertoont.
Implicatie: De overgang naar RMSNorm in moderne LLM's vermindert de computationele complexiteit zonder de numerieke stabiliteit strikt te verslechteren, hoewel het specifieke foutgedrag afhangt van de inputdistributie.

2. Stabiliteit van het Feedforward-mechanisme

De auteurs analyseren de forward stabiliteit van FF-blokken met behulp van gladde ReLU-achtige activaties (bijv. GELU) en gated mechanismen (bijv. SwiGLU).

Bevindingen: De FP-evaluatie van zowel GELU als SwiGLU mechanismen wordt bewezen forward stabiel te zijn. De foutgrenzen worden gedomineerd door de kwantisatie- en accumulatiefouten van de onderliggende GEMM's in plaats van door de niet-lineariteiten zelf.

3. Softmax-sensitiviteit en Attention Sinks

De analyse behandelt het numerieke gedrag van Softmax, met name in de aanwezigheid van "attention sinks" (waar de waarschijnlijkheidsmassa zich concentreert op vroege tokens).

Verschoven Evaluatie (Shifted Evaluation): Het artikel bevestigt dat hoewel het verschoven evaluatie-algoritme (het aftrekken van het maximum om overflow te voorkomen) numerieke instabiliteit voorkomt, het de sensitiviteit voor perturbaties met maximaal een factor 4 verhoogt vergeleken met onverschoven evaluatie.
Geconcentreerde Distributies: Voor geconcentreerde waarschijnlijkheidsdistributies (veelvoorkomend bij attention sinks), leiden de auteurs een nieuwe afrondingsfout-grens af die rekening houdt met absorptie-effecten. Deze grens schaalt met de effectieve sequentielengte (het aantal niet-geabsorbeerde termen) in plaats van de totale sequentielengte, wat het succes van long-context inferentie verklaart.

4. Sequentielengte-onafhankelijke Lipschitz-grenzen

Een significante theoretische bijdrage is de afleiding van nieuwe grenzen op de lokale Lipschitz-constante van self-attention die onafhankelijk zijn van de input-sequentielengte ( $N$ ).

Verbetering: Deze grenzen verbeteren eerdere mean-field grenzen (Castin et al., 2024) in het discrete geval. De grenzen zijn strikt kwadratisch in de norm van de input, terwijl eerdere discrete grenzen exponentiële factoren bevatten.
Uitschieters: De analyse toont aan dat de aanwezigheid van een massieve uitschieter deze grenzen verder kan aanscherpen, waardoor het conditienummer van de attention head wordt verkleind.

5. Globale Architectuurstabiliteit en Residuele Stroomdynamiek

Het artikel aggregeert lokale foutgrenzen om de gehele diepe Transformer te analyseren.

Kerninzicht: De numerieke stabiliteit van inferentie wordt bepaald door de interactie tussen gewichtsmagnitude en de groeidynamiek van de residu-stroom.
Schaalwetten: De analyse valideert dat de standaard diepte-afhankelijke schaling van residu-projectiegewichten (geïntroduceerd in GPT-2) de propagatie van relatieve afrondingsfouten behoudt, mits de schaling geen kwalitatieve transitie in de dynamiek van de residu-stroom forceert. Als de residu-stroom lineair reageert op gewichtsscaling, blijft de relatieve fout invariant.

Resultaten en Experimentele Validatie

De theoretische grenzen werden gevalideerd met experimenten met het GPT-2 XL model, waarbij willekeurig geïnitialiseerde gewichten werden vergeleken met getrainde gewichten.

Foutgroei: Voor willekeurig geïnitialiseerde modellen was de empirische foutgroei sub-exponentieel ( $O(e^{l^{0.24}})$ ), wat consistent is met de theoretische voorspelling van sub-exponentiële groei, hoewel de empirische snelheid milder was dan de worst-case grens.
Pre-trained Modellen: Pre-trained modellen vertoonden een trage exponentiële foutgroei. Het verschil met de polynomiale-rate voorspellingen wordt toegeschreven aan de variatie in gewichtsmagnitudes met de diepte in pre-trained modellen, wat de uniforme schalingsaannames van het theorema schendt.
Gewichtsscalings-experimenten: Experimenten waarbij de residu-projectiegewichten ( $W_O$ $W_{O}$ en $W_{down}$ $W_{d o w n}$ ) werden geschaald, bevestigden de theoretische hypothese:
- In het willekeurig geïnitialiseerde model schaalde de absolute afrondingsfout lineair met de gewichtsscalingsfactor $\xi$ .
- In het pre-trained model vond een "kwalitatieve transitie" plaats tussen schalingsfactoren $\xi=2$ en $\xi=5$ , wat leidde tot een niet-lineaire respons in absolute fout. Zodra het model in een nieuw regime terechtkwam ( $\xi > 5$ ), keerde de fout terug naar strikt proportionele schaling.
- Cruciaal is dat in alle gevallen de relatieve afrondingsfout invariant bleef ten opzichte van de schaling, tenzij de schaling een bifurcatie in de dynamiek van de residu-stroom veroorzaakte.

Betekenis

Het artikel legt een rigoureus theoretisch fundament voor het begrijpen van de numerieke stabiliteit van Transformer-inferentie. De primaire betekenis ligt in:

Brug tussen Theorie en Praktijk: Het biedt de eerste uitgebreide deterministische analyse van mixed-precision fouten in Transformers, waarbij men verder gaat dan empirische heuristieken.
Validatie van Architecturale Keuzes: Het rechtvaardigt wiskundig het gebruik van specifieke schalingswetten (bijv. GPT-2 initialisatie) en normalisatietechnieken (bijv. RMSNorm) door aan te tonen dat zij de propagatie van relatieve fouten behouden onder specifieke dynamische condities.
Verklaring van Long-Context Succes: De afgeleide grenzen op Softmax met absorptie-effecten bieden een theoretische verklaring voor waarom LLM's lange contexten kunnen verwerken ondanks het potentieel voor foutaccumulatie, aangezien het effectieve aantal bijdragende termen vaak klein is door attention sinks.
Definiëren van Stabiliteitslimieten: Het werk verheldert dat numerieke stabiliteit niet enkel een functie is van precisie of gewichtsmagnitude, maar intrinsiek verbonden is met de dynamische gedragingen van de residu-stroom.

De auteurs concluderen dat hoewel hun worst-case grenzen conservatief kunnen zijn (zoals gezien in de vergelijking met GPT-2 XL pre-trained gewichten), de afgeleide principes over de interactie tussen gewichtsscaling en de dynamiek van de residu-stroom een robuust kader bieden voor het analyseren en ontwerpen van numeriek stabiele LLM's.