🤖 machine learning

A Mechanistic Diagnostic of Rank Collapse in Post-Norm Decoder Transformers

Dit artikel biedt een tweestaps mechanistische analyse van rang-instorting in Post-Norm decoder-only Transformers, waarbij wordt aangetoond dat causale aandacht de token-gelijkenis tijdens initialisatie versterkt terwijl door RMSNorm geïnduceerde gradiëntcontractie effectieve reparatie tijdens de training verhindert, wat uiteindelijk leidt tot een ingestorte staat die wordt gekenmerkt door frequentiegebaseerde voorspellingen en verdwijnende gradiënten.

Oorspronkelijke auteurs: Xingjian Wang, Qingyu Han, Xiaodong Luo, Yin Zhang

Gepubliceerd 2026-08-11

📖 8 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Xingjian Wang, Qingyu Han, Xiaodong Luo, Yin Zhang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een wereld voor waarin computers leren spreken door miljarden zinnen te lezen, waarbij ze proberen het volgende woord in een verhaal te raden. Om dit te doen, gebruiken ze een speciaal soort breinachtige structuur genaamd een Transformer. Denk aan een Transformer als een fabriek met meerdere verdiepingen waar ruwe data onderaan binnenkomt, op elke verdieping wordt verwerkt, en aan de bovenkant naar buiten komt als een slimme voorspelling. Voor deze fabrieken om optimaal te functioneren, moeten ze erg diep zijn—soms tientallen verdiepingen hoog. Echter, er is een lastig probleem: als je de fabriek te hoog bouwt met het originele blauwdruk, stoppen de arbeiders op de lagere verdiepingen met het ontvangen van instructies. De signalen van de bovenste verdiepingen worden zo zwak dat de lagere verdiepingen het simpelweg opgeven, en de hele machine raakt gestrikt in een saaie lus waarin elk woord dat het voorspelt slechts een kopie is van het gemiddelde woord dat het ooit heeft gezien. Dit is een beetje als een spelletje "telefoontje" waarbij de boodschap zo vertekend is tegen de tijd dat deze het einde bereikt, dat iedereen gewoon steeds dezelfde zin begint te herhalen.

Het artikel dat je zojuist hebt gelezen, duikt in waarom dit gebeurt in een specifiek type fabriekontwerp genaamd "Post-Norm". In dit ontwerp krijgen de arbeiders een "controle" (normalisatie) pas nadat ze hun werk hebben voltooid en aan de hoofdtransportband hebben toegevoegd. De auteurs ontdekten dat deze opstelling twee fatale gebreken heeft. Ten eerste, precies wanneer de fabriek haar deuren opent, zorgt de manier waarop de arbeiders naar het verleden kijken (aandacht/attention) er onbedoeld voor dat ieders werk er exact hetzelfde uitziet, als een menigte klonen. Ten tweede, zodra iedereen er hetzelfde uitziet, beginnen de interne regels van de fabriek voor het doorgeven van berichten naar achteren (gradiënten) de instructies te verkleinen totdat ze volledig verdwijnen. Het resultaat is een machine die niets nieuws kan leren en slechts één enkele, doffe toon neuriet. De auteurs gokten dit niet alleen; ze bouwden een wiskundig model om te bewijzen hoe klonen ontstaan en voerden experimenten uit op een 48-verdiepingen tellende fabriek om het in realtime te observeren.

De Grote Klonenfabriek: Waarom Diepe AI Vastloopt

Laten we ons een enorme wolkenkrabber van 48 verdiepingen voorstellen waar elk team op elke verdieping probeert een verhaal te begrijpen. Dit is een "Post-Norm Transformer", een type AI-model. Het doel is dat de bovenste verdieping het volgende woord in een zin voorspelt. Hiervoor stroomt informatie van beneden naar boven, en stromen instructies (gradiënten) terug naar beneden om de arbeiders te leren hoe ze het beter kunnen doen.

Maar hier is de crux: in dit specifieke wolkenkrabberontwerp krijgen de arbeiders op de lagere verdiepingen de stille behandeling. Het artikel legt uit dat dit gebeurt in twee afzonderlijke fasen, als een tweeledig toneelstuk waarin de tragedie zich ontvouwt.

Act I: Het "Kloon"-effect op de openingsdag

Stel je voor dat de fabriek net geopend is. De arbeiders zijn fris, en de managers (het aandachtmechanisme van de AI) proberen te begrijpen hoe ze moeten coördineren. In een Post-Norm gebouw hebben de managers een vreemde gewoonte: ze hebben de neiging om de ideeën van iedereen te middelen.

De auteurs ontdekten dat de "Attention"-tak van de fabriek aan het begin fungeert als een prefix-gemiddelde operator. Denk aan een leraar die, in plaats van naar het unieke idee van elke leerling te luisteren, gewoon het gemiddelde neemt van alles wat er tot nu toe is gezegd en iedereen vertelt om dat te kopiëren. Omdat het gebouw zo hoog is (48 lagen), gebeurt dit middelen keer op keer terwijl het signaal omhoog beweegt. Tegen de tijd dat het signaal de bovenste verdieping bereikt, ziet de output van elke individuele arbeider er bijna identiek uit. Ze zijn allemaal klonen geworden.

Het artikel laat zien dat dit gebeurt nog voordat de fabriek begint te leren! Het is alsof je een toren van spiegels hebt gebouwd, en de allereerste reflectie al alles er hetzelfde uit laat zien. De auteurs hebben dit gemeten en vonden dat het "Attention"-gedeelte de hoofdschuldige is, die de arbeiders richting het klonen duwt. Het andere deel van de fabriek, het "FFN" (Feed-Forward Network), probeert tegen te sturen en de boel verschillend te houden, maar dat is als een zacht briesje dat een orkaan probeert te stoppen—het is simpelweg niet sterk genoeg om het klonen te stoppen.

Act II: Het Verdwijnende Gefluister

Stel je nu voor dat de fabriek draait en de arbeiders al klonen zijn geworden. De managers aan de top realiseren zich: "Hé, we zien er allemaal hetzelfde uit! We moeten dit oplossen!" Ze sturen een bericht naar beneden naar de lagere verdiepingen om hun gedrag te veranderen. Dit is de "backward pass", of de gradiënt.

Maar hier verraadt het Post-Norm ontwerp hen. In dit gebouw krijgt een arbeider, telkens wanneer hij een taak voltooit, een "controle" (RMSNorm) die het werk schaalt op basis van hoe groot de output is. Terwijl de arbeiders proberen het probleem op te lossen, worden hun outputs groter en groter. De controle-machine ziet deze enorme output en krimpt deze in om het beheersbaar te houden.

Het probleem is dat dit krimpen gebeurt nadat de arbeider zijn werk aan de hoofdtransportband heeft toegevoegd. Dus wanneer het "reparatie"-bericht probeert terug naar beneden te reizen, moet het door deze krimpende machine passeren. De auteurs ontdekten dat naarmate de outputs van de arbeiders groeien, de machine het "reparatie"-bericht zo agressief inkrimpt dat het bericht tegen de tijd dat het de lagere verdiepingen bereikt, is verdwenen. Het is also als schreeuwen om een correctie door een 48-verdiepingen tellende gang, maar elke verdieping heeft een geluiddempende wand die dikker wordt naarmate je hoger komt. Tegen de tijd dat de schreeuw de onderkant bereikt, is het slechts een gefluister dat niemand kan horen.

Omdat de lagere verdiepingen de instructies niet kunnen horen, kunnen ze niet stoppen met klonen. De fabriek zit vast in een "high-similarity regime" waarbij de enige optie is om het meest voorkomende woord in de trainingsdata te voorspellen. De auteurs noemen dit de "frequentieverdeling". Het is de manier van de AI om te zeggen: "Ik weet niet wat ik moet zeggen, dus ik zeg gewoon het populairste woord dat ik ooit heb gehoord."

Het Experiment: Het Toezien op de Ineenstorting

Om te bewijzen dat dit niet slechts een theorie was, bouwden de auteurs een 48-verdiepingen tellende Post-Norm fabriek en trainden deze op een enorme dataset genaamd C4. Ze volgden het proces nauwgezet tijdens de training.

De Groei van de Klonen: Ze maten hoe vergelijkbaar de outputs van de arbeiders waren. Precies zoals hun wiskunde voorspelde, schoot de gelijkenis direct aan het begin omhoog, wat bevestigde dat de "prefix-averaging" aandacht iedereen in klonen veranderde.
De Inkrimping: Ze volgden de "shrink factor" (de RMSNorm backward factor). Ze zagen dat naarmate de training vorderde en de outputs van de arbeiders groeiden, deze factor onder de 1 zakte. Dit betekende dat de fabriek de reparatiesignalen actief aan het verkleinen was.
De Verdwijnende Gradiënten: Ze keken naar de onderste verdiepingen en zagen dat de gradiënten (de leersignalen) met ordes van grootte afnamen. De onderste verdiepingen waren effectief blind voor de instructies van de bovenste verdieping.
De Doodlopende Weg: Ten slotte controleerden ze de "loss" (hoe slecht de voorspellingen waren). Zodra de fabriek instortte, stopte de loss met verbeteren en bleef deze steken op de "frequency loss"—het theoretische minimum voor een machine die simpelweg het meest voorkomende woord raadt.

Waarom Pre-Norm anders is

Je vraagt je misschien af: "Waarom hebben niet alle AI-fabrieken dit probleem?" Het artikel legt uit dat het alternatieve ontwerp, genaamd "Pre-Norm", dit oplost door de "controle" te plaatsen voordat de arbeiders hun werk aan de transportband toevoegen. In Pre-Norm beïnvloedt de krimpende machine alleen het nieuwe werk, niet de hele transportband. Dit betekent dat de "reparatie"-berichten nog steeds door de gang kunnen reizen zonder verpletterd te worden, waardoor de onderste verdiepingen wakker kunnen blijven en kunnen leren.

De Kernboodschap

Dit artikel zegt niet alleen "Post-Norm is slecht". Het geeft ons een duidelijk, tweeledig verhaal van waarom het faalt. Ten eerste zorgt het aandachtmechanisme er onbedoeld voor dat er direct bij de start een menigte klonen ontstaat. Ten tweede maakt de structuur van de regels voor het doorgeven van berichten naar achteren het onmogelijk om hen weer te laten uniek te zijn zodra ze gevormd zijn. De fabriek zit vast in een lus waarbij het alleen de meest voorkomende woorden kan herhalen, en geen enkele training kan de fabriek wakker maken omdat de instructies om te veranderen nooit de onderkant bereiken.

De auteurs zijn zeer zeker over dit punt: ze hebben wiskundige bewijzen voor het gedrag en experimentele gegevens van een 4luik-laags model die hun voorspellingen perfect matchen. Ze toonden zelfs aan dat als je het "gemiddelde" deel van de aandacht verwijdert, het klonen stopt, wat bewijst dat het aandachtmechanisme inder het geval is de schurk in dit verhaal. Dus als je een diepe, slimme AI wilt bous, kun je er beter voor zorgen dat je fabriekontwerp je arbeiders niet per ongeluk verandert in een stille, identieke menigte.

Technische Samenvatting: Waarom Post-Norm Transformers instorten

1. Probleemstelling

Diepe decoder-only Transformers vervangen de oorspronkelijke Post-Norm architectuur frequent door Pre-Norm varianten omdat Post-Norm training zeer gevoelig is voor warmup-schema's en leersnelheden onder conventionele initialisatie. Hoewel eerder werk symptomen heeft geïdentificeerd zoals rank collapse (waarbij token-representaties bijna identiek worden, wat de effectieve dimensionaliteit vermindert) en gradient vanishing, blijven de causale mechanismen die deze fenomenen in causale decoder-only Transformers koppelen, onvoldoende begrepen. Specifiek is het onduidelijk hoe causale aandacht hoog-gelijkaardige representaties genereert en waarom de trainingsdynamiek er niet in slaagt deze te herstellen zodra ze ontstaan. Deze kloof zorgt voor een discontinuïteit tussen praktische oplossingen (overstappen op Pre-Norm) en een theoretisch begrip van waarom Post-Norm representaties in een ingestorte regime terechtkomen en waarom optimalisatie moeite heeft om daaruit te ontsnappen.

2. Methodologie

De auteurs stellen een tweestapsanalyse voor van Post-Norm rank collapse, waarbij token similarity ($tsim$) wordt gebruikt als een scalaire toestandsvariabele om de nabijheid van instorting te volgen. De analyse is verdeeld in forward pass dynamica bij initialisatie en backward pass dynamica tijdens de training.

Theoretisch Kader

Forward Pass (Initialisatie): De auteurs benaderen de willekeurige aandacht-matrix met een prefix-averaging operator ( $C_n$ ) en modelleren de token Gram-matrix met een equal-correlation closure. Ze leiden gesloten vorm expressies af voor de verwachte één-stap verandering in token similarity voor zowel de aandacht-branch als de SwiGLU feed-forward netwerk (FFN).
Backward Pass (Training): De analyse richt zich op de interactie tussen de groeiende pre-normalization residual norms en de RMSNorm Jacobian. De auteurs definiëren een sublayer gradiënt bijdrage factor ( $\alpha$ ) en analyseren hoe de RMSNorm backward factor gradiënten doet krimpen wanneer de residual norms groeien.
Karakterisering van de Gestorte Toestand: Het artikel karakteriseert wiskundig de eigenschappen van een volledig ingestort netwerk, waarbij specifiek de optimale waarschijnlijkheidsverdeling en het gedrag van parameter gradiënten worden geanalyseerd.

Experimentele Opzet

Model: Een 48-laagse decoder-only Transformer (Llama-2 stijl) met $d=512$ , $d_{ff}=1536$ , 4 attention heads, SwiGLU FFN, en RMSNorm.
Dataset: C4 dataset met sequentielengte 2048.
Protocol: Gecontroleerde experimenten waarbij de initialisatievariantie en leersnelheden (variërend van $6 \times 10^{-4}$ tot $1.8 \times 10^{-3}$ ) worden gevarieerd. De studie vergelijkt Post-Norm en Pre-Norm architecturen onder gelijke instellingen.
Interventies: De auteurs verwijderen experimenteel de prefix-averaging component uit de aandacht-matrix bij initialisatie om het effect ervan op de groei van similarity te isoleren.

3. Belangrijkste Bijdragen

A. Tweestapsverklaring van Instorting

Het artikel stelt vast dat Post-Norm rank collapse wordt gedreven door twee verschillende mechanismen:

Attention Amplification (Forward): Bij initialisatie werkt causale aandacht ongeveer als een prefix-averaging operator die de token similarity over de lagen heen vergroot. De SwiGLU FFN draagt slechts een minder belangrijke dempende werking bij. In Post-Norm blijft de "hoeveelheid aandacht" constant over de lagen, wat leidt tot een snelle accumulatie van similarity. In contrast hiermee vertoont Pre-Norm een afnemende hoeveelheid aandacht met de diepte, wat de groei van similarity vertraagt.
Gradient Repair Failure (Backward): Zodra het netwerk een hoog-gelijkaardige regime betreedt, groeien de pre-normalization residual norms. Deze groei zorgt ervoor dat de RMSNorm backward factor contractief wordt (kleiner dan 1). Als de gradiëntbijdragen van de aandacht- en FFN-sublagen deze krimp niet voldoende compenseren, vervallen de gradiënten die de eerdere lagen bereiken geometrisch met de diepte. Dit voorkomt dat de optimizer de similarity in de eerdere lagen kan herstellen.

B. Karakterisering van Gestorte Netwerken

De auteurs karakteriseren het gedrag van een gestort netwerk:

Loss Floor: Onder rank collapse is de optimale waarschijnlijkheidsverdeling die het netwerk kan bereiken de frequentieverdeling (waarbij token-waarschijnlijkheden proportioneel zijn aan hun voorkomen in de trainingsdata). Dit resulteert in een relatief hoge loss floor.
Gradient Vanishing: Wanneer de output overeenkomt met de frequentieverdeling en de hidden states ingestort zijn ($tsim=1$), verdwijnen de parameter gradiënten in de gestorte lagen exact. In combinatie met de geometrische decay van gradiënten in de eerdere lagen, bereikt het netwerk een bijna-stationair punt waar de optimalisatie stagneert.

C. Experimentele Verificatie

Initialisatie: Gemeten één-stap similarity incrementen komen overeen met de theoretische voorspellingen van Theorem 3.2 (aandacht) en Theorem 3.4 (FFN). Het verwijderen van de prefix-averaging component onderdrukt de groei van similarity, wat bevestigt dat dit de primaire drijfveer is.
Trainingsdynamica: In instortende runs observeren de auteurs een scherpe stijging in residual norms, een corresponderende daling in de RMSNorm contractie factor ( $c < 1$ ), en een geometrische decay van gradiënten in eerdere lagen.
Loss Gedrag: Gestorte training runs stabiliseren nabij de voorspelde frequentie loss, wat de theoretische ondergrens valideert.

4. Resultaten

Similarity Groei: Post-Norm netwerken vertonen snelle token similarity groei bij initialisatie en verzadigen snel, terwijl Pre-Norm netwerken een meer geleidelijke groei laten zien.
Gradient Contraction: Tijdens de overgang naar instorting neemt de gradiënt bijdrage factor ( $\alpha$ ) licht toe, maar de RMSNorm shrinkage factor ( $\sqrt{d}/\|y\|$ ) daalt significant, wat resulteert in een netto contractie ( $c < 1$ ) voor de meeste lagen.
Gradient Vanishing: Gradiënten naar eerdere lagen dalen met ordes van grootte tijdens het transitievenster, terwijl gradiënten in latere lagen relatief stabiel blijven.
Loss Convergentie: De training loss van gestorte runs komt nauw overeen met de frequentie loss berekend uit de trainingsdata, wat bevestigt dat het netwerk niet verder kan leren dan de statistische frequentie van tokens zodra het is ingestort.

5. Betekenis en Beperkingen

Betekenis:
Het artikel biedt een verenigde theoretische verklaring voor het falen van Post-Norm, waarbij onderscheid wordt gemaakt tussen forward similarity amplification (die het netwerk richting instorting duwt) en backward repair incapacity (die herstel verhindert). Het verheldert waarom Pre-Norm robuuster is: het vermijdt de constante amplificatie van similarity bij initialisatie en voorkomt dat de RMSNorm Jacobian het volledere backward signaal (inclusclusief de skip connection) laat krimpen.

Beperkingen:
De auteurs merken expliciet op dat hoewel ze uitleggen waarom similarity toeneemt en waarom gradiënten verdwijnen, ze niet verklaren wat de specifieke trigger is voor de scherpe stijging in de laatste-laag token similarity en de trainings loss bij een specifieke optimizer stap. Het identificeren van de precieze condities die deze transitie initiëren, blijft toekomstig werk. Daarnaast rust de theoretische analyse op benaderingen zoals de equal-correlation assumptie en de prefix-averaging surrogaat voor de aandacht-matrix.