Technische Samenvatting: RDQ (Residual Distribution Quantization) voor Large Language Models

1. Probleemstelling: De degradatiebarrière onder de 4-bit

Post-training kwantisatie (PTQ) van Large Language Models (LLM's) kampt met een scherpe prestatieklif wanneer de precisie wordt verlaagd onder de 4 bits. Terwijl 4-bit methoden vaak de FP16-kwaliteit benaderen, resulteert 3-bit kwantisatie vaak in catastrofale degradatie. Bijvoorbeeld, op LLaMA-3-8B stijgt de perplexiteit (PPL) van de Round-to-Nearest (RTN) methode van 5,83 bij W4 naar 14,09 bij W3—een toename van 2,42× voor slechts een reductie van 1,33× in bitbreedte.

Het artikel identificeert de oorzaak van dit falen als residual stream distributional drift (distributieve drift in de residuële stroom). In transformer-architecturen is de residuële stroom $h_l$ een gedeelde representatie die door elke laag wordt gelezen en geschreven. Wanneer een laag $l$ wordt gekwantiseerd, introduceert het een fout $\epsilon_l$ die persisteert in de residuële stroom $h_{l+1}$. Deze fout accumuleert over de lagen heen, waardoor de distributie van activaties in diepere lagen significant afwijkt van de oorspronkelijke FP16-baseline.

Belangrijke empirische bevindingen die dit probleem diagnosticeren zijn onder meer:

• Superlineaire drift-accumulatie: De totale Kullback-Leibler (KL) divergentie tussen de gekwantiseerde en FP16 residuële distributies correleert met de log-perplexiteit met een Pearson-correlatie van $r=0,999$ ($p<0,001$) over alle geteste methoden en bitbreedtes.
• Niet-Gaussische distributies: 84% van de lagen in LLaMA-3-8B vertoont niet-Gaussische residuële distributies (Kolmogorov-Smirnov test, $p \le 0,05$), wat de Gaussische aannames die impliciet zijn in veel bestaande PTQ-theoretische analyses, ongeldig maakt.
• Variantie-explosie: De variantie van de residuële stroom per laag groeit met een factor 6.548× over de diepte van het model, wat aangeeft dat latere lagen categorisch gevoeliger zijn voor de upstream kwantisatiefouten.

2. Methodologie: Cascaded Error Compensation (CEC)

De voorgestelde oplossing, RDQ (Residual Distribution Quantization), introduceert een framework gecentreerd rond Cascaded Error Compensation (CEC). In tegenstelling tot eerdere PTQ-methoden (bijv. GPTQ, AWQ, SpinQuant) die elke laag onafhankelijk optimaliseren tegen schone FP16-inputs, erkent CEC dat een laag $l$ tijdens inferentie inputs ontvangt die al zijn vervormd door de kwantisatie van alle upstream lagen $0 \dots l-1$.

De CEC Pipeline

CEC hanteert een sequentiële kalibratieprocedure:

1. Sequentiële Verwerking: Lagen worden één voor één gekwantiseerd van $l=0$ tot $L-1$.
2. Capture van de Drifted Activations: Voordat laag $l$ wordt gekwantiseerd, wordt kalibratiedata door het model geleid waarbij lagen $0 \dots l-1$ reeds gekwantiseerd zijn. Dit legt de werkelijke, gedrifte activatie-distributies ($\hat{h}_l$) vast die laag $l$ tijdens inferentie zal tegenkomen.
3. Per-Channel Scale Fitting: Met behulp van deze gevangen gedrifte inputs past de methode optimale per-kanaal schalen toe middels een AWQ-stijl grid search. Het doel is om de reconstructiefout van de output te minimaliseren, gegeven de specifieke gedrifte inputdistributie.
4. Wiskundige Equivalentie via Folding: De geleerde schalen worden "gefold" in de voorafgaande RMSNorm-gewichten. Dit zorgt ervoor dat de methode wiskundig exact is en nul runtime overhead veroorzaakt. De forward pass blijft identiek aan een standaard gekwantiseerd model, compatibel met bestaande inferentie-stacks (Qualcomm AIMET, GGUF, etc.).

Belangrijkste onderscheid van eerder werk

Het artikel benadrukt dat de cruciale innovatie niet de schaalformule zelf is (die AWQ-stijl blijft), maar de bron van de kalibratiedata. Standaard methoden kalibreren tegen geïdealiseerde FP16-inputs, die bij diepere lagen tijdens inferentie niet bestaan. CEC kalibreert tegen de werkelijke gedrifte distributie.

3. Belangrijkste Bijdragen

1. Identificatie van Residual Stream Drift: De auteurs stellen vast dat residuële stroom drift de dominante mechanisme is voor sub-4-bit degradatie, bewezen door de bijna perfecte correlatie ($r=0,999$) tussen KL-drift en log-PPL.
2. Distributieve Karakterisering: Het artikel documenteert dat 84% van de LLaMA-3-8B lagen niet-Gaussisch zijn en dat de residuële variantie 6.548× groeit over de diepte, wat standaard PTQ-aannames uitdaagt.
3. Cascaded Error Compensation (CEC): Een sequentiële kalibratieprocedure die de accumulatie van cross-layer drift corrigeert, waarbij een reductie van 46,4% in PPL wordt bereikt ten opzichte van RTN bij W3 op LLaMA-3-8B.
4. State-of-the-Art Prestaties: RDQ behaalt de beste resultaten over drie diverse architecturen (LLaMA-3-8B, Qwen-2.5-7B, Mistral-7B) bij zowel W3A16 als W4A16, waarbij het de beste gepubliceerde baselines (LeanQuant, SpinQuant) in elke geteste configuratie verslaat.
5. Zero-Overhead Deployment: De output is standaard group-128 asymmetrische kwantisatie met aangepaste RMSNorm-scalars, wat geen custom kernels of runtime overhead vereist.

4. Experimentele Resultaten

De methode werd geëvalueerd op WikiText-2 met 32 kalibratiesequenties.

Prestatie-metrieken (Perplexity):

• LLaMA-3-8B:
  • W3A16: 7,55 (vs. RTN 14,09, LeanQuant 7,61).
  • W4A16: 5,62 (vs. FP16 5,557, LeanQuant 6,92).
• Qwen-2.5-7B:
  • W3A16: 7,46 (vs. RTN 8,20, LeanQuant 8,30).
  • W4A16: 6,38 (vs. FP16 6,158, LeanQuant 7,25).
• Mistral-7B:
  • W3A16: 6,88 (vs. RTN 7,44, LeanQuant 7,30).
  • W4A16: 5,73 (vs. FP16 5,632, LeanQuant 6,20).

Ablatie-studies:

• Sequential Calibration vs. Scaling: Het artikel demonstreert dat sequentiële kalibratie alleen (zonder AWQ-scaling) de prestaties daadwerkelijk verslechtert vergeleken met RTN op Qwen (10,31 PPL vs. 8,20 PPL). Omgekeerd presteert het toepassen van AWQ-scaling op statische FP16-kalibratie ook ondermaats (9,49 PPL). De combinatie van sequentiële drift-bewuste kalibratie en AWQ-stijl scaling is noodzakelijk voor de geobserveerde winst.
• Generalisatie: De methode generaliseert over architecturen met verschillende mechanismen (GQA, RoPE, Sliding Window), wat suggereert dat de drift-correctie mechanisme architectuur-agnostisch is.

5. Betekenis en Claims

Het artikel positioneert RDQ niet louter als een engineeringverbetering in PTQ, maar als een fundamenteel inzicht in de distributieve dynamiek van transformers onder kwantisatie.

• Voorspelbaarheid: De auteurs beweren dat de kwaliteit van kwantisatie voorspelbaar is vanuit een enkele scalar (totale KL-drift), en dat het controleren van deze drift de perplexiteit controleert.
• Correctie van Failure Modes: Het werk identificeert dat de dominante failure mode van sub-4-bit PTQ niet de per-layer weight error is, maar de accumulatie van cross-layer drift. Statische kalibratiemethoden falen omdat ze optimaliseren voor een distributie (schone FP16) die de laag tijdens inferentie nooit ziet.
• Robuustheid: Door schalen aan te passen aan de werkelijke gedrifte activaties, omzeilt CEC architectuur-specifieke heuristieken (zoals AWQ's salient channel detectie) die kunnen falen op modellen met andere gewichtsdistributies (bijv. Qwen).
• Theoretische Beperkingen: Het artikel merkt bescheiden op dat hoewel er een theoretische grens bestaat voor Gaussische regimes, deze niet van toepassing is op de werkelijke setting waar 84% van de lagen niet-Gaussisch is. De geobserveerde prestatiewinsten zijn empirisch, gedreven door het drift-correctie mechanisme in plaats van een strikte theoretische grens.

Concluderend stelt RDQ vast dat het aanpakken van de "drift" in de residuële stroom de sleutel is tot het ontsluiten van robuuste 3-bit kwantisatie, waarbij een schaalbare, zero-overhead oplossing wordt geboden die de huidige state-of-the-art methoden over meerdere modelfamilies heen verslaat.