Technische Samenvatting: Super Weights in LLM's en het Falen van Selectieve Training

Probleemstelling

Recent onderzoek (Yu et al., 2025) heeft "Super Weights" geïdentificeerd—individuele scalaire parameters in Large Language Models (LLM's) waarvan de verwijdering de prestaties met ordes van grootte doet verslechteren. Deze bevinding suggereerde een hypothese: als specifieke parameters zo cruciaal zijn, dan zouden fine-tuning strategieën die doelbewust alleen deze "belangrijke" parameters targeten en updaten zeer effectief moeten zijn, potentieel superieur aan methoden die willekeurige of gedistribueerde subsets van parameters updaten.

Dit artikel daagt die hypothese uit. Het onderzoekt of parameterbelang (zoals gedefinieerd door de catastrofale mislukking bij verwijdering) impliceert dat parameters in isolatie trainbaar zijn. De auteurs testen of het trainen van enkel de Super Weights, of hun directe lokale omgeving, een model succesvol kan aanpassen, of dat dergelijke ijle, coördinaat-specifieke training leidt tot catastrofaal falen.

Methodologie

De auteurs voerden een uitgebreide reeks experimenten uit op OLMo-1B en OLMo-7B, met pruning-replicatie over 10 verschillende modelfamilies (inclusief Llama, Phi, Mistral en Gemma varianten).

1. Validatie van Super Weight Consistentie

Eerder werk identificeerde Super Weights via een enkele forward pass. De auteurs valideerden dat deze gewichten structurele eigenschappen van het model zijn in plaats van input-specifieke artefacten door 1.000 willekeurige WikiText-2 samples te draaien. Ze vonden dat 9 specifieke gewichtsposities consistent de grootste activatiepieken produceerden over 100% van de inputs, wat de structurele stabiliteit bevestigt.

2. Pruning Replicatie

De auteurs repliceerden de pruning-experimenten van Yu et al. (2025) over meerdere architecturen. Ze zetten de geïdentificeerde Super Weight-coördinaten op nul en maten de impact op perplexiteit en nauwkeurigheid (ARC-Easy, Winogrande). Ze testten ook of eenvoudige magnitude-gebaseerde ranking in staat was om Super Weights te identificeren in modellen die niet door het originele paper werden behandeld.

3. Selectieve Training Experimenten

De kern van de studie bestond uit het trainen van geïsoleerde subsets van parameters terwijl de rest werd bevroren:

• Directe Super Weight Training: Alleen de top-$k$ Super Weights trainen ($k \in \{100, 1000, 4096, 8192\}$).
• Neighborhood Training: Super Weights trainen plus alle parameters binnen een straal van 1 (vormend $3 \times 3$ patches), waarbij het aantal trainbare parameters wordt verhoogd tot ~36.864.
• Random Control: Een gelijk aantal willekeurig gekozen posities in dezelfde lagen trainen (down proj), waarbij de Super Weight-coördinaten worden uitgesloten om het effect van ijleheid versus coördinaatselectie te isoleren.
• LoRA Varianten:
  • Vanilla LoRA: Standaard low-rank adaptatie op attention-lagen.
  • LoRA-dproj-SW-freeze: Het beperken van LoRA-updates bij attention-posities waarvan de indices overeenkomen met de Super Weight-coördinaten in de down-projection (MLP) lagen.
  • LoRA-$\Delta W$-SW-freeze: Het bevriezen van de top-1.000 hoogste magnitude posities binnen de LoRA-update matrix ($\Delta W$) zelf.

4. Theoretische Analyse

De auteurs leverden theoretische argumenten met betrekking tot:

• Intrinsieke Dimensionaliteit: IJle coördinaat-gealigneerde updates vangen slechts een verwaarloosbaar deel ($k/N$) van de fine-tuning subspace op vergeleken met low-rank decomposities.
• Optimizer Dynamiek: Adaptieve optimizers onderdrukken updates bij Super Weight-posities impliciet vanwege de $M^2$-voud grotere kromming (Hessian) bij deze outlier locaties, waarbij $M$ de activatie-amplificatieverhouding is.

Belangrijkste Resultaten

1. Falen van Geïsoleerde Super Weight Training

Het trainen van Super Weights in isolatie resulteerde in een volledige instorting van de prestaties, met een daling van de nauwkeurigheid naar niveau van willekeurig gokken (~25% voor 4-keuze ARC-Easy, ~50% voor 2-keuze Winogrande) op zowel OLMo-1B als OLMo-7B.

• Het verhogen van het aantal getrainde parameters van 100 naar 8.192 bood geen verbetering.
• Het uitbreiden naar lokale buren (tot 36.864 parameters) faalde ook om de prestaties te herstellen.
• De trainingsverlies nam af tijdens optimalisatie, maar de validatie-perplexiteit explodeerde, wat duidt op overfitting op de trainingsdata zonder generalisatie.

2. Specificiteit van het Falen

Het falen is specifiek voor de Super Weight coördinaten, niet voor de ijleheid of het type module:

• Random Control: Het trainen van een gelijk aantal willekeurig gekozen posities in dezelfde down-projection lagen verbeterde de nauwkeurigheid ten opzichte van de baseline (64,18% vs. 60,65% voor OLMo-1B).
• Low-Rank Control: Het toepassen van een rank-8 low-rank update op de down-projection laag slaagde ook (68,77%).
• Conclusie: De instorting wordt veroorzaakt door het targeten van de specifieke Super Weight-coördinaten, wat de relationele structuur waar het gepreinteinde model op vertrouwt, verbreekt.

3. Robuustheid van LoRA

• Vanilla LoRA slaagde met 0,16% van de parameters, met een resultaat van 66,88% (OLMo-1B) en 77,3% (OLMo-7B).
• Positionele Beperkingen: Het bevriezen van attention-update posities die overeenkomen met Super Weight-coördinaten (LoRA-dproj-SW-freeze) had geen meetbaar effect op de prestaties. Een ablatiestudie met 10 seeds bevestigde statistisch ononderscheidbare resultaten ($p > 0,05$) tussen vanilla LoRA en de beperkte variant.
• LoRA-Interne Criticaliteit: Het bevriezen van de hoogste magnitude posities binnen de LoRA-update matrix ($\Delta W$) had ook geen effect, in contrast met het catastrofale falen van het bevriezen van de base model Super Weights.

4. Pruning Generalisatie

Hoewel het prunen van Super Weights catastrofale degradatie veroorzaakte in OLMo, Phi-3, Mistral en Llama-3-8B (met behulp van de originele coördinaten), faalde eenvoudige magnitude-gebaseerde identificatie om kritieke gewichten in andere modellen (bijv. Llama-3.1, Qwen2.5, Gemma-2) te identificeren. Dit suggereert dat Super Weights model-familie specifieke activatie-outliers zijn, en niet universeel gedefinieerd worden door magnitude alleen.

Betekenis en Claims

Het artikel stelt vast dat parameterbelang niet impliceert dat parameters in isolatie trainbaar zijn. De auteurs beargumenteren dat:

1. Structureel vs. Trainbaar: Super Weights fungeren als vaste, hoog-gain versterkers. Het isolerend wijzigen van hen verbreekt de gecoördineerde structuur van het netwerk. Effectieve fine-tuning vereist het updaten van de representaties die in deze gewichten stromen (via attention-lagen in LoRA) in plaats van de gewichten zelf.
2. Coördinatie boven IJleheid: Succes in PEFT berust op gestructureerde decomposities over volledige lagen (zoals de low-rank structuur van LoRA) in plaats van het targeten van individueel belangrijke gewichten. LoRA slaagt omdat de low-rank factorisatie updates coördineert over de gehele laag, waardoor de relationele structuur behouden blijft, terwijl ijle training parameters isoleert en deze afhankelijkheden verstoort.
3. Optimizer Dynamiek: Theoretische analyse suggereert dat adaptieve optimizers Super Weights impliciet beschermen door updates te onderdrukken vanwege de hoge kromming. Het expliciet trainen van deze posities overschrijft deze bescherming, wat leidt tot instabiliteit en instorting.

De auteurs concluderen dat toekomstige PEFT-methoden hun efficiëntie moeten ontlenen aan gestructureerde, layer-brede decomposities in plaats van te proberen "kritieke" individuele parameters te identificeren en te updaten.