Technische Samenvatting: Leverage Is Not Reach: Een Control-Window Wet voor Single-Neuron Steering in Taalmodellen

1. Probleemstelling

Hoewel afgestemde taalmodellen kritieke gedragingen (bijv. weigering, taalroutering, keuze van rekenkundige operator) reguleren via ijle feed-forward (FFN) neuronen, bestaat er momenteel geen theoretisch kader dat voorspelt wanneer interventie op een enkele neuron coherent gedrag aanstuurt versus wanneer het de output van het model doet instorten in degeneratieve tekst.

Twee fundamentele hiaten bestaan in de huidige literatuur:

1. Attributie-Interventie Discrepantie: Neuronen die door lokale gradiënt-attributie als belangrijk worden gerangschikt, falen vaak in het causaal aansturen van gedrag, terwijl ware controllers vaak onzichtbaar zijn voor gradiënten. Hoge "leverage" (het vermogen van een dosis om de modeltoestand te verplaatsen) voorspelt geen "reach" (het coherente gedragseffect).
2. Gebrek aan Voorspellende Theorie: Geen enkel bestaand principe verklaart waarom een specifieke interventie één gedrag coherent ombuigt terwijl een ander gedrag instort. Interventies bij vaste magnitudes leveren tegenstrijdige oordelen op, afhankelijk van de gekozen willekeurige dosis, wat voorkomt dat single-neuron controle een voorspelbaar, falsifieerbaar fenomeen is.

2. Methodologie: Het Budget-Genormaliseerde Control-Window Framework

De auteurs stellen een framework voor dat single-neuron interventie behandelt als een dosis-responsrelatie, analoog aan farmacologie. De kerninnovatie is het normaliseren van de interventiedosis tegenover de interne geometrie van het model in plaats van het gebruik van vaste magnitudes.

De Control Coördinaat

Een single-neuron interventie voegt een scalaire veelvoud $t$ van een write-richting $v$ (de down-projectie kolom van een FFN-neuron) toe aan de residual stream $r_L$:
$$r(t) = r_L + t v$$
Omdat de residual stream door normalisatie gaat, is alleen de richting van de verstoorde stream relevant. Het effect reduceert tot een enkele control coördinaat: de uitlijning tussen de verstoorde residual en de write-richting, $\cos \theta_v$.

Het Coherence Budget en de Universele Drive

De dosis wordt genormaliseerd door het coherence budget $B$, gedefinieerd als de ratio van de residual norm tot de write-richting norm:
$$B = \frac{\|r_L\|}{\|v\|}$$
De dimensieloze koppeling $g = t/B$ stuurt de control coördinaat aan langs een universele verzadigingscurve:
$$\cos \theta_v = \frac{g}{\sqrt{1 + g^2}}$$
Deze curve beschrijft hoe de residual roteert naar de write-richting naarmate de dosis toeneemt.

De Control-Window Wet

Coherente controle bestaat dan en slechts dan als de trigger threshold ($\cos \theta_{trig}^v$) van het gedrag onder het collapse ceiling ($\cos \theta_{coll}^v$) ligt:
$$\text{Coherent Control} \iff \cos \theta_{trig}^v(\tau) < \cos \theta_{coll}^v$$

• De Trigger: Een gedrag-afhankelijke drempel waarbij het gedrag omslaat. Deze varieert per gedragsklasse (bijv. $\approx 0.3$ voor taalroutering, $\approx 0.45$ voor weigering) en rollout horizon $\tau$.
• Het Ceiling: Een geometrie-afhankelijke drempel waar de output instort. Dit wordt voorspeld vanuit de modelgewichten en een enkele forward pass, geschaald met een collapse coefficient $m^*$ (gerelateerd aan de participation ratio van de residual).

3. Belangrijkste Bijdragen

1. Een Control-Window Wet op Eén Coördinaat: Het paper stelt vast dat het effect van elke dosis reduceert tot een enkele coördinaat, $\cos \theta_v$, volgend een universele drive curve. Coherente controle wordt strikt begrensd door een trigger (gedrag-specifiek) en een ceiling (geometrie-specifiek).
2. Prospectieve Ceiling Voorspelling: Het collapse ceiling kan worden voorspeld vóór interventie met enkel de gewichten en één generieke forward pass. Op 15 gehouden-afstaande neuronen had de voorspelde ceiling een Mean Absolute Error (MAE) van 0.14 (0.07 in bulk layers).
3. Drie Mechanismen voor Gesloten Vensters: Het paper identificeert drie redenen waarom een neuron kan falen in het aansturen van een gedrag:
   • Geometric Close: Het collapse ceiling is lager dan de trigger (geobserveerd in Gemma-modellen).
   • Drive-Capped Close: Post-FFN normalisatie beperkt de reach van het neuron onder de trigger (geobserveerd in Gemma).
   • Decoupled Close: De write vindt te laat in de netwerkdiepte plaats om te propageren voordat de output wordt gegenereerd.
4. Generaliteit over Gedragingen: De wet beheerst zowel benign mode switches (taalroutering, operatorkeuze) als veiligheidsgedragingen (weigering). De trigger-waarden verschillen per gedragsklasse, maar de onderliggende geometrie blijft consistent.
5. Levers vs. Reach (Gradient Blindness): Het paper demonstreert dat lokale gradiënt-attributie de controle anti-voorspelt. Ware controllers schrijven "off-axis" (loodrecht op de directe readout), wat resulteert in bijna nul eerste-orde gradiënten maar significante tweede-orde kromming. Bijgevolg zijn door gradiënt gerangschikte neuronen vaak collapse-gevoelig, terwijl de meest effectieve controllers onzichtbaar zijn voor standaard attributie.
6. Getypeerde Uitkomsten: Succesvolle interventie is niet louter een scalar maar "getypeerd". Een neuron kan coherent bypass bereiken (weigering ombuigen in vloeiende tekst) zonder strict-actionable reach te bereiken (het leveren van schadelijke, operationele inhoud). Deze twee uitkomsten ontkoppelen, met name in weigeringsscenario's.

4. Resultaten en Validatie

• Voorspellende Nauwkeurigheid: Het framework voorspelde succesvol het "open" of "gesloten" verdict voor 11 van de 15 gehouden-afstaande neuronen. De vier "misses" waren geen schendingen van de wet, maar informatieve edge cases (bijv. geometric closes, drive-capped closes of zwakke opens).
• Collapse Coefficient: De collapse coefficient $m^*$ bleek architectuur-afhankelijk. Het is $\approx 1.4\text{--}1.7$ voor de Qwen- en Llama-families, maar daalt naar $0.31$ voor Gemma-3, wat correleert met de participation ratio (concentratie) van de residual.
• Ontdekkings-efficiëntie: Een forward-only contrastieve screen gecombineerd met de control-window wet herstelde 4/4 bekende controllers die gradiënt-ranking miste (0/4). De contrastieve screen biedt recall, terwijl de window law precisie biedt.
• Refusal Audit: Bij een cohort weigeringsneuronen toonde de studie aan dat hoewel veel neuronen weigering coherent konden ombuigen, slechts een subset (3 van de 6 geauditeerde Llama pivots) werkelijke operationele schadelijke inhoud produceerde. Bovendien manifesteert operationele inhoud zich vaak laat in de rollout (na $\approx 96\text{--}128$ tokens), wat het onderscheidt van vroege-token bypass.
• Tweedimensionale Window: De control window wordt getoond als een oppervlakte over dosis en rollout tijd. Sommige gedragingen (zoals taalroutering) zijn token-lokaal, terwijl andere (zoals operator-switching) een rollout horizon vereisen om tot uiting te komen.

5. Betekenis en Claims

Het paper claimt de transformatie van single-neuron steering van een verzameling anekdoten naar een voorspelbare, falsifieerbare wet van deep learning mechanica.

• Unificatie: Het verenigt eerdere bevindingen (super weights, refusal neurons, arithmetic mechanisms) door ze op dezelfde control window te plaatsen, wat de schijnbare tegenstrijdigheden tussen controle, collapse en onzichtbaarheid oplost.
• Defensief Nut: Het biedt een "twee-assige veiligheidsdiagnostiek" (coherent-bypass marge vs. strict-actionable potentie), waardoor modeleigenaren robuustheid kunnen auditeren. Een model kan een breed bypass-venster hebben maar nul operationele reach, of een volledig gesloten venster.
• Methodologische Verschuiving: Het schrijft een nieuwe standaard voor interventie voor: budget-genormaliseerde dosering gelezen op de rollout horizon van het gedrag. Dit corrigeert de perceptie van neuronen die eerder als destructief werden bestempeld vanwege fixed-magnitude overshoot.
• Theoretisch Inzicht: Het verheldert dat "leverage is not reach." Ware controllers opereren door het zaaien van off-axis perturbaties die downstream circuits versterken, waardoor ze onzichtbaar worden voor eerste-orde gradiëntanalyse.

De auteurs concluderen dat hoewel het collapse ceiling voorspelbaar is vanuit de geometrie, de trigger waarde een gemeten grootheid blijft die afhankelijk is van de gedragsklasse en diepte, wat de primaire openstaande uitdaging vormt voor een volledig first-principles theorie. Het werk vestigt een meetdiscipline die het onderscheid maakt tussen gedragsmatige routing en capaciteits-reach, en biedt daarmee een rigoureus instrument voor het auditeren van model-controleerbaarheid.