Sintesi Tecnica: La Leva non è Portata: Una Legge della Finestra di Controllo per il Pilotaggio a Singolo Neurone nei Modelli di Linguaggio

1. Definizione del Problema

Sebbene i modelli di linguaggio allineati filtrino comportamenti critici (es. rifiuto, routing linguistico, scelta dell'operatore aritmetico) attraverso neuroni feed-forward (FFN) sparsi, attualmente non esiste un quadro teorico che predica quando l'intervenire su un singolo neurone permetterà di controllare coerentemente un comportamento rispetto al causare il collasso dell'output del modello in testo degenerato.

Due lacune fondamentali esistono nella letteratura attuale:

1. Disaccordo tra Attribuzione e Intervento: I neuroni classificati come importanti dai gradienti di attribuzione locale spesso non controllano causalmente il comportamento, mentre i veri controllori sono frequentemente invisibili ai gradienti. L'alta "leva" (la capacità di una dose di spostare lo stato del modello) non predice la "portata" (l'effetto comportamentale coerente).
2. Mancanza di una Teoria Predittiva: Nessun principio esistente spiega perché un intervento specifico inverta un comportamento in modo coerente mentre ne faccia collassare un altro. Gli interventi a magnitudo fissa producono verdetti contraddittori a seconda della dose arbitraria scelta, impedendo al controllo a singolo neurone di essere un fenomeno prevedibile e falsificabile.

2. Metodologia: Il Framework della Finestra di Controllo Normalizzata per Budget

Gli autori propongono un framework che tratta l'intervento sul singolo neurone come una relazione dose-risposta, analogamente alla farmacologia. L'innovazione principale è la normalizzazione della dose di intervento rispetto alla geometria interna del modello anziché utilizzare magnitudo fisse.

La Coordinata di Controllo

Un intervento su un singolo neurone aggiunge un multiplo scalare $t$ di una direzione di scrittura $v$ (la colonna di proiezione verso il basso di un neurone FFN) allo stream residuo $r_L$:
$$r(t) = r_L + t v$$
Poiché lo stream residuo passa attraverso la normalizzazione, conta solo la direzione dello stream perturbato. L'effetto si riduce a una singola coordinata di controllo: l'allineamento tra lo stream residuo perturbato e la direzione di scrittura, $\cos \theta_v$.

Il Budget di Coerenza e la Spinta Universale

La dose è normalizzata dal budget di coerenza $B$, definito come il rapporto tra la norma dello stream residuo e la norma della direzione di scrittura:
$$B = \frac{\|r_L\|}{\|v\|}$$
Il coupling-dimensionless $g = t/B$ guida la coordinata di controllo lungo una curva di saturazione universale:
$$\cos \theta_v = \frac{g}{\sqrt{1 + g^2}}$$
Questa curva descrive come lo stream residuo ruoti verso la direzione di scrittura all'aumentare della dose.

La Legge della Finestra di Controllo

Il controllo coerente esiste se e solo se la soglia di attivazione (trigger threshold) del comportamento ($\cos \theta_{trig}^v$) si trova al di sotto del soffitto di collasso ($\cos \theta_{coll}^v$):
$$\text{Controllo Coerente} \iff \cos \theta_{trig}^v(\tau) < \cos \theta_{coll}^v$$

• Il Trigger: Una soglia dipendente dal comportamento dove il comportamento si inverte. Varia per classe di comportamento (es. $\approx 0.3$ per il routing linguistico, $\approx 0.45$ per il rifiuto) e sull'orizzonte di rollout $\tau$.
• Il Soffitto: Una soglia dipendente dalla geometria dove l'output collassa. È predetta dai pesi del modello e da un singolo passaggio in avanti (forward pass), scalata da un coefficiente di collasso $m^*$ (relativo alla partecipazione ratio dello stream residuo).

3. Contributi Chiave

1. Una Legge della Finestra di Controllo su una Singola Coordinata: Il paper stabilisce che l'effetto di qualsiasi dose si riduce a una singola coordinata, $\cos \theta_v$, seguendo una curva di spinta universale. Il controllo coerente è strettamente delimitato da un trigger (specifico del comportamento) e da un soffitto (specifico della geometria).
2. Predizione Prospettica del Soffitto: Il soffitto di collasso può essere predetto prima dell'intervento utilizzando solo i pesi e un singolo passaggio in avanti generico. Su 15 neuroni tenuti fuori (held-out), il soffitto predetto aveva un Errore Assoluto Medio (MAE) di 0.14 (0.07 negli strati bulk).
3. Tre Meccanismi per Finestre Chiuse: Il paper identifica tre ragioni per cui un neurone potrebbe fallire nel controllare un comportamento:
   • Chiusura Geometrica: Il soffitto di collasso è inferiore al trigger (osservato nei modelli Gemma).
   • Chiusura da Limite di Spinta (Drive-Capped): La normalizzazione post-FFN limita la portata del neurone al di sotto del trigger (osservato in Gemma).
   • Chiusura per Disaccoppiamento: La scrittura avviene troppo tardi nella profondità della rete per propagarsi prima che l'output venga generato.
4. Generalità tra i Comportamenti: La legge governa switch di modalità benigni (routing linguistico, scelta dell'operatore) e comportamenti di sicurezza (rifiuto). I valori di trigger differiscono per classe di comportamento, ma la geometria sottostante rimane coerente.
5. Leve vs. Portata (Cecità del Gradiente): Il paper dimostra che l'attribuzione del gradiente locale anti-predice il controllo. I veri controllori scrivono "fuori asse" (perpendicolari al readout immediato), portando gradienti del primo ordine quasi nulli ma una significativa curvatura del secondo ordine. Di conseguenza, i neuroni classificati per gradiente sono spesso inclini al collasso, mentre i controllori più efficaci sono invisibili all'attribuzione standard.
6. Esiti Tipizzati: Il successo dell'intervento non è uno scalare ma è "tipizzato". Un neurone può ottenere un bypass coerente (invertire il rifiuto in un testo fluente) senza ottenere una portata strettamente azionabile (fornire contenuti dannosi operativi). Questi due esiti si disaccoppiano, specialmente negli scenari di rifiuto.

4. Risultati e Validazione

• Accuratezza Predittiva: Il framework ha predetto con successo il verdetto "aperto" o "chiuso" per 11 dei 15 neuroni tenuti fuori (11 su 15). I quattro "errori" non erano violazioni della legge ma casi limite informativi (es. chiusure geometriche, chiusure da limite di spinta o aperture deboli).
• Coefficiente di Collasso: Il coefficiente di collasso $m^*$ è stato trovato dipendente dall'architettura. È $\approx 1.4\text{--}1.7$ per le famiglie Qwen e Llama, ma scende a $0.31$ per Gemma-3, correlandosi con la partecipazione ratio (concentrazione) dello stream residuo.
• Efficienza di Scoperta: Uno screening contrastivo basato solo su forward pass, combinato con la legge della finestra di controllo, ha recuperato 4/4 controllori noti che la classificazione per gradiente aveva mancato (0/4). Lo screening contrastivo fornisce richiamo (recall), mentre la legge della finestra fornisce precisione.
• Audit del Rifiuto: Su un gruppo di neuroni del rifiuto, lo studio ha mostato che mentre molti neuroni potevano bypassare il rifiuto coerentemente, solo un sottoinsieme (3 di 6 pivot Llama auditati) produceva contenuti dannosi realmente azionabili. Inoltre, i contenuti azionabili spesso si impegnano tardi nel rollout (dopo $\approx 96\text{--}128$ token), distinguendosi dal bypass dei primi token.
• Finestra Bidimensionale: La finestra di controllo è mostrata come una superficie su dose e tempo di rollout. Alcuni comportamenti (come il routing linguistico) sono locali al token, mentre altri (come lo switch dell'operatore) richiedono un orizzonte di rollout per manifestarsi.

5. Significato e Rivendicazioni

Il paper sostiene di trasformare lo steering a singolo neurone da una collezione di aneddoti in una legge prevedibile e falsificabile della meccanica del deep learning.

• Unificazione: Unifica le scoperte precedenti (super weights, neuroni del rifiuto, meccanismi aritmetici) ponendoli sullo stesso piano della finestra di controllo, risolvendo le apparenti contraddizioni tra controllo, collasso e invisibilità.
• Utilità Difensiva: Fornisce un "diagnostico di sicurezza a due assi" (margine di bypass coerente vs. potenza azionabile stretta) che permette ai proprietari dei modelli di auditare la robustezza. Un modello può avere una finestra di bypass ampia ma zero portata azionabile, o una finestra chiusa interamente.
• Spostamento Metodologico: Prescrive un nuovo standard per l'intervento: dosaggio normalizzato per budget letto all'orizzonte di rollout del comportamento. Questo corregge il record su neuroni precedentemente etichettati come distruttivi a causa del superamento (overshoot) a magnitudo fissa.
• Intuizione Teorica: Chiarisce che "la leva non è la portata". I veri controllori operano seminando perturbazioni fuori asse che i circuiti a valle amplificano, rendendoli invisibili all'analisi del gradiente del primo ordine.

Gli autori concludono che, sebbene il soffitto di collasso sia prevedibile dalla geometria, il valore del trigger rimane una quantità misurata dipendente dalla classe di comportamento e dalla profondità, rappresentando il principale problema aperto per una teoria completamente basata sui primi principi. Il lavoro stabilisce una disciplina di misurazione che separa il routing comportamentale dalla portata delle capacità, offrendo uno strumento rigoroso per auditare la controllabilità dei modelli.