Attention Sinks and Outliers in Attention Residuals

Sintesi Tecnica: OASIS – Instradamento Consapevole di Outlier e Sink per Architetture AttnResidual

Enunciato del Problema
Il documento affronta problemi critici di stabilità e robustezza che emergono nelle architetture AttnResidual, un design recente che sostituisce la normalizzazione standard Softmax a singolo livello con uno schema di dual-normalizzazione che governa sia l'instradamento dell'attenzione a livello di token che a livello di profondità. Sebbene AttnResidual migliori l'espressività rappresentativa, gli autori identificano una modalità di fallimento strutturale: il design a dual-normalizzazione esacerba i sink di attenzione e gli outlier di attivazione.

Nei Transformer standard, i sink di attenzione (ad esempio, il token <|begin_of_text|>) accumulano massa di probabilità per stabilizzare le rappresentazioni. Tuttavia, in AttnResidual, il vincolo aggiuntivo sul semplice per l'instradamento a livello di profondità costringe gli aggiornamenti "no-op" (identità) a essere espressi attraverso token reali e rami di profondità reali, piuttosto che attraverso un canale nullo esplicito. Questo vincolo necessita di logit pre-Softmax estremi per approssimare aggiornamenti di identità, portando a:

1. Sink di Attenzione Intensificati: Approfondimento della concentrazione sui token iniziali.
2. Outlier di Attivazione Amplificati: Gli stati nascosti mostrano distribuzioni a code pesanti (alta curtosi) e grandi norme infinito.
3. Fragilità della Quantizzazione: Questi outlier degradano la stabilità dell'inferenza e rendono la quantizzazione a basso numero di bit (ad esempio, W4A4, W8A8) significativamente meno robusta.
4. Collasso della Profondità: I pesi di instradamento collassano verso un singolo ramo dominante, facendo regredire efficacemente l'architettura a un comportamento residuo simile al vanilla.

Metodologia: OASIS
Gli autori propongono OASIS (Instradamento Consapevole di Outlier e Sink tramite Segnalazione Nullo Inter-strato), un intervento leggero che modifica lo strato di normalizzazione senza alterare l'obiettivo di addestramento o lo scheletro architetturale principale. OASIS opera su due fronti:

1. Instradamento Consapevole del Nullo (Softmax1):
   Il metodo sostituisce gli operatori Softmax standard sia a livello di token che a livello di profondità con Softmax1. Questa funzione introduce uno stato nullo esplicito (denotato come $\emptyset$) nel denominatore della normalizzazione.

   • Livello Token: Consente alla massa di attenzione di essere instradata a uno stato "nullo" invece di forzarla sui token reali.
   • Livello Profondità: Consente ai pesi di instradamento della profondità di assorbire la pressione "no-op" tramite uno strato nullo, prevenendo la concentrazione della massa su specifici rami di profondità.
   • Meccanismo: Disaccoppiando la massa non informativa dalla competizione tra token/rami reali, Softmax1 riduce la necessità di un'amplificazione estrema dei logit.

2. Accoppiamento Token-a-Profondità Nullo:
   Riconoscendo che l'instradamento a livello di token e a livello di profondità rimane disaccoppiato nel Softmax1 standard, OASIS introduce un meccanismo di accoppiamento. Aggrega le evidenze nulle a livello di token (la massa di probabilità instradata allo stato nullo attraverso le teste di attenzione) in una statistica scalare per ogni ramo sorgente. Questa statistica viene quindi iniettata nei logit di instradamento della profondità.

   • Effetto: I rami che mostrano un comportamento "no-op" elevato (alta massa nulla) vengono soppesati nell'instradamento della profondità, mentre i rami informativi vengono aumentati. Ciò previene che il router di profondità assegni un peso significativo a strati non informativi.

Contributi Chiave

• Identificazione del Fallimento Strutturale: Il documento identifica formalmente che il design a dual-normalizzazione di AttnResidual amplifica strutturalmente outlier e sink perché manca di un percorso nullo esplicito per aggiornamenti quasi-identità.
• Analisi Teorica: Gli autori forniscono prove teoriche (Lemma 5.1, 5.2; Teoremi 5.1, 5.2) che dimostrano che:
  • Senza un canale nullo, i vincoli quasi-no-op costringono la massa di attenzione su token a basso contributo, creando outlier.
  • La dual-normalizzazione porta a un collasso della profondità dove l'instradamento si concentra su rami con aggiornamenti minimi.
  • Softmax1 introduce una rotta nulla fattibile che disaccoppia il comportamento no-op dall'allocazione di token reali, riducendo teoricamente la pressione strutturale.
• Framework OASIS: Una modifica pratica e minima (sostituire Softmax con Softmax1 e aggiungere un termine di accoppiamento) che mitiga queste patologie.

Risultati Sperimentali
Gli autori hanno valutato OASIS su backbones Llama-3.2-1B e Qwen3-0.6B attraverso tre dataset reali (BookCorpus, Wiki40B, WikiText-2, GSM8K).

• Soppressione degli Outlier: Rispetto alla baseline Vanilla AttnResidual, OASIS ha ottenuto una riduzione media del 84,14% nella norma infinito massima e del 96,77% nella curtosi media.
• Robustezza alla Quantizzazione:
  • Sotto quantizzazione W8A8, OASIS ha ridotto la perplessità del 73,55% rispetto a Vanilla.
  • Sotto quantizzazione W4A4, OASIS ha migliorato l'accuratezza Pass@1 su GSM8K del 23,47%.
• Mitigazione dei Sink di Attenzione: L'analisi qualitativa delle mappe di attenzione ha mostrato che OASIS ridistribuisce efficacemente l'attenzione lontano dal sink dominante del primo token, producendo pattern di attenzione causale più fluidi e locali rispetto sia a Vanilla che a baseline intermedie (come AoS o OutEffHop).
• Confronto: OASIS ha costantemente superato le baseline, inclusi Clip Attention, Gated Attention, OutEffHop e normalizzatori sparsi (Sparsemax, Entmax15), sia nelle metriche degli outlier che nelle prestazioni sui compiti downstream sotto quantizzazione aggressiva.

Significato e Affermazioni
Il documento afferma che OASIS fornisce una soluzione fondata ai limiti di robustezza delle architetture dual-normalizzate. Introducendo capacità nulla esplicita, il metodo stabilizza l'instradamento residuo, permettendo ai modelli di gestire la compressione aggressiva (quantizzazione a basso numero di bit) e l'inferenza su contesti lunghi senza il degrado tipicamente causato dai sink di attenzione e dagli outlier di attivazione. Gli autori sottolineano che questi miglioramenti sono ottenuti senza cambiare l'obiettivo di addestramento, suggerendo che l'instradamento nullo esplicito è un meccanismo fondamentale per stabilizzare architetture residue complesse.

Limitazioni
Gli autori notano che la loro valutazione è attualmente limitata a specifici modelli backbone (1B e 0,6B parametri) e che è necessaria una validazione più ampia su modelli più grandi. Avvertono inoltre che un'eccessiva allocazione nulla potrebbe potenzialmente sopprimere segnali deboli utili o alterare l'interpretabilità delle mappe di attenzione, suggerendo lavori futuri sul controllo adattivo della forza nulla.