From Observation to Intervention: A Causal Audit of Expert Importance in Mixture-of-Experts Models

Sintesi Tecnica: Dall'Osservazione all'Intervento

Problema
I metodi di interpretabilità nel machine learning si affidano frequentemente a un salto logico: trattare le statistiche riassuntive a livello di popolazione dei comportamenti osservati del modello come predittori validi per gli esiti di interventi mirati. Nel contesto dei modelli Mixture-of-Experts (MoE), ciò si manifesta nei processi di pruning dove metriche osservazionali — come i tassi di utilizzo degli esperti, le norme di attivazione e le distribuzioni dei pesi di routing — vengono utilizzate per classificare gli esperti da rimuovere. L'assunto implicito è che gli esperti con punteggi osservazionali più elevati svolgano un lavoro più critico e, pertanto, la rimozione degli esperti con punteggi bassi non degraderà la funzionalità del modello. Tuttavia, come notato da studi precedenti sui pesi dell'attenzione (Jain & Wallace, 2019) e sulle mappe di salienza (Adebayo et al., 2020), l'evidenza associativa (il "gradino 1" di Pearl) non supporta automaticamente le conclusioni interventive ("gradino 2"). Questo articolo investiga se le statistiche di routing osservazionali nei modelli MoE predicano effettivamente l'importanza causale dell'esperto a livello di token.

Metodologia
Gli autori conducono un "audit causale" attraverso tre architetture MoE ad alta ridondanza: OLMoE-1B-7B-0924, Qwen1.5-MoE-A2.7B e DeepSeek-V2-Lite. Questi modelli spaziano tra diverse dimensioni di design, inclusi differenti strategie di bilanciamento del carico, rapporti di attivazione top-k (6,7%–12,5%) e paradigmi di addestramento (da zero o upcycled).

Il protocollo di audit prevede le seguenti fasi:

1. Selezione delle Metriche: Vengono testate quattro metriche osservazionali canoniche: tasso di utilizzo, norma di attivazione, peso medio di routing quando attivo e deviazione standard dell'attivazione.
2. Verità Fondamentale Interventiva (Ground Truth): Per ogni metrica, gli autori eseguono esperimenti di ablazione per singolo token. In 200 posizioni di token campionate per livello, identificano l'insieme degli esperti attivi, li classificano in base alla metrica target e ablatano (azzerano) gli esperti con il rango più alto e quello più basso.
3. Misurazione Causale: L' "importanza funzionale" di un esperto è misurata dalla variazione della perdita ($\Delta L$) e dallo spostamento dello stream residuo (gap norm) derivanti dall'ablazione.
4. Test Statistici: Un t-test accoppiato e un test di Wilcoxon signed-rank vengono utilizzati per determinare se l'ablazione di esperti ad alto rango causi variazioni della perdita significativamente maggiori rispetto l'ablazione di esperti a basso rango. Gli effetti sono misurati tramite il Cohen's $d$.
5. Controlli:
   • Correzione per Confronti Multipli: La correzione di Bonferroni è applicata attraverso i 60 accoppiamenti metrica-livello testati (4 metriche $\times$ 5 livelli $\times$ 3 modelli).
   • Controllo del Peso di Routing: Un esperimento parallelo utilizza direttamente i pesi di routing per singolo token ($g_i(x_t)$) come criterio di classificazione. Questo funge da limite superiore del segnale predittivo, poiché è condizionato al token anziché mediato sulla popolazione.
   • Ablazione Progressiva: Un esperimento su OLMoE rimuove $k$ esperti con il peso più alto per valutare il buffer di ridondanza nei primi livelli.

Risultati Chiave
Lo studio produce un "null costante su tre modelli" riguardo alle metriche osservazionali:

• Assenza di Potere Predittivo: Nessuna delle quattro metriche osservazionali ha raggiunto la significatività corretta per Bonferroni ($p < 0,0025$) in nessuno dei 60 casi metrica-livello. Gli effetti sono rimasti al di sotto di Cohen's $d = 0,17$ in tutte le combinazioni.
• Segni Inconsistenti: La direzione degli effetti (positiva o negativa) è stata incoerente tra i livelli all'interno della stessa metrica, un pattern caratteristico delle distribuzioni nulle piuttosto che di deboli effetti reali.
• Controllo del Peso di Routing: L'esperimento di controllo utilizzando i pesi di routing diretti per singolo token ha recuperato un singolo segnale statisticamente significativo secondo Bonferroni in OLMoE nell'ultimo livello MoE (Livello 15, $d = +0,231, p = 0,0013$). Ciò indica che l'impostazione sperimentale ha una potenza sufficiente per rilevare segnali, ma tali segnali sono assenti per le statistiche di livello di popolazione.
• Regime di Ridondanza: L'ablazione progressiva su OLMoE ha rivelato che nei primi livelli (0–9), la rimozione di fino a sette degli otto esperti attivi ha prodotto variazioni di perdita trascurabili. Ciò conferma che la ridondanza dei primi livelli rende i criteri di selezione quasi intercambiabili; il pruning ha successo non perché le metriche identifichino esperti dispensabili, ma perché quasi tutti gli esperti in questi livelli sono dispensabili.
• Anomalia degli Ultimi Livelli di OLMoE: Il singolo segnale significativo in OLMoE Livello 15 coincide con un aumento di 41 volte dello spostamento dello stream residuo rispetto ai livelli iniziali. Tuttavia, questo segnale è unico per OLMoE e non appare in Qwen o DeepSeek, suggerendo che non sia una proprietà generale delle MoE ad alta ridondanza.

Significatività e Rivendicazioni
L'articolo formula una rivendicazione modesta ma rigorosa: fornisce un esplicito controesempio al comune passaggio inferenziale dalle sintesi osservazionali a livello di popolazione alle affermazioni interventive a livello di token sull'importanza dell'esperto.

• Fallimento dell'Inferenza: I risultati dimostrano che le statistiche di routing osservazionali non autorizzano predizioni interventive a livello di token. Il successo degli attuali metodi di pruning è attribuito alla ridondanza strutturale dei primi livelli piuttosto che alla validità delle metriche utilizzate per selezionare gli esperti.
• Gerarchia Causale: Il lavoro illustra un fallimento al confine tra il gradino 1 (associazione) e il gradino 2 (intervento) di Pearl. Proprio come i pesi dell'attenzione e le mappe di salienza non sono riusciti a predire gli esiti degli interventi in studi precedenti, anche le statistiche di routing MoE falliscono nel servire come proxy validi per l'importanza causale.
• Limiti di Ambito: Gli autori chiariscono che l'audit è focalizzato sul singolo token e sull'ablazione singola. Non falsifica la pipeline di pruning implementata (che spesso include il fine-tuning), ma rimuove la giustificazione meccanicistica per singolo token che tali pipeline presuppongono. Le scoperte sono specifiche per le architetture ad alta ridondanza; la validità delle metriche nei modelli a bassa ridondanza (es. Switch, Mixtral) rimane una questione aperta.

In conclusione, l'articolo sostiene che le affermazioni di interpretabilità che richiedono generalizzazione debbano essere supportate da evidenza intervettiva e che, nel caso specifico del pruning MoE, i comuni proxy osservazionali falliscono questo test.