Riepilogo Tecnico: Confronto tra Probes Lineari e Similiarità Coseno di Mahalanobis

Definizione del Problema

I linear probes sono strumenti standard nella ricerca sull'interpretabilità per estrarre concetti dalle rappresentazioni delle reti neurali. Tuttavia, il loro comportamento di trasferimento è notoriamente fragile; i probe addestrati su dati in-distribuzione (ID) spesso falliscono nel generalizzare a scenari out-of-distribution (OOD), anche di fronte a cambiamenti sottili come la negazione o variazioni nel formato dei prompt. Una sfida critica consiste nel determinare quali probe generalizzeranno e nel comprendere perché probe che appaiono simili su una distribuzione divergono su un'altra.

Gli attuali metodi per confrontare i probe si basano tipicamente sulla similitudine coseno euclidea (ECS). Tuttavia, l'ECS tratta tutte le dimensioni allo stesso modo, ignorando il fatto che solo le dimensioni in cui i dati variano significativamente impattano sulle prestazioni del probe. Sebbene Ying et al. (2026) abbiano osservato empiricamente che la similità coseno di Mahalanobis (MCS) — che ripesa il prodotto interno tramite la covarianza dei dati OOD — predice linearmente l'AUROC OOD ($R^2=0.98$) per i dataset di verità (truthfulness), questo reperimento mancava di una spiegazione teorica e non era stato validato attraverso diversi modelli, strati o domini concettuali.

Metodologia

Gli autori propongono un framework teorico ed empirico per spiegare e validare la relazione tra la MCS e la performance di generalizzazione OOD.

Framework Teorico

Il documento deriva una relazione in forma chiusa tra l'AUROC OOD di un probe e la sua MCS rispetto a un probe di riferimento addestrato su dati OOD. La derivazione si basa su tre assunzioni statistiche standard:

1. Classi Bilanciate: $Pr(Y=0) = Pr(Y=1) = 0.5$.
2. Gaussianità della Proiezione: La proiezione del vettore delle caratteristiche su qualsiasi direzione del probe segue una distribuzione Gaussiana per ogni classe.
3. Struttura della Covarianza: La covarianza totale ($\Sigma_{tot}$) è decomposta nella covarianza aggregata entro la classe ($\Sigma_{pool}$) e nella componente tra le classi.

Sotto queste assunzioni, gli autori dimostrano che:

• L'AUROC è una funzione a forma sigmoide del rapporto segnale-rumore (SNR) del probe, $s$: $AUROC = \Phi(s/\sqrt{2})$.
• La MCS (specificamente contro la direzione del discriminante di Fisher) è una funzione a forma di soft-sign di $s$: $MCS \approx s/\sqrt{4+s^2}$ (nel limite di una grande distanza di Fisher $z_{max}$).

L'intuizione teorica centrale è che la composizione di queste due funzioni annulla le rispettive non-linearità (la sigmoide e la soft-sign), risultando in una relazione quasi lineare tra AUROC e MCS. La pendenza di questa retta è teoricamente predetta essere approssimativamente $1/\sqrt{\pi}$ quando la distanza di Fisher è elevata.

Valutazione Empirica

Gli autori estendono la validazione empirica di questa relazione attraverso:

• Modelli: Llama-3.3-70B, Llama-3.1-8B e Qwen2.5-7B.
• Strati (Layers): Vari strati (es. 20, 33, 50, 65) all'interno di Llama-70B.
• Domini: 24 dataset che spaziano tra verità, classificazione di genere e benchmark generali di NLP.
• Baseline: Confronto con la standard Similitudine Coseno Euclidea (ECS) e utilizzo di diverse stime di covarianza (totale vs. aggregata entro la classe).

Contributi Chiave

1. Dimostrazione Teorica della Linearità: Il documento fornisce una prova in forma chiusa dimostrando che, per classi bilanciate con proiezione Gaussiana, l'AUROC OOD e la MCS sono linearmente correlate. Ciò spiega la correlazione quasi perfetta ($R^2 \approx 0.98$) precedentemente osservata.
2. Caratterizzazione dei Modelli di Fallimento: La teoria predice esplicitamente le condizioni in cui questa linearità si interrompe, che sono state verificate empiricamente:
   • L'uso della covarianza aggregata ($\Sigma_{pool}$) invece della covarianza totale ($\Sigma_{tot}$) distrugge la linearità.
   • Piccole distanze di Fisher ($z_{max}$) portano a pendenze specifiche per il task piuttosto che a una linea universale.
   • Lo squilibrio delle classi rende la pendenza più ripida.
   • I probe che deviano significativamente dalla direzione di Fisher (es. semplici probe basati sulla differenza delle medie) mostrano una degradazione della linearità.
3. Generalizzazione Empirica: Lo studio valida la linearità MCS-AUROC attraverso una vasta gamma di modelli, strati e domini concettuali, ottenendo un $R^2 > 0.93$ in tutte le condizioni testate. Al contrario, le prestazioni dell'ECS calano drasticamente, con un $R^2$ fino a 0.06 nei benchmark generalisti di NLP.
4. Robustezza agli Stimatori: Gli autori dimostrano che il risultato è valido per la covarianza campionaria completa e per lo shrinkage di Ledoit-Wolf, ma fallisce con approssimazioni diagonali, confermando la necessità della struttura di covarianza fuori diagonale.

Risultati

• Alto Potere Predittivo: In tutte le 8 condizioni sperimentali (variando modelli, strati e domini), il fit lineare dell'AUROC OOD rispetto alla MCS produce un $R^2 \geq 0.93$.
• Superiorità rispetto all'ECS: L'ECS performa costantemente peggio, con valori di $R^2$ che vanno da 0.057 (NLP generale) a 0.723 (Genere), mentre la MCS mantiene un alto potere predittivo.
• Allineamento Teorico: Le pendenze empiriche delle curve AUROC-MCS si allineano strettamente con la pendenza centrale teorica di $1/\sqrt{\pi} \approx 0.564$. Le deviazioni si verificano principalmente nelle code di saturazione (alti valori di AUROC/MCS), in accordo con la teoria.
• Verifica dei Modelli di Fallimento: Simulazioni ed esperimenti su dati reali confermano che la linearità degrada quando le assunzioni vengono violate (es. l'uso di $\Sigma_{pool}$ riduce l' $R^2$ da 0.98 a 0.83; l'uso di probe basati sulla differenza delle medie lo riduce a 0.79).

Significato e Rivendicazioni

Il documento sostiene che la Similitudine Coseno di Mahalanobis offra un'alternativa teoricamente fondata e consapevole del task alla similitudine coseno euclidea per il confronto dei linear probe.

• Meccanismo: A differenza dell'ECS, che tratta tutte le dimensioni allo stesso modo, la MCS ripesa il prodotto interno tramite la covarianza dei dati OOD, confrontando efficacemente i probe nello spazio sottostante che è realmente rilevante per il compito specifico.
• Utilità Predittiva: La relazione lineare permette ai ricercatori di predire la performance di generalizzazione (AUROC OOD) di un probe addestrato su dati ID semplicemente misurando la sua MCS rispetto a un probe di riferimento addestrato su dati OOD (o un proxy della direzione di Fisher).
• Implicazioni Più Ampie: Gli autori suggeriscono che questo approccio possa beneficiare altri metodi di interpretabilità che attualmente si affidano alla similitudine coseno, come il confronto tra vettori di steering, l'allineamento delle feature delle SAE e il clustering delle direzioni concettuali.
• Limitazioni: Gli autori notano che il metodo richiede dati OOD etichettati per stimare la covarianza e la direzione di riferimento (non è label-free per la distribuzione target). Inoltre, la teoria è calibrata per probe di tipo Fisher (Regressione Logistica, LDA); le performance degradano per i probe basati sulla differenza delle medie. La valutazione è attualmente limitata alla classificazione binaria sui residui degli stream di un LLM autoregressivo.

In sintestesi, il lavoro stabilisce che il successo della MCS nel predire la generalizzazione dei probe non è una coincidenza, ma una conseguenza dell'interazione geometrica tra rapporti segnale-rumore, proiezioni gaussiane e metriche di similitudine consapevoli della covarianza.