Stimulus symmetries can confound representational similarity analyses

Sintesi Tecnica: Le Simmetrie degli Stimoli Possono Confondere le Analisi di Similarità Rappresentazionale

Enunciato del Problema
L'Analisi di Similarità Rappresentazionale (RSA) e metriche correlate, come la Matrice di Similarità Rappresentazionale (RSM) e l'Allineamento del Kernel Centrato (CKA), sono ampiamente utilizzate per confrontare codici neurali tra reti biologiche e artificiali. Un'assunzione fondamentale in questi confronti è che rappresentazioni funzionalmente equivalenti—quelle che eseguono lo stesso compito o codificano le stesse informazioni—dovrebbero produrre statistiche riassuntive simili. Sebbene lavori recenti abbiano affrontato le simmetrie intrinseche (ad esempio, rotazioni globali dei pesi all'interno di un livello di rete che possono essere compensate dai livelli successivi), manca una comprensione sistematica di come le simmetrie degli stimoli (simmetrie dei dati esterni come rotazione o traslazione) influenzino queste analisi.

Il problema centrale identificato è che le simmetrie degli stimoli possono generare multiple rappresentazioni neurali funzionalmente equivalenti che non sono correlate da semplici trasformazioni ortogonali (rotazioni) nello spazio rappresentazionale. Di conseguenza, queste configurazioni distinte possono produrre RSM qualitativamente diverse. Ciò crea una "dipendenza dal gauge" in cui la RSM varia in base a un parametro arbitrario e funzionalmente irrilevante (il gauge), portando potenzialmente i ricercatori a concludere erroneamente che due codici funzionalmente equivalenti siano distinti.

Metodologia
Gli autori impiegano una combinazione di formalizzazione teorica, modelli analitici giocattolo e simulazioni empiriche su dati sintetici e reali per dimostrare questo fenomeno.

1. Formalizzazione Teorica: Il documento formalizza il concetto di simmetrie dei dati che agiscono su uno spazio latente $Z$ tramite un gruppo compatto $G$. Definisce le "trasformazioni di gauge" come azioni di $G$ sulla funzione di codifica che lasciano invariata l'accuratezza della decodifica. Gli autori dimostrano che affinché una RSM sia invariante rispetto al gauge, la codifica deve essere una rappresentazione lineare ortogonale del gruppo di simmetria (cioè, la trasformazione di gauge deve agire come una rotazione globale sullo spazio rappresentazionale). Dimostrano che per codici non lineari generali, questa condizione non vale.
2. Analisi del Modello Giocattolo: Viene costruito un modello semplificato in cui i neuroni piastrellano un anello monodimensionale ($S^1$) con campi recettivi (RF) localizzati. L'orientamento globale di questa piastrellatura è definito da una variabile di gauge $\phi$. Gli autori derivano analiticamente la RSM per questa configurazione, mostrando che gli elementi fuori diagonale dipendono da $\phi$, portando a una RSM variabile nonostante una perfetta ricostruzione dello stimolo.
3. Sensibilità ai Parametri: Lo studio indaga come fattori quali il numero di neuroni, la larghezza di sintonizzazione dei RF e il rumore di ampiezza influenzino l'entità della variabilità della RSM. Derivano espressioni in forma chiusa per la variabilità $\Delta$ in funzione del numero di neuroni $n$ e della larghezza di sintonizzazione, mostrando che la variabilità decade come $O(n^{-2})$ solo nel limite di una piastrellatura densa.
4. Dinamiche di Apprendimento: Utilizzando la Discesa del Gradiente Stocastica (SGD) su autoencoder con attivazioni ReLU, gli autori simulano scenari di apprendimento. Dimostrano che la SGD può portare a soluzioni di "collasso" in cui molti neuroni si allineano, riducendo efficacemente la rete a una piastrellatura sparsa (ad esempio, 4 neuroni per un cerchio), mantenendo così un'alta variabilità della RSM. Mostrano anche che la regolarizzazione energetica (penalità L1) può indurre sparsità senza fissare il gauge.
5. Dati ad Alta Dimensionalità e Reali: Il framework è esteso a varietà sferiche ad alta dimensionalità ($S^{d-1}$), prevedendo cluster strutturati di variabilità della RSM corrispondenti alla dimensionalità del gruppo di gauge. Infine, gli autori addestrano autoencoder su immagini ruotate dal dataset Kuzushiji-MNIST e analizzano modelli di visione pre-addestrati (ResNet-18, ConvNeXt, DINOv2) per dimostrare che le simmetrie rotazionali latenti nei dati delle immagini inducono una deriva sistematica della RSM e una dipendenza dal gauge in contesti realistici.

Contributi e Risultati Chiave

• Dipendenza dal Gauge delle RSM: Il documento stabilisce che per codici neurali non lineari, rappresentazioni funzionalmente equivalenti correlate da simmetrie degli stimoli non sono generalmente correlate da trasformazioni ortogonali. Pertanto, le loro RSM differiscono, violando l'invarianza assunta dalle metriche di similarità standard.
• Rappresentazioni in Deriva: Gli autori mostrano che anche con prestazioni di compito stabili (ad esempio, bassa perdita di ricostruzione), le rappresentazioni possono "derivare" nel tempo o tra diverse esecuzioni di addestramento a causa della selezione arbitraria di un gauge. Questa deriva si manifesta come un cambiamento sistematico nella RSM, che correla con l'angolo di gauge inferito ma non con l'errore di ricostruzione.
• Sparsità e Variabilità: Contrariamente all'intuizione secondo cui l'aumento del numero di neuroni sopprime la variabilità, gli autori scoprono che la sparsità indotta dall'apprendimento (tramite rumore SGD o regolarizzazione L1) può mantenere un'alta variabilità della RSM anche in reti di grandi dimensioni.
• Variabilità Strutturata in Alte Dimensioni: Per varietà simmetriche ad alta dimensionalità, la variabilità della RSM non è rumore casuale ma segue un pattern strutturato in cui gli elementi fuori diagonale si raggruppano in gruppi che variano insieme, riflettendo il gruppo di simmetria continua sottostante.
• Validazione Empirica: Negli esperimenti con dati di immagini ruotate, l'angolo di gauge inferito delle reti addestrate predice fortemente gli elementi fuori diagonale della RSM (correlazione di Pearson $r = 0.76$) e la similarità tra diverse esecuzioni (la similarità CKA diminuisce all'aumentare della differenza di gauge, $r = -0.91$), mentre la perdita di ricostruzione rimane non correlata con il gauge.

Significato e Affermazioni
Il documento afferma che queste scoperte evidenziano un limite critico nel confrontare codici neurali non lineari utilizzando metriche basate sulla RSM quando sono presenti simmetrie degli stimoli. Nello specifico:

• Rischio di Interpretazione Errata: I ricercatori potrebbero erroneamente identificare rappresentazioni funzionalmente equivalenti come distinte semplicemente perché occupano "gauge" diversi nello spazio delle soluzioni.
• Meccanismo di Deriva: Il lavoro fornisce un meccanismo per la "deriva rappresentazionale" (osservata sia nei cervelli che nelle reti artificiali) distinto dalle spiegazioni precedenti basate su simmetrie interne; qui, la deriva è guidata da simmetrie intrinseche degli stimoli e dalla mancanza di una base preferenziale unica.
• Limiti delle Metriche Attuali: Metriche standard come CKA e RSM non sono invarianti rispetto alle simmetrie dei dati a meno che la rete non sia esplicitamente vincolata a essere equivariante (cosa che la maggior parte delle reti standard non è).
• Direzioni Future: Gli autori suggeriscono che per confrontare affidabilmente le rappresentazioni in presenza di simmetrie sono necessarie nuove metriche invarianti rispetto alle specifiche simmetrie degli stimoli. Notano che tali metodi richiederebbero probabilmente la conoscenza della distribuzione degli stimoli o l'uso di metriche di pullback sulla varietà intrinseca dei dati, ma riconoscono che, senza forti prior, il rendere conto dell'invarianza di gauge rimane una sfida aperta.

Il documento conclude con modestia, affermando che, sebbene i codici di piastrellatura delle varietà abbiano servito come caso di test trattabile, ci si aspetta la generalizzazione di questo fenomeno ad altri codici non lineari, poiché la maggior parte delle rappresentazioni non è vincolata a essere ortogonalmente equivariante.