🤖 AI

Bidirectional representational alignment between biological and artificial neural networks

Questo articolo dimostra che guidare la geometria spettrale dei modelli di visione auto-supervisionati durante l'addestramento può modulare sistematicamente e migliorare significativamente l'allineamento rappresentazionale bidirezionale con le reti neurali biologiche, ottenendo un miglioramento relativo del 55% nella predittività bidirezionale riducendo la dimensionalità effettiva e riorganizzando il sottospazio rappresentazionale condiviso.

Autori originali: Samuel Kostousov, Abhinn Kaushik, Brokoslaw Laschowski

Pubblicato 2026-08-20

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Samuel Kostousov, Abhinn Kaushik, Brokoslaw Laschowski

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Per capire come funzioni l'intelligenza, gli scienziati guardano spesso al cervello, la macchina biologica che pensa, e lo confrontano con le reti neurali artificiali, i programmi informatici progettati per imitarlo. Per anni, i ricercatori hanno cercato di vedere se questi due sistemi "pensano" in modi simili confrontando le loro mappe interne del mondo. Quando un computer vede l'immagine di un gatto, crea un particolare schema di attività; quando una scimmia vede la stessa immagine, il suo cervello crea un pattern diverso. Gli scienziati misurano quanto bene il pattern del computer riesca a prevedere l'attività cerebrale della scimmia, un processo noto come predizione in avanti. Recentemente, è emersa una nuova domanda: possiamo anche prevedere il pattern del computer guardando semplicemente il cervello della scimmia? La risposta è stata sorprendentemente sbilanciata. Le mappe interne del computer erano eccellenti nel presagire ciò che il cervello avrebbe fatto, ma l'attività del cervello era un povero indovino di ciò che il computer avrebbe fatto. Questo squilibrio suggeriva che, sebbene l'intelligenza artificiale avesse imparato a imitare l'output del cervello, non aveva ancora imparato a imitare la sua struttura sottostante.

Un team di ricercatori si è posto l'obiettivo di correggere questo rapporto unidirezionale cambiando la forma delle mappe interne della rete artificiale durante il suo addestramento. Ipotizzarono che il modo in cui l'informazione è organizzata all'interno del computer — specificamente, come l'importanza di diversi pezzi di informazione sia distribuita — potesse essere la chiave mancante. Per testare questo, costruirono un sistema in grado di guidare delicatamente il processo di apprendimento del computer affinché organizzi la sua informazione in un modo specifico, simile a come il cervello la organizza naturalmente. Utilizzarono un modello di visione standard, un tipo di intelligenza artificiale addestrata a riconoscere immagini senza etichette umane, e applicarono una nuova regola durante la sua fase di apprendimento. Questa regola incoraggiava la rete ad assestare i suoi segnali interni in modo che pochi segnali portassero la maggior parte del peso, mentre molti altri ne portassero pochissimo, un pattern che rispecchia il naturale decadimento dell'importanza trovato nei cervelli biologici.

I risultati mostrarono che questo semplice aggiustamento ebbe un effetto profondo. Quando i ricercatori orientarono la geometria interna del computer per farla corrispondere a questo pattern naturale, la capacità dell'attività cerebrale di prevedere il comportamento del computer migliorò drasticamente. Infatti, le mappe interne del computer divennero molto più capaci di essere predette dal cervello, colmando il divario che esisteva in precedenza. Sebbene la capacità del computer di prevedere l'attività del cervello sia diminuita leggermente, il massicci guadagno nella direzione opposta significò che i due sistemi divennero molto più equilibrati. L'allineamento complessivo tra le reti biologiche e artificiali migliorò del cinquantacinque per cento rispetto alla configurazione originale. Questo miglioramento non era solo un caso statistico; derivava da un chiaro cambiamento nella struttura del computer. La rete iniziò a fare affidamento su dimensioni meno numerose ed efficienti per memorizzare l'informazione, e le parti della rete che erano più simili all'attività cerebrale divennero quasi perfettamente simmetriche nella loro relazione.

Lo studio suggerisce che il modo in cui l'informazione è organizzata all'interno di un sistema di apprendimento è importante quanto l'informazione stessa. Cambiando semplicemente le regole di come il computer distribuisce la sua attenzione attraverso diversi segnali, i ricercatori hanno reso il mondo interno della rete artificiale molto più simile a quello biologico. Ciò non significa che il computer sia diventato improvvisamente cosciente o che abbia risolto il mistero del pensiero umano. Dimostra piuttosto che la geometria delle rappresentazioni apprese — la forma delle mappe interne — è una proprietà che può essere controllata per avvicinare i sistemi artificiali e biologici. Le scoperte indicano che il precedente squilibrio non era un difetto permanente dell'intelligenza artificiale, ma una conseguenza di come queste reti venivano lasciate organizzare se stesse. Guidando tale organizzazione, gli scienziati possono creare modelli che non siano solo migliori nel risolvere compiti, ma anche migliori specchi dei sistemi biologici che mirano a comprendere.

Sintesi Tecnica: Allineamento Rappresentazionale Bidirezionale tra Reti Neurali Biologiche e Artificiali

Definizione del Problema
Recenti ricerche nella neuroscienza computazionale e nell'apprendimento automatico hanno stabilito che l'allineamento rappresentazionale tra reti neurali biologiche e artificiali è intrinsecamente asimmetrico. Nello specifico, le rappresentazioni dei modelli artificiali predicono le risposte neurali biologiche (predittività forward) significativamente meglio di quanto le risposte biologiche predicano le rappresentazioni del modello (predittività reverse). Sebbene l'ottimizzazione del compito possa recuperare principi fondamentali della rappresentazione neurale, i miglioramenti nelle prestazioni del compito non sempre correlano con un migliore allineamento. Questa asimmetria solleva una questione critica: la geometria rappresentazionale delle caratteristiche apprese contribuisce a questo disallineamento bidirezionale? Gli autori ipotizzano che la geometria spettrale delle rappresentazioni possa essere sistematicamente guidata durante l'addestramento per modulare tale allineamento.

Metodologia
Per testare questa ipotesi, gli autori hanno sviluppato un framework computazionale che integra la regolarizzazione spettrale con le analisi di predittività bidirezionale.

Modello e Dataset: Il framework è stato implementato utilizzando modelli di visione contrastivi auto-supervisionati (SimCLR con un encoder ResNet-50). L'addestramento ha utilizzato un sottoinsieme di ImageNet-1k, mentre la valutazione ha impiegato un benchmark della corteccia inferotemporale (IT) di macaco composto dalle risposte neurali a 3.200 stimoli visivi.
Guida Spettrale (Spectral Steering): L'innovazione principale consiste nell'aggiungere un termine di regolarizzazione spettrale alla standard perdita contrastiva InfoNCE. Questo termine penalizza le deviazioni da un esponente di decadimento spettrale target ( $\hat{\alpha}$ $\overset{α}{^}$ ) nello spettro degli autovalori delle rappresentazioni apprese.
- La regolarizzazione è applicata alle attivazioni di encoder.layer4.0.bn1, uno strato noto per la forte predittività forward.
- L'esponente spettrale $\alpha$ è stimato tramite minimi quadrati ordinari sul log-log spectrum della varianza spiegata normalizzata (componenti principali 5–15).
- La funzione di perdita totale è $L_{total} = L_{InfoNCE} + \lambda|\alpha - \hat{\alpha}|$ , dove $\lambda$ controlla la forza della regolarizzazione.
Metriche di Valutazione:
- Predittività Forward: Misura quanto bene le attivazioni del modello predicono le risposte neurali (regressione ridge dal modello al neurone).
- Predittività Reverse: Misura quanto bene le risposte neurali predicono le attivazioni del modello (regressione ridge dal neurone al modello).
- Predittività Bidirezionale (BPI): Una metrica composita ( $BPI = \frac{2R_{fwd}R_{rev}}{R_{fwd} + R_{rev}}$ ) che quantifica l'allineamento penalizzando l'asimmetria.
- Dimensionalità Effettiva: Calcolata tramite il rapporto di partecipazione della spettro della varianza spiegata.
Design Sperimentale: I modelli sono stati addestrati con diversi esponenti spettrali target ( $\hat{\alpha}$ ) e diverse intensità di regolarizzazione ( $\lambda$ ). L'analisi è stata eseguita sulla base dell'esponente spettrale misurato ( $\alpha$ ) piuttosto che su quello target, per tenere conto dei casi in cui la forza della regolarizzazione non avesse raggiunto l'esponente target esatto.

Risultati Chiave
Gli esperimenti hanno dimostato che guidare la geometria rappresentazionale influenza sistematicamente l'allineamento bidirezionale:

Controllo della Geometria Spettrale: La regolarizzazione spettrale ha guidato con successo l'esponente spettrale misurato delle rappresentazioni apprese. Una regolarizzazione più forte ( $\lambda$ ) ha prodotto un accordo più stretto tra l'esponente misurato e quello target.
Riduzione dell'Asimmetria:
- Predittività Reverse: L'aumento dell'esponente spettrale misurato ( $\alpha$ ) ha aumentato sostanzialmente la predittività reverse. Con $\lambda=3$ , la varianza spiegata reverse è migliorata dal 12% (baseline) al 2% nel bin con $\alpha$ più alto.
- Predittività Forward: La predittività forward ha mostrato una modesta diminuzione sotto la regolarizzazione spettrale rispetto alla baseline, ma è rimasta relativamente stabile attraverso i diversi valori di $\alpha$ misurato a una forza di regolarizzazione fissa.
- Predittività Bidirezionale: L'effetto netto è stato un significativo miglioramento della predittività bidirezionale, passata da circa il 20% al 31% (un miglioramento relativo del 55%). Ciò indica una sostanziale riduzione dell'asimmetria forward-reverse.
Approfondimenti Meccanicistici:
- Unità Comuni vs Unità Uniche: I miglioramenti sono stati più pronunciati nelle "unità comuni" (il top 20% delle unità del modello classificate per predittività reverse). In questo sottoinsieme, la predittività forward e reverse sono diventate approssimativamente simmetriche a esponenti spettrali intermedi.
- Dimensionalità: L'aumento degli esponenti spettrali è stato accompagnato da una riduzione della dimensionalità effettiva, suggerendo che la guida della geometria concentri la varianza rappresentazionale in meno dimensioni effettive.
- Riorganizzazione dello Spazio Subspaziale: I risultati suggeriscono che la regolarizzazione spettrale riorganizzi preferenzialmente il sottospazio rappresentazionale condiviso tra le reti artificiali e biologiche, migliorando la recuperabilità lineare dell'attività neurale dalle rappresentazioni del modello.

Significatività e Rivendicazioni
Il documento fornisce un framework controllato dimostrando che la geometria rappresentazionale è una proprietà guidabile che modula direttamente l'allineamento rappresentazionale bidirezionale.

Sfida all'Asimmetria Fissa: Gli autori confutano l'idea che l'asimmetria forward-reverse sia una proprietà fissa dei modelli ottimizzati per il compito. Al contrario, mostrano che può essere sistematicamente ridotta alterando la geometria spettrale durante l'apprendimento.
La Geometria come Fattore Causale: I risultati supportano l'ipotesi che la geometria rappresentazionale contribuisca alla qualità dell'allineamento. Nello specifico, l'aumento dell'esponente spettrale migliora la direzione "reverse" dell'allineamento senza una perdita catastrofica nella direzione "forward".
Oltre il Matching degli Esponenti: Lo studio nota che l'allineamento ha continuato a migliorare anche oltre l'esponente spettrale ( $\alpha \approx 1$ ) tipicamente osservato nella corteccia visiva, suggerendo che il semplice pareggiamento delle statistiche spettrali biologiche non è sufficiente per massimizzare l'allineamento; piuttosto, il processo di guida stesso induce riorganizzazioni benefiche.
Limitazioni e Ambito: Gli autori inquadrano modestamente questi risultati come una dimostrazione iniziale utilizzando un'architettura specifica (ResNet-50) e un singolo benchmark neurale. Riconoscono che l'esponente spettrale è solo una caratterizzazione della geometria e che altre proprietà geometriche potrebbero giocare un ruolo. Saranno necessari ulteriori lavori per generalizzare questi risultati attraverso diverse architetture, obiettivi di apprendimento e dataset.

In sintesi, questa ricerca stabilisce un metodo per "guidare" la geometria interna delle reti artificiali per allinearle meglio ai sistemi biologici, offrendo una nuova via per l'interpretabilità meccanicistica e lo studio dell'emergenza dell'intelligenza.

Sintesi Tecnica: Allineamento Rappresentazionale Bidirezionale tra Reti Neurali Biologiche e Artificiali

Articoli simili