Emergent Generalization by Representation Learning in Artificial Neural Networks

Sintesi Tecnica: Emergenza della Generalizzazione tramite l'Apprendimento di Rappresentazioni nelle Reti Neurali Artificiali

Definizione del Problema
Il paper affronta un dibattito di lunga data nelle neuroscienze riguardante la rilevanza funzionale dei "manifold neurali": strutture a bassa dimensionalità che sottendono l'attività neurale ad alta dimensionalità. Sebbene le tecniche di riduzione della dimensionalità abbiano identificato con successo tali manifold in varie regioni cerebrali e specie, rimane il dubbio se queste strutture siano meri epifenomeni descrittivi dell'attività a livello di neurone o se conferiscano un vantaggio causale e funzionale per l'apprendimento e la generalizzazione. Nello specifico, gli autori indagano se la capacità di un sistema di apprendimento di estrarre rappresentazioni a bassa dimensionalità da input ad alta dimensionalità fornisca un beneficio funzionale per la generalizzazione a dati fuori distribuzione (OOD), e se tali rappresentazioni esibiscano una "emergenza causale".

Metodologia
Gli autori impiegano un approccio ibrido che combina simulazioni di reti neurali artificiali (ANN) con l'analisi di dati neurali biologici.

1. Task Sintetico e Architettura:

   • Task: Un compito di predizione di serie temporali in cui la rete deve predire il passo temporale successivo di un input ad alta dimensionalità $X_t$. Questo input è generato proiettando un sistema dinamico latente a bassa dimensionalità $x_t$ (es. attrattori di Lorenz, Rössler, Sprott) in uno spazio ad alta dimensionalità tramite una proiezione ortogonale casuale $R$, con l'aggiunta di rumore.
   • Architettura: Un'architettura a Reservoir Computing (RC) modificata. Consiste in uno strato ricorrente fisso, uno strato di bottleneck addestinabile (il fulcro dell'apprendimento della rappresentazione) e uno strato di readout a regressione ridge lineare. Lo strato di bottleneck viene addestrato tramite backpropagation per apprendere una rappresentazione latente predittiva a bassa dimensionalità, mentre lo strato di readout viene addestrato per minimizzare l'Errore Quadratico Medio (MSE).
   • Test di Generalizzazione: Il modello viene addestrato su un sottoinsieme di sistemi dinamici e testato su: (a) rotazioni ortogonali casuali degli attrattori di addestramento, e (b) sistemi dinamici tenuti fuori dal set di addestramento (OOD) rispetto ai dati di training.
   • Controllo della Complessità: La complessità del task viene modulata sottocampionando la serie temporale per mantenere $N_{\tau}$ passi temporali prima che l'autocorrelazione scenda al di sotto di $1/e$.

2. Misure Informazionali:

   • Emergenza Causale ($\Psi$): Gli autori utilizzano la misura $\Psi$ (Rosas et al., 2020) per quantificare l'emergenza causale. Essa è definita come la differenza tra la prevedibilità macroscopica (informazione mutua tra lo stato macroscopico $V_t$ e il suo futuro $V_{t+1}$) e la somma delle prevedibilità microscopiche (somma dell'informazione mutua tra i singoli neuroni del reservoir $Y^i_t$ e i loro futuri). Un $\Psi$ positivo indica che lo stato macroscopico è più predittivo della somma delle sue parti.
   • Information Bottleneck (IB): La perdita IB ($I(Y_t; V_t) - \beta I(V_t; X_{t+1})$) viene utilizzata per monitorare il compromesso tra la compressione dell'informazione di input e la preservazione dell'informazione predittiva.

3. Analisi dei Dati Biologici:

   • Dataset: Attività di spiking neurale registrata da CA1 dorsale e corteccia prefrontale mediale (PFC) di topi durante un compito di alternanza spaziale in un labirinto a W (8 topi, 8+ sessioni di addestramento).
   • Analisi: Le frequenze di scarica pre-elaborate sono state inserite in un encoder di bottleneck lineare semplice con un decoder ridge per predire il passo temporale successivo delle variabili comportamentali (posizione e velocità). La misura $\Psi$ è stata stimata per gli stati del bottleneck attraverso le sessioni di addestramento per tracciare la loro evoluzione rispetto alla performance comportamentale e all'errore di predizione.

Risultati Chiave

1. Necessità dei Bottleneck per la Generalizzazione:

   • Le reti prive di uno strato di bottleneck potevano apprendere i dati di addestramento, ma fallivano nel generalizzare a rotazioni casuali degli attrattori di addestramento o a sistemi dinamici OOD tenuti fuori dal set.
   • La presenza di uno strato di bottleneck ha permesso alla rete di apprendere una rappresentazione invariante alla rotazione degli stati latenti, consentendo una generalizzazione efficace sia a dati di addestramento ruotati che a nuovi sistemi dinamici.
   • La performance di generalizzazione è stata robusta attraverso diversi sistemi dinamici e dipendeva principalmente dalla complessità del task (controllata da $N_{\tau}$) piuttosto che dallo specifico attrattore appreso.

2. Traiettoria Non Monotona dell'Emergenza Causale:

   • Mentre la perdita di predizione (MSE) diminuiva monotonicamente durante l'addestramento, la misura dell'emergenza causale ($\Psi$) ha mostrato una traiettoria non monotona.
   • Fase 1 (Memorizzazione): $\Psi$ inizialmente diminuiva durante le prime fasi dell'addestramento.
   • Fase 2 (Transizione): $\Psi$ raggiungeva un minimo.
   • Fase 3 (Generalizzazione): $\Psi$ successivamente aumentava fino a un massimo durante la fase di generalizzazione.
   • Questa traiettoria rispecchia il fenomeno del "grokking" osservato in altri contesti, dove la transizione dalla memorizzazione alla generalizzazione è segnata da un cambiamento strutturale nella rappresentazione. L'entità di questa struttura emergente ha predetto in modo affidabile la performance di generalizzazione.

3. Correlazione con la Generalizzazione:

   • Il grado di emergenza causale era positivamente correlato alla capacità della rete di generalizzare su dati OOD.
   • La decomposizione della misura $\Psi$ ha rivelato che la generalizzazione è associata a un'alta prevedibilità macroscopica (stabilità della rappresentazione) e a una bassa prevedibilità microscopica (rappresentazioni altamente distribuite dove nessun singolo componente predice il macro).
   • La transizione verso un'alta emergenza ha preceduto la minimizzazione della perdita dell'Information Bottleneck, suggerendo che l'emergere della struttura sia un precursore dell'ottimale compressione e generalizzazione.

4. Validazione Biologica:

   • L'analisi dei dati di CA1 e PFC mediale dei topi ha rivelato un comportamento non monotono simile nella misura dell'emergenza causale durante l'apprendimento spaziale.
   • La misura dell'emergenza è diminuita inizialmente per poi aumentare nelle sessioni di addestramento successive. Fondamentalmente, il minimo della misura di emergenza ha preceduto significativamente il minimo dell'errore di predizione (MSE) e il picco nella performance comportamentale, rispecchiando le dinamiche osservate nella rete artificiale.

Significato e Rivendicazioni
Il paper sostiene che la capacità di apprendere rappresentazioni compatte, distribuite ed emergenti conferisce un vantaggio funzionale per la generalizzazione nei sistemi di apprendimento. Dimostrando che l'emergenza causale è una condizione necessaria per la generalizzazione OOD in un contesto sintetico controllato, e osservando dinamiche di emergenza non monotone analoghe in reti neurali biologiche durante l'apprendimento, gli autori supportano un ruolo causale delle rappresentazioni apprese nella cognizione.

I risultati suggeriscono che i manifold neurali non sono solo riassunti descrittivi, ma possono rappresentare strutture causalmente emergenti che potenziano la capacità predittiva. Lo studio postula che l'apprendimento di questi manifold emergenti sia una caratteristica chiave dell'apprendimento nelle reti neurali biologiche, fornendo una spiegazione funzionale del perché il cervello possa essersi evoluto per organizzare l'attività ad alta dimensionalità in strutture emergenti a bassa dimensionalità. Gli autori rimangono modesti riguardo alle spiegazioni meccanicistiche, notando che, sebbene abbiano identificato il vantaggio funzionale, i meccanismi di plasticità specifici che permettono questo nelle reti neurali biologiche rimangono una questione aperta per ricerche future.