Riepilogo Tecnico: Navigare con Semplicità, Allinearsi in Profondità

Definizione del Problema

Il documento affronta il "gap di robustezza" negli agenti artificiali, dove i sistemi di apprendimento per rinforzo profondo (Deep Reinforcement Learning - RL) spesso falliscono quando incontrano perturbazioni visive al di fuori della distribuzione di addestramento, a differenza dei sistemi biologici (specificamente i topi) che mantengono una navigazione stabile sotto condizioni variabili. Gli autori hanno partecipato alla NeurIPS 2025 Mouse vs. AI: Robust Visual Foraging Competition, che valuta gli agenti su due percorsi distinti e complementari:

1. Percorso 1 (Robustezza Visiva): Misura la generalizzazione a perturbazioni visive non incluse nel set di addestramento (es. nebbia, cambiamenti di illuminazione) utilizzando una media ponderata dell'Average Success Rate (ASR) e del Modified Success Rate (MSR).
2. Percorso 2 (Allineamento Neurale): Valuta quanto bene le rappresentazioni visive interne di un agente predicano l'attività neurale registrata da oltre 19.000 neuroni nella corteccia visiva del topo durante lo stesso compito, utilizzando metriche di linear readout $R^2$.

La sfida centrale risiede nella tensione tra questi obiettivi: la robustezza comportamentale favorisce spesso l'astrazione dalle statistiche di basso livello, mentre l'allineamento neurale può richiedere la preservazione della struttura dettagliata dello stimolo.

Metodologia

Gli autori, il Team HCMUS_TheFangs, hanno abbandonato la convenzione secondo cui i compiti visivi complessi richiedano architetture altrettanto complesse. Al contrario, hanno perseguito un approccio a doppia strategia, sviluppando architetture distinte ottimizzate per i requisiti specifici di ciascun percorso.

Percorso 1: Architettura Leggera per la Robustezza

Per la robustezza visiva, il team ha sviluppato un'architettura SimpleCNN che privilegia la semplicità per prevenire l'overfitting.

• Architettura: Un backbone convoluzionale a due strati con un aggressivo downsampling spaziale (kernel 8×8, stride 4; seguito da kernel 4×4, stride 2).
• Miglioramenti:
  • Gated Linear Units (GLU): Un modulo che utilizza l'attivazione Swish per la trasformazione delle feature e la sigmoid per il gating, consentendo un flusso di informazioni selettivo per sopprimere le componenti sensibili al rumore.
  • Normalizzazione delle Osservazioni: Statistiche correnti (media mobile esponenziale) applicate agli input per garantire l'invarianza rispetto ai cambiamenti di illuminazione globale.
• Addestramento: Una strategia in due fasi in cui il backbone viene addestrato prima, seguito dall'aggiunta del modulo GLU.

Percorso 2: Architettura Profonda per l'Allineamento Neurale

Per l'allineamento neurale, il team ha impiegato un'architettura simile a una Deep ResNet progettata per catturare rappresentazioni gerarchiche che rispecchiano la corteccia visiva biologica.

• Architettura: 16 strati convoluzionali organizzati in blocchi residui con espansione progressiva dei canali (64 → 128 → 256 → 512).
• Meccanismo: Incorpora il gating basato su GLU per il routing adattivo delle feature. Il modello contiene 17,8 milioni di parametri, significativamente più grandi del modello del Percorso 1 (1,4M).
• Addestramento: Sperimentazione estensiva con durate di addestramento che variano da 60K a 1,14M di step, salvando i checkpoint ogni 20K step per analizzare la relazione tra tempo di addestramento e prestazioni.

Approcci Falliti

Il documento documenta sistematicamente diversi approcci che hanno ottenuto prestazioni inferiori:

• InceptionNet: Non è riuscito affatto a convergere.
• Deep ResNet (24 strati): Ha raggiunto alte prestazioni in fase di addestramento ma ha subito un calo del 35% delle prestazioni sotto perturbazioni a causa di un grave overfitting.
• Integrazione LSTM: Ha causato instabilità nell'addestramento e un crollo delle prestazioni, probabilmente a causa della distruzione della struttura spaziale 2D.
• Data Augmentation Naïve: Sorprendentemente, ha diminuito le prestazioni (dall'87,7% al 59,8%) introducendo discrepanze nella distribuzione.

Risultati Chiave

Percorso 1: Robustezza Visiva

La leggera SimpleCNN con GLU e normalizzazione ha raggiunto un punteggio finale del 95,4%, conquistando la prima posizione.

• Ablazione: La normalizzazione delle osservazioni ha fornito il guadagno maggiore (+3,8%), seguita da GLU (+0,2%).
• Confronto: La baseline ResNet a 24 strati ha ottenuto solo il 65,98%, evidenziando come l'aumento della profondità danneggi la generalizzazione in questo contesto. La SimpleCNN ha mantenuto un divario minimo tra ASR (96,80%) e MSR (94,00%), mentre la deep ResNet presentava un divario di 30 punti.

Percorso 2: Allineamento Neurale

L'architettura Deep ResNet ha raggiunto la prestazione top-1 (Punteggio: 0,1517) sulle metriche di allineamento neurale.

• Capacità: Il modello con 17,8M di parametri ha superato significativamente la SimpleCNN leggera (Rank 1, Punteggio: 0,1451), dimostrando che catturare le rappresentazioni biologiche richiede una sostanziale capacità del modello.
• Addestramento Non Monotono: Una scoperta critica è stata la relazione non monotona tra la durata dell'addestramento e le prestazioni. Il checkpoint ottimale è emerso intorno ai 200K step (Rank 2), con prestazioni quasi pari al modello addestrato per 1,14M di step (Rank 1). I modelli addestrati per durate intermedie (es. 520K step) hanno performato peggio di quelli addestrati per durate molto brevi (80K step), suggerendo che un addestramento prolungato può portare a overfitting o dimenticanza catastrofica anche nei compiti di allineamento neurale.

Contributi Chiave

1. Semplicità Architetturale per la Robustezza: Ha dimostrato che una CNN leggera a due strati con miglioramenti mirati (GLU, normalizzazione) supera significativamente le reti profonde complesse per la robustezza visiva, sfidando le assunzioni sui requisiti dei modelli per compiti visuomotori.
2. Capacità per l'Allineamento Neurale: Ha mostato che, mentre i modelli più semplici eccellono nella robustezza comportamentale, architetture più profonde con maggiore capacità sono necessarie per ottenere un superiore allineamento neurale, riflettendo la complessità gerarchica dell'elaborazione visiva biologica.
3. Documentazione dei Fallimenti: Ha fornito un'analisi completa degli approcci falliti (InceptionNet, deep ResNet, LSTM, augmentation naïve), offrendo una guida pratica su come evitare errori comuni nella robusta RL visiva.
4. Analisi della Dinamica di Addestramento: Ha rivelato una relazione non monotona tra la durata dell'addestramento e le prestazioni, identificando che i checkpoint ottimali emergono spesso ben prima della convergenza (intorno ai 200K step).

Significato e Rivendicazioni

Il documento sostiene di offrire una guida pratica per lo sviluppo di agenti visivi robusti e biologicamente ispirati, sfidando le convenzioni sulla complessità del modello. Gli autori sostengono che la competenza comportamentale non implica necessariamente la plausibilità biologica; le architetture ottimali per sopravvivere alle perturbazioni visive differiscono fondamentalmente da quelle richieste per mimare l'attività neurale.

Dimostrando che "più semplice è meglio" per la robustezza, mentre "più profondo è meglio" per l'allineamento, il lavoro suggerisce che gli obiettivi di robustezza e di plausibilità biologica possano essere in tensione, richiedendo scelte architettoniche distinte. Le scoperte sottolineano l'importanza di bias induttivi appropriati al compito e del valore di un'analisi sistematica dei checkpoint rispetto all'addestramento fino alla convergenza.