Riepilogo Tecnico: Allineamento Cerebrale delle Rappresentazioni di Ragionamento e Azione nel Gameplay Naturalistico

Enunciato del Problema

Comprendere come esseri umani e sistemi di intelligenza artificiale prevedano e pianifichino attraverso l'interazione con l'ambiente rappresenta una sfida centrale all'intersezione tra neuroscienze e apprendimento automatico. Sebbene precedenti studi di codifica cerebrale abbiano allineato con successo modelli artificiali con l'attività cerebrale durante la comprensione passiva del linguaggio o l'elaborazione visiva, la ricerca sull'allineamento cerebrale interattiva è rimasta in gran parte limitata ad agenti di apprendimento per rinforzo (RL) e modelli basati su teorie. Questi modelli tradizionali sono ottimizzati per l'apprendimento di azioni basato sulla ricompensa e codificano principalmente caratteristiche legate all'azione, rischiando di trascurare le strutture percettive, semantiche e predittive più ricche che gli esseri umani utilizzano per rappresentare oggetti, relazioni e risultati futuri.

Questo articolo colma tale lacuna indagando se i moderni modelli fondazionali, in particolare i Modelli Vision-Language (VLM) e i Modelli Large-Action (LAM), acquisiscano interni "modelli del mondo" che si allineano con l'attività cerebrale umana durante il gameplay naturalistico e interattivo. Lo studio mira a determinare come prompt focalizzati sull'azione e sul ragionamento plasmino le rappresentazioni del modello e se tali rappresentazioni catturino le computazioni neurali alla base del comportamento adattivo umano meglio delle linee di base RL tradizionali.

Metodologia

Dataset e Configurazione Sperimentale

Lo studio utilizza un dataset naturalistico di videogiochi in stile Atari contenente registrazioni fMRI di 32 partecipanti sani che giocavano a sei giochi diversi. I dati sono stati pre-elaborati e proiettati sulla superficie corticale ("fsaverage6"), con l'analisi focalizzata su 11 Regioni di Interesse (ROI) che coprono aree visive precoci, fronto-parietali e di pianificazione motoria.

Modelli Valutati

Gli autori hanno valutato due famiglie di modelli fondazionali insieme a due linee di base RL:

1. Modelli Vision-Language (VLM): Qwen2.5-VL-7B-Instruct e InternVL3-8B. Questi modelli elaborano frame visivi di gioco e prompt testuali per eseguire ragionamenti.
2. Modelli Large-Action (LAM): UI-TARS-7B-DPO e OS-Atlas-Pro-7B. Questi modelli sono stati fine-tunati partendo da Qwen2-VL su traiettorie di interazione con GUI e giochi, ottimizzati specificamente per la pianificazione e l'esecuzione di azioni.
3. Linee di Base: EMPA (un agente RL basato su teorie) e D-DQN (una rete Q profonda).

Condizioni di Prompting

Per sondare diversi modi cognitivi, i modelli sono stati testati in tre condizioni:

• No-Prompt: I modelli hanno ricevuto solo i frame del gameplay.
• Prompt di Azione: I modelli sono stati invitati a impegnarsi in una prossima azione con una breve giustificazione.
• Prompt di Ragionamento: I modelli sono stati invitati a descrivere obiettivi di gioco, relazioni spaziali e scopi senza necessariamente impegnarsi in un'azione immediata.

Codifica e Analisi

• Estrazione delle Caratteristiche: Le rappresentazioni degli stati nascosti sono state estratte da tutti i livelli del transformer utilizzando una finestra scorrevole di frame recenti per corrispondere alla risoluzione temporale dell'fMRI (TR = 2s).
• Codifica Voxel-per-Voxel: Sono stati addestrati modelli di regressione ridge bootstrap per prevedere le risposte fMRI dalle rappresentazioni del modello. Le prestazioni sono state misurate utilizzando il Coefficiente di Correlazione di Pearson (PCC).
• Partizionamento della Varianza: È stato utilizzato un approccio statistico per scomporre la varianza spiegata ($R^2$) in componenti condivise tra prompt di azione e ragionamento, e componenti uniche per ciascun tipo di prompt. Ciò ha permesso agli autori di distinguere tra modelli che codificano informazioni simili e quelli con organizzazioni rappresentazionali qualitativamente diverse.
• Analisi del Modo di Pensiero: Uno studio preliminare su Qwen3.5 ha confrontato l'allineamento cerebrale delle sue tracce esplicite di ragionamento (Chain-of-Thought) con le sue uscite finali di azione.

Risultati Chiave

1. I Modelli Fondazionali Superano le Linee di Base RL

Sia i VLM che i LAM hanno superato significativamente le linee di base RL classiche (EMPA e D-DQN) nella codifica cerebrale voxel-per-voxel, anche quando le dimensioni delle caratteristiche sono state uniformate (ad esempio, ridotte a 8 dimensioni).

• Prestazioni No-Prompt: I VLM hanno raggiunto $r \approx 0.264$ e i LAM $r \approx 0.271$, rispetto a EMPA ($r=0.162$) e D-DQN ($r=0.097$).
• Effetti del Prompt: Il prompting esplicito ha ulteriormente migliorato l'allineamento per entrambe le famiglie di modelli, con i VLM promptati che hanno raggiunto $r \approx 0.358$ e i LAM $r \approx 0.348$.

2. Gerarchia Corticale dei Guadagni Guidati dal Prompt

Il miglioramento nell'allineamento cerebrale guidato dal prompting non è stato uniforme in tutto il cervello.

• Regioni Fronto-Parietali e Motorie: I guadagni più elevati sono stati osservati nelle regioni di ordine superiore coinvolte nella pianificazione e nel processo decisionale, in particolare il Gyrus Frontale Medio (MFG), l'Area Motoria Supplementare (SMA), il Gyrus Frontale Inferiore (IFG) e il Gyrus Angolare (AG).
• Corteccia Visiva: Le regioni visive precoci hanno mostrato guadagni circa della metà della magnitudine delle regioni frontali.
• Significato: Questa gerarchia suggerisce che i prompt migliorano principalmente le rappresentazioni relative a obiettivi, pianificazione e alla rete "multiple-demand" piuttosto che al semplice processo visivo di basso livello.

3. Dissociazione Qualitativa tramite Partizionamento della Varianza

Sebbene i VLM e i LAM abbiano raggiunto una precisione predittiva grezza statisticamente equivalente in tutto il cervello, il partizionamento della varianza ha rivelato una differenza fondamentale nella loro organizzazione interna:

• VLM (Simmetrici rispetto al Prompt): La varianza unica contribuita dai prompt di azione ($12.5\%$) e dai prompt di ragionamento ($13.6\%$) era bilanciata.
• LAM (Asimmetrici rispetto all'Azione): I prompt di azione hanno contribuito in modo significativo a una varianza unica maggiore ($27\%$) rispetto ai prompt di ragionamento, che hanno contribuito a una varianza unica negativa ($-5\%$) in tutto il cervello e nella corteccia fronto-motoria.
• Interpretazione: Nei LAM, il fine-tuning specializzato per l'azione sembra riorganizzare le rappresentazioni in modo che il segnale di "ragionamento" diventi ridondante o simile al rumore nelle regioni di pianificazione motoria, poiché la supervisione dell'azione assorbe già le informazioni necessarie. Questa dissociazione è invisibile a livello di accuratezza grezza ma chiara nella decomposizione della varianza.

4. Asimmetria del Modo di Pensiero

Nell'analisi preliminare di Qwen3.5, l'output finale di azione del modello ha mostrato un allineamento cerebrale sostanzialmente più elevato ($r=0.355$) rispetto alla sua traccia esplicita di ragionamento ($r=0.173$). Questo divario è persistito anche dopo aver controllato la posizione di lettura, suggerendo che le tracce di ragionamento esplicito (chain-of-thought) nei modelli attuali in modalità pensiero potrebbero non allinearsi altrettanto strettamente con le dinamiche neurali umane quanto l'impegno finale del modello nell'azione.

Significato e Affermazioni

Il documento afferma di estendere la ricerca sull'allineamento cerebrale dalla percezione passiva al gameplay interattivo, fornendo la prima valutazione sistematica di moderni VLM e LAM in questo contesto. I contributi principali sono:

1. Ricchezza Rappresentazionale Superiore: I modelli fondazionali multimodali codificano più informazioni rilevanti per il cervello sugli ambienti di gioco dinamici rispetto agli agenti RL tradizionali ottimizzati per il compito.
2. Riorganizzazione Condizionata dal Prompt: Lo studio dimostra che il prompting può spostare le rappresentazioni del modello per allinearsi meglio all'attività cerebrale umana, in particolare nelle regioni cognitive di ordine superiore.
3. Dissociazione tra Azione e Ragionamento: Il lavoro rivela che il fine-tuning specializzato per l'azione (LAM) riorganizza fondamentalmente le rappresentazioni multimodali verso computazioni neurali rilevanti per l'azione, creando una struttura asimmetrica rispetto al prompt distinta dai VLM generici. Questa distinzione è rilevabile solo attraverso la decomposizione della varianza, non attraverso l'accuratezza grezza.
4. Valutazione del Modello del Mondo: Mettendo a confronto prompt focalizzati sul ragionamento e sull'azione, lo studio opera la separazione tra "comprendere l'ambiente" e "impegnarsi in azioni", mostrando che questa distinzione si mappa su strutture rappresentazionali qualitativamente diverse nei modelli AI.

Gli autori concludono che questi risultati aprono nuove direzioni per lo studio di come i modelli fondazionali codifichino le rappresentazioni strutturate e predittive alla base del comportamento adattivo, notando al contempo limitazioni riguardanti le specifiche famiglie di modelli testate e la natura preliminare dell'analisi del modo di pensiero.