Technische Samenvatting: Hersenalignatie van Redenerings- en Actierepresentaties in Natuurlijke Gameplay

Probleemstelling

Het begrijpen van hoe mensen en kunstmatige intelligentiesystemen voorspellen en plannen door interactie met de omgeving, is een centrale uitdaging op het snijvlak van neurowetenschap en machine learning. Hoewel eerdere hersen-encodingstudies kunstmatige modellen succesvol hebben afgestemd op hersenactiviteit tijdens passieve taalbegrip of visuele verwerking, is interactief hersenalignatieonderzoek grotendeels beperkt gebleven tot versterkingslering (RL) agenten en theoriegebaseerde modellen. Deze traditionele modellen zijn geoptimaliseerd voor beloningsgebaseerd actieleren en coderen voornamelijk actiegerelateerde kenmerken, waardoor ze mogelijk de rijkere perceptuele, semantische en voorspellende structuren missen die mensen gebruiken om objecten, relaties en toekomstige uitkomsten te representeren.

Dit artikel adresseert deze kloof door te onderzoeken of moderne foundation-modellen – specifiek Vision-Language Models (VLM's) en Large-Action Models (LAM's) – interne "wereldmodellen" verwerven die aligneren met menselijke hersenactiviteit tijdens natuurlijke, interactieve gameplay. De studie tracht te bepalen hoe actiegerichte en redeneringsgerichte prompts modelrepresentaties vormen en of deze representaties de neurale berekeningen die ten grondslag liggen aan menselijk adaptief gedrag beter vangen dan traditionele RL-baselines.

Methodologie

Dataset en Experimentele Opzet

De studie maakt gebruik van een natuurlijke Atari-stijl videospel-dataset met fMRI-opnames van 32 gezonde deelnemers die zes verschillende spellen spelen. De data is voorverwerkt en geprojecteerd op het corticale oppervlak ("fsaverage6"), met analyse gericht op 11 Gebieden van Interesse (ROI's) die zich uitstrekken over vroege visuele, fronto-pariëtale en motorische-planningsgebieden.

Geëvalueerde Modellen

De auteurs evalueerden twee families van foundation-modellen naast twee RL-baselines:

1. Vision-Language Models (VLM's): Qwen2.5-VL-7B-Instruct en InternVL3-8B. Deze modellen verwerken visuele spelbeelden en tekstprompts om redenering uit te voeren.
2. Large-Action Models (LAM's): UI-TARS-7B-DPO en OS-Atlas-Pro-7B. Deze modellen zijn fijngefineerd vanuit Qwen2-VL op GUI- en spel-interactietrajecten, specifiek geoptimaliseerd voor actieplanning en -uitvoering.
3. Baselines: EMPA (een theoriegebaseerde RL-agent) en D-DQN (een diepe Q-netwerk).

Promptvoorwaarden

Om verschillende cognitieve modi te onderzoeken, werden de modellen getest onder drie voorwaarden:

• Geen Prompt: Modellen ontvingen uitsluitend spelbeelden.
• Actie Prompt: Modellen werden gevraagd een volgende actie te kiezen met een korte rechtvaardiging.
• Redenering Prompt: Modellen werden gevraagd spelobjectieven, ruimtelijke relaties en doelen te beschrijven zonder noodzakelijkerwijs een directe actie te kiezen.

Encoding en Analyse

• Kenmerkextractie: Hidden-state representaties werden geëxtraheerd uit alle transformerlagen met behulp van een glijdend venster van recente beelden om de temporele resolutie van fMRI (TR = 2s) te matchen.
• Voxel-voor-voxel Encoding: Bootstrap ridge-regressiemodellen werden getraind om fMRI-responsen te voorspellen vanuit modelrepresentaties. Prestaties werden gemeten met de Pearson Correlatie Coëfficiënt (PCC).
• Variantiepartitionering: Een statistische aanpak werd gebruikt om de verklaarde variantie ($R^2$) te ontleden in componenten die gedeeld worden tussen actie- en redeneringprompts, en componenten die uniek zijn voor elk prompttype. Dit stelde de auteurs in staat onderscheid te maken tussen modellen die vergelijkbare informatie coderen versus die met kwalitatief verschillende representatieve organisaties.
• Denkmodus-analyse: Een voorlopige studie aan Qwen3.5 vergeleek de hersenalignatie van zijn expliciete redeneringssporen (Chain-of-Thought) met zijn uiteindelijke actie-outputs.

Belangrijkste Resultaten

1. Foundation-modellen presteren beter dan RL-baselines

Zowel VLM's als LAM's presteerden significant beter dan klassieke RL-baselines (EMPA en D-DQN) in voxel-voor-voxel hersenencoding, zelfs wanneer kenmerkdimensies werden aangepast (bijvoorbeeld gereduceerd tot 8 dimensies).

• Prestaties zonder Prompt: VLM's behaalden $r \approx 0,264$ en LAM's $r \approx 0,271$, vergeleken met EMPA ($r=0,162$) en D-DQN ($r=0,097$).
• Prompt-effecten: Expliciete prompting verbeterde de alignatie verder voor beide modelfamilies, waarbij geprompte VLM's $r \approx 0,358$ bereikten en LAM's $r \approx 0,348$.

2. Corticale Hiërarchie van Prompt-gedreven Winsten

De verbetering in hersenalignatie gedreven door prompting was niet uniform over de hersenen.

• Fronto-pariëtale & Motorische Regio's: De grootste winsten werden waargenomen in hogere-orde regio's betrokken bij planning en besluitvorming, specifiek de Middle Frontal Gyrus (MFG), Supplementary Motor Area (SMA), Inferior Frontal Gyrus (IFG) en Angular Gyrus (AG).
• Visuele Cortex: Vroege visuele regio's toonden winst die ongeveer de helft bedroeg van de grootte van frontale regio's.
• Betekenis: Deze hiërarchie suggereert dat prompts voornamelijk representaties verbeteren die gerelateerd zijn aan doelen, planning en het "multiple-demand" netwerk, in plaats van alleen laag-niveau visuele verwerking.

3. Kwalitatieve Dissociatie via Variantiepartitionering

Hoewel VLM's en LAM's statistisch equivalente ruwe voorspellingnauwkeurigheid bereikten over de hele hersenen, onthulde variantiepartitionering een fundamenteel verschil in hun interne organisatie:

• VLM's (Prompt-symmetrisch): De unieke variantie bijgedragen door actieprompts ($12,5\%$) en redeneringprompts ($13,6\%$) was gebalanceerd.
• LAM's (Actie-asymmetrisch): Actieprompts droegen significant meer unieke variantie bij ($27\%$) dan redeneringprompts, die negatieve unieke variantie bijdroegen ($-5\%$) in de hele hersenen en fronto-motorische cortex.
• Interpretatie: Bij LAM's lijkt de actie-specialiseerde fijnfining representaties zodanig te herorganiseren dat het "redenerings"signaal redundant of ruisachtig wordt in motorische-planningsregio's, aangezien de actie-supervisie de nodige informatie al omvat. Deze dissociatie is onzichtbaar op het niveau van ruwe nauwkeurigheid maar duidelijk in variantiedecompositie.

4. Asymmetrie in Denkmodus

In de voorlopige analyse van Qwen3.5 toonde de uiteindelijke actie-output van het model aanzienlijk hogere hersenalignatie ($r=0,355$) dan zijn expliciete redeneringspoor ($r=0,173$). Deze kloof bleef bestaan zelfs na controle voor de uitleespositie, wat suggereert dat expliciete chain-of-thought redeneringssporen in huidige denkmodus-modellen mogelijk minder nauw aligneren met menselijke neurale dynamiek dan de uiteindelijke actiecommitment van het model.

Betekenis en Claims

Het artikel claimt hersenalignatieonderzoek uit te breiden van passieve perceptie naar interactieve gameplay, en biedt de eerste systematische evaluatie van moderne VLM's en LAM's in deze setting. De primaire bijdragen zijn:

1. Superieure Representatieve Rijkdom: Multimodale foundation-modellen coderen meer hersenrelevante informatie over dynamische spelomgevingen dan traditionele taak-geoptimaliseerde RL-agenten.
2. Prompt-geconditioneerde Herorganisatie: De studie demonstreert dat prompting modelrepresentaties kan verschuiven om beter te aligneren met menselijke hersenactiviteit, met name in hogere-orde cognitieve regio's.
3. Actie versus Redenering Dissociatie: Het werk onthult dat actie-specialiseerde fijnfining (LAM's) multimodale representaties fundamenteel herorganiseert naar actie-relevante neurale berekeningen, waardoor een prompt-asymmetrische structuur ontstaat die verschilt van algemene VLM's. Dit onderscheid is alleen detecteerbaar via variantiedecompositie, niet via ruwe nauwkeurigheid.
4. Wereldmodel Evaluatie: Door redeneringsgerichte en actiegerichte prompts te contrasteren, operationaliseert de studie de scheiding tussen "het begrijpen van de omgeving" en "het kiezen van acties", en toont aan dat dit onderscheid overeenkomt met kwalitatief verschillende representatieve structuren in AI-modellen.

De auteurs concluderen dat deze bevindingen nieuwe richtingen openen voor het bestuderen van hoe foundation-modellen de gestructureerde, voorspellende representaties coderen die ten grondslag liggen aan adaptief gedrag, terwijl ze beperkingen noteren met betrekking tot de specifieke geteste modelfamilies en het voorlopige karakter van de denkmodus-analyse.