Resumen Técnico: Alineación Cerebral de Representaciones de Razonamiento y Acción en Juego Naturalista

Declaración del Problema

Comprender cómo los humanos y los sistemas de inteligencia artificial predicen y planifican a través de la interacción con el entorno es un desafío central en la intersección de la neurociencia y el aprendizaje automático. Si bien estudios previos de codificación cerebral han alineado con éxito modelos artificiales con la actividad cerebral durante la comprensión pasiva del lenguaje o el procesamiento visual, la investigación sobre alineación cerebral interactiva ha permanecido limitada principalmente a agentes de aprendizaje por refuerzo (RL) y modelos basados en teoría. Estos modelos tradicionales están optimizados para el aprendizaje de acciones basado en recompensas y codifican principalmente características relacionadas con la acción, lo que podría omitir las estructuras perceptuales, semánticas y predictivas más ricas que los humanos utilizan para representar objetos, relaciones y resultados futuros.

Este artículo aborda esta brecha investigando si los modelos fundacionales modernos, específicamente los Modelos Visión-Lenguaje (VLM) y los Modelos de Gran Acción (LAM), adquieren "modelos del mundo" internos que se alinean con la actividad cerebral humana durante el juego interactivo naturalista. El estudio busca determinar cómo los prompts enfocados en la acción y los enfocados en el razonamiento moldean las representaciones del modelo y si estas representaciones capturan mejor las computaciones neuronales subyacentes al comportamiento adaptativo humano en comparación con las líneas base tradicionales de RL.

Metodología

Conjunto de Datos y Configuración Experimental

El estudio utiliza un conjunto de datos de videojuegos al estilo Atari de naturaleza naturalista que contiene grabaciones de fMRI de 32 participantes sanos jugando seis juegos diferentes. Los datos se preprocesan y proyectan sobre la superficie cortical ("fsaverage6"), centrándose el análisis en 11 Regiones de Interés (ROI) que abarcan áreas visuales tempranas, fronto-parietales y de planificación motora.

Modelos Evaluados

Los autores evaluaron dos familias de modelos fundacionales junto con dos líneas base de RL:

1. Modelos Visión-Lenguaje (VLM): Qwen2.5-VL-7B-Instruct e InternVL3-8B. Estos modelos procesan cuadros visuales del juego y prompts de texto para realizar razonamiento.
2. Modelos de Gran Acción (LAM): UI-TARS-7B-DPO y OS-Atlas-Pro-7B. Estos modelos se ajustan finamente a partir de Qwen2-VL en trayectorias de interacción con GUI y juegos, optimizados específicamente para la planificación y ejecución de acciones.
3. Líneas Base: EMPA (un agente de RL basado en teoría) y D-DQN (una red Q profunda).

Condiciones de Prompting

Para sondear diferentes modos cognitivos, los modelos se probaron bajo tres condiciones:

• Sin Prompt: Los modelos recibieron únicamente cuadros del juego.
• Prompt de Acción: Se pidió a los modelos que se comprometieran con una próxima acción con una breve justificación.
• Prompt de Razonamiento: Se pidió a los modelos que describieran objetivos del juego, relaciones espaciales y metas sin necesariamente comprometerse con una acción inmediata.

Codificación y Análisis

• Extracción de Características: Se extrajeron representaciones de estado oculto de todas las capas del transformador utilizando una ventana deslizante de cuadros recientes para igualar la resolución temporal del fMRI (TR = 2s).
• Codificación Voxel a Voxel: Se entrenaron modelos de regresión de cresta con bootstrap para predecir respuestas de fMRI a partir de las representaciones del modelo. El rendimiento se midió utilizando el Coeficiente de Correlación de Pearson (PCC).
• Partición de Varianza: Se utilizó un enfoque estadístico para descomponer la varianza explicada ($R^2$) en componentes compartidos entre los prompts de acción y de razonamiento, y componentes únicos para cada tipo de prompt. Esto permitió a los autores distinguir entre modelos que codifican información similar y aquellos con organizaciones representacionales cualitativamente diferentes.
• Análisis de Modo de Pensamiento: Un estudio preliminar sobre Qwen3.5 comparó la alineación cerebral de sus trazas de razonamiento explícito (Cadena de Pensamiento) frente a sus salidas de acción finales.

Resultados Clave

1. Los Modelos Fundacionales Superan a las Líneas Base de RL

Tanto los VLM como los LAM superaron significativamente a las líneas base clásicas de RL (EMPA y D-DQN) en la codificación cerebral voxel a voxel, incluso cuando las dimensiones de las características se igualaron (por ejemplo, reducidas a 8 dimensiones).

• Rendimiento Sin Prompt: Los VLM alcanzaron $r \approx 0.264$ y los LAM $r \approx 0.271$, en comparación con EMPA ($r=0.162$) y D-DQN ($r=0.097$).
• Efectos del Prompt: El prompting explícito mejoró aún más la alineación para ambas familias de modelos, alcanzando los VLM con prompt $r \approx 0.358$ y los LAM $r \approx 0.348$.

2. Jerarquía Cortical de las Ganancias Impulsadas por el Prompt

La mejora en la alineación cerebral impulsada por el prompting no fue uniforme en todo el cerebro.

• Regiones Frontales-Parietales y Motoras: Las mayores ganancias se observaron en regiones de orden superior involucradas en la planificación y la toma de decisiones, específicamente el Giro Frontal Medio (MFG), el Área Motora Suplementaria (SMA), el Giro Frontal Inferior (IFG) y el Giro Angular (AG).
• Corteza Visual: Las regiones visuales tempranas mostraron ganancias de aproximadamente la mitad de la magnitud de las regiones frontales.
• Significado: Esta jerarquía sugiere que los prompts mejoran principalmente las representaciones relacionadas con objetivos, planificación y la red de "múltiples demandas" en lugar de solo el procesamiento visual de bajo nivel.

3. Disociación Cualitativa mediante Partición de Varianza

Si bien los VLM y los LAM alcanzaron una precisión de predicción bruta estadísticamente equivalente en todo el cerebro, la partición de varianza reveló una diferencia fundamental en su organización interna:

• VLM (Simétricos al Prompt): La varianza única aportada por los prompts de acción ($12.5\%$) y los prompts de razonamiento ($13.6\%$) estaba equilibrada.
• LAM (Asimétricos a la Acción): Los prompts de acción contribuyeron significativamente más varianza única ($27\%$) que los prompts de razonamiento, los cuales contribuyeron con varianza única negativa ($-5\%$) en todo el cerebro y en la corteza fronto-motora.
• Interpretación: En los LAM, el ajuste fino especializado en acción parece reorganizar las representaciones de tal manera que la señal de "razonamiento" se vuelve redundante o similar al ruido en las regiones de planificación motora, ya que la supervisión de acción ya subsume la información necesaria. Esta disociación es invisible a nivel de precisión bruta pero clara en la descomposición de la varianza.

4. Asimetría del Modo de Pensamiento

En el análisis preliminar de Qwen3.5, la salida de acción final del modelo mostró una alineación cerebral sustancialmente mayor ($r=0.355$) que su traza de razonamiento explícito ($r=0.173$). Esta brecha persistió incluso después de controlar la posición de lectura, lo que sugiere que las trazas de razonamiento explícito de tipo cadena de pensamiento en los modelos actuales de modo de pensamiento pueden no alinearse tan estrechamente con la dinámica neuronal humana como el compromiso final de acción del modelo.

Significado y Afirmaciones

El artículo afirma extender la investigación de alineación cerebral desde la percepción pasiva hasta el juego interactivo, proporcionando la primera evaluación sistemática de VLM y LAM modernos en este contexto. Las contribuciones principales son:

1. Riqueza Representacional Superior: Los modelos fundacionales multimodales codifican más información relevante para el cerebro sobre entornos de juego dinámicos que los agentes de RL optimizados para tareas tradicionales.
2. Reorganización Condicionada por Prompt: El estudio demuestra que el prompting puede desplazar las representaciones del modelo para alinearse mejor con la actividad cerebral humana, particularmente en regiones cognitivas de orden superior.
3. Disociación entre Acción y Razonamiento: El trabajo revela que el ajuste fino especializado en acción (LAM) reorganiza fundamentalmente las representaciones multimodales hacia computaciones neuronales relevantes para la acción, creando una estructura asimétrica al prompt distinta de los VLM de propósito general. Esta distinción solo es detectable mediante descomposición de varianza, no mediante precisión bruta.
4. Evaluación del Modelo del Mundo: Al contrastar prompts enfocados en el razonamiento y prompts enfocados en la acción, el estudio operacionaliza la separación entre "entender el entorno" y "comprometerse con acciones", mostrando que esta distinción se mapea en estructuras representacionales cualitativamente diferentes en los modelos de IA.

Los autores concluyen que estos hallazgos abren nuevas direcciones para estudiar cómo los modelos fundacionales codifican las representaciones estructuradas y predictivas que subyacen al comportamiento adaptativo, mientras que señalan limitaciones relacionadas con las familias de modelos específicos probados y la naturaleza preliminar del análisis del modo de pensamiento.