Language Models Struggle to Use Representations Learned In-Context

A continuación se presenta un resumen técnico detallado del artículo "Language Models Struggle to Use Representations Learned In-Context".

1. Planteamiento del Problema

Aunque los Modelos de Lenguaje Grandes (LLM) han demostrado capacidades impresionantes en la predicción del siguiente token y en el razonamiento complejo, persiste una brecha crítica en su capacidad para funcionar como agentes artificiales verdaderamente adaptables. Específicamente, el artículo investiga si los LLM pueden desplegar de manera flexible representaciones ricas y estructuradas de datos aprendidas enteramente en contexto (es decir, sin actualizaciones de parámetros) para resolver tareas nuevas posteriores.

Trabajos anteriores (Park et al., 2025a) establecieron que los LLM pueden codificar nuevas semánticas en sus estados ocultos latentes cuando se exponen a un contexto específico (por ejemplo, aprendiendo la topología de un paseo aleatorio). Sin embargo, no está claro si estas representaciones son inertes (decodificables pero no utilizadas) o desplegables de manera flexible (que impulsan causalmente las respuestas a nuevas tareas). La pregunta central es: ¿Puede un LLM aprender una estructura en contexto y luego utilizar activamente esa estructura para resolver una tarea diferente que requiera esa misma estructura?

2. Metodología

Los autores diseñaron una serie de experimentos utilizando tareas sintéticas para desentrañar la codificación (aprendizaje de la representación) del despliegue (uso de la representación).

A. Tarea Principal: Trazado de Grafos y Aprendizaje de Representación en Contexto (ICRL)

• Configuración: Se presentan a los modelos secuencias de tokens arbitrarios generados por un paseo aleatorio sobre un espacio de estados latente (las topologías incluyen líneas 1D y cuadrículas 2D de 16 o 25 estados).
• Métrica: Los autores utilizan la Energía de Dirichlet (DE) y la Correlación de Distancia (DC) para medir si las representaciones de la capa oculta del modelo se han reorganizado para reflejar la topología geométrica del espacio de estados.
• Objetivo: Confirmar que el modelo aprende con éxito la topología en su espacio latente.

B. Experimento 1: Predicción del Siguiente Token con Retraso

• Objetivo: Probar si la topología aprendida puede utilizarse para predecir el siguiente token después de un retraso.
• Condiciones:
  1. Rellenado (Prefilled): La secuencia del paseo aleatorio se proporciona como parte de la respuesta generada por el propio modelo (despliegue inmediato).
  2. Instrucción: La secuencia se proporciona en el prompt del usuario, requiriendo que el modelo genere un token [ANSWER] y luego prediga la siguiente palabra después de un espacio (despliegue retrasado).
• Hipótesis: Si las representaciones son flexibles, el rendimiento debería ser similar en ambas condiciones. Si son inertes, el rendimiento debería disminuir significativamente en la condición de Instrucción.

C. Experimento 2: Modelado Adaptativo del Mundo (AWM)

• Objetivo: Una tarea novedosa diseñada para forzar al modelo a utilizar la topología aprendida para inferir una regla de transformación.
• Configuración:
  1. Fase 1: El modelo observa un paseo aleatorio (aprendiendo la topología).
  2. Fase 2: Ejemplos de pocos disparos (few-shot) definen una regla que mapea estados (por ejemplo, $s_{i,j} \to s_{i+2,j}$).
  3. Fase 3: El modelo debe aplicar esta regla a un estado retenido (held-out).
• Desafío: Dado que los tokens son arbitrarios, el modelo debe confiar en la topología aprendida en contexto para resolver el mapeo.
• Variaciones: Probado con reglas de "1 paso" (regla observada en el paseo) y reglas de "2 pasos/3 pasos" (regla no observada).

D. Experimento 3: Modelos de Razonamiento de Vanguardia

• Sujetos: Modelos de "razonamiento" de última generación (Gemini-2.5 Pro/Flash, GPT-5) que utilizan razonamiento de Cadena de Pensamiento (CoT).
• Objetivo: Determinar si las cadenas de razonamiento externalizadas pueden compensar las representaciones ocultas inertes.
• Análisis: Probado en AWM y en una tarea de "Descripción de Estructura" (pidiendo al modelo que describa verbalmente la topología aprendida).

3. Contribuciones Clave

1. Introducción del Modelado Adaptativo del Mundo (AWM): Una nueva tarea de referencia diseñada específicamente para sondear el despliegue flexible de semánticas en contexto.
2. Desacoplamiento de la Codificación del Despliegue: El estudio proporciona evidencia empírica de que el aprendizaje exitoso de representaciones en contexto (codificación) no garantiza la capacidad de utilizar esas representaciones para tareas posteriores (despliegue).
3. Análisis de Modelos de Razonamiento: La primera evaluación sistemática de si los modelos de razonamiento de vanguardia superan la limitación de "representación inerte" encontrada en los modelos estándar de pesos abiertos.

4. Resultados Clave

A. Modelos de Pesos Abiertos (Gemma, OLMo)

• Éxito en la Codificación: Los modelos aprendieron con éxito la topología en sus representaciones latentes (las métricas DE y DC mejoraron con la longitud del contexto) en ambas condiciones, Instrucción y Rellenado.
• Fallo en el Despliegue:
  • Predicción del Siguiente Token: Los modelos se desempeñaron bien en la condición Rellenado, pero lucharon significativamente en la condición Instrucción (despliegue retrasado), a pesar de tener representaciones latentes equivalentes.
  • Tarea AWM: Los modelos fallaron al resolver la tarea AWM cuando se les requirió inferir la topología en contexto. La precisión fue cercana a la línea base.
  • Hallazgo Crucial: Cuando la topología se proporcionó explícitamente en el prompt (eludiendo la necesidad de aprenderla en contexto), la precisión saltó a >75%. Esto demuestra que el fallo no estuvo en la inducción de reglas, sino en desplegar la representación aprendida en contexto.
  • Degradación de la Representación: Las representaciones ocultas de los tokens en los ejemplos de pocos disparos (fase AWM) mostraron una fidelidad menor a la topología en comparación con la fase de paseo aleatorio, lo que sugiere que la estructura aprendida no se estaba transmitiendo de manera flexible.

B. Modelos de Razonamiento de Vanguardia (Gemini, GPT-5)

• Mejora Parcial: Los modelos de razonamiento superaron a los modelos de pesos abiertos, particularmente en topologías 1D (línea).
• Limitaciones Persistentes: El rendimiento colapsó en topologías 2D (cuadrícula).
• Mecanismo: Cuando se les pidió que describieran explícitamente la topología aprendida, estos modelos alcanzaron una precisión "justa pero no perfecta". Esto sugiere que, aunque las cadenas CoT permiten algún despliegue flexible de semánticas, el proceso es imperfecto y no supera completamente la inercia de las representaciones ocultas subyacentes.

5. Significado e Implicaciones

• El Problema de la "Representación Inerte": El artículo desafía la suposición de que el aprendizaje en contexto crea un "modelo del mundo" totalmente funcional. Sugiere que los LLM a menudo codifican estructuras dependientes del contexto de una manera que es inerte: existen en el espacio latente pero no pueden accederse causalmente para impulsar el comportamiento en nuevos contextos.
• Limitaciones de las Arquitecturas Actuales: Incluso los modelos de razonamiento más avanzados (CoT) solo mitigan parcialmente este problema. Esto implica que las arquitecturas de transformadores actuales, incluso con razonamiento extendido, pueden carecer de los mecanismos necesarios para agentes verdaderamente adaptables que puedan construir y desplegar modelos internos del mundo sobre la marcha.
• Direcciones Futuras: Los autores sugieren que lograr un despliegue flexible podría requerir:
  • Regímenes de entrenamiento dirigidos.
  • Intervenciones mecanicistas para hacer que las semánticas en contexto estén disponibles para las capas anteriores del modelo.
  • Cambios arquitectónicos que apoyen el enlace dinámico de representaciones aprendidas al razonamiento posterior.

En resumen, el artículo demuestra que, aunque los LLM son excelentes para registrar nueva información en su ventana de contexto, actualmente luchan por actuar sobre esa información cuando requiere una aplicación flexible y causal de la estructura aprendida a una tarea novedosa.