Resumen Técnico: La Brecha Predictivo-Causal

Enunciado del Problema

El artículo aborda un modo de fallo fundamental en el aprendizaje de representaciones predictivas, un paradigma dominante en campos que van desde modelos del mundo y modelos de espacio de estado neuronal hasta modelos de lenguaje grandes (LLM) entrenados mediante predicción del siguiente token. La premisa predominante es que minimizar el error de predicción en las observaciones llevará naturalmente a la representación aprendida a capturar la estructura causal del sistema subyacente.

Los autores desafían esta premisa definiendo un "sistema" ($s$) como los grados de libertad que le importan al modelador, y un "entorno" ($e$) como todas las demás variables. Demuestran que cuando los modos del entorno son más lentos o menos ruidosos que los modos del sistema, la representación predictiva óptima no rastrea el sistema. En su lugar, rastrea el entorno. Este fenómeno se denomina brecha predictivo-causal: la degradación en la fidelidad causal (la fracción de sensibilidad del codificador asignada a los grados de libertad del sistema) que ocurre al optimizar un objetivo predictivo en lugar de uno causal.

Metodología

Los autores emplean un enfoque analítico de tres niveles para caracterizar esta brecha:

1. Demostración Teórica (Teorema de Imposibilidad):

   • Los autores demuestran el Teorema 1, estableciendo que para cualquier clase de modelos que contenga todos los codificadores lineales, existen dinámicas lineales-Gaussianas estables donde cada minimizador del riesgo predictivo poblacional está estrictamente desalineado con el subespacio del sistema.
   • Demuestran que el conjunto de dinámicas que exhiben esta propiedad es abierto y tiene medida positiva en el espacio de parámetros, lo que significa que no es un caso marginal raro, sino una propiedad genérica.
   • El Corolario 2 demuestra que aumentar la capacidad del modelo (ampliando la clase de modelos) no puede resolver este problema; solo puede reducir el riesgo aún más, estrechando así el compromiso con el codificador no causal (dominado por el entorno).

2. Experimentos a Gran Escala con Dinámicas Lineales-Gaussianas:

   • Se realizó un barrido de parámetros sobre 539 configuraciones de dinámicas lineales-Gaussianas, resultando en 2.695 ejecuciones de entrenamiento independientes utilizando codificadores MLP de dos capas.
   • Los experimentos midieron la fidelidad causal ($|\partial \phi / \partial s| / (|\partial \phi / \partial s| + |\partial \phi / \partial e|)$) y el error de predicción.
   • Se analizaron extensiones de alta dimensión ($N=10, 50, 100$ modos del entorno) para probar los efectos de la escalabilidad.

3. Validación con Dinámicas No Lineales:

   • Se entrenaron predictores GRU de una sola capa en un oscilador de Duffing acoplado a un entorno oculto de Ornstein–Uhlenbeck.
   • Se compararon dos condiciones de entrenamiento: sin restricciones (prediciendo el estado completo) y anclaje operacional (restringiendo la pérdida solo a observables del sistema).
   • La robustez se probó mediante evaluación fuera de distribución (OOD) bajo desplazamientos en la distribución del entorno.

Resultados Clave

1. Fallo Sistemático en Sistemas Lineales

• En un barrido de 160 configuraciones lineales deterministas, el codificador óptimo se alineó con el sistema (codificador Nueva Zelanda/NZ) solo en el 25% de los casos (los casos diagonales, desacoplados).
• En el 75% de los casos (cualquier acoplamiento fuera de la diagonal no nulo), el codificador óptimo se desvió del eje del sistema.
• Se probó la regularización del Cuello de Botella de Información (IB), pero se encontró que fallaba; la dirección óptima de compresión se alineó con la dirección óptima de predicción, reforzando el sesgo hacia el entorno en lugar de corregirlo.

2. Evidencia de Redes Neuronales

• En 2.695 ejecuciones de entrenamiento, la fidelidad causal media del codificador óptimo de red neuronal fue 0.49, con solo el 2.5% de las configuraciones superando 0.70.
• La red neuronal logró un 99.3% menos de error de predicción que el codificador lineal óptimo, sin embargo, este rendimiento predictivo mejorado correspondió a una representación más alejada de la codificación causal.
• Colapso de Alta Dimensión: A medida que el número de dimensiones del entorno ($N$) aumentó a 100, la fidelidad causal colapsó a $\sim 10^{-8}$ (efectivamente cero), mientras que la brecha de error de predicción creció hasta el 92%. El codificador óptimo se volvió "ciego causalmente".

3. Confirmación No Lineal y Anclaje Operacional

• En tareas no lineales de Duffing-GRU, los predictores sin restricciones aprendieron representaciones dominadas por el entorno en el 55% de las tareas, en comparación con el 24% bajo anclaje operacional.
• Robustez OOD: Bajo desplazamientos en la distribución del entorno, los modelos sin restricciones sufrieron una inflación mediana del Error Cuadrático Medio (MSE) de 1.82$\times$, mientras que los modelos anclados permanecieron estables en 1.00$\times$.
• El artículo señala que el anclaje operacional (restringir la pérdida a observables del sistema) suprime parcialmente la brecha, pero no puede recuperar completamente la fidelidad causal sin una frontera explícita sistema-entorno en la arquitectura.

Significado y Afirmaciones

El artículo afirma identificar la brecha predictivo-causal como un límite estructural del aprendizaje, no como un artefacto de optimización, un problema de datos finitos o un problema resoluble mediante escalado.

• Leyes de Escalado: Los autores argumentan que las leyes de escalado empíricas (decaimiento suave en ley de potencia de la pérdida con parámetros/datos) cuantifican la "cantidad equivocada". Miden la reducción del riesgo predictivo, lo cual puede acompañar un movimiento alejándose de la estructura causal. El escalado "afila la respuesta a la pregunta equivocada".
• Objetivos Auto-supervisados: El fallo es inherente a cualquier objetivo que calcule la pérdida en un espacio de observación no particionado. Ya sea utilizando auto-codificación enmascarada, arquitecturas predictivas de incrustación conjunta (JEPA) o aprendizaje contrastivo, la ausencia de una distinción explícita sistema-entorno en la función de pérdida permite minimizadores dominados por el entorno.
• Interfaz Operacional: El artículo postula que recuperar la estructura causal requiere una "interfaz operacional"—una especificación de qué grados de libertad pertenecen al sistema y están permitidos como entradas del codificador. Técnicas como RLHF, ajuste por instrucciones y post-entrenamiento con recompensas verificables se enmarcan no como superposiciones de alineación, sino como las interfaces operacionales necesarias que convierten problemas predictivos mal planteados en problemas de identificación bien planteados.

En conclusión, el artículo afirma que un modelo entrenado para predecir el siguiente paso en un sistema compuesto aprenderá a rastrear lo que sea más fácil de predecir (a menudo el entorno), y no lo que es causalmente relevante. Esto se describe como "la respuesta correcta al problema equivocado".