TERRA: Task-Embedded Reasoning and Representation Architecture for Cross-Domain Applications

Resumen Técnico: TERRA – Arquitectura de Razonamiento y Representación Basada en Tareas para Aplicaciones de Dominio Cruzado

Estado del documento: Esta es una propuesta de investigación y un marco teórico. Los autores declaran explícitamente que no se presentan resultados empíricos. El trabajo convierte una intuición ampliamente aceptada —que los modelos predictivos en un dominio estructurado (por ejemplo, la conducción) pueden transferirse a otro (por ejemplo, los mercados financieros)— en una teoría falsable con un programa experimental preregistrado.

1. El Problema

Las arquitectes de aprendizaje predictivo actuales (por ejemplo, V-JEPA, Dreamer, RT-2) han logrado el éxito dentro de dominios específicos modelando estados latentes condicionados por la acción. Sin embargo, la afirmación de que una representación o un predictor aprendido en un dominio (por ejemplo, el espacio de trabajo de un robot físico) se traslada a un dominio estructuralmente análogo pero no relacionado (por ejemplo, un libro de órdenes financiero o una red eléctrica) sigue siendo una intuición no probada.

El problema central es la pregunta de la transferencia:

• ¿Cuándo se transfiere una representación aprendida en el Dominio A al Dominio B?
• ¿En qué medida se transfiere?
• ¿Cuáles son los límites teóricos de esta transferencia y cómo pueden medirse?

El trabajo existente carece de una teoría formal para explicar cuándo debería sostenerse esta transferencia o por qué podría fallar, particularmente para predictores latentes de alta dimensión condicionados por la acción sobre rejillas estructuradas.

2. Metodología y Marco Teórico

El documento propone un tratamiento matemático formal de la transferencia de dominio cruzado, modelando los dominios como Procesos de Markov Controlados en Rejillas Latentes Graduadas.

A. Modelado de Dominio y Factorización

• Dominio de Estado Estructurado: Definido como una tupla $(S, A, T, r)$ donde el espacio de estados $S$ admite una representación de rejilla graduada (por ejemplo, rejillas de vóxeles para la conducción, rejillas de precio-tiempo para libros de órdenes).
• Factorización de la Arquitectura: Los autores proponen descomponer cualquier instancia de dominio en dos partes:
  1. Adaptadores de Dominio: Componentes pequeños y específicos del dominio (codificador $e_D$ y tokenizador $\tau_D$) que mapean la rejilla específica a un espacio latente canónico.
  2. Núcleo Compartido Invariante al Dominio: Un componente grande y compartido (codificador de contexto, codificador de objetivo y predictor latente condicionado por la acción) que opera únicamente sobre latentes canónicos y tokens de acción.
• Premisa: Debido a que el núcleo es idéntico por construcción, cualquier transferencia observada es atribuible a propiedades estructurales compartidas en lugar de un mero reuso arquitectónico.

B. Correspondencia de Dominio Cruzado

La relación entre dos dominios se formaliza como un Homomorfismo de MDP Aproximado.

• Homomorfismo Exacto: Un mapeo $\Phi = (\phi_Z, \phi_A)$ que entrelaza perfectamente los núcleos de transición y preserva las recompensas. El documento señala que estos rara vez existen entre dominios físicos y no físicos no relacionados.
• Homomorfismo Aproximado: La calidad de la correspondencia se mide mediante una Discrepancia de Bisimulación Laxa ($\epsilon_{lax}$), que agrega:
  • Defecto de Transición ($\epsilon_T$): La distancia Wasserstein-1 entre el pushforward de las transiciones de la fuente y las transiciones del objetivo.
  • Defecto de Recompensa ($\epsilon_r$): La diferencia máxima en las recompensas bajo el mapeo.

C. Límites Teóricos

Los autores derivan un Límite de Transferencia Predictiva que separa las fuentes de error:

1. Error de un Paso: El error de un predictor transportado está acotado por la suma del error del modelo de origen (escalado por la constante de Lipschitz del mapa de estado) y el desajuste estructural (el defecto del homomorfismo).
2. Límite de Horizonte: Al ejecutar el predictor sobre un horizonte $H$, el error crece geométricamente basado en la constante de Lipschitz ($L$) de la dinámica del núcleo.
   • Si $L \leq 1$ (contractivo/estable), el error escala linealmente o permanece acotado.
   • Si $L > 1$ (expansivo), el error crece geométricamente, limitando la transferencia a horizontes cortos.
3. Suelo Estructural: La distancia Gromov-Wasserstein (GW) entre los operadores de transición de los dos dominios proporciona un límite inferior en la discrepancia alcanzable. Ninguna correspondencia puede reducir el error por debajo de la mitad de la distancia GW.
4. Arrepentimiento de Decisión: Utilizando la propiedad del valor de Lipschitz de las métricas de bisimulación, el error de predicción latente se reduce a arrepentimiento de decisión (decision regret). Esto conecta la fidelidad de la representación directamente con la calidad del control.

3. Contribuciones Clave

1. Modelo Formal: Una definición de dominios de decisión de estado estructurado como procesos de Markov controlados en rejillas latentes graduadas, factorizados en adaptadores y un núcleo compartido.
2. Teoría de Transferencia: Una teoría cuantitativa de la correspondencia de dominio cruzado utilizando homomorfismos de MDP aproximados, medidos por la discrepancia de bisimulación laxa y la distancia de Gromov-Wasserstein.
3. Límite de Transferencia Predictiva: Una derivación que separa el error del modelo de origen del desajuste estructural, mostrando cómo el error escala con el horizonte de predicción y las constantes de Lipschitz.
4. Reducción de Arrepentimiento: Una prueba que vincula el error latente con el arrepentimiento de decisión, asegurando que la teoría aborde la calidad del control y no solo la similitud de la representación.
5. Hipótesis de Transferencia de Estado Estructurado (SSTH): Una afirmación falsable que establece que la ganancia de transferencia es una función decreciente de la discrepancia estructural (acotada por debajo por la distancia GW).
6. Programa Experimental Preregistrado: Un plan detallado (Fases 1–4) para probar la hipótesis, moviéndose desde verificaciones de cordura dentro del mismo dominio hasta la "transferencia lejana" (de conducción a libros de órdenes), con condiciones explícitas de refutación.

4. Resultados

El documento no presenta resultados empíricos.
Los autores declaran explícitamente: "No presentamos resultados empíricos: este es un proyecto de investigación cuyo contribución es convertir una intuición ampliamente repetida en una teoría testable". Los "resultados" son derivaciones teóricas (Proposiciones 1–3, Corolario 1) y un conjunto de predicciones preregistradas (P1–P4) para futuros experimentos.

5. Significación y Reivindicaciones

La significación de este trabajo reside en su modestia y rigor:

• De la Intuición a la Teoría: Mueve el concepto de transferencia de dominio cruzado de una intuición repetida a un marco matemáticamente fundamentado y testeable.
• Medibilidad: Proporciona métricas específicas (distancia GW, constantes de Lipschitz, discrepancia laxa) para cuantificar cuándo es posible la transferencia y cuánto esperar.
• Falsabilidad: La Hipótesis de Transferencia de Estado Estructurado está diseñada explícitamente para ser refutada. El documento describe las condiciones específicas bajo las cuales la teoría sería probada errónea (por ejemplo, si ocurre transferencia a pesar de una alta discrepancia, o si el decaimiento del horizonte es independiente de la constante de Lipschitz).
• Sin Reivindicación de Nueva Arquitectura: Los autores aclaran que la arquitectura subyacente (TERRA) es una recombinación de componentes validados existentes (JEPA, modelos de mundo, tokenización). La contribución es la teoría de la transferencia construida sobre este sustrato, no la arquitectura en sí misma.

El documento concluye que, si bien se desconoce la validez de la hipótesis, la capacidad de responder a la pregunta de la transferencia con herramientas matemáticas existentes es la contribución principal.