Causal Optimal Coupling for Gaussian Input-Output Distributional Data

A continuación presento un resumen técnico detallado del artículo "Causal Optimal Coupling for Gaussian Input-Output Distributional Data" en español, estructurado según los puntos solicitados.

1. Planteamiento del Problema

El artículo aborda el problema de identificación de sistemas a partir de datos distribucionales de entrada y salida. Se considera un sistema dinámico desconocido donde se observan realizaciones independientes de los procesos de entrada ($U = \{U_t\}_{t=1}^T$) y salida ($Y = \{Y_t\}_{t=1}^T$), pero el emparejamiento temporal específico entre las observaciones de entrada y salida es desconocido.

El objetivo es identificar una relación entrada-salida que sea consistente con las distribuciones marginales observadas ($\mu$ para $U$ y $\nu$ para $Y$) y que respete la estructura temporal del sistema. Formalmente, esto se modela como la búsqueda de un acoplamiento óptimo $\pi$ entre $\mu$ y $\nu$ que satisfaga una restricción de causalidad:
$$(Y_1, \dots, Y_t) \perp\!\!\!\perp (U_{t+1}, \dots, U_T) \mid (U_1, \dots, U_t)$$
Esto implica que, dado el historial de entradas hasta el tiempo $t$, las futuras entradas son independientes de las mediciones pasadas de salida.

El problema se formula como un Puente de Schrödinger (Schrödinger Bridge), buscando el acoplamiento $\pi$ que minimice la divergencia de Kullback-Leibler (KL) respecto a un modelo de referencia $\gamma$, sujeto a las restricciones de marginales y causalidad:
$$\min_{\pi \in \Pi_c(\mu, \nu)} D(\pi, \gamma)$$
Donde $\Pi_c(\mu, \nu)$ es el conjunto de acoplamientos causales. Esto se reescribe como un problema de Transporte Óptimo Causal Entropizado (ECOT) con una función de costo $c$ derivada del modelo de referencia.

2. Metodología

La metodología propuesta se centra en el caso donde las distribuciones marginales son Gaussianas y el modelo de referencia es un modelo lineal-Gaussiano.

• Modelo de Referencia: Se asume que el modelo de referencia $\gamma$ sigue una dinámica lineal causal:
  $$Y_t = h_t^\top U_{1:t} + f_t^\top Y_{1:t-1} + b_t + w_t$$
  donde $w_t$ es ruido gaussiano. Esto induce una función de costo cuadrática general que captura dependencias temporales complejas, más allá de la simple distancia euclidiana.

• Algoritmo de Iteraciones de Sinkhorn: Para resolver el problema de optimización, los autores adaptan el marco abstracto de las iteraciones de Sinkhorn (proyecciones alternadas) al caso específico de distribuciones Gaussianas. El algoritmo alterna entre dos pasos:

  1. Iteración Impar (Proyección Causal): Proyectar el acoplamiento actual sobre el conjunto de acoplamientos con la marginal de entrada fija ($\mu$) y la restricción de causalidad.
  2. Iteración Par (Proyección de Marginal): Proyectar el resultado sobre el conjunto de acoplamientos con la marginal de salida fija ($\nu$).

• Tractabilidad Gaussiana: La contribución metodológica clave es demostrar que la familia de distribuciones Gaussianas es invariante bajo ambos pasos de proyección. Esto permite derivar fórmulas explícitas para actualizar los parámetros (medias y covarianzas condicionales) en cada iteración, evitando la necesidad de métodos numéricos generales costosos.

  • Se utilizan desintegraciones temporales de las distribuciones Gaussianas para caracterizar las dependencias causales paso a paso.
  • Se derivan expresiones cerradas para los parámetros del acoplamiento óptimo en cada paso, basadas en las matrices de covarianza y los coeficientes de regresión de los modelos condicionales.

3. Contribuciones Clave

1. Caracterización Explícita para Casos Gaussianos: A diferencia de trabajos anteriores que ofrecen iteraciones de Sinkhorn abstractas o soluciones solo para costos cuadráticos simples (como la distancia de Wasserstein-2), este trabajo proporciona una caracterización totalmente tratable y explícita para costos cuadráticos generales dependientes del tiempo bajo restricciones de causalidad unilateral.
2. Algoritmo Implementable: Se presenta un algoritmo concreto que actualiza los parámetros del modelo lineal-Gaussiano en cada iteración, permitiendo la implementación computacional directa sin necesidad de discretización espacial o temporal adicional.
3. Marco para Identificación de Sistemas: Se establece una base teórica sólida para aplicar el transporte óptimo causal a la identificación de sistemas dinámicos directamente desde datos distribucionales, superando la necesidad de pares de datos (input-output) emparejados explícitamente.
4. Generalización del Costo: El marco permite costos que capturan interacciones temporales complejas (dependencia de $Y_t$ en $U_{1:t}$ y $Y_{1:t-1}$), lo cual es más realista para sistemas dinámicos que los costos separables tradicionales.

4. Resultados

• Convergencia: El algoritmo de iteraciones de Sinkhorn propuesto converge a la solución óptima del problema ECOT para el caso Gaussiano.
• Ejemplo Numérico:
  • Se simuló un sistema en el intervalo $[0, 1]$ con $T=128$ pasos.
  • Se comparó el acoplamiento causal con uno no causal (sin restricción de causalidad).
  • Hallazgos visuales: El análisis de la covarianza cruzada condicional mostró que el acoplamiento no causal exhibe correlaciones anticipatorias (valores no nulos donde la salida depende de futuras entradas), violando la causalidad. En contraste, el acoplamiento causal respetó estrictamente la estructura temporal, mostrando cero covarianza para dependencias anticipatorias y una estructura positiva consistente para dependencias causales.
• Recuperación del Modelo: A partir del acoplamiento óptimo $\pi^*$, es posible recuperar los parámetros del modelo lineal-Gaussiano ($h_t, f_t, b_t, \epsilon_t$) mediante condicionamiento estadístico estándar.

5. Significado e Impacto

Este trabajo es significativo porque cierra la brecha entre la teoría del transporte óptimo causal y la práctica de la identificación de sistemas dinámicos.

• Aplicabilidad: Proporciona una herramienta computacionalmente eficiente para inferir relaciones causales en sistemas dinámicos cuando solo se dispone de estadísticas de entrada y salida (distribuciones), un escenario común en física, ingeniería y economía donde los datos emparejados pueden ser ruidosos o indisponibles.
• Fundamento Teórico: Demuestra que las restricciones de causalidad pueden integrarse rigurosamente en el marco de optimización de entropía (Schrödinger Bridge) sin sacrificar la tractabilidad matemática en el caso Gaussiano.
• Futuro: Abre la puerta a futuras investigaciones para extender este marco a modelos no lineales y distribuciones no Gaussianas, con el objetivo final de aplicar estas técnicas a la generación de series temporales y modelado generativo avanzado.

En resumen, el artículo propone un algoritmo eficiente y matemáticamente riguroso para "emparejar" distribuciones de entrada y salida en sistemas dinámicos respetando la causalidad, utilizando la estructura de las distribuciones Gaussianas para obtener soluciones analíticas dentro de un esquema iterativo.