Resumen Técnico: SC3D – Descubrimiento Diferenciable Causal Dinámico Estable

1. Formulación del Problema

El artículo aborda el desafío de descubrir estructuras causales a partir de datos de series temporales multivariantes donde las interacciones ocurren a través de múltiples retardos temporales y potencialmente involucran dependencias instantáneas. El descubrimiento causal tradicional en series temporales enfrenta dos obstáculos principales:

1. Espacio de Búsqueda Combinatorio: El espacio de búsqueda para grafos dinámicos que involucran tanto aristas retardadas (inter-slice) como instantáneas (intra-slice) es combinatorio, lo que hace inviable la búsqueda exhaustiva para sistemas de alta dimensión.
2. Inestabilidad Numérica: Los métodos de descubrimiento causal diferenciable (DCD), que formulan el aprendizaje de la estructura como una optimización continua, a menudo sufren de inestabilidad numérica al imponer restricciones de aciclicidad, particularmente a medida que aumenta el número de variables. Las restricciones de aciclicidad suaves existentes (por ejemplo, basadas en la traza) se deterioran rápidamente más allá de decenas de variables.

Los autores proponen SC3D (Descubrimiento Diferenciable Causal Dinámico Estable), un marco diseñado para aprender conjuntamente matrices de adyacencia específicas por retardo y un Grafo Acíclico Dirigido (DAG) instantáneo dentro de un Modelo de Ecuaciones Estructurales (SEM) dinámico no lineal.

2. Metodología

SC3D emplea un marco diferenciable de dos etapas que une los modelos autorregresivos vectoriales estructurales (SVAR) con el descubrimiento causal diferenciable estable. El método opera sobre series temporales multivariantes observacionales $\{X_t\}_{t=1}^T$.

Etapa 1: Preselección Temporal por Nodo

La primera etapa tiene como objetivo reducir el espacio de búsqueda combinatorio identificando candidatos a padres causales sin imponer restricciones de aciclicidad.

• Proceso: Para cada variable objetivo $X_j^{t+1}$, se ajusta un modelo predictivo condicional (implementado como un Perceptrón Multicapa, MLP) utilizando una ventana temporal de candidatos a padres, que incluye variables retardadas hasta el orden $L$ y variables contemporáneas (excluyendo bucles auto).
• Objetivo: El modelo maximiza una verosimilitud logarítmica condicional penalizada con un término de regularización $L_1$ para imponer dispersión.
• Salida: Las magnitudes de los grupos de entrada aprendidos se umbralizan para generar máscaras binarias ($M_{A_\ell}$ para aristas retardadas y $M_B$ para aristas instantáneas).
• Garantía Teórica: El Teorema 3.1 establece que, a nivel poblacional, este paso de preselección preserva todos los padres dinámicos verdaderos dentro de la ventana temporal elegida, asegurando que no se descarten relaciones causales verdaderas antes de la etapa de refinamiento.

Etapa 2: Refinamiento de Estructura Constrained

La segunda etapa refina la estructura causal utilizando las máscaras generadas en la Etapa 1, centrándose en imponer la restricción de aciclicidad específicamente sobre el componente instantáneo.

• Optimización: Los parámetros del modelo se re-optimizan para minimizar una verosimilitud logarítmica negativa regularizada, restringida a las aristas permitidas por las máscaras de la Etapa 1.
• Imposición de Aciclicidad: A diferencia de los métodos anteriores que aplican restricciones suaves basadas en la traza a todo el grafo, SC3D impone la aciclicidad solo sobre la matriz de adyacencia instantánea $B$. Esto se logra mediante una penalización del radio espectral $\rho(|B|)$, que es igual a cero si y solo si el grafo es acíclico.
• Penalización de 2-Ciclos: Para abordar la posible inestabilidad derivada de aristas recíprocas que podrían satisfacer un radio espectral pequeño, se introduce una penalización adicional $L_1$ sobre el producto elemento a elemento $B \odot B^\top$ para penalizar directamente los 2-ciclos.
• Programación de Penalización: El coeficiente de penalización espectral $\gamma$ se incrementa gradualmente durante el entrenamiento. Una vez que el grafo instantáneo extraído satisface la restricción de aciclicidad y retiene un número suficiente de aristas, la penalización se "congela" para evitar comportamientos oscilatorios y estabilizar la convergencia.
• Perspectiva Teórica: La Proposición 3.2 demuestra que si el bloque instantáneo $B$ es acíclico, se garantiza que todo el grafo causal desplegado en el tiempo es acíclico, ya que las aristas retardadas se mueven inherentemente hacia adelante en el tiempo y no pueden formar ciclos.

3. Contribuciones Clave

El artículo describe cuatro contribuciones principales:

1. Formulación Novel: Formula el descubrimiento causal para sistemas dinámicos utilizando matrices de adyacencia específicas por retardo y componentes DAG instantáneos, uniendo efectivamente los modelos VAR estructurales con el descubrimiento causal diferenciable estable.
2. Enfoque de Dos Etapas: Introduce una estrategia de cribado y refinamiento con restricciones. Al cribar candidatos a padres en una ventana de predicción retardada antes de imponer la aciclicidad, el método evita la inestabilidad numérica asociada con la optimización directa de grafos acíclicos de alta dimensión.
3. Garantías Teóricas: Los autores proporcionan garantías a nivel poblacional que demuestran que la Etapa 1 preserva todos los padres causales verdaderos y que la aciclicidad de las dependencias instantáneas es suficiente para garantizar la aciclicidad del grafo desplegado en el tiempo.
4. Validación Empírica: El marco se evalúa en sistemas SVAR sintéticos, puntos de referencia no lineales y caóticos (Lorenz-96, NC8), dinámicas no estacionarias (TVSEM) y conjuntos de datos del mundo real (CausalRivers), demostrando una mayor estabilidad y precisión sobre las líneas base existentes.

4. Resultados Experimentales

Los autores evaluaron SC3D frente a líneas base que incluyen DYNOTEARS, PCMCI+, NTS-NOTEARS, TECDI, VAR-LiNGAM y NeuralGC.

• Escalabilidad y Estabilidad: En experimentos que variaban la dimensión $d$ de 10 a 50, SC3D demostró la menor Distancia de Hamming Estructural (SHD) total. Mientras que los errores de otros métodos crecían rápidamente con la dimensión, SC3D mantuvo un rendimiento robusto. Logró errores solo de retardo ($SHD_A$) más bajos en comparación con DYNOTEARS y TCDF, indicando una recuperación superior de las dependencias temporales.
• Rendimiento de Clasificación: Utilizando las métricas AUROC y AUPRC, SC3D alcanzó un rendimiento de primer nivel en la clasificación de relaciones causales retardadas (AUROC $\approx$ 0.91) y un rendimiento competitivo en la clasificación de aristas instantáneas (AUPRC $\approx$ 0.715), superando a líneas base especializadas en configuraciones de redes dispersas.
• Robustez al Orden de Retardo: El análisis de sensibilidad mostró que a medida que aumentaba el orden de retardo $L$, el componente instantáneo del error permaneció estable, confirmando que el diseño de dos etapas controla efectivamente el espacio de búsqueda incluso con dependencias temporales más profundas.
• Sistemas Dinámicos:
  • Lorenz-96 (Caótico): SC3D logró el menor error estructural top-$k$ y la mayor AUROC/AUPRC, superando a PCMCI+ y TECDI.
  • TVSEM (No Estacionario): En un entorno de cambio de régimen, SC3D produjo trayectorias de puntuación más suaves y temporalmente consistentes en comparación con las líneas base, que exhibieron transiciones más agudas pero menos estables.
  • Mundo Real (CausalRivers): En datos de descarga de ríos, SC3D alcanzó una precisión estructural y métricas de clasificación competitivas, manteniendo particularmente el rendimiento en dimensiones más altas ($d=20$) donde otros métodos se degradaron significativamente.
• Estudio de Ablación: Eliminar la preselección de la Etapa 1 causó un aumento catastrófico en la SHD total (por ejemplo, de ~87 a ~637 en $d=20$), confirmando que el paso de preselección es crítico para controlar el espacio de búsqueda. También se demostró que las penalizaciones espectrales y de 2-ciclos son esenciales para una recuperación estable en altas dimensiones.

5. Significado y Afirmaciones

El artículo afirma que SC3D ofrece una solución estable, escalable y diferenciable para el descubrimiento causal en sistemas dinámicos multivariantes. Su importancia radica en:

• Superar la Inestabilidad Numérica: Al desacoplar la reducción del espacio de búsqueda (Etapa 1) de la imposición de aciclicidad (Etapa 2) y aplicar restricciones espectrales solo al bloque instantáneo, evita los peligros numéricos de las restricciones suaves basadas en la traza en altas dimensiones.
• Recuperación Conjunta: Es uno de los pocos métodos capaz de recuperar conjuntamente tanto las estructuras causales retardadas como las instantáneas mientras soporta dependencias no lineales.
• Solidez Teórica: El marco proporciona garantías formales con respecto a la preservación de padres verdaderos durante el cribado y la suficiencia de la aciclicidad instantánea para la aciclicidad global.

Los autores posicionan a SC3D como una alternativa robusta a los métodos existentes que modelan las dependencias retardadas e instantáneas de forma independiente o que luchan con la escalabilidad y la estabilidad al aprenderlas simultáneamente. El trabajo se presenta como un paso hacia la intervención mecánica confiable y el razonamiento bajo cambios de distribución en sistemas dinámicos complejos.