Resumen Técnico: ConTex – Reformulando la Generación de Contrafácticos para la Predicción de Series Temporales

1. Definición del Problema

Los modelos de predicción de series temporales son cada vez más críticos en dominios de alto riesgo como los sistemas energéticos, la atención médica y las finanzas. Sin embargo, aunque estos modelos proporcionan predicciones precisas, carecen de información accionable sobre cómo alterar las condiciones actuales para lograr un resultado futuro deseado. Los métodos de explicación existentes son predominantemente retrospectivos, identificando factores que llevaron a un resultado observado (por ejemplo, mediante la atribución de características o mecanismos de atención). En contraste, la toma de decisiones requiere una perspectiva de cara al futuro: determinar modificaciones mínimas en la entrada actual para desplazar una trayectoria predicha hacia un escenario objetivo específico.

Esta tarea se enmarca como generación de contrafácticos: encontrar una entrada $x'$ mínimamente modificada tal que la predicción del modelo $f_\theta(x')$ satisfaga una restricción objetivo $Y_{target}$, preservando la mayor parte posible de la entrada original $x$.

Limitaciones de los enfoques existentes:
Los métodos actuales para generar contrafácticos en series temporales dependen de la optimización por instancia. Para cada nueva muestra de entrada, se resuelve un problema de optimización separado para encontrar la perturbación mínima. Este enfoque sufre de:

• Inconsistencia: Las modificaciones varían de forma impredecible entre instancias similares.
• Alto costo computacional: Resolver un problema de optimización por muestra es demasiado lento para aplicaciones en tiempo real o interactivas.
• Dependencia del objetivo: Muchos métodos utilizan trayectorias objetivo que dependen de la entrada (por ejemplo, límites dependientes de la entrada), lo que oscurece la dificultad real de lograr un escenario futuro predefinido.

2. Metodología: Arquitectura ConTex

Los autores proponen ConTex (Counterfactual Time Series Explanations), una arquitectura agnóstica al modelo que cambia el paradigma de la optimización por instancia hacia el aprendizaje de intervención amortizado. En lugar de resolver un problema de optimización para cada muestra, ConTex aprende una función de intervención global que mapea los estados de entrada y las condiciones objetivo hacia intervenciones efectivas en una sola pasada hacia adelante (forward pass).

Arquitectura Central

ConTex es una arquitectura neuronal descompuesta que comprende:

1. Codificador de Contexto Temporal: Extrae características temporales ($h_x$) de la secuencia de entrada. Los autores evalúan tanto BiLSTM como Redes Convolucionales Temporales (TCN), encontrando que la TCN es superior para producir modificaciones dispersas e interpretables debido a sus campos receptivos fijos.
2. Codificador Condicional: Codifica la condición objetivo ($c$), que incluye los límites de la trayectoria deseada, la previsión actual y la pendiente, en un embebido latente.
3. Modulación Lineal por Características (FiLM): Las características temporales son moduladas por el embebido de la condición ($\tilde{h}_x = h_x \odot (1 + \gamma) + \beta$), lo que permite al modelo adaptar su comportamiento a diferentes trayectorias objetivo.
4. Cabezales de Predicción Descompuestos: La representación modulada se pasa a través de dos cabezales para predecir la intervención $z$:
   • Máscara de Relevancia Temporal ($m$): Una máscara de probabilidad ($m \in [0, 1]^{T_{in}}$) que indica dónde (qué pasos de tiempo) se requiere una modificación.
   • Fuerza de Modificación ($s$): Un vector con signo ($s \in \mathbb{R}^{T_{in}}$) que indica qué tan fuerte debe ser la modificación de la entrada.
   • Intervención: La intervención final se calcula como $z = m \odot s$, y el contrafáctico es $x_{cf} = x + z$.

Objetivo de Entrenamiento

El modelo se entrena para minimizar una función de pérdida compuesta que equilibra la alineación de la previsión y la minimización de la intervención:

• Alineación de la Previsión ($L_{center}, L_{valid}$): Penaliza las desviaciones del punto medio de la trayectoria objetivo y la frecuencia de las violaciones de restricciones.
• Regularización de la Intervención ($L_{prox}, L_{sparse}$):
  • Proximidad: Utiliza una pérdida $L_1$ para penalizar la magnitud de los cambios, fomentando intervenciones dispersas.
  • Sparsity (Dispersión): Fomenta intervenciones compactas promoviendo activaciones de máscara concentradas y empujando la máscara hacia decisiones binarias.

3. Contribuciones Clave

1. Cambio de Paradigma: El artículo traslada la generación de contrafácticos de la optimización por instancia al inferencia amortizada mediante una política de intervención global, permitiendo la generación en una sola pasada.
2. Arquitectura Descompuesta: ConTex parametriza las intervenciones en relevancia temporal (dónde modificar) y fuerza de modificación (cómo modificar), produciendo contrafácticos locales, dispersos e interpretables.
3. Atribución Condicionada al Objetivo: El método introduce un mecanismo de atribución con visión de futuro que identifica qué pasos de tiempo deben modificarse para lograr un resultado deseado, visualizado como un mapa de calor de la probabilidad de intervención.
4. Eficiencia y Rendimiento: El enfoque logra un estado del arte en validez y compacidad, reduciendo los costos computacionales entre 12 y 36 veces en comparación con los métodos basados en instancias, permitiendo la inferencia en tiempo real (~0.007 segundos por muestra).

4. Resultados Experimentales

Los autores evaluaron ConTex en cuatro conjuntos de datos de referencia (NN5, Electricity, Tourism, M4) y cuatro arquitecturas de predicción diversas (PatchTST, N-HiTS, DLinear, TiDE).

• Validez: ConTex logró la mejor relación de validez en 16 de 16 combinaciones de conjunto de datos-arquitectura, superando al baseline basado en instancias (ForecastCF) y a menudo superando al baseline basado en recuperación (BaseNN).
• Compacidad: ConTex logró la mejor compacidad (menos pasos de tiempo modificados) en 14 de 16 casos.
• Robustez: El método demostró un rendimiento constante en conjuntos de datos con diversas características (por ejemplo, datos suaves vs. ruidosos), adaptando sus patrones de intervención (localizados vs. distribuidos) según las propiedades de los datos.
• Eficiencia Computacional:
  • Tiempo de Inferencia: ~0.007 segundos por muestra (constante a través de los niveles de dificultad).
  • Aceleración: 3.7–4.2 órdenes de magnitud más rápido que la generación basada en instancias (que toma segundos o minutos por muestra).
  • Costo Total: Una reducción computacional total de 12–36× en comparación con la generación por instancia al contabilizar el entrenamiento y la inferencia.

5. Significado y Reivindicaciones

El artículo afirma que ConTex reemplaza eficazmente la práctica costosa e inconsistente de la optimación por instancia con una política de intervención global escalable. Al descomponer estructuralmente la intervención en "dónde" y "cómo", el método proporciona información interpretable sobre la relevancia de las características condicionada al objetivo, ofreciendo una perspectiva de cara al futuro que los métodos de atribución post-hoc estándar carecen.

Los autores señalan que, si bien ConTex tiene un desempeño sólido, depende de una regularización implícita (a través de la codificación temporal y objetivos de intervención mínima) en lugar de restricciones de plausibilidad explícitas para asegurar la coherencia temporal. Además, aunque la arquitectura se generaliza a través de los conjuntos de datos, algunos hiperparámetros (específicamente los pesos de dispersión y proximidad) aún requieren un ajuste limitado específico para cada conjunto de datos. Este trabajo se posiciona como un paso significativo hacia la realización de la predicción de series temporales basada en aprendizaje profundo para la toma de decisiones en tiempo real.