🤖 machine learning

Global Explanations for Multivariate Time Series Forecasting Models via $K$ -Order Markov Approximations

El artículo presenta KARMA, un método novedoso para generar explicaciones globales para modelos de pronóstico de series temporales multivariantes mediante la construcción de un modelo sustituto de Markov de orden $K$ que captura las dependencias temporales y recupera las estructuras causales de manera más efectiva que las técnicas de atribución existentes.

Autores originales: Amadeo Tunyi

Publicado 2026-06-29

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Amadeo Tunyi

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes una bola de cristal súper inteligente, pero completamente opaca, que predice el futuro basándose en un flujo de datos (como el clima, los precios de las acciones o la frecuencia cardíaca). Sabes que funciona bien, pero no tienes ni idea de por qué toma las predicciones que toma. Es una "caja negra".

La mayoría de los métodos actuales para intentar asomarse dentro de esta caja son como preguntar: "¿Qué pasaría si mágicamente borrara este dato en particular?". El problema es que, en los datos de series temporales (como un pronóstico del tiempo), no puedes simplemente borrar la temperatura de ayer sin romper las leyes de la física; el clima de hoy está profundamente conectado con el de ayer. Borrarlo crea un escenario falso que nunca ocurre en la realidad, lo que conduce a respuestas confusas o erróneas.

Presentamos KARMA.

El artículo introduce un nuevo método llamado KARMA (Aproximación de Markov de orden K para series temporales multivariantes). En lugar de intentar borrar datos, KARMA hace una pregunta más simple y natural: "Si el sistema estuviera en este estado específico durante los últimos pasos, ¿qué espera el modelo que suceda después?"

Así es como funciona KARMA, desglosado en conceptos sencillos:

1. El detective del "Límite de Memoria" (Pilar 1)

Imagina que estás intentando adivinar la siguiente palabra de una oración. ¿Necesitas recordar todo el párrafo o solo las últimas palabras?
KARMA actúa como un detective para encontrar el "límite de memoria" del modelo. Prueba al modelo para ver: "¿Qué tan atrás en la historia necesita mirar este modelo para hacer una buena predicción?"

Encuentra un número específico, llamémoslo K.
Si el modelo solo necesita las últimas 4 horas de datos para predecir la siguiente hora, KARMA demuestra que mirar 100 horas atrás es inútil.
El Resultado: Te dice: "Este modelo solo se preocupa por los últimos 4 pasos. Todo lo anterior es ruido".

2. La línea de base del "Cero Certificado" (Pilar 2)

Una vez que KARMA sabe que el modelo solo mira hacia atrás K pasos, hace algo poderoso. Crea una "línea de base" (un punto de partida por defecto) que se ajusta matemáticamente de la mejor manera posible.

Debido a que el modelo ignora cualquier cosa más antigua que K, KARMA puede decir con un 100% de certeza: "La importancia de cualquier dato anterior a K es exactamente cero".
La mayoría de los otros métodos dicen: "Este dato antiguo tiene una influencia diminuta y minúscula". KARMA dice: "No, no tiene ninguna influencia". Esto es un "cero certificado", lo cual es un gran avance para la confianza.

3. El Mapa de Explicación de "Cinco Capas" (Pilar 3)

Una vez que KARMA ha construido este mapa de memoria simplificado (llamado Sustituto de Markov), genera un informe de cinco niveles para explicar el comportamiento del modelo, como si se pelara una cebolla:

Nivel 1: ¿Quién importa? (Importancia de la Variable)
- Analogía: En una banda, ¿quién es el cantante principal?
- KARMA clasifica las variables (por ejemplo, Temperatura, Viento, Presión) para ver cuáles impulsan más las predicciones. Te dice: "La temperatura es la estrella; la dirección del viento es solo ruido de fondo".
Nivel 2: ¿Cuándo importa? (Perfiles de Retraso/Lag)
- Analogía: ¿Cuánto tarda en ecoirse la voz del cantante principal?
- Muestra cómo la influencia de una variable se desvanece con el tiempo. ¿Le importa al modelo la temperatura de hace 1 hora, o la de hace 3 horas? Revela si el modelo busca "momentum" (las cosas siguen subiendo) o "reversión a la media" (las cosas rebotan de vuelta).
Nivel 3: ¿Cuáles son los "Momentos Especiales"? (Explicación de Régimen)
- Analogía: ¿Cuándo cambia la banda de una balada a una canción de rock?
- Identifica patrones específicos en el pasado (historias) donde el modelo se comporta de manera extraña o única. Por ejemplo: "Cuando hace calor Y hay viento, el modelo predice lluvia, pero cuando hace calor Y está en calma, predice sol".
Nivel 4: ¿Qué pasa si cambiamos las cosas? (Efectos Intervencionistas)
- Analogía: Si obligamos al baterista a tocar un ritmo diferente, ¿cómo cambia la canción?
- Simula el cambio de un valor pasado específico (por ejemplo, "¿Qué pasaría si el viento de ayer hubiera sido más fuerte?") y mide cuánto cambia la predicción. Esto construye un mapa de las relaciones de causa y efecto aprendidas por el modelo.
Nivel 5: ¿Qué tan seguros estamos? (Incertidumbre)
- Analogía: ¿La banda está tocando una canción que conocen de memoria o están improvisando?
- Mide dos tipos de incertidumbre:
  1. Aleatoria: ¿Es el futuro intrínsecamente caótico? (El modelo no está seguro porque los datos tienen mucho ruido).
  2. Epistémica: ¿El modelo nunca ha visto esta situación antes? (El modelo no está seguro porque carece de datos).
- Esto actúa como una "insignia de fiabilidad", diciéndote cuándo confiar en la explicación y cuándo ser escéptico.

Cómo se probó

Los autores probaron KARMA de dos maneras principales:

Datos Sintéticos (El "Mundo Falso"): Crearon un mundo falso donde conocían las reglas exactas (la causa y el efecto "reales"). KARMA fue capaz de reconstruir perfectamente estas reglas, encontrando cada conexión verdadera e ignorando las falsas. Otros métodos se confundieron ante la complejidad.
Datos del Mundo Real (El "Mundo Real"): Utilizaron datos climáticos reales (PM 2.5 de Beijing) y datos financieros. KARMA funcionó tan bien o incluso mejor que los mejores métodos existentes para identificar qué pasos de tiempo eran realmente importantes para la predicción.

La Conclusión Final

KARMA es una nueva forma de explicar modelos de series temporales que respeta el hecho de que el tiempo fluye en una secuencia. En lugar de romper la línea de tiempo para ver qué importa, construye un mapa probabilístico simplificado de cómo el modelo conecta el pasado con el futuro. Te ofrece una lista clasificada de factores importantes, te dice exactamente qué tan atrás mira el modelo e incluso te da una "puntuación de confianza" para sus propias explicaciones.

Limitaciones mencionadas en el artículo:
El método funciona mejor cuando el número de variables y la "longitud de memoria" no son demasiado grandes. Si tienes miles de variables, las matemáticas se vuelven muy pesadas (crecimiento exponencial), aunque los autores utilizan trucos para mantenerlo manejable para la mayoría de los casos del mundo real.

Resumen Técnico: KARMA – Explicaciones Globales para el Pronóstico de Series Temporales Multivariantes mediante Aproximaciones de Markov de Orden K

1. Planteamiento del Problema

El despliegue de modelos de aprendizaje profundo (p. ej., RNN, TCN, Transformers) para el pronóstico de series temporales multivariantes en dominios de alto riesgo (finanzas, monitorización clínica, sensores industriales) enfrenta una opacidad significativa. Los métodos existentes de IA Explicable (XAI), como LIME, SHAP y las atribuciones basadas en gradientes, están diseñados principalmente para datos estáticos e independientes e idénticamente distribuidos (i.i.d.). Al aplicarse a series temporales, estos métodos suelen violar propiedades temporales fundamentales:

Suposición de Independencia: Asumen implícitamente que las características de los puntos temporales son independientes, ignorando la autocorrelación temporal y la causalidad de Granger inter-variable.
Perturbaciones Fuera de la Variedad (Off-Manifold): Las perturbaciones aleatorias en SHAP o LIME rompen las estructuras secuenciales, creando contrafactuales que no existen en la distribución de los datos.
Local vs. Global: Los métodos basados en gradientes describen la geometría local en un solo punto en lugar de la estructura condicional sistemática aprendida globalmente por el modelo.
Selección de la Línea Base (Baseline): Métodos como TimeSHAP luchan con el "problema de la selección de la línea base" en contextos secuenciales, donde la elección de la línea base no es trivial.

El artículo argumenta que las explicaciones para series temporales deben respetar la estructura secuencial y causal de los datos, alejándose de las aproximaciones locales basadas en perturbaciones o gradientes hacia un enfoque de sustitución (surrogate) probabilístico y global.

2. Metodología: El Marco de Trabajo KARMA

Los autores proponen KARMA (Aproximación de Markov de Orden K), un marco que explica un predictor de series temporales de caja negra $f$ construyendo un modelo sustituto de cadena de Markov de orden K. La premisa central es que el comportamiento de un predictor complejo sobre una serie temporal multivariante puede ser fielmente aproximado por una cadena de Markov de un orden $K$ específico.

La metodología se organiza en torno a tres pilares:

Pilar 1: Sustituto de Markov y Selección de Orden

Discretización: Las variables de series temporales continuas se discretizan en $N$ contenedores (bins) utilizando límites de cuantiles derivados de los datos de entrenamiento, creando un espacio de estados discreto $S = [N]^D$ .
Selección de Orden ( $K^*$ ): El método identifica la longitud de historial mínima $K^*$ que es predictivamente suficiente. Esto se logra mediante una regla de parada de validez predictiva de sustitución. El algoritmo prueba longitudes de retraso (lag) crecientes $K$ reemplazando el prefijo de una ventana de entrada con una línea base $b$ y midiendo la discrepancia de predicción $\hat{\Delta}_{pred}(K, b)$ .
Criterio de Parada: $K^*$ es el $K$ más pequeño donde la discrepancia mínima cae por debajo de una tolerancia $\epsilon$ . Esto certifica que el modelo es insensible a entradas más allá de $K^*$ .

Pilar 2: Compresión y Atribución Certificada

Compresión del Modelo: Si $K^* < W$ (la ventana de entrada del modelo), el modelo es demostrablemente insensible a las entradas más allá del retraso $K^*$ . Esto produce una tasa de compresión $W/K^*$ .
Línea Base Certificada ( $b^*$ ): La línea base $b^*$ no es elegida por el analista, sino que está certificada por el modelo; es el prefijo específico que minimiza la discrepcción de predicción al ser sustituido.
Atribuciones de Cero Certificadas: Para todos los retrasos $k > K^*$ , las atribuciones son matemáticamente cero (dentro del error de aproximación), resolviendo la ambigüedad de la importancia "pequeña" frente a la "cero" encontrada en otros métodos.

Pilar 3: Jerarquía de Explicación Global de Cinco Niveles

Una vez estimada la densidad de transición de Markov de orden $K^*$ $\hat{T}^f_{K^*}$ , KARMA deriva cinco capas de explicación global sin consultas adicionales al oráculo:

Nivel 1 (Importancia de Variables): Calcula la influencia de la distribución total de las variables de origen sobre las predicciones del objetivo a través de todos los retrasos, clasificando las variables por su influencia marginal de variación total.
Nivel 2 (Perfiles de Retraso): Resuelve la influencia por un retraso $k$ específico, revelando la dinámica temporal (p. ej., momentum, reversión a la media) para cada variable.
Nivel 3 (Distintividad de Regímenes): Identifica regímenes históricos distintivos (trayectorias) donde el pronóstico condicional del modelo se desvía significamente de su comportamiento típico, utilizando un índice de interdependencia marginal.
Nivel 4 (Efectos Intervencionistas): Calcula los efectos intervencionistas promedio (AIE) y las contribuciones de las aristas para poblar un grafo causal inducido por el modelo, conectándose directamente con la importancia del Nivel la 1.
Nivel 5 (Cuantificación de la Incertidumbre): Proporciona certificados de fiabilidad:
- Incertidumbre Aleatoria: Entropía de la distribución predictiva (incertidumbre genuina del modelo).
- Incertidumbre Epistémica: Varianza de las estimaciones del kernel (señala historias con cobertura de datos insuficiente).

Estimación del Kernel: Para evitar la complejidad exponencial de estimar el kernel conjunto completo ( $N^{DK^*}$ ), KARMA estima $D$ kernels marginales factorizados. Emplea una Estrategia B (Monte Carlo de prefijo $b^*$ ) por defecto, la cual restringe la estimación al soporte del historial observado $H^+_{K^*}$ , escalando linealmente con la longitud de la serie $T$ en lugar de exponencialmente con la dimensión.

3. Resultados Clave

Datos Sintéticos (Oráculo VAR)

Recuperación de la Estructura Causal: En datos sintéticos de Vectores Autorregresivos (VAR) con aristas causales de verdad de campo conocidas, KARMA logró una recuperación perfecta (1.00) en todas excepto en la configuración más compleja (xlarge, donde la recuperación fue de 0.71). Mantuvo una alta precisión, excluyendo eficazmente las aristas espurias.
Clasificación de Características: KARMA fue el único método en la parte superior de la clasificación (mayor $\tau$ de Kendall) en las configuraciones media, grande y xlarge. Los métodos competidores (TimeSHAP, WinIT, Oclusión de Características) se degradaron a medida que la densidad del grafo aumentaba.
Comparación: Se excluyó a Integrated Gradients (IG) de las pruebas sintéticas ya que reduce a coeficientes exactos en VARs lineales, lo que hace que la comparación sea degenerada.

Benchmarks del Mundo Real

Los experimentos se realizaron en tres conjuntos de datos (ETTh1, Beijing PM2.5, Exchange Rate) a través de tres arquitectes (GRU, LSTM, TCN) utilizando una puntuación AUC basada en retrasos con conciencia temporal ( $AUClag@25\%$ ).

ETTh1: KARMA alcanzó las puntuaciones más altas en todas las arquitecturas, superando notablemente al siguiente mejor método en TCN (0.71 vs. 0.49).
Beijing PM2.5: KARMA fue competitivo, igualando o siguiendo ligeramente a las bases más fuertes.
Exchange Rate: Todos los métodos colapsaron a puntuaciones cercanas a cero. Los autores interpretan esto correctamente: el conjunto de datos aproxima un paseo aleatorio con poca estructura temporal aprendible, lo que significa que ningún método puede identificar los pasos temporales cuya eliminación alteraría el pronóstico. Esto valida el comportamiento de la métrica en lugar de indicar un fallo del explicador.

4. Significación y Reivindicaciones

El artículo posiciona a KARMA como una alternativa fundamentada a los métodos de XAI existentes para series temporales al:

Respetar la Geometría Temporal: A diferencia de los métodos basados en perturbaciones que rompen la estructura secuencial, la aproximación de Markov de KARMA opera dentro del lenguaje nativo del dominio (dependencias condicionales).
Proporcionar Garantías Estadísticas: Ofrece atribuciones de cero certificadas para los retrasos irrelevantes y certificados de fiabilidad explícitos (Nivel 5) para las explicaciones, una característica ausente en trabajos previos.
Global vs. Local: Proporciona una jerarquía de explicación global derivada de un único kernel estimado, en lugar de aproximaciones locales a nivel de instancia.
Validez Agnóstica al Modelo: La selección de $K^*$ y la línea base $b^*$ se derivan directamente del comportamiento del modelo, no de suposiciones del analista.

Limitaciones Reconocidas:
Los autores señalan que el espacio de estados crece exponencialmente con $N^{DK^*}$ , lo que hace que la estimación del kernel completo sea un desafío. KARMA mitiga esto mediante kernels marginales y estrategias de muestreo, pero escalar a sistemas de muy alta dimensión sigue siendo una dirección abierta.

El artículo concluye que el paradigma de la aproximación de Markov ofrece una dirección robusta y poco explorada para la XAI en dominios secuenciales, aplicable a las finanzas, la neurociencia y la genómica.