The Failures of Marginal Influence-Based Attribution Methods for Global Time Series Explanations

Resumen Técnico: Los fallos de los métodos de atribución basados en la influencia marginal para explicaciones de series temporales globales

1. Planteamiento del problema

El artículo aborda una insuficiencia estructural fundamental en los métodos actuales de IA explicable (XAI) para modelos de series temporales. Mientras que el paradigma dominante en XAI se basa en la atribución plana (flat attribution)—asignando un valor escalar a cada característica en cada paso de tiempo para representar su contribución "directa"—este enfoque no logra capturar la naturaleza relacional y condicional del razonamiento temporal.

Los autores argumentan que los métodos existentes (incluyendo los enfoques basados en gradientes, perturbaciones y atención) confunden las dependencias temporales directas con las dependencias mediadas causadas por la autocorrelación. Al colapsar estructuras relacionales de alta dimensión en resúmenes unidimensionales, estos métodos descartan la información de dependencia condicional que constituye el proceso de razonamiento real del modelo. En consecuencia, no pueden distinguir entre una característica que influye directamente en un pronóstico y una que influye en él solo indirectamente a través de una variable intermedia.

2. Metodología y marco teórico

Definiciones y notación:

• Atribución Plana (Definición 1): Un método que produce un puntaje escalar $\phi_i^{(t)}(x)$ para un par variable-tiempo $(X_i, t)$ mediante condicionamiento marginal o gradientes, sin condicionar sobre los valores de otras entradas que puedan mediar el efecto.
• Grafo de Dependencia del Modelo (MDDAG, $G_f$, Definición 2): Un grafo acíclico dirigido (DAG) que representa las dependidades reales aprendidas por un modelo $f$. Existe una arista desde la entrada $X_i^{(t_1)}$ hacia el objetivo de pronóstico $X_j^{(T+w)}$ si y solo si la entrada es condicionalmente dependiente del pronóstico dado todas las demás entradas.
• Fidelidad al DAG (Definición 3): Un nuevo criterio de fidelidad que requiere que el grafo de dependencia $G_T$ inducido por un método de explicación codifique las mismas independencias condicionales (equivalencia de Markov) que el MDDAG $G_f$.

La brecha computacional:
El artículo identifica una "brecha computacional" donde los métodos planos no logran satisfacer dos condiciones de admisibilidad:

1. Evaluación en la variedad (On-manifold Evaluation, C1): La atribución debe depender únicamente del comportamiento del modelo dentro del soporte de la distribución de los datos ($\text{supp}(p)$), no de reparametrizaciones fuera de la variedad (off-manifold).
2. Separación condicional (Conditional Separation, C2): La atribución a una entrada debe desvanecerse si dicha entrada es condicionalmente independiente del pronóstico dadas las demás entradas.

Casos de estudio y demostraciones:
Los autores construyen escenarios específicos para demostrar el fallo de los métodos estándar:

• Escenario I (Autocorrelación): Un modelo donde $X^{(2)}$ media el efecto de $X^{(1)}$ sobre el pronóstico. Los métodos planos (ej. variantes de SHAP) asignan incorrectamente puntajes no nulos a $X^{(1)}$ porque no logran condicionar sobre $X^{(2)}$, violando C2.
• Escenario II (Restricciones en la variedad): Un proceso determinista donde $X^{(2)} = \delta X^{(1)}$. Aquí, $X^{(1)}$ no tiene efecto directo sobre el pronóstico dentro del soporte de los datos. Sin embargo, los métodos basados en gradientes (Saliency, Integrated Gradients) detectan derivadas no nulas porque sondean puntos fuera de la variedad, violando C1.

Representación propuesta:
Para superar estas limitaciones, el artículo propone reemplazar los puntajes escalares por un Tensor de Transición (Definición 4). Este es un arreglo tridimensional $T_{loc} \in \mathbb{R}^{D \times D \times T}$ (o $D \times D \times T \times W$ para pronósticos de múltiples pasos) que cuantifica la influencia de la variable fuente $i$ en el rezago $t_1$ sobre la variable objetivo $j$. La explicación global se deriva del soporte del tensor global agregado, separando la existencia estructural de la magnitud de la fuerza.

3. Contribuciones clave

1. Formalización de la brecha computacional: El artículo define rigurosamente el desajuste entre los métodos de atribución plana y la estructura de dependencia condicional de los modelos temporales, probando que los puntajes escalares no pueden capturar la estructura de independencia condicional necesaria.
2. Definición de Fidelidad al DAG: Introduce la fidelidad al DAG como el criterio apropiado para las explicaciones globales de series temporales, fundamentado en la equivalencia de Markov con el grafo de dependencia aprendido por el modelo.
3. Prueba de fallo de los métodos estándar:
   • Teorema 1: Demuestra que el SHAP estándar (y sus extensiones para series temporales como TimeSHAP) no son fieles al DAG en general, ya que generan aristas espurias debido a la autocorrelación.
   • Proposición 1 y 2: Demuestra que los métodos de influencia marginal (KernelSHAP, ShapTime) fallan en la Separación Condicional (C2), mientras que los métodos basados en gradientes (Saliencia, Integrated Gradients) fallan en la Evaluación en la Variedad (C1).
4. Evaluación de extensiones existentes: El artículo evalúa métodos con conciencia temporal (FIT, WinIT, Dynamask). Aunque satisfacen parcialmente la admisibilidad al utilizar reemplazos dentro de la distribución, sufren de baja sensibilidad ante aristas directas genuinas (falsos negativos), aunque están estructuralmente más cerca de la admisibilidad que los métodos planos.
5. Propuesta de instancias admisibles: Los autores proponen que una explicación válida debe ser un Tensor de Transición instanciado mediante un funcional admisible que satisfaga tanto C1 como C2. Sugieren combinar Jacobianos conscientes de la variedad (para C1) con medidas de cambio de la distribución condicional (para C2).

4. Resultados y evidencia empírica

El artículo proporciona evidencia empírica mediante bancos de pruebas sintéticos comparando varios métodos contra los grafos de dependencia de verdad fundamental (ground-truth):

• Métodos planos (SHAP, TimeSHAP, ShapTime, TS-MULE): Fallan consistentemente en distinguir entre efectos directos y mediados. En el Escenario I, asignan puntajes no nulos a variables totalmente mediadas. En el Escenario II, no respetan las restricciones de la variedad.
• Métodos de gradiente (Saliency, IG, TIG, SmoothGrad): Distinguen correctamente efectos directos vs. mediados en algunos casos, pero fallan consistentemente en el Escenario II al asignar relevancia no nula a variables que son condicionalmente independientes en la variedad de los datos, debido a la sensibilidad fuera de la variedad.
• Métodos de perturbación (FIT, WinIT, Dynamask): Estos métodos no alucinan aristas en los escenarios de fallo (respetan mejor C1 y C2) pero exhiben baja sensibilidad, asignando a menudo puntajes cercanos a cero a aristas directas genuinas (falsos negativos).

Ningún método probado alcanza la corrección en todos los escenarios, lo que confirma la afirmación del artículo de que los paradigmas actuales son estructuralmente inadecuados.

5. Significado y afirmaciones

El artículo sostiene que el campo de la XAI para series temporales debe cambiar de una fidelidad centrada en la salida (¿el perturbar la característica cambia la salida?) a una fidelidad centrada en la estructura (¿la explicación recupera la estructura de independencia condicional interna del modelo?).

• Cambio Teórico: Los autores argumentan que el formato escalar no es el principal modo de fallo, sino el condicionamiento marginal y la evaluación fuera de la variedad inherentes a los algoritmos actuales.
• Nuevo Estándar: Postulan que la fidelidad al DAG es el criterio necesario para las explicaciones globales, y que el Tensor de Transición es el objeto de representación mínimo capaz de codificar estas dependencias.
• Desafío Abierto: El artículo identifica la construcción de una instanciación admisible concreta del tensor de transición que satisfaga tanto C1 como C2 en la práctica como el problema central para la investigación futura. Señala explícitamente que, si bien el tensor es la representación interna correcta, se necesitan estrategias de visualización para hacer que esta estructura de alta dimensión sea interpretable para los humanos.

El artículo concluye haciendo un llamado a la comunidad de XAI para que adopte este marco centrado en la estructura y vaya más allá de los puntajes de atribución planos para los dominios temporales.