The Failures of Marginal Influence-Based Attribution Methods for Global Time Series Explanations

Resumo Técnico: As Falhas dos Métodos de Atribuição Baseados em Influência Marginal para Explicações de Séries Temporais Globais

1. Definição do Problema

O artigo aborda uma inadequação estrutural fundamental nos métodos atuais de IA Explicável (XAI) para modelos de séries temporais. Enquanto o paradigma dominante em XAI baseia-se na atribuição de escore plano — atribuindo um valor escalar a cada característica em cada passo temporal para representar sua contribuição "direta" — essa abordagem falha em capturar a natureza relacional e condicional do raciocínio temporal.

Os autores argumentam que os métodos existentes (incluindo abordagens baseadas em gradiente, perturbação e atenção) confundem dependências temporais diretas com dependências mediadas causadas pela autocorrelação. Ao colapsar estruturas relacionais de alta dimensão em resumos unidimensionais, esses métodos descartam a informação de dependência condicional que constitui o processo real de raciocínio do modelo. Consequentemente, eles não conseguem distinguir entre uma característica que influencia diretamente uma previsão e uma que a influencia apenas indiretamente através de uma variável intermediária.

2. Metodologia e Estrutura Teórica

Definições e Notação:

• Atribuição Plana (Definição 1): Um método que produz um escore escalar $\phi_i^{(t)}(x)$ para um par variável-tempo $(X_i, t)$ via condicionamento marginal ou gradientes, sem condicionar nos valores de outras entradas que possam mediar o efeito.
• Grafo de Dependência do Modelo (MDDAG, $G_f$, Definição 2): Um grafo acíclico dirigido (DAG) que representa as dependências reais aprendidas por um modelo $f$. Uma aresta existe de $X_i^{(t_1)}$ para o alvo de previsão $X_j^{(T+w)}$ se, e somente se, a entrada for condicionalmente dependente da previsão dado todas as outras entradas.
• Fidelidade ao DAG (Definição 3): Um novo critério de fidelidade que exige que o grafo de dependência $G_T$ induzido por um método de explicação codifique as mesmas independências condicionais (equivalência de Markov) que o MDDAG $G_f$.

A Lacuna Computacional:
O artigo identifica uma "lacuna computacional" onde os métodos planos falham em satisfazer duas condições de admissibilidade:

1. Avaliação no Manifold (C1): A atribuição deve depender apenas do comportamento do modelo dentro do suporte da distribuição de dados ($\text{supp}(p)$), não de reparametrizações fora do manifold (off-manifold).
2. Separação Condicional (C2): A atribuição a uma entrada deve desaparecer se essa entrada for condicionalmente independente da previsão dados os demais inputs.

Estudos de Caso e Provas:
Os autores constroem cenários específicos para demonstrar a falha dos métodos padrão:

• Cenário I (Autocorrelação): Um modelo onde $X^{(2)}$ mede o efeito de $X^{(1)}$ sobre a previsão. Métodos planos (ex: variantes de SHAP) atribuem incorretamente escores não nulos a $X^{(1)}$ porque falham em condicionar em $X^{(2)}$, violando a C2.
• Cenário II (Restrições no Manifold): Um processo determinístico onde $X^{(2)} = \delta X^{(1)}$. Aqui, $X^{(1)}$ não possui efeito direto sobre a previsão dentro do suporte dos dados. No entanto, métodos baseados em gradiente (Saliency, Integrated Gradients) detectam derivadas não nulas porque sondam pontos fora do manifold, violando a C1.

Representação Proposta:
Para superar essas limitações, o artigo propõe substituir escores escalares por um Tensor de Transição (Definição 4). Este é um array tridimensional $T_{loc} \in \mathbb{R}^{D \times D \times T}$ (ou $D \times D \times T \times W$ para previsões de múltiplos passos) que quantifica a influência da variável de origem $i$ no lag $t_1$ sobre o alvo $j$. A explicação global é derivada do suporte do tensor global agregado, separando a existência estrutural da magnitude da força.

3. Principais Contribuições

1. Formalização da Lacuna Computacional: O artigo define rigorosamente o descompasso entre os métodos de atribuição plana e a estrutura de dependência condicional de modelos temporais, provando que escores escalares não podem capturar a necessária estrutura de independência condicional.
2. Definição de Fidelidade ao DAG: Introduz a fidelidade ao DAG como o critério apropriado para explicações globais de séries temporais, fundamentada na equivalência de Markov com o grafo de dependência aprendido pelo modelo.
3. Prova de Falha de Métodos Padrão:
   • Teorema 1: Prova que o SHAP padrão (e suas extensões para séries temporais como o TimeSHAP) não é fiel ao DAG em geral, pois gera arestas espúrias devido à autocorrelação.
   • Proposição 1 & 2: Demonstra que métodos baseados em influência marginal (KernelSHAP, ShapTime) falham na Separação Condicional (C2), enquanto métodos baseados em gradiente (Saliency, Integrated Gradients) falham na Avaliação no Manifold (C1).
4. Avaliação de Extensões Existentes: O artigo avalia métodos temporalmente conscientes (FIT, WinIT, Dynamask). Embora eles satisfaçam parcialmente a admissibilidade ao usar substituições dentro da distribuição, sofrem de baixa sensibilidade a arestas diretas genuínas (falsos negativos), embora sejam estruturalmente mais próximos da admissibilidade do que os métodos planos.
5. Proposta de Instanciações Admissíveis: Os autores propõem que uma explicação válida deve ser um Tensor de Transição instanciado via uma funcional admissível que satisfaça tanto C1 quanto C2. Eles sugerem combinar Jacobianos conscientes do manifold (para C1) com medidas de desvio de distribuição condicional (para C2).

4. Resultados e Evidência Empírica

O artigo fornece evidência empírica através de benchmarks sintéticos comparando vários métodos contra os grafos de dependência de verdade fundamental (ground-truth):

• Métodos Planos (SHAP, TimeSHAP, ShapTime, TS-MULE): Falham consistentemente em distinguir entre efeitos diretos e mediados. No Cenário I, atribuem escores não nulos a variáveis totalmente mediadas. No Cenário II, falham em respeitar as restrições no manifold.
• Métodos de Gradiente (Saliency, IG, TIG, SmoothGrad): Distinguem corretamente efeitos diretos vs. mediados em alguns casos, mas falham consistentemente no Cenário II ao atribuir relevância não nula a variáveis que são condicionalmente independentes no manifold de dados, devido à sensibilidade off-manifold.
• Métodos de Perturbação (FIT, WinIT, Dynamask): Estes métodos não alucinam arestas nos cenários de falha (respeitam melhor C1 e C2), mas exibem baixa sensibilidade, frequentemente atribuindo escores próximos de zero a arestas diretas genuínas (falsos negativos).

Nenhum método testado alcança a correção em todos os cenários, confirmando a afirmação do artigo de que os paradigmas atuais são estruturalmente inadequados.

5. Significância e Alegações

O artigo afirma que o campo da XAI para séries temporais deve mudar da fidelidade centrada no output (o ato de perturbar a característica altera o output?) para a fidelidade centrada na estrutura (a explicação recupera a estrutura de independência condicional interna do modelo?).

• Mudança Teórica: Os autores argumentam que o formato escalar não é o principal modo de falha, mas sim o condicionamento marginal e a avaliação off-manifold inerentes aos algoritmos atuais.
• Novo Padrão: Eles postulam que a fidelidade ao DAG é o critério necessário para explicações globais, e que o Tensor de Transição é o objeto de representação mínimo capaz de codificar essas dependências.
• Desafio Aberto: O artigo identifica a construção de uma instanciação admissível concreta do tensor de transição que satisfaça tanto C1 quanto C2 na prática como o problema central para pesquisas futuras. Ele nota explicitamente que, embora o tensor seja a representação interna correta, estratégias de visualização são necessárias para tornar essa estrutura de alta dimensão interpretável por humanos.

O artigo conclui pedindo que a comunidade de XAI adote este framework centrado na estrutura e vá além dos escores de atribuição planos para domínios temporais.