🤖 machine learning

Global Explanations for Multivariate Time Series Forecasting Models via $K$ -Order Markov Approximations

O artigo apresenta o KARMA, um novo método para gerar explicações globais para modelos de previsão de séries temporais multivariadas ao construir um modelo substituto de Markov de ordem $K$ que captura dependências temporais e recupera estruturas causais de forma mais eficaz do que as técnicas de atribuição existentes.

Autores originais: Amadeo Tunyi

Publicado 2026-06-29

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Amadeo Tunyi

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem uma bola de cristal superinteligente, mas completamente opaca, que prevê o futuro com base em um fluxo de dados (como clima, preços de ações ou batimentos cardíacos). Você sabe que ela funciona bem, mas não tem ideia do porquê ela faz as previsões que faz. É uma "caixa preta".

A maioria dos métodos atuais para tentar espiar dentro dessa caixa é como perguntar: "O que aconteceria se eu magicamente apagasse este dado específico?" O problema é que, em dados de séries temporais (como uma previsão do tempo), você não pode simplesmente apagar a temperatura de ontem sem quebrar as leis da física; o clima de hoje está profundamente conectado ao de ontem. Apagar isso cria um cenário falso que nunca acontece na realidade, levando a respostas confusas ou erradas.

Apresentamos o KARMA.

O artigo introduz um novo método chamado KARMA (K-Order Markov Approximation for Multivariate Time Series — Aproximação de Markov de Ordem K para Séries Temporais Multivariadas). Em vez de tentar apagar dados, o KARMA faz uma pergunta mais simples e natural: "Se o sistema estivesse neste estado específico nos últimos passos, o que o modelo espera que aconteça a seguir?"

Aqui está como o KARMA funciona, dividido em conceitos simples:

1. O Detetive do "Limite de Memória" (Pilar 1)

Imagine que você está tentando adivinhar a próxima palavra de uma frase. Você precisa se lembrar do parágrafo inteiro ou apenas das últimas palavras?
O KARMA atua como um detetive para encontrar o "limite de memória" do modelo. Ele testa o modelo para ver: "Quão longe no passado este modelo realmente precisa olhar para fazer uma boa previsão?"

Ele encontra um número específico, vamos chamá-lo de K.
Se o modelo só precisa dos dados das últimas 4 horas para prever a próxima hora, o KARMA prova que olhar para as últimas 100 horas é inútil.
O Resultado: Ele te diz: "Este modelo só se importa com os últimos 4 passos. Tudo antes disso é ruído."

2. A Linha de Base do "Zero Certificado" (Pilar 2)

Uma vez que o KARMA sabe que o modelo olha apenas para K passos atrás, ele faz algo poderoso. Ele cria uma "linha de base" (um ponto de partida padrão) que é matematicamente comprovada como o melhor ajuste.

Como o modelo ignora qualquer coisa mais antiga que K, o KARMA pode dizer com 100% de certeza: "A importância de qualquer dado mais antigo que K é exatamente zero."
A maioria dos outros métodos diz: "Este dado antigo tem uma influência minúscula, minúscula." O KARMA diz: "Não, ele tem nenhuma influência." Isso é um "zero certificado", o que é um grande diferencial para a confiança.

3. O Mapa de Explicação de "Cinco Camadas" (Pilar 3)

Depois que o KARMA construiu este mapa de memória simplificado (chamado de Surrogado de Markov), ele gera um relatório de cinco níveis para explicar o comportamento do modelo, como se estivesse descascando uma cebola:

Nível 1: Quem Importa? (Importância da Variável)
- Analogia: Em uma banda, quem é o vocalista principal?
- O KARMA classifica as variáveis (ex: Temperatura, Vento, Pressão) para ver quais delas impulsionam as previsões com mais força. Ele te diz: "A temperatura é a estrela; a direção do vento é apenas som de fundo."
Nível 2: Quando Importa? (Perfis de Lag/Atraso)
- Analogia: Quão longe a voz do vocalista ecoa?
- Ele mostra como a influência de uma variável diminui ao longo do tempo. O modelo se importa com a temperatura de 1 hora atrás ou de 3 horas atrás? Ele revela se o modelo está procurando por "momento" (as coisas continuam subindo) ou "reversão à média" (as coisas voltam ao normal).
Nível 3: Quais são os "Momentos Especiais"? (Explicação de Regime)
- Analogia: Quando a banda muda de uma balada para um rock?
- Ele identifica padrões específicos no passado (históricos) onde o modelo se comporta de maneira estranha ou única. Por exemplo: "Quando está quente E ventando, o modelo prevê chuva, mas quando está quente E calmo, prevê sol."
Nível 4: E se Mudarmos as Coisas? (Efeitos Intervencionais)
- Analogia: Se forçarmos o baterista a tocar um ritmo diferente, como a música muda?
- Ele simula a mudança de um valor passado específico (ex: "E se o vento de ontem tivesse sido mais forte?") e mede o quanto a previsão se desloca. Isso constrói um mapa de relações de causa e efeito aprendidas pelo modelo.
Nível 5: Quão Certos Estamos? (Incerteza)
- Analogia: A banda está tocando uma música que conhece bem ou está improvisando?
- Ele mede dois tipos de incerteza:
  1. Aleatória (Aleatoric): O futuro é inerentemente caótico? (O modelo está incerto porque os dados são ruidosos).
  2. Epistêmica (Epistemic): O modelo nunca viu esta situação antes? (O modelo está incerto porque faltam dados).
- Isso atua como um "selo de confiabilidade", dizendo quando você deve confiar na explicação e quando deve ser cético.

Como Foi Testado

Os autores testaram o KARMA de duas maneiras principais:

Dados Sintéticos (O "Mundo Falso"): Eles criaram um mundo falso onde conheciam exatamente as regras (a causa e o efeito reais). O KARMA foi capaz de reconstruir perfeitamente essas regras, encontrando todas as conexões verdadeiras e ignorando as falsas. Outros métodos ficaram confusos com a complexidade.
Dados do Mundo Real (O "Mundo Real"): Eles usaram dados reais de clima (PM 2.5 de Pequim) e dados financeiros. O KARMA teve um desempenho igual ou melhor que os melhores métodos existentes para identificar quais passos temporais eram realmente importantes para a previsão.

O Ponto Principal

O KARMA é uma nova forma de explicar modelos de séries temporais que respeita o fato de que o tempo flui em uma sequência. Em vez de quebrar a linha do tempo para ver o que importa, ele constrói um mapa probabilístico simplificado de como o modelo conecta o passado ao futuro. Ele te dá uma lista ranqueada de fatores importantes, diz exatamente o quão longe no passado o modelo olha e até fornece uma "pontuação de confiança" para suas próprias explicações.

Limitações mencionadas no artigo:
O método funciona melhor quando o número de variáveis e a "extensão da memória" não são excessivamente grandes. Se você tiver milhares de variáveis, a matemática torna-se muito pesada (crescimento exponencial), embora os autores utilizem truques para manter o processo gerenciável para a maioria dos casos do mundo real.

Resumo Técnico: KARMA – Explicações Globais para Previsão de Séries Temporais Multivariadas via Aproximações de Markov de Ordem K

1. Declaração do Problema

A implementação de modelos de aprendizado profundo (ex: RNNs, TCNs, Transformers) para previsão de séries temporais multivariadas em domínios de alto risco (finanças, monitoramento clínico, sensores industriais) enfrenta uma opacidade significativa. Os métodos existentes de IA Explicável (XAI), como LIME, SHAP e atribuições baseadas em gradiente, são projetados primariamente para dados estáticos e independentes e identicamente distribuídos (i.i.d.). Quando aplicados a séries temporais, esses métodos frequentemente violam propriedades temporais fundamentais:

Suposição de Independência: Eles assumem implicitamente que os atributos de timestamp são independentes, ignorando a autocorrelação temporal e a causalidade de Granger entre variáveis.
Perturbações Fora da Variedade (Off-Manifold): Perturbações aleatórias em SHAP ou LIME quebram estruturas sequenciais, criando contrafatuais que não existem na distribuição dos dados.
Local vs. Global: Métodos baseados em gradiente descrevem a geometria local em um único ponto, em vez da estrutura condicional sistemática aprendida globalmente pelo modelo.
Seleção de Baseline: Métodos como o TimeSHAP lutam com o "problema da seleção de baseline" em contextos sequenciais, onde a escolha do baseline é não trivial.

O artigo argumenta que as explicações para séries temporais devem respeitar a estrutura sequencial e causal dos dados, afastando-se de aproximações locais baseadas em perturbação ou gradiente em direção a uma abordagem de surrrogado probabilística e global.

2. Metodologia: O Framework KARMA

Os autores propõem o KARMA (K-Order Markov Approximation), um framework que explica um preditor de série temporal de caixa-preta $f$ construindo um modelo surrogado de Markov de ordem K. A premissa central é que o comportamento de um preditor complexo em uma série temporal multivariada pode ser fielmente aproximado por uma cadeia de Markov de uma ordem específica $K$ .

A metodologia é organizada em torno de três pilares:

Pilar 1: Surrogado de Markov e Seleção de Ordem

Discretização: Variáveis de séries temporais contínuas são discretizadas em $N$ bins usando fronteiras de quantis derivadas dos dados de treinamento, criando um espaço de estados discretos $S = [N]^D$ .
Seleção de Ordem ( $K^*$ ): O método identifica o comprimento de histórico mínimo $K^*$ que é preditivamente suficiente. Isso é alcançado via uma regra de parada de validade preditiva de surrogacia. O algoritmo testa comprimentos de lag crescentes $K$ substituindo o prefixo de uma janela de entrada por um baseline $b$ e medindo a discrepância de predição $\hat{\Delta}_{pred}(K, b)$ .
Critério de Parada: $K^*$ é o menor $K$ onde a discrepância mínima cai abaixo de uma tolerância $\epsilon$ . Isso certifica que o modelo é insensível a entradas além do lag $K^*$ .

Pilar 2: Compressão e Atribuição Certificada

Compressão de Modelo: Se $K^* < W$ (a janela de entrada do modelo), o modelo é provadamente insensível a entradas além do lag $K^*$ . Isso resulta em uma razão de compressão $W/K^*$ .
Baseline Certificado ( $b^*$ ): O baseline $b^*$ não é escolhido pelo analista, mas é certificado pelo modelo; é o prefixo específico que minimiza a discrepância de predição quando substituído.
Atribuições de Zero Certificado: Para todos os lags $k > K^*$ , as atribuições são matematicamente zero (dentro do erro de aproximação), resolvendo a ambiguidade de importância "pequena" vs. "zero" encontrada em outros métodos.

Pilar 3: Hierarquia de Explicação Global de Cinco Níveis

Uma vez que o kernel de transição de ordem $K^*$ $\hat{T}^f_{K^*}$ é estimado, o KARMA deriva cinco camadas de explicação global sem consultas adicionais ao oráculo:

Nível 1 (Importância de Variável): Computa a influência de distribuição total das variáveis de origem nas previsões alvo através de todos os lags, classificando as variáveis por sua influência de variação total marginal.
Nível 2 (Perfis de Lag): Resolve a influência por um lag específico $k$ , revelando a dinâmica temporal (ex: momentum, reversão à média) para cada variável.
Nível 3 (Distintividade de Regime): Identifica regimes históricos distintivos (caminhos) onde a previsão condicional do modelo desvia significativamente de seu comportamento típico, usando um índice de interdependência marginal.
Nível 4 (Efeitos Intervencionais): Computa efeitos intervencionais médios (AIE) e contribuições de aresta para popular um grafo causal induzido pelo modelo, conectando-se diretamente à importância do Nível 1.
Nível 5 (Quantificação de Incerteza): Fornece certificados de confiabilidade:
- Incerteza Aleatória: Entropia da distribuição preditiva (incerteza genuína do modelo).
- Incerteza Epistêmica: Variância das estimativas do kernel (sinaliza históricos com cobertura de dados insuficiente).

Estimativa de Kernel: Para evitar a complexidade exponencial de estimar o kernel conjunto completo ( $N^{DK^*}$ ), o KARMA estima $D$ kernels marginais fatorados. Ele emprega uma Estratégia B (Monte Carlo de prefixo $b^*$ ) por padrão, que restringe a estimativa ao suporte de histórico observado $H^+_{K^*}$ , escalando linearmente com o comprimento da série $T$ em vez de exponencialmente com a dimensão.

3. Principais Resultados

Dados Sintéticos (Oráculo VAR)

Recuperação de Estrutura Causal: Em dados sintéticos de Vetor Autorregressivo (VAR) com arestas causais de verdade fundamental conhecidas, o KARMA alcançou recall perfeito (1.00) em todas, exceto na configuração mais complexa (xlarge, onde o recall foi 0.71). Manteve alta precisão, excluindo efetivamente arestas espúrias.
Ranking de Características: O KARMA foi o único método de topo (maior $\tau$ de Kendall) nas configurações medium, large e xlarge. Métodos concorrentes (TimeSHAP, WinIT, Feature Occlusion) degradaram conforme a densidade do grafo aumentava.
Comparação: O Integrated Gradients (IG) foi excluído dos testes sintéticos pois reduz-se a coeficientes exatos em VARs lineares, tornando a comparação degenerada.

Benchmarks do Mundo Real

Experimentos foram conduzidos em três datasets (ETTh1, Beijing PM2.5, Exchange Rate) através de três arquiteturas (GRU, LSTM, TCN) usando uma pontuação AUC baseada em lag temporalmente consciente ( $AUClag@25\%$ ).

ETTh1: O KARMA alcançou as pontuações mais altas em todas as arquiteturas, superando notavelmente o próximo melhor método em TCN (0.71 vs. 0.49).
Beijing PM2.5: O KARMA foi competitivo, igualando ou seguindo ligeiramente os baselines mais fortes.
Exchange Rate: Todos os métodos colapsaram para pontuações próximas de zero. Os autores interpretam isso corretamente: o dataset aproxima-se de um passeio aleatório com pouca estrutura temporal aprendível, o que significa que nenhum método pode identificar timesteps cuja remoção altera a previsão. Isso valida o comportamento da métrica em vez de indicar uma falha do explicador.

4. Significância e Alegações

O artigo posiciona o KARMA como uma alternativa principada aos métodos de XAI existentes para séries temporais ao:

Respeitar a Geometria Temporal: Ao contrário de métodos baseados em perturbação que quebram a estrutura sequencial, a aproximação de Markov do KARMA opera dentro da linguagem nativa do domínio (dependências condicionais).
Fornecer Garantias Estatísticas: Oferece atribuições de zero certificado para lags irrelevantes e certificados de confiabilidade explícitos (Nível 5) para as explicações, um recurso ausente em trabalhos anteriores.
Global vs. Local: Fornece uma hierarquia de explicação global derivada de um único kernel estimado, em vez de aproximações locais por instância.
Validade Agnóstica ao Modelo: A seleção de $K^*$ e o baseline $b^*$ são derivados diretamente do comportamento do modelo, não de suposições do analista.

Limitações Reconhecidas:
Os autores observam que o espaço de estados cresce exponencialmente com $N^{DK^*}$ , tornando a estimativa de kernel completo desafiadora em configurações de alta dimensão. O KARMA mitiga isso via kernels marginais e estratégias de amostragem, mas a escala para sistemas de altíssima dimensão permanece uma direção aberta.

O artigo conclui que o paradigma de aproximação de Markov oferece uma direção robusta e subexplorada para XAI em domínios sequenciais, aplicável a finanças, neurociência e genômica.