Autorelevance function and other feature relevance measures for univariate time series

Resumo Técnico: Função de Autorrelevância e Outras Medidas de Relevância de Características para Séries Temporais Univariadas

Definição do Problema
A crescente adoção de modelos de aprendizado de máquina para previsão de séries temporais criou uma necessidade crítica de interpretabilidade, particularmente em relação a como as observações defasadas influenciam as previsões. Embora as ferramentas estatísticas clássicas, como a Função de Autocorrelação (ACF) e a Função de Autocorrelação Parcial (PACF), descrevam efetivamente as estruturas temporais lineares, elas são inadequadas para explicar o comportamento de modelos de previsão modernos de "caixa-preta" (ex: redes neurais). Os métodos existentes de importância de características frequentemente enfrentam dificuldades em contextos de séries temporais devido à alta correlação entre os preditores (lags) e à falta de estratégias agnósticas ao modelo para lidar com características "ausentes" em explicações baseadas em coalizões. As técnicas de imputação padrão (ex: preenchimento com zero ou médias incondicionais) frequentemente falham em preservar a dinâmica temporal essencial para a previsão, levando a estimativas de relevância potencialmente enganosas.

Metodologia
Os autores propõem um framework agnóstico ao modelo para quantificar a relevância global de entradas defasadas em previsões de séries temporais univariadas. A metodologia integra duas abordagens primárias: Variáveis Fantasmas (Ghost Variables) e Valores de Shapley, adaptadas especificamente para tarefas de previsão onde as entradas são exclusivamente valores defasados da série.

1. Abordagem de Variáveis Fantasmas (Função de Autorrelevância - ARF):

   • Adaptada da metodologia de Variáveis Fantasmas, esta abordagem avalia a relevância de um lag específico $h$ substituindo o valor defasado real $y_{t-h}$ por um valor "fantasma" imputado $\hat{y}^*_{t-h}$.
   • O valor fantasma é gerado por um modelo de imputação auxiliar (especificamente, uma regressão linear múltipla) que prevê $y_{t-h}$ utilizando os $p-1$ lags restantes.
   • A relevância é quantificada comparando o erro de previsão do modelo original contra o modelo utilizando o valor fantasma. Os autores definem duas métricas:
     • ARF$_{MSPD}$: Baseada na Diferença de Erro Quadrático Médio de Predição (Mean Squared Prediction Difference).
     • ARF$_{MSE}$: Baseada na mudança nas contribuições do Erro Quadrático Médio (MSE).

2. Abordagem de Valores de Shapley (Função de Autorrelevância Parcial - PARF):

   • Esta abordagem trata os lags como jogadores em um jogo cooperativo, calculando a contribuição marginal média de cada lag através de todas as possíveis coalizões (subconjuntos de lags).
   • Estratégia de Imputação: Uma inovação fundamental é o tratamento de características ausentes em uma coalizão. Em vez de uma imputação genérica, os autores propõem substituir os lags ausentes por uma previsão de um passo à frente (one-step-ahead forecast) gerada pelo próprio modelo de previsão que está sendo analisado. Isso preserva a coerência temporal da série.
   • Função de Valor: A função de valor é definida com base na melhoria do MSE em relação a uma linha de base (média amostral).
   • Métricas:
     • PARF$_{MSE}$: Valores de Shapley padronizados baseados em contribuições de MSE.
     • PARF$_{MSPD}$: Valores de Shapley padronizados baseados em diferenças de previsão ao quadrado.
   • Eficiência Computacional: Ao contrário dos métodos SHAP locais que exigem análise de permutação para cada observação, este framework calcula a relevância globalmente ao tirar a média sobre a amostra de teste, reduzindo significativamente o ônus computacional.

Principais Contribuições

• Nova Imputação para Séries Temporais: O artigo introduz um esquema de imputação de um passo à frente baseado no modelo para lidar com características ausentes em métodos de coalizão. Esta estratégia alinha a análise de relevância com a própria dinâmica do modelo de previsão, oferecendo uma definição mais natural de coalizões em configurações sequenciais em comparação com imputações estáticas.
• Relevância de Lag Agnóstica ao Modelo: As medidas ARF e PARF propostas são aplicáveis tanto a modelos estatísticos clássicos (ex: ARMA) quanto a modelos complexos de caixa-preta (ex: Redes Neurais Recorrentes), fornecendo um framework unificado para interpretabilidade.
• Integração de Medidas de Importância Aditivas: O trabalho conecta as necessidades práticas de explicabilidade de séries temporais com os fundamentos teóricos das medidas de importância aditiva (AIM), utilizando especificamente o MSE como a função de perda, que é o padrão em previsão.

Resultados
Os autores avaliaram suas propostas utilizando dados simulados (ARMA(3,3) linear e modelos de mudança de regime não lineares) e um conjunto de dados do mundo real (Passageiros de Companhias Aéreas Mensais).

• Simulações Lineares (AR(3) e ARMA(3,3)): Em cenções lineares, tanto o ARF quanto o PARF identificaram com sucesso os lags verdadeiros não nulos (lags 1 e 3), enquanto atribuíram relevância desprezível aos lags irrelevantes (lag 2), mesmo quando o modelo ajustado era uma rede neural.
• Simulações Não Lineares: Em um modelo de mudança de regime não linear, as medidas de relevância (particularmente o PARF com contribuições de MSE) identificaram corretamente os lags dominantes (1, 12 e 13) que impulsionavam o processo gerador de dados, demonstrando robustez à não linearidade.
• Dados Reais (Passageiros de Companhias Aéreas): Aplicado ao clássico conjunto de dados de passageiros de companhias aéreas, os métodos destacaram consistentemente os lags 1, 12 e 13 como os mais relevantes, alinhando-se com a estrutura sazonal conhecida. Embora o modelo de rede neural tenha mostrado padrões ligeiramente diferentes do SARIMA, as medidas de relevância ainda capturaram a estrutura de lag fundamental.
• Comparação de Imputação: A imputação de um passo à frente baseada no modelo geralmente superou a imputação linear em cenários não lineares e complexos, proporcionando uma identificação mais clara das estruturas de lag dominantes.

Significância e Alegações
O artigo alega que o framework proposto oferece uma solução prática e eficaz para interpretar modelos de previsão de séries temporais. Os autores enfatizam que:

• Os métodos recuperam com sucesso as estruturas de lag esperadas em quase todos os casos testados, incluindo redes neurais de caixa-preta.
• A estratégia de imputação de um passo à frente fornece uma maneira natural de definir coalizões em configurações sequenciais, evitando a natureza heurística de imputações genéricas.
• A abordagem é computacionalmente mais eficiente do que os métodos SHAP locais padrão, mantendo a interpretabilidade.
• O framework é particularmente adequado para séries temporais porque respeita a ordem temporal e as dinâmicas dos dados.

Os autores mantêm-se modestos quanto às limitações, observando que a estratégia depende de o modelo de previsão ter um desempenho preditivo suficientemente bom; modelos ruins podem introduzir ruído através do processo de imputação, levando a estimativas de relevância enganosas. Trabalhos futuros são sugeridos para explorar formulações de relevância alternativas, a inclusão de preditores exógenos e a extensão para séries temporais multivariadas.