C-SHAP for time series: An approach to high-level temporal explanations

1. Problema e Motivação

A adoção de sistemas de Inteligência Artificial (IA) em domínios de alto risco, como saúde e indústria, exige transparência e explicabilidade. No entanto, muitas técnicas existentes de IA Explicável (XAI) para séries temporais focam em explicações baseadas em pontos individuais ou subsequências (padrões locais).

• Limitação: Essas abordagens falham em capturar padrões de alto nível (globais) essenciais para a tomada de decisão, como tendências gerais, mudanças de variância ou componentes de frequência. A atribuição de importância espalhada por pontos individuais muitas vezes não resulta em explicações interpretáveis por humanos.
• Objetivo: Preencher essa lacuna propondo uma abordagem baseada em conceitos (padrões de alto nível extraídos dos dados) para explicar modelos de séries temporais, alinhando-se melhor ao entendimento humano e de especialistas do domínio.

2. Metodologia: C-SHAP

O artigo propõe o C-SHAP, uma extensão do método SHAP (Shapley Additive exPlanations) adaptada para conceitos em séries temporais. A metodologia é dividida em duas abordagens principais:

A. Formalização Conceitual

• Conceitos: Definidos como unidades de nível superior em relação aos recursos de entrada individuais (ex: tendência, frequência, amplitude).
• Mecanismo SHAP: Em vez de calcular valores de Shapley para cada ponto de tempo, o C-SHAP calcula a contribuição de cada conceito para a previsão do modelo.
• Duas Variantes de Implementação:
  1. Abordagem Post-hoc Totalmente Agnóstica: O modelo é treinado nos dados brutos (caixa-preta). Os conceitos são extraídos após o treinamento para gerar explicações. Requer que a construção dos conceitos seja invertível (os conceitos mascarados devem poder ser recombinados para recriar a série original).
  2. Abordagem Ante-hoc Parcial (Informada por Conceitos): O modelo é treinado diretamente usando os conceitos como canais de entrada. Isso permite que o modelo aprenda explicitamente com base nos conceitos, potencialmente melhorando o desempenho e a interpretabilidade interna.

B. Construção e Mascaramento de Conceitos

• Construção: O artigo utiliza decomposição de séries temporais para extrair conceitos. São apresentadas duas técnicas:
  1. Transformada Wavelet Discreta (DWT): Decomposição matemática padrão em componentes de aproximação e detalhe (frequências).
  2. Decomposição Personalizada (Custom): Um algoritmo heurístico projetado para interpretabilidade humana, extraindo conceitos como: Tendência (Trend), Viés (Bias), Escala (Scale), Variância (Variance), Baixa Frequência e Alta Frequência.
• Mascaramento: Para calcular os valores SHAP, os conceitos são "mascarados" (substituídos por dados não informativos).
  • No modelo informado por conceitos, substitui-se o canal do conceito por um componente correspondente de uma amostra de treinamento.
  • No modelo agnóstico, os conceitos mascarados são recombinados (usando o operador de agregação inverso) para formar um sinal univariado mascarado que é passado ao modelo.

3. Contribuições Principais

O artigo apresenta quatro contribuições significativas para o estado da arte:

1. Formalização do C-SHAP: Define duas abordagens rigorosas para explicações baseadas em conceitos em séries temporais usando SHAP (uma totalmente post-hoc e outra baseada em modelos informados por conceitos).
2. Aplicação de Decomposição: Demonstra o uso eficaz de técnicas de decomposição de séries temporais (DWT e métodos personalizados) para gerar conceitos explicativos.
3. Algoritmo Personalizado: Propõe um algoritmo de decomposição híbrido (aditivo e multiplicativo) focado na interpretabilidade humana, definindo conceitos intuitivos como "Tendência" e "Escala".
4. Validação Empírica: Aplica o framework em dois domínios distintos: Reconhecimento de Atividade Humana (HAR) e Manutenção Preditiva (Previsão de Vida Útil Remanescente - RUL).

4. Resultados Experimentais

Os experimentos foram realizados nos conjuntos de dados OPPORTUNITY (HAR) e Turbofan (Manutenção Preditiva), utilizando modelos GRU como "caixas-pretas".

• Interpretabilidade Superior: As explicações do C-SHAP foram comparadas com o KernelSHAP tradicional (baseado em pontos). Enquanto o KernelSHAP produziu mapas de calor difusos e difíceis de interpretar, o C-SHAP identificou claramente os conceitos globais responsáveis pelas previsões.
  • Exemplo HAR: O modelo dependeu principalmente de Bias (ângulo médio do joelho) e Scale (amplitude máxima do movimento) para distinguir entre "Sentar", "Deitar" e "Caminhar".
  • Exemplo Manutenção: O modelo de previsão de vida útil dependeu fortemente do conceito de Trend (tendência linear da pressão), indicando que a mudança gradual da pressão é o indicador mais forte de falha iminente.
• Desempenho do Modelo:
  • Os modelos informados por conceitos (treinados com os componentes decompostos) mostraram desempenho competitivo, às vezes superando os modelos agnósticos, embora a diferença não tenha sido drástica em todos os casos.
  • A decomposição personalizada forneceu explicações mais alinhadas com a intuição humana do que a DWT pura em alguns cenários, pois isolou a "Escala" (amplitude) de forma mais clara.

5. Significado e Conclusão

O C-SHAP representa um avanço crucial na XAI para séries temporais ao deslocar o foco de "quando" algo aconteceu (pontos no tempo) para "o que" o modelo está observando (padrões de alto nível).

• Flexibilidade: O método é agnóstico ao modelo, permitindo sua aplicação em pipelines de MLOps existentes sem re-treinamento (na variante post-hoc).
• Alinhamento Humano: Ao usar conceitos como tendência e variância, as explicações tornam-se acessíveis tanto para especialistas técnicos quanto para usuários leigos.
• Futuro: O trabalho sugere que a escolha da decomposição deve ser guiada pelo domínio de aplicação e pelos stakeholders. Pesquisas futuras devem explorar a otimização automática dos hiperparâmetros de decomposição e a validação através de estudos com usuários reais.

Em resumo, o C-SHAP oferece uma estrutura robusta para traduzir a lógica interna de modelos complexos de séries temporais em narrativas causais de alto nível, aumentando a confiança e a adoção de IA em setores críticos.