L2GTX: From Local to Global Time Series Explanations

O artigo apresenta o L2GTX, um framework agnóstico a modelos que gera explicações globais e interpretáveis para classificação de séries temporais, agregando explicações locais de instâncias representativas em clusters de eventos temporais para identificar padrões decisivos de classe.

O essencial

Imagine que você tem um detetive superinteligente (um modelo de Inteligência Artificial) que analisa milhares de histórias escritas em linhas do tempo (dados de séries temporais). Esse detetive é incrível em prever o futuro ou classificar o que está acontecendo (por exemplo: "Isso é um batimento cardíaco normal" ou "Isso é um defeito na máquina"), mas ele é mudo. Ele aponta para o resultado, mas não explica por que chegou lá.

O problema é que, quando olhamos apenas para uma única história, o detetive pode dar uma dica muito específica que só vale para aquele caso. Mas, para confiar nele de verdade, queremos saber: quais são as regras gerais que ele usa para tomar decisões em todos os casos?

É aqui que entra o L2GTX, a nova técnica apresentada neste artigo. Vamos explicar como ela funciona usando analogias do dia a dia.

1. O Problema: O Detetive que Só Fala em "Pedaços"

Até agora, as ferramentas para entender esses modelos (chamadas de XAI) funcionavam como se você perguntasse ao detetive sobre um único caso de cada vez.

• "Por que você disse que este coração está doente?"
• "Porque no minuto 3:15 houve um pico."

Isso é útil, mas limitado. Se você tiver 1.000 casos, o detetive vai te dar 1.000 respostas diferentes e confusas. Você não consegue ver o padrão. Além disso, muitas ferramentas antigas tratavam o tempo como se fosse uma foto estática, ignorando que o tempo flui e que os eventos têm duração (como uma tendência de subida ou uma queda brusca).

2. A Solução: O "Resumo de Notícias" (L2GTX)

O L2GTX é como um editor de jornal que pega 1.000 reportagens individuais (explicações locais) e escreve uma única manchete global que resume o que realmente importa.

Ele faz isso em 5 passos simples:

Passo 1: Coletar as "Pistas" (Explicação Local)

Primeiro, o sistema usa uma ferramenta chamada LOMATCE para olhar cada caso individualmente. Em vez de apenas dizer "o minuto 3 foi importante", ele traduz isso para uma linguagem humana:

• "Houve uma tendência de subida rápida."
• "Houve um pico máximo (um ponto alto)."
• "Houve uma queda brusca."
  Pense nisso como transformar dados brutos em "eventos" que qualquer pessoa entende.

Passo 2: Agrupar as Pistas Semelhantes (Fusão)

Agora, imagine que você tem 1.000 listas de eventos. Algumas listas dizem "pico às 10h", outras dizem "pico às 10h e 5min". São a mesma coisa, só com pequenas diferenças.
O L2GTX pega todas essas pistas e as agrupa. Ele diz: "Ok, todos esses 'picos' são na verdade o mesmo tipo de evento". Ele cria "categorias" globais de eventos, eliminando o ruído e a repetição.

Passo 3: Escolher os "Representantes" (Seleção Inteligente)

Aqui está a mágica. O sistema não precisa olhar para todos os 1.000 casos de novo. Ele usa um algoritmo inteligente para escolher um pequeno grupo de representantes (digamos, 15 ou 30 casos).
Esses casos são escolhidos porque cobrem todas as categorias de eventos importantes. É como escolher um grupo de testemunhas para um julgamento: você não precisa ouvir todo o bairro, apenas as pessoas que viram coisas diferentes e importantes para contar a história completa.

Passo 4: Criar a "Manchete Global" (Síntese)

Com esses representantes escolhidos, o sistema olha para os eventos que eles têm em comum e cria um resumo final.

• Em vez de dizer "O pico aconteceu no minuto 10, 11 e 12", ele diz: "Geralmente, quando o modelo vê uma subida rápida entre os minutos 10 e 12, ele classifica como 'Doença'."
• Ele calcula a média: "O pico costuma ter essa altura" e "A subida dura essa quantidade de tempo".

3. Por que isso é tão legal? (A Analogia da Receita de Bolo)

Imagine que você quer entender por que um chef de cozinha faz um bolo perfeito.

• Método Antigo: Você pergunta ao chef sobre um bolo específico. Ele diz: "Usei 200g de farinha e 3 ovos". Você tenta fazer outro bolo, mas não sabe se a farinha era a mesma marca ou se os ovos eram grandes. É confuso.
• Método L2GTX: O chef analisa 100 bolos que fez. Ele percebe que, independentemente do tamanho, todo bolo perfeito teve uma "subida rápida" na massa e um "pico de temperatura" no forno.
  • O L2GTX te entrega a regra: "Para um bolo perfeito, você precisa de uma subida rápida na massa e um pico de calor."
  • Isso é uma explicação global: uma regra clara, simples e que funciona para todos os casos.

4. O Resultado na Prática

Os autores testaram isso em dados reais, como:

• Eletrocardiogramas (ECG): O sistema aprendeu que, para detectar um infarto, o modelo foca em "deflexões pronunciadas" (picos altos e baixos), não apenas em um ponto específico do tempo.
• Café: Para diferenciar tipos de café, o modelo olha para "picos de intensidade" e "vales de absorção" em gráficos de espectro.

O L2GTX conseguiu criar essas regras globais de forma que:

1. São confiáveis: O resumo global ainda reflete exatamente o que o modelo "pensa" (alta fidelidade).
2. São compactas: Em vez de milhares de linhas de código, você tem uma lista curta de eventos importantes.
3. São humanas: Usam palavras como "tendência", "pico" e "queda", que qualquer especialista (médico, engenheiro) entende, sem precisar ser um programador.

Resumo Final

O L2GTX é como um tradutor que pega a linguagem complexa e confusa de uma IA (milhares de decisões individuais) e a transforma em regras claras e universais (explicações globais). Ele nos permite não apenas ver onde a IA olhou, mas entender o que ela viu e por que aquilo é importante, garantindo que podemos confiar nela em situações críticas, como na saúde ou na segurança.

Resumo técnico

1. Problema e Motivação

Os modelos de aprendizado profundo alcançam alta precisão na classificação de séries temporais, mas sua operação como "caixas pretas" dificulta a compreensão do comportamento de decisão em nível de classe. Embora existam métodos de IA Explicável (XAI) para dados estáticos (imagens e tabelas), sua aplicação em séries temporais enfrenta três limitações principais:

1. Dependência Temporal: Métodos existentes não lidam bem com observações estruturadas temporalmente e não independentes.
2. Falta de Explicações Globais: A síntese de explicações globais (que descrevem o comportamento geral do modelo) para séries temporais é pouco explorada.
3. Especificidade do Modelo: As poucas abordagens globais existentes são frequentemente específicas de uma arquitetura, limitando a interpretabilidade neutra em relação ao modelo.

Além disso, explicações locais (por instância) não capturam padrões recorrentes ou estáveis em todo o conjunto de dados ou classe. Há uma necessidade crítica de um método agnóstico ao modelo que possa sintetizar explicações globais a partir de padrões temporais locais observados em um conjunto representativo de instâncias.

2. Metodologia: L2GTX

O L2GTX (Local-to-Global Time-series eXplanations) é um método proposto para gerar explicações globais por classe, agregando explicações locais de um conjunto seletivo e representativo de instâncias. O processo segue cinco etapas sequenciais:

1. Geração de Explicações Locais (LOMATCE):

   • Utiliza o algoritmo LOMATCE para gerar explicações locais para um lote de instâncias de séries temporais.
   • O LOMATCE perturba segmentos temporais e extrai Primitivas de Eventos Parametrizados (PEPs), como tendências crescentes/decrescentes (definidas por tempo inicial, duração e gradiente) e extremos locais (máximos e mínimos definidos por tempo e valor).
   • Os eventos são agrupados (clustering) e pontuados por importância usando um modelo de substituto linear (regressão Ridge).

2. Fusão de Clusters Similares:

   • Como os clusters locais variam entre instâncias, clusters semelhantes do mesmo tipo de evento (ex: "Tendência Crescente") são fundidos usando aglomeração hierárquica baseada na distância euclidiana entre centróides.
   • Isso reduz a redundância e cria um conjunto global de clusters.

3. Construção da Matriz Instância-Cluster:

   • Cria-se uma matriz onde cada entrada representa a importância de um cluster global para uma instância específica.

4. Seleção de Instâncias Representativas (Orçamento Definido):

   • Dado um orçamento de instâncias ($B$), o método seleciona um subconjunto de instâncias que maximiza a cobertura dos clusters globais mais importantes.
   • Utiliza uma estratégia de seleção gulosa baseada em submodularidade para garantir diversidade e representatividade, cobrindo os padrões temporais mais influentes com o menor número de instâncias possível.

5. Síntese Global:

   • Os eventos das instâncias selecionadas são agregados diretamente nos clusters globais correspondentes.
   • As primitivas são resumidas estatisticamente (média e desvio padrão de tempo, duração, valor, etc.) para produzir explicações globais concisas e interpretáveis por classe.

3. Contribuições Principais

• Método Agnóstico ao Modelo: L2GTX não depende de detalhes internos da arquitetura do modelo (como ativações ou filtros), funcionando com qualquer classificador de séries temporais (ex: FCN, LSTM-FCN).
• Síntese Local-para-Global: Propõe um mecanismo principiado para transitar de explicações locais (baseadas em instâncias) para explicações globais (baseadas em classes), preservando a estrutura temporal.
• Explicações Baseadas em Eventos: Em vez de apenas pontuar pontos no tempo, o método utiliza primitivas semânticas (tendências, picos, vales) que alinham-se melhor com o raciocínio humano sobre sinais temporais.
• Eficiência e Compactação: Reduz a complexidade explicativa ao consolidar eventos redundantes em clusters globais, mantendo a fidelidade ao modelo.

4. Resultados Experimentais

O método foi avaliado em seis conjuntos de dados do repositório UCR (incluindo ECG200, Coffee, GunPoint e dados sintéticos) usando dois modelos de caixa preta (FCN e LSTM-FCN).

• Fidelidade Global (GF): O L2GTX manteve uma fidelidade global estável (medida pelo $R^2$ do modelo de substituto local) mesmo sob diferentes níveis de consolidação de clusters (percentis de fusão de 25% a 95%). Isso indica que a compressão da explicação não sacrifica a precisão na representação do comportamento do modelo.
• Interpretabilidade: As explicações geradas para os conjuntos de dados ECG200 (coração) e Coffee (café) foram consistentes com o conhecimento de domínio:
  • No ECG, identificou padrões distintos de morfologia para batimentos normais vs. infarto.
  • No Coffee, distinguiu Arabica e Robusta baseando-se em picos e vales espectrais, alinhando-se com a literatura de espectroscopia.
• Robustez: As explicações mostraram forte concordância estrutural entre diferentes arquiteturas de modelos, destacando pistas temporais compartilhadas e relevantes para a decisão.

5. Significado e Conclusão

O L2GTX preenche uma lacuna crítica na XAI para séries temporais, oferecendo uma abordagem que não apenas explica onde o modelo foca, mas o que o modelo vê (padrões comportamentais como tendências ou extremos).

• Impacto: Permite que especialistas de domínio (médicos, engenheiros, analistas financeiros) entendam o comportamento sistemático dos modelos, facilitando a detecção de viés, erros e a conformidade regulatória.
• Limitações Futuras: O custo computacional do clustering de eventos é o gargalo principal. Trabalhos futuros visam estender o método para séries temporais multivariadas e realizar avaliações centradas no ser humano com especialistas de domínio para validar a utilidade prática das explicações geradas.

Em resumo, o L2GTX demonstra que é possível sintetizar explicações globais fiéis e compactas para classificadores de séries temporais sem depender da arquitetura interna do modelo, utilizando uma agregação inteligente de eventos temporais estruturados.