🤖 machine learning

Concept Extraction for Time Series with ECLAD-ts

Este artigo apresenta o ECLAD-ts, um novo método de extração e localização de conceitos post-hoc adaptado para classificação de séries temporais que gera explicações globais ao agrupar mapas de ativação de CNN para revelar como os modelos codificam subconjuntos de entrada em diferentes níveis de abstração.

Autores originais: Antonia Holzapfel, Andres Felipe Posada-Moreno, Sebastian Trimpe

Publicado 2026-08-03

📖 9 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Antonia Holzapfel, Andres Felipe Posada-Moreno, Sebastian Trimpe

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um detetive tentando resolver um mistério, mas sua única testemunha é um robô brilhante e superveloz que se recusa a falar. Esse robô consegue olhar para uma linha longa e ondulada de dados e dizer exatamente o que está acontecendo — como prever se uma máquina vai quebrar ou se um paciente está doente — mas ele não diz como descobriu isso. No mundo da ciência, isso é chamado de "caixa preta". Sabemos que o robô é inteligente, mas como não podemos ver seu processo de pensamento, não sabemos se ele está usando pistas reais ou se está apenas contando com padrões minúsculos e acidentais que parecem ser a resposta. Isso é um grande problema porque, se o robô estiver contando com esses padrões, ele pode cometer erros perigosos quando as coisas mudarem. Cientistas têm tentado construir "lanternas" para iluminar essas caixas pretas, especialmente para imagens, mas dados baseados no tempo (como batimentos cardíacos ou preços de ações) têm sido muito mais difíceis de decifrar porque se movem e mudam de formas que as imagens não fazem.

Este artigo apresenta uma nova lanterna chamada ECLAD-ts, projetada especificamente para espiar dentro dos cérebros dos robôs que analisam séries temporais. Os pesquisadores construíram esta ferramenta para encontrar "conceitos" — que são apenas os padrões ou formas específicas que o robô aprendeu a reconhecer. Pense nisso como ensinar uma criança a identificar um cachorro: você não diz apenas "é um cachorro"; você aponta para as orelhas caídas, o rabo abanando e o nariz molhado. O ECLAD-ts faz isso pelos robôs, mas, em vez de orelhas e caudas, ele encontra ondulações, calos e inclinações nos dados. A equipe testou sua nova ferramenta tanto em dados artificiais (onde sabiam a resposta de antemão) quanto em dados do mundo real de fábricas e sensores de movimento. Eles descobriram que o ECLAD-ts é muito melhor em detectar as pistas reais que o robô está usando e ignorar os "atalhos" ou padrões acidentais. Ele até descobriu que alguns robôs estavam ignorando as partes realmente importantes dos dados e apenas adivinhando com base no ruído de fundo. Ao mostrar exatamente quais partes da linha do tempo o robô está olhando, o ECLAD-ts nos ajuda a confiar mais no robô, ou a consertá-lo se ele estiver olhando para as coisas erradas.

O Problema: O Robô Silencioso que Usa Atalhos

Imagine que você está treinando um robô para diferenciar um dia "bom" em uma fábrica de um dia "ruim". Você o alimenta com milhares de gravações de vibrações de máquinas. O robô fica muito bom em seu trabalho, acertando 100% nos testes. Mas então, você pergunta a ele: "Por que você achou que aquela máquina estava quebrada?". O robô apenas encara você. É uma caixa preta.

A parte assustadora é que os robôs são notórios por tomar atalhos. Em vez de aprender que uma máquina está quebrada devido a um som específico de estalo na vibração, o robôs pode aprender que "dias ruins sempre acontecem às terças-feiras" ou "dias ruins sempre têm um pouco de ruído estático no início". Se o robô depender desses atalhos, ele falhará miseravelmente no momento em que o cronograma mudar ou o ruído estático desaparecer. Isso é chamado de "aprendizado de atalho" (shortcut learning), e é perigoso porque o robô parece inteligente, mas não é realmente inteligente.

Para corrigir isso, os cientistas precisam abrir a caixa preta. Eles precisam ver o que o robô está realmente "pensando". Para imagens, temos ferramentas que podem destacar a parte da imagem que o robô está olhando. Mas para séries temporais — dados que fluem ao longo do tempo como um batimento cardíaco ou um gráfico de ações — essas ferramentas estavam faltando ou não funcionavam bem. Os métodos existentes eram como tentar encontrar uma agulha em um palheiro apenas adivinhando onde a agulha poderia estar, ou exigiam que humanos rotulassem manualmente cada padrão, o que é lento e entediante.

A Solução: ECLAD-ts, o Detetive que Viaja no Tempo

Os autores deste artigo, Antonia Holzapfel e sua equipe, criaram uma nova ferramenta chamada ECLAD-ts. Pense nesta ferramenta como um detetive que pode congelar o tempo e dar zoom em momentos específicos de um fluxo de dados para ver ao que o robô está prestando atenção.

Veja como funciona, usando uma analogia simples:
Imagine que o cérebro do robô é uma biblioteca gigante de notas. Cada vez que o robô olha para um pedaço de dado, ele escreve uma nota sobre o que vê. O ECLAD-ts entra nessa biblioteca e agrupa notas semelhantes. Esses grupos são chamados de conceitos.

Conceito 1 pode ser "um pico agudo no meio".
Conceito 2 pode ser "uma inclinação lenta e suave no início".
Conceito 3 pode ser "ruído aleatório".

A magia do ECLAD-ts é que ele não apenas encontra esses conceitos; ele diz quão importante eles são. Ele pergunta ao robô: "Se eu remover este 'pico agudo' dos dados, sua resposta muda?". Se a resposta mudar muito, o conceito é muito importante. Se a resposta não mudar, o conceito é apenas ruído de fundo.

Crucialmente, esta ferramenta foi projetada para séries temporais multivariadas. Isso significa que os dados geralmente vêm de múltiplos sensores ao mesmo tempo (como um carro tendo um sensor de velocidade, um sensor de temperatura e um sensor de pressão, todos registrando simultaneamente). O ECLAD-ts é especial porque pode dizer qual sensor o robô está olhando. Ele pode dizer: "O robô está olhando para o 'pico agudo' no sensor de temperatura, mas está ignorando o sensor de velocidade". Outras ferramentas costem misturar todos os sensores, tornando impossível dizer qual deles importa.

Os Experimentos: Testando o Detetive

Para provar que sua ferramenta funciona, a equipe realizou uma série de testes.

1. O Teste de Dados Falsos (A Verificação da "Verdade Fundamental")
Primeiro, eles criaram três conjuntos de dados falsos onde sabiam exatamente qual era a resposta.

SyntheticL2: Eles criaram dados onde uma classe tinha um "calombo" específico e a outra não. Eles também adicionaram um padrão de "fundo" que parecia uma onda quadrada.
SyntheticL4: Eles criaram dados com um "calombo ascendente" para uma classe e um "calombo descendente" para outra.
SyntheticLm: Este era o mais difícil. Eles tinham dois canais (sensores). Um canal tinha um "calombo" para a Classe A, e o outro canal tinha um "calombo" para a Classe B.

Eles treinaram robôs nesses conjuntos de dados falsos e depois usaram o ECLAD-ts (e outras ferramentas) para ver o que os robôs aprenderam.

O Resultado: O ECLAD-ts identificou corretamente os "calombos" como os conceitos importantes. Ele até detectou que alguns robôs estavam dependendo de atalhos! Em um caso, o robso aprendeu a ignorar o "calombo" e apenas olhar para o "fundo" para adivinhar a resposta. O ECLAD-ts pegou isso e deu ao fundo uma pontuação de importância alta, revelando o atalho do robô.
A Comparação: Eles compararam o ECLAD-ts com outras ferramentas como ConceptShap e MultiVISION. Essas outras ferramentas frequentemente falharam. Elas ou não consegravam encontrar os "calombos" específicos ou ficavam confusas com o ruído de fundo. O ECLAD-ts foi o único que conseguiu apontar claramente o lugar certo no tempo e no sensor correto.

2. O Teste do Mundo Real
Em seguida, eles tentaram em dados reais.

Dataset GunPoint: Estes dados registram os movimentos das mãos de atores fingindo segurar uma arma. As características principais são um movimento de "excesso" (ao baixar o braço) e um "levantamento extra" (ao levantar o braço). O ECLAD-ts destacou com sucesso esses movimentos exatos. As outras ferramentas apenas apontaram para áreas amplas e vagas da linha do tempo.
Dataset P2S: Estes dados são de uma fábrica de estampagem de metal. O objetivo é dizer se uma produção é normal ou defeituosa. Especialistas sabem que as pistas importantes estão nas "inclinações" antes da curva no meio do gráfico. O ECLAD-ts encontrou essas inclinações e deu a elas pontuações de importância altas. Ele até analisou um erro cometido pelo robô e mostrou que o robô havia confundido uma inclinação de uma execução "boa" com uma inclinação de uma execução "ruim". Isso ajuda os humanos a entenderem por que o robô falhou.

O Que Eles Descobriram (E o Que Não Descobriram)

O artigo mostra que o ECLAD-ts é uma nova forma poderosa de entender como os robôs pensam sobre o tempo.

Ele funciona: A ferramenta extraiu com sucesso padrões significativos (conceitos) do cérebro do robô que correspondiam ao que os humanos sabiam ser importante.
Ele detecta atalhos: Pode detectar quando um robô está usando atalhos ou olhando para as coisas erradas (como o ruído de fundo em vez do sinal real).
Ele lida com múltiplos sensores: É a primeira ferramenta que pode separar claramente qual sensor é importante para um determinado padrão, o que é um grande avanço para dados complexos.
É melhor que os outros: Em seus testes, o ECLAD-ts superou consistentemente as outras ferramentas (ECLAD, ConceptShap e MultiVISION) em encontrar os padrões corretos e atribuir a eles a importância correta.

No entanto, os autores são cuidadosos ao não dizer que isso é um produto perfeito e finalizado. Eles observam que:

Precisa de ajuste: A ferramenta possui configurações (como quantos conceitos procurar) que precisam ser ajustadas. Se você escolher o número errado, os resultados podem não ser tão claros.
Ainda é uma simulação em alguns aspectos: Embora tenham testado em dados reais, a "verdade fundamental" (saber a resposta absoluta) só estava disponível nos conjuntos de dados falsos. No mundo real, não podemos ter 100% de certeza se o robô está olhando para a única coisa certa, mas o ECLAD-ts nos dá a melhor visão que temos.
É para CNNs: Esta ferramenta foi projetada para um tipo específico de cérebro de robô chamado Rede Neural Convolucional (CNN). Pode não funcionar para outros tipos de robôs sem alterações.

Por Que Isso Importa

Este artigo não nos dá apenas uma nova ferramenta; ele nos dá uma maneira de construir confiança. Se um robô está diagnosticando um paciente ou controlando uma fábrica, precisamos saber se ele não está apenas adivinhando. O ECLAD-ts atua como um tradutor, transformando os pensamentos silenciosos e complexos do robô em uma história clara: "Estou prevendo 'defeito' porque vejo esta inclinação específica no sensor de temperatura e estou ignorando o ruído no sensor de pressão".

Ao tornar essas caixas pretas um pouco menos pretas, os autores esperam que engenheiros e médicos possam construir sistemas melhores, mais seguros e mais confiáveis. Eles não estão alegando ter resolvido todos os problemas da inteligência robótica, mas certamente ligaram uma luz muito brilhante em um quarto muito escuro.

Resumo Técnico: Extração de Conceitos para Séries Temporais com ECLAD-ts

Definição do Problema

Redes Neurais Convolucionais (CNNs) são cada vez mais implementadas para Classificação de Séries Temporais (TSC) em domínios críticos, como previsão de qualidade e diagnóstico médico. No entanto, sua natureza de "caixa preta" dificulta a compreensão de seus processos de predição, tornando difícil detectar se os modelos dependem de vieses prejudiciais, correlações espúrias ou "aprendizado de atalho" (shortcut learning) em vez de características relevantes para a tarefa. Embora existam métodos de Extração de Conceitos (CE) para fornecer explicações compreensíveis por humanos ao identificar padrões (conceitos) que um modelo utiliza, as abordagens existentes são predominantemente projetadas para o domínio de imagens.

No domínio de séries temporais, os métodos atuais de explicação enfrentam limitações significativas:

Métodos baseados em protótipos não refletem como o modelo codifica informações internamente.
Métodos de teste de conceitos (ex: TCAV) exigem rotulagem manual de conceitos, introduzindo viés humano e trabalho, e podem não se alinhar com os conceitos que o modelo realmente aprendeu.
Métodos de CE existentes para séries temporais (ex: MultiVISION) frequentemente dependem do campo receptivo das camadas da rede. Em arquiteturas profundas com grandes campos receptivos (ex: InceptionTime), isso pode resultar em patches de conceitos cobrindo todo o input, tornando o "agrupamento" (clustering) ineficaz.
Métodos de CE baseados em imagens não podem ser transferidos diretamente devido às características específicas do domínio, como dados multicanais onde diferentes canais codificam tipos distintos de informação (ex: diferentes sensores).

Existe uma lacuna crítica para um método de CE global e automático, adaptado para séries temporais, que possa localizar conceitos tanto temporal quanto transversalmente entre canais, sem depender de anotação manual ou campos receptivos fixos.

Metodologia: ECLAD-ts

Os autores propõem o ECLAD-ts, um método de explicação global post-hoc adaptado do algoritmo ECLAD do domínio de imagem. O método extrai e localiza conceitos analisando as representações internas de CNNs. O método opera em três etapas principais:

1. Codificação do Espaço Latente (Descritores Agregados Locais)

Em vez de depender de campos receptivos fixos, o ECLAD-ts utiliza Descritores Agregados Locais (LADs).

O método agrega mapas de ativação de um conjunto predefinido de camadas de CNN ( $L$ ).
Esses mapas são redimensionados via interpolação linear para corresponder às dimensões do input ( $w \times ch$ ).
Um descritor $d_{x_i}$ é formado pela concatenação desses mapas redimensionados.
Um LAD é definido como o corte temporal deste descritor ( $d_{x_i}(b)$ ), representando como o modelo codifica um passo de tempo específico em vários níveis de abstração. Esta abordagem reduz a dimensionalidade enquanto preserva a informação temporal e por canal.

2. Mineração de Padrões e Visualização

Agrupamento (Clustering): Um algoritmo k-means de mini-lote é aplicado aos LADs extraídos de um conjunto de inputs para identificar clusters de subsequências temporais codificadas de forma semelhante. Os centroides desses clusters ( $\gamma_{c_j}$ ) definem os conceitos.
Localização: Para visualizar um conceito $c_j$ dentro de um input $x_i$ , um mask $m_{x_i}^{c_j}$ é gerado. Este mask identifica os passos de tempo onde o LAD está mais próximo do centroide do conceito.
Expansão de Canais: Diferente dos métodos baseados em imagem, séries temporais frequentemente possuem múltiplos canais com informações distintas. O ECLAD-ts expande o mask de canal único para corresponder à contagem de canais do input, criando masks separados para cada canal para permitir a localização por canal.

3. Computação de Relevância (Pontuação de Importância)

Um novo mecanismo de pontuação de importância é introduzido para quantificar a relevância dos conceitos, abordando especificamente a natureza multicanal das séries temporais.

Sensibilidade por Instância: O método computa a sensibilidade baseada em gradiente da saída do modelo em relação ao input, mascarada pela localização do conceito: $R_{x_i}^{c_j} = \nabla_x g(f(x_i)) \odot m_{x_i}^{c_j}$ .
Função Wrapper: Para classificação multiclasse, o wrapper $g(y)$ é definido como a norma quadrada da diferença entre o vetor de saída e sua média, garantindo que a métrica capture a confiança do modelo em distinguir classes.
Preservação de Sinal: A pontuação de importância agrega a sensibilidade ao longo dos passos de tempo enquanto preserva o sinal do gradiente.
- Uma pontuação positiva indica que o conceito ajuda a distinguir a classe prevista.
- Uma pontuação negativa indica que o conceito reduz a distância entre os logits (tornando o modelo "menos seguro"), representando características que contradizem a predição.
- Uma pontuação próxima a zero implica que o conceito é sem importância.
Agregação: A Pontuação de Importância (IS) final por canal é a média da relevância do conceito através do dataset, escalonada para o intervalo $[-1, 1]$ .

Principais Contribuições

Algoritmo ECLAD-ts: Um novo método para extração e localização automática de conceitos no domínio de séries temporais que captura informações tanto temporais quanto por canal, superando as limitações de métodos baseados em campo receptivo.
Pontuação de Importância por Canal: Uma métrica modificada que avalia quantitativamente a relevância dos conceitos através de canais específicos, considerando o fato de que diferentes sensores podem codificar diferentes tipos de informação.
Avaliação Empírica: Experimentos extensos em datasets sintéticos e naturais comparando o ECLAD-ts contra o ECLAD vanilla, ConceptShap e MultiVISION.

Resultados

O método foi avaliado em três datasets sintéticos (com primitivas de verdade fundamental conhecidas) e dois datasets naturais (GunPoint e Production Press Sensor Data).

Datasets Sintéticos

Precisão de Localização: O ECLAD-ts localizou com sucesso conceitos correspondentes às primitivas de verdade fundamental (ex: bumps específicos ou interrupções de fundo) tanto nas dimensões de tempo quanto de canal.
Diferenciação de Canais: No dataset sintético multicanal ( $syntheticL_m$ ), o ECLAD-ts foi o único método capaz de distinguir que a primitiva $p_0$ pertencia ao canal 0 e $p_1$ ao canal 1. Outros métodos (ECLAD, ConceptShap, MultiVISION) falharam em diferenciar canais ou produziram resultados ambíguos.
Métricas: O ECLAD-ts alcançou as maiores pontuações de Corretude de Representação (RC) e Corretude de Importância (IC) em todos os modelos (InceptionTime, ResNet18, DenseNet121).
Detecção de Aprendizado de Atalho: O método identificou com sucesso quando os modelos dependiam de um "fundo ininterrupto" (um atalho) em vez das primitivas pretendidas, evidenciado por altas pontuações de importância atribuídas aos conceitos de fundo.

Datasets Naturais

Dataset GunPoint: O ECLAD-ts identificou corretamente os movimentos de "overshoot" e "extra lifting" conhecidos por serem críticos para a classificação, enquanto outros métodos produziram masks amplos e inconclusivos.
Dataset P2S (Industrial): O método localizou características nas inclinações antes da concavidade nos dados de sensores de produção, alinhando-se ao conhecimento de especialistas. Também forneceu insights sobre amostras classificadas incorretamente ao destacar características conflitantes (ex: uma inclinação que se assemelha à classe errada).

Significância e Alegações

O artigo afirma que o ECLAD-ts representa um passo significativo para aumentar a transparência das CNNs para classificação de séries temporais. Sua principal significância reside em:

Preencher a Lacuna de Domínio: Adaptar com sucesso os conceitos de CE de imagens para os desafios específicos de séries temporais (dimensionalidade e informação específica de canal).
Automático e Global: Fornecer explicações sem a necessidade de rotulagem manual de conceitos ou expertise humana no domínio da aplicação.
Robustez à Arquitetura: Ao contrário de métodos dependentes de campos receptivos, o ECLAD-ts permanece eficaz mesmo em arquiteturas profundas com grandes campos receptivos.
Insights Acionáveis: Ao revelar se um modelo usa características relevantes ou atalhos, o método permite que as partes interessadas avaliem o alinhamento do modelo com as expectativas humanas, melhorem a robustez do modelo e construam confiança apropriada.

Os autores observam que, embora o ECLAD-ts seja eficiente e escalável, permanecem desafios em relação à visualização de características complexas e sensibilidade a hiperparâmetros (especificamente o número de conceitos). Eles sugerem que trabalhos futuros possam focar em técnicas adaptativas e na integração do CE no treinamento em tempo real.