🤖 machine learning

ConceptCF: Concept-based Counterfactuals for the Explainability of Time Series

Este artigo introduz o ConceptCF, um novo método para gerar explicações contrafatuais interpretáveis em séries temporais ao modificar conceitos compreensíveis por humanos derivados da decomposição de séries temporais, o qual supera as abordagens existentes em métricas de avaliação fundamentais.

Autores originais: Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

Publicado 2026-07-22

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando ensinar um robô a entender o mundo. Você dá a ele uma câmera e um cérebro, e ele começa a fazer previsões: "Isso é um gato", ou "Aquela máquina está prestes a quebrar". Mas, às vezes, o robô erra, ou pior, acerta pelos motivos errados. Talvez ele pense que uma foto de um lobo é real porque há neve ao fundo, não porque ele realmente vê o lobo. Este é um grande problema no mundo da Inteligência Artificial (IA), especialmente quando os riscos são altos, como em hospitais ou fábricas. Precisamos saber por que o robô tomou uma decisão, não apenas o que ele decidiu.

Para resolver isso, os cientistas usam algo chamado "IA Explicável". Uma das ferramentas mais legais nesse conjunto de ferramentas é o "contrafactual". Pense em um contrafactual como uma história de "e se". Em vez de apenas dizer "Eu previ que você estava andando", um cont𝑎factual diz: "Eu previ que você estava andando, mas se você tivesse diminuído o ritmo dos seus passos, eu teria previsto que você estava sentado". É como uma receita para mudar o futuro. No entanto, ao lidar com séries temporais — dados que mudam ao longo do tempo, como um monitor de batimentos cardíacos ou um gráfico de ações — criar essas histórias de "e se" é complicado. Se você apenas ajustar um único ponto nos dados, é como mudar uma única palavra em uma frase e esperar que toda a história ainda faça sentido. Frequentemente, não faz. A história torna-se um galimatias, e a explicação do robô torna-se inútil.

É aqui que um novo método chamado ConceptCF entra em cena. Os pesquisadores por trás deste artigo, Annemarie Jutte e sua equipe, perceberam que, em vez de mexer em pontos individuais de uma série temporal, devemos mudar as "grandes ideias" ou "conceitos" que compõem os dados. Imagine uma música. Você poderia tentar mudar a música ajustando cada nota individualmente, o que é bagunçado e confuso. Ou, você poderia mudar o "volume" (o quão alta ela é) ou o "tempo" (o quão rápida ela é). Estes são os conceitos. O ConceptCF é um sistema inteligente que pega uma série temporal, decompõe em conceitos compreensíveis (como o quão grandes são as ondas ou com que frequência elas se repetem) e então pergunta: "E se mudássemos o volume ou o tempo?". Ele utiliza um processo de evolução digital, como um videogame onde as melhores soluções sobrevivem e melhoram, para encontrar as mudanças menores e mais lógicas necessárias para inverter uma previsão. O resultado é uma explicação que um humano consegue realmente entender, como dizer: "O robô pensou que você estava andando porque seus passos eram muito grandes; se você desse passos menores, ele saberia que você estava sentado".

O artigo apresenta o ConceptCF como uma forma de gerar essas explicações de "e se" especificamente para dados de séries temporais. A ideia central é parar de olhar para os pontos de dados brutos (os momentos individuais no tempo) e começar a olhar para conceitos — padrões de alto nível que os humanos compreendem facilmente, como a "escala" geral (amplitude) de um sinal ou a "frequência" (o quão frequentemente ele se repete). Os autores argumentam que os métodos existentes muitas vezes estragam o significado dos dados ao alterar pontos isoladamente, o que pode criar cenários estranhos e impossíveis. O ConceptCF evita isso ao modificar apenas os conceitos subjacentes.

Para fazer isso, a equipe utiliza três formas diferentes de decompor a série temporal em conceitos:

Baseado em Fourier: Isso observa o sinal como uma mistura de diferentes frequências, como separar um acorde em notas individuais.
Baseado em Wavelets: Isso decompõe o sinal em blocos de diferentes tamanhos, capturando tanto grandes tendências quanto pequenos detalhes.
Centrado no Humano: Este é projetado especificamente para pessoas que não são especialistas em matemática, decompondo o sinal em coisas como "tendência" (está subindo ou descendo?), "viés" (está deslocado para cima ou para baixo?) e "escala" (o quão grande é?).

Uma vez que os dados são decompostos nesses conceitos, o método utiliza um algoritmo genético para encontrar o contrafactual perfeito. Pense nisso como um programa de criação digital. O computador começa com uma "população" de mudanças possíveis. Ele testa essas mudanças para ver quais alteram com sucesso a previsão do IA (validade), enquanto permanecem próximas aos dados originais (proximidade) e alteram o mínimo possível (esparsidade). As soluções "mais aptas" sobrevivem e se misturam para criar soluções ainda melhores na próxima geração. O objetivo é encontrar a mudança mínima nos conceitos que inverta a previsão. Por exemplo, se um modelo prevê "Andar", o ConceptCF pode descobrir que aumentar o "comprimento de onda" e a "esça" do movimento faria o modelo prever "Sentar".

Os pesquisadores testaram o ConceptCF contra outros cinco métodos de alto nível usando conjuntos de dados do mundo real, incluindo dados de movimento de pessoas caminhando e dados de frequência cardíaca. Eles mediram o quão bem o novo método funcionou com base em cinco critérios:

Validade: Ele realmente mudou a previsão?
Confiança: O modelo estava seguro sobre a nova previsão?
Proximidade: O novo cenário era próximo do original?
Esparsidade: Ele mudou apenas algumas coisas ou bagunçou tudo?
Plausibilidade: O novo cenário parecia algo que poderia realmente acontecer no mundo real?

Os resultados mostraram que o ConceptCF performou de forma muito competitiva. Na verdade, ele frequentemente ficou no topo, especialmente em esparsidade. Isso significa que ele conseguiu explicar a decisão da IA mudando muito poucos conceitos, tornando a explicação muito mais limpa e fácil de ser entendida por um humano. Enquanto outros métodos às vezes tinham dificuldade em manter os dados com aparência realista ou acabavam alterando muitos pontos, o ConceptCF consistentemente encontrou o "ponto ideal" de fazer a menor mudança lógica para inverter o resultado. Os autores descobriram que a forma específica como decompunham os conceitos (Fourier vs. Wavelet vs. Centrado no Humano) não mudava drasticamente os resultados, sugerindo que o método é flexível e pode ser adaptado a diferentes necessidades.

O artigo conclui que o ConceptCF é uma nova ferramenta poderosa para entender a IA de séries temporais. Ao focar em conceitos interpretáveis por humanos em vez de pontos de dados brutos, ele preenche a lacuna entre modelos complexos de aprendizado de máquina e o raciocínio humano. Os autores sugerem que, embora seu método seja matematicamente sólido e tenha um bom desempenho em testes padrão, o teste definitivo é se os humanos realmente entendem melhor as explicações. Eles propõem que pesquisas futuras envolvam pessoas reais para ver se essas explicações baseadas em conceitos tornam a IA verdadeiramente mais transparente e confiável. Por enquanto, o ConceptCF é um passo promissor para tornar as decisões da IA menos parecidas com uma caixa preta e mais como uma conversa que todos podemos entender.

Resumo Técnico: ConceptCF para Explicabilidade de Séries Temporais

Definição do Problema

Em domínios de alto risco, como saúde e manutenção preditiva, os modelos de Inteligência Artificial (IA) frequentemente dependem de correlações espúrias em vez de relações causais, o que torna necessária a IA Explicável (XAI). Embora as explicações contrafatuais — identificar modificações mínimas para alterar a previsão de um modelo — sejam uma técnica popular de XAI, os métodos existentes para dados de séries temporais enfrentam desafios significativos. As abordagens padrão normalmente modificam pontos de dados individuais ou subsequências de forma isolada. Essa otimização ponto a ponto corre o risco de violar dependências temporais, gerar amostras fora da distribuição (out-of-distribution) e alterar o significado semântico da sequência de formas difíceis de serem interpretadas por humanos. Além disso, características globais de séries temporais, como escala ou periodicidade, estão distribuídas pelo sinal e não podem ser adequadamente capturadas pela modificação de apenas alguns pontos.

O artigo aborda a necessidade de geração de contrafatuais que opere sobre conceitos interpretáveis por humanos em vez de pontos de dados brutos, garantindo que as explicações resultantes esclareçam quais propriedades de alto nível dos dados impulsionam as decisões do modelo.

Metodologia: ConceptCF

O método proposto, ConceptCF, gera contrafatuais perturbando conceitos de alto nível derivados da decomposição de séries temporais, em vez do sinal bruto propriamente dito. A metodologia procede em três estáções:

Construção de Conceitos: Uma série temporal $x$ é decomposta em um conjunto de conceitos $S_x = \{c_1, ..., c_m\}$ usando uma função inversível $d(\cdot)$ . O artigo avalia três estratégias de decomposição:
- Transformada Discreta de Fourier (DFT): Decompõe o sinal em bandas de frequência.
- Transformada Discreta de Wavelet (DWT): Decompõe o sinal em componentes de aproximação e detalhe.
- Decomposição Centrada no Humano: Extrai componentes semânticos incluindo tendência linear, viés (média), escala (amplitude), componentes de baixa frequência, variância móvel deslizante e componentes de alta frequência.
- Restrição: A decomposição deve ser inversível ( $x = h(S_x)$ ) para reconstruir um sinal significativo a partir de conceitos perturbados.
Problema de Otimização: A geração de um contrafatual é formulada como um problema de otimização multiobjetivo. O objetivo é encontrar um conjunto de conceitos perturbado $S_x^{CF}$ que minimize uma soma ponderada de quatro objetivos:
- Confiança: Maximizar a probabilidade do modelo para a classe alvo.
- Proximidade: Minimizar a distância da norma L1 entre as amostras originais e contrafatuais (normalizada pelo Desvio Absoluto Médio).
- Esparsidade: Minimizar a fração de conceitos alterados.
- Plausibilidade: Minimizar o aumento no escore de outlier (IOS) em relação a um autoencoder treinado, garantindo que o contrafatual permaneça dentro da distribuição dos dados.
- Restrição de Validade: O contrafatual deve resultar em uma classe prevista diferente ( $y_{x^{CF}} \neq y_x$ ).
Algoritmo Genético (GA): A otimização é resolvida usando um algoritmo genético.
- Inicialização: A população é semeada com o Vizinho Mais Próximo Diferente (NUN - Nearest Unlike Neighbour) para garantir a validade.
- Mutação: Conceitos escalares são perturbados com ruído Gaussiano (limitados aos intervalos de treinamento), enquanto conceitos sequenciais são substituídos por vizinhos mais próximos do conjunto de treinamento para preservar o significado semântico.
- Elitismo: Os indivíduos mais aptos são preservados através das gerações para garantir que a restrição de validade seja mantida durante todo o processo de otimização.

Principais Contribuições

O artigo apresenta as seguintes contribuições para o estado da arte:

Formalização: Uma definição formal do problema contrafatual para séries temporais no contexto de XAI baseada em conceitos.
Algoritmo: O desenvolvimento do ConceptCF, um método que resolve o problema do contrafatual baseado em conceitos usando um algoritmo genético.
Demonstração: Uma demonstração de como conceitos (ex: escala, frequência, tendência) podem ser usados para gerar contrafatuais significativos, permitindo explicações como "a previsão mudaria se a escala do movimento aumentasse".
Validação: Uma validação empírica mostrando que o ConceptCF performa competitivamente contra métodos existentes em métricas padrão.

Resultados Experimentais

Os autores avaliaram o ConceptCF contra cinco baselines de última geração (Wachter, Native Guide, TSEvo, Glacier e Sub-SpaCE) utilizando cinco conjuntos de dados (MS-HAR, CBF, Coffee, ECG200, GunPoint).

Validade: O ConceptCF alcançou 100% de validade em todos os conjuntos de dados, garantida pela inclusão do NUN na população inicial e pela preservação de soluções válidas via elitismo.
Esparsidade: O ConceptCF alcançou o ranking mais alto (melhor desempenho) para esparsidade em todos os conjuntos de dados. Isso indica que o ConceptCF requer menos mudanças (modificando menos conceitos de alto nível) para alterar uma previsão em comparação com métodos baseados em pontos.
Proximidade: O ConceptCF também alcançou o topo do ranking para proximidade, sugerindo que os contrafatuais gerados permanecem próximos das amostras originais.
Confiança e Plausibilidade: O ConceptCF ficou em segundo lugar nestas métricas. Os autores observam que o Glacier performou ligeiramente melhor em plausibilidade, provavelmente devido à sua geração direta no espaço latente de um autoencoder.
Comparação de Decomposição: As três abordagens de decomposição (Centrada no Humano, DFT e DWT) apresentaram desempenhos comparáveis, com a abordagem Centrada no Humano mostrando resultados de esparsidade ligeiramente superiores.

Significância e Alegações

O artigo afirma que o ConceptCF oferece um avanço significativo na explicabilidade de séries temporais ao mudar o foco de modificações pontuais opacas para conceitos de alto nível interpretáveis.

Interpretabilidade: Ao operar em conceitos como "escala" ou "frequência", o método produz explicações que se alinham ao raciocínio humano (ex: "aumentar a escala para mudar a previsão"), abordando a natureza de "caixa preta" dos modelos de séries temporais.
Desempenho Competitivo: Os autores asseguram que o ConceptCF não é apenas interpretável, mas também tecnicamente competitivo, igualando ou excedendo o desempenho de métodos existentes em validade, confiança, proximidade e esparsidade.
Modéstia: Os autores reconhecem que, embora as métricas demonstrem competência técnica, elas não capturam totalmente a compreensão do usuário. Consequentemente, sugerem que a avaliação do usuário é necessária para pesquisas futuras para validar a interpretabilidade prática das explicações geradas. Eles também observam que a escolha da decomposição deve estar alinhada com o domínio específico e as necessidades do usuário final.