💻 computer science

Integrated Gradient-guided Adversarial Counterfactual Explanations of 12-lead Electrocardiograms

Este artigo apresenta o InterGRACE, uma estrutura adversária integrada guiada por Gradiente Integrado que gera explicações contrafatuais clinicamente significativas para ECGs de 12 derivações ao visar características relevantes para a decisão, como o segmento ST e a onda T, aumentando assim a interpretabilidade de modelos de IA para a detecção de infarto do miocárdio.

Autores originais: Bjørn-Jostein Singstad

Publicado 2026-09-11

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Bjørn-Jostein Singstad

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Todos os dias, milhões de pessoas entram em hospitais com dor no peito ou falta de ar, e a primeira ferramenta que os médicos utilizam é frequentemente uma simples gravação de dez segundos da atividade elétrica do coração. Este é o eletrocardiograma, ou ECG, um teste que mapeia o ritmo do coração através de doze ângulos diferentes, revelando perigos ocultos, como ataques cardíacos, muito antes que os sintomas se tornem graves. Por décadas, este teste tem sido o padrão ouro, mas hoje, a inteligência artificial está aprendendo a ler essas mesmas linhas onduladas com uma velocidade e precisão que, por vezes, rivalizam com a dos especialistas humanos. No entanto, uma barreira silenciosa permanece entre o computador e a clínica: embora uma máquina possa dizer a um médico que um paciente está em risco, ela muitas vezes não consegue explicar o porquê. Ela vê um padrão nos dados que um humano não consegue ver, deixando o médico para confiar em uma caixa preta. Para preencher essa lacuna, pesquisadores estão desenvolvendo uma nova forma de pensar sobre como as máquinas tomam decisões, indo além de simplesmente apontar qual parte da imagem pareceu importante, para perguntar uma questão mais humana: o que teria que mudar para que a resposta fosse diferente?

Este modo de pensar, conhecido como explicação contrafactual, espelha a maneira como os médicos realmente diagnosticam pacientes. Quando um médico observa um traçado cardíaco, ele não apenas identifica características; ele simula mentalmente alternativas. Ele se pergunta: se esta onda fosse ligeiramente mais alta, ou se esta pausa fosse mais curta, o diagnóstico mudaria de um ataque cardíaco para um ritmo normal? Esse tipo de raciocínio é central na prática médica, mas tem sido difícil de ensinar aos computadores. A maioria dos métodos existentes para tornar a inteligência artificial transparente pode destacar as regiões de um ECG que influenciaram uma previsão, de forma muito semelhante a um mapa de calor mostrando onde uma câmera focou. No entanto, esses mapas não mostram a mudança específica e mínima necessária para inverter o resultado. Eles dizem onde a máquina olhou, mas não o que seria necessário para mudar sua opinião.

Em um novo estudo, um pesquisador chamado Bjørn-Jostein Singstad propôs-se a construir um sistema que pudesse gerar esses cenários de "e se" para sinais cardíacos. O objetivo era criar uma estrutura que pudesse pegar um ECG classificado como um ataque cardíaco e modificá-lo suavemente, de uma forma que se concentrasse nas partes específicas do sinal que o próprio computador considerou mais importantes, até que o computador o visse como um coração normal, e vice-versa. O desafio era garantir que essas mudanças não fossem ruído aleatório ou artefatos digitais, mas modificações que focassem nos momentos críticos nos quais a máquina se baseou. Para fazer isso, o pesquisador desenvolveu um método chamado InterGRACE. Este sistema utiliza uma técnica chamada gradientes integrados, que atua como um holofote, identificando exatamente quais momentos do batimento cardíaco a máquina utiliza mais para sua decisão. O sistema então usa esse holofote para guiar um processo que altera o sinal, concentrando as mudanças nesses momentos críticos enquanto mantém o restante da onda o mais suave e natural possível.

O estudo testou essa abordagem em uma grande coleção pública de mais de vinte e um mil gravações cardíacas, focando especificamente na distinção entre ataques cardíacos e ritmos normais. O pesquisador treinou dois modelos de computador separados para ler esses sinais, garantindo que aprendessem a tarefa de forma independente um do outro. O objetivo era ver se as mudanças sugeridas pelo sistema eram características médicas genuínas ou apenas peculiaridades de um único programa de computador. Quando o sistema foi solicitado a inverter o diagnóstico de um ataque cardíaco para um ritmo normal, ele teve sucesso em mudar a opinião do primeiro modelo de computador em quase dois terços dos casos. Mais importante ainda, quando esses mesmos sinais alterados foram mostrados ao segundo computador, treinado de forma independente, ele também mudou de opinião em mais da metade dos casos. Esse sucesso parcial sugere que o sistema está encontrando algumas características que são verdadeiramente compartilhadas entre diferentes formas de pensar sobre os dados, enquanto também indica que uma grande fração das mudanças permanece específica ao modelo de origem.

Ao observar de perto os sinais que foram alterados, um padrão claro emergiu. O sistema não distorceu todo o batimento cardíaco aleatoriamente. Em vez disso, concentrou suas modificações em uma janela de tempo específica conhecida como segmento ST e onda T. Em termos médicos, estas são as partes do batimento cardíaco que ocorrem logo após o principal pico elétrico, representando a fase de recuperação do coração. Isso é significativo porque, na medicina do mundo real, mudanças nessas áreas exatas são os principais indicadores de um ataque cardíaco. O fato de o computador, guiado apenas pela sua própria lógica interna, escolher alterar essas regiões específicas sugere que ele se alinha com a presença de características de repolarização clinicamente significativas, embora o estudo observe que isso não demonstra conclusivamente que estas sejam as únicas características em jogo. As mudanças não foram uniformes em todo o sinal; foram precisas, visando a fase de recuperação enquanto deixavam o pico elétrico inicial praticamente intocado.

No entanto, o estudo também revelou limites importantes para esta tecnologia. Embora o sistema tenha funcionado bem para os modelos de computador, as mudanças que produziu nem sempre foram perfeitamente seguras ou realistas para um humano interpretar. Como o sistema tratou cada uma das doze derivações do ECG de forma independente, ele às vezes criou combinações de sinais que nunca poderiam ocorrer em um coração humano vivo. Por exemplo, ele poderia alterar a voltagem em uma derivação sem realizar a mudança correspondente e fisicamente necessária em outra derivação, criando um padrão que viola as leis de como a eletricidade viaja pelo corpo. O pesquisador observou que, sem regras estritas para impor essas leis biológicas, os exemplos gerados podem conter características que são improváveis ou impossíveis em sinais cardíacos reais, como saltos súbitos de voltagem ou ondas distorcidas que nenhum coração real poderia produzir.

Esta descoberta serve como um lembrete crucial de que, embora o método identifique com sucesso quais partes do sinal importam para a máquina, ele ainda não compreende totalmente a física complexa do corpo humano. O estudo conclui que esta abordagem é um passo promissor para tornar a inteligência artificial mais transparente, oferecendo uma maneira de sondar o raciocínio de um modelo de computador ao perguntar o que seria necessário para mudar sua opinião. No entanto, antes que tais ferramentas possam ser usadas para ajudar médicos a tomar decisões de vida ou morte, elas devem ser refinadas para garantir que cada mudança sugerida seja não apenas eficaz para o computador, mas também fisicamente possível para um coração humano. O trabalho serve como uma demonstração inicial de que as máquinas podem ser guiadas a pensar em termos de "e se", mas também destaca o longo caminho que resta para garantir que essas mudanças hipotéticas estejam fundamentadas na realidade da fisiologia humana.

Resumo Técnico: Explicações Contrafatuais de ECG de 12 derivações guiadas por Gradiente Integrado

Definição do Problema
Embora modelos de aprendizado profundo possam detectar doenças cardíacas a partir de eletrocardiogramas (ECG) de 12 derivações com precisão comparável à de especialistas, sua adoção clínica é dificultada pela falta de interpretabilidade. Técnicas existentes de IA Explicável (XAI), como mapas de saliência e Grad-CAM, identificam onde em um ECG o modelo extrai informações, mas falham em explicar qual modificação específica alteraria a predição. Essa lacuna limita sua utilidade para clínicos, que rotineiramente realizam diagnósticos diferenciais raccinando sobre hipóteses concorrentes (por exemplo, distinguindo infarto do miocárdio de hipertrofia ventricular esquerda). Além disso, ataques adversários padrão frequentemente aplicam perturbações de forma uniforme ou sem restrições, falhando em refletir as características específicas que o modelo considera relevantes para a decisão. Há uma necessidade de explicações contrafatuais que sejam mínimas, clinicamente plausíveis e que guiem explicitamente o modelo para um diagnóstico diferente através da modificação das características mais influentes.

Metodologia: InterGRACE
O artigo apresenta o InterGRACE, um framework que gera ECGs contrafatuais ao guiar perturbações adversárias usando atribuições de Gradiente Integrado (IG). O método opera na forma de onda bruta de ECG de 12 derivações (especificamente 9 derivações: I, II, III, V1–V6) do conjunto de dados PTB-XL.

Arquitetura e Treinamento: Dois classificadores treinados independentemente (Modelo 1 e Modelo 2) foram desenvolvidos utilizando uma arquitetura convolucional 1-D do tipo InceptionTime para distinguir Infarto do Miocárdio (IM) de ritmos Normais. Ambos os modelos foram treinados na mesma divisão de dados, mas com inicializações aleatórias distintas.
Otimização Adversária: Os contrafatuais são gerados otimizando uma variável adversária $x_{adv}$ $x_{a d v}$ inicializada a partir da entrada original $x$ $x$ . A otimização minimiza uma função de perda composta:
- Perda de Classificação Alvo ( $L_{cls}$ ): Entropia cruzada sigmoide para forçar a classificação errônea em direção à classe alvo (ex: inverter IM para Normal).
- Penalidade de Perturbação ( $L_{perturb}$ ): Uma penalidade de norma $\ell_2$ para restringir desvios do sinal original.
- Perda de Variação Total ( $L_{tv}$ ): Uma penalidade de variação total anisotrópica para garantir que a perturbação seja suave e localmente consistente.
Pesagem Guiada por IG: A inovação central é a integração das atribuições de IG na atualização do gradiente. O IG é computado ao longo de um caminho de uma linha de base zero até a entrada adversária. O gradiente bruto da perda é multiplicado elemento a elemento pelas atribuições de IG normalizadas ( $\nabla_{weighted} = \nabla L \odot IG$ ). Isso direciona a perturbação especificamente para as regiões da forma de onda que o classificador já considera mais influentes.
Protocolo de Avaliação: O sucesso é medido pela taxa de sucesso do ataque (inverter a predição do modelo alvo) e pela transferibilidade entre modelos (se a perturbação inverte a predição de um segundo modelo treinado independentemente). A análise qualitativa envolve a média das formas de onda entre lotes para inspecionar as modificações por derivação.

Principais Resultados

Sucesso do Ataque: Os contrafatuais guiados por IG inverteram com sucesso as predições do Modelo 1 em 67,4% dos casos no conjunto de teste não utilizado (7.072 registros), alcançando isso tanto na direção IM-para-Normal quanto Normal-para-IM.
Transferibilidade entre Modelos: Quando aplicados ao Modelo 2, os mesmos contrafatuais inverteram as predições em 58,8% dos casos. Isso indica uma transferência parcial, sugerindo que as perturbações capturam uma mistura de características diagnósticas compartilhadas e idiossincrasias específicas do modelo.
Localização: A inspeção qualitativa revelou que as perturbações não foram uniformes. Em vez disso, as mudanças concentraram-se fortemente no segmento ST e na onda T (a fase de repolarização), enquanto o complexo QRS permaneceu comparativamente preservado. Isso se alinha ao entendimento clínico de que anormalidades isquêmicas são refletidas primariamente na repolarização.
Concordância de Modelos: Os dois modelos treinados independentemente mostraram alta correlação em suas predições originais, estabelecendo uma base consistente para interpretar o impacto do ataque.

Significância e Alegações
O artigo postula que a geração de contrafatuais guiada por atribuição oferece um mecanismo mais transparente para explicar modelos de aprendizado profundo baseados em ECG do que os métodos de saliência padrão. Ao concentrar as mudanças nas características relevantes para a decisão, o InterGRACE produz explicações que estão mais alinhadas com os padrões de raciocínio clínico.

No entanto, o autor mantém uma postura modesta quanto à prontidão clínica:

Transferibilidade Parcial: O fato de os contrafatuais não transferirem totalmente para um segundo modelo sugere que uma parte significativa da perturbação explora as fronteiras de decisão específicas do modelo alvo, em vez de apenas características fisiológicas agnósticas ao modelo.
Restrições Fisiológicas: O método atual não impõe explicitamente a consistência fisiológica entre as derivações (ex: relações do triângulo de Einthoven). Consequentemente, os contrafatuais gerados podem conter artefatos, como saltos abruptos de voltagem ou combinações de derivações impossíveis em sinais cardíacos reais.
Conclusão: O autor apresenta o InterGRACE como uma demonstração inicial, predominantemente qualitativa, de que a perturbação guiada por atribuição é um mecanismo viável para sondar classificadores de ECG. Eles declaram explicitamente que a ferramenta ainda não é um sistema de suporte à decisão clínica validado. Antes da implementação, o método requer a integração de restrições fisiológicas e avaliação sistemática por cardiologistas para garantir que os contrafatuais gerados sejam clinicamente plausíveis e significativos.

Mais como este