Using Explainability as a Training-Time Reliability Signal for Efficient ECG Classification

Resumo Técnico: Utilizando a Explicabilidade como um Sinal de Confiabilidade em Tempo de Treinamento para Classificação Eficiente de ECG

Definição do Problema
O treinamento de redes neurais profundas para análise de séries temporais clínicas, especificamente a classificação de eletrocardiograma (ECG), é computacionalmente caro e consome muitos recursos. Embora avanços recentes em eficiência de nível de modelo (ex: poda, quantização) tenham reduzido os custos de inferência, eles não abordam as ineficiências inerentes ao próprio processo de treinamento. O aprendizado supervisionado padrão trata todos os exemplos como igualmente informativos durante a otimização, levando a atualizações de gradiente redundantes em amostras que já foram "aprendidas".

Abordagens centradas em dados existentes, como o Progressive Data Dropout (PDD), tentam mitigar isso excluindo amostras das atualizações de gradiente uma vez que são consideradas "fáceis" com base na confiança do modelo. No entanto, os autores argumentam que a confiança é um indicador pouco confiável da utilidade da amostra em contextos clínicos. Em dados de ECG, a incerteza pode surgir de duas fontes distintas: (1) incerteza informativa, onde uma amostra contém padrões sutis e clinicamente significativos que o modelo ainda não aprendeu, e (2) incerteza não confiável, onde a dificuldade decorre de ruído, artefatos de aquisição ou rótulos ambíguos. A seleção baseada em confiança não consegue distinguir entre esses casos, podendo descartar exemplos diagnósticos valiosos enquanto retém amostras ruidosas.

Metodologia: ERTS
O artigo propõe o ERTS (Explainability-based Reliability Training Signal - Sinal de Treinamento de Confiabilidade baseado em Explicabilidade), um framework que integra a IA explicável (xAI) diretamente no ciclo de treinamento para refinar a seleção de dados. O ERTS opera como um mecanismo de filtragem de dois estágios construído sobre o Progressive Data Dropout:

1. Seleção de Candidatos (Estágio PDD): Em cada época, um subconjunto de amostras incertas é identificado usando critérios padrão de PDD (ex: baixa confiança de predição).
2. Filtragem de Confiabilidade (Estágio de Explicabilidade): Para essas amostras candidatas, o modelo gera mapas de atenção Grad-CAM para visualizar quais regiões temporais e interações de derivação impulsionam a predição.
   • Pontuação de Foco (Focus Score): Uma métrica é derivada do mapa Grad-CAM para quantificar o "foco" da explicação. Esta pontuação mede o quão concentrada é a atenção do modelo em regiões específicas e localizadas versus ser difusa através do sinal.
   • Lógica de Filtragem: Amostras com baixas pontuações de foco (indicando atenção difusa, instável ou impulsionada por ruído) são filtradas. Amostras com altas pontuações de foco (indicando atenção coerente e localizada) são retidas para atualizações de gradiente, mesmo que permaneçam incertas.

Esta abordagem garante que apenas amostras onde a incerteza é sustentada por evidências clinicamente plausíveis e significativas continuem a influenciar o processo de otimização. O método introduz um overhead computacional mínimo, pois o Grad-CAM é computado apenas para o subconjunto candidato, não para todo o lote (batch).

Principais Contribuições

• Novo Sinal de Treinamento: O artigo introduz o conceito de usar a qualidade da explicação (especificamente o foco do Grad-CAM) como um sinal de confiabilidade em tempo real durante o treinamento, movendo a xAI além de seu papel tradicional de interpretabilidade post-hoc.
• Diferenciação de Incerteza: O framework aborda explicitamente a limitação da seleção baseada em confiança ao distinguir entre incerteza informativa (difícil, mas significativa) e incerteza não confiável (ruidosa ou ambígua).
• Generalização: O método é projetado para ser agnóstico à arquitetura e compatível com várias estratégias de seleção de dados (baseada em confiança, aleatória ou baseada em cronograma).

Resultados Experimentais
Os autores avaliaram o ERTS em três conjuntos de dados públicos de ECG (PTB-XL, CPSC 2018 e Georgia 2020) e três arquiteturas de backbone (EfficientNetV2-S, ResNet-18 e MobileNetV2).

• Desempenho vs. Eficiência: Em todas as combinações de conjunto de dados-arquitetura, as variantes aprimoradas pelo ERTS alcançaram consistentemente pontuações macro-F1 mais altas em comparação com seus contrapartes PDD padrão, enquanto exigiram menos Épocas Efetivas (EE). Por exemplo, no PTB-XL com EfficientNetV2-S, o ERTS melhorou o macro-F1 em +0,0098 enquanto reduziu o EE em 13,3%.
• Robustez: As melhorias mantiveram-se verdadeiras independentemente da estratégia de seleção subjacente (DBPD, SMRD ou SRD), sugerindo que a pontuação de foco fornece informações ortogonais à confiança do modelo.
• Análise de Amostras: A análise qualitativa e quantitativa das amostras retidas versus filtradas revelou que o ERTS remove preferencialmente gravações normais com atenção difusa (provavelmente ruído), enquanto preserva casos clinicamente relevantes e difíceis (ex: MI, STTC) que exibem padrões de atenção focada.
• Sensibilidade de Limiar (Threshold): O estudo descobriu que a filtragem agressiva (limiares de foco baixos) frequentemente degradava o desempenho ao remover exemplos difíceis e informativos. Limiares moderados (ex: $\phi=0,7$ ou $0,9$) forneceram o equilíbrio ideal, atuando como um filtro seletivo em vez de um mecanismo de poda estrito.

Significância e Alegações
O artigo afirma que a qualidade da explicação pode servir como um sinal prático de tempo de treinamento para melhorar tanto a eficiência quanto a confiabilidade do aprendizado de séries temporais clínicas. Ao filtrar amostras onde a incerteza do modelo não é fundamentada em um sinal coerente, o ERTS reduz a computação redundante sem sacrificar o desempenho preditivo.

Os autores enfatizam que este trabalho estende a utilidade da explicabilidade de uma ferramenta de validação passiva e post-hoc para um componente ativo do processo de otimização. Eles posicionam o ERTS como uma solução para ambientes de saúde onde os recursos computacionais são limitados e onde distinguir entre casos de aprendizado "difíceis" e dados "ruidosos" é crítico para a confiabilidade do modelo. O artigo conclui que integrar a interpretabilidade no ciclo de treinamento oferece uma direção promissora para o desenvolvimento de sistemas de aprendizado de máquina eficientes em dados e confiáveis na área da saúde, embora reconheça que trabalhos futuros são necessários para explorar métodos de explicação alternativos e estratégias de limiar adaptativo.