Bayesian uncertainty-aware deep learning with noisy labels: Tackling annotation ambiguity in EEG seizure detection

Resumo Técnico: Aprendizado Profundo com Consciência de Incerteza Bayesiana para Rótulos de EEG Ruidosos

Definição do Problema
O aprendizado profundo avançou na detecção automatizada de crises epilépticas e na localização da zona de início; no entanto, sua eficácia é fortemente dependente de dados de treinamento anotados de alta qualidade. Os sinais de EEG de escalpo são inerentemente ruidosos e propensos a artefatos, levando a anotações manuais imprecisas do tempo e das características das crises por parte dos clínicos. Pesquisas indicam que o acordo inter-avaliadores entre clínicos que interpretam dados de EEG é frequentemente baixo (em torno de 60%), resultando em "ruído de rótulo", onde as anotações fornecidas são apenas aproximadamente corretas. Este ruído apresenta um desafio significativo: modelos de aprendizado supervisionado padrão, que assumem rótulos de "verdade fundamental" (ground truth) precisos, podem aprender características enganosas, levando a uma generalização deficiente entre coortes heterogêneas de pacientes. Métodos existentes para lidar com o ruído de rótulo geralmente requerem mudanças arquitetônicas complexas, parâmetros adicionais treináveis, treinamento em múltiplas etapas ou dependem de estratégias de "poda severa" (hard pruning) que correm o risco de remover amostras de dados valiosas.

Metodologia: BUNDL
Os autores propõem o BUNDL (Bayesian Uncertainty-aware Deep Learning), um framework de treinamento agnóstico ao modelo projetado para informar redes neurais profundas sobre ambiguidades de rótulo sem alterar as arquiteturas existentes ou adicionar parâmetros.

• Framework Probabilístico: O BUNDL modela a relação entre os dados de EEG observados ($x$), os rótulos "limpos" não observados ($y_c$) e os rótulos ruidosos observados ($y_n$) usando um modelo gráfico Bayesiano. Ele trata o rótulo ruidoso como uma variável aleatória influenciada tanto pelo estado real da crise quanto pelos dados observados.
• Correção de Rótulo Impulsionada por Incerteza: A inovação central é o uso do Monte Carlo Dropout (MCD) para estimar a não confiabilidade do rótulo ($z_{x,y_n}$). Durante o treinamento, o modelo realiza múltiplas passagens de ida (forward passes) com o dropout habilitado para gerar uma distribuição empírica de previsões. A entropia dessas previsões serve como um proxy para o ruído do rótulo; a entropia alta indica que o modelo está incerto sobre uma amostra, sugerindo que o rótulo fornecido pode ser ruidoso.
• Função de Perda Inovadora: Em vez de minimizar a entropia cruzada padrão entre as previsões e os rótulos ruidosos, o BUNDL minimiza a divergência KL entre a previsão da rede e uma distribuição posterior de rótulo "limpo" derivada ($p(y_c|x)$). Esta posterior é uma combinação ponderada do rótulo do clínico e da própria previsão do modelo, onde o peso é determinado pela medida de incerteza $z_{x,y_n}$.
  • Quando a incerteza é baixa, o modelo confia no rótulo do clínico.
  • Quando a incerteza é alta, o modelo depende mais de suas próprias previsões aprendidas, efetivamente reduzindo o peso de anotações potencialmente ruidosas.
• Estratégia de Treinamento: O framework emprega uma fase de pré-treinamento em amostras de alta confiança (ex: regiões claras de linha de base e de crise) para estabelecer um estado inicial robusto. O treinamento subsequente utiliza a função de perda BUNDL. O método é compatível com qualquer arquitetura de rede profunda (ex: CNNs, Transformers, RNNs) que suporte dropout.

Principais Contribuições

1. Correção de Rótulo Impulsionada por Incerteza: Introdução de um framework de treinamento probabilístico que modela transições de rótulos informadas por incerteza para lidar com múltiplas formas de ruído de rótulo (simétrico, sobre-segmentação, sub-segmentação) sem exigir rótulos limpos de verdade fundamental durante o treinamento.
2. Eficiência Agnóstica ao Modelo: Um algoritmo de treinamento que se integra a redes profundas existentes sem adicionar parâmetros ou exigir treinamento intensivo de múltiplas etapas (ao contrário das Camadas de Adaptação de Ruído). Ele aproveita o processamento de lotes paralelos de amostras de MC para eficiência.
3. Benchmarking Padronizado: Desenvolvimento de um conjunto de dados de EEG simulado usando o framework SEREEGA para gerar cenários controlados de rótulo ruidoso (ruído simétrico, 10%/30% de sobre-segmentação, 10%/30% de sub-segmentação) para avaliação rigorosa.
4. Avaliação Abrangente: Validação através de três arquiteturas de redes profundas (DeepSOZ, TGCN, CNN) e quatro conjuntos de dados: um conjunto de dados simulado, o conjunto de dados do Temple University Hospital (TUH), o conjunto de dados CHB-MIT e o conjunto de dados Siena para testes de fora da distribuição.
5. Impacto em Tarefas de Jusante (Downstream): Demonstração de que a melhoria na detecção de crises via BUNDL também aumenta a precisão da localização da Zona de Início de Crise (SOZ), uma tarefa clínica crítica.

Resultados

• Dados Simulados: O BUNDL superou consistentemente os métodos de linha de base (Entropia Cruzada Padrão, Aprendizado Auto-Adaptativo e Camada de Adaptação Ruidosa) em todos os tipos de ruído. Alcançou o melhor desempenho em termos de AUROC e AUPRC, com redução significativa nas Taxas de Falsos Positivos (FPR) em cenários de sobre-segmentação e manteve a sensibilidade em cenários de sub-segmentação.
• Dados do Mundo Real (TUH & CHB-MIT):
  • No conjunto de dados TUH, o BUNDL alcançou a menor FPR (2,3 min/hora com DeepSOZ) em comparação com as linhas de base.
  • No conjunto de dados CHB-MIT, o BUNDL alcançou a menor FPR (0,8 min/hora com CNN) e melhorou significativamente a latência em comparação com as linhas de base.
  • Embora as melhorias de AUROC tenham sido marginais em algumas configurações, a redução de falsos positivos e da latência foi estatisticamente significativa.
• Generalização: Quando testado no conjunto de dados unseen de Siena (generalização entre sites), o BUNDL manteve a menor FPR entre todos os métodos, embora a sensibilidade tenha caído, provavelmente devido ao desvio de domínio e à potencial sobre-segmentação no conjunto de dados alvo.
• Estudos de Ablação: Experimentos confirmaram que a estimativa de incerteza baseada em MCD foi superior aos métodos de ensemble, aumento de tempo de teste (TTA) e valores de perda fixos para detectar ruído de rótulo dependente da entrada.
• Custo Computacional: O BUNDL adiciona overhead computacional durante o treinamento devido às múltiplas passagens de ida, mas não requer parâmetros adicionais ou memória para armazenar previsões passadas (ao contrário do Self-Adapt). Durante a inferência, ele opera com a mesma eficiência dos modelos padrão.

Significância e Alegações
O artigo postula que o BUNDL oferece um método direto, eficiente em recursos e confiável para treinar redes neurais profundas com rótulos clínicos ruidosos. Sua principal significância reside em sua capacidade de:

• Integrar-se perfeitamente com os modelos profundos existentes usados na prática clínica sem modificações arquitetônicas.
• Aproveitar o conhecimento de domínio (via framework Bayesiano) para distinguir entre características reais de crises e erros de anotação.
• Melhorar a confiabilidade clínica ao reduzir falsos positivos e a latência, que são críticos para sistemas de monitoramento de crises automatizados.
• Melhorar tarefas de jusante, especificamente a localização da SOZ, ao fornecer sinais de detecção mais limpos.

Os autores concluem que o BUNDL apresenta uma solução robusta para o problema onipresente de ruído de rótulo em imagens médicas e EEG, permitindo o treinamento de modelos confiáveis para a avaliação da epilepsia sem o pesado overhead computacional ou de parâmetros dos métodos concorrentes. Eles reconhecem limitações em relação à necessidade de pré-treinamento e à queda de sensibilidade durante a generalização entre sites, sugerindo trabalhos futuros em adaptação de tempo de teste e aprendizado auto-supervisionado.