Useful nonrobust features are ubiquitous in biomedical images

Resumo Técnico: Características Não Robustas Úteis são Ubíquas em Imagens Biomédicas

Título Original: USEFUL NONROBUST FEATURES ARE UBIQUITOUS IN BIOMEDICAL IMAGES

1. O Problema

O uso de Redes Neurais Profundas (DNNs) em diagnósticos médicos (radiologia, patologia, etc.) exige alta confiabilidade e interpretabilidade. No entanto, pesquisas em imagens naturais indicam que as redes aprendem características não robustas: padrões de entrada que são altamente preditivos, mas invisíveis ou ininteligíveis para humanos e extremamente sensíveis a pequenas perturbações adversárias (ruídos imperceptíveis que alteram a classificação).

O problema central que este estudo aborda é:

• Essas características não robustas existem em imagens biomédicas?
• Elas são úteis para o desempenho do modelo?
• Qual é o impacto de depender delas em termos de generalização e segurança?

2. Metodologia

Os autores realizaram uma investigação sistemática utilizando cinco conjuntos de dados da coleção MedMNIST (abrangendo modalidades como CT, radiografia, ultrassom e histopatologia). A metodologia foi dividida em três frentes:

• Isolamento de Características Não Robustas: Para provar que essas características são úteis, os autores criaram um novo conjunto de treinamento ($\hat{D}_{train}$) composto exclusivamente por exemplos adversários. Eles pegaram imagens corretamente classificadas e aplicaram uma perturbação $\ell_\infty$ para mudar o rótulo para uma classe alvo aleatória. Se um modelo treinado apenas com esses dados "mislabeled" (mas com padrões não robustos preservados) obtivesse uma precisão acima do acaso no conjunto de teste original, isso provaria que as características não robustas possuem valor preditivo por si só.
• Isolamento de Características Robustas: Utilizaram o treinamento adversário via função de perda TRADES, que equilibra a precisão em dados limpos com a robustez contra ataques, forçando o modelo a ignorar pistas não robustas e focar em características anatômicas estáveis.
• Avaliação de Generalização (OOD e Adversária):
  • In-distribution (ID): Testes nos dados originais.
  • Out-of-distribution (OOD): Testes no MedMNIST-C (corrupções como ruído Gaussiano, desfoque, compressão JPEG) para medir a sensibilidade a mudanças de distribuição.
  • Ataques Adversários: Uso do método AutoAttack para verificar a vulnerabilidade real.

3. Principais Contribuições

• A primeira investigação sistemática sobre as propriedades de generalização de características robustas vs. não robustas em tarefas de classificação de imagens médicas.
• A demonstração de que o fenômeno de "características não robustas úteis" não é exclusivo de imagens naturais (como gatos ou carros), mas está presente em dados médicos complexos.
• A quantificação do trade-off (compensação) entre precisão e robustez no contexto clínico.

4. Resultados

Os resultados revelaram um padrão consistente em todos os cinco datasets:

• Desempenho In-Distribution (ID): Os modelos que utilizam todas as características (base) apresentam a maior precisão. Os modelos treinados apenas com características não robustas obtiveram desempenho significativamente acima do acaso, provando que essas características são preditivas.
• Desempenho Out-of-Distribution (OOD): Modelos que dependem de características robustas (treinados com TRADES) superaram drasticamente os modelos base e os modelos não robustos quando submetidos a corrupções ou mudanças de distribuição.
• Vulnerabilidade: Modelos base e modelos "não robustos" colapsaram quase totalmente (precisão $\approx 0\%$) sob ataques adversários, enquanto os modelos robustos mantiveram uma performance considerável.

5. Significância e Conclusão

O estudo revela um "trade-off de robustez-precisão" crítico para a medicina:

1. Se o objetivo é a precisão máxima em um ambiente controlado e estático (in-distribution), as características não robustas ajudam o modelo a performar melhor.
2. Se o objetivo é a segurança e confiabilidade (em ambientes clínicos reais onde a iluminação, o ruído do sensor ou o equipamento podem variar), deve-se sacrificar parte da precisão em favor de modelos que utilizem apenas características robustas.

Conclusão Clínica: O uso de características não robustas reduz a confiança (trustworthiness) do modelo, pois as decisões passam a ser baseadas em padrões que um médico não consegue validar visualmente e que podem ser facilmente enganados por ruídos técnicos ou ataques maliciosos. O estudo sugere que a escolha do modelo deve ser adaptada aos requisitos de segurança do cenário de implantação.