Useful nonrobust features are ubiquitous in biomedical images

Resumen Técnico: Características No Robustas Útiles son Ubicuas en Imágenes Biomédicas

Título original: USEFUL NONROBUST FEATURES ARE UBIQUITOUS IN BIOMEDICAL IMAGES

1. El Problema

El uso de Redes Neuronales Profundas (DNN) en el diagnóstico médico (radiología, patología, etc.) plantea interrogantes críticos sobre la fiabilidad y la interpretabilidad de los modelos. Investigaciones previas en imágenes naturales han demostrado que las redes aprenden características no robustas: patrones predictivos que son imperceptibles para los humanos y extremadamente sensibles a pequeñas perturbaciones adversarias (ruido diseñado para engañar al modelo).

El problema central que aborda este estudio es determinar si estas características no robustas existen en el dominio biomédico y cómo su presencia afecta el rendimiento del modelo en dos escenarios: el rendimiento estándar (in-distribution) y la capacidad de generalización ante cambios en los datos (out-of-distribution o OOD).

2. Metodología

Los autores realizaron una investigación sistemática utilizando cinco conjuntos de datos de la colección MedMNIST (que abarcan CT, radiografía, ultrasonido e histopatología). La metodología se divide en tres ejes:

• Aislamiento de características no robustas: Para verificar si estas características por sí solas tienen valor predictivo, los autores construyeron un nuevo conjunto de entrenamiento ($\hat{D}_{train}$). Este se creó tomando imágenes correctamente clasificadas y aplicando perturbaciones adversarias (mediante PGD) para cambiar su etiqueta hacia una clase objetivo aleatoria. Al entrenar un modelo con estas imágenes "mislabeled" pero con sus características no robustas alteradas, cualquier precisión obtenida por encima del azar en el test original debe atribuirse exclusivamente al uso de características no robustas.
• Aislamiento de características robustas: Utilizaron entrenamiento adversario mediante la función de pérdida TRADES. Esta técnica busca equilibrar la precisión en datos limpios con la estabilidad ante perturbaciones, obligando al modelo a ignorar las señales no robustas y centrarse en rasgos anatómicos interpretables.
• Evaluación de Generalización (OOD): Evaluaron los modelos utilizando MedMNIST-C, un conjunto de datos con corrupciones controladas (ruido gaussiano, desenfoque, cambios de contraste, compresión JPEG, etc.) para medir la robustez ante cambios de distribución. También evaluaron la resistencia a ataques adversarios mediante AutoAttack.

3. Contribuciones Clave

• Es la primera investigación sistemática que analiza las propiedades de generalización de las características robustas y no robustas específicamente en la clasificación de imágenes médicas.
• Identifica y cuantifica el compromiso (trade-off) entre robustez y precisión en el contexto clínico.
• Demuestra que las características no robustas no son solo un problema de seguridad (ataques), sino un factor que afecta la estabilidad del modelo ante variaciones comunes en la adquisición de imágenes médicas.

4. Resultados Principales

• Presencia de características no robustas: Los modelos entrenados solo con características no robustas lograron precisiones significativamente superiores al azar en todos los datasets (por ejemplo, 81.62% en PneumoniaMNIST), confirmando que estas señales son útiles y están presentes en las imágenes biomédicas.
• Rendimiento In-Distribution (Estándar): El uso de todas las características (robustas + no robustas) ofrece la mayor precisión. Los modelos que solo usan características robustas sufren una pérdida de precisión de entre el 2% y el 12%.
• Rendimiento Out-of-Distribution (OOD): Aquí ocurre el fenómeno inverso. Los modelos entrenados para ser robustos (que ignoran las señales no robustas) superan drásticamente a los modelos estándar ante cambios de distribución (por ejemplo, en PathMNIST, la precisión aumentó del 24.89% al 45.78%). Los modelos basados en características no robustas colapsan ante cambios de distribución y ataques adversarios.

5. Significado e Implicaciones

El estudio revela una "verdad incómoda": las características no robustas, aunque son difíciles de interpretar y frágiles, mejoran la precisión de los modelos en condiciones ideales.

Esto plantea un dilema para el despliegue clínico:

1. Si el objetivo es la máxima precisión absoluta en un entorno controlado y estandarizado, las características no robustas son beneficiosas.
2. Si el objetivo es la seguridad, la confianza y la generalización (por ejemplo, cuando el modelo se usa en diferentes hospitales con distintos equipos), se debe sacrificar algo de precisión para priorizar modelos que dependan de características robustas y anatómicas.

En conclusión, el estudio sugiere que la elección del modelo debe estar estrictamente alineada con los requisitos de seguridad y el entorno de implementación clínica.