Neuron Incidence Redistribution for Fairness in Medical Image Classification

Resumen Técnico: Redistribución de la Incidencia de Neuronas para la Equidad en la Clasificación de Imágenes Médicas

Enunciado del Problema
Los modelos de aprendizaje profundo para la clasificación de imágenes médicas a menudo exhiben disparidades sistemáticas en el rendimiento entre subgrupos demográficos (por ejemplo, edad, género, raza). Si bien las intervenciones de equidad existentes suelen apuntar a métricas a nivel de salida (como la sensibilidad o las tasas de falsos positivos) mediante preprocesamiento, entrenamiento adversarial o calibración posterior, frecuentemente no logran explicar los mecanismos internos que impulsan estas disparidades. Los autores identifican un mecanismo latente específico: el entrelazamiento de características (o polisemanticidad) dentro de la capa penúltima de los modelos aprendidos por transferencia.

El análisis empírico revela que, en modelos ajustados finamente estándar (por ejemplo, ResNet-18), los canales de activación dominantes no son puramente específicos de la enfermedad. En su lugar:

• El canal dominante bajo predicciones positivas se coactiva tanto por muestras positivas a la enfermedad como por grupos demográficos "privilegiados" (por ejemplo, hombres, pacientes mayores). Esto conduce a probabilidades predichas infladas y al sobrediagnóstico para estos grupos.
• El canal dominante bajo predicciones negativas se coactiva preferentemente por grupos "desfavorecidos" (por ejemplo, mujeres, pacientes más jóvenes), suprimiendo sus puntuaciones y causando un subdiagnóstico sistemático.

Este entrelazamiento significa que un único canal de características codifica simultáneamente la morfología clínica y los correlatos demográficos, causando directamente disparidades en la Tasa de Verdaderos Positivos (TPR) y la Tasa de Falsos Positivos (FPR).

Metodología: Redistribución de la Incidencia de Neuronas (NIR)
Para abordar esto, los autores proponen la Redistribución de la Incidencia de Neuronas (NIR), un método de regularización ligero y diferenciable que opera sin requerir etiquetas demográficas durante el entrenamiento.

1. Definición de Incidencia de Neuronas: Para un mini-lote, la "incidencia" de una neurona específica $j$ se define como la media de activación ponderada por la probabilidad predicha:
   $$\phi_j = \frac{\sum_{i=1}^{B} \hat{p}_i z_{ij}}{\sum_{i=1}^{B} \hat{p}_i + \epsilon}$$
   donde $\hat{p}_i$ es la probabilidad predicha de la clase positiva y $z_{ij}$ es la activación de la neurona $j$ para la muestra $i$. Esta ponderación asegura que la métrica se centre en la estructura representativa de las muestras que el modelo ya considera positivas.

2. Pérdida de Redistribución: El método penaliza la varianza de estos valores de incidencia a través de todas las neuronas en la capa penúltima. Si la evidencia de la clase positiva se concentra en pocas neuronas (alta varianza), la pérdida aumenta. El objetivo es distribuir la "incidencia" de las predicciones positivas de manera uniforme en toda la capa:
   $$\mathcal{L}_{IR} = \frac{1}{d} \sum_{j=1}^{d} (\phi_j - \bar{\phi})^2$$

3. Objetivo de Entrenamiento: La pérdida total combina la Entropía Cruzada Binaria (BCE) estándar con el regularizador NIR:
   $$\mathcal{L}_{total} = \mathcal{L}_{BCE} + \lambda \mathcal{L}_{IR}$$
   Los autores utilizan un $\lambda = 0.1$ fijo en todos los experimentos, demostrando que el método proporciona mejoras consistentes sin necesidad de ajuste de hiperparámetros específico del conjunto de datos.

Contribuciones Clave

1. Insight Mecanístico: Un análisis empírico que vincula el "entrelazamiento de canales dominantes" con el sobrediagnóstico y subdiagnóstico asimétricos. Los autores demuestran que las neuronas superiores de la clase positiva se coactivan preferentemente por demografías privilegiadas independientemente de la etiqueta de la enfermedad.
2. Algoritmo NIR: Un regularizador diferenciable y libre de etiquetas que fomenta representaciones distribuidas de la clase positiva a través de toda la capa penúltima, rompiendo el entrelazamiento entre las señales de la enfermedad y los correlatos demográficos.
3. Validación Empírica: Mejoras sustanciales en la equidad en el conjunto de datos de lesiones cutáneas HAM10000 y resultados generalmente positivos (aunque mixtos) en el conjunto de datos de glaucoma Harvard OCT-RNFL, logrados sin supervisión de atributos sensibles.

Resultados Experimentales
El método fue evaluado en dos conjuntos de datos utilizando una arquitectura ResNet-18 ajustada finamente.

• HAM10000 (Lesiones Cutáneas):

  • Equidad: NIR redujo la disparidad de TPR entre grupos de edad de 10.81% a 0.93% y entre géneros de 12.04% a 0.74% (reducciones de >90%). Las disparidades de FPR también mejoraron significativamente.
  • Precisión: El método produjo una mejora marginal del AUC de 0.51 puntos (de 89.74% a 90.25%), lo que indica que las representaciones distribuidas no perjudican el rendimiento discriminativo.

• Harvard OCT-RNFL (Glaucoma):

  • Equidad: NIR redujo sustancialmente la disparidad de FPR para raza (de 15.68% a 10.66%) y edad (de 12.69% a 1.80%). Las disparidades de TPR mostraron mejoras modestas para raza y género.
  • Precisión: El AUC disminuyó 3.03 puntos (de 84.71% a 81.68). Los autores atribuyen esto al tamaño más pequeño del conjunto de datos y al desequilibrio de clases, donde imponer una incidencia uniforme puede suprimir parcialmente las neuronas de alta incidencia que portan información genuina de la enfermedad entrelazada con la demografía. Esto destaca un compromiso inherente entre precisión y equidad en regímenes de datos restringidos.

Significado y Afirmaciones
El artículo afirma que la Redistribución de la Incidencia de Neuronas ofrece una estrategia fundamentada para mejorar la equidad demográfica en la IA médica al abordar la causa raíz de las disparidades: la naturaleza polisemántica de las neuronas dominantes en los modelos aprendidos por transferencia.

• Practicidad: A diferencia de muchas intervenciones de equidad, NIR no requiere etiquetas demográficas en el momento del entrenamiento, lo que la hace altamente práctica para la implementación clínica donde los atributos sensibles a menudo no están disponibles o están protegidos.
• Interpretabilidad: El trabajo conecta conceptos abstractos de aprendizaje de representaciones (polisemanticidad, colapso de neuronas) con disparidades demográficas observables, proporcionando una explicación mecanicista de por qué los modelos fallan en subgrupos específicos.
• Conciencia del Compromiso: Los autores reconocen modestamente que, aunque NIR es altamente efectiva en conjuntos de datos más grandes (HAM10000), puede incurrir en un costo de precisión en conjuntos de datos más pequeños y desequilibrados (OCT-RNFL). Lo enmarcan no como un fracaso, sino como una consideración importante para el compromiso entre precisión y equidad, sugiriendo que forzar una utilización más amplia de características puede reducir la dependencia de las neuronas más discriminativas pero demográficamente entrelazadas.

Los autores concluyen que redistribuir la evidencia latente de la enfermedad a través de toda la capa penúltima es un enfoque efectivo y libre de etiquetas para mitigar las disparidades entre subgrupos, aunque el trabajo futuro debería explorar combinar esto con desentrelazamiento explícito o restricciones causales para desacoplar aún más las características.