Explaining Digital Pathology Models via Clustering Activations

Resumen Técnico: Explicación de Modelos de Patología Digital mediante Agrupación de Activaciones

Enunciado del Problema
La adopción de modelos de aprendizaje profundo en la patología digital clínica se ve obstaculizada por una "brecha de confianza". Aunque las Redes Neuronales Convolucionales (CNN) pueden clasificar con precisión los cortes de tejido (por ejemplo, detectando cáncer de próstata), funcionan como "cajas negras" opacas. Los patólogos son reacios a confiar en estos modelos porque las técnicas estándar de explicabilidad, como la oclusión, GradCAM o la propagación de relevancia, solo proporcionan mapas de saliencia unidimensionales y locales. Estos mapas resaltan las regiones que contribuyen a una única predicción, pero no logran explicar el razonamiento detrás de la decisión ni el comportamiento global del modelo. A diferencia de los patólogos humanos, que sintetizan diversas características morfológicas y tipos de tejido, los métodos actuales no revelan las representaciones semánticas internas que el modelo utiliza para distinguir entre tejido sano y canceroso.

Metodología
Los autores proponen una técnica de explicabilidad basada en agrupación que visualiza el comportamiento global de los modelos CNN agrupando activaciones de características similares. El método opera de la siguiente manera:

1. Extracción de Características: Para un modelo CNN dado, se extraen vectores de características de una capa convolucional específica $\ell$ para cada ubicación espacial $(i, j)$ de los fragmentos de la imagen de entrada. Estos vectores representan los valores de activación a través de todos los canales $C$.
2. Factorización de Matrices No Negativas (NMF): Para garantizar la interpretabilidad semántica, los autores emplean NMF sobre los vectores de características. Dado que NMF requiere entradas no negativas, utilizan las salidas de la capa después de la función de activación ReLU.
3. Proceso de Agrupación:
   • Entrenamiento: Una matriz de entrenamiento $V$ de vectores de características se descompone en matrices no negativas $W$ y $H$ minimizando la norma de Frobenius $\|V - WH\|_F^2$. La matriz $H$ representa $K$ vectores de clase (centroides de agrupación), mientras que $W$ representa la intensidad (peso) de cada clase para cada vector de características.
   • Inferencia: Para datos nuevos, $H$ permanece fija y $W$ se optimiza. Cada ubicación espacial se asigna al grupo con el peso de intensidad más alto.
4. Adaptación a Imágenes de Diapositiva Completa (WSI): Para manejar la escala masiva de las WSI (cientos de miles de píxeles) y el problema de la superposición de fragmentos:
   • Se descarta el borde de 2 píxeles de los vectores de características en cada fragmento para mitigar artefactos de borde.
   • Los vectores de características de fragmentos superpuestos en la misma ubicación espacial se promedian para crear una representación única y consistente por píxel.
   • Se descartan los fragmentos sin superposición de tejido (fondo) para centrar el cálculo en áreas relevantes.

Contribuciones Clave

• Explicación Global vs. Local: A diferencia de los mapas de saliencia que resaltan regiones específicas para una única decisión, este método revela el comportamiento global del modelo agrupando representaciones internas en categorías semánticas distintas.
• Segmentación Semántica sin Supervisión: La técnica genera una segmentación semántica de la imagen de entrada basada en grupos aprendidos, a pesar de que el modelo subyacente fue entrenado únicamente para clasificación binaria (cáncer vs. no cáncer) y nunca para segmentación.
• Manejo de Desafíos de WSI: El enfoque está diseñado específicamente para gestionar la alta dimensionalidad y la distribución dispersa de tejido características de las diapositivas de patología digital.
• Validación frente al Conocimiento de Expertos: El método se evaluó en un modelo de detección de cáncer de próstata, demostrando que los grupos resultantes corresponden a características morfológicas observables reconocidas por los patólogos.

Resultados
La técnica se evaluó utilizando un modelo de detección de cáncer de próstata (base VGG-16) entrenado con 87 WSI del Instituto Oncológico Memorial Masaryk. Los autores entrenaron modelos de agrupación con $K=4, 6,$ y $8$ clases.

• Evaluación por Patólogo: Un patólogo residente analizó la salida de agrupación con $K=6$ e identificó que los grupos correspondían a estructuras morfológicas específicas:
  • Las clases 2, 4 y 5 se identificaron como correspondientes a áreas carcinomatosas (por ejemplo, cadenas de núcleos densamente empaquetados, pequeños lúmenes).
  • Las clases 1, 3 y 6 correspondieron a estructuras de tejido disperso, bordes o epitelio normal.
• Análisis Cuantitativo:
  • Un modelo de regresión logística entrenado únicamente con los pesos de los grupos logró un alto rendimiento en la predicción de positividad de cáncer (Precisión: 0.984, AUC: 0.998).
  • Los coeficientes de regresión confirmaron que las clases 2, 4 y 5 se correlacionan fuertemente con etiquetas positivas de cáncer, mientras que las clases 1, 3 y 6 se correlacionan con etiquetas negativas, alineándose con la evaluación cualitativa del patólogo.
• Comparación con GradCAM:
  • Si bien las clases 2, 4 y 5 mostraron una alta correlación con los mapas de calor de GradCAM, la Intersección sobre Unión (IoU) entre los grupos y las máscaras de GradCAM fue baja.
  • Esto indica que, aunque los grupos se superponen con las regiones que GradCAM considera importantes, el método de agrupación proporciona información más matizada y detallada sobre qué características específicas dentro de esas regiones está utilizando el modelo.

Significado y Afirmaciones
El artículo afirma que este enfoque basado en agrupación ofrece una herramienta robusta para comprender el funcionamiento interno de las CNN en patología digital. Al ir más allá de los simples mapas de saliencia para revelar el comportamiento semántico global del modelo, el método ayuda a desmitificar la naturaleza de "caja negra" de la IA. Los autores argumentan que proporcionar conocimientos interpretables sobre las características morfológicas específicas que prioriza un modelo puede aumentar significativamente la confianza de los patólogos, facilitando así una adopción más rápida y segura de los modelos de IA en la práctica clínica. El método se presenta como aplicable a cualquier arquitectura de modelo que utilice vectores de características espaciales, sugiriendo trabajo futuro para inspeccionar modelos transformadores fundamentales.