Resumen Técnico: SLAM-AGS

1. Planteamiento del Problema

La citología computacional enfrenta dos desafíos críticos que dificultan la aplicación del aprendizaje profundo para la detección de cáncer:

1. Etiquetas de Instancia Poco Fiables y Costosas: Obtener anotaciones exhaustivas a nivel de parche para Imágenes de Portaobjetos Completos (WSI) de escala de gigapíxel es prohibitivamente costoso. En consecuencia, el entrenamiento totalmente supervisado suele ser inviable.
2. Tasas de Testigo Extremadamente Bajas: En las WSI de citología, la proporción de parches positivos (que contienen células anormales) respecto al total de parches es a menudo inferior al 1%. En tales tasas de testigo tan bajas, los métodos débilmente supervisados estándar (que dependen únicamente de etiquetas a nivel de portaobjetos) se ven dominados por instancias negativas. Esto conduce al sobreajuste, a una generalización deficiente de los positivos raros y al colapso del modelo, donde este no logra distinguir bolsas positivas de las negativas.

Si bien el Aprendizaje de Múltiples Instancias (MIL) es una solución estándar para el etiquetado a nivel de portaobjetos, presenta dificultades cuando la discriminación a nivel de instancia es débilmente supervisada y las señales positivas son escasas. Además, los métodos existentes de preentrenamiento multitarea que combinan objetivos autosupervisados y débilmente supervisados suelen sufrir de conflictos de gradiente, lo que desestabiliza el entrenamiento y limita los beneficios de la supervisión débil.

2. Metodología: SLAM-AGS

Los autores proponen SLAM-AGS (Slide-Label Aware Multi-task pretraining using Adaptive Gradient Surgery), un marco diseñado para optimizar conjuntamente el aprendizaje de representaciones tanto para parches negativos como positivos del portaobjetos, estabilizando simultáneamente el proceso de entrenamiento.

2.1. Objetivos de Preentrenamiento Multitarea

El marco adapta el enfoque WeakSupCon, tratando los parches según sus etiquetas a nivel de portaobjetos:

• Parches Negativos del Portaobjetos (Similitud Supervisada): Los parches de portaobjetos sanos (negativos) se tratan como si tuvieran una etiqueta negativa compartida y conocida. El modelo optimiza una Pérdida de Similitud derivada de la pérdida de Contraste Supervisado (SupCon) para fomentar una representación compacta de estas instancias negativas en el espacio de características.
• Parches Positivos del Portaobjetos (Contraste Autosupervisado): Los parches de portaobjetos positivos (que pueden contener una mezcla de células normales y anormales) se tratan como no etiquetados. El modelo optimiza un objetivo de contraste SimCLR sobre estos parches para aprender características visuales robustas y libres de etiquetas.

La pérdida total es la suma de estos dos objetivos: $L = L_{Similarity} + L_{SimCLR}$.

2.2. Cirugía de Gradiente Adaptativa

Para abordar la inestabilidad causada por la combinación de objetivos heterogéneos, SLAM-AGS integra una Cirugía de Gradiente Adaptativa basada en el algoritmo PCGrad:

1. Resolución de Conflictos: Cuando la similitud de coseno entre los gradientes de las tareas es negativa (indicando conflicto), el algoritmo proyecta el gradiente de cada tarea sobre el plano normal del gradiente de la otra tarea. Esto elimina la interferencia destructiva.
2. Reescalado de Gradiente: Una innovación crítica en este trabajo es el paso de reescalado de gradiente. La proyección estándar puede reducir la magnitud efectiva del gradiente, ralentizando la convergencia. SLAM-AGS calcula la norma del gradiente combinado original ($\|g_{sum}\|$) y la del gradiente proyectado ($\|g_{pc}\|$). Si la norma proyectada es menor, el gradiente se reescala para preservar la magnitud de actualización original:
   $$g_{pc} \leftarrow g_{pc} \cdot \frac{\|g_{sum}\|}{\|g_{pc}\|}$$
   Esto asegura que, si bien se eliminan las direcciones conflictivas, se mantenga la escala general de la señal de aprendizaje.

2.3. Pipeline de Aplicación (Downstream)

El codificador preentrenado se integra en un agregador de Aprendizaje de Múltiples Instancias basado en Atención (específicamente PAMIL). Esto permite:

• Predicción a nivel de bolsa: Clasificar el portaobjetos completo (por ejemplo, detección de malignidad).
• Recuperación a nivel de instancia: Utilizar las puntuaciones de atención para identificar y recuperar los parches más anormales dentro de una bolsa positiva.

3. Configuración Experimental

• Dataset: El conjunto de datos de Citología de Médula Ósea [14], que presenta WSI teñidas con May-Grünwald-Giemsa/Pappenheim.
• Simulación: Para simular entornos de MIL con tasas de testigo controladas, se etiquetaron los "Linfocitos" (clase mayoritaria) como "normales", y siete tipos de células minoritarias se fusionaron en una clase "anormal". Las instancias anormales se inyectaron en bolsas normales para crear tasas de testigo objetivo del 10%, 5%, 1% y 0.5%.
• Líneas Base (Baselines): El método se comparó contra entrenamiento Débilmente Supervisado, SimCLR, WeakSupCon y una variante de SLAM-AGS sin reescalado de gradiente.
• Métricas:
  • Nivel de bolsa: F1-Score.
  • Nivel de instancia: Recall@400 (el número de instancias clave correctamente identificadas entre los 400 parches superiores clasificados por la puntuación de atención).

4. Resultados Clave

Los experimentos demuestran que SLAM-AGS supera significativamente a los métodos existentes, particularmente a medida que las tasas de testigo disminuyen:

• Clasificación a Nivel de Bolsa (F1-Score):
  • En tasas de testigo del 10% y 5%, SLAM-AGS alcanzó las puntuaciones más altas (97.1% y 96.0%, respectivamente), superando al Débilmente Supervisado (53.4%) y a WeakSupCon (84.6%).
  • Al 0.5% de tasa de testigo, la ventaja fue más pronunciada. SLAM-AGS alcanzó un 66.4%, mientras que los métodos Débilmente Supervisado, SimCLR y WeakSupCon colapsaron hacia un rendimiento cercano al azar (~50%).
• Detección a Nivel de Instancia (Recall@400):
  • SLAM-AGS mantuvo una tasa de detección por encima del 60% en todas las tasas de testigo (por ejemplo, 65.3% al 0.5% de WR).
  • Los métodos competidores (SimCLR, WeakSupCon) cayeron a niveles cercanos al azar (~40-45%) en tasas de testigo bajas, fallando en identificar eficazmente las instancias anormales clave.
• Estudio de Ablación: La variante "SLAM-AGS w/o rescaling" tuvo un desempeño significativamente inferior (por ejemplo, 46.0% F1 al 0.5% de WR), confirmando que el componente de reescalado de gradiente es esencial para estabilizar la optimización y preservar las señales de aprendizaje.

5. Significado y Reivindicaciones

El artículo afirma que SLAM-AGS proporciona una solución robusta para la citología computacional donde las señales positivas son extremadamente escasas. El núcleo de su significancia radica en la demostración de que:

1. La Interferencia de Gradiente es un Cuello de Botella Primario: En el preentrenamiento multitarea con etiquetas positivas dispersas, los gradientes conflictivos entre los objetivos autosupervisados y débilmente supervisados pueden desestabilizar el entrenamiento.
2. La Cirugía Adaptativa Permite la Estabilidad: Al combinar la proyección de gradiente con el reescalado que preserva la magnitud, el marco permite que los objetivos supervisados y autosupervisados se refuercen en lugar de interferir entre sí.
3. Desempeño ante la Escasez Extrema: El método permite un preentrenamiento estable y un desempeño superior en aplicaciones posteriores incluso con tasas de testigo tan bajas como el 0.5%, un régimen donde los métodos estándar débilmente supervisados y autosupervisados fallan.

Los autores concluyen que mitigar los conflictos de gradiente y reescalar las actualizaciones son aspectos críticos para un aprendizaje de representaciones robusto en escenarios con supervisión positiva escasa. Observan que, aunque la recuperación a nivel de instancia permanece estable, las puntuaciones F1 a nivel de bolsa aún se degradan ligeramente en las tasas de testigo más bajas, lo que sugiere que el trabajo futuro debería centrarse en mejorar el agregador MIL para aprovechar mejor las señales identificadas a nivel de instancia.

Reproducibilidad: Los autores han liberado su implementación completa y el marco de evaluación como código abierto en https://github.com/Ace95/SLAM-AGS.