Resumen Técnico: Evaluación de Modelos Fundacionales para la Clasificación de Figuras Mitóticas

Planteamiento del Problema

En patología computacional, el rendimiento de los modelos de aprendizaje profundo está fuertemente limitado por la escasez de conjuntos de datos de alta calidad anotados por expertos. La anotación de Imágenes de Portaobjetos Completos (WSI) es laboriosa, propensa a la variabilidad inter-evaluador y complicada por los cambios de dominio derivados de diferencias en los protocolos de tinción y los dispositivos de escaneo. Si bien el aprendizaje autosupervisado (SSL) ha permitido el entrenamiento de modelos fundacionales de gran escala sobre vastos conjuntos de datos no etiquetados, existe una falta de análisis profundo sobre cómo estos modelos se desempeñan en tareas específicas y de grano fino como la clasificación de figuras mitóticas bajo diferentes regímenes de datos. Específicamente, no está claro cómo las diferentes estrategias de adaptación (por ejemplo, linear probing frente a ajuste fino eficiente en parámetros) escalan con la disponibilidad de datos y qué tan robustos son estos modelos cuando se aplican a dominios tumorales no vistos (fuera de distribución).

Metodología

Los autores llevaron a cabo un estudio de evaluación sistemática comparando seis modelos fundacionales específicos de patología contra líneas base tradicionales.

Conjuntos de Datos

Se utilizaron dos conjuntos de datos disponibles públicamente:

1. CCMCT: Un conjunto de datos de dominio único a gran escala de mastocitomas cutáneos caninos (32 WSI, ~45k figuras mitóticas). Utilizado para experimentos de escalado de datos.
2. MIDOG 2022: Un conjunto de datos altamente diverso y multidominio que abarca cinco tipos de tumores (caninos y humanos), múltiples especies y varios escáneres. Utilizado para experimentos de robustez de dominio cruzado.

Modelos Evaluados

El estudio comparó seis modelos fundacionales de patología (Phikon, UNI, Virchow, Virchow2, H-optimus-0, Prov-GigaPath) y un Vision Transformer de propósito general (ViT-S DINOv3) contra líneas base tradicionales (ResNet50, ViT-S/B/H). Los modelos fundacionales variaron en tamaño de backbone (de ViT-B a ViT-G), algoritmos de preentrenamiento (iBOT, DINOv2) y escala de datos de preentrenamiento (hasta 2 mil millones de teselas).

Estrategias de Adaptación

Se probaron tres enfoques de adaptación principales:

1. Linear Probing: El backbone permanece congelado y solo se entrena un clasificador lineal sobre las características extraídas.
2. Low-Rank Adaptation (LoRA): Una técnica de ajuste fino eficiente en parámetros donde se inyectan matrices de bajo rango en las capas de atención y MLP, permitiendo un ajuste fino selectivo con un mínimo de parámetros entrenables.
3. End-to-End Fine-Tuning: Entrenamiento supervisado tradicional de todo el modelo (utilizado para las líneas base y comparación).

Diseño Experimental

• Escalado de Datos: Los modelos se entrenaron con el 0.1%, 1%, 10% y 100% de los datos de entrenamiento para evaluar el rendimiento en escenarios de escasez de datos frente a escenarios de abundancia de datos.
• Dominio Cruzado: Utilizando MIDOG 2022, los modelos fueron entrenados en un dominio tumoral y probados en todos los demás para evaluar la generalización a distribuciones no vistas.
• Métricas: El rendimiento se evaluó utilizando Exactitud Balanceada (Balanced Accuracy), F1 Ponderado (Weighted F1) y AUROC, realizando pruebas de significancia estadística mediante las pruebas de rango signed-rank de Wilcoxon.

Contribuciones Clave

1. Evaluación Sistemática: El artículo proporciona una evaluación exhaustiva de los modelos fundacionales de patología actuales específicamente para la tarea de clasificación de figuras mitóticas, un marcador pronóstico crítico.
2. Comparación de Estrategias de Adaptación: Compara rigurosamente el linear probing contra LoRA, demostrando que LoRA supera consistentemente al linear probing, particularmente en regímenes de bajos datos.
3. Leyes de Escalamiento de Datos: El estudio cuantifica la relación entre el tamaño de los datos de entrenamiento y el rendimiento del modelo, mostrando que los modelos fundacionales adaptados con LoRA pueden alcanzar un rendimiento cercano al de la disponibilidad total de datos utilizando solo el 10% de los mismos.
4. Robustez de Dominio Cruzado: El trabajo evalúa la capacidad de estos modelos para generalizar a través de diferentes tipos de tumores y especies, destacando la efectividad de LoRA para cerrar la brecha de rendimiento entre escenarios de dentro del dominio (in-domain) y fuera del dominio (out-of-domain).

Resultados

• Superioridad de LoRA: En ambos conjuntos de datos y en todas las escalas de datos, los modelos fundacionales adaptados con LoRA superaron significativamente a aquellos que utilizaron linear probing. En el conjunto de datos CCMCT, los modelos adaptados con LoRA alcanzaron niveles de rendimiento comparables a la disponibilidad del 100% de los datos utilizando solo el 10%.
• Superando a las Líneas Base: A escala de datos completa, los modelos fundacionales adaptados con LoRA (específicamente Virchow2 y H-optimus-0) igualaron o superaron el rendimiento de las arquitecturas tradicionales totalmente ajustadas (ResNet50). Sin embargo, el linear probing por sí solo generalmente tuvo un rendimiento inferior al de las líneas base entrenadas de extremo a extremo (end-to-end).
• Generalización de Dominio Cruzado: En el experimento de dominio cruzado, los modelos adaptados con LoRA demostraron una notable robustez. Modelos como H-optimus-0 y Virchow2 lograron puntuaciones de AUROC fuera del dominio de 0.88 y 0.87 respectivamente, cerrando casi la brecha con su rendimiento dentro del dominio. En contraste, las líneas base tradicionales y los enfoques de linear probing mostraron caídas significativas de rendimiento en dominios no vistos.
• Especificidad del Modelo: Los modelos fundacionales más recientes y grandes (Virchow2, H-optimus-0) generalmente arrojaron los mejores resultados. El modelo de propósito general ViT-S DINOv3 tuvo un desempeño inferior en comparación con los modelos fundacionales específicos de patología, lo que indica que el preentrenamiento específico del dominio es crucial.

Significado y Reivindicaciones

Los autores afirman que su trabajo demuestra el valor práctico de las estrategias de adaptación eficientes en parámetros (LoRA) para aplicaciones clínicas donde los datos anotados son escasos y heterogéneos. Los hallazgos sugieren que:

• Los modelos fundacionales, cuando se adaptan mediante LoRA, ofrecen un equilibrio superior entre costo computacional y rendimiento, permitiendo soluciones robustas que se generalizan a través de diversos entornos clínicos.
• Las "leyes de escalado de datos" observadas indican que la clasificación de figuras mitóticas de alto rendimiento es alcanzable con significativamente menos datos etiquetados de lo que se pensaba necesario para el aprendizaje supervisado tradicional.
• Si bien las arquitecturas tradicionales con ajuste fino completo siguen siendo competitivas cuando hay abundancia de datos, los modelos fundacionales adaptados con LoRA proporcionan un enfoque más escalable y robusto para el despliegue en el mundo real donde los cambios de dominio son comunes.

El artículo concluye que, si bien los modelos fundacionales están posicionados para transformar la patología computacional, el trabajo futuro debe abordar su integración en tuberías (pipelines) completas de detección y explorar más a fondo la optimización de hiperparámetros para métodos de eficiencia de parámetros.