Label Dropout: Improved Deep Learning Echocardiography Segmentation Using Multiple Datasets With Domain Shift and Partial Labelling

Título: Label Dropout: Mejora de la Segmentación de Ecocardiografía con Aprendizaje Profundo Utilizando Múltiples Conjuntos de Datos con Desplazamiento de Dominio y Etiquetado Parcial

1. El Problema

La ecocardiografía (eco) es la modalidad de imagen primaria para evaluar la función cardíaca. Aunque los modelos de aprendizaje profundo han automatizado la segmentación de estructuras cardíacas, su implementación clínica requiere robustez ante la gran variabilidad de imágenes reales (diferentes escáneres, niveles de experiencia de los operadores, etc.).

Para lograr esta robustez, es necesario entrenar modelos con múltiples conjuntos de datos diversos. Sin embargo, surge un desafío crítico: la variación en la presencia de etiquetas. Al combinar conjuntos de datos públicos (como CAMUS, Unity Imaging y EchoNet Dynamic), el conjunto de entrenamiento resultante es parcialmente etiquetado (no todas las estructuras están etiquetadas en todas las muestras).

El problema central identificado en este trabajo es que, al entrenar modelos con datos parcialmente etiquetados y desplazamiento de dominio (diferencias en la distribución de datos entre conjuntos), los modelos sufren un fenómeno de "aprendizaje atajo" (shortcut learning). El modelo aprende a asociar las características específicas de un dominio (ej. el tipo de escáner o el estilo de adquisición) con la presencia o ausencia de ciertas etiquetas. Como resultado, el modelo falla al predecir estructuras que faltan en el etiquetado de un dominio específico, incluso si utiliza funciones de pérdida diseñadas para manejar datos parciales.

2. Metodología

Los autores propusieron y validaron una nueva técnica llamada "Label Dropout" (Desactivación de Etiquetas) para romper la correlación entre las características del dominio y la presencia de etiquetas.

• Conjuntos de Datos: Se utilizaron tres conjuntos de datos públicos de eco 2D (CAMUS, Unity Imaging, EchoNet Dynamic) con diferentes vistas (A2C, A4C) y etiquetas disponibles (Ventrículo Izquierdo - LV, Miocardio del Ventrículo Izquierdo - LVM, Atrio Izquierdo - LA).
• Arquitectura Base: Se utilizó una red U-Net.
• Funciones de Pérdida Comparadas:
  1. Pérdida Estándar (CCE): Calculada sobre todas las clases.
  2. Pérdida Adaptativa: Una modificación de la entropía cruzada que ignora las clases faltantes en el ground truth (etiqueta de referencia) durante el cálculo de la pérdida.
  3. Pérdida Adaptativa + Label Dropout: La propuesta novel. Durante el entrenamiento, se introduce una probabilidad de que una etiqueta parcialmente etiquetada (que falta en algunos datos) sea artificialmente eliminada (convertida a fondo) en el ground truth de la muestra, independientemente de si estaba presente originalmente. Esto fuerza al modelo a aprender características de la estructura en lugar de depender de la presencia/ausencia de la etiqueta en un dominio específico.
• Experimentos:
  • Exp 1: Demostró la necesidad de entrenar con datos diversos para mejorar la generalización.
  • Exp 2: Mostró el fallo de los modelos con pérdida adaptativa en datos combinados con desplazamiento de dominio (aprendizaje atajo).
  • Exp 3: Validó que la pérdida adaptativa funciona bien en un entorno controlado sin desplazamiento de dominio, confirmando que el problema es la interacción entre dominio y etiqueta.
  • Exp 4: Evaluó la eficacia del Label Dropout variando la probabilidad de desactivación (0.0 a 1.0).

3. Contribuciones Clave

1. Identificación del Problema: Se demuestra por primera vez que las funciones de pérdida adaptativas (estándar para datos parciales) pueden fallar catastróficamente cuando hay desplazamiento de dominio debido al aprendizaje atajo, donde el modelo asocia el dominio con la etiqueta.
2. Propuesta de Solución: Introducción del esquema Label Dropout, una técnica simple pero efectiva que rompe el vínculo entre las características del dominio y la presencia de etiquetas, obligando al modelo a aprender representaciones más robustas.
3. Validación Empírica: Demostración cuantitativa y cualitativa de que esta técnica mejora significativamente el rendimiento en escenarios de múltiples dominios y etiquetas parciales.

4. Resultados

Los experimentos mostraron mejoras drásticas en el rendimiento de la segmentación:

• Experimento 2 (Sin Label Dropout): El modelo con pérdida adaptativa falló completamente al predecir el LVM y LA en el conjunto de datos EchoNet Dynamic, mientras que funcionaba bien en los otros, evidenciando el aprendizaje atajo.
• Experimento 4 (Con Label Dropout):
  • La introducción de Label Dropout (incluso con una probabilidad baja del 10%) mejoró significativamente la puntuación Dice para las estructuras faltantes.
  • En el conjunto de datos combinado de los tres orígenes (CAMUS, Unity, EchoNet), la técnica logró aumentos sustanciales en el Dice Score en el conjunto de prueba de EchoNet Dynamic:
    • LVM (Miocardio): Aumento de 0.199 (un 62% de mejora relativa).
    • LA (Atrio Izquierdo): Aumento de 0.136 (un 25% de mejora relativa).
  • Las pruebas estadísticas (Wilcoxon Signed Rank Test) confirmaron la significancia de estas mejoras ($p < 0.05$).
  • Se observó que el rendimiento se estabilizaba (plateau) una vez introducido el dropout, sugiriendo que el modelo eventualmente ve todas las etiquetas en todas las imágenes a lo largo de las épocas.

5. Significado e Impacto

Este trabajo es fundamental para el desarrollo de herramientas de IA clínicamente viables en cardiología.

• Robustez Clínica: Permite entrenar modelos que generalizan mejor a diferentes hospitales, escáneres y operadores, un requisito indispensable para la adopción clínica.
• Aprovechamiento de Datos: Facilita la combinación de múltiples conjuntos de datos públicos heterogéneos, maximizando el uso de datos disponibles que de otro modo serían difíciles de integrar debido a la falta de etiquetas consistentes.
• Nueva Dirección de Investigación: Sugiere que el manejo de datos parciales no solo requiere ajustes en la función de pérdida, sino también estrategias de regularización (como el dropout de etiquetas) para mitigar sesgos de dominio.

En conclusión, el Label Dropout es una técnica esencial para superar las limitaciones del aprendizaje profundo en ecocardiografía cuando se trabaja con datos del mundo real, diversos y parcialmente etiquetados.