Handling Supervision Scarcity in Chest X-ray Classification: Long-Tailed and Zero-Shot Learning

Este artículo presenta un enfoque de aprendizaje profundo que aborda la escasez de supervisión en la clasificación de radiografías de tórax mediante estrategias específicas para el aprendizaje de cola larga y el reconocimiento de cero disparos, logrando el primer lugar en el desafío CXR-LT 2026.

Lo esencial

Imagina que el diagnóstico médico por rayos X es como tener un detective experto que revisa miles de fotos de pulmones para encontrar enfermedades. El problema es que este detective ha sido entrenado de una manera un poco desequilibrada y, a veces, se enfrenta a casos que nunca ha visto antes.

Este artículo explica cómo un equipo de investigadores creó un "super-detective" para ganar un concurso llamado CXR-LT 2026, diseñado para solucionar exactamente esos problemas. Aquí te lo cuento de forma sencilla:

1. El Gran Problema: El "Efecto de la Moda" y los "Fantasmas"

Imagina que en una escuela hay 1000 estudiantes.

• 900 de ellos tienen el mismo cabello castaño (enfermedades comunes como neumonía o edema).
• Solo 10 tienen el cabello morado (enfermedades raras).

Si le pides a un profesor (un algoritmo de Inteligencia Artificial) que aprenda a identificar el color de pelo, el profesor se volverá un experto en el cabello castaño porque lo ve todo el tiempo. Pero cuando vea al estudiante con cabello morado, dirá: "¡Eso no existe! Debe ser castaño". A esto se le llama distribución de cola larga: hay muchas clases comunes y muy pocas raras, y la IA suele ignorar las raras.

Además, hay un segundo problema: los "Fantasmas" (Zero-Shot).
Imagina que de repente llega un estudiante con cabello neón verde. El profesor nunca ha visto cabello verde en su vida, ni tiene fotos de ejemplos verdes. Sin embargo, el concurso le pide que diga: "¿Es posible que este estudiante tenga cabello verde?". La IA tradicional diría "No sé" o fallará estrepitosamente porque no tiene ejemplos para aprender.

2. La Solución del Equipo: Dos Estrategias Maestras

El equipo de investigadores (de Vietnam, EE. UU. y otros lugares) diseñó dos estrategias diferentes para su "super-detective", dependiendo del tipo de problema:

Para las Enfermedades Raras (Tarea 1): "El Entrenamiento Justo"

Para que el detective no ignore a los estudiantes de cabello morado (las enfermedades raras), usaron una técnica de entrenamiento justo:

• El Truco: En lugar de dejar que el detective vea 100 fotos de cabello castaño y solo 1 de morado, el equipo "repetió" las fotos de cabello morado artificialmente durante el entrenamiento.
• La Analogía: Es como si el profesor tuviera que estudiar el caso del cabello morado 50 veces más que el castaño para asegurarse de que no se le olvide.
• El Resultado: Al final, el detective aprendió a prestar atención a los detalles raros sin dejar de ser bueno con los comunes. Además, usaron un "filtro de seguridad": si el detective está 100% seguro de que el paciente está sano, automáticamente baja la probabilidad de que tenga una enfermedad rara, evitando falsas alarmas.

Para las Enfermedades Nuevas (Tarea 2): "El Traductor de Lenguas"

Para los "Fantasmas" (las 6 enfermedades que nunca se habían visto en los datos de entrenamiento), no podían usar fotos de ejemplo. ¡No tenían ninguna!

• La Estrategia: Usaron un modelo que entiende tanto imágenes como texto (llamado WhyXrayCLIP).
• La Analogía: Imagina que el detective nunca ha visto un "caballo de mar", pero sabe leer. Le muestran una foto de un animal marino extraño y le dicen: "Busca algo que se parezca a la descripción: 'un pez con forma de caballo'**.
• El detective no compara la foto con otras fotos de caballos marinos (porque no tiene), sino que compara la foto con la descripción de texto del problema. Gracias a que el modelo "lee" los informes médicos, puede entender conceptos nuevos sin haberlos visto antes. Es como si el detective tuviera un diccionario infinito que le permite reconocer cosas nuevas solo por su nombre y descripción.

3. ¿Cómo les fue? ¡Ganaron el Concurso!

El equipo probó su sistema en un concurso público y los resultados fueron impresionantes:

• En la Tarea 1 (Enfermedades comunes y raras): Fueron los número 1, superando a todos los demás equipos. Su detective fue muy bueno encontrando tanto lo común como lo raro.
• En la Tarea 2 (Enfermedades nuevas): También fueron los número 1. Su detective fue el mejor adivinando enfermedades que nunca había visto, solo usando descripciones de texto.

En Resumen

Este trabajo es como crear un detective médico súper inteligente que tiene dos superpoderes:

1. Justicia: No ignora a los pacientes con enfermedades raras solo porque son pocos.
2. Imaginación: Puede diagnosticar enfermedades que nunca ha visto antes, simplemente leyendo cómo se describen en los libros de medicina.

Esto es un gran paso para que la Inteligencia Artificial sea más útil en los hospitales reales, donde las enfermedades raras y nuevas son una realidad constante.

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo en español, estructurado según los puntos solicitados:

Resumen Técnico: Manejo de la Escasez de Supervisión en la Clasificación de Radiografías de Tórax

Título: Handling Supervision Scarcity in Chest X-Ray Classification: Long-Tailed and Zero-Shot Learning
Autores: Ha-Hieu Pham et al. (VinUniversity, CMU, Northwestern, etc.)

1. El Problema

La clasificación automática de Radiografías de Tórax (CXR) en la práctica clínica enfrenta dos desafíos críticos de supervisión imperfecta:

• Distribución de Cola Larga (Long-Tailed): Las enfermedades comunes dominan los conjuntos de datos, mientras que hallazgos clínicamente importantes pero raros (cola larga) tienen muy pocas muestras. Esto hace que los modelos estándar favorezcan las clases frecuentes y fallen en las raras.
• Falta de Anotaciones para Hallazgos Nuevos: En escenarios reales, a menudo no existen etiquetas para enfermedades raras o nunca antes vistas (Out-of-Distribution, OOD), lo que impide el entrenamiento supervisado tradicional.
• Naturaleza Multi-etiqueta: Una sola imagen puede contener múltiples anomalías simultáneas, complicando el aprendizaje de predicciones equilibradas.

El desafío CXR-LT 2026 aborda estos problemas utilizando un subconjunto curado del conjunto de datos PadChest (más de 160,000 imágenes) con 36 clases: 30 clases "in-distribution" (ID) para entrenamiento y 6 clases "out-of-distribution" (OOD) para evaluación zero-shot.

2. Metodología

Los autores proponen soluciones específicas para cada tarea del desafío:

Tarea 1: Clasificación Multi-etiqueta de Cola Larga (30 clases ID)
El objetivo es mejorar el reconocimiento de clases raras manteniendo el rendimiento en las frecuentes.

• Arquitectura: Utilizan ConvNeXtV2-Base como backbone, pre-entrenado en MIMIC-CXR. Se fine-tunean dos variantes: una con una cabeza MLP estándar y otra con una cabeza CSRA (Class-Specific Spatial Attention) para enfocarse en regiones relevantes.
• Función de Pérdida (Distribution-Balanced Loss): Implementan una pérdida que combina:
  1. Re-pesado basado en el número efectivo de muestras: Aumenta el peso de las clases minoritarias (cola) para evitar que el modelo las ignore.
  2. Ajuste de margen: Modifica los logits para las etiquetas positivas.
• Muestreo Consciente de la Clase (Class-Aware Sampling - CAS): Se utiliza un muestreador estilo "repeat-factor" para sobremuestrear imágenes que contienen etiquetas positivas raras, aumentando la exposición del modelo a estas sin distorsionar excesivamente la distribución de datos.
• Inferencia y Post-procesamiento:
  • Ensemble con TTA: Se combinan dos checkpoints mediante un promedio ponderado, aplicando Test-Time Augmentation (rotaciones, flips, zoom) para robustez.
  • Gating Normal: Se aplica un refinamiento post-hoc donde las probabilidades de anomalías se suprimen si el modelo tiene alta confianza en que la imagen es "Normal" ($p_{normal}$), reduciendo falsos positivos.

Tarea 2: Detección Zero-Shot de OOD (6 clases OOD)
El objetivo es predecir enfermedades no vistas (ej. Escoliosis, Infarto) sin usar ninguna etiqueta de entrenamiento para ellas.

• Enfoque: Se formula como un problema de emparejamiento visión-idioma.
• Modelo: Se utiliza WhyXrayCLIP, un modelo de lenguaje-vision especializado en radiografía (basado en OpenCLIP ViT-L/14 y fine-tuneado en pares imagen-informe de MIMIC-CXR).
• Mecanismo:
  • Se definen prompts de texto radiológico genéricos para cada una de las 6 clases OOD.
  • Se calcula la similitud coseno entre la incrustación de la imagen y los promedios de las incrustaciones de texto de los prompts.
  • Se utiliza una función sigmoide escalada para mapear la similitud a una probabilidad en [0, 1].
  • No se requiere entrenamiento supervisado con las etiquetas OOD; el modelo se basa en la alineación semántica aprendida previamente.

3. Contribuciones Clave

1. Estrategia de Aprendizaje Multi-etiqueta Equilibrada: Un enfoque que integra re-pesado de pérdida, muestreo inteligente y atención espacial para manejar eficazmente la desbalance extrema en datos médicos.
2. Método Zero-Shot Robusto: Una solución basada en modelos de lenguaje-vision (CLIP) adaptados al dominio médico, capaz de generalizar a conceptos clínicos no vistos sin necesidad de datos de entrenamiento específicos.
3. Rendimiento de Liderazgo: El método propuesto logró el primer lugar en el leaderboard público de la fase de desarrollo del desafío CXR-LT 2026 en ambas tareas.

4. Resultados

Los resultados se reportaron en la fase de desarrollo pública utilizando la métrica principal mAP promediado macro (que da igual peso a todas las clases, favoreciendo el rendimiento en clases raras).

• Tarea 1 (Clasificación Multi-etiqueta):

  • mAP: 0.583 (1º lugar). Superó al segundo clasificado (0.535) por un margen de 0.048.
  • mAUC: 0.919.
  • mF1: 0.376 (el mejor de la lista).
  • Nota: El mECE fue alto (0.928), indicando que la calibración de probabilidades aún tiene margen de mejora.

• Tarea 2 (Reconocimiento Zero-Shot OOD):

  • mAP: 0.467 (1º lugar). Superó al segundo clasificado (0.365) por un margen significativo de 0.102.
  • mAUC: 0.779 (mejor rendimiento).
  • mECE: 0.516 (segundo más bajo entre los top 10).

5. Significado e Impacto

Este trabajo demuestra que es posible superar las limitaciones de la supervisión imperfecta en radiología mediante una combinación de técnicas de aprendizaje profundo avanzadas y modelos multimodales.

• Viabilidad Clínica: Al mejorar la detección de enfermedades raras (cola larga) y permitir la identificación de hallazgos no vistos (zero-shot), el sistema se acerca más a la realidad clínica donde los datos no son perfectos ni exhaustivos.
• Generalización: El uso de PadChest (diverso en población y protocolos) en lugar de solo MIMIC-CXR, junto con técnicas robustas, sugiere que el enfoque es más generalizable a diferentes entornos hospitalarios.
• Reproducibilidad: El código y los modelos pre-entrenados están disponibles públicamente, fomentando la investigación futura en tareas de visión y lenguaje en radiología (como generación de informes o VQA).

Limitaciones: La evaluación se basó en el conjunto de datos público de desarrollo; el rendimiento en el conjunto de prueba oculto (final) aún debe verificarse, y la calibración de las probabilidades requiere optimización adicional.