💻 computer science

Recurrent Contrastive Learning for Imbalanced Medical Image Classification

Este artículo propone el Aprendizaje Contrastivo Recurrente (RCL), un nuevo marco que utiliza una Cola de Memoria Temporal para generar Anclajes Temporales y expandir progresivamente la región de soporte latente de las clases de cola, mitigando así el desequilibrio de clases y mejorando los límites de decisión en la clasificación de imágenes médicas.

Autores originales: Zhiyuan Zhu, Xinling Meng, Junxuan Yu, Jiongquan Chen, Qiongying Ni, Tuhang Shao, Yuhao Huang, Luping Zhou, Ruiyang Huang, Yuxue Wang, Rongliang Zhang, Xue Wang, Tianhong Tang, Likun Wang, Junbo Chen

Publicado 2026-08-05

📖 8 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Zhiyuan Zhu, Xinling Meng, Junxuan Yu, Jiongquan Chen, Qiongying Ni, Tuhang Shao, Yuhao Huang, Luping Zhou, Ruiyang Huang, Yuxue Wang, Rongliang Zhang, Xue Wang, Tianhong Tang, Likun Wang, Junbo Chen, Yong Jiang, Yongping Lu, Xin Yang

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a un robot a reconocer diferentes tipos de animales en un zoológico. Si el zoológico tiene 1,000 leones pero solo 5 tigres, el robot se volverá muy bueno detectando leones y es probable que olvide cómo se ve un tigre o, peor aún, que piense que cada animal parecido a un gato es un león. Este es un problema común en el mundo de la IA médica llamado "desequilibrio de clases". Los médicos tienen montones de datos para enfermedades comunes, pero muy pocos para las raras o graves. Cuando los modelos de IA se entrenan con estos datos desiguales, se sesgan hacia lo común y pasan por alto los casos raros y críticos. Para solucionar esto, los científicos suelen intentar mostrarle al robot más imágenes de los animales raros (remuestreo) o decirle que preste especial atención a ellos durante las lecciones (reponderación). Pero hay un inconveniente: estos métodos a menudo solo hacen que el robot mire con más ahínco las pocas fotos de los animales raros que tiene, sin darle realmente a los animales raros suficiente "espacio" en el cerebro del robot para que destaquen claramente de los comunes.

Aquí es donde entra una nueva investigación de Zhiyuan Zhu y su equipo con una idea ingeniosa llamada Aprendizaje Contrastivo Recurrente (RCL). En lugar de simplemente barajar el mazo de cartas o gritar más fuerte a los que son raros, decidieron construir un "búfer de memoria" que ayuda a las enfermedades raras a expandir su territorio en la mente de la IA. Piensa en ello como una pista de baile abarrotada donde los chicos populares (enfermedades comunes) están ocupando todo el espacio. Los chicos raros (enfermedades raras) están apretados en un rincón diminuto. La solución de los investigadores es traer "bailarines fantasmas" de sesiones de práctica anteriores —versiones antiguas de los movimientos de los chicos raros— para situarse alrededor de ellos y crear una burbuja protectora. Esta burbuja empuja a los chicos populares lejos, dándole a las enfermedades raras el espacio que necesitan para ser vistas y reconocidas correctamente. El equipo probó este método en tres conjuntos de datos médicos diferentes, incluyendo escaneos de ultrasonido de la carótida, imágenes de retinopatía diabética y radiografías de rodilla, y descubrieron que su método ayudaba consistentemente a la IA a detectar mejor las condiciones raras que las técnicas anteriores.

El Problema: El Efecto del "Chico Popular" en la IA Médica

En el mundo de las imágenes médicas, no todas las enfermedades son iguales. Algunas, como un resfriado común o una erupción cutánea leve, ocurren todo el tiempo. Otras, como trastornos genéticos raros o etapas específicas de cáncer, son mucho menos frecuentes. Cuando entrenamos una IA para diagnosticar estas condiciones, es como entrenar a un estudiante que solo llega a ver 1,000 ejemplos de un resfriado común pero solo 5 ejemplos de una enfermedad rara. Naturalmente, el estudiante (la IA) se convierte en un experto en el resfriado común pero se confunde cuando ve la enfermedad rara. Incluso podría confundir la enfermedad rara con la común porque, en la "mente" de la IA, la enfermedad rara no tiene suficiente espacio para existir por sí misma.

El artículo señala que las soluciones existentes intentan solucionar esto ya sea mostrando a la IA más ejemplos de la enfermedad rara (remuestreo) o diciéndole a la IA que "preste más atención" a esos pocos ejemplos (reponderación). Si bien estos métodos ayudan un poco, no resuelven el problema de raíz: las enfermedades raras siguen estando comprimidas en un rincón diminuto y abarrotado del espacio de características de la IA. Son tan compactas que las enfermedades comunes pueden "invadir" fácilmente su territorio, lo que provoca errores.

La Solución: Bailarines Fantasmas y Burbujas Protectoras

Los autores proponen una nueva estrategia llamada Aprendizaje Contrastivo Recurrente (RCL). Para entender cómo funciona, imagina el proceso de aprendizaje de la IA como una serie de sesiones de entrenamiento a lo largo del tiempo.

1. La Memoria de Viaje en el Tiempo (Cola de Memoria Temporal)
Normalablemente, una IA solo recuerda los ejemplos que ve en el lote actual de entrenamiento. El RCL introduce una "Máquina del Tiempo" especial llamada Cola de Memoria Temporal (TMQ). Esta cola no solo guarda las imágenes actuales; guarda los "estados de características" (la comprensión de la IA de las imágenes) de sesiones de entrenamiento anteriores. Es como llevar un diario de lo que la IA aprendió la semana pasada, el mes pasado, etc. Esto permite que la IA mire hacia atrás y vea cómo entendía las enfermedades raras en el pasado, incluso si no ha visto muchos ejemplos nuevos de ellas recientemente.

2. Los Bailarines Fantasmas (Anclajes Temporales)
Aquí está el truco de magia. Cuando la IA intenta aprender sobre una enfermedad rara (una "clase de cola"), consulta su diario de viaje en el tiempo. Selecciona los "bailarines fantasmas": representaciones de características antiguas de esa enfermedad rara de sesiones previas. Estos fantasmas se utilizan luego para crear un Anclaje Temporal (TAR).

Imagina que la enfermedad rara es una pequeña isla en un vasto océano. Las enfermedades comunes son continentes enormes cercanos. Sin ayuda, las olas del océano (las características de las enfermedades comunes) bañan la isla, haciendo difícil distinguirla. Los TAR actúan como una serie de boyas o una barrera protectora colocada alrededor de la isla. Estas boyas están hechas de las versiones "fantasma" de la isla del pasado. Al colocar estas boyas alrededor de la enfermedad rara, la IA efectivamente expande el territorio de la isla. Crea una "zona de amortiguación" que aleja a las enfermedades comunes, asegurando que la enfermedad rara tenga su propio espacio distintivo.

3. El Bucle Recurrente
El proceso es "recurrente", lo que significa que ocurre una y otra vez. A medida que la IA entrena, sigue actualizando su cola de memoria con nueva información, pero también mantiene los anclajes antiguos. Esto crea un campo creciente y en expansión alrededor de las enfermedades raras, haciéndolas más robustas y fáciles de separar de las comunes.

Lo que Encontraron: Una Imagen Más Clara

El equipo probó este método en tres conjuntos de datos médicos del mundo real:

Ultrasonido Carotídeo: Imágenes de vasos sanguíneos en el cuello para detectar placa (3,404 imágenes).
Retinopatía Diabética: Imágenes de ojos para verificar la pérdida de visión (3,662 imágenes).
Osteoartritis de Rodilla: Radiografías de rodillas para calificar la gravedad de la artritis (8,260 imágenes).

En los tres casos, el método RCL mostró mejoras consistentes sobre los mejores métodos existentes.

En el conjunto de datos de la carótida, el nuevo método alcanzó una Exactitud Balanceada del 87.10%, superando al mejor anterior.
En el conjunto de datos de la rodilla, mejoró la Exactitud Balanceada en un 9.09% en comparación con el uso del modelo de IA base sin los trucos especiales de memoria.
En el conjunto de datos del ojo, el método logró una puntuación de Kappa de Peso Cuadrático de 0.92, que es una puntuación muy alta que indica un excelente acuerdo con los expertos humanos.

Los investigadores también visualizaron lo que estaba sucediendo dentro del cerebro de la IA utilizando una técnica llamada t-SNE (que es como un mapa que muestra qué tan cerca o lejos están las cosas diferentes). Vieron que, sin su método, las enfermedades raras estaban comprimidas en puntos diminutos y abarrotados. Con RCL, las enfermedades raras se habían expandido en áreas más grandes y bien definidas con zonas de "amortiguación" claras entre ellas y las enfermedades comunes. Los "bailarines fantasmas" (anclajes) crearon con éxito un campo protector que evitó que las enfermedades comunes desplazaran a las raras.

Por Qué Esto Importa

Este artículo sugiere que no solo necesitamos más datos para las enfermedades raras; necesitamos formas más inteligentes de usar los datos que ya tenemos. Al usar la propia historia de la IA para construir un campo protector alrededor de las condiciones raras, podemos hacer que la IA médica sea más justa y precisa. Esto es crucial porque, en el mundo real, pasar por alto una enfermedad rara pero grave puede ser mortal. Los autores señalan que, si bien su método funciona bien, actualmente requiere cierta configuración manual de los ajustes (como cuántos "fantasmas" mantener en la memoria). El trabajo futuro buscará hacer que este proceso sea automático. Pero por ahora, este enfoque de "memoria de viaje en el tiempo" ofrece una nueva y prometedora forma de asegurar que los pacientes más raros reciban la atención que merecen de nuestros doctores de IA.

Resumen Técnico: Aprendizaje Contrastivo Recurrente para la Clasificación de Imágenes Médicas Desbalanceadas

Declaración del Problema

La clasificación de imágenes médicas se enfrenta frecuentemente a un desequilibrio severo de clases debido a las disparidades inherentes en la incidencia de enfermedades, donde las condiciones raras (clases cola o tail classes) tienen significativamente menos muestras que las condiciones comunes (clases cabeza o head classes). Los enfoques existentes, como el remuestreo de clases y el reponderado de pérdida (loss reweighting), operan principalmente dentro de la distribución de características observada. Si bien estos métodos ajustan cómo se ponderan o muestrean las características, no logran ampliar explícitamente la región de soporte latente de las clases cola. En consecuencia, las representaciones de las clases cola permanecen excesivamente compactas y son fácilmente invadidas por las clases cabeza en el espacio de características, lo que conduce a fronteras de decisión sesgadas y una reducción en la separabilidad interclase. Esto es particularmente crítico ya que las clases cola suelen corresponder a enfermedades graves o raras donde la identificación precisa es vital para la toma de decisiones clínicas.

Metodología: Aprendizaje Contrastivo Recurrente (RCL)

Los autores proponen el Aprendizaje Contrastivo Recurrente (RCL), un marco que aborda el desequilibrio de clases desde una perspectiva de "expansión de campo". En lugar de simplemente reponderar los datos existentes, el RCL expande activamente la región de soporte de las clases cola en el espacio latente. La metodología consta de tres componentes principales:

1. Backbone y Extracción de Características

El marco utiliza DINOv3 con adaptadores LoRA (Low-Rank Adaptation) como columna vertebral (backbones).

Arquitectura: Una imagen de entrada se procesa para extraer un token de clase ( $f_i$ ) de 1280 dimensiones.
Cabezales: Un cabezal clasificador ( $G(\cdot)$ ) genera predicciones para supervisión de entropía cruzada, mientras que un cabezal de proyección ( $P(\cdot)$ ) mapea las características a un embedding normalizado de 256 dimensiones ( $z_i$ ) para el aprendizaje contrastivo.
Estrategia de Entrenamiento: El backbone DINOv3 permanece congelado, y solo se optimizan los adaptadores LoRA y los cabezales, asegurando una adaptación eficiente con pocos parámetros entrenables.

2. Cola de Memoria Temporal (TMQ)

Para superar las limitaciones del aprendizaje contrastivo basado en lotes (batches) o colas FIFO, el RCL introduce una Cola de Memoria Temporal (TMQ).

Función: La TMQ preserva características a nivel de corpus a través de múltiples épocas de entrenamiento, proporcionando referencias globales diversificadas.
Mecanismo: En cada época $m$ , el embedding de proyección $z_i^{(m)}$ actualiza la característica almacenada $q_i^{(m)}$ en el banco de memoria $Q^{(m)}$ mediante un Promedio Móvil Exponencial (EMA):
$q_i^{(m)} = (1 - \lambda)q_i^{(m-1)} + \lambda z_i^{(m)}$
Almacenamiento: Los bancos actualizados se encolan a lo largo del tiempo, formando una secuencia $TMQ = \{Q^{(m)}\}_{m=0}^M$ . Esto permite al modelo acceder a embeddings globales históricos, asegurando que los pares positivos y negativos para el aprendizaje contrastivo sean temporalmente diversos y estén alineados con el espacio de representación evolutivo.

3. Anclas Temporales (TARs) y Pérdida Contrastiva Recurrente

La innovación central es la construcción de Anclas Temporales (TARs) para formar un "campo de anclas" alrededor de las clases cola.

Construcción de Anclas: Para las clases cola, el modelo recupera características de los bancos de memoria históricos (épocas $m-st$). Aplica agrupamiento (clustering) K-means a las características intraclase y selecciona las $k_t$ características inferiores (aquellas más alejadas del centro del clúster). Estas características seleccionadas se perturban con ruido Gaussiano para crear el conjunto de anclas $A$ .
Expansión de Campo: Estas anclas se reutilizan recurrentemente para ocupar la región circundante de las características de la clase cola. Esto crea un margen de amortiguación que suprime la invasión de las clases cabeza.
Función de Pérdida: El marco emplea una pérdida contrastiva recurrente ( $L_{RCL}$ ) que incorpora tanto las características del lote actual como las anclas construidas:
$L_{RCL} = -\log \frac{\sum_{q \in Q_+^{(m)}} \exp(\text{sim}(z_i^{(m)}, q)/\beta) + \sum_{a \in A_+} \exp(\text{sim}(z_i^{(m)}, a)/\beta)}{\sum_{q \in Q^{(m)}} \exp(\text{sim}(z_i^{(m)}, q)/\beta) + \sum_{a \in A} \exp(\text{sim}(z_i^{(m)}, a)/\beta)}$
La pérdida final es una combinación de entropía cruzada y la pérdida contrastiva recurrente: $L = L_{ce} + \alpha L_{RCL}$ .

Contribuciones Clave

El artículo describe tres contribuciones primarias:

Marco RCL: Un nuevo marco de aprendizaje desbalanceado que amplía las regiones de soporte de las clases cola mediante la inyección de anclas temporales construidas recurrentemente en el aprendizaje contrastivo, mitigando eficazmente la invasión de las clases cabeza.
Cola de Memoria Temporal (TMQ): Un mecanismo para preservar embeddings históricos a nivel de corpus a través de las fases de entrenamiento, los cuales se utilizan para construir las TARs para la expansión del campo de las clases cola.
Validación Empírica: Experimentos extensos en tres conjuntos de datos médicos desbalanceados (un conjunto de datos carotídeo privado multicéntrico, APTOS 2019 y KneeOA) demostrando mejoras consistentes sobre bases sólidas (baselines).

Resultados Experimentales

El método fue evaluado en tres conjuntos de datos utilizando Exactitud Balanceada (Bacc), puntuación F1, Exactitud y Kappa Ponderado Cuadrático (QWK).

Desempeño: El RCL logró la mejor Exactitud Balanceada en los tres conjuntos de datos.
- Carótida: 87.10% Bacc (frente al 79.75% de DINOv3 vainilla).
- APTOS 2019: 69.01% Bacc y 0.922 QWK (superando al método de ensamble de CNN mejor posicionado del desafío original).
- KneeOA: 70.19% Bacc (frente al 61.10% de DINOv3 vainilla).
Agnosticismo del Backbone: Al utilizar ResNet50 en lugar de DINOv3, el RCL aún produjo mejoras sustanciales, superando incluso el desempeño del ajuste fino (fine-tuning) de DINOv3 en los conjuntos de datos de Carótida y KneeOA.
Análisis Cualitativo: Las visualizaciones t-SNE confirmaron que el RCL crea una distribución de características más equilibrada. Específicamente, el "campo de anclas" expandió la frontera de la clase cola y ocupó regiones intermedias entre las clases cabeza y cola, formando un búfer efectivo que aleja los centros de las clases cola de las distribuciones de las clases cabeza.

Significado y Reivindicaciones

El artículo afirma que el RCL ofrece un cambio significativo al abordar el desequilibrio de clases, yendo más allá del simple reponderado o remuestreo. Al interpretar el aprendizaje de representaciones desde una perspectiva de expansión de campo, el método amplía explícitamente la región de soporte latente de las clases cola. Este enfoque evita que las representaciones de las clases cola sean "invadidas" por las dominantes clases cabeza, mejorando así la separación interclase y la equidad en las fronteras de decisión.

Los autores señalan que, si bien el marco es efectivo, actualmente depende del ajuste manual de hiperparámetros (por ejemplo, pasos de muestra y ratios de selección de anclas). Identifican el desarrollo de una selección de anclas adaptativa como una dirección para trabajos futuros para abordar esta limitación. El código se pone a disposición para facilitar investigaciones adicionales en este dominio.