Resumen Técnico: Aprendizaje Contrastivo bajo Auto-supervisión Temporal Ruidosa para Videos de Colonoscopia

Enunciado del Problema

El aprendizaje robusto de representaciones de tracklets de pólipos (secuencias de detecciones consecutivas del mismo pólipo) es esencial para diversas aplicaciones de colonoscopia asistida por IA, incluyendo la caracterización de pólipos, la generación de informes automatizados y la recuperación de lesiones. Si bien el aprendizaje contrastivo supervisado ha demostrado ser efectivo, depende de anotaciones de "entidad pólipo" —etiquetas que vinculan las detecciones con el mismo pólipo subyacente a lo largo de un video—. Generar estas etiquetas es costoso, consume mucho tiempo y requiere experiencia clínica especializada, lo que limita la escalabilidad de los enfoques supervisados.

Los métodos de auto-supervisión existentes intentan eludir esto dividiendo los tracklets en segmentos disjuntos o agrupándolos. Sin embargo, estos enfoques a menudo fallan en capturar la consistencia semántica completa de una entidad pólipo a lo largo de un video. Por el contrario, los métodos supervisados recientes que utilizan anotaciones de entidades explícitas logran un rendimiento superior, lo que destaca una brecha significativa entre el aprendizaje supervisado y el auto-supervisado. El desafío consiste en reducir esta brecha sin depender de anotaciones de entidades manuales, a pesar del entorno visual altamente variable de la colonoscopia (cambios en el punto de vista, escala, iluminación, desenfoque por movimiento y oclusión).

Metodología

El marco propuesto aprovecha el flujo de trabajo secuencial inherente a los procedimientos de colonoscopia para derivar asociaciones auto-supervisadas a partir de la estructura temporal. La suposición central es que las observaciones capturadas cerca en el tiempo es probable que representen la misma entidad pólipo.

1. Estructura Temporal como Auto-supervisión

El método construye un conjunto de datos de tracklets $\{x_i\}$ a partir de detecciones de pólipos de verdad fundamental. Para cada tracklet ancla $i$ dentro de un video $v_i$, se construye un "bolsa" de tracklets positivos candidatos a partir de otros tracklets en el mismo video ($v_j = v_i$).

• Clasificación: Los tracklets se ordenan según su distancia temporal respecto al ancla.
• Construcción de la Bolsa: En lugar de seleccionar solo los tracklets temporalmente más cercanos (lo que produce vistas redundantes), el método muestrea $K$ rangos distintos de una distribución exponencial $P_\tau(r) \propto \exp(-r/\tau)$. El parámetro de temperatura $\tau$ controla la diversidad de la bolsa: un $\tau$ bajo selecciona vecinos cercanos (alta similitud, bajo ruido), mientras que un $\tau$ alto selecciona vecinos distantes (alta diversidad, mayor riesgo de asociaciones incorrectas).
• Aprendizaje Curricular: Para equilibrar la compensación entre la diversidad de vistas y la corrección de la asociación, se introduce una variable curricular $c \in [0, 1]$. La temperatura $\tau$ se incrementa gradualmente desde un valor mínimo hasta un valor máximo durante el entrenamiento utilizando un programa cosenoidal. Esto permite que el modelo comience con asociaciones seguras y altamente similares y aprenda progresivamente de asociaciones temporales más diversas y potencialmente más ruidosas.

2. Pérdida Contrastiva Consciente del Ruido

Dado que la proximidad temporal no garantiza que dos tracklets pertenezcan al mismo pólipo (por ejemplo, dos pólipos diferentes que aparecen en rápida sucesión), las "bolsas" resultantes pueden contener muestras "impuras" (tracklets de diferentes pólipos). Tratar todas las muestras en una bolsa como positivas puede degradar el aprendizaje de representaciones.

Los autores proponen una pérdida contrastiva consciente del ruido que relaja la restricción contrastiva estándar. En lugar de exigir que todas las muestras positivas en una bolsa sean similares al ancla, la pérdida impone que al menos una tracklet en la bolsa sea más similar al ancla que cualquier tracklet en la bolsa lo sea con cualquier otro ancla.

• Formulación Matemática: La función de pérdida utiliza una aproximación log-sum-exp del operador máximo. Maximiza la similitud entre el ancla y la positiva mejor coincidente en la bolsa, mientras minimiza la similitud entre el ancla y las negativas de otros anclas.
• Efecto: Esta formulación permite que el modelo "ignore" efectivamente las asociaciones temporales ruidosas (incorrectas) dentro de una bolsa, evitando que degraden el espacio de incrustación aprendido.

3. Arquitectura

El marco utiliza un codificador ligero que consta de una ResNet-50 para la extracción de incrustaciones de cuadros, seguida de una pila de tres capas de codificador transformer para agregar representaciones globales de tracklets. La pérdida puede aplicarse a la incrustación final del tracklet, a las incrustaciones por cuadro, o a ambas.

Contribuciones Clave

1. Marco de Auto-supervisión: Un enfoque novedoso que explota el flujo de trabajo secuencial de la colonoscopia para construir señales de auto-supervisión a partir de la estructura temporal, eliminando la necesidad de anotaciones manuales de entidades de pólipos.
2. Pérdida Contrastiva Consciente del Ruido: Una función de pérdida diseñada para mitigar el impacto de las asociaciones temporales ruidosas asegurando que solo las muestras positivas más consistentes dentro de una bolsa impulsen el proceso de aprendizaje.
3. Evaluación Exhaustiva: Una evaluación extensa en cuatro conjuntos de datos públicos (REAL-Colon, SUN, PolypSize, PolypsSet) en múltiples tareas posteriores, demostrando un rendimiento que iguala o supera a los modelos fundacionales recientes.

Resultados

El método fue entrenado solo con 27 videos (85 pólipos) del conjunto de datos REAL-Colon y evaluado en cuatro tareas posteriores:

• Recuperación de Pólipos: Medida por la Precisión Media (mAP) y la Tasa de Aciertos (Hit Rate).
• Reidentificación (ReID): Medida por AUROC y AUPR.
• Estimación de Tamaño: Clasificación binaria (diminuto vs. no diminuto) mediante sondeo no lineal.
• Clasificación Histológica: Clasificación binaria (adenoma vs. no adenoma) mediante sondeo no lineal.

Aspectos Destacados del Rendimiento:

• vs. Líneas Base de Auto-supervisión: El método propuesto superó a los enfoques de auto-supervisión anteriores (por ejemplo, TPC, MVE, SFE) con márgenes significativos, incluyendo una mejora relativa del 23,69% en la mAP de recuperación y una mejora del 24,4% en la precisión histológica.
• vs. Líneas Base Totalmente Supervisadas: El método logró consistentemente un rendimiento superior o comparable a las líneas base totalmente supervisadas (que dependen de costosas anotaciones de entidades). Por ejemplo, mejoró el AUPR en un 18,56% sobre la mejor línea base supervisada en ReID.
• vs. Modelos Fundacionales: El codificador ligero (25,6 millones de parámetros) entrenado con 27 videos igualó o superó a grandes modelos fundacionales de propósito general (por ejemplo, DinoV2-giant con 1136 millones de parámetros) y a modelos fundacionales específicos de endoscopia en todas las tareas.
• Estudios de Ablación: El estudio confirmó que tanto el muestreo basado en rangos exponenciales como la estrategia de aprendizaje curricular contribuyen a las ganancias de rendimiento. Aplicar la pérdida tanto a las incrustaciones de cuadros como a las de tracklets produjo los mejores resultados generales.

Significado y Afirmaciones

El artículo afirma que este trabajo permite aprendizaje de representaciones escalable en colonoscopia reduciendo significativamente la dependencia de anotaciones manuales mientras mantiene un alto rendimiento en aplicaciones clínicas. Al aprovechar la estructura procedimental de los videos de colonoscopia e introducir un mecanismo para manejar el ruido inherente en la auto-supervisión temporal, los autores demuestran que se pueden aprender representaciones robustas de tracklets de pólipos de manera eficiente. La capacidad de igualar o superar el rendimiento de modelos fundacionales masivos utilizando una arquitectura ligera entrenada en un conjunto de datos pequeño sugiere un camino práctico hacia la implementación de herramientas asistidas por IA en entornos clínicos donde los recursos de anotación de datos son limitados.