DermaFlux: Synthetic Skin Lesion Generation with Rectified Flows for Enhanced Image Classification

Resumen Técnico: DermaFlux

1. El Problema

A pesar de los avances en el modelado generativo profundo, los sistemas de clasificación de lesiones cutáneas enfrentan limitaciones críticas debido a la escasez de grandes conjuntos de datos clínicos, diversos y bien anotados. Esto genera dos problemas principales:

• Desequilibrio de clases: Hay una disparidad significativa entre lesiones benignas y malignas en los datos disponibles.
• Baja generalización: La falta de variabilidad en tonos de piel, morfología de lesiones y subtipos raros de cáncer reduce el rendimiento de los clasificadores en entornos del mundo real.
• Limitaciones de los métodos actuales: Los generadores basados en difusión (como Stable Diffusion) dependen de procesos estocásticos de eliminación de ruido y codificadores de texto (CLIP) con capacidad de contexto limitada, lo que dificulta el control preciso sobre atributos clínicos específicos (asimetría, irregularidad del borde, variación de color) y la alineación semántica entre el texto y la imagen generada.

2. Metodología

El autores proponen DermaFlux, un marco de generación de imágenes basado en Flujos Rectificados (Rectified Flows) y condicionado por texto, diseñado específicamente para la síntesis de lesiones dermatológicas.

• Arquitectura Base (Flux.1): DermaFlux se basa en el modelo Flux.1, que utiliza flujos rectificados en lugar de difusión estocástica. Los flujos rectificados aprenden un mapeo de transporte determinista entre la distribución de ruido y la distribución de datos, lo que mejora la eficiencia de muestreo. El modelo utiliza un codificador de texto dual (CLIP y T5-XXL) para una mejor alineación texto-imagen.
• Adaptación Eficiente (LoRA): Para especializar el modelo en dermatología sin reentrenar todo el modelo (12B parámetros), se aplica Low-Rank Adaptation (LoRA). Solo se ajustan las capas de atención del transformador, añadiendo aproximadamente 612M de parámetros entrenables, mientras se mantiene la capacidad generativa preentrenada.
• Creación del Dataset (Curación de Datos):
  • Recopilación: Se agregaron datos de múltiples fuentes públicas (ISIC 2019-2024, Derm12345, PAD20, Kaggle, etc.), resultando en un corpus de ~508,000 imágenes.
  • Generación de Texto Estructurado: Dado que los metadatos originales carecían de descripciones morfológicas detalladas, se utilizó el modelo de lenguaje Llama 3.2 para generar descripciones sintéticas. Estas descripciones siguen estrictamente los criterios dermatológicos ABCDE (Asimetría, Borde irregular, Color, Diámetro, Evolución), enfocándose específicamente en asimetría, irregularidad del borde y variación de color.
  • Validación: Se verificó la plausibilidad médica de las descripciones generadas con expertos clínicos.
• Entrenamiento: El modelo se entrenó durante 5 épocas en tres resoluciones (128x128, 256x256, 512x512) utilizando muestreo ODE basado en flujos.

3. Contribuciones Clave

1. Dataset de Gran Escala Estructurado: Construcción de un conjunto de datos de ~500k pares imagen-texto con descripciones sintéticas de nivel de atributo que codifican explícitamente características clínicas críticas.
2. Marco DermaFlux: Desarrollo de un generador basado en flujos rectificados que ofrece una alternativa determinista a los métodos de difusión, logrando una mayor consistencia semántica y control sobre los atributos de la lesión.
3. Validación Experimental Superior: Demostración de que los clasificadores entrenados con datos sintéticos de DermaFlux superan significativamente a los entrenados con datos reales limitados y a los generados por métodos de difusión tradicionales.

4. Resultados

Los experimentos se realizaron utilizando clasificadores ResNeXt y Vision Transformer (ViT) preentrenados en ImageNet.

• Comparación con Difusión (Derm-T2IM):
  • DermaFlux superó consistentemente a los generadores basados en difusión.
  • En escenarios de entrenamiento solo con datos sintéticos, ViT mejoró un 9.03% en precisión al usar DermaFlux en comparación con Derm-T2IM.
  • En escenarios de mezcla (datos reales + sintéticos), la mejora fue del 3.47% para ViT.
• Aumento de Datos (Data Augmentation):
  • La incorporación de datos sintéticos mejoró la generalización, especialmente en regímenes de pocos datos.
  • Al combinar 2,500 imágenes reales con 4,375 imágenes sintéticas de DermaFlux, el modelo ViT alcanzó una precisión del 78.04% y un AUC de 0.859.
• Estado del Arte (SOTA):
  • El modelo DermaFlux-ViT superó a los modelos dermatológicos más avanzados (BiomedCLIP, DermLIP, MAKE) en 8 puntos porcentuales de precisión.
  • La curva ROC mostró una capacidad superior para separar lesiones malignas de benignas, logrando una alta sensibilidad con una especificidad mejorada, lo cual es crucial clínicamente para reducir falsos negativos y derivaciones innecesarias.

5. Significado e Impacto

El trabajo de DermaFlux representa un avance significativo en la intersección entre la inteligencia artificial generativa y la dermatología clínica:

• Mitigación de la Escasez de Datos: Demuestra que es posible compensar la falta de grandes conjuntos de datos anotados manualmente mediante la síntesis de datos clínicamente estructurados y de alta calidad.
• Control Clínico Preciso: A diferencia de los generadores anteriores, DermaFlux permite un control determinista sobre atributos médicos específicos, lo que es vital para la formación de modelos robustos.
• Eficiencia y Rendimiento: Al utilizar flujos rectificados y LoRA, el método es computacionalmente eficiente y logra un rendimiento superior con menos datos de entrenamiento reales, ofreciendo una solución escalable para mejorar el diagnóstico temprano del cáncer de piel y reducir la carga sobre los sistemas de salud.

En conclusión, DermaFlux no solo genera imágenes realistas, sino que genera datos de entrenamiento útiles que mejoran directamente la capacidad de los sistemas de IA para diagnosticar lesiones cutáneas, superando las limitaciones de los enfoques basados en difusión tradicionales.