Resumen Técnico: Coincidencia de Distribución en Tiempo Continuo para Destilación de Difusión en Pocos Pasos

Enunciado del Problema

Los modelos de difusión y de coincidencia de flujo han revolucionado la generación de imágenes a partir de texto, pero sufren de un cuello de botella computacional severo debido a sus procesos de muestreo iterativos, que a menudo requieren decenas o cientos de evaluaciones de la red. Aunque han surgido paradigmas de destilación de difusión (por ejemplo, Destilación de Consistencia, Destilación de Coincidencia de Distribución) para acelerar este proceso, los métodos existentes de Destilación de Coincidencia de Distribución (DMD) enfrentan limitaciones estructurales. Específicamente, la DMD estándar depende de supervisión dispersa en pocos instantes de tiempo discretos predefinidos para mantener una alineación estricta entre los horarios de entrenamiento e inferencia. Esta formulación discreta restringida, combinada con la naturaleza de búsqueda de modos de la divergencia KL inversa, a menudo conduce a artefactos visuales, salidas sobre-suavizadas y una pérdida de detalles finos. En consecuencia, los métodos DMD actuales más avanzados requieren frecuentemente módulos auxiliares complejos, como Redes Generativas Adversarias (GAN) o modelos de recompensa, para restaurar la fidelidad visual.

Metodología: Coincidencia de Distribución en Tiempo Continuo (CDM)

Los autores proponen la Coincidencia de Distribución en Tiempo Continuo (CDM), un marco que traslada el paradigma de DMD del anclaje discreto a la optimización continua. El método consta de dos diseños principales en tiempo continuo:

1. Horario Continuo Dinámico

A diferencia de la DMD tradicional, que restringe la simulación hacia atrás a un conjunto fijo de anclajes discretos que coinciden con el horario de inferencia, CDM emplea un horario continuo dinámico.

• Mecanismo: En cada iteración de entrenamiento, la longitud de la simulación $N$ se muestrea aleatoriamente de una distribución uniforme $U\{1, N_{max}\}$. Los instantes de tiempo $t_1, \dots, t_N$ se generan como una secuencia continua estrictamente decreciente dentro de $(0, 1]$.
• Efecto: Esto desacopla la optimización del entrenamiento del horario de inferencia fijo. El modelo estudiante se entrena sobre todo el espacio de tiempo continuo en lugar de unos pocos puntos fijos, recibiendo señales de gradiente de un rango más amplio de trayectorias. El análisis teórico sugiere que esto incentiva al estudiante a aprender un campo de velocidad más suave a través del dominio continuo, en lugar de sobreajustarse a anclajes discretos dispersos.

2. Alineación Fuera de Trayectoria mediante Extrapolación Impulsada por Velocidad

Para abordar los errores de truncamiento numérico inherentes a la generación en pocos pasos (donde grandes pasos de integración causan que las trayectorias se desvíen de la variedad ideal), CDM introduce una nueva pérdida CDM ($L_{CDM}$).

• Mecanismo: En lugar de restringir la supervisión a latentes sobre la trayectoria, el método realiza una coincidencia activa fuera de la trayectoria. Toma un paso de Euler de primer orden a lo largo del campo de velocidad predicho por el estudiante para extrapolar un latente fuera de la trayectoria $x'_{t_i} = x_{t_i} + (t'_i - t_i)v_{t_i}$.
• Objetivo: La pérdida impone la coincidencia de distribución en estos puntos extrapolados. Al anclar el objetivo a la estimación local de datos limpios en el punto extrapolado, el método crea una restricción de autoconsistencia para el campo vectorial del estudiante. Esto penaliza efectivamente las predicciones de velocidad inválidas fuera de la trayectoria principal, mitigando la inconsistencia entre anclajes y permitiendo que el estudiante corrija automáticamente los errores de integración.

Objetivo de Entrenamiento

El objetivo completo de entrenamiento unifica tres componentes:
$$L = L_{CA} + L_{DM} + L_{CDM}$$

• $L_{CA}$ (Aumento CFG): Asegura la alineación texto-imagen.
• $L_{DM}$ (Coincidencia de Distribución): Alinea la distribución marginal del estudiante con la distribución libre de CFG del maestro.
• $L_{CDM}$ (Coincidencia en Tiempo Continuo): Regulariza el campo de velocidad a través del dominio de tiempo continuo mediante supervisión fuera de la trayectoria.

Contribuciones Clave

1. Insights Empíricos: Los autores revelan que anclar el entrenamiento a instantes de tiempo discretos fijos es innecesario y que la pérdida de Coincidencia de Distribución (DM) no es meramente un regularizador, sino el motor principal que alinea al estudiante con la distribución libre de CFG del maestro.
2. Marco CDM: La propuesta de un marco unificado que combina la programación continua dinámica con un objetivo de alineación fuera de la trayectoria impulsado por velocidad. Esto traslada la optimización al dominio de tiempo continuo sin depender de entrenamiento adversarial o modelos de recompensa externos.
3. Rendimiento de Vanguardia: Experimentos extensivos demuestran que CDM logra una fidelidad visual y adherencia semántica superiores en la generación en pocos pasos (4 NFE) a través de diferentes arquitecturas (SD3-Medium y Longcat-Image), superando a las líneas base existentes como DMD2, D-DMD y Hyper-SD.

Resultados Experimentales

El artículo evalúa CDM en SD3-Medium y Longcat-Image a una resolución de 1024×1024 con 4 Evaluaciones de Función de Red (NFE).

• Rendimiento Cuantitativo: En SD3-Medium, CDM logra las mejores puntuaciones en Estética (6.075), DPGBench (85.26), PickScore (21.95) y HPSv3 (9.561), superando a la sólida línea base D-DMD. Cabe destacar que el estudiante CDM de 4-NFE iguala o supera al maestro de 100-NFE en varias métricas (por ejemplo, DPGBench y HPSv3).
• Mejoras Cualitativas: Las comparaciones visuales muestran que CDM produce texturas más nítidas, detalles finos más ricos y una mejor adherencia a prompts complejos en comparación con las líneas base, que a menudo sufren de sobre-suavizado.
• Estudios de Ablación:
  • Eliminar $L_{CA}$ conduce al colapso estructural.
  • Eliminar $L_{DM}$ o $L_{CDM}$ individualmente degrada la adherencia al prompt o la fidelidad visual, respectivamente.
  • Volver a un horario de tiempo fijo o usar perturbación de ruido gaussiano en lugar de extrapolación impulsada por velocidad resulta en un rendimiento inferior, validando la necesidad de los diseños continuos y basados en velocidad.

Significado y Afirmaciones

El artículo afirma que CDM es el primer trabajo que traslada el marco de destilación DMD de horarios discretos a un espacio de optimización continuo. Su importancia radica en demostrar que se puede lograr una generación en pocos pasos de alta fidelidad sin depender de objetivos auxiliares complejos (como GAN o modelos de recompensa) que típicamente se requieren para corregir los artefactos de la destilación en tiempo discreto.

Al simular y corregir explícitamente las derivas de truncamiento de vuelta a la variedad de datos objetivo a través de supervisión continua, CDM establece nuevos resultados de vanguardia para la generación de imágenes en 4 pasos. Los autores posicionan este trabajo como un paso hacia una destilación de difusión más accesible, permitiendo una generación de alta calidad en hardware comercial al reducir los costos de inferencia en un orden de magnitud mientras se mantiene la calidad visual.