Resumen Técnico: DUET – Un Dúo de Expertos en Destilación de Diversidad–Calidad para la Generación de Vídeo en Dos Pasos

1. Planteamiento del Problema

Los avances recientes en los modelos de difusión han permitido la generación de vídeo de alta calidad, pero su dependencia del muestreo iterativo incurre en costes computacionales prohibitivos, lo que dificulta su despliegue práctico. La destilación de pocos pasos aborda esto comprimiendo las trayectorias de generación en un pequeño número de evaluaciones de red (NFEs), típicamente dos. Sin embargo, los paradigmas de destilación existentes enfrentan un compromiso fundamental entre calidad y diversidad:

• Destilación a nivel de trayectoria (p. ej., sCM): Preserva la diversidad de muestras y el diseño estructural del profesor, pero suele producir salidas conservadoras y borrosas debido a su naturaleza de "búsqueda de la media" (mean-seeking).
• Destilación a nivel de distribución (p. ej., DMD): Produce detalles nítidos y de alta fidelidad al igualar la distribución del profesor, pero sufre de un severo colapso de la diversidad (comportamiento de búsqueda de moda o mode-seeking), concentrando la masa de probabilidad en menos modos.

Los intentos comunes de resolver esto combinando ambos objetivos en una única función de pérdida (p. ej., rCM) suelen resultar en un compromiso en lugar de una solución real, introduciendo dificultades de optimización debido a gradientes conflictivos y no logrando heredar plenamente las fortalezas de ninguno de los dos paradigmas.

2. Metodología

Los autores proponen DUET (Diversity–qUality Expert Tandem), un marco que reconcilia estos paradigmas mediante la especialización de expertos por nivel de ruido en lugar de la combinación a nivel de pérdida.

Arquitectura Central: Dúo de Expertos por Nivel de Ruido

DUET asigna roles distintos a dos expertos entrenados de forma independiente basándose en el nivel de ruido del esquema de muestreo:

1. Intervalo de Ruido Alto ($t \in [1, \tau]$): Asignado a un experto sCM. Esta etapa determina variables gruesas como la identidad del objeto, el diseño, la composición y los patrones de movimiento. El experto sCM se entrena con su objetivo de consistencia nativo para asegurar una amplia cobertura del espacio de muestra y diversidad estructural.
2. Intervalo de Ruido Bajo ($t \in [\tau, 0]$): Asignado a un experto DMD. Esta etapa refina los detalles visuales, las texturas y la apariencia. El experto DMD se entrena con su objetivo nativo de igualación de distribución para asegurar alta fidelidad y nitidez.

Proceso de Inferencia:
Los dos expertos operan de manera escalonada dentro de un único proceso de generación de dos pasos:

1. El experto sCM predice un punto final limpio a partir del ruido inicial ($x_1$).
2. Esta predicción se vuelve a añadir ruido al tiempo de cambio $\tau$ utilizando un operador de re-ruido (re-noising).
3. El experto DMD toma el latente re-ruido en $\tau$ y realiza el paso final para generar el latente de vídeo limpio ($\hat{x}_0$).
4. El tiempo de cambio $\tau$ se determina analizando la curvatura de la trayectoria de la ODE de ajuste de flujo (flow-matching) del profesor; empíricamente, se elige $\tau = 0.8$ como el punto de transición donde la trayectoria pasa de una formación estructural rápida a un refinamiento de detalles lento.

DUET+: Adaptación Guiada por RL

Para abordar los cuellos de botella restantes —específicamente la brecha de distribución entre la salida del experto sCM y la distribución de entrenamiento del experto DMD, así como los límites de capacidad del experto sCM— los autores introducen DUET+. Esto implica una estrategia de adaptación consciente del rol:

• Adaptación del Experto sCM: El experto sCM se ajusta utilizando GRPO (Group Relative Policy Optimization). Esto dirige las salidas diversas del experto sCM hacia estructuras de mayor recompensa (basadas en puntuaciones de preferencia humana como HPSv3) mientras preserva su comportamiento de cobertura.
• Adaptación del Experto DMD: El experto DMD continúa el entrenamiento con su pérdida nativa, pero utiliza los latentes intermedios reales producidos por el experto sCM adaptado durante la inferencia, en lugar de la simulación inversa nativa del profesor. Esto alinea al experto DMD con la verdadera interfaz de relevo.

3. Contribuciones Clave

1. Diagnóstico a Nivel de Objetivo: El artículo identifica que el compromiso calidad–diversidad surge del conflicto intrínseco entre los objetivos de nivel de trayectoria y de nivel de distribución, los cuales inducen distintos mapeos de ruido a datos. Forzar a un único conjunto de parámetros para satisfacer ambos conduce a una dificultad de optimización.
2. Dúo de Expertos por Nivel de Ruido (DUET): Una arquitectura novedosa que desacopla los objetivos asignándolos a regímenes de ruido específicos. Esto evita conflictos de gradiente y el ajuste de pesos de pérdida, permitiendo al modelo lograr conjuntamente diversidad y calidad.
3. Adaptación Consciente del Rol (DUET+): Una adaptación ligera guiada por RL que explota la diversidad del experto sCM para la optimización de preferencias y repara la interfaz de relevo del experto DMD, mejorando aún más la calidad general sin sacrificar la diversidad.
4. Validación Empírica: Demostrar que en el régimen extremo de dos pasos, es posible aproximarse a la calidad de DMD manteniendo casi toda la diversidad estructural de sCM.

4. Resultados Experimentales

Los experimentos se realizaron utilizando el backbone Wan2.1-T2V-1.3B para la generación de texto a vídeo a una resolución de 832 $\times$ 480.

• Calidad vs. Diversidad:

  • sCM: Logra la mayor diversidad (promedio ViCLIP: 0.1865) pero menor calidad (promedio VBench: 81.51).
  • DMD: Logra alta calidad (promedio VBench: 84.38) pero baja diversidad (promedio ViCLIP: 0.0727).
  • rCM (Línea Base): Muestra un compromiso; incluso con ajuste, su diversidad sigue siendo significativamente inferior a la de sCM.
  • DUET: Logra una puntuación de calidad de 83.96 (cercana a DMD) mientras mantiene una puntuación de diversidad de 0.1512 (un incremento del 108.0% sobre DMD y reteniendo gran parte de la variedad estructural de sCM).
  • DUET+: Mejora aún más la calidad a 84.40 mientras preserva la ventaja de diversidad (ViCLIP: 0.1521).

• Análisis Cualitativo:

  • DUET preserva diseños y poses diversas (de sCM) mientras agudiza los detalles (de DMD).
  • En prompts de estilos específicos (p. ej., pixel art), DUET retiene estilos de baja probabilidad en los que DMD suele colapsar hacia modos más suaves y genéricos.
  • DUET+ produce fotogramas más limpios y coherentes con menos artefactos en comparación con el relevo base.

• Estudios de Ablación:

  • Tiempo de Cambio ($\tau$): Se encontró que $\tau=0.8$ es óptimo. Valores más bajos sobrecargan al experto sCM (resultados borrosos), mientras que valores más altos dejan al experto DMD con un espacio de refinamiento insuficiente.
  • Función de Recompensa: Se seleccionó HPSv3 como la recompensa para la adaptación de sCM, mostrando un rendimiento superior en consistencia y calidad estética en comparación con SFS-Nature o TA.
  • Inicialización: A diferencia de los métodos "init-then-DMD" (que inicializan DMD desde un generador de pocos pasos y luego entrenan), DUET+ mantiene roles de expertos distintos. "Init-then-DMD" colapsa rápidamente la diversidad heredada, mientras que DUET+ la preserva.

5. Significado y Reivindicaciones

El artículo sostiene que la especialización de expertos por nivel de ruido es un paradigma simple pero efectivo para reconciliar la diversidad y la calidad en la generación de vídeo de pocos pasos. Al desacoplar la optimización de la diversidad estructural y la fidelidad visual en expertos separados que operan en diferentes niveles de ruido, DUET evita el "compromiso" inherente a las combinaciones a nivel de pérdida.

Los autores enfatizan que sus resultados establecen un nuevo estándar para la generación de dos pasos, demostando que la alta calidad y la alta diversidad no son mutuamente excluyentes si el proceso de destilación está estructurado para aprovechar las fortalezas complementarias de diferentes objetivos. Aunque la evaluación actual está limitada al modelo Wan2.1-1.3B, los autores señalan que las propiedades subyacentes de sCM y DMD no son específicas del backbone, lo que sugiere potencial para escalar a modelos más grandes en trabajos futuros.