DiReCT: Disentangled Regularization of Contrastive Trajectories for Physics-Refined Video Generation

Resumen Técnico: DiReCT

1. El Problema: Entrelazamiento Semántico-Físico en la Generación de Video

Los generadores de video basados en Flow Matching (ajuste de flujo) han logrado producir salidas de alta fidelidad y coherencia temporal. Sin embargo, sufren de una falla sistemática: violan leyes físicas elementales (ej. objetos que atraviesan otros, aceleraciones incorrectas, falta de conservación de masa).

• Causa Raíz: El objetivo de entrenamiento estándar penaliza las desviaciones por cuadro sin distinguir entre dinámicas físicamente consistentes e imposibles.
• El Obstáculo de la Contraste Naive: Se ha propuesto el Contrastive Flow Matching (CFM) para separar trayectorias de velocidad de diferentes condiciones. No obstante, en la generación de video condicionada por texto, existe un entrelazamiento semántico-físico. Las descripciones en lenguaje natural vinculan el contenido de la escena (qué hay) con el comportamiento físico (cómo se mueve).
• Conflicto de Gradientes: Al usar muestreo negativo aleatorio (naive), las condiciones negativas suelen compartir una estructura de campo de velocidad significativa con la positiva (debido a la proximidad semántica). Esto provoca que el gradiente de contraste se oponga directamente al gradiente de ajuste de flujo, degradando el rendimiento en lugar de mejorarlo.

2. Metodología: DiReCT (Disentangled Regularization of Contrastive Trajectories)

DiReCT es un marco de post-entrenamiento ligero que resuelve este conflicto mediante un aprendizaje contrastivo multi-escala consciente del entrelazamiento. La metodología se basa en descomponer la señal contrastiva en dos componentes complementarios:

A. Aprendizaje Contrastivo Macro (MaNS - Macro-Contrastive Negative Sampling)

• Objetivo: Separación global de trayectorias sin interferencia.
• Mecanismo: El espacio de condiciones (prompts) se particiona en $K$ regiones semánticas coherentes (usando k-means sobre los embeddings de texto).
• Estrategia: Para un prompt positivo, las muestras negativas se extraen exclusivamente de particiones semánticas diferentes.
• Resultado: Esto garantiza que las condiciones negativas tengan campos de velocidad muy distintos (gran distancia $\delta$), evitando el conflicto de gradientes y estableciendo una estructura global clara.

B. Aprendizaje Contrastivo Micro (MiNS - Micro-Contrastive Hard Negatives)

• Objetivo: Distinción física de grano fino entre escenas semánticamente similares.
• Mecanismo: Se construyen "negativos duros" que comparten la semántica completa de la escena con el positivo, pero difieren en una sola dimensión física controlada.
• Ejecución: Un LLM (Qwen2.5-7B) perturba el prompt original modificando mínimamente una de cinco dimensiones físicas:
  1. Cinemática: Perfil de tiempo (rápido vs. lento).
  2. Fuerzas: Dirección o tipo de fuerza dominante.
  3. Material: Propiedades (viscosidad, elasticidad, fricción).
  4. Interacción: Respuesta al contacto (rebotar vs. pegarse).
  5. Magnitud: Intensidad escalar (goteo vs. torrente).
• Ventaja: Al mantener la semántica alta pero alterar la física, el modelo aprende a discriminar comportamientos físicos específicos sin perder la coherencia visual de la escena.

C. Regularización de Anclaje Distribucional

• Para evitar el "olvido catastrófico" de la calidad visual preentrenada, se añade un término de penalización (similar a KL en RLHF) que mantiene la divergencia del campo de velocidad del modelo actual cerca de la del modelo preentrenado congelado ($\theta_{ref}$).

Función de Pérdida Combinada:
La pérdida total integra el ajuste de flujo estándar, los términos macro y micro contrastivos (con pesos $\lambda_{rand}$ y $\lambda_{hard}$) y el anclaje distribucional ($\lambda_{anc}$).

3. Contribuciones Clave

1. Formalización del Conflicto de Gradientes: Identifican y demuestran matemáticamente que el muestreo negativo naive en CFM falla cuando las condiciones positivas y negativas comparten estructura de campo de velocidad, derivando una condición precisa de alineación para que el contraste sea beneficioso.
2. Marco DiReCT: Introducen un método de post-entrenamiento que no incrementa el tiempo de entrenamiento respecto al Supervised Fine-Tuning (SFT) estándar, descomponiendo el objetivo contrastivo en escalas macro (separación global) y micro (distinción física fina).
3. Generación de Negativos Duros: Utilizan un LLM para crear variaciones de prompts que violan leyes físicas específicas manteniendo la coherencia semántica, permitiendo un entrenamiento más robusto que el uso de videos reales o simulaciones costosas.

4. Resultados Experimentales

El método se evaluó sobre el modelo base Wan 2.1-1.3B (1.3 mil millones de parámetros) y se comparó con modelos de estado del arte (SOTA) de mayor escala.

• Benchmarks:
  • VideoPhy: Mide el sentido común físico. DiReCT mejoró la puntuación en un 16.7% frente al modelo base y un 11.3% frente al SFT estándar.
  • WorldModelBench: Evalúa la adherencia a leyes físicas y sentido común. DiReCT alcanzó la puntuación total más alta (5.68), superando a modelos mucho más grandes como CogVideoX-5B (5.33) y Mochi (4.91).
• Eficiencia:
  • DiReCT logra estos resultados con solo 1.3B de parámetros, superando a modelos con hasta 7.7 veces más parámetros.
  • No aumenta el tiempo de entrenamiento ni el costo computacional significativo en comparación con el SFT.
• Dinámica de Entrenamiento: A diferencia del SFT, que se satura después de 5k pasos, DiReCT continúa mejorando hasta los 15k pasos, demostrando que la señal contrastiva sigue siendo útil a medida que el modelo refina su reconstrucción.

5. Significado e Impacto

DiReCT representa un avance fundamental en la generación de video basada en física. Demuestra que no es necesario escalar masivamente los parámetros del modelo para lograr un realismo físico; en su lugar, es crucial desenredar la señal de entrenamiento para separar la física de la semántica.

• Paradigma de Eficiencia: Ofrece una ruta eficiente para convertir modelos generativos en "modelos del mundo" más fiables, capaces de predecir dinámicas físicas coherentes, lo cual es esencial para aplicaciones en robótica, simulación y planificación autónoma.
• Solución a un Problema Estructural: Resuelve la limitación inherente de los métodos contrastivos en espacios de condicionamiento continuo (texto), proporcionando una solución generalizable que no depende de simuladores físicos costosos ni de anotaciones humanas detalladas por fenómeno.

En resumen, DiReCT establece un nuevo estándar para la generación de video físicamente plausible, logrando un rendimiento superior con una fracción de los recursos computacionales de los modelos actuales más grandes.