Resumen Técnico: Destilando Priores Físicos en Modelos de Mundo de Transmisión (PhyS)

Declaración del Problema

Los modelos de mundo de transmisión (streaming world models) buscan predecir estados visuales futuros mediante despliegues (rollouts) en línea, manteniendo al mismo tiempo una dinámica físicamente coherente en horizontes largos. Sin embargo, los enfoques actuales de vanguardia, que típicamente destilan Diffusion Transformers (DiTs) bidireccionales preentrenados en generadores causales de pocos pasos, sufren dos limitaciones fundamentales:

1. Priores Físicos Limitados: Los modelos bidireccionales genéricos adquieren un entendimiento físico limitado debido a su preentrenamiento orientado a lo visual, fallando a menudo en capturar los matices de las interacciones del mundo real.
2. Pérdida de Destilación: El proceso de destilar el conocimiento bidireccional en un estudiante causal degrada aún más estos priores limitados. Los modelos causales luchan por preservar las dependencias de largo alcance esenciales para la causalidad física, lo que conduce a la acumulación de errores y violaciones de restricciones físicas básicas (p. ej., gravedad, colisión, deformación) durante los despliegues autorregresivos.

Los métodos existentes suelen depender de datos sintéticos o señales guiadas por lenguaje grueso, los cuales no logran proporcionar la supervisión detallada y fundamentada en observaciones necesaria para aprender dinámicas físicas complejas como el flujo de fluidos, la deformación de cuerpos blandos y las transiciones de fase.

Metodología: El Marco de Trabajo PhyS

Los autores proponen PhyS, un marco de tres etapas diseñado para inyectar priores físicos en modelos de mundo de transmisión y alinearlos para la generación causal.

1. Construcción de Datos: PhyS-120K

Para abordar la falta de datos físicos del mundo real, los autores construyeron PhyS-120K, un conjunto de datos de 120,804 videos de interacción física del mundo real.

• Taxonomía: Los videos se categorizan por evolución de estado observable en cuatro dominios: dinámica de fluidos, deformación de cuerpos blandos, transiciones de fase y mecánica de cuerpos rígidos.
• Anotación: A diferencia de los subtítulos estándar, cada clip está anotado con descripciones físicas estructuradas generadas por un modelo de lenguaje-visión (Qwen3-VL-235B). Estas anotaciones incluyen propiedades de los objetos (p. ej., rigidez, densidad de masa) y secuencias de eventos causales (p. ej., "presionar cabeza ejerce fuerza", "bola cede").
• Curaduría: El proceso de filtrado implica la selección de calidad de movimiento y seguridad, seguido de un reequilibrio para asegurar una cobertura de procesos diversa.

2. Flujo de Entrenamiento de Tres Etapas

Etapa 1: Ajuste Fino Supervisado (SFT) con Conciencia Física
Un DiT bidireccional de 14B (Wan2.1-14B) es ajustado finamente en PhyS-120K utilizando LoRA. El modelo aprende de los pares de video-subtítulo estructurados para interiorizar la dinámica física del mundo real, resultando en un modelo maestro con conciencia física.

Etapa 2: Destilación de Bidireccional a Causal
El maestro de 14B se destila en un DiT causal ligero de 1.3B mediante DMD (Distribución de Emparejamiento de la Destilación).

• El estudiante realiza despliegues autorregresivos de sí mismo (generación de pocos pasos) condicionados por su propio historial.
• El objetivo minimiza la divergencia de Kullback-Leibler (KL) entre la distribución de despliegue ruidosa del estudiante y la distribución del maestro, transfiriendo los priores físicos aprendidos a un modelo capaz de generación de baja latencia y por bloques (block-wise streaming).

Etapa 3: Optimización de Política en Línea con Enrutamiento de Crédito Temporal (TCR)
Para alinear aún más el generador causal con la consistencia física, los autores introducen una etapa de aprendizaje por refuerzo en línea.

• El Desafío: Las recompensas estándar a nivel de video son demasiado gruesas; una sola recompensa para todo un video no puede distinguir entre una secuencia físicamente plausible y una que contiene una violación localizada.
• La Solución (TCR): TCR agrega la retroalimentación sobre ventanas temporales superpuestas.
  1. Calificación a Nivel de Ventana: Un modelo de recompensa congelado (predictor V-JEPA2 combinado con una recompensa de flujo óptico de RAFT) evalúa la consistencia física de las ventanas superpuestas dentro de un despliegue generado.
  2. Normalización de Grupo: Las recompensas se normalizan dentro de cada ventana a través de un grupo de despliegues para evitar que las regiones temporales fáciles o difíciles dominen las actualizaciones.
  3. Enrutamiento de Superposición: Las ventajas se enrutan a acciones de eliminación de ruido específicas basadas en la superposición entre la ventana de recompensa y el bloque de generación causal. Esto localiza la señal de retroalimentación física, permitiendo al modelo corregir desviaciones temporales específicas en lugar de aplicar una penalización global.

Contribuciones Clave

1. Dataset PhyS-120K: Un conjunto de datos a gran escala de interacciones físicas del mundo real con anotaciones estructuradas de propiedades de objetos y transiciones de estado causal, cubriendo diversos procesos físicos.
2. Marco de Trabajo PhyS: Un flujo de entrenamiento de tres etapas que transfiere con éxito los priores físicos de un maestro bidireccional a un generador causal ligero para la generación de video de transmisión.
3. Enrutamiento de Crédito Temporal (TCR): Una estrategia de optimización novedosa que aborda el problema de la asignación de crédito temporal en la generación de video mediante el enrutamiento de recompensas físicas a nivel de ventana hacia acciones de eliminación de ruido alineadas, mejorando la consistencia física sin regenerar la secuencia completa.

Resultados Experimentales

Los autores evalúan PhyS en PhysicsIQ y otros bancos de pruebas conscientes de la física (VideoPhy, VideoPhy2, PhyGenBench).

• PhysicsIQ: PhyS mejora al modelo base Wan2.1-14B en un 18.2%.
• Generadores Causales: Al aplicarse a métodos de forzado causal, PhyS produce ganancias significativas:
  • Self Forcing: +23.7%
  • Rolling Forcing: +14.8%
  • Causal Forcing: +31.4%
• Generalización: El método demuestra mejoras consistentes en métricas de consistencia física en VideoPhy, VideoPhy2 y PhyGenBench.

Significado y Reivindicaciones

El artículo afirma que PhyS representa un paso significativo hacia la construcción de modelos de mundo que se adhieran a las leyes de la física. Al ir más allá del preentrenamiento visual genérico e introducir un flujo dedicado para adquirir y destilar priores físicos, los autores demuestran que los modelos de mundo de transmisión pueden lograr coherencia de largo horizonte sin violar las restricciones físicas fundamentales. La introducción de TCR aborda específicamente la "coarseness temporal" de los mecanismos de recompensa existentes, permitiendo un alineamiento fino de la generación causal con la realidad física. Los autores enfatizan que su enfoque se basa en la fundamentación de datos del mundo real en lugar de simulaciones sintéticas o prompts de lenguaje gruesos, ofreciendo una base más robusta para la generación de video físicamente plausible.