Resumo Técnico: Otimização de Preferência Direta Física e Semântica para Geração de Texto-para-Vídeo

1. Definição do Problema

Modelos de geração de texto-para-vídeo (T2V) alcançaram um realismo visual significativo, mas frequentemente violam princípios físicos básicos. Embora os métodos de alinhamento baseados em preferência, particularmente a Otimização de Preferência Direta (DPO), tenham surgido como uma abordagem promissora para melhorar a plausibilidade física por meio de comparações pareadas, eles introduzem um modo de falha crítico: o desvio semântico (semantic drift).

O problema central surge de uma assimetria estrutural nos sinais de supervisão:

• Plausibilidade Física: Tipicamente avaliada via comparação relativa (determinar qual de dois vídeos obedece melhor às leis físicas). Este processo não verifica inerentemente se o vídeo retrata fielmente os objetos ou a cena específica do prompt.
• Consistência Semântica: Naturalmente tratada como uma avaliação por amostra (verificar se um vídeo corresponde ao texto).

A DPO padrão assume que a amostra fisicamente preferida é também semanticamente válida. No entanto, a análise empírica revela que em mais de 50% dos pares de preferência física, o vídeo considerado "fisicamente melhor" viola, na verdade, as restrições semânticas do prompt (por exemplo, retratando um limão inteiro em vez de uma fatia de limão, mesmo que o movimento seja fisicamente preciso). Quando a DPO padrão otimiza nesses "pares de conflito", ela direciona o modelo para soluções fisicamente plausíveis, mas semanticamente inconsistentes, levando a uma convergência instável e à degradação do alinhamento texto-vídeo.

2. Metodologia: PSDPO

Os autores propõem a Otimização de Preferência Direta Física e Semântica (PSDPO), um framework que trata o alinhamento físico como um problema de otimização com restrições. A PSDPO opera inteiramente dentro do framework padrão da DPO sem exigir modelos auxiliares, termos de perda adicionais ou mudanças arquitetônicas.

2.1 Formulação com Restrições

O método formula o objetivo como a minimização da perda DPO sujeita a uma restrição de viabilidade semântica: o vídeo fisicamente preferido ($y_w$) deve também manter pontuações de alinhamento semântico ($S_{sem}$) maiores ou iguais ao vídeo rejeitado ($y_l$).
$$\min_{\theta} L_{DPO}(\theta) \quad \text{sujeito a} \quad S_{sem}(y_w, x) \geq S_{sem}(y_l, x)$$

2.2 Modulação Assimétrica

Em vez de filtrar rigidamente os pares violadores (o que descartaria valiosos sinais de supervisão física), a PSDPO introduz uma função de modulação suave e estritamente positiva, $\mathcal{W}(\Delta S)$, onde $\Delta S = S_{sem}(y_w, x) - S_{sem}(y_l, x)$.

• Pares de Correspondência (Match Pairs) ($\Delta S \geq 0$): O peso é 1.0, recuperando o comportamento padrão da DPO.
• Pares de Conflito (Conflict Pairs) ($\Delta S < 0$): O peso é atenuado usando uma função exponencial assimétrica: $\mathcal{W}(\Delta S) = \exp(\Delta S / \tau)$.

Este mecanismo atenua proporcionalmente a contribuição do gradiente de pares onde a preferência física conflita com a consistência semântica, limitado por um parâmetro de temperatura $\tau$.

2.3 Análise de Gradiente e Controle de Desvio

Uma análise de nível de gradiente demonstra que a DPO não restringida introduz um viés direcional sistemático (desvio) proveniente de pares de conflito. A PSDPO limita este desvio a um resíduo controlável. Para mitigar ainda mais o desvio cumulativo durante o treinamento, os autores derivam um protocolo de otimização em estágios:

1. Estágio 1: Treinar exclusivamente em "Pares de Correspondência" ($D_{match}$) para estabelecer uma representação de preferência estável com zero acúmulo de desvio.
2. Estágio 2: Introduzir "Pares de Conflito" ($D_{conf}$) com pesos modulados para extrair sinais físicos residuais de maneira controlada.

2.4 Sistema de Avaliação de Senso Comum Físico (PCE)

Para gerar os dados de preferência necessários, os autores desenvolveram um sistema PCE baseado em um pipeline de raciocínio hierárquico (usando Qwen3-VL). Ele combina:

1. Parser de Fenômenos Físicos: Identifica eventos físicos centrais a partir do texto.
2. Métricas Geométricas Auxiliares: Utiliza ferramentas como Depth Anything e RAFT para estimar a magnitude do fluxo e a instabilidade de profundidade.
3. Raciocínio Hierárquico: Um juiz MLLM que verifica leis físicas e métricas sem alucinar, alcançando 75,54% de concordância com julgamentos humanos em plausibilidade física relativa.

3. Principais Contribuições

1. Identificação de Falha Estrutural: O artigo identifica que o conflito físico-semântico é uma tendência sistemática no alinhamento de preferência para T2V, não apenas um artefato de dados, causada pela dependência de comparação física relativa sem verificações de fidelidade semântica.
2. Framework PSDPO: Um novo método de otimização de preferência com restrições que integra viabilidade semântica ao objetivo de aprendizagem via um mecanismo de modulação, sem exigir modelos auxiliares.
3. Garantias Teóricas: Análise de nível de gradiente provando que a PSDPO limita o desvio semântico de pares conflitantes e um protocolo em estágios derivado que reduz comprovadamente o desvio cumulativo.
4. Sistema PCE: Um sistema de avaliação robusto para construir conjuntos de dados de preferência física que supera a pontuação absoluta e MLLMs isolados em concordância com julgamentos humanos.

4. Resultados Experimentais

Experimentos foram conduzidos no VBench, VideoPhy-2 e PhyGenBench usando o modelo Wan-1.3B.

• Plausibilidade Física: A PSDPO melhora a plausibilidade física em até 2× sobre a linha de base no VideoPhy-2 (por exemplo, melhorando a pontuação do subconjunto "Hard" de 0,039 para 0,078).
• Consistência Semântica: Ao contrário da Vanilla DPO, que degrada a fidelidade semântica, a PSDPO mantém ou melhora as pontuações semânticas no VBench (Pontuação Total: 84,13 vs. 82,79 para a Vanilla DPO).
• Comparação com SOTA: A PSDPO supera os métodos de preferência existentes (VideoDPO, PhysHPO, RDPO) e métodos especializados em física (PhysGen, PhyMAGIC) em múltiplos benchmarks, alcançando um melhor equilíbrio entre realismo físico e alinhamento semântico.
• Estudos de Ablação:
  • Escala de Modulação ($\tau$): $\tau=0,02$ fornece o equilíbrio ideal, recuperando significativamente a adesão semântica enquanto preserva o aprendizado físico.
  • Treinamento em Estágios: Um passo de alternância ($T_s$) de 1000 passos (em um cronograma total de 3k passos) produz os melhores resultados, equilibrando estabilidade inicial com extração posterior de sinal físico.

5. Significância e Alegações

O artigo afirma que a PSDPO demonstra que uma formulação principista pode gerar tanto solidez teórica quanto simplicidade prática. Ao abordar a assimetria estrutural entre supervisão física e semântica, o método alcança um equilíbrio mais confiável do que abordagens existentes.

Os autores enfatizam que sua abordagem:

• Opera inteiramente dentro do framework padrão da DPO.
• Não requer modelos auxiliares, termos de perda adicionais ou mudanças na arquitetura base.
• Não depende de simuladores físicos externos ou raciocínio de Cadeia de Pensamento (Chain-of-Thought) durante a inferência (ao contrário de alguns métodos concorrentes).
• Resolve com sucesso a tensão entre melhorar a plausibilidade física e manter a consistência semântica, um passo crítico para gerar conteúdo de vídeo fundamentado fisicamente.