Resumo Técnico: Acoplamentos de Supressão de Divergência para Fluxo Retificado

Declaração do Problema

O Fluxo Retificado (RectFlow) visa acelerar a modelagem generativa aprendendo campos de velocidade com trajetórias retas, permitindo a geração de amostras de alta qualidade com poucos ou até mesmo um único passo de integração numérica (NFE). O método baseia-se em um procedimento iterativo de "refluxo": um modelo base treinado com acoplamento independente gera novos pares fonte-alvo, que são então usados para retreinar um modelo com um campo de velocidade mais retilíneo.

No entanto, o artigo identifica um gargalo fundamental: distorção de acoplamento. Na prática, as trajetórias geradas pelo modelo base frequentemente se curvam e se entrelaçam. Essa distorção está frequentemente associada a regiões de divergência não nula no campo de velocidade aprendido. Nessas regiões, a expansão ou contração local faz com que as trajetórias se afastem ou se comprimam, desviando as partículas de seus pontos finais ideais. Consequentemente, o modelo retratado herda esses erros, e rodadas adicionais de retificação produzem retornos decrescentes, pois o modelo está efetivamente "refluxando" um transporte que já está curvado. A qualidade do integrador forward usado para gerar os pares de acoplamento, e não a função de perda de treinamento ou a capacidade do modelo, limita a eficácia do RectFlow.

Metodologia: DS-RectFlow

Os autores propõem o DS-RectFlow (Fluxo Retificado de Supressão de Divergência), um método de correção offline projetado para gerar pares de acoplamento mais limpos durante o processo de refluxo, sem alterar o objetivo de treinamento, a arquitetura do modelo ou o procedimento de inferência.

Mecanismo Central

O método fundamenta-se na observação de que a curvatura da trajetória (distorção de acoplamento) é impulsionada pelo componente compressível do campo de velocidade. Usando a decomposição de Helmholtz, o campo de velocidade $v$ é dividido em uma parte de transporte livre de divergência $u$ e uma parte dipolar $\nabla \phi$ que carrega toda a compressibilidade do campo. O artigo argumenta que suprimir a magnitude da divergência $|\nabla \cdot v|$ mantém as trajetórias retas.

O Integrador de Supressão de Divergência

Durante a geração offline de pares de acoplamento (o passo de "refluxo"), o DS-RectFlow substitui o integrador Euler padrão por um integrador Euler de supressão de divergência:

1. Correção de Estado: Em cada passo de integração, em vez de avançar diretamente a partir do estado atual $x_t$, o algoritmo busca um estado próximo $x^*_t$ onde a divergência estimada $|\hat{\nabla} \cdot v_\theta(x^*_t, t)|$ é minimizada.
2. Estimativa de Hutchinson: Para evitar o alto custo do cálculo exato da divergência em altas dimensões, o método usa o estimador de traço de Hutchinson para aproximar $\nabla \cdot v$. Ele gera $m$ perturbações gaussianas ao redor do estado atual e seleciona o candidato que minimiza a magnitude da divergência estimada.
3. Integração: O passo Euler é então calculado a partir desse estado corrigido $x^*_t$ usando o campo de velocidade original, não modificado: $x_{t+\Delta t} = x^*_t + v_\theta(x^*_t, t) \cdot \Delta t$.

Detalhes de Implementação

• Apenas Offline: A correção é aplicada apenas durante a geração do conjunto de dados de acoplamento para o retratamento.
• Inferência: O modelo treinado final é implantado usando integração Euler simples, sem sobrecarga computacional adicional. A lógica de supressão de divergência não está presente no momento da inferência.
• Controle de Orçamento: A correção é aplicada apenas até um tempo $t_{stop}$ (tipicamente 0,5) e é governada por um parâmetro de raio de busca $\delta$.

Contribuições Principais

1. Diagnóstico das Limitações do RectFlow: O artigo identifica que a qualidade do acoplamento gerado pelo modelo base, especificamente a presença de divergência não nula causando compressão/expansão de trajetórias, é o principal gargalo que impede o RectFlow de alcançar seu potencial teórico de geração em um único passo.
2. Estratégia de Correção Offline: Introduz uma nova correção offline que atenua o componente divergente do campo de velocidade durante a geração de acoplamento. Diferentemente de refinamentos no momento da inferência (como solucionadores de ordem superior ou guia), este método transfere o custo da correção inteiramente para a fase de geração de dados de treinamento.
3. Sobrecarga Zero de Inferência: O método produz um modelo que opera com custo de relógio idêntico ao do RectFlow padrão durante a implantação, pois o caminho de inferência permanece um simples passo Euler.
4. Restauração dos Efeitos de Acumulação: Ao fornecer pares de acoplamento mais limpos, o DS-RectFlow restaura o benefício de "acumulação" da retificação, onde cada rodada de refluxo melhora significativamente a retidão do campo, um fenômeno frequentemente perdido no RectFlow padrão devido à distorção acumulada.

Resultados Experimentais

Os autores avaliam o DS-RectFlow em benchmarks sintéticos 2D e tarefas de geração de imagens (CIFAR-10, CelebA-64).

• Benchmarks 2D (Tabuleiro de Xadrez & GMM):

  • No benchmark de Tabuleiro de Xadrez, o DS-RectFlow reduz significativamente a Distância de Wasserstein Fatia (SWD) em comparação com o RectFlow padrão. Em $NFE=1$, ele atinge uma SWD de 0,102 (vs. 0,165 para o padrão), efetivamente igualando o desempenho de uma linha de base de Correspondência de Fluxo de 20 passos, mas em um único passo.
  • No benchmark de cruzamento de GMM, o DS-RectFlow inicialmente mostra erro maior em NFE baixo (devido à captura mais fiel de decisões complexas de atribuição de modos), mas converge rapidamente para um desempenho superior. Na segunda rodada de refluxo ($k=2$), ele alcança uma melhoria de 3x na SWD em $NFE=1$ em comparação com o RectFlow padrão.
  • Visualizações confirmam que o DS-RectFlow produz modos mais nítidos e separados, com menos amostras "vazadas" para regiões proibidas.

• Geração de Imagens (CIFAR-10 & CelebA-64):

  • CIFAR-10: O DS-RectFlow consistentemente alcança menor Distância de Inception Fréchet (FID) em todos os orçamentos de NFE. Com um solucionador offline Euler-20, o método reduz o FID de 17,41 para 12,03 em $NFE=1$ (uma melhoria relativa de 31%). Notavelmente, o modelo DS-RectFlow com $NFE=1$ supera o modelo padrão em todos os passos de NFE na varredura.
  • CelebA-64: Tendências semelhantes são observadas. Em $NFE=2$, o DS-RectFlow alcança um FID de 4,90, superando o melhor desempenho do modelo padrão em todos os NFEs (que é 5,64 em $NFE=20$).
  • Os resultados demonstram que a correção offline se transfere diretamente para um modelo capaz de geração de alta qualidade em um único passo.

Significado e Alegações

O artigo alega que a qualidade do acoplamento, e não a capacidade de treinamento ou o orçamento de inferência, é o principal gargalo do RectFlow. Ao abordar a distorção induzida por divergência offline, o DS-RectFlow permite as melhorias cumulativas que a retificação promete, mas raramente entrega na prática.

Os autores enfatizam que essa abordagem oferece uma vantagem prática: ela entrega os benefícios de um integrador corrigido por divergência (trajetórias mais retas, melhor alinhamento de modos) enquanto mantém o perfil de inferência de latência zero do RectFlow padrão. A correção é um custo único pago durante a geração de dados, amortizado sobre toda a execução de treinamento. O artigo sugere que esse mecanismo pode ser aplicável a outros métodos baseados em fluxo, como interpolantes estocásticos e correspondência de fluxo de transporte ótimo, sempre que componentes de deriva divergente degradam a qualidade da amostra.