Resumo Técnico: Correspondência de Distribuição em Tempo Contínuo para Destilação de Difusão em Poucos Passos

Declaração do Problema

Modelos de difusão e correspondência de fluxo revolucionaram a geração de imagens a partir de texto, mas sofrem de um gargalo computacional severo devido aos seus processos de amostragem iterativa, que frequentemente exigem dezenas a centenas de avaliações de rede. Embora paradigmas de destilação de difusão (por exemplo, Destilação de Consistência, Destilação de Correspondência de Distribuição) tenham surgido para acelerar esse processo, os métodos existentes de Destilação de Correspondência de Distribuição (DMD) enfrentam limitações estruturais. Especificamente, a DMD padrão depende de supervisão esparsa em poucos instantes de tempo discretos predefinidos para manter um alinhamento estrito entre os cronogramas de treinamento e inferência. Essa formulação de tempo discreto restrita, combinada com a natureza de busca de modos da divergência KL reversa, frequentemente leva a artefatos visuais, saídas excessivamente suavizadas e perda de detalhes de alta granularidade. Consequentemente, os métodos atuais de DMD mais avançados frequentemente exigem módulos auxiliares complexos, como Redes Adversariais Generativas (GANs) ou modelos de recompensa, para restaurar a fidelidade visual.

Metodologia: Correspondência de Distribuição em Tempo Contínuo (CDM)

Os autores propõem a Correspondência de Distribuição em Tempo Contínuo (CDM), um framework que migra o paradigma DMD de ancoragem discreta para otimização contínua. O método consiste em dois projetos principais de tempo contínuo:

1. Cronograma Contínuo Dinâmico

Ao contrário da DMD tradicional, que restringe a simulação reversa a um conjunto fixo de âncoras discretas que correspondem ao cronograma de inferência, a CDM emprega um cronograma contínuo dinâmico.

• Mecanismo: Em cada iteração de treinamento, o comprimento da simulação $N$ é amostrado aleatoriamente de uma distribuição uniforme $U\{1, N_{max}\}$. Os instantes de tempo $t_1, \dots, t_N$ são gerados como uma sequência contínua estritamente decrescente dentro de $(0, 1]$.
• Efeito: Isso desacopla a otimização de treinamento do cronograma de inferência fixo. O modelo estudante é treinado sobre todo o espaço de tempo contínuo, em vez de alguns pontos fixos, recebendo sinais de gradiente de uma faixa mais ampla de trajetórias. A análise teórica sugere que isso incentiva o estudante a aprender um campo de velocidade mais suave em todo o domínio contínuo, em vez de superajustar-se a âncoras discretas esparsas.

2. Alinhamento Fora da Trajetória via Extrapolação Impulsionada por Velocidade

Para abordar os erros de truncamento numérico inerentes à geração em poucos passos (onde grandes passos de integração causam o desvio das trajetórias da variedade ideal), a CDM introduz uma nova função de perda CDM ($L_{CDM}$).

• Mecanismo: Em vez de restringir a supervisão a latentes na trajetória, o método realiza correspondência ativa fora da trajetória. Ele executa um passo de Euler de primeira ordem ao longo do campo de velocidade previsto pelo estudante para extrapolar um latente fora da trajetória $x'_{t_i} = x_{t_i} + (t'_i - t_i)v_{t_i}$.
• Objetivo: A perda impõe a correspondência de distribuição nesses pontos extrapolados. Ao ancorar o alvo na estimativa de dados limpos locais no ponto extrapolado, o método cria uma restrição de autoconsistência para o campo vetorial do estudante. Isso penaliza efetivamente previsões de velocidade inválidas fora da trajetória principal, mitigando a inconsistência entre âncoras e permitindo que o estudante corrija automaticamente erros de integração.

Objetivo de Treinamento

O objetivo completo de treinamento unifica três componentes:
$$L = L_{CA} + L_{DM} + L_{CDM}$$

• $L_{CA}$ (Aumento CFG): Garante o alinhamento texto-imagem.
• $L_{DM}$ (Correspondência de Distribuição): Alinha a distribuição marginal do estudante com a distribuição livre de CFG do professor.
• $L_{CDM}$ (Correspondência em Tempo Contínuo): Regulariza o campo de velocidade em todo o domínio de tempo contínuo via supervisão fora da trajetória.

Contribuições Principais

1. Insights Empíricos: Os autores revelam que ancorar o treinamento a instantes de tempo discretos fixos é desnecessário e que a perda de Correspondência de Distribuição (DM) não é meramente um regularizador, mas o principal motor que alinha o estudante à distribuição livre de CFG do professor.
2. Framework CDM: A proposta de um framework unificado que combina agendamento contínuo dinâmico com um objetivo de alinhamento fora da trajetória impulsionado por velocidade. Isso desloca a otimização para o domínio de tempo contínuo sem depender de treinamento adversarial ou modelos de recompensa externos.
3. Desempenho de Ponta: Experimentos extensivos demonstram que a CDM alcança fidelidade visual superior e aderência semântica na geração em poucos passos (4 NFE) em diferentes arquiteturas (SD3-Medium e Longcat-Image), superando bases existentes como DMD2, D-DMD e Hyper-SD.

Resultados Experimentais

O artigo avalia a CDM no SD3-Medium e no Longcat-Image com resolução de 1024×1024 e 4 Avaliações de Função de Rede (NFE).

• Desempenho Quantitativo: No SD3-Medium, a CDM alcança as melhores pontuações em Estética (6.075), DPGBench (85.26), PickScore (21.95) e HPSv3 (9.561), superando a forte base D-DMD. Notavelmente, o estudante CDM com 4 NFE iguala ou supera o professor com 100 NFE em várias métricas (por exemplo, DPGBench e HPSv3).
• Melhorias Qualitativas: Comparações visuais mostram que a CDM produz texturas mais nítidas, detalhes de alta granularidade mais ricos e melhor aderência a prompts complexos em comparação com as bases, que frequentemente sofrem de excessiva suavização.
• Estudos de Ablação:
  • A remoção de $L_{CA}$ leva ao colapso estrutural.
  • A remoção individual de $L_{DM}$ ou $L_{CDM}$ degrada a aderência ao prompt ou a fidelidade visual, respectivamente.
  • Reverter para um cronograma de tempo fixo ou usar perturbação de ruído gaussiano em vez de extrapolação impulsionada por velocidade resulta em desempenho inferior, validando a necessidade dos projetos contínuos e baseados em velocidade.

Significado e Alegações

O artigo afirma que a CDM é o primeiro trabalho a migrar o framework de destilação DMD de cronogramas discretos para um espaço de otimização contínuo. Seu significado reside em demonstrar que a geração de poucos passos de alta fidelidade pode ser alcançada sem depender de objetivos auxiliares complexos (como GANs ou modelos de recompensa) que são tipicamente necessários para corrigir os artefatos da destilação de tempo discreto.

Ao simular e corrigir explicitamente os desvios de truncamento de volta à variedade de dados alvo através de supervisão contínua, a CDM estabelece novos resultados de ponta para geração de imagens em 4 passos. Os autores posicionam este trabalho como um passo em direção a uma destilação de difusão mais acessível, permitindo geração de alta qualidade em hardware comercial ao reduzir os custos de inferência em uma ordem de grandeza, mantendo a qualidade visual.