Resumo Técnico: CAB (Adams-Bashforth Corrigido)

Declaração do Problema

Modelos de fluxo e difusão estabeleceram-se como o paradigma dominante para síntese de imagens e vídeos de alta fidelidade. No entanto, sua implantação prática é frequentemente prejudicada por altos custos computacionais durante a fase de amostragem, que requer a integração numérica de uma equação diferencial ordinária (EDO) de tempo reverso aprendida sobre muitas avaliações de rede neural (NFEs). Embora existam métodos de aceleração sem treinamento, eles enfrentam um compromisso crítico no regime de baixo NFE (tipicamente 6–20 passos). Métodos de primeira ordem como DDIM são robustos, mas exigem muitos passos para qualidade, enquanto solvers de alta ordem existentes (por exemplo, DPM-Solver++, UniPC, STORK) frequentemente sofrem de instabilidade, suavização excessiva ou distorções estruturais quando o orçamento de passos é severamente limitado. Além disso, muitos solvers de alta ordem dependem de parametrizações específicas do modelo (por exemplo, log-SNR para difusão) ou exigem estatísticas adicionais dependentes do modelo, limitando sua generalidade tanto em arquiteturas de fluxo quanto de difusão.

Metodologia

Os autores propõem CAB (Adams-Bashforth Corrigido), um amostrador sem treinamento projetado para acelerar modelos de fluxo e difusão sem treinamento adicional ou estatísticas específicas do modelo. A metodologia consiste em dois componentes principais:

1. Retificação da EDO de Tempo Reverso

A principal percepção teórica é que a dinâmica de tempo reverso de modelos de fluxo e difusão pode ser transformada em um sistema de coordenadas comum. Ao reescalar o estado $x_t$ para $y_t = x_t / s_t$ e reparametrizar o tempo usando a razão ruído-sinal $\rho_t = \sigma_t / s_t$, os autores derivam uma EDO "retificada". Neste sistema de coordenadas $\rho$, o arrasto linear induzido pelos cronogramas de ruído específicos ($s_t, \sigma_t$) é removido, e a dinâmica reduz-se a uma forma simples impulsionada diretamente pelo campo de ruído aprendido $\epsilon_\theta$:
$$\frac{d\hat{y}_\rho}{d\rho} = \epsilon_\theta(s_t(\rho)\hat{y}_\rho, t(\rho))$$
Esta transformação unifica a dinâmica de amostragem para diversas famílias de modelos (incluindo caminhos de fluxo VP, VE e retificados) sob uma única formulação explícita de EDO.

2. Integração Adams-Bashforth Corrigida

Na grade não uniforme induzida de $\rho$, o CAB aplica um preditor multietapa Adams-Bashforth (AB). Para abordar a imprecisão dos métodos AB padrão em grandes tamanhos de passo (baixo NFE), o CAB introduz um termo de correção leve.

• Previsão: Um preditor AB explícito (ordem 2 ou 3) estima o próximo estado com base em avaliações de velocidade passadas.
• Correção: O método calcula um "defeito de extrapolação", definido como a discrepância entre a velocidade aprendida atual e uma extrapolação linear de Lagrange da velocidade dos dois passos anteriores.
• Atualização: A atualização final adiciona um termo de correção ponderado proporcional a este defeito:
  $$y_{t_{i+1}} = y^{pred}_{t_{i+1}} + \gamma_i h_i (\epsilon_i - \epsilon^{ext}_i)$$
  onde $\epsilon^{ext}_i$ é a velocidade extrapolada e $\gamma_i$ é um peso específico do modelo. Crucialmente, esta correção utiliza avaliações de velocidade já computadas em passos anteriores, incorrendo em zero NFEs adicionais.

A análise teórica prova que, apesar da correção adicionada, o método retém a ordem de convergência formal dos solvers Adams-Bashforth subjacentes (erro global de segunda ordem para CAB-2; terceira ordem para CAB-3 quando $\gamma_i = O(h_i)$).

Principais Contribuições

1. Framework Unificado: O CAB fornece um único amostrador sem treinamento aplicável tanto a modelos de correspondência de fluxo quanto de difusão, retificando suas dinâmicas em um sistema de coordenadas comum de ruído-sinal.
2. Correção sem Sobrecarga: O método introduz um mecanismo de correção que melhora a estabilidade e precisão em baixo NFE sem exigir avaliações extras de rede, distinguindo-se de métodos que dependem de passos virtuais ou correções complexas de múltiplas avaliações.
3. Garantias Teóricas: Os autores fornecem provas demonstrando que os esquemas corrigidos preservam o erro de truncamento local e a ordem de convergência global dos métodos base Adams-Bashforth.
4. Desempenho Empírico: Experimentos extensivos mostram que o CAB melhora o compromisso qualidade-NFE no regime desafiador de 6–20 passos em várias benchmarks.

Resultados Experimentais

Os autores avaliaram o CAB em geração de imagens incondicional (CIFAR-10, ImageNet), geração condicional por classe (DiT no ImageNet), síntese texto-para-imagem de alta resolução (QWEN-Image) e geração de vídeo texto-para-vídeo (HunyuanVideo).

• Regime de Baixo NFE (6–20 passos): O CAB supera consistentemente fortes baselines sem treinamento (DDIM, DPM-Solver++, UniPC, STORK) em termos de FID (Distância de Inception Fréchet) e qualidade perceptual. Por exemplo, no DiT/ImageNet com 6 NFEs, o CAB-3 alcança um FID de 14,81, comparado a 26,64 para o DPM++ e 51,52 para o STORK.
• Melhorias Qualitativas: Comparações visuais indicam que o CAB produz detalhes mais nítidos, preserva melhor a integridade estrutural (por exemplo, características faciais, limites de objetos) e reduz artefatos de ruído e suavização excessiva em comparação com concorrentes em configurações de poucos passos.
• Alta Resolução e Vídeo: No QWEN-Image (1024x1024), o CAB-3 alcança as maiores pontuações ImageReward em 4–10 NFEs. Na geração de vídeo (HunyuanVideo), o CAB-2 demonstra alinhamento superior texto-vídeo e consistência temporal em contagens de passos baixas.
• Eficiência: O tempo de execução e a sobrecarga de memória são negligenciáveis, comparáveis aos solvers AB padrão, pois a correção depende de avaliações passadas armazenadas.

Significado e Alegações

O artigo alega que o CAB oferece uma solução simples, porém eficaz, para o "dilema do baixo NFE" na modelagem generativa. Ao retificar a dinâmica da EDO e aplicar uma estratégia de correção de defeitos, o CAB alcança um equilíbrio favorável entre precisão, estabilidade e generalidade. Os autores enfatizam que seu método não requer treinamento adicional ou ajuste de hiperparâmetros específicos do modelo além de um único peso $\gamma$, tornando-o uma substituição prática e direta para amostradores existentes.

O trabalho sugere que a retificação da EDO em coordenadas de ruído-sinal suaviza significativamente o campo vetorial aprendido, facilitando uma integração multietapa mais precisa. Embora o método melhore a robustez, os autores reconhecem modestamente limitações: em regimes extremamente desafiadores com muito poucos passos (por exemplo, $N=6$) e dinâmicas altamente curvas, o rastreamento geométrico inadequado ainda pode ocorrer, indicando que a correção não elimina totalmente modos de falha associados a sistemas rígidos ou de variação rápida. Não obstante, o CAB representa um passo significativo para tornar modelos generativos de alta fidelidade mais acessíveis em aplicações com restrições de recursos e sensíveis à latência.