Resumo Técnico: A Amostragem Monotônica é Necessária em Modelos de Difusão?

1. Declaração do Problema

Durante seis anos, os modelos de difusão têm dependido de uma única suposição estrutural não declarada: o nível de ruído diminui monotonicamente ao longo da trajetória de amostragem. Embora o campo tenha esgotado quase todas as outras dimensões de design — incluindo operadores de corrupção, objetivos de treinamento, cronogramas de variância, arquiteturas e solucionadores de EDO —, a necessidade da própria monotonicidade nunca foi testada sistematicamente.

Três linhas independentes de evidência sugerem que essa suposição pode ser uma convenção histórica, em vez de um requisito fundamental:

1. Validade Matemática: A equação de atualização do DDIM está bem definida para qualquer escolha de próximo passo de tempo, não apenas para aquelas estritamente decrescentes.
2. "Reaquecimento" Estocástico: A amostragem estocástica do DDPM adiciona implicitamente ruído fresco a cada passo, contrapondo parcialmente o progresso de remoção de ruído, o que produz resultados melhores do que o DDIM determinístico em orçamentos elevados de avaliações de função (NFE).
3. Amostragem com Reinício: A injeção explícita de ruído no meio da trajetória (acoplada a correção) demonstrou resultados state-of-the-art em contextos específicos.

Isso leva à questão central: a amostragem monotônica é meramente uma convenção que poderia ser relaxada gratuitamente, ou é essencial? Especificamente, aumentos estruturados e deliberados não monotônicos no ruído ("reaquecimento") podem ajudar os amostradores a escapar de trajetórias subótimas e alcançar amostras melhores?

2. Metodologia

Os autores projetaram um teste empírico sistemático para avaliar a necessidade da monotonicidade em três famílias distintas de modelos generativos arquiteturalmente:

• DDPM (Tempo discreto, passos de tempo inteiros)
• EDM (Níveis de ruído contínuos, integração de Heun)
• Flow Matching (Tempo contínuo, transporte ótimo)

Configuração Experimental

• Conjunto de Dados: CIFAR-10.
• Orçamentos: NFE variando de 10 a 200.
• Métrica: Distância Fréchet Inception (FID).
• Linha de Base: DDIM Monotônico (determinístico) para todos os modelos.

Famílias de Cronogramas Não Monotônicos

Os autores construíram quatro famílias de cronogramas não monotônicos estruturados, inserindo passos de "reaquecimento" (onde o ruído aumenta) dentro de um orçamento NFE fixo:

1. Reaquecimento Único (SR): Um único salto para trás de magnitude $\delta$ em uma posição específica $t_{reheat}$.
2. Dente de Serra (ST): Saltos para trás periódicos de magnitude igual.
3. Oscilação Amortecida (DO): Reaquecimentos decaimento geometricamente concentrados ao redor do nível crítico de ruído ($\log \text{SNR} \approx 0$), onde a qualidade perceptual é determinada.
4. Reaquecimento Adaptativo (AR): Um cronograma online que dispara reaquecimentos quando previsões de pontuação consecutivas divergem além de um limite calibrado.

O estudo incluiu uma ablação de hiperparâmetros de 42 células sobre $(t_{reheat}, \delta)$ para o cronograma de Reaquecimento Único no DDPM. Crucialmente, para famílias de orçamento fixo, os reaquecimentos foram inseridos dentro do orçamento NFE, não adicionados por cima, garantindo uma comparação justa de eficiência.

3. Principais Descobertas

A. A Descoberta Negativa: Reaquecimento Nunca Ajuda

Em 90 configurações testadas (abrangendo 3 modelos, 4 tipos de cronograma e 4 orçamentos NFE), nenhuma configuração não monotônica testada superou a linha de base monotônica.

• A penalidade (aumento no FID) aumentou monotonicamente com a magnitude do reaquecimento $\delta$ em cada posição.
• Não houve mínimos locais abaixo de zero; mesmo os menores reaquecimentos incorreram em uma penalidade positiva.
• Este resultado manteve-se para cronogramas determinísticos, variantes corrigidas estocasticamente e critérios adaptativos online.

B. A Descoberta Positiva: Magnitude da Penalidade Dependente da Arquitetura

Embora o reaquecimento prejudique uniformemente, a magnitude da penalidade varia drasticamente (em quase três ordens de grandeza) dependendo da arquitetura do modelo. Essa variação é uma propriedade estrutural do removedor de ruído treinado, não ruído de medição:

• DDPM: Sofre uma penalidade persistente e substancial (ex.: +1,31 FID em NFE=100). A penalidade não converge para zero mesmo em orçamentos elevados.
• Flow Matching: Mostra uma penalidade intermediária (+0,04 FID em NFE=100).
• EDM: Mostra uma penalidade indistinguível de zero (−0,003 FID em NFE=100), estatisticamente dentro do nível de ruído.

C. Resolução de Confusões da Comunidade

O artigo esclarece duas aparentes contradições na literatura anterior:

1. DDPM vs. DDIM: O fato de o DDPM estocástico ($\eta=1$) superar o DDIM determinístico em NFE alto (NFE=200) não é devido ao reaquecimento. Os autores mostram que a estocasticidade fornece um componente ortogonal de diversificação de trajetória na variedade de dados, enquanto o reaquecimento determinístico opera puramente na direção paralela (re-ruindo ao longo do vetor de ruído previsto).
2. RePaint: O sucesso do RePaint (que usa reaquecimento) é atribuído às suas âncoras de condicionamento por passo (pixels conhecidos), que fixam a trajetória a um ponto de dados específico. O reaquecimento puro, sem tais âncoras, é uniformemente prejudicial.

4. Contribuição Teórica: Coeficiente de Sensibilidade do Cronograma (SSC)

Os autores formalizam a variação observada na penalidade como o Coeficiente de Sensibilidade do Cronograma (SSC).

• Definição: $SSC := \lim_{N \to \infty} \frac{[\Delta \text{FID}_{\text{DO}}(N)]_+}{[\Delta \text{FID}_{\text{SR}}(N)]_+}$, onde $[x]_+ = \max(x, 0)$.
• Base Teórica: Um passo de reaquecimento força o removedor de ruído a reprocessar uma estimativa corrompida. Para um removedor de ruído Bayesiano ótimo, essa segunda passagem não extrai nenhuma informação nova, tornando o passo um NFE desperdiçado com penalidade zero. Para um removedor de ruído imperfeito, os erros acumulam-se. A penalidade é limitada pela constante de Lipschitz local do removedor de ruído ($L$) e seu erro ($\epsilon$) no nível de ruído reaquecido.
• Implicação: $SSC > 0$ fornece evidência de que o removedor de ruído treinado não convergiu para o removedor de ruído Bayesiano ótimo no nível de ruído crítico.
• Utilidade: O SSC é um diagnóstico barato e agnóstico à arquitetura (requerendo apenas duas execuções de geração de 256 amostras) que complementa o FID ao sondar a consistência interna do removedor de ruído.

5. Significado e Alegações

O artigo afirma fornecer a primeira resposta empírica sistemática sobre se a monotonicidade é necessária na amostragem de difusão.

1. Validação da Convenção: As descobertas justificam a dependência tácita do campo em cronogramas monotônicos. Extensões não monotônicas estruturadas são uniformemente prejudiciais nos orçamentos e arquiteturas testados.
2. Nova Ferramenta de Diagnóstico: A introdução do SSC oferece uma nova sonda de qualidade de modelos de difusão. Revela que modelos de alta qualidade (como o EDM) são robustos a perturbações de cronograma (SSC $\approx$ 0), enquanto modelos de qualidade inferior ou menos convergidos (como o DDPM testado) são frágeis (SSC > 0).
3. Esclarecimento de Mecanismos: O trabalho desvenda os efeitos da estocasticidade, do condicionamento e do reaquecimento explícito, resolvendo a confusão sobre por que certos métodos estocásticos ou condicionados têm sucesso enquanto cronogramas puramente não monotônicos falham.

Os autores concluem que o espaço de busca para o design útil de amostradores permanece dentro de cronogramas monotônicos, e que a variação nas penalidades de reaquecimento serve como um indicador estrutural da qualidade do removedor de ruído.