Resumo Técnico: Orientação Livre de Classificador com Informação Teórica e Otimização de Cronograma Adaptativo

Declaração do Problema

Os modelos de difusão alcançaram um desempenho de estado da arte em tarefas generativas, com a Orientação Livre de Classificador (Classifier-Free Guidance - CFG) servindo como o mecanismo padrão para controlar a geração condicional (ex: aderência a prompts de texto ou rótulos de classe). A CFG opera combinando estimativas de score condicionais e incondicionais usando um peso de orientação $w$. Embora o aumento de $w$ melhore a consistência da condição e a qualidade perceptual, isso tipicamente degrada a diversidade das amostras e a cobertura da distribuição.

Existe uma lacuna crítica na compreensão de como controlar o equilíbrio entre consistência e cobertura ao longo da trajetória de difusão reversa. A intuição prevalente trata a CFG como uma inclinação distributiva de tempo fixo em direção à condição. No entanto, o artigo demonstra que a distribuição real induzida pela CFG não é simplesmente a distribuição inclinada de tempo fixo dada pelo campo de score orientado em qualquer passo individual. Em vez disso, a distribuição final gerada é o resultado acumulado de toda a trajetória reversa. Consequentemente, um equilíbrio desejado especificado no endpoint limpo (ex: um equilíbrio específico entre alinhamento com a condição e proximidade da distribuição de dados) não se traduz diretamente em um peso de orientação constante $w$ aplicado durante o processo. Ajustar a CFG continua sendo difícil porque a relação entre o cronograma de orientação e a distribuição final é não-local e implícita, tornando difícil estimar objetivos de consistência-cobertura diretamente a partir de amostras.

Metodologia

Os autores propõem uma estrutura de teoria da informação para otimizar os cronogramas de CFG visando explicitamente a distribuição real induzida pelo amostrador orientado.

1. Objetivo de Teoria da Informação

O núcleo do método é uma função objetivo que minimiza a divergência de Kullback-Leibler (KL) direta entre a distribuição real induzida pela CFG $q^w_0(x_0|y)$ e uma "referência de endpoint limpo" $q^\lambda_{0,clean}(x_0|y)$.

• Distribuição de Referência: Definida como $q^\lambda_{0,clean}(x_0|y) \propto p_0(x_0)p_0(y|x_0)^\lambda$, onde $\lambda$ é um parâmetro de referência que especifica o equilíbrio desejado. O termo $p_0(x_0)$ ancora a referência à distribuição original de dados, enquanto $\lambda$ controla o peso na consistência da condição.
• Decomposição: Minimizar a divergência KL $KL(q^w_0 \parallel q^\lambda_{0,clean})$ decompõe-se em dois termos interpretáveis:
  1. Termo de Consistência: $-\lambda \mathbb{E}[\log p_0(y|x_0)]$, que recompensa o alinhamento com a condição.
  2. Termo de Cobertura: $KL(q^w_0 \parallel p_0)$, que penaliza o desvio da distribuição original de dados limpos.

2. Estimativa ao Nível da Trajetória

Como a distribuição induzida $q^w_0$ é implícita e disponível apenas através de trajetórias geradas, os autores derivam identidades ao nível da trajetória para estimar o objetivo sem estimativa de densidade explícita.

• Estimador de Consistência: Usando identidades do tipo de Bruijn, o termo de consistência é expresso como uma integral ao longo da trajetória de fluxo de probabilidade envolvendo a divergência e os produtos internos do diferencial de score $s^{diff}_t = s^{con}_t - s^{un}_t$ e o campo de score orientado.
• Estimador de Cobertura: Similarmente, a cobertura KL é reescrita como uma integral ao longo da trajetória, permitindo a estimativa usando apenas avaliações de score ($s^{un}_t, s^{con}_t$) e amostras geradas.
• Otimização Discreta: O objetivo contínuo é discretizado sobre a grade de amostragem. Os autores empregam um algoritmo de otimização iterativa (semelhante ao SGD com uma verificação de reamostragem) para aprender um cronograma dependente do tempo $w = \{w_t\}$. Em cada iteração, trajetórias são geradas sob o cronograma atual, uma atualização de proposta é computada com base no gradiente do objetivo discreto, e a atualização é aceita apenas se a reamostragem sob o novo cronograma reduzir o erro estimado.

Principais Contribuições

1. Estrutura Teórica: O artigo estabelece que a CFG deve ser otimizada como um problema de nível de trajetória, em vez de uma inclinação de densidade de tempo fixo. Ele formaliza o descompasso entre a distribuição inclinada do endpoint limpo e a distribuição real induzida pela CFG.
2. Formulação de Objetivo: Introduz um objetivo baseado em KL que equilibra consistência e cobertura usando uma referência de endpoint limpo, decompondo o problema em termos de consistência e cobertura estimáveis.
3. Estimadores de Trajetória: Os autores derivam fórmulas para estimar essas quantidades de teoria da informação diretamente de amostras e avaliações de score, evitando a necessidade de estimativa de densidade explícita.
4. Otimização de Cronograma Adaptativo: Desenvolvem um algoritmo para aprender pesos de orientação não uniformes através de níveis de ruído, demonstrando que o cronograma ideal não é constante, mas varia significamente ao longo da trajetória reversa.

Resultados Experimentais

O método foi avaliado no ImageNet-512 (usando EDM-XXL) e no COCO text-to-image (usando SD-XL).

• ImageNet-512: Os cronogramas adaptativos aprendidos alcançaram uma fronteira de precisão-recall superior comparado à orientação constante. Especificamente, eles melhoraram o recall (cobertura distributiva) em níveis de precisão comparáveis. O melhor cronograma adaptativo alcançou um FID de 1.45, competitivo com baselines de orientação de intervalo desenhadas à mão (FID 1.40) e significativamente melhor que o melhor baseline de orientação constante (FID 1.83).
• COCO (SD-XL): Em toda a força média de orientação correspondente ($\bar{w} = 5, 7, 9$), os cronogramas aprendidos consistentemente alcançaram scores CLIP mais altos (consistência texto-imagem) e FIDs mais baixos (qualidade de imagem) do que a orientação constante. Notavelmente, os cronogramas adaptativos mantiveram ou melhoraram os scores LPIPS (variação dentro do prompt), indicando que os ganhos em qualidade e consistência não vieram às custas da diversidade.
• Análise de Cronograma: Os cronogramas aprendidos exibiram um padrão qualitativo consistente: orientação fraca em regimes de alto ruído, orientação mais forte em intervalos selecionados de ruído médio, e atividade seletiva em regimes de baixo ruído.
• Ablação e Visualização: Ablações por estágio revelaram que a orientação em alto ruído altera principalmente o layout global, enquanto a orientação em baixo ruído afeta detalhes locais. Visualizações de trajetória mostraram que uma orientação constante forte pode "travar prematuramente" estruturas incorretas (ex: gerando cinco copos em vez de quatro), enquanto o cronograma adaptativo atrasa esse compromisso, permitindo que o modelo resolva ambiguidades corretamente.

Significância e Alegações

O artigo alega que tratar a CFG como um controle escalar estático é suboptimal porque a dinâmica reversa orientada induz uma distribuição que difere fundamentalmente das interpretações de inclinação de tempo fixo. Ao otimizar a distribuição real induzida pelo amostrador em direção a uma referência de endpoint limpo, o método proposto alcança um melhor equilíbrio entre consistência de condição e cobertura distributiva.

Os autores enfatizam que sua abordagem não requer o retreinamento do modelo de difusão; ela otimiza o cronograma de amostragem usando modelos pré-treinados. Os resultados sugerem que o tempo de aplicação da orientação é tão crítico quanto sua magnitude. Os cronogramas aprendidos revelam que a orientação eficaz é não uniforme, evitando intervenção excessivamente forte em níveis de ruído elevados (que interrompe a estrutura global) e focando a orientação onde ela melhora o alinhamento da condição com o mínimo de interrupção. Isso fornece uma alternativa fundamentada em teoria da informação ao ajuste heurístico de pesos de CFG.