Diffusion Models Observe Only Gradients: A Geometric Perspective on Score Matching Errors

Resumo Técnico: Modelos de Difusão Observam Apenas Gradientes

Declaração do Problema
Modelos de difusão baseados em score são tipicamente treinados minimizando o erro de correspondência de score $L_2$ integrado no tempo. Análises teóricas padrão dependem deste erro $L_2$ completo para limitar a discrepância de amostragem (por exemplo, divergência de Kullback-Leibler) entre as distribuições aprendida e alvo. Este artigo identifica uma falha fundamental nesta abordagem: o erro de score $L_2$ completo não é a medida intrínseca da qualidade da distribuição marginal. Um modelo de difusão aprendido pode incorrer em um erro de score $L_2$ arbitrariamente grande enquanto coincide perfeitamente com a distribuição alvo. Os autores argumentam que a métrica $L_2$ padrão falha em distinguir componentes de erro que afetam as amostras geradas daqueles que não afetam.

Metodologia: Decomposição Geométrica
A metodologia central envolve a decomposição do campo vetorial de erro de estimativa de score, $e_s = \hat{s}_s - \nabla \log p^\star_s$, em dois componentes ortogonais usando uma decomposição de Helmholtz-Hodge relativa à densidade alvo $p^\star_s$:

1. Componente de Gradiente Observável ($\Pi_{G_s} e_s$): A projeção do erro no espaço dos campos de gradiente.
2. Componente Solenoidal Invisível ($\Pi_{G_s^\perp} e_s$): A projeção no complemento ortogonal (campos livres de divergência com relação à densidade ponderada).

Os autores demonstram que a dinâmica marginal de um processo de difusão é governada pela equação de Fokker-Planck, que depende do erro de score exclusivamente através de um termo de divergência ponderada, $\nabla \cdot (p^\star_s e_s)$.

• O componente de gradiente contribui para esta divergência e influencia diretamente a evolução das distribuições marginais.
• O componente solenoidal satisfaz $\nabla \cdot (p^\star_s e_{inv}) = 0$. Consequentemente, ele é estruturalmente invisível para a dinâmica de Fokker-Planck marginal; adicionar um campo de erro puramente solenoidal não altera as distribuições marginais em nenhum passo de tempo, embora aumente a norma $L_2$ do erro.

Principais Contribuições

1. Resultado de Impossibilidade (Teorema 3.1):
   Os autores provam que nenhuma função monótona do erro de score $L_2$ completo pode limitar uniformemente de forma inferior qualquer divergência de distribuição significativa (por exemplo, divergência KL) entre os modelos aprendido e alvo. Isso ocorre porque erros puramente solenoidais podem ter normas $L_2$ arbitrariamente grandes enquanto deixam as distribuições marginais idênticas ao alvo (ou seja, $KL=0$). Isso estabelece que o erro $L_2$ completo não é a quantidade intrínseca que controla a qualidade da amostragem.

2. Limite Superior Mais Estreito para a Divergência KL (Teorema 3.2):
   Ao focar apenas no componente de gradiente observável, os autores derivam um novo limite superior para a divergência KL:
   $$KL(p^\star_{t_0} \parallel \hat{p}_{t_0}) \lesssim \frac{1}{2} \int_{t_0}^T \sigma_s^2 \|\Pi_{G_s} e_s\|_{L_2(p^\star_s)}^2 ds$$
   Este limite é estritamente mais estreito do que o limite padrão baseado em Girsanov sempre que o componente solenoidal é não-zero. Os autores identificam a imprecisão do limite padrão como o "custo" de operar sobre a dinâmica do espaço de caminhos em vez da dinâmica do espaço marginal. Eles mostram ainda que este limite pode ser recuperado via um argumento de Girsanov aplicado a um representante marginalmente equivalente do processo aprendido que retém apenas o drift observável.

3. Estimador Tratável para o Erro Observável (Seção 4):
   Como projetar explicitamente erros em campos de gradiente é computacionalmente intratável em altas dimensões, os autores propõem uma identidade de Sobolev dual para estimar a norma do componente de gradiente. Eles formulam o problema como uma otimização não restringida sobre uma rede "crítica" de valor escalar $\phi_\psi$:
   $$\|\Pi_{G_s} e_s\|_{L_2(p^\star_s)}^2 = \sup_{\phi} \left\{ 2 \mathbb{E}[\nabla \phi \cdot e_s] - \mathbb{E}[\|\nabla \phi\|^2] \right\}$$
   Este estimador evita a projeção explícita e pode ser computado usando amostragem padrão da distribuição de dados ruidosos.

Resultos
Os autores validam suas descobertas teóricas empiricamente no Fashion-MNIST e CIFAR-10 através de várias capacidades de modelo:

• Decomposição de Erro: Durante o treinamento, o componente de gradiente do erro de score diminui significativamente (por ordens de magnitude), enquanto o componente solenoidal sobe cedo e estabiliza, eventualmente representando quase todo o erro residual.
• Estreitamento do Limite: O limite padrão de Girsanov satura no nível do patamar do erro solenoidal, falhando em refletir melhorias subsequentes no aprendizado. Em contraste, o novo limite (baseado no componente de gradiente) continua a diminuir, acompanhando a melhoria real do modelo.
• Correlação com a Qualidade da Amostra: A norma do componente de gradiente ($\|\Pi_{G} e\|^2$) exibe uma correlação de Spearman substancialmente maior com o Fréchet Inception Distance (FID) do que o erro $L_2$ completo. Esta correlação mantém-se através de diferentes capacidades de modelo, sendo o gap mais pronunciado em modelos menores.

Significância e Alegações
O artigo afirma fornecer uma perspectiva geométrica sobre os erros de correspondência de score que explica por que os objetivos de treinamento padrão podem ser ineficientes ou enganosos em relação à qualidade da amostra.

• Esclarece que a correspondência de score de denoising (DSM) padrão minimiza o erro $L_2$ completo, penalizando inadvertidamente componentes solenoidais que não afetam a distribuição gerada.
• A métrica de erro observável proposta serve como um melhor diagnóstico para a qualidade do aprendizado, oferecendo um limite teórico mais estreito para a divergência KL e uma ferramenta prática que correlaciona mais fortemente com métricas perceptuais como o FID.
• O trabalho sugere que a "imprecisão" dos limites existentes não é um artefato matemático, mas uma consequência estrutural de analisar distribuições de espaço de caminhos quando apenas a dinâmica marginal importa para a geração.

Os autores posicionam este trabalho como um refinamento da compreensão teórica dos modelos de difusão, oferecendo uma medida mais intrínseca de erro que se alinha ao mecanismo real (dinâmica de Fokker-Planck) que governa a geração de amostras. Eles não propõem substituir o objetivo de treinamento padrão, mas sugerem o uso do estimador do componente de gradiente como uma ferramenta de diagnóstico para entender melhor a dinâmica de treinamento e a utilização de capacidade.