Fractals made Practical: Denoising Diffusion as Partitioned Iterated Function Systems

1. Problema e Motivação

Os modelos de difusão baseados em score (pontuação) modernos geram imagens de alta qualidade através de um processo sequencial de remoção de ruído. Embora a teoria contínua (baseada em Equações Diferenciais Estocásticas - SDEs) ofereça garantias globais de convergência, ela trata a rede neural aprendida como uma "caixa preta".

O artigo busca responder a duas perguntas fundamentais que a perspectiva contínua não esclarece:

1. Como uma cadeia de amostragem discreta (como DDIM) monta o contexto espacial global nos passos iniciais (alto ruído) e sintetiza detalhes localizados nos passos finais (baixo ruído)?
2. Por que a autoatenção (self-attention) é tão eficaz como primitiva generativa neste contexto?

O autor propõe que a cadeia reversa determinística do DDIM opera, na verdade, como um Sistema de Funções Iteradas Partitionado (PIFS), uma estrutura matemática originalmente desenvolvida para compressão de imagens fractais.

2. Metodologia e Estrutura Teórica

O trabalho estabelece uma ponte entre a teoria de difusão e a geometria fractal, analisando o operador de um único passo de difusão ($\Phi_t$) através da lente de sistemas de funções iteradas.

2.1. O PIFS na Difusão

O autor demonstra que o operador DDIM $\Phi_t$ pode ser decomposto em blocos (patches) e que sua dinâmica é governada por condições de contração e expansão:

• Contração Euclidiana (EC): Uma condição global que depende apenas do agendamento de ruído (noise schedule).
• Contração Block-Max (PC): Uma condição local que separa o comportamento dos blocos diagonais (dentro de um patch) do comportamento de acoplamento cruzado (entre patches).

2.2. Três Quantidades Geométricas Computáveis

O artigo deriva três quantidades que caracterizam totalmente a dinâmica de remoção de ruído sem necessidade de avaliar o modelo:

1. Limiar de Contração ($L^*_t$): Um limite inferior para a contração em cada passo, determinado exclusivamente pelo agendamento de ruído.
2. Função de Expansão Diagonal ($f_t(\lambda)$): Descreve como a variância de um patch ($\lambda$) influencia a expansão ou contração do bloco diagonal da Jacobiana.
3. Limiar de Expansão Global ($\lambda^{**}$): A solução de uma equação de Moran discreta. Define a variância crítica acima da qual um patch contribui para a expansão do atrator (gerando diversidade).

2.3. Estrutura de Dois Regimes

A análise revela dois regimes distintos de funcionamento:

• Regime I (Alto Ruído): A atenção é difusa, criando um forte acoplamento cruzado entre patches. Um campo de "supressão direcional" aprendido pela rede mantém os blocos diagonais contraídos (abaixo do limiar de expansão), permitindo a montagem do contexto global.
• Regime II (Baixo Ruído): A atenção torna-se local. A supressão é liberada "patch a patch" em ordem estrita de variância (patches de baixa variância são liberados primeiro, seguidos pelos de alta variância). Isso permite a síntese de detalhes finos.

2.4. Dimensão do Atrator

A dimensão fractal do atrator (que corresponde à diversidade da geração) é calculada analiticamente usando a Dimensão de Kaplan-Yorke, derivada do espectro de Lyapunov. A dimensão é positiva se e somente se a rede de dados contiver direções de patch que excedem o limiar de expansão global, ajustado pelo campo de supressão aprendido.

3. Principais Contribuições

1. Unificação Teórica: Demonstra que o treinamento de score-matching é o análogo difusivo da minimização do erro de "colagem" (collage error) de Barnsley, conectando diretamente a função de perda de treinamento à convergência para o atrator do PIFS.
2. Explicação da Autoatenção: Prova que a autoatenção é a primitiva natural para a estrutura PIFS, pois controla o acoplamento cruzado ($\delta_{cross}$). A transição de atenção difusa para local explica a mudança de regimes.
3. Critérios de Design Otimizados: Deriva três critérios geométricos para o design de agendamentos de ruído e objetivos de treinamento, baseados na igualdade de trabalho de contração e contribuição de dimensão.
4. Explicação de Heurísticas Empíricas: Mostra que quatro escolhas de design populares na literatura surgem como soluções aproximadas para os problemas de otimização geométrica derivados do PIFS:
   • Offset do agendamento Cosine (Nichol & Dhariwal).
   • Deslocamento de logSNR dependente da resolução (Hoogeboom et al.).
   • Pesagem de perda Min-SNR (Hang et al.).
   • Agendamento de amostragem "Align Your Steps" (Sabour et al.).

4. Resultados Empíricos

O autor valida a teoria em modelos pré-treinados do DDPM no CIFAR-10 e CelebA-HQ:

• Validação dos Regimes: Confirma que, no Regime I, a contração global é mantida pela supressão direcional e acoplamento cruzado, enquanto no Regime II, os blocos diagonais tornam-se expansivos patch a patch.
• Correlação de Spearman: Observa-se uma inversão na correlação de Spearman entre a variância do patch e a expansão diagonal durante a transição de regimes, confirmando a liberação estratificada (patches de baixa variância liberados antes).
• Dimensão de Kaplan-Yorke:
  • No CIFAR-10, a supressão mantém a dimensão do atrator próxima de zero (alta fidelidade, baixa diversidade intrínseca no atrator teórico, mas a rede gera diversidade via ruído inicial).
  • No CelebA-HQ (resolução mais alta), a supressão aprendida é forte o suficiente para manter todos os patches contraídos, resultando em uma dimensão de atrator efetiva de zero, o que explica a alta fidelidade visual e a menor diversidade de amostras típicas desses modelos em alta resolução.
• Escalabilidade: A divergência do score treinado em relação ao score Gaussiano escala como $O(\sqrt{\bar{\alpha}_t})$ no regime de alto ruído, conforme previsto.

5. Significado e Impacto

Este trabalho oferece uma mudança de paradigma na compreensão dos modelos de difusão:

• Geometria vs. Probabilidade: Move o foco de garantias probabilísticas contínuas para uma análise geométrica discreta baseada em fractais.
• Interpretabilidade: Explica por que certas arquiteturas (como Transformers com autoatenção) e agendamentos funcionam, não apenas que funcionam.
• Guia Prático: Fornece uma linguagem de design unificada para engenheiros de IA, permitindo a criação de agendamentos de ruído e funções de perda que otimizam a geometria do atrator, melhorando a estabilidade e a qualidade da geração.

Em suma, o artigo revela que o poder dos modelos de difusão reside na exploração da auto-similaridade local das imagens naturais (um princípio fractal), gerenciada dinamicamente por uma rede neural que atua como um sistema de funções iteradas partitionado, alternando entre a montagem global e a síntese local de detalhes.