Resumo Técnico: Otimização Hierárquica de Cronogramas para Amostragem Rápida e Robusta de Modelos de Difusão

Declaração do Problema

Os modelos probabilísticos de difusão estabeleceram um novo padrão para a fidelidade generativa, mas sofrem com processos de amostragem iterativa computacionalmente intensivos. O número total de avaliações de função (NFE) necessário para gerar uma imagem de alta qualidade frequentemente atinge centenas ou milhares, criando um gargalo para aplicações em tempo real. Embora a Otimização de Cronograma — encontrar uma distribuição ótima de passos de tempo para um NFE fixo e pequeno sem retreinar o modelo — ofereça uma estratégia de aceleração sem treinamento, os paradigmas existentes falham em satisfazer simultaneamente quatro princípios fundamentais:

1. Adaptabilidade: A capacidade de derivar cronogramas adaptados a características específicas do modelo e orçamentos de NFE, em vez de depender de regras fixas e genéricas.
2. Eficácia: A capacidade de produzir amostras de alta fidelidade.
3. Robustez Prática: Garantir que o objetivo teórico esteja alinhado com a fidelidade real, evitando soluções patológicas (por exemplo, passos de tempo agrupados excessivamente próximos).
4. Eficiência Computacional: Manter o custo de busca pelo cronograma ótimo praticamente viável.

Os métodos atuais lutam para equilibrar esses aspectos: abordagens baseadas em regras carecem de adaptabilidade; a otimização perceptiva sacrifica a eficiência; e a otimização principista frequentemente sofre com paisagens não convexas que aprisionam buscas locais em mínimos subótimos ou carecem de robustez.

Metodologia: Otimizador de Cronograma Hierárquico (HSO)

Para abordar essas limitações, os autores propõem o Otimizador de Cronograma Hierárquico (HSO), um novo framework de otimização de dois níveis que reformula a busca por um cronograma globalmente ótimo em um problema mais tratável. O HSO alterna iterativamente entre dois níveis sinérgicos:

1. Arquitetura do Framework

• Nível Superior (Busca Global): Em vez de buscar diretamente no espaço de alta dimensão do NFE, o HSO busca uma estratégia de inicialização ótima dentro de um espaço de hiperparâmetros de baixa dimensão ($\psi \in \mathbb{R}^3$). Essa estratégia gera um cronograma inicial $\Lambda_{init}$. A busca emprega um algoritmo evolutivo baseado em população (por exemplo, Evolução Diferencial) para navegar na paisagem não convexa.
• Nível Inferior (Otimização Local): Começando a partir do $\Lambda_{init}$ gerado pelo nível superior, este nível realiza uma busca local para refinar o cronograma em um $\Lambda_{opt}$ ótimo. Isso é executado usando um algoritmo padrão de otimização com restrições (por exemplo, Região de Confiança).

2. Inovações Técnicas Chave

O framework é guiado por duas inovações específicas projetadas para garantir os quatro princípios fundamentais:

• Proxy de Erro do Ponto Médio (MEP): Servindo como a função objetivo ($J_{lower}$) para a otimização local de nível inferior, o MEP é uma objetivo agnóstico ao solver e numericamente estável. Diferentemente de métodos anteriores vinculados a solvers específicos (por exemplo, UniPC), o MEP é derivado aproximando a integral global de erro de geração usando uma regra híbrida de ponto médio. Ele isola o termo exponencial analiticamente tratável enquanto aproxima o termo da rede neural, resultando em um objetivo de alta ordem precisa ($O(h^3)$) e computacionalmente eficiente ($O(N)$).
• Fitness Penalizado por Espaçamento (SPF): Servindo como a função de fitness ($F_{upper}$) para a busca global de nível superior, o SPF garante robustez prática. Ele aumenta o erro teórico (do MEP) com um termo de penalidade dinâmico ($L_{penalty}$) que desencoraja passos de tempo "patologicamente próximos". A penalidade se adapta com base no orçamento de NFE, impondo um espaçamento mínimo de passo para prevenir instabilidade numérica e "colapso de passo" (onde os passos se agrupam no final do processo de geração).

Contribuições Principais

1. Framework HSO: Um novo framework de otimização de dois níveis que satisfaz com sucesso Adaptabilidade, Eficácia, Robustez Prática e Eficiência Computacional simultaneamente, superando os trade-offs dos paradigmas existentes.
2. Inovações Técnicas: A introdução do objetivo MEP para otimização local robusta e da função SPF para guiar a busca global em direção a cronogramas estáveis e práticos.
3. Desempenho de Estado da Arte: Demonstração de desempenho superior no regime de NFE extremamente baixo (por exemplo, NFE < 5) sem retreinamento.

Resultados Experimentais

Os autores avaliaram o HSO no modelo Stable Diffusion v2.1 usando os benchmarks LAION-Aesthetics 6.5+, MS-COCO e ImageNet 512x512, comparando-o com o método principista de otimização mais avançado (DM-NonUni) e outros aceleradores sem treinamento/com treinamento.

• Eficácia: O HSO supera significativamente as linhas de base, particularmente em NFEs muito baixos. No LAION-Aesthetics com NFE=5, o HSO alcança um FID de 11,94 (vs. 13,91 para o DM-NonUni). Com NFE=4, o HSO mantém um FID de 15,71, enquanto a linha de base degrada significativamente (18,96). A vantagem é ainda mais pronunciada com o solver DDIM, onde o HSO reduz o FID de 68,92 (linha de base) para 24,77 em NFE=4.
• Adaptabilidade: Experimentos mostram que o HSO descobre diferentes parâmetros de inicialização ótimos ($\psi^*$) para diferentes orçamentos de NFE e diferentes modelos (por exemplo, PixArt-α vs. Stable Diffusion v2.1), confirmando sua capacidade de se adaptar a restrições específicas e cronogramas de ruído do modelo.
• Robustez Prática: Sem a penalidade SPF, a otimização colapsa em cronogramas instáveis (por exemplo, passos de tempo [999, 70, 9, 9]) com pontuações de FID catastróficas (165,48). Habilitar o SPF restaura a estabilidade, resultando em um FID médio de 19,76.
• Eficiência Computacional: O HSO requer um custo de otimização único de menos de 8 segundos em uma CPU de nível consumidor. Isso é ordens de magnitude mais rápido do que métodos de busca global como o AutoDiffusion (~1,1 dia) e contorna os custos substanciais de treinamento de métodos baseados em treinamento (frequentemente dias ou meses de GPU).

Significado e Alegações

O artigo alega que o HSO apresenta um paradigma altamente prático e eficiente para aceleração de modelos de difusão. Ao desacoplar a busca por uma estratégia de inicialização global do refinamento local, o HSO navega efetivamente pela paisagem de otimização não convexa. Os autores afirmam que essa abordagem estabelece um novo estado da arte para amostragem sem treinamento no regime de NFE extremamente baixo, alcançando qualidade de amostra notável (por exemplo, FID 11,94 em NFE=5) com tempo de preparação negligenciável. O trabalho enfatiza que tal desempenho é alcançado não por meio de retraining custoso, mas através de um processo de otimização robusto e único que respeita as restrições fundamentais da implantação prática.