Resumo Técnico: Mitigação de Alucinações em Modelos de Difusão com Orientação Dinâmica

Definição do Problema

Modelos de difusão, embora dominantes na geração de imagens de alta fidelidade, sofrem de "alucinações" — amostras que contêm inconsistências estruturais (ex: anatomia incorreta como dedos extras ou partes do corpo ausentes) que estão fora do suporte da verdadeira distribuição de dados. Os autores atribuem essas alucinações à interpolação de modos.

Descobertas recentes indicam que a função de score aprendida em Modelos Probabilísticos de Difusão de Denoising (DDPMs) é excessivamente suave nas regiões de baixa densidade entre os modos de dados. Enquanto a verdadeira função de score deveria ser nítida nessas regiões intermediárias para forçar o amostrador a dar passos corretivos maiores, a suavidade aprendida faz com que o processo de denoising "aprisione" as amostras, resultando em interpolações semanticamente inválidas entre modos incompatíveis.

Métodos de orientação existentes (ex: Orientação por Classificador, Orientação Livre de Classificador) tipicamente direcionam as amostras para regiões de alta probabilidade com base em uma condição fixa fornecida no início da amostragem. Os autores argumentam que, se essa condição fixa estiver desalinhada com o ruído inicial ou com a trajetória em evolução, a orientação pode empurrar a amostra para regiões que exigem grandes passos corretivos, levando ao excesso (overshooting) ou à falta (undershooting) do modo alvo, gerando alucinações. Além disso, as abordagens atuais frequentemente tratam as alucinações como um problema de filtragem post-hoc ou uma questão de alinhamento entre texto e imagem, em vez de uma falha fundamental na própria trajetória de amostragem.

Metodologia: Orientação Dinâmica (DG)

O artigo propõe a Orientação Dinâmica (DG), um método que mitiga alucinações ao tornar a função de score adaptativamente mais nítida durante o processo de amostragem, em vez de depender de condições estáticas ou filtragem pós-geração.

Mecanismo Central

Em vez de se comprometer com um único alvo de orientação (classe $c$) desde o início, a DG identifica o modo mais provável $c^*$ para a amostra ruidosa atual $x_t$ em cada passo de denoising. A orientação é então aplicada em direção a este modo selecionado dinamicamente.

O algoritmo aproxima uma função de score mais nítida $\hat{s}_\theta(x_t)$ da seguinte forma:
$$\hat{s}_\theta(x_t) := \sum_{c} \mathbb{1}_{c^*}(c) \nabla_{x_t} \log p_\theta(x_t | c)$$
onde $c^* = \arg \max_{c \in C} \log p(c | x_t)$.

Ao recalcular a classe mais provável a cada passo, o sinal de orientação permanece alinhado com a direção do score local, impedindo que a trajetória fique travada em caminhos que exigem passos de interpolação de grande escala, os quais induzem alucinações.

Variantes de Implementação

1. Condicionamento Discreto (Orientação por Classificador): Para conjuntos de dados com rótulos discretos (ex: classes do ImageNet, tipos de formas), a DG utiliza um classificador para prever $p(c|x_t)$ e aplica gradientes em direção à classe mais provável $c^*$.
2. Pseudo-Classes (Agrupamento): O método não requer classes semânticas pré-definidas. Os autores demonstram que o agrupamento de vizinhanças semanticamente coerentes na distribuição de dados (ex: usando características do DINOv2) para criar "pseudo-classes" é suficiente. Isso permite que a DG isole direções propensas a alucinações sem mapeá-las para conceitos interpretáveis.
3. Texto-para-Imagem (Orientação Livre de Classificador): Para modelos condicionados por texto, a DG é estendida através do ajuste dinâmico do prompt de texto. Um Modelo de Linguagem-Visão (VLM) observa as predições intermediárias de denoising e, se a imagem corresponder a um "ramo" específico de um prompt (gerado por um LLM para resolver ambiguidades), o prompt é atualizado para esse ramo específico. Isso efetivamente torna o score mais nítido ao longo da direção da ambiguidade resolvida.

Afiação Seletiva

Um insight teórico fundamental é que a DG afia seletivamente a função de score. Ela aumenta a magnitude do gradiente apenas ao longo das direções associadas ao modo de orientação selecionado (onde ocorrem as alucinações), enquanto deixa outras direções (ex: variações semânticas válidas como o tom de pele) inalteradas. Isso preserva a diversidade das amostras enquanto suprime gerações inválidas.

Principais Contribuições

1. Algoritmo de Orientação Dinâmica: Uma nova estratégia de amostragem que seleciona adaptativamente alvos de orientação em cada passo para evitar regiões de interpolação de baixa probabilidade.
2. Afiação de Score Seletiva: Demonstração de que a DG mitiga alucinações ao afiar a função de score especificamente nas direções que induzem alucinações, preservando a diversidade em outras áreas.
3. Mitigação no Momento da Geração: A primeira abordagem que aborda alucinações durante o processo de amostragem, em vez de detecção/rejeição post-hoc ou pós-treinamento.
4. Extensão para Pseudo-Classes: Um método principado para estender a DG para cenários sem rótulos de classe explícitos, utilizando agrupamento baseado em dados.
5. Adaptação para Texto-para-Imagem: Uma extensão da DG para modelos de difusão latente usando ajuste dinâmico de prompt via VLMs e LLMs.

Resultados Experimentais

Conjuntos de Dados Controlados

Os autores avaliaram a DG em conjuntos de dados sintéticos onde as alucinações são estritamente definidas:

• Formas Únicas: Imagens com 1-3 instâncias da mesma forma. Alucinações são formas mistas.
  • Resultado: A DG alcançou uma redução de 74,21% na taxa de alucinação (HR), superando significativamente a Filtragem de Variância (11,58%) e a Orientação por Classificador (11,05%).
• Formas Mistas: Imagens com até uma instância de cada forma. Alucinações são múltiplas instâncias da mesma forma.
  • Resultado: A DG alcançou uma redução de 72,97% na HR, enquanto a Orientação por Classificador na verdade aumentou as alucinações (-1,92%).
• Hands-11k: Imagens de mãos humanas. Alucinações são erros anatômicos.
  • Resultado: A DG alcançou uma redução de 45,12% na HR, superando a Filtragem de Variância e a Orientação por Classificador.

Benchmarks de Larga Escala (ImageNet-1k)

Como as alucinações são difíceis de definir no ImageNet, os autores usaram métricas de aproximação: Precisão (fração de amostras no suporte dos dados reais) e Inception Score (IS).

• Desempenho: A DG superou consistentemente a Orientação por Classificador em várias escalas de orientação.
• Métricas: Na melhor configuração, a DG melhorou a Precisão em 8 pontos e o Inception Score em 5 pontos em relação ao baseline, mantendo a diversidade (o Recall não foi significativamente reduzido).
• Ablação: Os autores descobriram que aplicar a DG apenas durante os passos intermediários $[T_1, T_2]$ (especificamente de 800 a 400 em sua configuração) produzia os melhores resultados, evitando a rigidez da orientação de trajetória total.

Geração Texto-para-Imagem

Aplicado ao Stable Diffusion 2.1 com um estudo de usuários envolvendo 18 participantes:

• Redução de Alucinação: A DG reduziu a taxa percebida de alucinação para 100% dos participantes, com uma redução média de 14,1% (de 52,7% para 45,3%).
• Preferência: Os participantes preferiram as imagens geradas pela DG em relação ao baseline (taxa de preferência de 38,7% vs 27,3%).

Significância e Alegações

O artigo afirma que a Orientação Dinâmica representa uma mudança fundamental no tratamento das alucinações de modelos de difusão. Ao intervir diretamente no processo generativo, a DG evita que as alucinações surjam, evitando o desperdício computacional de gerar e depois descartar amostras falhas.

Os autores enfatizam que sua abordagem é fundamentada: ela se baseia na necessidade matemática de afiar a função de score em regiões de baixa densidade para evitar a interpolação de modos. Crucialmente, eles demonstram que isso pode ser alcançado sem sacrificar as interpolações "válidas" que contribuem para a diversidade e generalização das amostras. A capacidade de usar pseudo-classes e o ajuste dinâmico de prompts sugere que a DG é uma solução escalável para tarefas de geração complexas do mundo real, onde definições rígidas de classe são insuficientes.

O trabalho conclui que a DG fornece um passo em direção a modelos de difusão mais confiáveis, oferecendo um mecanismo para controlar o equilíbrio entre fidelidade e diversidade ao visar as propriedades geométricas específicas da função de score aprendida que levam a inconsistências estruturais.