🤖 machine learning

Adversarial Learning of Classifier-Free Guidance Schedules

Este artigo propõe um framework de aprendizado adversarial que otimiza dinamicamente cronogramas de orientação livre de classificador (classifier-free guidance) como uma função do tempo de difusão, condicionamento e amostras ruidosas, ao enquadrar o problema como estimativa de razão de densidade, superando, assim, métodos estáticos e heurísticos na geração de texto para imagem.

Autores originais: Ashwini Pokle, Alexandre Galashov, Arnaud Doucet, Mauricio Delbracio, Valentin De Bortoli

Publicado 2026-08-17

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Ashwini Pokle, Alexandre Galashov, Arnaud Doucet, Mauricio Delbracio, Valentin De Bortoli

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando ensinar um robô a pintar quadros baseando-se em suas descrições faladas. Você diz a ele: "Desenhe um cachorro preto dormindo sobre um mapa", e ele começa com uma tela em branco que parece estática de uma TV sem sinal. O robô então limpa lentamente o ruído, passo a passo, transformando essa neve em uma imagem clara. É assim que os modelos modernos de "difusão" funcionam. Mas aqui está a parte complicada: o robô precisa de um pequeno empurrão para garantir que ele ouça suas palavras e não apenas desenhe um cachorro aleatório ou um mapa aleatório. Esse empurrão é chamado de "orientação" (guidance). Pense nisso como um guia turístico segurando uma coleira. Se o guia puxar muito suavemente, o robô se perde e ignora suas instruções. Se o guia puxar com muita força, o robô fica confuso, a imagem torna-se saturada e estranha, ou começa a parecer uma versão de desenho animado da realidade.

Por muito tempo, os cientistas usaram uma abordagem de "tamanho único": eles definiam a força de puxada do guia como um número único e fixo para todo o processo de pintura. Era como dizer ao guia turístico para puxar com exatamente a mesma força desde o primeiro segundo da caminhada até o último. Embora isso funcionasse razoavelmente bem, muitas vezes levava a resultados desorganizados porque diferentes estágios da pintura precisam de diferentes quantidades de ajuda. Algumas partes da imagem precisam de um empurrão suave, enquanto outras precisam de uma mão firme. A grande questão neste campo tem sido: Podemos ensinar o guia a mudar sua força de puxada dinamicamente, dependendo exatamente do que o robô está fazendo naquele momento específico?

Este artigo propõe uma nova e inteligente maneira de ensinar o guia do robô como puxar. Em vez de um humano projetar manualmente um cronograma de quando puxar forte ou fraco, os autores permitem que o robô aprenda isso através de um jogo de "adivinhar a coisa real". Eles estabeleceram um sistema onde um "discriminador" (um juiz inteligente) tenta distinguir a diferença entre uma foto real e aquela que o robô está pintando no momento. O guia do robô, então, aprende a ajustar sua força de puxada para que a pintura do robô se pareça tanto com uma foto real que o juiz não consiga distingui-las. Ao jogar este jogo, o guia aprende exatamente quanto puxar em cada etapa do processo, adaptado à imagem específica e às palavras específicas que você deu. Os resultados sugerem que este método cria imagens que são não apenas mais realistas, mas também aderem muito mais à sua descrição original do que os antigos métodos fixos.

O Problema com a Coleira de "Tamanho Único"

Imagine que você está passeando com um cachorro em um parque. Às vezes o cachorro está calmo, e você pode caminhar com uma coleira frouxa. Outras vezes, o cachorro avista um esquilo e precisa de um aperto firme para não sair correndo. Se você mantiver a coleira com a exata mesma tensão o tempo todo, pode ou deixar o cachorro correr para o tráfego (muito frouxa) ou sufocar o cachorro (muito apertada).

No mundo da geração de imagens por IA, esta "coleira" é o peso de orientação (frequentamente chamado de $\omega$ ). Durante anos, pesquisadores usaram um valor constante, geralmente em torno de 7,5, para todo o tempo em que a IA cria uma imagem. Isso funciona, mas não é perfeito. Às vezes a IA fica muito animada e as cores tornam-se neon e supersaturadas; outras vezes, ela ignora os detalhes do seu comando (prompt).

Cientistas tentaram corrigir isso criando "cronogramas" — regras manuais que dizem: "Puxe forte no início, depois puxe suave no meio". Mas essas regras são como um mapa genérico: elas não sabem se o seu cachorro específico é um Chihuahua ou um Dogue Alemão. Elas aplicam a mesma regra para cada imagem, independentemente de quão complexo seja o comando de texto ou do que a imagem atual parece ser.

A Nova Estratégia: Um Jogo de "Real vs. Falso"

Os autores deste artigo decidiram parar de adivinhar as regras e, em vez disso, deixaram a IA aprendê-las através de um jogo. Eles usaram um conceito de aprendizado adversário, que é como um jogo de gato e rato entre duas redes:

O Gerador (O Artista): Esta é a parte que cria a imagem e decide o quão forte puxar a coleira (o peso de orientação) em cada etapa.
O Discriminador (O Juiz): Este é um crítico inteligente treinado para olhar para uma imagem e dizer: "Esta é uma foto real do conjunto de dados ou é a tentativa atual da IA?".

Aqui está o truque de mágica: os autores querem que a imagem "orientada" da IA corresponda perfeitamente à distribuição de fotos reais em cada momento do tempo. Eles chamam isso de consistência marginal.

Para ensinar o Artista, eles estabeleceram um ciclo:

O Juiz olha para uma foto real e para a foto "orientada" atual da IA.
O Juiz tenta distingui-las.
O Artista tenta ajustar seu peso de orientação para enganar o Juiz.
Se o Juiz não consegue notar a diferença, o Artista está fazendo um bom trabalho.

Ao jogar este jogo, o Artista aprende um cronograma dinâmico. Ele aprende que para um comando simples como "um gato", ele pode precisar de um puxão suave, mas para um comando complexo como "um cachorro preto dormindo sobre um mapa", ele precisa puxar de forma diferente dependendo se o pelo do cachorro ou os detalhes do mapa estão sendo formados.

O Que Eles Descobriram

A equipe testou este novo método em um conjunto de dados padrão para tarefas de texto-para-imagem (MS-COCO) usando modelos de diferentes tamanhos. Eles compararam seu "guia de aprendizado" contra a antiga coleira constante e os cronogramas manuais.

Os resultados foram promissores. O método deles, que chamam de GAN + MC (Rede Adversária Generativa com Consistência Marginal), produziu consistentemente imagens que os humanos preferiram mais. Especificamente:

Melhor Alinhamento: As imagens combinaram melhor com os comandos de texto. Por exemplo, ao serem solicitados a desenhar "um cachorro preto deitado sobre um livro de mapas", a IA usando o método deles realmente desenhou o cachorro interagindo com o livro, enquanto outros métodos às vezes perdiam o detalhe ou faziam o cachorro parecer genérico.
Pontuações Estéticas Mais Altas: As imagens pareciam mais bonitas e naturais para os avaliadores humanos.
A Troca (Trade-off): Houve um pequeno porém. A pontuação "FID" (uma métrica que mede o quão próximas as estatísticas da imagem estão de fotos reais) foi ligeiramente maior (pior) para o método deles em comparação com algumas linhas de base. Os autores explicam que este é um efeito colateral conhecido do uso de treinamento adversário e sinais de recompensa; o modelo prioriza parecer "legal" e corresponder ao comando em vez de corresponder à impressão digital estatística exata dos dados de treinamento. No entanto, em termos do que os humanos realmente gostam de ver, o método deles venceu.

Por Que Isso Importa

Este artigo sugere que não precisamos ser nós a projetar manualmente as regras de como a IA deve pintar. Em vez disso, podemos estabelecer um sistema onde a IA aprende a tensão perfeita da "coleia" para cada momento específico da criação.

Os autores observam que, embora isso funcione muito bem, possui algumas limitações. O "guia" que eles treinaram é específico para o tipo de modelo de IA para o qual foi treinado; você não pode simplesmente pegar este guia e usá-lo em um robô completamente diferente sem treiná-lo novamente. Além disso, o processo de treinamento é um pouco complexo e requer um equilíbrio cuidadoso. Mas, por enquanto, sugere que deixar a IA aprender seu próprio cronograma de orientação através de um jogo de "real vs. falso" é uma maneira poderosa de tornar a arte da IA mais obediente às nossas palavras e mais bela aos nossos olhos.

Resumo Técnico: Aprendizado Adversário de Cronogramas de Orientação Livre de Classificador (Classifier-Free Guidance)

Problema
Modelos modernos de difusão e de correspondência de fluxo (flow matching) de texto para imagem (T2I) dependem fortemente da Orientação Livre de Classificador (CFG) para alcançar alta fidelidade de imagem e alinhamento com o prompt. A prática padrão utiliza um peso de orientação estático e global ( $\omega \approx 7.5$ ) em todos os passos temporais, amostras e entradas de condicionamento. Os autores argumentam que essa abordagem estática é subótima; diferentes estados ao longo da trajetória de difusão podem se beneficiar de diferentes níveis de orientação, e um peso alto constante frequentemente introduz artefatos, como a oversaturação. Embora existam cronogramas variáveis no tempo, eles são tipicamente projetados manualmente, dependentes da aplicação e agnósticos à complexidade específica do prompt de texto ou da amostra ruidosa atual. Tentativas anteriores de aprender orientação dinâmica (ex: Galashov et al., 2026) lutaram para equilibrar a qualidade da amostra (FID) com o alinhamento de texto, muitas vezes falhando em superar o CFG constante em métricas de alinhamento devido à alta variância de seus objetivos.

Metodologia
O artigo propõe aprender um cronograma de orientação como uma função do tempo de difusão ( $t$ ), condicionamento ( $c$ ) e da amostra ruidosa atual ( $x_s$ ). A mudança teórica central é a transição da estrita autoconsistência para uma condição mais fraca de consistência marginal. O objetivo é garantir que a distribuição marginal das partículas orientadas ( $p_{s,\omega}^t$ ) corresponda à verdadeira distribuição de dados ( $p_t$ ) em cada passo temporal $t$ ao longo da trajetória de amostragem.

Para impor isso, os autores formulam o problema como uma tarefa de estimativa de razão de densidade dentro de uma estrutura de Redes Adversárias Gerativas (GAN):

Objetivo Adversário:
- Discriminador ( $d_\phi$ ): Treinado para distinguir entre amostras marginais "reais" (extraídas diretamente da distribuição de dados no tempo $t$ ) e amostras orientadas "falsas" (geradas ao realizar um passo orientado do tempo $s$ para $t$ usando os pesos de orientação atuais). O discriminador estima a razão de log-densidade $\log(p_t(x_t) / p_{s,\omega}^t(x_t))$ .
- Gerador (Rede de Orientação $\omega_\psi$ ): Um MLP (Perceptron Multicamadas) leve que prevê o peso de orientação ideal $\omega$ . Ele é treinado para maximizar a saída do discriminador (minimizando a estimativa da divergência KL), aprendendo efetivamente a produzir amostras que correspondam à distribuição marginal verdadeira.
Parametrização da Rede:
- Para garantir eficiência computacional e robustez, a rede de orientação não recebe latentes de alta dimensão bruta como entrada. Em vez disso, ela utiliza estatísticas geométricas invariantes de coordenadas, incluindo o log-norma da velocidade condicional, a direção da CFG, a similaridade de cosseno entre o latente e a direção de orientação, e distâncias de log para o manifold de dados.
- A rede também incorpora embeddings de Fourier dos passos temporais para facilitar a interpolação suave para os passos menores usados durante a inferência.
Funções de Perda:
- Perda do Discriminador: Entropia cruzada binária padrão com uma penalidade de gradiente R1 para garantir uma estimativa de razão suave.
- Perda do Gerador: Composta por três termos:
  - Perda Adversária: Minimizando a capacidade do discriminador de distinguir as amostras geradas.
  - Regularização: Uma penalidade $L_2$ no peso de orientação para evitar explosões ou correção excessiva.
  - Perda de Recompensa: Uma expectativa negativa de uma função de recompensa (ex: pontuação CLIP) para buscar explicitamente um melhor alinhamento de texto.
Estratégia de Treinamento:
- O treinamento segue um paradigma adversário usando a Regra de Atualização de Duas Escalas de Tempo (TTUR).
- Crucialmente, o método utiliza pares de condicionamento de imagem independentes para os caminhos "reais" e "falsos" durante o treinamento. Isso força o discriminador a avaliar se a distribuição das partículas orientadas corresponde à distribuição global de dados, em vez de aprender a identificar padrões de ruído específicos em uma única trajetória.

Principais Contribuições

Formulação de Consistência Marginal: Os autores propõem aprender cronogramas de orientação baseados na condição de consistência marginal, incentivando a distribuição orientada a corresponder à verdadeira distribuição de dados em cada passo temporal, em vez de impor uma autoconsistência mais estrita.
Estrutura Adversária para Orientação: Eles introduzem uma abordagem baseada em GAN onde um discriminador estima razões de densidade para treinar um gerador leve que prevê escalas de orientação dinâmicas e dependentes do estado.
Superioridade Empírica: O método demonstra superar a orientação constante, cronogramas heurísticos dinâmicos (como Limited Interval Guidance e Clamp-linear) e métodos anteriores de orientação aprendida (baseados em MMD) em benchmarks de T2I.

Resultos
Avaliado no dataset MS-COCO 2014 (512x512) utilizando backbones MMDiT-XS (740M) e MMDiT-S (1.05B):

Alinhamento e Qualidade: O método proposto "GAN + MC" alcança consistentemente pontuações superiores em CLIP (alinhamento de texto), Aesthetic, HPSv2 (Human Preference Score) e PickScore em comparação com o CFG constante e baselines heurísticos.
Troca (Trade-off) de FID: O método resulta em um aumento marginal no FID (Fréchet Inception Distance) em relação a alguns baselines. Os autores atribuem isso ao conhecido desalinhamento entre as estatísticas do Inception-v3 e as preferências estéticas humanas em regimes de alta orientação, observando que seu método prioriza características semânticas e o "pop" visual.
Melhorias Qualitativas: Resultados visuais demonstram melhor adesão a prompts complexos, capturando detalhes sutis (ex: interações específicas entre objetos) que os métodos de base frequentemente simplificam ou omitem.
Ablações: Adicionar a amostra ruidosa atual ( $x_s$ ) como entrada para a rede de orientação melhora as métricas de alinhamento, mas aumenta o FID, sugerindo um compromisso entre alinhamento semântico e fidelidade estatística de baixo nível.

Significância e Limitações
O artigo afirma que aprender um cronograma dinâmico e dependente de condicionamento via consistência marginal permite que os modelos naveguem melhor no equilíbrio entre realismo de imagem e adesão ao prompt. A abordagem escala efetivamente com a capacidade do modelo e oferece um sinal de orientação mais confiável do que cronogramas projetados manualmente.

No entanto, os autores reconhecem diversas limitações:

Complexidade de Treinamento: O procedimento de treinamento adversário é complexo e requer estratégias de otimização cuidadosas (ex: TTUR).
Especificidade do Backbone: O programador aprendido é específico para as estatísticas geométricas locais do modelo de correspondência de fluxo pré-treinado (ex: MMDiT) e não pode ser transferido zero-shot para diferentes arquiteturas sem retreinamento.
Sinal de Recompensa: A implementação atual depende do CLIP para o termo de recompensa, e os autores observam que explorar sinais de recompensa alternativos para superar as limitações do CLIP é uma direção para trabalhos futuros.

O Problema com a Coleira de "Tamanho Único"

A Nova Estratégia: Um Jogo de "Real vs. Falso"

O Que Eles Descobriram

Por Que Isso Importa

Mais como este