🤖 machine learning

Ideas in Inference-time Scaling can Benefit Generative Pre-training Algorithms

Este artigo argumenta que a dicotomia tradicional entre modelos autorregressivos e de difusão é enganosa, propondo, em vez disso, que o pré-treinamento generativo deve priorizar o design de procedimentos de inferência eficientes para expansão de sequência e refinamento de estado antes de selecionar objetivos de treinamento para superar limitações algorítmicas fundamentais.

Autores originais: Jiaming Song, Linqi Zhou

Publicado 2026-06-02

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Jiaming Song, Linqi Zhou

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine o mundo da geração de imagens e textos por IA como um enorme canteiro de obras. Durante anos, a indústria ficou presa discutindo sobre dois tipos específicos de equipes de construção, achando que são espécies completamente diferentes:

A Equipe "Um-Tijolo-de-cada-Vez" (Modelos Autoregressivos): Esses trabalhadores assentam um tijolo, depois outro, depois outro, construindo uma parede da esquerda para a direita. Eles são ótimos para construir paredes longas (como escrever histórias longas), mas não conseguem consertar um erro no meio sem derrubar a parede inteira.
A Equipe "Escultor" (Modelos de Difusão): Esses trabalhadores começam com um grande bloco de mármore ruidoso e vão esculpindo até que uma estátua emerge. Eles são ótimos para criar formas de alta qualidade, mas geralmente trabalham na estátua inteira de uma vez, em vez de adicionar novas partes.

A Grande Ideia do Artigo:
Os autores deste artigo dizem: "Parem de brigar sobre qual equipe é melhor. Essa é uma discussão falsa."

Eles argumentam que a real diferença não é sobre quem está construindo (o tipo de modelo), mas sim sobre como eles estão construindo (o procedimento de inferência). Eles propõem que devemos olhar para duas maneiras diferentes de escalar a eficiência da IA:

Eixo 1: Expansão de Sequência (Adicionar mais coisas): Tornar a parede mais longa ou a história maior.
Eixo 2: Refinamento de Estado (Melhorar o que já existe): Polir a estátua ou consertar um erro no meio da parede.

O artigo afirma que a melhor IA do futuro não deve apenas escolher uma equipe; ela deve projetar o plano de construção (inferência) antes de contratar os trabalhadores. Se o seu plano for falho, nenhum treinamento poderá consertar.

Aqui estão as três principais lições do artigo, explicadas com analogias do cotidiano:

1. O Problema da "Instrução Ausente" (A Correção DDIM)

O Cenário: Imagine que você é um aplicativo de GPS. Você diz ao GPS: "Leve-me do Ponto A ao Ponto B". Mas o GPS só sabe onde você está agora (Ponto A) e o tempo atual. Ele não sabe onde você quer chegar (Ponto B) ou quando quer chegar lá. Ele apenas adivinha uma direção baseada em onde você está agora.

A Alegação do Artigo:
Os modelos de IA atuais (especificamente os amostradores "DDIM") muitas vezes tentam saltar de uma imagem ruidosa para uma imagem clara em um único grande passo. Mas a matemática que eles usam é como esse GPS: ela não conhece o "tempo de destino" (o ponto de chegada). Ela tenta adivinhar o salto sem saber onde deve pousar.
A Correção: O artigo diz: "Apenas diga ao GPS o destino!" Ao simplesmente adicionar o "tempo de destino" como uma entrada para o cérebro da IA, o modelo subitamente tem a capacidade de fazer um salto perfeito de um passo para a imagem final. É uma pequena mudança nas instruções que faz todo o processo funcionar. É uma mudança minúscula nas instruções que faz todo o processo funcionar.

2. O Problema da "Mão de Poker" (Previsão de Múltiplos Tokens)

O Cenário: Imagine que você está tentando adivinhar as próximas duas palavras de uma frase: "A mão de poker é uma..."
Se você adivinhar a primeira palavra e a segunda palavra de forma completamente independente, você pode adivinhar "Alta" e "Casa". Individualmente, essas palavras fazem sentido. Mas, juntas, "Alta Casa" não é uma mão de poker real. Você precisa entender que "Alta" e "Casa" estão conectadas.

A Alegação do Artigo:
Muitos modelos de IA modernos tentam acelerar as coisas prevendo várias palavras de uma vez. Mas eles frequentemente as preveem de forma independente, como se estivessem jogando dois dados separadamente. Isso quebra a conexão entre as palavras.
A Correção: O artigo argumenta que, se você quiser prever várias palavras de uma vez, sua IA precisa ser treinada para entender a relação entre elas (a distribuição conjunta). Se você não construir essa relação no processo de previsão, a IA continuará criando combinações estranhas, e nenhum volume de dados de treinamento corrigirá a falha fundamental na forma como ela prevê.

3. O "Salto Longo" vs. "Passos de Bebê" (Mapas de Fluxo)

O Cenário: Imagine que você precisa ir do pé de uma colina até o topo.

Jeito Antigo: Você dá passos minúsculos, checando seu equilíbrio após cada passo. Isso é lento e exige muitos passos.
Jeito Novo: Você aprende a dar um salto gigante e confiante diretamente para o topo.

A Alegação do Artigo:
A maioria dos modelos de IA atuais é treinada para dar passos minúsculos (atualizações locais). Eles aprendem como se mover um pouco, e depois um pouco mais. O artigo argumenta que, para a IA ser rápida, ela precisa aprender Mapas de Fluxo (Flow Maps).
Pense em um Mapa de Fluxo como um "guia de teletransporte". Em vez de aprender como dar um pequeno passo, a IA aprende o caminho direto (o mapa) para saltar de um estado bagunçado para um estado limpo em um ou dois saltos gigantes. Métodos recentes estão começando a fazer isso, e eles são muito mais rápidos porque param de dar passos de bebê e começam a dar saltos de longo alcance.

A Conclusão

O artigo conclui que precisamos parar de obcecar se um modelo é "Autoregressivo" ou de "Difusão". Em vez disso, devemos perguntar:

O plano permite que a IA adicione mais conteúdo de forma eficiente? (Expansão de Sequência)
O plano permite que a IA refine seu trabalho de forma eficiente? (Refinamento de Estado)

Se o "plano de construção" (inferência) da IA estiver faltando variáveis chave (como o tempo de destino) ou assumir coisas que não são verdadeiras (como palavras serem independentes), então o treinamento nunca funcionará perfeitamente. Projete o movimento primeiro, depois treine o jogador.

Resumo Técnico: Ideias em Escalonamento de Tempo de Inferência podem Beneficiar Algoritmos de Pré-treinamento Generativo

Declaração do Problema

O campo do pré-treinamento generativo é atualmente dificultado por uma "falsa dicotomia" conceitual que categoriza modelos estritamente como autoregressivos (para sinais discretos) ou difusão (para sinais contínuos). Os autores argumentam que essa distinção é enganosa porque confunde famílias de modelos com representações de dados, objetivos de treinamento e procedimentos de inferência.

O problema central identificado é que o progresso algorítmico atual estagnou porque os pesquisadores frequentemente priorizam objetivos de treinamento (ex: entropia cruzada vs. correspondência de pontuação de denoising) sem primeiro garantir que o procedimento de inferência seja capaz de escalar eficientemente. Especificamente, o artigo argumenta que:

A Capacidade de Inferência é frequentemente limitada: Objetivos de treinamento não podem compensar mapas de inferência que omitem argumentos necessários (ex: tempos de destino) ou impõem suposições de fatoração incorretas (ex: independência ingênua na predição de múltiplos tokens).
Escalonamento Desalinhado: O campo carece de um framework unificado para o "escalonamento em tempo de inferência", que deve ser visto ao longo de dois eixos distintos: expansão de sequência (crescer o output) e refinamento de estado (revisar o estado atual).

Metodologia e Framework

O artigo propõe um novo framework analítico que prioriza o design do procedimento de inferência antes do objetivo de treinamento. Ele define dois eixos primários de escalonamento em tempo de inferência:

Expansão de Sequência: Aumentar o número de tokens gerados, posições ou passos de raciocínio. Este é o principal mecanismo de escalonamento para modelos autoregressivos (ex: LLMs), onde o computo escala com o comprimento da geração.
Refinamento de Estado: Atualizar repetidamente um objeto existente sem necessariamente aumentar seu comprimento. Este é o principal mecanismo de escalonamento para modelos de difusão, onde o computo escala com o número de passos de denoising ou de solver para reduzir o erro de discretização.

Os autores argumentam que esses eixos não são exclusivos de famílias de modelos específicas. Em vez disso, o contraste significativo é entre tokens discretos aprendidos com entropia cruzada versus tokens contínuos aprendidos com objetivos do tipo difusão, combinados com os algoritmos de inferência específicos usados para amostrá-los.

Análises Técnicas Chave

O artigo aplica este olhar de "inferência primeiro" a três áreas específicas para demonstrar como os métodos atuais falham ou têm sucesso baseados em sua parametrização de inferência:

1. Limitações do DDIM e o Argumento do Tempo-Alvo

O Probleia: Amostradores do tipo DDIM padrão (sob formulações de fluxo retificado) definem uma atualização de um passo $x_s = x_t + (s-t)v_\theta(x_t, t)$ . A rede de velocidade $v_\theta$ tipicamente recebe apenas o estado atual $x_t$ e o tempo de origem $t$ .
A Falha: A rede carece do tempo alvo $s$ como entrada. Matematicamente, a derivada parcial $\frac{\partial DDIM}{\partial s} = v_\theta(x_t, t)$ é independente de $s$ . Isso significa que o modelo carece da capacidade de aprender uma função que mapeia $x_t$ para um $s$ específico em um único passo, independentemente do objetivo de treinamento (mesmo com treinamento de consistência).
A Solução: Injetar o tempo alvo $s$ nas entradas da rede permite que o modelo aproxime o salto direto para a solução. Esta modificação simples, combinada com o Matching de Momento Indutivo (IMM), permite algoritmos de estágio único estáveis que superam os modelos de difusão em qualidade, sendo uma ordem de magnitude mais eficientes.

2. Predição de Múltiplos Tokens (MTP) e Distribuições Conjuntas

O Problema: MTP visa reduzir a latência ao prever múltiplos tokens em paralelo. No entanto, implementações atuais frequentemente amostram esses tokens de forma independente (suposição de Bayes ingênua), falhando em representar a distribuição conjunta dos tokens.
A Falha: A amostragem independente ignora correlações entre tokens (ex: em uma lista de mãos de poker, "carta alta" e "dois pares" são válidos, mas "casa alta" não é). Isso cria um limite de capacidade onde o modelo não consegue gerar combinações válidas mesmo se as probabilidades marginais estiverem corretas.
Contornos Atuais: Métodos como decodificação auto-especulativa ou o descarte de cabeças MTP durante a inferência tentam "corrigir" essa limitação de capacidade de forma heurística.
A Implicação: A verdadeira eficiência requer um algoritmo de inferência que considere as dependências de tokens, potencialmente através de auto-revisão suave ou prevendo diretamente as dependências de tokens, em vez de depender de amostragem de rejeição ou correções post-hoc.

3. Mapas de Fluxo e Inferência de Longo Alcance

A Mudança: A literatura recente (ex: Flow Map Matching por Boffi et al.) sugere que a geração eficiente de poucos passos deve aprender um mapa de transporte de dois tempos (de $t$ para $s$ ) em vez de apenas um campo de velocidade infinitesimal.
O Insight: Em vez de integrar numericamente um campo vetorial local, o modelo deve parametrizar diretamente movimentos de inferência de longo alcance. Isso inclui métodos como Modelos de Atalho (Shortcut Models), Fluxos Médios (Mean Flows) e Correspondência de Distribuição de Trajetória (TDM).
O Princípio: Esses métodos compartilham uma forma de inferência comum: eles aprendem o transporte finito induzido por dinâmicas locais diretamente, tornando saltos longos tratáveis dentro da classe do modelo.

Principais Contribuições

Reenquadramento da Dicotomia: O artigo estabelece que o contraste fundamental na IA generativa não é "autoregressivo vs. difusão", mas sim a interação entre representação de dados (discreto/contínuo), objetivo de aprendizado (entropia cruzada/difusão) e procedimento de inferência (expansão/refinamento).
Princípio de Design de Inferência Primeiro: Argumenta que métodos de treinamento não podem consertar falhas fundamentais no mapa de inferência. Se o amostrador omite argumentos necessários (como a variável de tempo alvo) ou impõe fatorações incorretas, nenhum objetivo de treinamento pode resolver totalmente os limites de capacidade resultantes.
Eixos de Escalonamento Unificados: Introduz "expansão de sequência" e "refinamento de estado" como métricas universais para avaliar algoritmos de pré-treinamento generativo, aplicáveis em domínios discretos e contínuos.
Diagnóstico Técnico: Fornece diagnósticos matemáticos específicos de por por que amostradores DDIM padrão falham na geração de poucos passos sem condicionamento de tempo-alvo e por que a predição de múltiplos tokens ingênua falha em capturar distribuições conjuntas.

Resultados e Evidências

O artigo não apresenta novos resultados experimentais gerados pelos autores, mas sintetiza evidências da literatura recente para apoiar suas afirmações:

Matching de Momento Indutivo (IMM): Cita [ZES25] para mostrar que adicionar o tempo alvo $s$ à entrada e usar o matching de momento cria um algoritmo de estágio único que é >10x mais eficiente na inferência do que a difusão padrão, mantendo a qualidade da amostra.
Literatura de Mapas de Fluxo: Cita trabalhos de Boffi, Albergo e Vanden-Eijnden [BAVE24, BAVE25] e outros para demonstrar que aprender mapas de transporte de dois tempos (flow maps) é um objeto mais natural para geração de poucos passos do que integrar campos de velocidade locais.
Limitações da Decodificação Paralela: Cita [KGO+25, ZGZ+26] para mostrar que a decodificação paralela em LLMs de difusão frequentemente degrada a qualidade em casos com alta dependência devido a aproximações fatorizadas, validando a necessidade de algoritmos de inferência que respeitem as dependências de tokens.

Significância e Alegações

O artigo afirma que o campo deve mudar seu foco de otimizar objetivos de treinamento isoladamente para projetar procedimentos de inferência que sejam escaláveis e expressivos.

Alegação Modesta: Os autores não alegam ter resolvido todos os problemas generativos. Em vez disso, argumentam que "o progresso algorítmico deve priorizar a eficiência do tempo de inferência ao longo de dois eixos: expansão de sequência e refinamento de estado".
Imperativo de Design: A conclusão central é que os algoritmos de pré-treinamento devem ser projetados com o procedimento de inferência em mente primeiro. Se um mapa de inferência é estruturalmente incapaz de representar a distribuição alvo (ex: falta a variável de tempo alvo ou assume independência onde ela não existe), o treinamento não pode compensar.
Direção Futura: O artigo defende que os futuros algoritmos de pré-treinamento generativo devem ser julgados pela eficiência com que escalam nos eixos de expansão de sequência e refinamento de estado, e se suas parametrizações de inferência podem representar movimentos de longo alcance estáveis e eficientes em seu espaço de estado escolhido.

Em resumo, o artigo postula que a próxima geração de modelos generativos não virá simplesmente de escalar as arquiteturas atuais de difusão ou autoregressivas, mas de reengenheirar a mecânica de inferência para permitir expansões de sequência e transições de estado de longo alcance eficientes.