💻 computer science

Structured Inference with Large Language Gibbs

O artigo propõe o "Large Language Gibbs", um método de inferência probabilística iterativa que aproveita as distribuições condicionais de um LLM como operadores de transição para reamostrar variáveis, superando assim os vieses dependentes da ordem da geração autorregressiva de passagem única para alcançar um raciocínio estruturado coerente.

Autores originais: Sanghyeok Choi, Henry Gouk, Esmeralda S. Whitammer

Publicado 2026-06-19

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Sanghyeok Choi, Henry Gouk, Esmeralda S. Whitammer

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um bibliotecário muito inteligente e culto (o Grande Modelo de Linguagem, ou LLM) que conhece uma quantidade enorme de informações sobre o mundo. Você pede a esse bibliotecário para criar uma lista de fatos sobre uma situação complexa, como descrever a raça, o pelo, a idade e os hábitos de sono de um gato, tudo de uma vez.

O Problema: O Erro do "Um Tiro Só" (One-Shot)
Geralmente, quando pedimos isso a um LLM, pedimos que ele escreva a lista inteira da esquerda para a direita de uma só vez. O artigo argumenta que isso é como pedir a um chef que cozinhe uma refeição inteira sem provar nada até o final. Como o chef tem que decidir o primeiro prato antes de saber qual será o último, ele pode fazer uma escolha no início que força o restante da refeição a ficar estranho apenas para se ajustar. Em termos do artigo, isso cria "vieses dependentes da ordem". Se você pedir ao bibliotecário para listar a idade do gato primeiro, e depois a raça, a resposta para a raça pode ser sutilmente distorcida pela forma como a idade foi escrita, mesmo que a idade e a raça não devessem realmente afetar uma à outra.

A Solução: "Large Language Gibbs" (O Método "Editar e Refinar")
Os autores propõem uma nova maneira de usar o bibliotecário chamada Large Language Gibbs. Em vez de pedir a lista inteira de uma vez, eles tratam a lista como um grupo de amigos sentados ao redor de uma mesa, e eles se revezam pedindo a cada amigo para repensar sua resposta com base no que todos os outros acabaram de dizer.

Veja como funciona, usando uma analogia simples:

A Configuração: Imagine que você tem um grupo de variáveis (como Raça, Pelo, Idade e Sono de um gato). Você começa com um palpite aleatório para todas elas.
O Rodízio (Round-Robin): Em vez de escrever a história toda, você escolhe uma variável ao acaso (digamos, "Pelo"). Você diz ao bibliotecário: "Todos os outros decidiram sobre estes valores (Raça é 'Pelo Curto', Idade é 3, Sono é 12 horas). Dados estes fatos específicos, qual é o pelo mais provável?"
O Embaralhamento: Crucialmente, você não pergunta sobre as variáveis sempre na mesma ordem. Às vezes você pergunta sobre a Idade primeiro, às vezes sobre o Pelo. Isso evita que o modelo fique preso em um "hábito" específico de responder.
O Ciclo: Você repete este processo muitas vezes. Cada vez que você atualiza uma variável, você usa a nova informação para atualizar a próxima.
O Resultado: Eventualmente, todo o grupo de respostas se estabiliza em um estado onde tudo faz sentido junto. O artigo chama isso de "distribuição estacionária". É como um grupo de amigos discutindo até que todos concordem com uma história que pareça perfeitamente consistente, em vez de uma história que apenas aconteceu de começar com uma frase específica.

Por que isso é melhor?
O artigo mostra que este método de "editar e refinar" corrige dois grandes problemas:

Viés: Ele impede que o modelo favoreça respostas apenas porque elas apareceram no início da lista.
Inconsistência: Ajuda o modelo a perceber que, se "Polaris" é a Estrela do Norte, então "Sirius" não pode ser a estrela mais brilhante ao mesmo tempo. Ao embaralhar as perguntas, o modelo pode corrigir seus próprios erros.

Testes do Mundo Real no Artigo
Os autores testaram essa ideia de três maneiras específicas:

Geração de Números Aleatórios: Eles pediram ao modelo para escolher números aleatórios (como jogar um dado). O método antigo (um tiro só) era ruim em escolher números de forma uniforme. O novo método "Gibbs" foi muito melhor em escolher números que pareciam verdadeiramente aleatórios e independentes.
Raciocínio Consistente: Eles deram ao modelo um conjunto de perguntas onde as respostas precisavam concordar entre si (ex: "A Estrela do Norte é a mais brilhante?" e "Sirius é a mais brilhante?"). O novo método ajudou o modelo a dar respostas que não se contradiziam, apresentando um desempenho melhor do que apenas fazer as perguntas uma por uma.
Aprendizado com Dados: Eles usaram o modelo para gerar dados "fictícios" para ajudar cientistas a entender como diferentes coisas estão conectadas (como o tratamento da tuberculose se relaciona com a idade do paciente). Ao usar o método "Gibbs" para gerar esses dados fictícios, eles obtiveram melhores resultados do que apenas pedir ao modelo para escrever um conjunto de dados fictício de uma só vez.

A Conclusão
O artigo sugere que, em vez de tratar um LLM como uma máquina que apenas escreve uma história do início ao fim, devemos tratá-lo como uma ferramenta de refinamento iterativo. Ao permitir que o modelo constantemente verifique e reverifique suas próprias respostas umas contra as outras em uma ordem aleatória, obtemos um resultado muito mais confiável, consistente e "probabilisticamente correto". Isso transforma o modelo de um contador de histórias de uma única vez em um editor colaborativo que ajuda a encontrar a verdade.

Resumo Técnico: Inferência Estruturada com Large Language Gibbs

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) são cada vez mais utilizados para representar distribuições sobre objetos estruturados, como atribuições de rótulos, registros tabulares e objetos combinatórios. No entanto, acessar o conhecimento codificado em LLMs para inferência probabilística estruturada apresenta um desafio significativo. A abordagem padrão de gerar objetos estruturados via decodificação autorregressiva de passagem única introduz vieses dependentes da ordem, como efeitos de recência e ignorância de contexto, que distorcem a distribuição conjunta pretendida. Além disso, os LLMs frequentemente falam em amostrar corretamente de distribuições simples (ex: uniformes ou Gaussianas) ao gerar amostras de forma independente ou em lotes, exibindo ou alto viés ou alta autocorrelação. O problema central é como aproveitar as crenças condicionais dos LLMs sobre variáveis individuais para extrair mais informação e produzir amostras conjuntas coerentes sem os artefatos de ordens de geração fixas.

Metodologia: Large Language Gibbs

Os autores propõem o Large Language Gibbs, um framework para inferência probabilística estruturada que trata as distribuições condicionais de um LLM como operadores de transição dentro de um esquema de amostragem de Gibbs. Em vez de gerar um objeto completo em uma única passagem, o método reamostra iterativamente variáveis individuais condicionadas aos valores atuais de todas as outras variáveis.

Mecanismo Central

A abordagem define uma cadeia de Markov onde o estado é um conjunto de variáveis $X = (X_1, \dots, X_n)$ . Em cada etapa, uma variável $X_i$ é selecionada e reamostrada de uma distribuição condicional aproximada $q_i(X_i | X_{-i})$ derivada do LLM.

1. Basic Large Language Gibbs (Seção 3.1):
Para definir o kernel de reamostragem $q^{LM}_i(X_i | X_{-i})$ , o método aborda o fato de que LLMs autorregressivos fornecem apenas probabilidades de próximo token para uma ordem de sequência específica. Os autores propõem definir o kernel como a expectativa dos kernels autorregressivos sob permutações aleatórias das variáveis restantes:
$q^{LM}_i(X_i | X_{-i}) \triangleq \mathbb{E}_{\sigma_{-i}} \left[ p_{LM}(X_i | \text{seq}(X_{-i}, \sigma_{-i}) \oplus [c_i]) \right]$
onde $\sigma_{-i}$ é uma bijeção aleatória que embaralha as outras variáveis, e $c_i$ é o contexto de linguagem natural descrevendo $X_i$ . Este embaralhamento aleatório remove os vieses dependentes da ordem, visando uma distribuição estacionária que reflita um compromisso entre todos os condicionais locais.

2. Kernels Discriminativos (Seção 3.2):
Reconhecendo que os LLMs podem ser melhores em discriminação do que em geração (especialmente após o ajuste fino por reforço), os autores introduzem duas variantes que utilizam a saída discriminativa do LLM para aceitar ou rejeitar candidatos:

Barker Gibbs: Utiliza o LLM para escolher entre o valor atual e um valor candidato. Se o LLM estiver calibrado de acordo com a regra de Barker, a distribuição estacionária é preservada.
Gambling Gibbs: Enquadra a decisão de aceitação como uma aposta. O LLM é questionado se ele apostaria que o candidato é mais plausível do que o valor atual. Isso permite o uso de decodificação gulosa (julgamento de limiar determinístico) em vez de depender de probabilidades calibradas.

3. Variantes Práticas (Seção 3.3):
O framework suporta Sweeping Gibbs (ciclar através de variáveis em uma ordem fixa) e Block Gibbs (reamostrar conjuntos de $B > 1$ variáveis simultaneamente) para melhorar a convergência ou escapar de modos locais.

Principais Contribuições

Um Novo Esquema de Inferência: O artigo introduz o Large Language Gibbs, um método que transforma LLMs em operadores de transição para inferência probabilística estruturada, indo além da geração autorregressiva de passagem única.
Análise Teórica: Os autores fornecem um framework teórico estabelecendo a existência de uma distribuição estacionária única para a cadeia de Gibbs. Eles identificam uma condição suficiente (Assunção 3.1) sob a qual a distribuição estacionária corresponde a uma distribuição conjunta simetrizada do LLM, demonstrando que o embaralhamento aleatório é essencial para remover os vieses de ordenação.
Variantes Algorítmicas: A proposta de kernels Barker e Gambling oferece alternativas para cenários onde as probabilidades generativas estão mal calibradas, aproveitando as capacidades discriminativas do LLM.
Validação Empírica: O método é aplicado a três domínios distintos:
- Distribuições Sintéticas: Amostragem de distribuições uniformes e Gaussianas.
- Raciocínio Consistente: Resolver conjuntos de questões relacionadas (TruthfulQA, GSM8K) para encontrar respostas coerentes.
- Aprendizado de Estrutura Bayesiana: Usar dados sintéticos gerados por LLM para informar priors para a descoberta de grafos causais.

Resultados

Os experimentos demonstram que o Large Language Gibbs mitiga efetivamente as limitações da amostragem padrão de LLM:

Distribuições Simples: Em tarefas sintéticas (uniforme e Gaussiana), a amostragem independente mostrou alto viés, e a amostragem em lote mostrou alta autocorrelação. O amostragem de Gibbs corrigiu substancialmente ambos os problemas, produzindo amostras com menor viés e menor autocorrelação do que os métodos de linha de base.
Raciocínio Consistente: Em TruthfulQA e GSM8K-Verification, as atualizações condicionais iterativas via amostragem de Gibbs superaram os baselines de zero-shot, de passagem única autorregressiva e até mesmo o de Maximização de Coerência Interna (ICM). Os resultados sugerem que o embaralhamento de variáveis durante a reamostragem leva a uma melhor consistência entre questões relacionadas.
Aprendizado de Estrutura Bayesiana: Quando usado para gerar dados sintéticos ( $D_{LLM}$ ) para definir um prior baseado em conhecimento de mundo, o Large Language Gibbs melhorou o desempenho do aprendizado de estrutura (medido por Expected Structural Hamming Distance e AUROC) em datasets reais comparado a priors uniformes e amostragem autorregressiva direta. O método aproveitou com sucesso metadados para desambiguar estruturas causais.

Significância e Alegações

O artigo afirma que usar condicionais de LLM dentro de um framework de Cadeia de Markov Monte Carlo (MCMC) é uma alternativa prática à geração de uma passagem para inferência probabilística estruturada. Os autores argumentam que esta abordagem permite extrair mais informação das crenças internas do modelo do que a geração autorregressiva permite.

A significância reside em fornecer um framework probabilístico principiado para lidar com os condicionais "ruidosos" dos LLMs. Ao reamostrar iterativamente e realizar a média sobre ordenações de variáveis, o método produz uma distribuição estacionária que representa um compromisso entre condicionais locais, removendo efetivamente o viés de qualquer ordem de geração fixa. Os autores posicionam isso como um passo em direção ao tratamento de LLMs como priors dentro de programas probabilísticos, particularmente para tarefas que exigem consistência entre múltiplas variáveis ou etapas de raciocínio.

O artigo mantém-se modesto quanto às suas limitações, observando que a abordagem requer mais computação do que a geração de passagem única e é atualmente limitada a modelos relativamente pequenos (até 32B de parâmetros) devido a restrições computacionais. Também reconhece que a qualidade dos resultados depende fortemente da informatividade dos metadados fornecidos ao LLM.