💻 computer science

Structured Inference with Large Language Gibbs

Het artikel stelt "Large Language Gibbs" voor, een iteratieve probabilistische inferentiemethode die de conditionele distributies van een LLM gebruikt als transitie-operatoren om variabelen te herbeoordelen, waardoor de volgorde-afhankelijke biases van single-pass autoregressieve generatie worden overwonnen om coherente gestructureerde redenering te bereiken.

Oorspronkelijke auteurs: Sanghyeok Choi, Henry Gouk, Esmeralda S. Whitammer

Gepubliceerd 2026-06-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Sanghyeok Choi, Henry Gouk, Esmeralda S. Whitammer

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, goed onderlegde bibliothecaris hebt (het Large Language Model, of LLM) die een enorme hoeveelheid kennis over de wereld bezit. Je vraagt deze bibliothecaris om een lijst met feiten over een complexe situatie te maken, zoals het beschrijven van de ras, vacht, leeftijd en slaapgewoonten van een kat, allemaal tegelijkertijd.

Het Probleem: De "One-Shot" Fout
Meestal, wanneer we een LLM vragen om dit te doen, vragen we het om de hele lijst van links naar rechts in één keer te schrijven. Dit artikel stelt dat dit is alsof je een chef-kok vraagt om een hele maaltijd te koken zonder iets te proeven tot het allerlaatste moment. Omdat de chef de eerste gang moet beslissen voordat hij weet wat de laatste gang is, kan hij een keuze maken in het begin die de rest van de maaltijd vreemd maakt om er toch bij te passen. In termen van het artikel creëert dit "orde-afhankelijke biases". Als je de bibliothecaris vraagt om eerst de leeftijd van de kat te vermelden en dan het ras, kan het antwoord over het ras subtiel worden beïnvloed door hoe de leeftijd is opgeschreven, zelfs als leeftijd en ras eigenlijk niets met elkaar te maken zouden moeten hebben.

De Oplossing: "Large Language Gibbs" (De "Edit-and-Refine" Methode)
De auteurs stellen een nieuwe manier voor om de bibliothecaris te gebruiken genaamd Large Language Gibbs. In plaats van de hele lijst in één keer te vragen, behandelen ze de lijst als een groep vrienden die rond een tafel zitten, en laten ze de vrienden om de beurt hun antwoord heroverwegen op basis van wat de anderen net hebben gezegd.

Zo werkt het, met behulp van een eenvoudige analogie:

De Opstelling: Stel je voor dat je een groep variabelen hebt (zoals het Ras, de Vacht, de Leeftijd en de Slaap van de kat). Je begint met een willekeurige gok voor al deze variabelen.
De Round-Robin: In plaats van het hele verhaal te schrijven, kies je één variabele op willekeurige basis (bijvoorbeeld "Vacht"). Je zegt tegen de bibliothecaris: "Iedereen anders heeft al gekozen voor deze waarden (Ras is 'Korthaar', Leeftijd is 3, Slaap is 12 uur). Gegeven deze specifieke feiten, wat is de meest waarschijnlijke vacht?"
De Shuffle: Cruciaal is dat je de variabelen niet elke keer in dezelfde volgorde vraagt. Soms vraag je eerst naar de Leeftijd, soms naar de Vacht. Dit voorkomt dat de bibliothecaris in een specifieke "gewoonte" van antwoorden blijft hangen.
De Loop: Je herhaalt dit proces vele malen. Elke keer dat je één variabele bijwerkt, gebruik je de nieuwe informatie om de volgende variabele bij te werken.
Het Resultaat: Uiteindelijk komt de hele groep antwoorden tot een staat waarin alles logisch bij elkaar past. Het papier noemt dit een "stationaire verdeling". Het is als een groep vrienden die met elkaar in discussie gaat totdat ze het allemaal eens zijn over een verhaal dat consistent aanvoelt, in plaats van een verhaal dat toevallig met een specifieke zin begon.

Waarom is dit beter?
Het artikel laat zien dat deze "edit-and-refine" methode twee grote problemen oplost:

Bias: Het voorkomt dat het model antwoorden bevoordeelt simpelweg omdat ze vroeg in de lijst verschenen.
Inconsistentie: Het helpt het model inzien dat als "Polaris" de Poolster is, "Sirius" niet tegelijkertijd de helderste ster kan zijn. Door de vragen te husselen (shufflen), kan het model zijn eigen fouten corrigeren.

Real-World Tests in het Artikel
De auteurs hebben dit idee op drie specifieke manieren getest:

Genereren van willekeurige getallen: Ze vroegen het model om willekeurige getallen te kiezen (zoals het gooien van een dobbelsteen). De oude manier (one-shot) was slecht in het gelijkmatig kiezen van getallen. De nieuwe "Gibbs" manier was veel beter in het kiezen van getallen die er echt willekeurig en onafhankelijk uitzagen.
Consistente redenering: Ze gaven het model een reeks vragen waarbij de antwoorden met elkaar in overeenstemming moesten zijn (bijv. "Is de Poolster de helderste ster?" en "Is Sirius de helderste ster?"). De nieuwe methode hielp het model om antwoorden te geven die zichzelf niet tegenspreken, en presteerde hierbij beter dan wanneer de vragen simpelweg één voor één worden gesteld.
Leren van data: Ze gebruikten het model om "nep" data te genereren om wetenschappers te helpen begrijpen hoe verschillende zaken met elkaar verbonden zijn (zoals de relatie tussen de behandeling van tuberculose en de leeftijd van de patiënt). Door de "Gibbs" methode te gebruiken om deze nepdata te genereren, behaalden ze betere resultaten dan wanneer ze het model simpelweg een nepdataset in één keer lieten schrijven.

De Kern van het Verhaal
Het artikel suggereert dat we, in plaats van een LLM te behandelen als een machine die gewoon een verhaal van begin tot eind schrijft, het moeten behandelen als een instrument voor iteratieve verfijning. Door het model constant zijn eigen antwoorden te laten controleren en te hercontroleren tegen elkaar in een willekeurige volgorde, krijgen we een veel betrouwbaarder, consistenter en "waarschijnlijk correcter" resultaat. Het verandert het model van een eenmalige verhalenverteller in een collaboratieve redacteur die helpt de waarheid te vinden.

Technische Samenvatting: Gestructureerde Inferentie met Large Language Gibbs

Probleemstelling

Large Language Models (LLM's) worden steeds vaker gebruikt om distributies over gestructureerde objecten te representeren, zoals labelto assignments, tabelrecords en combinatorische objecten. Het ontsluiten van de kennis die in LLM's is gecodeerd voor gestructureerde probabilistische inferentie vormt echter een aanzienlijke uitdaging. De standaardaanpak van het genereren van gestructureerde objecten via autoregressieve decodering in één enkele pass introduceert orde-afhankelijke biases, zoals recentheidseffecten (recency effects) en context-onwetendheid, die de beoogde gezamenlijke distributie verstoren. Bovendien slagen LLM's er vaak niet in om correct te samplen uit eenvoudige distributies (bijv. uniforme of Gaussische distributies) wanneer ze samples onafhankelijk of in batches genereren, wat leidt tot ofwel een hoge bias of een hoge autocorrelatie. Het kernprobleem is hoe men de conditionele overtuigingen van LLM's over individuele variabelen kan benutten om meer informatie te extraheren en coherente gezamenlijke samples te produceren zonder de artefacten van vaste generatievolgordes.

Methodologie: Large Language Gibbs

De auteurs stellen Large Language Gibbs voor, een framework voor gestructureerde probabilistische inferentie dat de conditionele distributies van een LLM behandelt als transitie-operatoren binnen een Gibbs-sampling schema. In plaats van een volledig object in één pass te genereren, herhaalt deze methode het resamplen van individuele variabelen, geconditioneerd op de huidige waarden van alle andere variabelen.

Kernmechanisme

De aanpak definieert een Markov-keten waarbij de toestand een verzameling variabelen $X = (X_1, \dots, X_n)$ is. In elke stap wordt een variabele $X_i$ geselecteerd en geresampled vanuit een benaderende conditionele distributie $q_i(X_i | X_{-i})$ afgeleid van de LLM.

1. Basic Large Language Gibbs (Sectie 3.1):
Om de resampling-kernel $q^{LM}_i(X_i | X_{-i})$ te definiëren, adresseert de methode het feit dat autoregressieve LLM's alleen volgende-token-kansen bieden voor een specifieke sequentievolgorde. De auteurs stellen voor de kernel te definiëren als de verwachting van autoregressieve kernels onder willekeurige permutaties van de resterende variabelen:
$q^{LM}_i(X_i | X_{-i}) \triangleq \mathbb{E}_{\sigma_{-i}} \left[ p_{LM}(X_i | \text{seq}(X_{-i}, \sigma_{-i}) \oplus [c_i]) \right]$
waarbij $\sigma_{-i}$ een willekeurige bijjectie is die de andere variabelen door elkaar husselt, en $c_i$ de natuurlijke taalcontext is die $X_i$ beschrijft. Deze willekeurige husseling verwijdert orde-afhankelijke biases, met als doel een stationaire distributie die een compromis vormt tussen alle lokale conditionalen.

2. Discriminatieve Kernels (Sectie 3.2):
In het besef dat LLM's beter kunnen zijn in discriminatie dan in generatie (vooral na reinforcement learning fine-tuning), introduceren de auteurs twee varianten die het discriminatieve output van de LLM gebruiken om kandidaten te accepteren of te verwerpen:

Barker Gibbs: Gebruikt de LLM om te kiezen tussen de huidige waarde en een kandidaat-waarde. Als de LLM gekalibreerd is volgens de regel van Barker, wordt de stationaire distributie behouden.
Gambling Gibbs: Kader de acceptatiebeslissing als een gok. De LLM wordt gevraagd of hij een weddenschap zou plaatsen op de plausibiliteit van de kandidaat ten opzichte van de huidige waarde. Dit maakt het gebruik van greedy decoding (deterministische drempelwaardebesluitvorming) mogelijk in plaats van het vertrouwen op gekalibreerde waarschijnlijkheden.

3. Praktische Varianten (Sectie 3.3):
Het framework ondersteunt Sweeping Gibbs (het cyclisch doorlopen van variabelen in een vaste volgorde) en Block Gibbs (het gelijktijdig resamplen van sets van $B > 1$ variabelen) om convergentie te verbeteren of lokale modi te ontsnappen.

Belangrijkste Bijdragen

Een Nieuwe Inferentie-methode: Het artikel introduceert Large Language Gibbs, een methode die LLM's transformeert tot transitie-operatoren voor gestructureerde probabilistische inferentie, waarmee men verder gaat dan enkelvoudige autoregressieve generatie.
Theoretische Analyse: De auteurs bieden een theoretisch kader dat het bestaan van een unieke stationaire distributie voor de Gibbs-keten vaststelt. Ze identificeren een voldoende voorwaarde (Aanname 3.1) waaronder de stationaire distributie overeenkomt met een gesymmetriseerde gezamenlijke distributie van de LLM, waarmee zij aantonen dat willekeurige husseling essentieel is voor het verwijderen van ordeningsbiases.
Algoritmische Varianten: Het voorstel van de Barker en Gambling Gibbs kernels biedt alternatieven voor scenario's waarin generatieve waarschijnlijkheden verkeerd gekalibreerd zijn, waarbij gebruik wordt gemaakt van de discriminatieve capaciteiten van de LLM.
Empirische Validatie: De methode wordt toegepast op drie verschillende domeinen:
- Synthetische Distributies: Samplen uit uniforme en Gaussische distributies.
- Consistente Redenering: Het oplossen van gerelateerde vragen (TruthfulQA, GSM8K) om coherente antwoorden te vinden.
- Bayesiaanse Structuurleer: Het gebruik van door de LLM gegenereerde synthetische data om priors voor causale grafen-ontdekking te informeren.

Resultaten

De experimenten laten zien dat Large Language Gibbs effectief de beperkingen van standaard LLM-sampling mitigeert:

Eenvoudige Distributies: Op synthetische taken (uniform en Gaussisch) vertoonde onafhankelijke sampling een hoge bias, en batch sampling vertoonde een hoge autocorrelatie. Gibbs-sampling corrigeerde beide problemen substantieel, waarbij samples met een lagere bias en lagere autocorrelatie werden geproduceerd dan de baseline-methoden.
Consistente Redenering: Op TruthfulQA en GSM8K-Verification presteerden iteratieve conditionele updates via Gibbs-sampling beter dan zero-shot, single-pass autoregressieve, en zelfs Internal Coherence Maximization (ICM) baselines. De resultaten suggereren dat het husselen van variabelen tijdens resampling leidt tot een betere consistentie over gerelateerde vragen.
Bayesiaanse Structuurleer: Wanneer het werd gebruikt om synthetische data ( $D_{LLM}$ ) te genereren om een wereldkennis-gestuurde prior te definiëren, verbeterde Large Language Gibbs de prestaties van structuurleer (gemeten via Expected Structural Hamming Distance en AUROC) op echte datasets vergeleken met uniforme priors en directe autoregressieve sampling. De methode slaagde erin metadata te gebruiken om causale structuren te disambigueren.

Betekenis en Claims

Het artikel claimt dat het gebruik van LLM-conditionals binnen een Markov Chain Monte Carlo (MCMC) framework een praktisch alternatief is voor one-pass generatie voor gestructureerde probabilistische inferentie. De auteurs beargumenteren dat deze aanpak toestaat om meer informatie te extraheren uit de interne overtuigingen van het model dan autoregressieve generatie toelaat.

De betekenis ligt in het bieden van een principieel probabilistisch kader voor het omgaan met de "ruizige" conditionalen van LLM's. Door iteratief te resamplen en te middelen over variabelen-volgordes, produceert de methode een stationaire distributie die een compromis vormt tussen lokale conditionalen, waardoor de bias van een vaste generatievolgorde effectief wordt verwijderd. De auteurs positioneren dit als een stap naar het behandelen van LLM's als priors binnen probabilistische programma's, met name voor taken die consistentie vereisen over meerdere variabelen of redeneerstappen.

Het artikel blijft bescheiden over de beperkingen en merkt op dat de aanpak meer rekenkracht vereist dan single-pass generatie en momenteel beperkt is tot relatief kleine modellen (tot 32B parameters) vanwege computationele beperkingen. Er wordt ook erkend dat de kwaliteit van de resultaten sterk afhangt van de informatieve waarde van de verstrekte metadata aan de LLM.