💬 NLP

Decomposing Wrong-Consensus Agreement in LLM Self-Consistency: A GPT-4.1 Case Study

Dit artikel analyseert kwantitatief de grillige prestaties van LLM self-consistency voting door een "pluralistische overeenstemmingsindex" te introduceren die consensus decomponereert in mechanische voorkeursgestuurde en residuele componenten, waarbij wordt onthuld dat hoewel gedeelde vooroordelen de meerkeuzeopdrachten domineren, onverklaarde heterogeniteit voortduurt bij open domein problemen en een hoge overeenstemming geen correctheid garandeert.

Oorspronkelijke auteurs: Lizhuo Zhang, Mengmeng Tang, Chenfeng Long, Xiaoyong Tang, Xiang Luo

Gepubliceerd 2026-08-20

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Lizhuo Zhang, Mengmeng Tang, Chenfeng Long, Xiaoyong Tang, Xiang Luo

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

In de wereld van kunstmatige intelligentie worden grote taalmodellen vaak behandeld als orakelachtige machines die complexe problemen kunnen oplossen door erover na te denken. Om deze systemen betrouwbaarder te maken, ontwikkelden onderzoekers een techniek genaamd zelfconsistentie. Het idee is simpel: in plaats van het model één antwoord te vragen, vraag je het dezelfde vraag vele malen en laat je de antwoorden stemmen. Als het model meestal hetzelfde antwoord produceert, is de aanname dat dit consensus waarschijnlijk correct is. Deze methode is een standaardinstrument geworden voor het verbeteren van de nauwkeurigheid, gebaseerd op de intuïtieve overtuiging dat overeenstemming tussen vele pogingen de waarheid signaleert. Deze overtuiging staat echter tegenover een hardnekkige realiteit: soms kan een model heel sterk met zichzelf instemmen en toch volkomen ongelijk hebben. Dit gebeurt het vaakst bij moeilijke vragen, waarbij het model met vertrouwen kan landen op een plausibel maar onjuist antwoord, wat een vals gevoel van veiligheid creëert. Begrijpen waarom dit gebeurt is cruciaal, want als we een zelfverzekerd correct antwoord niet kunnen onderscheiden van een zelfverzekerd foutief antwoord, kunnen we deze systemen niet vertrouwen in situaties met hoge inzet.

Een recente studie door onderzoekers van de Hunan Agricultural University en het Yuelushan Laboratory onderzoekt deze specifieke foutmodus met behulp van een krachtig nieuw model, GPT-4.1. In plaats van alleen te observeren dat fouten voorkomen, ontwierp het team een manier om exact te meten hoeveel van die onjuiste overeenstemming voortkomt uit de aard van de vraag zelf versus een dieper liggend, gedeeld gebrek in het denken van het model. Ze behandelden het probleem als een forensische audit van het stemproces van het model met behulp van publieke per-run data van een eerdere release. Wanneer het model een vraag fout heeft, vroegen ze: komt de groep foutieve antwoorden bij elkaar omdat er één zeer aantrekkelijke foutieve optie is die iedereen kiest, of is er iets anders dat ervoor zorgt dat ze op het verkeerde pad komen? Om dit te beantwoorden, creëerden ze een simulatie waarin ze de specifieke voorkeuren van het model voor bepaalde antwoorden konden weghalen om te zien welke overeenstemming er overbleef.

De onderzoekers ontdekten dat het antwoord sterk afhangt van het type vraag dat wordt gesteld. Wanneer het model werd geconfronteerd met meerkeuzevragen met een vaste set opties, was het verhaal relatief eenvoudig. In deze gevallen werd de sterke overeenstemming over een foutief antwoord bijna volledig verklaard door het feit dat het model een mechanische voorkeur had voor een specifieke, aantrekkelijke afleider. Het model werd in feite telkens naar dezelfde verkeerde deur getrokken, en het stemsysteem reflecteerde simpelweg die enkele aantrekkingskracht. In deze scenario's werd de "gedeelde bias" die de fout veroorzaakte, gevangen door de individuele voorkeur van het model voor die specifieke foutieve optie. De studie toonde aan dat voor deze meerkeuzetaken de interne voorkeur van het model tussen de 81% en 93% van de foutieve consensus verklaarde. Dit suggereert dat bij deze gecontroleerde taken de fout geen mysterieus, gecorreleerd falen van de hele groep is, maar eerder een voorspelbare aantrekkingskracht tot een specifieke valstrik.

Echter, het beeld veranderde drastisch toen de onderzoekers naar open vragen keken, zoals die in wiskundewedstrijden waar geen lijst met keuzes is om uit te kiezen. Hier verklaarde de interne voorkeur van het model voor een specifiek antwoord slechts ongeveer 59% tot 78% van de overeenstemming. Een aanzienlijk deel van de foutieve consensus bleef onverklaard, zelfs nadat rekening was gehouden met de voorkeuren van het model. Deze overgebleven overeenstemming suggereert dat wanneer het model zijn eigen antwoorden vanuit het niets genereert, het niet alleen een populaire foutieve optie kiest; de verschillende pogingen coördineren op een manier om op dezelfde fout uit te komen die verder gaat dan eenvoudige voorkeur. De onderzoekers merkten op dat deze onverklaarde overeenstemming consistent was met het idee dat het model een gedeelde, systematische bias uit zijn training draagt die ervoor zorgt dat het steeds dezelfde fout maakt, zelfs wanneer het probeert anders te denken.

De studie bevestigde ook dat een hoge mate van overeenstemming geen garantie is voor juistheid. De onderzoekers bekeken de meest zelfverzekerde groepen antwoorden — die waarbij het model bijna perfect met zichzelf instemde — en stelden vast dat de nauwkeurigheid zelfs in deze gevallen verre van perfect was. Bij de moeilijkste vragen waren de meest toegepaste antwoorden slechts voor ongeveer 42% tot 83% correct. Dit betekent dat zelfs wanneer het model extreem consistent is, het nog steeds een aanzienlijk deel van de tijd fout zit. Bovendien toonde de studie aan dat het gebruik van de stemmethode bij moeilijke vragen de prestaties zelfs slechter kan maken dan simpelweg één gok nemen. Dit "backfire"-effect was het meest uitgesproken bij de moeilijkste problemen, waar de neiging van het model om het eens te worden over een foutief antwoord sterk genoeg was om de incidentele juiste gok te overtreffen.

Uiteindelijk herkadert dit onderzoek hoe we de zelfverzekerdheid van een AI moeten zien. De studie demonstreert dat overeenstemming geen certificaat van waarheid is, maar een genuanceerd signaal dat met voorzichtigheid moet worden geïnterpreteerd. Bij meerkeuzetoetsen is een foutieve consensus vaak slechts het vastklampen van het model aan één aantrekkelijk fout antwoord. Maar bij open eind taken kan een foutieve consensus een diepere, onverklaarde correlatie verbergen waarbij de verschillende pogingen van het model elkaars fouten versterken. De onderzoekers concluderen dat hoewel zelfconsistentie een nuttig hulpmiddel is, het een plafond heeft: het kan de nauwkeurigheid aanzienlijk verhogen ten opzichte van een enkele gok, maar het kan het niet naar perfectie brengen, vooral wanneer de vragen moeilijk zijn. De bevindingen suggereren dat we moeten stoppen met het behandelen van hoge overeenstemming als een groen licht voor juistheid en het moeten gaan behandelen als een genuanceerd bewijsstuk dat verdere controle vereist, met name wanneer het model zijn eigen antwoorden genereert zonder een vaste set keuzes.

Technische Samenvatting: Decompositie van Foutieve Consensus-overeenstemming in LLM Self-Consistency

Probleemstelling

Sampling-gebaseerd redeneren (Self-Consistency), waarbij meerdere LLM-outputs worden gegenereerd en geaggregeerd via meerderheidsstemming, is een standaardtechniek voor het verbeteren van de antwoordnauwkeurigheid. Er is echter empirisch bewijs dat deze heuristiek niet uniform effectief is: overeenstemming kan hoog zijn zelfs wanneer het antwoord fout is, en bij moeilijke vragen kan meerderheidsstemming soms de nauwkeurigheid verminderen ten opzichte van een enkele sample (een "backfire"-effect).

Bestaande literatuur documenteert deze mislukkingen, maar mist een kwantitatieve, contrafeitelijke decompositie van foutieve consensus-overeenstemming. Specifiek blijft het onduidelijk hoeveel van de geobserveerde overeenstemming bij foutieve antwoorden te wijten is aan:

Mechanische effecten: De statistische onvermijdelijkheid dat stemmen concentreren op één optie gegeven een vaste per-geval voorkeur (bijv. een specifieke afleider is aantrekkelijk voor het model).
Gecorreleerde fouten: Gedeelde biases of systematische fouten waarbij de samples van het model niet onafhankelijk zijn, waardoor ze zich op hetzelfde foutieve antwoord vastklampen buiten wat de mechanische voorkeur zou voorspellen.

Methodologie

Het artikel introduceert een pluralistische overeenstemmingsindex ( $\Gamma$ ) en een counterfeitelijke decompositiekader om onderscheid te maken tussen mechanische overeenstemming en voorkeurs-onverklaarde residuen. De analyse wordt volledig uitgevoerd op bestaande per-run data (Ding [2]) voor de GPT-4.1 familie (inclusief mini en nano varianten) over twee benchmarks: GPQA-Diamond (multiple-choice) en AIME (open-domain).

Kerndefinities

Overeenstemmingsindex ( $\Gamma$ ): Gedefinieerd als de verwachte fractie samples in een foutieve run die overeenstemmen met de pluraliteitslabel, genormaliseerd door een referentiemaatstaf $d = (1-p)/(C-1)$ , waarbij $p$ de single-sample nauwkeurigheid is en $C$ het aantal opties. Dit meet hoe "plakkerig" foutieve runs zijn aan een foutieve consensus.
Mechanische Counterfactials: Het artikel construeert een hiërarchie van nullenmodellen om te simuleren hoe overeenstemming eruit zou zien als fouten onafhankelijk zouden zijn maar specifieke structurele eigenschappen behielden:
1. Uniforme Null ( $\Gamma_{iid}$ ): Samples worden uniform getrokken uit foutieve opties. Dit vertegenwoordigt een baseline waar geen specifieke optie wordt verkozen.
2. Leak-Free Per-Case Preference Null ( $\Gamma_{rival}$ ): Dit is de kernbijdrage. Voor elk geval wordt de voorkeursverdeling van het model over opties geschat met behulp van een leave-one-out schema (gebruikmakend van alleen andere runs van hetzelfde geval). Gesimuleerde runs worden vervolgens getrokken uit deze geschatte voorkeursverdeling. Cruciaal is dat geen enkele run zijn eigen overeenstemming voorspelt, wat datalekken voorkomt.

Decompositie Metriek

De primaire metriek is Mechanische Dekking ( $\phi$ ):
$\phi = \frac{\Gamma_{rival}}{\Gamma^{(t)}_{emp}}$

$\Gamma^{(t)}_{emp}$ : De empirische overeenstemmingsindex op een hold-out set van foutieve runs.
$\Gamma_{rival}$ : De overeenstemmingsindex gegenereerd door de leak-free per-case preference null.
Interpretatie:
- $\phi \approx 1$ : De geobserveerde overeenstemming wordt bijna volledig verklaard door de mechanische aantrekkingskracht tot een specifieke (maar potentieel foutieve) optie. De "gedeelde bias" verklaring overschat hier de situatie.
- $\phi \ll 1$ : Er blijft een aanzienlijk voorkeurs-onverklaard residu ( $\delta = 1 - \phi$ ) over. Dit sugggeert dat zelfs na rekening te houden met per-case voorkeuren, de samples zich op de foutieve consensus clusteren meer dan wat onafhankelijkheid zou voorspellen, wat consistent is met gecorreleerde fouten of gedeelde trainingsbiases.

Belangrijkste Resultaten

1. Benchmark-geassocieerde Richting in Mechanische Dekking

De decompositie onthult een duidelijk verschil tussen beperkte multiple-choice taken en open-domain taken:

GPQA-Diamond (Multiple-Choice): De mechanische per-case voorkeur verklaart 81–93% van de geobserveerde foutieve consensus-overeenstemming ( $\phi \in [0.806, 0.927]$ ). Het residu is klein. Dit suggereert dat bij multiple-choice taken, de "gedeelde bias" vaak manifesteert als het collectief vastklampen van het model aan een specifieke, aantrekkelijke afleider, wat wordt gevangen door het per-case voorkeurskanaal.
AIME (Open-Domain): De mechanische voorkeur verklaart slechts 59–78% van de overeenstemming ( $\phi \in [0.586, 0.781]$ ). Een substantieel residu van 1.56–2.80 $\Gamma$ eenheden blijft over. Dit residu is consistent met variatie in run-to-run voorkeuren (gemodelleerd via een Dirichlet-multinomial null) en suggereert dat bij open-domain taken overeenstemming een component bevat die niet wordt verklaard door vaste per-case voorkeuren.

2. Reproductie van het "Backfire"-effect

De studie reproduceert de bevinding dat meerderheidsstemming kan terugvallen (backfire) op moeilijke vragen. In een op moeilijkheidsgraad gebinsde analyse wordt de stemkloof (consensus nauwkeurigheid minus single-sample nauwkeurigheid) negatief in de moeilijkste bins (bijv. $-0.09$ voor GPT-4.1-nano op GPQA).

3. Lage Empirische Ceiling voor Hoge Overeenstemming

Hoge self-consistency is informatief maar niet certificerend.

De nauwkeurigheid van de "hoogste-overeenstemming bin" (top quintile van self-consistency) varieert van 0.42 tot 0.83.
Hoewel dit een 1.2–3.6 $\times$ lift vertegenwoordigt ten opzichte van de baseline, is het ver van 1.0. Overeenstemming is gegradeerd bewijs, geen certificering.

4. Fragiliteit van de Champion

Zelfs wanneer twee onafhankelijke runs van hetzelfde geval een hoog-overeenstemmende winnaar produceren, is de "champion" (pluraliteitswinnaar) instabiel.

Flip Rate: Op AIME is de flip rate 0.82; op GPQA is het 0.40.
Zelfs bij zeer hoge self-consistency ( $\alpha \ge 0.98$ ) blijft de flip rate 0.17 op GPQA en 0.78 op AIME.

5. Soft vs. Hard Agreement

Het vervangen van harde meerderheidsstemming door soft, waarschijnlijkheidsgewogen aggregatie (gebruikmakend van de Jensen gap) levert geen merkbare verbetering op in de AUROC voor het voorspellen van correctheid. De "soft" overeenstemming voegt geen signaal toe bovenop de "harde" pluraliteitsconcentratie. Bovendien is de Jensen gap groter voor foutieve runs dan voor correcte runs, wat aangeeft dat foutieve runs meer verspreide distributies hebben.

Betekenis en Claims

Het artikel positioneert zichzelf als een beschrijvende, begrijpende bijdrage in plaats van een voorstel voor een nieuwe stemmethode of een ontdekking van nieuwe faalmodi. De betekenis ligt in:

Kwantitatieve Decompositie: Het biedt de eerste contrafeitelijke hiërarchie om foutieve consensus-overeenstemming te decomponeren in mechanische per-case voorkeuren en voorkeurs-onverklaarde residuen.
Herformulering van "Gedeelde Bias": Het daagt de algemene aanname uit dat hoge overeenstemming op foutieve antwoorden uitsluitend te wijten is aan gecorreleerde fouten. Bij multiple-choice taken is veel van deze overeenstemming mechanisch (gevangen door per-case voorkeuren). Bij open-domain taken blijft een robuust residu over, consistent met systematische foutpatronen.
Model-Agnostisch Kader: De decompositie is volledig gedefinieerd in termen van geobserveerde run-data en contrafeitelijke simulaties, waardoor het toepasbaar is op elk model waar per-run data beschikbaar is.
Empirische Grenzen: Het stelt vast dat self-consistency vertrouwen gegradeerd bewijs is, geen certificering, met empirische ceilings ver onder perfecte nauwkeurigheid, zelfs voor bins met hoge overeenstemming.

De auteurs stellen expliciet dat het mechanisme van het residu (bijv. of het strikt "gedeelde trainingsbias" is of run-niveau heterogeniteit) niet geïdentificeerd is, enkel dat een per-case voorkeursmodel onvoldoende is om de foutieve consensus-overeenstemming in open-domain taken te verklaren. De resultaten zijn begrensd door de i.i.d.-aanname in de contrafactials, hoewel de richting van de bevindingen (hoge mechanische dekking op GPQA, substantieel residu op AIME) robuust is voor sampling correlatie.