🤖 AI

When Agents Disagree With Themselves: Behavioral Consistency as an Uncertainty Signal for LLM Agents

Dit artikel toont aan dat gedragsvariantie in de actiesequenties van LLM-agenten dient als een ongetraind onzekerheidssignaal, wat selectieve classificatie en distributievrije kalibratie mogelijk maakt die de nauwkeurigheid en de betrouwbaarheid van de modelrangschikking aanzienlijk verbeteren zonder dat daarvoor een apart gehouden kalibratiedataset nodig is.

Oorspronkelijke auteurs: Aman Mehta

Gepubliceerd 2026-07-16

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Aman Mehta

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Digitale Dubbelcheck: Waarom twee keer aan een AI vragen beter kan zijn dan één keer

Stel je voor dat je probeert een lastige puzzel op te lossen, zoals een ingewikkelde raadsel of een wiskundig probleem. Als je een vriend om het antwoord vraagt, kan het zijn dat hij het goed heeft, of dat hij gokt en het fout heeft. Maar wat als je diezelfde vriend exact dezelfde vraag tien keer achter elkaar zou kunnen stellen? Als hij je elke keer hetzelfde antwoord geeft, voel je je waarschijnlijk vrij zeker van het feit dat hij gelijk heeft. Als hij echter tien verschillende antwoorden geeft, weet je dat er iets mis is — hij is in de war, aan het gokken, of de vraag is te moeilijk voor hem.

Dit is de kern van het idee achter Large Language Models (LLM's), de superintelligente computerprogramma's die de huidige AI-agenten aandrijven. Deze agenten zijn als digitale detectives die tools kunnen gebruiken (zoals het internet doorzoeken of code schrijven) om meerstaps-problemen op te lossen. Maar net als mensen zijn ze niet perfect. Soms hallucineren ze (verzinnen ze dingen) of blijven ze in een lus hangen. Wetenschappers vragen zich al lang af: Hoe kunnen we zien wanneer een AI onzeker is over zichzelf zonder simpelweg te vragen: "Weet je het zeker?" (Omdat AI kan liegen over hoe zeker het is). Dit artikel onderzoekt een slimme truc: in plaats van één antwoord te vertrouwen, kijken we naar hoe het gedrag van de AI verandert wanneer hij dezelfde taak telkens opnieuw probeert uit te voeren. Als het gedrag van de AI alle kanten op gaat, is dat een enorme rode vlag dat het antwoord mogelijk fout is.

Wanneer AI-agenten niet zelf kunnen beslissen

De onderzoekers achter deze studie besloten een simpel maar krachtig idee te testen: Gedragsconsistentie. Ze behandelden de AI-agent als een student die een toets maakt. In plaats van alleen het eindantwoord te beoordelen, keken ze naar hoe de student het probleem oploste. Ze lieten dezelfde AI-agent exact dezelfde vragen 10 keer uitvoeren, waarbij gebruik werd gemaakt van verschillende "random seeds" (wat vergelijkbaar is met het schudden van het kaartspel waaruit de AI zijn beslissingen afleidt).

Dit is wat zij ontdekten, en het is een beetje verrassend:

1. De AI is een wispelturige denker
Zelfs als je een AI exact dezelfde instructies en hetzelfde startpunt geeft, denkt hij niet altijd op dezelfde manier. In hun tests produceerde het 10 keer draaien van dezelfde agent op exact dezelfde vragen tussen de 2,3 en 4,2 verschillende paden naar de oplossing. Soms nam de AI een kortere route; andere keren dwaalde hij een lange, verwarrende steeg in. Dit "dwalen" is niet zomaar een foutje; het is een signaal. Hoe vaker de AI van gedachten verandert over hoe een probleem op te lossen, hoe kleiner de kans dat het antwoord juist is.

2. Consistentie is een kristallen bol voor nauwkeurigheid
Het team ontdekte een sterke link tussen hoe consistent de AI is en hoe correct hij is.

De "Stabiele" Groep: Wanneer de AI bij hetzelfde pad bleef (2 of minder unieke paden), had hij in 82% tot 87% van de gevallen het juiste antwoord.
De "Dwalende" Groep: Wanneer de AI in veel verschillende richtingen uitweek (4 of meer unieke paden), daalde de nauwkeurigheid naar tussen de 41% en 65%.

Dit verschil was enorm. Het betekent dat als je ziet dat een AI telkens een heel andere route neemt wanneer je hem een vraag stelt, je het antwoord waarschijnlijk minder moet vertrouwen.

3. De "Stap 2" Verrassing
De onderzoekers keken nauwkeurig naar wanneerde de AI begon te raken in verwarring. Ze ontdekten dat voor sommige modellen (zoals Llama) de problemen bijna onmiddellijk begonnen. Ongeveer 50,5% van de tijd nam de AI een andere eerste of tweede stap vergeleken met zijn andere pogingen. Het is alsoer de AI bij een splitsing in de weg staat en niet kan beslissen welke kant hij op moet gaan, direct vanaf het begin. Andere modellen (zo zoals Claude) bleven veel langer op hetzelfde pad voordat ze uiteenliepen.

4. De "Filter" versus de "Stemmer"
Een van de meest interessante bevindingen ging over hoe je deze informatie kunt gebruiken.

De "Stemmer"-benadering: Je zou kunnen denken: "Als ik de AI 3 keer vraag en de meerderheid laat stemmen, krijg ik een beter antwoord." Het artikel zegt dat dit wel werkt, maar slechts een klein beetje (een verbetering van slechts 0–2%). Waarom? Omdat de AI soms vol vertrouwen fout zit. Als hij vroeg in het proces een fout maakt, kan hij die zelfde fout elke keer maken, waardoor de "stemming" de fout slechts bevestigt.
De "Filter"-benadering: In plaats van te stemmen, probeerden de onderzoekers een andere strategie: Geef alleen antwoord als de AI het met zichzelf eens is. Ze zeiden: "Als de AI de taak 3 keer uitvoert en alle 3 de runs geven exact hetzelfde antwoord, dan accepteren we het. Als ze het oneens zijn, zeggen we 'Ik weet het niet' en slaan we de vraag over."
- Deze "filter" werkte verbazingwekkend goed. Door de onzekere vragen over te slaan, sprong de nauwkeurigheid van de AI op de vragen die hij wel beantwoordde naar 87–88%. Dat is een verbetering van 6–14 procentpunt ten op‌over het simpelweg geven van een enkele gok!

5. Beter dan "Vragen" aan de AI
Het team vergeleken deze "gedragsconsistentie"-truc ook met het aan de AI vragen: "Hoe zeker ben je ervan?" (Dit wordt "verbaal vertrouwen" genoemd). De resultaten waren duidelijk: de acties van de AI waren een veel betere leugendetector dan zijn woorden. De AI zei vaak dat hij zelfverzekerd was, zelfs wanneer hij rondjes aan het dwalen was. Het gedragssignaal (kijken of hij van gedachten verandert) was een veel betrouwbaardere manier om een fout op te sporen.

6. Het werkt overal
Om er zeker van te zijn dat dit geen toevalstreffer was voor één specif kind type vraag, testten ze de AI op een totaal ander soort taak: het oplossen van bugs in computercode (met behulp van een benchmark genaamd SWE-bench). Hoewel programmeren heel anders is dan trivia beantwoorden, gold dezelfde regel: de AI die het meest consistent was in zijn gedrag, was ook het meest accuraat. De "consistentiehiërarchie" (welke modellen stabiel waren en welke wankel) bleef exact hetzelfde over beide tests heen.

Waarom dit ertoe doet

Het artikel suggereert dat we niet de hersenen van de AI hoeven te veranderen of hem nieuwe dingen hoeven te leren om hem betrouwbaarder te maken. We hoeven hem alleen maar te observeren. Door een taak een paar keer uit te voeren en te controleren of het "verhaal" van de AI hetzelfde blijft, kunnen we optreden als een slimme redacteur. We kunnen ervoor kiezen om de antwoorden te vertrouwen die consistent zijn en de antwoorden te negeren waarbij de AI verward lijkt.

Dit is een "training-vrije" methode, wat betekent dat het met elk AI-model direct uit de doos werkt. Het zet de onzekerheid van de AI om in een nuttig signaal. In plaats van blindelings een enkel antwoord te vertrouwen, kunnen we deze "consistentiecheck" gebruiken om te weten wanneer we moeten zeggen: "Ik weet het niet zeker over deze," wat een enorme stap voorwaarts is om AI-agenten veiliger en betrouwbaarder te maken in de echte wereld.

Kortom: Als een AI niet zelf een plan kan bedenken, is dat waarschijnlijk niet het beste moment om zijn antwoord te vertrouwen. Maar als hij elke keer hetzelfde plan volgt, kun je er vergif op innemen dat hij op de goede weg zit.

Technische Samenvatting: Gedragsmatige Consistentie als Onzekerheidssignaal voor LLM-agenten

Probleemstelling

Naarmate Large Language Model (LLM) agenten transformeren van prototypes naar productiesystemen, is het begrijpen van hun betrouwbaarheid cruciaal. Een fundamentele maar onderbelichte vraag is de gedragsmatige consistentie van deze agenten: zal een agent bij identieke inputs hetzelfde redeneerpad volgen en tot hetzelfde antwoord komen? Inconsistentie bemoeilijkt debugging, vertroebelt de detectie van onzekerheid en daagt standaard benchmark-evaluatiemethoden uit. Hoewel bestaand werk de agentische inconsistentie heeft gekwantificeerd (bijv. $\tau$ -bench), is er een gebrek aan systematische analyse over waar en waarom divergentie optreedt, en of deze variantie kan dienen als een actiegericht, training-vrij onzekerheidssignaal voor selectieve voorspelling en foutdetectie.

Methodologie

De auteurs presenteren een systematische empirische studie van gedragsmatige consistentie in ReAct-stijl agenten over vier modellen (Llama 3.1 70B, GPT-5, Claude Sonnet 4.5, en Gemini 3 Pro) en twee benchmarks (HotpotQA en SWE-bench).

Experimentele Opzet: De studie omvatte in totaal 8.000 runs (200 HotpotQA vragen $\times$ 4 modellen $\times$ 10 onafhankelijke runs per stuk) en 1.000 runs op SWE-bench (50 taken $\times$ 5 runs). De runs werden uitgevoerd bij temperatuur 0.7 (met specifieke aanpassingen voor Gemini) om stochastische sampling te garanderen.
Metrieken: De kernmetriek is gedragsmatige consistentie, gedefinieerd door het aantal unieke actiesequenties (trajecten) dat over $k$ runs wordt gegenereerd. Aanvullende metrieken zijn de stap-variantieratio, het punt van eerste divergentie, en antwoordcorrectheid (via fuzzy string matching en token F1).
Statistische Kaders: Het artikel implementeert drie statistische kaders met behulp van cross-run overeenstemming als een enkelvoudig, black-box signaal:
1. Selectieve Classificatie: Het gebruik van overeenstemmingsscores om onzekere inputs te filteren.
2. Distributievrije Kalibratie: Het valideren van risico-dekking curves zonder uitgestelde kalibratiesets.
3. Sequentiële Monitoring: Het analyseren van stap-niveau overeenstemming om divergentie vroegtijdig te detecteren.
Theoretische Basis: De auteurs formaliseren de overeenstemmingsscore $s(x)$ als het fractie van de runs die het meerderheidsantwoord produceren. Ze bewijzen een Hoeffding-achtige concentratiebound (Propositie 1) die laat zien dat de empirische overeenstemmingsscore convergeert naar de ware pluraliteit-waarschijnlijkheid, uitgaande van onafhankelijke en identiek verdeelde (i.i.d.) runs.

Belangrijkste Bijdragen

1. Filter > Aggregator Asymmetrie

Het artikel identificeert een cruciale asymmetrie in multi-step agenten vergeleken met single-turn Chain-of-Thought (CoT). Terwijl meerderheidsstemmen (aggregatie) de single-turn CoT nauwkeurigheid met 5–17 procentpunt (pp) verbetert, levert dit slechts +0–2pp op voor multi-step agenten. Dit komt doordat agentische fouten vaak systematisch zijn; een vroege foutieve actie committeert de agent aan een incorrect traject, wat resulteert in "consistent-foute" antwoorden die stemmen niet kan corrigeren. Daarentegen levert filtering op basis van onenigheid (onthouden wanneer runs niet overeenstemmen) significante winsten op van 6–14pp voor drie van de vier modellen.

2. Selectieve Voorspelling met Distributievrije Validatie

De auteurs demonstreren dat gedragsmatige consistentie functioneert als een geldige selectiefunctie binnen het Geifman–El-Yaniv framework voor selectieve classificatie. Door alleen te antwoorden wanneer $k=3$ runs overeenstemmen, bereikt het systeem een nauwkeurigheid van 87–88% bij een dekking van 54–62%. Deze aanpak evenaart de prestaties van split-conformal baselines (die een uitgestelde kalibratieset vereisen) zonder dat daarvoor aparte kalibratiedata nodig is, aangezien de $k$ runs die voor voorspelling worden gebruikt inherent het signaal leveren.

3. Gedragsmatige Consistentie > Verbaalde Zelfvertrouwen

In een directe vergelijking op een gemeenschappelijke 100-vragen split, presteert gedragsmatige consistentie (AUROC 0.65–0.74) significant beter dan verbaald zelfvertrouwen (AUROC 0.48–0.55) als foutdetector voor Claude, GPT-5 en Llama. Het combineren van de twee signalen verbeterde de prestaties niet ten opzien van gedragsmatige consistentie alleen. Cruciaal is dat gedragsmatige consistentie geen prompt engineering, geen toegang tot log-waarschijnlijkheden en geen modelmodificatie vereist.

4. Cross-Benchmark Stabiliteit en Rangorde-Instabiliteit

De consistentie-hiërarchie (Claude < GPT-5 < Gemini < Llama in termen van variantie) wordt exact behouden over HotpotQA (QA-taken) en SWE-bench (coderings-taken, wat suggereert dat consistentie een stabiele, benchmark-onafhankelijke modeleigenschap is. Bovendien onthult het artikel dat single-run evaluaties modellen 29,3% van de tijd verkeerd rangschikken vanwege variantie, wat de standaard benchmark-methodologieën ondermijnt.

5. Divergentie Mechanisme

Divergentie concentreert zich vroeg in het redeneerproces. Voor Llama divergeren 50,5% van de taken tegen stap 2, vergeleken met slechts 4–6% voor Claude en GPT-5. De eerste zoekopdracht bepaalt grotendeels het traject. Daarnaast is de padlengte sterk gecorreleerd met gedragsmatige variantie; langere paden duiden op backtracking en een grotere kans op fouten.

Resultaten

Consistentie vs. Correctheid: Consistente taken (≤2 unieke sequenties) behalen 82–87% nauwkeurigheid, terwijl inconsistente taken (≥4 sequenties) dalen naar 41–65%. Dit gat blijft bestaan zelfs na controle voor taakmoeilijkheid, hoewel "consistent-foute" taken (waarbij de agent met vertrouwen een fout antwoord produceert) een hard plafond vormen voor de winst van filtering (5,5–10% van de taken).
Foutdetectie: Consistentie-metrieken (bijv. unieke sequentie-aantal >4) behalen AUROC-scores van 0,62–0,78 voor het detecteren van fouten, wat de random baselines aanzienlijk overtreft.
Kalibratie: Hoewel gedragsmatige consistentie een nuttig onzekerheidssignaal is, is het niet perfect gekalibreerd (de Expected Calibration Error varieert van 0-0,17), wat aangeeft dat overeenstemmingsniveaus niet perfect mappen naar correctheidswaarschijnlijkheden.
SWE-bench Validatie: De consistentie-hiërarchie houdt stand over ongekende bash-coderings-taken, waarbij Llama de hoogste variantie vertoont (CV 68,9%) en Claude de laagste (CV 17,7%).

Betekenis en Claims

Het artikel claimt dat gedragsmatige consistentie een training-vrij, black-box onzekerheidssignaal is dat natuurlijk voortkomt uit herhaalde executie. De primaire betekenis ligt in het mogelijk maken van selectieve voorspelling (onthouden bij onzekerheid) en runtime foutdetectie zonder modelmodificatie of toegang tot de interne staat.

De auteurs stellen dat dit signaal een gat in de agent-betrouwbaarheid opvult: in tegen tegenover gesteld van verbaald vertrouwen of geleerde kalibratie, is het robuust en vereist het geen fine-tuning. Door elke onafhankelijke run te behandelen als een impliciet ensemble-lid, verbindt dit werk het gedrag van agenten met gevestigde statistische kaders voor onzekheidsschatting. De bevindingen suggereren dat voor inzet in situaties met een hoog risico, vertrouwen op single-run evaluaties onvoldoende is; in plaats daarvan biedt het monitoren van cross-run overeenstemming een betrouwbaar mechanisme om fouten te filteren en de betrouwbaarheid van systemen te verbeteren, zij het ten koste van een lagere doorvoer (dekking). Het artikel concludeert dat consistentie niet louter een betrouwbaarheidsmetriek is, maar een fundamentele eigenschap die kan worden benut om agentische systemen veiliger en voorspelbaarder te maken.