🤖 AI

Asking Is Not Enough: Protocol Sensitivity in LLM Confidence Calibration

Dit artikel toont aan dat de kalibratie van het vertrouwen van grote taalmodellen (LLM's) zeer gevoelig is voor meetprotocollen—namelijk conditionering van de context, het aflezen van token-kansen en de selectie van antwoorden—en onthult dat verbaal uitgedrukt vertrouwen vaak de plausibiliteit van een antwoord weerspiegelt in plaats van de juistheid, waarbij wordt opgeroepen tot de invoering van gestandaardiseerde rapportagelijsten voor betrouwbare evaluatie.

Oorspronkelijke auteurs: Hankyeol Kim, Pilsung Kang

Gepubliceerd 2026-05-28

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Hankyeol Kim, Pilsung Kang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert uit te vinden hoe zeker een groot taalmodel (LLM) is over zijn antwoorden. Je hebt twee manieren om dit te vragen:

De "Fluister": Je vraagt het model om hardop een getal te zeggen, zoals "Ik ben 85% zeker." (Dit heet verbaliseerde zekerheid).
De "Interne Monoloog": Je kijkt naar de wiskunde in het brein van het model om te zien hoe waarschijnlijk het dacht dat elk woord zou verschijnen. (Dit is tokenwaarschijnlijkheid).

Lange tijd dachten onderzoekers dat deze twee methoden vergelijkbaar waren met het bekijken van hetzelfde object vanuit twee licht verschillende hoeken. Ze gingen ervan uit dat als je ze vergeleek, je een stabiel, betrouwbaar beeld zou krijgen van het "zelfkennis" van het model.

Dit artikel zegt: Stop. Het beeld verandert volledig, afhankelijk van hoe je de camera vasthoudt.

De auteurs stellen dat het vergelijken van deze twee signalen minder lijkt op het maken van een foto van een berg, en meer op het proberen de hoogte van een gebouw te meten terwijl je op een trampoline staat. Het resultaat hangt volledig af van waar je staat, waar je op staat en welke liniaal je gebruikt.

Hier is de uiteenzetting van hun bevindingen met behulp van eenvoudige analogieën:

1. Het "Waar Je Staat"-Probleem (Conditionerende Context)

Dit is de grootste verrassing. Stel je voor dat je een student vraagt: "Hoe zeker ben je dat Parijs de hoofdstad van Frankrijk is?"

Scenario A: Je stelt deze vraag terwijl ze gewoon aan hun bureau zitten.
Scenario B: Je stelt deze vraag nadat ze al een lang essay over Parijs hebben geschreven.

Het artikel vond dat als je de interne wiskunde van het model (tokenwaarschijnlijkheid) meet voordat het begint te spreken (Scenario A) versus nadat het is gevraagd om een zekerheidsscore te geven (Scenario B), de resultaten omkeren.

In de ene opstelling lijkt het model perfect gekalibreerd (zijn gesproken zekerheid komt overeen met zijn interne wiskunde).
In de andere opstelling lijkt het model wild oververzekerd of onderverzekerd.

De Les: De "context" (wat het model zojuist heeft gelezen of is gevraagd te doen) verandert de wiskunde zozeer dat het de conclusie kan omkeren. Het is als het meten van een schaduw: de lengte van de schaduw hangt volledig af van waar de zon staat, niet alleen van het object.

2. Het "Over Welk Antwoord Hebben We Het?"-Probleem (Antwoordherkomst)

Soms genereert het model zijn eigen antwoord, en soms geef je het een antwoord en vraag je: "Hoe zeker ben je dat dit juist is?"

Zelfgegenereerd: Het model bedenkt het antwoord zelf.
Geleverd: Je geeft het model een correct antwoord en vraagt om een zekerheidsscore.

Het artikel vond dat wanneer je het model een plausibel maar fout antwoord geeft (een dat slim klinkt maar feitelijk onjuist is), het model bijna dezelfde hoge zekerheidsscore geeft als aan een correct antwoord.

Analogie: Stel je een weerman voor. Als je hem een nep-weerbericht toont dat er zeer realistisch uitziet, zou hij kunnen zeggen: "Ik ben 90% zeker dat dit accuraat is", zelfs als het fout is. Hij beoordeelt hoe plausibel het verhaal klinkt, niet of het waar is.

3. Het "Welke Liniaal"-Probleem (Token Uitlezing)

Bij het berekenen van de interne wiskunde: kijk je naar de waarschijnlijkheid van het eerste woord van het antwoord, of naar de gemiddelde waarschijnlijkheid van de hele zin?

Het artikel vond dat het veranderen van dit kleine detail (zoals overschakelen van een liniaal in inches naar een liniaal in centimeters) de resultaten zodanig verandert dat het in veel gevallen het teken van de conclusie omkeert. Het is een kleine technische aanpassing, maar het maakt veel uit.

4. Het "Welke Rekenmachine"-Probleem (Keuze van Schatter)

Onderzoekers gebruiken verschillende wiskundige formules (schatters) om de "kalibratiefout" te berekenen.

Het Goede Nieuws: Het veranderen van de rekenmachine (de formule) veranderde de resultaten niet veel.
Het Slechte Nieuws: Het veranderen van waar je staat (context) of wat je meet (antwoordbron) veranderde de resultaten enorm.

De Grote Conclusie

Het artikel concludeert dat noch de gesproken zekerheid ("Ik ben 90% zeker") noch de interne wiskunde een directe, onveranderlijke waarheid is over het brein van het model.

In plaats daarvan zijn het gedragsmatige metingen. Ze lijken op de reactie van een persoon op een specifieke vraag in een specifieke situatie. Als je de situatie verandert (de prompt, de context, de bron van het antwoord), verandert de reactie.

De "Checklist"-Metafoor:
De auteurs suggereren dat als je wilt rapporteren hoe zeker een AI is, je niet zomaar kunt zeggen: "Ons model is 90% gekalibreerd." Dat is als zeggen: "Het gebouw is 30 meter hoog" zonder te zeggen of je het gemeten hebt vanaf de kelder of van het dak.

Je moet het "Protocol" rapporteren:

Wie schreef het antwoord? (Schreef het model het, of heb jij het gegeven?)
Waar stonden jullie? (Heb je de wiskunde gemeten voordat of nadat het model begon te spreken?)
Hoe heb je de wiskunde gelezen? (Kwam je naar het eerste woord of naar de hele zin?)

Samenvatting:
Vertrouw niet op één enkel getal dat beweert aan te geven hoe "zeker" een AI is. Dat getal is fragiel. Het hangt volledig af van de specifieke regels van het spel dat je speelt. Als je de regels verandert, verandert de score. Daarom moeten we zeer voorzichtig zijn met hoe we deze getallen meten en rapporteren, vooral als we ze willen gebruiken voor belangrijke beslissingen.

Probleem
De kalibratie van het vertrouwen van Large Language Models (LLM) is cruciaal voor een veilige implementatie in domeinen met hoge risico's. Huidige evaluaties vergelijken doorgaans twee signalen: token-probabiliteitsscores (afgeleid van de interne logits van het model) en verbaal geuit vertrouwen (waarbij het model expliciet een waarschijnlijkheid in tekst rapporteert). Hoewel eerdere studies hebben vastgesteld dat verbaal geuit vertrouwen gevoelig is voor methoden om het vertrouwen op te wekken, betoogt dit artikel dat de vergelijking tussen verbaal en op tokens gebaseerd vertrouwen ook sterk gevoelig is voor "meetkeuzes" die vaak impliciet worden gelaten. Specifiek hangt de hoeveelheid die wordt gemeten af van: (1) welke antwoordstring de token-probabiliteitsscore ontvangt (zelf gegenereerd versus aangeleverd), (2) hoe die score wordt afgelezen uit de antwoordtokens (bijvoorbeeld eerste token versus gemiddelde over de reeks), en (3) de conditionele context waaronder de waarschijnlijkheid wordt gemeten (blote query versus prompt-voorvoegsel gebruikt voor verbaal uitdrukken). De auteurs stellen dat zonder expliciete specificatie van het protocol, waargenomen kalibratieverschillen eerder meetartefacten kunnen weerspiegelen dan intrinsieke model eigenschappen of winst door uitlijning.

Methodologie
De auteurs voeren een gecontroleerde gevoeligheidsanalyse uit over vier QA-benchmarks (TriviaQA, SciQ, TruthfulQA, MMLU) met drie open 7–8B base/Instruct-modelfamilies (Llama-3-8B, Mistral-7B-v0.3, Qwen2.5-7B), met robuustheidscontroles op grotere Qwen2.5-varianten (14B, 32B, 72B).

Het onderzoek houdt de opwekking van verbaal vertrouwen vast (een enkel continu prompt-sjabloon van 0,0–1,0) terwijl het systematisch de "protocolassen" varieert die de token-probabiliteitsvergelijking definiëren:

Herkomst van het antwoord: Vergelijken van vertrouwen dat is opgewekt bij zelf gegenereerde antwoorden versus aangeleverde antwoorden (goud, plausibel fout en fout van het verkeerde type).
Beoordeeld antwoord: Vergelijken van token-probabiliteiten die zijn toegewezen aan het gegenereerde antwoord van het model versus een door een leraar geforceerde gouden referentie.
Aflezen van tokens: Vergelijken van het geometrische gemiddelde van de antwoordreeks ( $T_1$ ) versus de waarschijnlijkheid van het eerste antwoordtoken ( $T_2$ ).
Conditionele context: Vergelijken van token-probabiliteiten gemeten onder een blote query versus onder het verbaal uitdrukkende prompt-voorvoegsel.
Schatter: Vergelijken van de standaard 10-bakken Verwachte Kalibratiefout (ECE) met bak-vrije schatters (KDE-ECE, KS-Cal, Geglazuurde ECE).

De primaire metriek is het getekende kalibratieverschil $g = \text{ECE}(c_{\text{verb}}) - \text{ECE}(c_{\text{tok}})$ , waarbij negatieve waarden aangeven dat verbaal vertrouwen beter gekalibreerd is.

Belangrijkste bijdragen

Protocolgevoeligheid bij vaste opwekking: De auteurs tonen aan dat zelfs bij een vast verbaal vertrouwen-prompt, de vergelijking tussen verbaal en token-signaal instabiel is. Keuzes voor conditionele context en het aflezen van tokens veranderen het waargenomen ECE-verschil materieel, vaak door het teken ervan om te draaien. Daarentegen heeft het veranderen van de ECE-schatter een verwaarloosbaar effect.
Herkomst van het antwoord en plausibiliteit: De studie onthult dat verbaal vertrouwen de plausibiliteit en herkomst van het antwoord volgt in plaats van alleen de juistheid. Wanneer modellen worden voorzien van oppervlakkig plausibele foutieve antwoorden, wijzen ze vertrouwen-niveaus toe die bijna identiek zijn aan die voor aangeleverde gouden antwoorden, terwijl ze duidelijk afwijkingen van het verkeerde type afwijzen.
Rapporteringschecklist: Het artikel stelt een rapporteringschecklist voor voor vergelijkingen van vertrouwenssignalen die de herkomst van de opwekking, het beoordeelde antwoord, het aflezen van token-probabiliteiten en de conditionele context omvat om meetreproduceerbaarheid en interpreteerbaarheid te waarborgen.

Resultaten

Instabiliteit van het kalibratieverschil: Onder het standaardprotocol "gegenereerd antwoord, blote context" tonen Instruct-modellen bijna gelijkheid tussen verbaal en token-vertrouwen (gemiddeld verschil $g_A \approx -0,029$ ), wat in strijd is met beweringen over grote kalibratiewinst voor verbaal vertrouwen. Het verschuiven van de conditionele context (het meten van token-probabiliteit onder het verbaal uitdrukkende voorvoegsel) verschuift het verschil echter met $\approx -0,090$ bij Instruct-modellen, waardoor het teken van het verschil vaak omkeert.
Grootte van protocol-effecten: De grootte van de verschuiving veroorzaakt door de conditionele context (gemiddelde absolute verschuiving 0,28) is vergelijkbaar met de variatie veroorzaakt door het veranderen van de modelfamilie (0,37) of de dataset (0,17). Het aflezen van tokens veroorzaakt ook significante verschuivingen (0,11), terwijl de keuze van de schatter minimale verschuivingen veroorzaakt (0,01).
Gevoeligheid voor herkomst: Bij analyses met aangeleverde antwoorden is het verschil in vertrouwen tussen aangeleverde gouden antwoorden en plausibele foutieve antwoorden marginaal ( $\approx +0,021$ ), terwijl het verschil voor foutieve antwoorden van het verkeerde type groot is. Dit suggereert dat verbaal vertrouwen de plausibiliteit van de verstrekte tekst weerspiegelt in plaats van een schatting van de grondwaarheid-juistheid.
Robuustheid: Deze bevindingen gelden voor verschillende modelgroottes (tot 72B), verschillende prompt-schalen (gehele getallen 0–100) en diverse kalibratiemetrieken (Brier, NLL, AUROC).

Betekenis en claims
Het artikel betoogt dat noch verbaal vertrouwen noch token-probabiliteit moet worden behandeld als een directe, contextvrije aflezing van modelonzekerheid. In plaats daarvan zijn beide gedragsmatige metingen waarvan de interpretatie onlosmakelijk verbonden is met het meetprotocol. De auteurs claimen dat scalair claims over uitlijning die zelf gerapporteerde onzekerheid verbetert, of de superioriteit van verbaal vertrouwen ten opzichte van token-probabiliteiten, alleen betekenisvol zijn wanneer de specifieke meetconfiguratie (herkomst van het antwoord, methode van aflezen, conditionele context) expliciet wordt gespecificeerd. De studie dient als een waarschuwend analyse, die de gemeenschap aanspoort kalibratievergelijkingen te behandelen als protocol-afhankelijke gevoeligheidsanalyses in plaats van causale ontledingen van modelcapaciteiten.

1. Het "Waar Je Staat"-Probleem (Conditionerende Context)

2. Het "Over Welk Antwoord Hebben We Het?"-Probleem (Antwoordherkomst)

3. Het "Welke Liniaal"-Probleem (Token Uitlezing)

4. Het "Welke Rekenmachine"-Probleem (Keuze van Schatter)

De Grote Conclusie

Meer zoals dit