🤖 machine learning

Improved Confidence Estimates for Black-Box Large Language Models

Dit artikel stelt een methode met lage overhead voor die de onzekerheidskwantificatie voor black-box grote taalmodellen verbetert door eenvoudige classificaties te trainen om de correctheid van reacties te voorspellen met behulp van bestaande betrouwbaarheidsscores en de correctheid van vergelijkbare queries uit een doeldataset.

Oorspronkelijke auteurs: Sokhna Diarra Mbacke, Mouloud Belbahri, Gabriel Loaiza-Ganem

Gepubliceerd 2026-08-21

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Sokhna Diarra Mbacke, Mouloud Belbahri, Gabriel Loaiza-Ganem

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Grote taalmodellen zijn krachtige hulpmiddelen geworden voor schrijven, programmeren en het beantwoorden van vragen, maar ze dragen een verborgen risico met zich mee: ze verzinnen soms feiten met absolute zekerheid. Dit fenomeen, vaak hallucinatie genoemd, vormt een aanzienlijke barrière voor het gebruik van deze systemen in sectoren met een hoge inzet, zoals de gezondheidszorg of wetenschappelijk onderzoek, waar een foutief antwoord ernstige gevolgen kan hebben. Om dit op te lossen, proberen onderzoekers al lang systemen te bouwen die ons kunnen vertellen hoeveel we een specifiek antwoord kunnen vertrouwen. Het doel is om een score toe te kennen aan elk antwoord die de betrouwbaarheid ervan aangeeft. Momenteel bestaan er veel methoden om deze scores te genereren, variërend van het vragen aan het model om zijn eigen vertrouwen te beoordelen tot het analyseren van hoeveel zijn antwoorden variëren wanneer er op verschillende manieren naar dezelfde vraag wordt gevraagd. Deze bestaande scores werken echter vaak in isolatie; ze behandelen elke nieuwe vraag alsof het de eerste keer is dat het model de vraag ooit heeft gezien, zonder te kijken naar hoe het model op vergelijkbare vragen in het verleden heeft gepresteerd.

Een team van onderzoekers bij Layer 6 AI en TD Insurance heeft een andere aanpak voorgesteld die vertrouwen niet beschouwt als een vaste eigenschap van het model, maar als een patroon dat geleerd kan worden. Zij stellen dat hoewel bestaande methoden ruwe onzekerheidsscores genereren zonder dat daarvoor voorafgaande data nodig is, praktijktoepassingen bijna altijd over een dataset beschikken van vragen en antwoorden die al op juistheid zijn gecontroleerd. De onderzoekers realiseerden zich dat deze gelabelde data een enorme, onbenutte bron is. In plaats van te proberen vanaf nul een nieuwe manier uit te vinden om onzekerheid te meten, bouwden zij een eenvoudig systeem dat de bestaande scores combineert met informatie over hoe het model in het verleden op vergelijkbare vragen heeft geantwoord. Door een standaard computerprogramma te trainen om de relatie tussen deze inputs en de werkelijke juistheid van de antwoorden te herkennen, creëerden zij een nieuwe methode die de oorspronkelijke scores op zichzelf consequent overtreft.

De kern van hun werk bestaat uit een tweestaps-proces dat nabootst hoe een menselijke expert een nieuwe bewering zou verifiëren. Eerst neemt het systeem een nieuwe vraag en het antwoord dat het grote taalmodel geeft. Vervolgens berekent het de standaard onzekerheidsscores die het model of andere tools normaal gesproken zouden produceren. Daarna zoekt het systeem in een referentielibrie van eerder beantwoordde vragen om de vragen te vinden die het meest lijken op de nieuwe vraag. Het controleert of het model die vergelijkbare vragen in het verleden goed of fout heeft beantwoord en meet hoe dicht ze bij de huidige vraag liggen. Deze details — de standaard scores, de geschiedenis van vergelijkbare vragen en de eerdere prestaties van het model op deze vragen — worden gevoed aan een eenvoudige classifier. Deze classifier leert te voorspellen of het nieuwe antwoord correct is, waardoor ruwe onzekerheidssignalen effectief worden vertaald naar een gekalibreerde waarschijnlijkheid van waarheid.

De onderzoekers testten deze methode over verschillende verschillende datasets, inclusief benchmarks voor gezond verstand, wetenschappelijke feiten en algemene kennisvragen, waarbij gebruik werd gemaakt van diverse groottes van taalmodellen. Ze vergeleken hun nieuwe systeem met de beste bestaande methoden, inclusief die waarbij het model gevraagd wordt zijn vertrouwen uit te spreken en die vele variaties van een antwoord genereren om consistentie te controleren. De resultaten toonden aan dat hun aanpak consequent nauwkeurigere voorspellingen van juistheid bood. In bijna elke test was de nieuwe methode beter in het onderscheiden tussen juiste en onjuiste antwoorden dan de oorspronkelijke scores alleen. Bovendien produceerde het systeem goed gekalibreerde waarschijnlijkheden, wat betekent dat wanneer het voorspelde dat een antwoord een kans van 80 procent had om correct te zijn, het ongeveer 80 procent van de tijd ook daadwerkelijk correct was. Deze kalibratie is cruciaal voor besluitvorming, omdat het gebruikers in staat stelt de cijfers die het systeem biedt te vertrouwen.

Een van de meest significante bevindingen was dat de methode goed werkte, zelfs wanneer deze op zeer weinig extra informatie vertrouwde. In sommige tests gebruikte het systeem slechts één antwoord van het model en een geschiedenis van vergelijkbare vragen, zonder dat het model meerdere variaties van het antwoord hoefde te genereren. Dit hield de computationele kosten laag, wat de methode praktisch maakt voor gebruik in de echte wereld waar snelheid en efficiëntie belangrijk zijn. De onderzoekers ontdekten ook dat de beste manier om deze signalen te combineren afhankelijk was van de specifieke taak, wat suggereert dat een flexibele aanpak die kan aanpassen aan verschillende soorten vragen superieur is aan een oplossing die voor alles hetzelfde is. Door het inschatten van vertrouwen te behandelen als een leerprobleem in plaats van een vaste berekening, toonde het team aan dat bestaande data gebruikt kan worden om de veiligheid en betrouwbaarheid van grote taalmodellen aanzienlijk te verbeteren, zonder dat daarvoor toegang nodig is tot hun interne werking of dure hertraining.

De studie concludeert dat hoewel de initiële onzekerheidsscores gegenereerd door huidige tools nuttig zijn, zij niet het laatste woord hebben over betrouwbaarheid. Door gebruik te maken van het eenvoudige feit dat modellen de neiging hebben consistent te presteren op vergelijkbare soorten vragen, kan een supervised learning-framework deze scores verfijnen tot veel betrouwbaardere schattingen. Dit vervangt niet de noodzaak voor goede onzekerheidsmetingen, maar versterkt ze juist, waardoor ruwe data wordt omgezet in bruikbare inzichten. Het werk suggereert dat de weg naar veiligere kunstmatige intelligentie niet alleen ligt in het bouwen van betere modellen, maar in het bouwen van betere manieren om de antwoorden die die modellen geven te begrijpen en te interpreteren.

Technische Samenvatting: Verbeterde Vertrouwensschattingen voor Black-Box Large Language Models

Probleemstelling

De veilige inzet van Large Language Models (LLM's) in omgevingen met een hoog risico (bijv. gezondheidszorg, wetenschappelijk onderzoek) wordt gehinderd door hun vatbaarheid voor hallucinaties. Hoewel Uncertainty Quantification (UQ) ernaar streeft de betrouwbaarheid van modeloutputs te evalueren, kampen bestaande methoden met aanzienlijke beperkingen:

Zero-Shot Beperking: De meeste huidige UQ-methoden (heuristische scoring of verbaal geuite vertrouwensscores) werken op een zero-shot wijze, waarbij onzekerheidsscores worden gegenereerd zonder gebruik te maken van beschikbare gelabelde evaluatiedata.
Gebrek aan Kalibratie: Bestaande scores correleren vaak met juistheid, maar slagen er niet in om gekalibreerde waarschijnlijkheden te bieden. Bijvoorbeeld, verbaal geuite vertrouwensscores ( $P_{true}$ ) zijn frequent overmoedig, en heuristische scores (zoals semantische entropie) zijn abstracte waarden in plaats van directe waarschijnlijkheidschattingen.
Besluitvormingskloof: Heuristische scores zijn primair ontworpen voor abstentie (het onthouden van een antwoord als een drempelwaarde wordt bereikt). De auteurs stellen echter dat vertrouwensschatting — het bieden van een gekalibreerde waarschijnlijkheid van juistheid — superieur is voor downstream besluitvorming, omdat het systemen in staat stelt om de verwachte bruikbaarheid (expected utility) te maximaliseren binnen besluittheoretische kaders.

Het kernprobleem dat wordt aangepakt, is hoe men de bestaande, vaak ongekalibreerde zero-shot onzekerheidsscores kan transformeren naar robuuste, gekalibreerde vertrouwensschattingen door gebruik te maken van de gelabelde datasets die standaard vereisten zijn voor modelevaluatie.

Methodologie

De auteurs stellen een supervised learning-framework voor dat bestaande UQ-scores behandelt als kenmerken (features) in plaats van definitieve outputs. De methode vereist geen white-box toegang tot de LLM of extra modelgeneraties bovenop wat de baseline scores vereisen.

1. Datapartitiering

De beschikbare gelabelde dataset $\mathcal{D}$ wordt gepartitioneerd in:

Trainingsset ( $\mathcal{D}_{train}$ ): Gebruikt voor het fitten van de vertrouwensclassifier.
Referentieset ( $\mathcal{D}_{ref}$ ): Gebruikt voor het construeren van hulpkenmerken door de historische prestaties van de LLM op vergelijkbare queries te samenvatten.

2. Feature Engineering

Voor een gegeven query-respons paar $(q, r)$ wordt de feature-vector $X(q, r)$ geconstrueerd uit twee componenten:

Baseline Onzekerheidsscores ( $S$ ): Een collectie van $c$ bestaande scores (bijv. verbaal geuite $P_{true}$ , semantische entropie, Laplaciaanse benadering). Deze worden behandeld als ruwe inputs.
Neighborhood-gebaseerde Kenmerken ( $f_{ref}$ ): Om lokale empirische patronen te vangen, haalt de methode de $k$ $k$ -dichtstbijzijnde buren van $q$ $q$ uit de referentieset met behulp van cosine similarity in een embedding-ruimte. Vanuit deze buren worden de volgende statistieken geëxtraheerd:
- De vector van juistheidslabels ( $y_i$ ) van de buren.
- Het empirische gemiddelde ( $\mu_y$ ) en de standaarddeviatie ( $\sigma_y$ ) van de juistheid van de buren.
- De vector van cosine similarities tussen $q$ en zijn buren.
- Het empirische gemiddelde ( $\mu_{sim}$ ) en de standaarddeviatie ( $\sigma_{sim}$ ) van deze similarities.

De uiteindelijke feature-vector is $X(q, r) = (S(q, r), f_{ref}(q))$ .

3. Supervised Classificatie

Het probleem wordt geformuleerd als een binaire classificatietaak om de waarschijnlijkheid van juistheid $Y=1$ te voorspellen.

Modelselectie: De auteurs hanteren een Auto-ML aanpak om de optimale classifier voor een specifieke taak te selecteren. Kandidaten zijn onder meer $\ell_1$ -geregulariseerde logistische regressie en Random Forests.
Training: Modellen worden getraind om de cross-entropy loss te minimaliseren op $\mathcal{D}_{train}$ .
Kalibratie: Een post-hoc temperature scaling stap wordt toegepast om ervoor te zorgen dat de output-waarschijnlijkheden goed gekalibreerd zijn (minimaliseren van de Expected Calibration Error, ECE).

4. Inferentie

Tijdens de inferentiefase bestaat het proces uit:

Het berekenen van baseline scores $S(q, r)$ .
Het ophalen van $k$ -dichtstbijzijnde buren uit $\mathcal{D}_{ref}$ .
Het evalueren van de getrainde classifier $f_\theta$ op de gecombineerde feature-vector.
De computationele overhead is verwaarloosbaar vergeleken met de kosten van het genereren van LLM-responsen.

Belangrijkste Bijdragen

Paradigmaverschuiving: Het artikel betoogt dat UQ voor LLM's moet worden behandeld als een supervised learning-probleem dat gebruikmaakt van beschikbare gelabelde data, waarmee men verder gaat dan het zero-shot paradigma.
Algemeen Bruikbaar Framework: De methode fungeert als een "wrapper" die elke bestaande onzekerheidsscore (heuristisch of verbaal geuit) kan aggregeren en verfijnen tot een gekalibreerde vertrouwensschatting zonder de onderliggende LLM te wijzigen.
Neighborhood Statistieken: De introductie van neighborhood-gebaseerde kenmerken (juistheid en similarity statistieken uit een referentieset) biedt een nieuwe manier om empirisch bewijs van modelbetrouwbaarheid in de voorspelling te integreren.
Taakadaptieve Learner: De auteurs demonstreren dat het optimale classifier-model taakafhankelijk is, wat een Auto-ML aanpak noodzakelijk maakt om te kiezen tussen lineaire en niet-lineaire modellen op basis van de datadistributie.

Experimentele Resultaten

Het framework werd geëvalueerd over vier datasets (CommonSense QA, Natural Questions, SciQ, SimpleQA) en drie GPT-4.1 modelvarianten (flagship, mini, nano), evenals de open-source LLaMA4Maverick.

Prestaties: De voorgestelde Auto-ML methode presteerde consistent beter dan alle baselines in Area Under the Receiver Operating Characteristic Curve (AUROC). Het behaalde de hoogste AUROC in bijna alle scenario's, met slechts één kleine uitzondering waar het verschil verwaarloosbaar was.
Kalibratie: De methode produceerde een significant lagere Expected Calibration Error (ECE) vergeleken met ruwe verbaal geuite vertrouwensscores ( $P_{true}$ ) en presteerde vaak beter dan temperature-scaled versies ($ts$- $P_{true}$ ).
Ablatie-studies:
- Zonder Semantische Kenmerken: Zelfs wanneer complexe semantische onzekerheidsscores werden uitgesloten (door enkel te vertrouwen op $P_{true}$ en neighborhood statistieken), behield de methode een concurrerende prestatie met lagere computationele kosten.
- Model Familie: De aanpak generaliseerde goed naar open-source modellen (LLaMA4Maverick), wat de toepasbaarheid buiten black-box API's bevestigt.
Baseline Vergelijking: De methode presteerde significant beter dan APRICOT (een vergelijkbare classifier-gebaseerde aanpak) en diverse semantische-gebaseerde heuristische scores (semantische entropie, Laplaciaanse, kernel entropie), met name op multiple-choice datasets waar semantische methoden moeite hadden.

Betekenis en Claims

Het artikel claimt dat gelabelde evaluatiedata een significante, doch nog onbenutte bron is voor het verbeteren van de onzekerheidsschattingen van LLM's. De auteurs stellen dat:

Betrouwbaarheid: Door verder te gaan dan zero-shot heuristieken, kan men consequent nauwkeurigere en beter gekalibreerde vertrouwensschattingen produceren.
Efficiëntie: De methode introduceert minimale computationele overhead, wat het een "goedkope en eenvoudige verbetering" maakt voor real-world toepassingen.
Flexibiliteit: Het dient als een algemeen mechanisme om heuristische scores te transformeren naar besluitvormingsklare waarschijnlijkheden, waardoor de kloof tussen abstracte onzekerheidsmetrieken en praktische besluitvorming wordt overbrugd.
Toekomstige Richting: Hoewel het huidige werk zich richt op binaire juistheid, suggereren de auteurs dat dit paradigma uitgebreid kan worden naar multi-class classificatie (bijv. het onderscheiden tussen "gedeeltelijk correct" en "uitstekend") om de veiligheid van LLM-inzet verder te verfijnen.

De auteurs nemen een bescheiden standpunt in door te erkennen dat hun aanpak specifieke classifiers vereist en afhankelijk is van de kwaliteit en omvang van de referentie-set voor effectieve retrieval, hoewel zij aanvoeren dat dit standaardvereisten zijn in de praktische levenscyclus van modelontwikkeling.