Technische Samenvatting: Geclusterde Zelfevaluatie voor Onzekerheidskwantificering in LLM's

Probleemstelling

Large Language Models (LLM's) vertonen opmerkelijke prestaties bij diverse taken, maar genereren vaak reacties die vloeiend en plausibel lijken terwijl ze feitelijk onjuist zijn. Dit "hallucinatie"-probleem is bijzonder kritiek in domeinen met een hoog risico, zoals de gezondheidszorg, de juridische sector en wetenschappelijk onderzoek. Een belangrijke barrière bij het beperken van deze risico's is het gebrek aan expliciete, betrouwbare onzekerheidsschattingen. Bestaande methoden voor het kwantificeren van onzekerheid vertrouwen vaak op indirecte signalen, zoals entropie over gesamplede generaties of metrieken voor semantische divergentie. Deze benaderingen hebben twee primaire beperkingen:

1. Interpreteerbaarheid: Indirecte scores (bijv. entropie-gebaseerde metrieken) zijn moeilijk te interpreteren voor eindgebruikers, wat de praktische bruikbaarheid beperkt.
2. Onderbenutting van Interne Kennis: Veel methoden meten output-discrepanties zonder gebruik te maken van het interne begrip van de LLM over de eigen kennis. Bovendien falen pogingen om LLM's de onzekerheid direct te laten verbaliseren vaak door het goed gedocumenteerde probleem van model-overbevestiging (overconfidence).

Methodologie: Geclusterde Zelfevaluatie

De auteurs stellen Clustered Self-Assessment voor, een tweestapsmethode die is ontworiment om onzekerheid op te roepen en te kwantificeren door de LLM te prompten om de eigen gegenereerde antwoorden te evalueren. Het proces transformeert het onzekerheidsschattingprobleem naar een gestructureerde meerkeuzevraag (MCQ-task).

Fase 1: Antwoordclustering

Voor een gegeven invoervraag genereert de LLM meerdere reacties (samples). Om semantische redundantie te verminderen terwijl diversiteit behouden blijft, worden deze samples gegroepeerd in semantisch onderscheidende clusters:

• Schatting van Semantische Relaties: Een extern Natural Language Inference (NLI) model (specifiek deberta-large-mnli) wordt gebruikt om de paargewijze semantische relaties tussen gesamplede antwoorden te schatten. Voor elk paar $(a_i, a_j)$ voorspelt het NLI-model labels zoals entailment (implicatie), neutral (neutraal) of contradiction (tegenspraak).
• Clusteringlogica: De methode hanteert een regelgebaseerde filter op bidirectionele NLI-labels. Twee antwoorden worden in dezelfde cluster gegroepeerd als hun bidirectionele relatie geen contradiction bevat en ten minste één entailment bevat in een van beide richtingen.
• Representatieve Selectie: Elk cluster wordt gerepresenteerd door een enkel antwoord (meestal het eerste dat aan de cluster is toegewezen). Dit proces zorgt ervoor dat de uiteindelijke set opties semantisch onderscheidende kandidaatantwoorden representeert in plaats van kleine variaties van dezelfde reactie.

Fase 2: Zelfevaluatie via MCQ

De geclusterde antwoorden worden gebruikt om een gestructureerde MCQ te construeren:

• Vraagformulering: De oorspronkelijke vraag wordt gepresenteerd samen met de representatieve antwoorden uit elk cluster als afzonderlijke keuzes (bijv. Optie A, Optie B, Optie C).
• Veiligheidsoptie: Een extra optie, "Geen van de bovenstaande", wordt toegevoegd om rekening te houden met scenario's waarin alle gegenereerde clusters onjuist zijn of de LLM zeer onzeker is.
• Betrouwbaarheidsscore: De geconstrueerde MCQ wordt teruggevoerd naar de oorspronkelijke LLM. De token-waarschijnlijkheid die de LLM toekent aan de specifieke keuze die overeenkomt met zijn primaire (greedy-decoded) antwoord, dient als de betrouwbaarheidsscore.
  • Formeel, als $c_{i^*}$ het token-label is voor de juiste keuze, dan is de betrouwbaarheidsscore $S = P(c_{i^*})$.

Belangrijkste Bijdragen

1. Het oproepen van Zelfevaluatie: De methode maakt gebruik van de interne onzekerheidsrepresentaties van LLM's door gesamplede generaties te structureren in een MCQ-formaat. Dit stimuleert het model om de juistheid van zijn eigen antwoorden expliciet te evalueren in plaats van te vertrouwen op indirecte statistische proxies.
2. Superieure Prestaties en Efficiëntie: De aanpak presteert consequent beter dan bestaande baselines (inclusclusief Semantic Entropy, EigenScore en SAR) over meerdere modellen en datasets. Opvallend genoeg bereikt het concurrerende prestaties met slechts twee extra samples, terwijl sommige baselines tot zestien samples vereisen, wat de computationele overhead aanzienlijk vermindert.
3. Menselijke Interpreteerbaarheid: Door de token-waarschijnlijkheid van een specifieke keuze te gebruiken als de betrouwbaarheidsscore, biedt de methode een metriek die intuïtief is voor gebruikers om te interpreteren, waarbij deze direct wordt gekoppeld aan de waarschijnlijkheid dat het antwoord correct is.

Experimentele Resultaten

De methode werd geëvalueerd over zeven state-of-the-art open-source modellen (Qwen-2.5, Qwen-3, en Gemma-3 series) en drie datasets: TriviaQA (TQA), Natural Questions (NQ), en XSum (samenvatting).

• Nauwkeurigheid (AUROC): De methode behaalde de hoogste Area Under the Receiver Operating Characteristic Curve (AUROC) over alle modellen en datasets. Bijvoorbeeld, op TQA met Qwen2.5-32B behaalde het een AUROC van 0,940, waarmee het de op één na beste baseline (Deg) versloeg die een score van 0,848 behaalde.
• Sample-efficiëntie: De prestaties bleven robuust, zelfs met minimale sampling. Met slechts twee extra samples presteerde de methode beter dan baselines die acht of zestien samples gebruikten.
• Kalibratie: Met behulp van de Brier-score demonstreerde de methode superieure kalibratie vergeleken met waarschijnlijkheid-gebaseerde baselines (P(True) en ruwe Probability), wat aangeeft dat de betrouwbaarheidsscores goed overeenkomen met de empirische juistheid.
• Probe Training: Wanneer gebruikt als trainingssignaal voor een probe om onzekerheid te voorspellen uit de verborgen toestanden (hidden states) van de LLM, stelden de scores van de methode de probe in staat om de baselines te overtreffen in out-of-distribution settings zonder dat er tijdens inferentie correctheidslabels nodig waren.

Betekenis en Beperkingen

Het artikel stelt dat Clustered Self-Assessment een praktische, effectieve en computationeel efficiënte oplossing biedt voor onzekerheidskwantificering. Door het probleem om te zetten in een zelfevaluatietaak, overbrugt het de kloof tussen de interne kennis van het model en de door de gebruiker interpreteerbare betrouwbaarheidsmetrieken.

De auteurs erkennen specifieke beperkingen:

• Toegang tot Logits: De methode vereist toegang tot output-logits, wat mogelijk niet beschikbaar is voor closed-source modellen.
• Externe Afhankelijkheid: Het vertrouwt op een extern NLI-model voor clustering, wat computationele overhead en mogelijke semantische mismatch introduceert. De auteurs suggereren dat toekomstig werk de eigen interne representaties van de LLM kan gebruiken voor clustering.
• Kalibratie: De methode gebruikt ruwe softmax-waarschijnlijkheden zonder post-hoc kalibratie, hoewel het al sterke prestaties laat zien.

Concluderend presenteert het artikel een eenvoudige maar robuuste framework die de betrouwbaarheid van LLM-outputs verhoogt door modellen in staat te stellen hun eigen onzekerheid te beoordelen via gestructureerde zelfreflectie.