Comparing Uncertainty Measurement and Mitigation Methods for Large Language Models: A Systematic Review

1. Het Probleem

Grote Taalmodellen (LLMs) hebben een transformatieve impact gehad op diverse domeinen, maar ze lijden nog steeds onder hallucinaties: het zelfverzekerd genereren van onjuiste informatie. Dit creëert een kritieke uitdaging voor de betrouwbaarheid van LLMs, vooral in hoog-risico sectoren zoals gezondheidszorg, financiën en autonome systemen.

Het fundamentele probleem is dat LLMs vaak miscalibratie vertonen. Dit betekent dat de door het model geproduceerde waarschijnlijkheid (confidentie) niet overeenkomt met de werkelijke nauwkeurigheid van de voorspelling. Modellen kunnen te zelfverzekerd (over-confident) of te onzeker (under-confident) zijn. Hoewel er veel onderzoek is gedaan naar Uncertainty Quantification (UQ) en kalibratie voor traditionele diepe leermodellen (DL), ontbreekt er een systematische analyse en een uitgebreid benchmarkkader voor de specifieke context van generatieve LLMs. Bestaande methoden vangen vaak niet de semantische en syntactische complexiteit van langere generaties of de unieke uitdagingen van open- versus gesloten-doos (closed-box) modellen.

2. Methodologie

De auteurs hanteren een strikte systematische literatuuroverzichtsmethode gebaseerd op het PRISMA-raamwerk. De aanpak omvat:

• Literatuurselectie: Identificatie, screening en inclusie van relevante studies op basis van vooraf gedefinieerde criteria, met een focus op UQ en kalibratie voor LLMs.
• Klassificatie: De bestaande methoden worden gecategoriseerd op basis van:
  • Toegang: Open-box (toegang tot logits/interne lagen) vs. Closed-box (alleen tekstoutput/API).
  • Aanpak: Sampling-based (bijv. Ensembles, MC Dropout), Entropy-based, Conformal Prediction, en Verbalized Uncertainty (prompting).
  • Doel: UQ (meten) vs. Kalibratie (corrigeren).
• Empirische Evaluatie: De auteurs voeren een rigoureuze benchmark uit op twee veelgebruikte betrouwbaarheidsdatasets: TriviaQA en TruthfulQA, en een uitdagender dataset Natural Questions (NQ).
• Modellen: Er worden zes representatieve LLMs getest, variërend van open-source modellen (Llama 3.1 8B, Mistral v0.3 7B, Qwen2.5 7B, DeepSeek-R1) tot gesloten modellen (GPT-4, GPT-4o).
• Metrieken: Gebruik van geavanceerde evaluatiemetrieken zoals Expected Calibration Error (ECE), SmoothECE, Brier Score (BS), AUROC, AURC en BLEU-score.

3. Belangrijkste Bijdragen

1. Eerste Systematische Review: Dit is naar kennis van de auteurs de eerste studie die zich specifiek richt op een grondig overzicht van kalibratiemethoden en gerelateerde metrieken voor LLMs, zowel voor open- als closed-box scenario's.
2. Uitgebreide Benchmark: De auteurs introduceren een nieuw benchmarkkader dat zes methoden empirisch evalueert, wat een gebrek aan vergelijkende analyses in de bestaande literatuur opvult.
3. Inzicht in Schaal en Redenering: De studie onthult dat kleinere modellen betere kalibratie nodig hebben, terwijl grotere modellen (of modellen met Chain-of-Thought redenering) hun onzekerheid beter kunnen reduceren door redeneerstappen.
4. Identificatie van Uitdagingen: De auteurs schetsen een roadmap voor toekomstig onderzoek, waaronder de uitdagingen van domain shift, de beperkingen van bestaande metrieken voor lange generaties, en de noodzaak van real-time kalibratie.

4. Resultaten en Bevindingen

De empirische evaluatie leverde de volgende cruciale inzichten op:

• Invloed van Modelgrootte en Architectuur:
  • Grotere modellen (zoals GPT-4) tonen over het algemeen betere kalibratie dan kleinere modellen.
  • Chain-of-Thought (CoT): Het gebruik van CoT-prompting verbetert significant de kalibratie, vooral bij modellen die redeneren (zoals DeepSeek-R1). CoT helpt het model om de sterkte van het bewijs intern te beoordelen.
  • Verbalized Uncertainty: Het vragen aan het model om zijn onzekerheid in woorden uit te drukken (bijv. "zeer hoog" tot "zeer laag") kan effectief zijn, maar de kwaliteit hangt sterk af van het model en de prompt.
• Effectiviteit van Kalibratiemethoden:
  • Post-hoc methoden: Temperature Scaling (TS) en Platt Scaling zijn effectief voor sommige modellen (zoals Qwen2.5 en Mistral) om out-of-domain miscalibratie te verminderen, maar werken niet uniform voor alle modellen (bijv. minder effectief voor Llama 3.1 in deze setting).
  • CoT + Verbalisatie: De combinatie van CoT met verbalized uncertainty levert vaak de beste resultaten op voor zowel lagere kalibratiefouten (ECE) als betere discriminatie tussen juiste en onjuiste antwoorden (hogere AUROC).
• Dataset Uitdagingen:
  • Op de Natural Questions (NQ) dataset vertonen modellen aanzienlijke miscalibratie, wat wijst op de invloed van vraagmoeilijkheid, ambiguïteit en distributionele verschuivingen.
  • De BLEU-score bleek een beperkte metriek voor kalibratie in generatieve taken omdat deze gevoelig is voor zinslengte en semantische nuances niet goed vangt.
• Closed-box vs. Open-box: Gesloten modellen (GPT-4/4o) tonen vaak betere prestaties in het verwoorden van onzekerheid, maar de beperkte toegang tot logits maakt het moeilijker om interne kalibratiemethoden toe te passen.

5. Betekenis en Toekomstperspectief

Deze studie is van groot belang voor de gemeenschap omdat het de brug slaat tussen theoretische UQ-methoden en de praktische toepassing in moderne generatieve AI.

• Betrouwbaarheid: Het benadrukt dat nauwkeurigheid alleen niet genoeg is; LLMs moeten ook weten wanneer ze het niet weten om hallucinaties te voorkomen.
• Richting voor Onderzoek: De auteurs identificeren belangrijke toekomstige richtingen:
  • Ontwikkeling van semantische metrieken die beter passen bij lange generaties dan traditionele token-gebaseerde scores.
  • Real-time kalibratie om te omgaan met distributionele verschuivingen in productieomgevingen.
  • Hybride architecturen waarbij goedkope generatie wordt gecombineerd met dure onzekerheidsverificatie (bijv. ensembles) alleen voor twijfelachtige outputs.
  • Het creëren van specifieke datasets voor kalibratie om bias en betrouwbaarheid beter te kunnen evalueren.

Kortom, dit werk biedt een essentiële leidraad voor onderzoekers en practitioners die willen begrijpen hoe ze de betrouwbaarheid van LLMs kunnen meten en verbeteren, en benadrukt dat er nog veel werk te verrichten is voordat LLMs volledig betrouwbaar kunnen worden ingezet in kritieke toepassingen.