Beyond "I Don't Know": Evaluating LLM Self-Awareness in Discriminating Data and Model Uncertainty

Probleemstelling

Betrouwbare Large Language Models (LLMs) moeten zich kunnen onthouden van het beantwoorden van vragen wanneer hun vertrouwen onvoldoende is. Echter, bestaande studies behandelen weigering vaak als een generieke "Ik weet het niet" (I don't know) reactie. Dit benadering faalt in het onderscheiden van twee fundamenteel verschillende bronnen van onzekerheid:

1. Data-onzekerheid (Data Uncertainty): De vraag is ambigu, onvolledig of mist cruciale informatie, waardoor er geen uniek objectief antwoord bestaat (bijv. een vraag zonder de benodigde afstand voor een rekensom).
2. Model-onzekerheid (Model Uncertainty): De vraag heeft een uniek antwoord, maar dit overstijgt de huidige rekenkracht, kennis of redeneercapaciteit van het model (bijv. een complexe Olympiade-wiskundevraag).

Het gebrek aan onderscheid tussen deze twee categorieën beperkt de mogelijkheid van modellen om de juiste vervolgstap te nemen: bij data-onzekerheid moet om verduidelijking worden gevraagd, terwijl bij model-onzekerheid externe tools of menselijke tussenkomst nodig zijn. Bestaande benchmarks evalueren vaak alleen of een model weigert, niet waarom het weigert.

Methodologie

1. UA-Bench: Een Nieuwe Benchmark

De auteurs introduceren UA-Bench, een benchmark met meer dan 3.500 vragen, samengesteld uit zes bestaande datasets (zoals GAIA, MuSiQue, OlympiadBench, GSM8K, MATH). De benchmark is verdeeld in twee hoofdcategorieën:

• Kennisintensieve taken: Vragen die externe kennis vereisen.
• Redeneerintensieve taken: Vragen die complexe logische of wiskundige redenering vereisen.

De kern van UA-Bench is dat modellen niet alleen moeten beslissen of ze antwoorden, maar ook expliciet moeten aangeven waarom ze zich onthouden. Ze moeten een van de volgende tokens kiezen:

• Een concreet antwoord (als ze zeker zijn).
• <DATA_UNCERTAIN> (als de vraag onvolledig is).
• <MODEL_UNCERTAIN> (als de vraag goed gesteld is maar buiten hun capaciteit valt).

De evaluatie gebruikt aangepaste F1-scores (DU-F1 en MU-F1) om de prestaties op het detecteren van respectievelijk data- en model-onzekerheid te meten, rekening houdend met de onbalans in datasetgroottes.

2. Evaluatie van Bestaande Modellen

De auteurs evalueren 18 state-of-the-art LLMs (zowel open-source zoals de Qwen3-familie als gesloten-source zoals GPT-4o, Claude Sonnet 4, Gemini 3). Ze testen modellen in zowel "non-thinking" als "thinking" (Chain-of-Thought) modi.

3. Reinforcement Learning (RL) Strategie

Om het probleem van slechte onzekerheidsattributie op te lossen, stellen de auteurs een lichtgewicht Reinforcement Learning (RL) methode voor (genaamd RL-UA):

• Data Synthese: Ze genereren synthetische trainingsdata uit wiskundige problemen (dapo-math dataset) door deze te herschrijven in drie varianten:
  • Originele problemen: Voor het behoud van redeneercapaciteit.
  • Extreem moeilijke varianten: Simulatie van model-onzekerheid (oplosbaar, maar te moeilijk voor het model zonder tools).
  • Onvoldoende varianten: Simulatie van data-onzekerheid (kerninformatie verwijderd).
• Beloningssysteem (Reward Design): Een GRPO-algoritme (Group Relative Policy Optimization) wordt gebruikt met een specifieke beloningsfunctie:
  • +1: Correct antwoord OF correcte classificatie van onzekerheid.
  • 0: Onjuist antwoord, maar eerlijke weigering met de juiste label "Model Uncertain".
  • -1: Hallucinaties of onjuiste attributie (bijv. een onoplosbare vraag als "Model Uncertain" labelen in plaats van "Data Uncertain").

Belangrijkste Resultaten

1. Slechte Discriminatie bij SOTA-modellen: Zelfs de meest geavanceerde modellen worstelen om data-onzekerheid en model-onzekerheid betrouwbaar te onderscheiden.
   • Modellen presteren vaak redelijk op data-onzekerheid (DU-F1), maar slecht op model-onzekerheid (MU-F1).
   • Er is geen sterke correlatie tussen antwoordnauwkeurigheid en onzekerheidsattributie. Modellen met hoge nauwkeurigheid kunnen toch falen in het erkennen van hun eigen beperkingen.
2. Het "Thinking"-Paradox: Modellen in "thinking mode" (Chain-of-Thought) vertonen vaak een verslechtering in onzekerheidsattributie. Hoewel hun antwoordnauwkeurigheid stijgt, daalt hun vermogen om toe te geven dat ze een probleem niet kunnen oplossen. Ze neigen ertoe hun eigen redeneerfalen toe te schrijven aan gebrekkige vraagstelling (data-onzekerheid) in plaats van hun eigen beperkingen (model-onzekerheid).
3. Effectiviteit van RL-UA: De voorgestelde RL-methode leidt tot significante verbeteringen:
   • De MU-F1 score steeg aanzienlijk (bijv. van 7,6% naar 20,7% bij Qwen3-4B op kennisintensieve taken).
   • De methode verbetert de attributie zonder de antwoordnauwkeurigheid (ACC) te verlagen.
   • Het model leert eerlijker zijn: het stopt met het projecteren van eigen beperkingen op de vraag (en vice versa).

Bijdragen

1. Conceptueel Kader: Een principieel onderscheid tussen data-onzekerheid en model-onzekerheid als essentiële categorieën voor betrouwbaar modelgedrag.
2. UA-Bench: Een nieuwe, uitgebreide benchmark voor het systematisch evalueren van onzekerheidsattributie in kennis- en redeneerintensieve taken.
3. Empirische Analyse: Een evaluatie van 18 frontier-modellen die aantoont dat huidige SOTA-modellen moeite hebben met het onderscheiden van onzekerheidstypen en dat dit vermogen niet gekoppeld is aan algemene prestaties.
4. Oplossing: Een eenvoudige maar effectieve RL-strategie die de onzekerheidsattributie verbetert over verschillende modelgroottes en redeneerstijlen heen, zonder in te leveren op nauwkeurigheid.

Betekenis en Impact

Dit werk is cruciaal voor de ontwikkeling van veilige en betrouwbare AI-systemen in hoog-risico omgevingen (zoals gezondheidszorg of juridische besluitvorming). Door modellen te leren waarom ze niet weten, kunnen systemen dynamischere en veiligere beslissingen nemen:

• Bij data-onzekerheid kan het systeem de gebruiker vragen om verduidelijking.
• Bij model-onzekerheid kan het systeem een externe tool (zoals een rekenmachine of zoekmachine) inschakelen of een menselijke expert inschakelen.

De studie benadrukt dat "weten wat je niet weet" een fundamentele vaardigheid is die verder gaat dan het simpelweg zeggen van "Ik weet het niet", en dat specifieke training nodig is om deze nuance te leren. De code en data zijn openbaar beschikbaar, wat de basis legt voor toekomstig onderzoek naar transparante en zelfbewuste AI.