Technische Samenvatting: Consistent maar Misgekalibreerd: Evaluatie van de Beperkingen van LLM's voor Risicocommunicatie in Natuurlijke Taal

1. Probleemstelling

Large Language Models (LLM's) worden steeds vaker ingezet als post-hoc uitleggers voor door AI gegenereerde outputs in domeinen met een hoge inzet, zoals de gezondheidszorg, financiële sector en de juridische sector. Hoewel gekalibreerde onzekerheidsscores bestaan om aan te geven wanneer een voorspelling van een model vertrouwd kan worden, hebben eindgebruikers vaak moeite met het interpreteren van deze numerieke waarden vanwege een discrepantie tussen formele statistische definities en intuïtief begrip van waarschijnlijkheid.

Het kernprobleem dat wordt geadresseerd is of LLM's in staat zijn om probabilistische informatie (specifiek waarschijnlijkheid en voorspellende onzekerheid) betrouwbaar te vertalen naar Natuurlijke Taalverklaringen (NLE's). Voor deze rol is het essentieel dat modellen aan twee criteria voldoen:

1. Consistentie: Het produceren van identieke verbale beschrijvers voor identieke inputs bij herhaalde queries.
2. Kalibratie: Het selecteren van beschrijvers die de omvang van de onderliggende numerieke hoeveelheden accuraat weerspiegelen (bijv. "zeer waarschijnlijk" toewijzen aan gebeurtenissen met een hoge waarschijnlijkheid en "onwaarschijnlijk" aan gebeurtenissen met een lage waarschijnlijkheid).

De huidige literatuur suggereert dat LLM's de voorkeur kunnen geven aan behulpzaamheid en besluitvaardigheid boven het uitdrukken van onzekerheid, wat leidt tot systematische beperkingen in de probabilistische verbalisering. Een gecontroleerde evaluatie die kalibratie en consistentie gezamenlijk meet over meerdere architecturen, domeincontexten en generatie-instellingen, ontbrak echter tot nu toe.

2. Methodologie

Experimenteel Ontwerp

De studie formaliseert risicocommunicatie als een taak van descriptor-selectie. De experimentele pijplijn omvat:

1. Upstream Simulatie: Voorspellingen worden gesimuleerd door te samplen uit Beta-verdelingen, geparametriseerd door een modus ($m$, representatief voor waarschijnlijkheid) en een prior steekproefomvang ($k$, representatief voor onzekerheid). Een grid van 100 combinaties ($m \in [0,05, 0,95]$, $k \in [50, 950]$) werd gebruikt om systematische variaties in waarschijnlijkheid en onzekerheid te genereren.
2. Taakformulering: LLM's werden geprompt om de beste verbale descriptor te selecteren voor de waarschijnlijkheid en onzekerheid van deze gesimuleerde scenario's uit een vaste, geordende set NLE's (bijv. "vrijwel zeker" tot "uitermate onwaarschijnlijk").
3. Variabelen:
   • Modellen: Negen LLM's werden geëvalueerd, variërend van kleine open-source modellen (4B–8B parameters) tot grotere commerciële en open modellen (tot 32B en GPT-5.4).
   • Domeincontexten: Zes contexten werden gebruikt om robuustheid te testen, waarbij varieerde in belang (hoog, medium, laag) en gebeurtenisomvang (individueel versus populatie): vloedvoorspelling, kankerdiagnose, drugs-anafylaxie, gokken, restaurantaanbevelingen en aurora-wandelingen.
   • Temperatuur: Experimenten werden herhaald over tien temperatuurinstellingen (0,0 tot 0,9).
   • Repetities: Elk experiment werd tien keer herhaald om consistentie te meten.
4. Ablatie-studies:
   • Pregecomputeerde Statistieken: Een ablatie leverde de modus ($m$) en de steekproefomvang ($k$) direct in de prompt om te bepalen of de bottleneck lag bij statistische inferentie of bij verbalisering.
   • Metriek Robuustheid: Zes aanvullende ablaties testten de gevoeligheid van de metrieken, inclusief externe validatie tegen door experts geëliciteerde bereiken, variaties in strafparameters en alternatieve onzekerheidsmaten (variantie, entropie).

Evaluatiemetrieken

• Consistentie Score: Gemeten als de frequentie van identieke descriptor-selectie over tien repetities voor identieke inputs (bereik [0, 1]).
• Kalibratie Score: Geadapteerd van de Jonckheere-Terpstra (JT) trendtest. Het evalueerde of de descriptor-keuzes van het model de numerieke ordening van de onderliggende verdelingen respecteerden. Een overtreding trad op als een model een "sterkere" descriptor toewees aan een lagere numerieke waarde dan een "zwakkere" descriptor elders. De score werd bestraft voor modellen die er niet in slaagden de volledige vocabulaire van de beschikbare descriptors te gebruiken.
• Taak Juistheid (pass@k): Mat de waarschijnlijkheid dat het model een correct geformatteerde output produceert binnen $k=5$ pogingen, om te waarborgen dat formatteringsfouten de kalibratie- of consistentiescores niet kunstmatig beïnvloeden.

3. Belangrijkste Resultaten

Consistentie vs. Kalibratie

• Algemene Bevinding: LLM's bleken over het algemeen consistent maar misgekalibreerd.
• Consistentie: De meeste architecturen behaalden hoge consistentiescores (> 0,8) voor waarschijnlijkheidstaken. GPT-5.4 behaalde een perfecte gemiddelde consistentiescore van 1,0 voor zowel waarschijnlijkheid als onzekerheid. Echter, de consistentie nam significant af naarmate de temperatuur toenam.
• Kalibratie:
  • Waarschijnlijkheid: De meeste modellen waren misgekalibreerd. GPT-5.4 was de uitzondering en behaalde een gemiddelde waarschijnlijkheidskalibratie van 0,96. Andere modellen varieerden van 0,07 tot 0,78.
  • Onzekerheid: De kalibratie was aanzienlijk zwakker over alle modellen heen. Geen enkele architectuur behaalde een score boven de 0,40 voor onzekheidstaken (waarbij GPT-5.4 een score van 0,37 behaalde en anderen zo laag als 0,07).

Impact van Variabelen

• Temperatuur: Het verhogen van de temperatuur creëerde een trade-off: het verbeterde de kalibratie licht (door het gebruik van een bredere vocabulaire te stimuleren), maar verminderde de consistentie aanzienlijk.
• Domeincontext: Context beïnvloedde beide metrieken, maar geen enkel domein verbeterde of verslechterde de prestaties uniform over alle modellen. GPT-5.4 bleef grotendeels ongevoelig voor veranderingen in de domeincontext.
• Pregecomputeerde Data: Het verstrekken van expliciete numerieke samenvattingen (modus en steekproefomvang) verbeterde de kalibratie of consistentie niet voor enig model. Dit suggereert dat de bottleneck ligt in de verbaliseringsstap (het mappen van getallen naar woorden) in plaats van in de statistische inferentie van ruwe samples.
• Vocabulaire Gebruik: De meeste modellen faalden in het selecteren van alle beschikbare descriptors. Ze hadden de neiging om terug te vallen op een smalle set gematigde descriptors (bijv. "enigszins zeker"), ongeacht de onderliggende wiskundige onzekerheid, en kozen zelden voor extreme descriptors.

Robuustheid

Ablatie-studies bevestigden dat de bevindingen robuust waren. Externe validatie tegen door experts geëliciteerde bereiken liet zien dat GPT-5.4 de consensus van experts nauwgezet volgde, terwijl andere modellen grote absolute fouten vertoonden. Het gebruik van pregecomputeerde parameters veranderde de fundamentele miskalibratie niet, wat de conclusie versterkte dat het probleem niet het onvermogen is om statistieken te berekenen, maar het onvermogen om ze accuraat te verbaliseren.

4. Bijdragen en Betekenis

Het artikel biedt een systematische evaluatie van LLM's als post-hoc uitleggers voor probabilistische voorspellingen, en stelt vast dat:

1. Huidige Beperkingen: Huidige LLM's vormen geen betrouwbare standalone tools voor zero-shot risicocommunicatie. Hoewel ze consistent zijn, zijn ze significant misgekalibreerd, met name wat betreft voorspellende onzekerheid.
2. De Verbaliserings-bottleneck: Het onvermogen om risico accuraat te communiceren komt niet door een tekortkoming in statistisch redeneren (aangezien het verstrekken van grondwaarheidsparameters niet hielp), maar ligt in het mappen van bekende numerieke hoeveelheden naar gekalibreerde verbale descriptors.
3. Schaal en Architectuur: Sterke prestaties kwamen niet uniform voor bij alle architecturen. Hoewel GPT-5.4 bijna perfecte kalibratie voor waarschijnlijkheid demonstreerde, vertaalde deze competentie zich niet naar onzekheidstaken, wat suggereert dat schaal alleen niet voldoende is voor een emergente verstandhouding van probabilistische concepten.
4. Contextuele Gevoeligheid: Modellen vertonen gevoeligheid voor de domeincontext, waarbij ze mogelijk voorzichtiger taalgebruik hanteren in scenario's met een hoge inzet (zoals medische situaties of rampen), wat het onderscheid tussen echte miskalibratie en sociaal gepaste voorzichtigheid bemoeilijkt.

5. Conclusie

De auteurs concluderen dat hoewel LLM's veelbelovend blijven voor het produceren van vloeiende en toegankelijke taal, ze momenteel niet beschikken over een voldoende stabiele interne mapping tussen probabilistische informatie en NLE's. De studie benadrukt dat het koppelen van LLM's aan upstream statistische methoden alleen de kalibratiegebreken niet oplost, wat wijst op de noodzaak van gerichte interventies specif voor de verbaliseringsfase. De bevindingen bevestigen dat risicocommunicatie een moeilijke, gespecialiseerde taak is en dat de huidige modellen nog niet klaar zijn om betrouwbaar probabilistische voorspellingen te vertalen naar natuurlijke taal voor geïnformeerde besluitvorming.