Explaining Sources of Uncertainty in Automated Fact-Checking

1. Probleemstelling

Geautomatiseerde feitencontrole met behulp van Large Language Models (LLM's) houdt vaak in dat er over meerdere documenten wordt geredeneerd, waarbij bewijsmateriaal kan conflicteren of overeen kan komen. Hoewel LLM's vonnissen kunnen voorspellen (Ondersteunt, Weerlegt, Neutraal), slagen huidige methoden voor uitlegbare kunstmatige intelligentie (XAI) er niet in om modelonzekerheid adequaat te communiceren aan menselijke gebruikers.

• Beperkingen van huidige methoden: Bestaande benaderingen bieden ofwel alleen numerieke betrouwbaarheidsscores (moeilijk te contextualiseren) of vage natuurlijke taal-uitvluchten (bijvoorbeeld "Ik ben niet zeker") die het interne state van het model niet trouw weerspiegelen.
• Het gat: Cruciaal is dat bestaande systemen niet uitleggen waarom een model onzeker is. Ze brengen de specifieke conflicten en overeenkomsten tussen de claim en het bewijsmateriaal, of tussen verschillende stukken bewijsmateriaal, niet aan het licht. Dit zijn de primaire drijfveren van onzekerheid in taken voor feitencontrole. Dit verhindert dat menselijke feitencontroleurs meningsverschillen effectief oplossen of specifieke twistpunten verifiëren.

2. Methodologie: Het CLUE-kader

De auteurs stellen CLUE (Conflict-&Agreement-aware Language-model Uncertainty Explanations) voor, een plug-and-play, white-box kader dat natuurlijke taalverklaringen (NLE's) genereert die zijn verankerd in specifieke interacties van bewijsmateriaal. CLUE werkt volledig tijdens de inferentie zonder dat er fine-tuning of gouden-labelverklaringen nodig zijn.

Het kader bestaat uit drie fasen:

A. Onzekerheidsscore

Het systeem kwantificeert modelonzekerheid met behulp van voorspellende entropie die is afgeleid van de output-logits van het model.

• Voor een gegeven invoer $X$ (Claim + Bewijs) wordt de entropie $u(X)$ berekend over de softmax-verdeling van kandidaatlabels $\{Ondersteunt, Weerlegt, Neutraal\}$.
• Dit levert een scalair onzekerheidsscore op die modelonafhankelijk is en geen meerdere steekproefruns vereist.

B. Identificatie van span-interacties voor conflict en overeenkomst

Om de bronnen van onzekerheid te identificeren, extraheren CLUE prominente tekst-span-interacties tussen de Claim ($C$) en Bewijsstukken ($E_1, E_2$), evenals tussen bewijsstukken onderling.

1. Extractie: Met behulp van attentiemechanismen uit de laatste laag van het model identificeert het systeem belangrijke token-interacties tussen invoerdele. Het past het Louvain-algoritme toe om deze tokens te clusteren in gemeenschappen, waarbij specifieke span-paren worden geëxtraheerd (bijvoorbeeld een zinnetje in de claim en een zinnetje in het bewijs).
2. Relatielabeling: Een auxiliair model ($L_{rel}$) labelt elk geëxtraheerd span-paar als Overeenstemming, Meningsverschil of Ongerelateerd op basis van de volledige context.
3. Selectie: De top $k$ (bijvoorbeeld 3) belangrijkste span-interacties worden geselecteerd op basis van hun attentiescores.

C. Generatie van onzekerheidsverklaringen

CLUE converteert deze geëxtraheerde interacties naar natuurlijke taalverklaringen met behulp van twee verschillende varianten:

1. CLUE-Span (Instructie-gedreven): De geëxtraheerde span-paren en hun relatielabels worden direct ingevoegd in een few-shot prompt. Het model krijgt de instructie om uit te leggen hoe deze specifieke overeenkomsten of conflicten invloed hebben op zijn betrouwbaarheid.
2. CLUE-Span+Steering (Intrinsieke attentiesturing): Naast de prompt wijzigt het systeem de attentiewaarden van het model tijdens de generatie. Het verlaagt de gewichten van niet-doel-tokens en verhoogt de gewichten van de tokens binnen de geselecteerde span-interacties, waardoor het model wordt gedwongen zijn redenering te richten op de geïdentificeerde conflicten/overeenkomsten.

3. Belangrijkste bijdragen

• Eerste kader voor op onzekerheid gerichte verklaringen: CLUE is het eerste systeem dat NLE's genereert die modelonzekerheid expliciet terugvoeren naar specifieke conflicterende of overeenkomende bewijsspannen.
• White-Box & Plug-and-Play: Het werkt zonder fine-tuning, waarbij interne modelsignalen (logits en attentie) worden gebruikt om ervoor te zorgen dat de verklaringen trouw zijn aan het daadwerkelijke redeneerproces van het model.
• Dubbel mechanisme: Het introduceert een vergelijking tussen instructie-gedreven prompting en attentiesturing om de generatie van onzekerheidsverklaringen te optimaliseren.
• Mensgericht ontwerp: Het kader adresseert de praktische behoeften van feitencontroleurs door "het werk" achter een beslissing te tonen, met name door aan te geven waar spanningen in het bewijsmateriaal bestaan.

4. Experimentele resultaten

Het kader werd geëvalueerd over drie LLM's (Qwen2.5-14B, Gemma-2-9B, OLMo-2-13B) en twee datasets (HealthVer en DRUID).

Automatische evaluatie

• Trouw (Entropy-CCT): De auteurs introduceerden Entropy-CCT, een metriek die de correlatie meet tussen de aanwezigheid van een verstoord token in de verklaring en de resulterende verandering in de voorspellende entropie van het model.
  • Resultaat: Baseline prompting-methoden toonden negatieve trouw (ze noemden onbelangrijke tokens). Beide CLUE-varianten draaiden dit om, waarbij CLUE-Span+Steering de hoogste positieve correlatie behaalde (tot $r_{pb} = 0,102$), wat aangeeft dat de verklaringen de bronnen van modelonzekerheid trouw weerspiegelen.
• Span-dekking en overbodigheid: CLUE-varianten dekten meer van de geëxtraheerde kritieke spannen en introduceerden minder irrelevante spannen in vergelijking met baselines.
• Label-verklaring implicatie: CLUE-verklaringen waren logischer consistent met de voorspelde vonnissen.

Menselijke evaluatie

• Deelnemers: 12 menselijke beoordelaars evalueerden 120 verklaringen.
• Voorkeur: CLUE-genererde verklaringen werden 67–78% van de tijd als eerste voorkeur gerangschikt, vergeleken met 24–34% voor de baseline.
• Kwalitatieve metrieken: CLUE-verklaringen werden significant hoger beoordeeld op Hulpzaamheid, Dekking, Niet-redundantie en Consistentie.
• Trade-off: Er werd een lichte trade-off waargenomen tussen de twee CLUE-varianten: CLUE-Span+Steering behaalde hogere trouw (strikt houden aan geëxtraheerde spannen), terwijl CLUE-Span soms iets hoger werd beoordeeld op algehele kwaliteit/plausibiliteit, waarschijnlijk vanwege betere vloeiendheid wanneer geëxtraheerde spannen fragmentarisch waren.

5. Betekenis en impact

• Het overbruggen van de mens-AI-kloof: Door onzekerheid expliciet te koppelen aan bewijsconflicten, stelt CLUE menselijke feitencontroleurs in staat te begrijpen waarom een AI onzeker is, waardoor ze hun verificatie-inspanningen effectiever kunnen richten.
• Betrouwbaarheid in hoog-risico taken: De methode gaat voorbij aan eenvoudige vonnisvoorspelling om actieerbare inzichten te bieden, wat cruciaal is voor domeinen zoals gezondheid en nieuws waar desinformatie schade kan veroorzaken.
• Generaliseerbaarheid: Het kader is toepasbaar op elke multi-document redeneertaak die conflicterende informatie omvat, zoals vraagbeantwoording of retrieval-augmented generation (RAG).
• Toekomstige richtingen: Het artikel benadrukt de behoefte aan betere span-extractie (om fragmentarische spannen te vermijden) en verder onderzoek naar het balanceren van trouw met plausibiliteit bij het genereren van verklaringen.

Kortom, CLUE vertegenwoordigt een significante stap vooruit in Uitlegbare Kunstmatige Intelligentie (XAI) voor feitencontrole, waarbij de focus verschuift van het rechtvaardigen van een vonnis naar het uitleggen van de bronnen van onzekerheid via verankerd, bewijsgebaseerd redeneren.