💬 NLP

Faithfulness-Aware Uncertainty Quantification for Fact-Checking the Output of Retrieval Augmented Generation

Deze paper introduceert FRANQ, een nieuwe methode voor het detecteren van hallucinaties in Retrieval-Augmented Generation-systemen die door het toepassen van aparte onzekerheidskwalificatie voor feitelijke juistheid en trouw aan de bron, de nauwkeurigheid van het opsporen van feitelijke fouten verbetert ten opzichte van bestaande benaderingen.

Oorspronkelijke auteurs: Ekaterina Fadeeva, Aleksandr Rubashevskii, Dzianis Piatrashyn, Roman Vashurin, Shehzaad Dhuliawala, Artem Shelmanov, Timothy Baldwin, Preslav Nakov, Mrinmaya Sachan, Maxim Panov

Gepubliceerd 2026-04-20

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Ekaterina Fadeeva, Aleksandr Rubashevskii, Dzianis Piatrashyn, Roman Vashurin, Shehzaad Dhuliawala, Artem Shelmanov, Timothy Baldwin, Preslav Nakov, Mrinmaya Sachan, Maxim Panov

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, maar soms wat verwaande assistent hebt die alles over de wereld weet. Dit is een Grote Taalmodel (LLM). Hij kan prachtige verhalen vertellen, recepten bedenken en vragen beantwoorden. Maar er is een probleem: hij is ook een dromer. Soms verzint hij feiten die klinken als waarheid, maar helemaal niet kloppen. Dit noemen we hallucinaties.

Om dit op te lossen, hebben mensen een slimme truc bedacht: RAG (Retrieval-Augmented Generation).
Stel je voor dat je deze assistent een stapel boeken (de "retrieved context") geeft voordat hij antwoordt. Hij moet zijn antwoord baseren op die boeken. Dat klinkt veilig, toch?

Niet helemaal. De assistent kan nog steeds in de war raken op twee manieren:

Hij leest het boek verkeerd of verzint iets dat er niet in staat (hij is ontrouw aan het boek).
Hij kijkt wel in het boek, maar het boek zelf bevat een fout, of hij combineert het boek met zijn eigen (verkeerde) herinneringen.

De oude methoden om fouten te vinden, keken alleen: "Staat dit in het boek?" Als het antwoord niet letterlijk in het boek stond, werd het als een fout beschouwd, zelfs als het antwoord wel waar was! Dat is alsof je een kok straft omdat hij een gerecht heeft gemaakt dat niet in het recept staat, terwijl het gerecht juist heel lekker en veilig is.

De Oplossing: FRANQ (De Slimme Keurmeester)

De auteurs van dit papier hebben een nieuwe methode bedacht, genaamd FRANQ. Ze noemen het "Faithfulness-Aware Uncertainty Quantification". Laten we dat vertalen naar een makkelijk verhaal.

Stel je FRANQ voor als een tweestaps-keurmeester in een supermarkt.

Stap 1: De "Ontrouw"-detector (Is het uit het boek?)

De keurmeester kijkt eerst naar een bewering van de assistent en vraagt zich af: "Komt dit rechtstreeks uit de boeken die we hebben opgezocht?"

Ja (Getrouw): De assistent heeft het woord voor woord uit het boek gehaald.
Nee (Ongetrouw): De assistent heeft iets toegevoegd uit zijn eigen hoofd.

Stap 2: De "Waarheids"-detector (Is het waar?)

Afhankelijk van Stap 1, gebruikt de keurmeester een ander gereedschap om te checken of het waar is:

Scenario A: Het antwoord komt uit het boek (Getrouw).
De keurmeester denkt: "Oké, hij leest het boek. Maar heeft hij het goed begrepen?"
Hij kijkt of de assistent het boek wel correct heeft vertaald. Soms lezen mensen het boek, maar trekken ze de verkeerde conclusie. FRANQ checkt hier of de assistent zeker is van zijn leesbegrip.
Scenario B: Het antwoord komt uit het hoofd (Ongetrouw).
De keurmeester denkt: "Ah, hij gebruikt zijn eigen kennis."
In dit geval kijkt hij niet naar het boek, maar naar de "intuïtie" van de assistent. Hij vraagt: "Hoe zeker is de assistent van dit feit, als hij het boek neerlegt?" Als de assistent heel zeker is van zijn eigen kennis, is de kans groot dat het waar is. Als hij twijfelt, is het waarschijnlijk een hallucinatie.

Waarom is dit zo slim?

Vroeger was de keurmeester te streng: "Niet in het boek? Dan is het een leugen!"
FRANQ is slimmer: "Niet in het boek? Oké, maar is het misschien toch waar, omdat hij het uit zijn hoofd weet?"

Dit helpt om twee dingen te onderscheiden:

Ontrouw: De assistent verzint iets dat niet in de bron staat (misschien wel waar, maar niet onderbouwd).
Onwaarheid: De assistent zegt iets dat gewoon fout is (ofwel uit het boek, ofwel uit zijn hoofd).

Het Nieuwe Speelveld

Om deze methode te testen, hebben de onderzoekers een nieuw speelveld (dataset) gemaakt.
Stel je voor dat ze een grote quiz hebben gemaakt met vragen over techniek en natuur. Ze hebben de antwoorden van de assistent in stukjes (zinnen) opgebroken en elke zin handmatig gecontroleerd:

"Komt dit uit de bron?"
"Is dit feitelijk waar?"

Dit was lastig werk, want soms is een zin half waar en half uit het hoofd. Ze hebben dus een team van mensen ingezet om de moeilijkste gevallen te controleren.

Wat is het resultaat?

De tests tonen aan dat FRANQ veel beter is in het vinden van echte fouten dan de oude methoden.

Hij straft de assistent niet voor goede antwoorden die niet in het boek stonden.
Hij vangt wel de fouten op die de assistent maakt, of hij nu leest of droomt.

Kortom: FRANQ is als een slimme manager die niet alleen kijkt of je je takenlijst hebt gevolgd, maar ook of je werk eigenlijk wel goed is. Zo zorgen we dat AI-systemen betrouwbaarder worden, zonder dat we hun creativiteit of kennis onnodig straffen.

Probleemstelling

Retrieval-Augmented Generation (RAG) systemen, die Large Language Models (LLMs) combineren met externe kennisbronnen, hebben de prestaties voor open domein vragenantwoorden aanzienlijk verbeterd. Desondanks blijven deze systemen vatbaar voor hallucinaties (feitelijk onjuiste output).

De kern van het probleem ligt in de huidige definitie en detectie van hallucinaties:

Verwarring tussen Feitelijkheid en Trouw: Bestaande methoden verwarren vaak feitelijkheid (is de stelling objectief waar?) met trouw (wordt de stelling expliciet ondersteund door de opgehaalde context?).
Onjuiste Labeling: Als een model een feitelijk correcte stelling produceert die gebaseerd is op zijn interne kennis (en niet op de opgehaalde documenten), wordt dit door veel systemen ten onrechte als een hallucinatie gelabeld omdat het niet "trouw" is aan de context.
Foutieve Context: Omgekeerd kan de opgehaalde context zelf onjuist of incompleet zijn. Een model dat trouw is aan een foutief document, produceert dan een foutief antwoord dat toch als "trouw" wordt gezien.

Het doel is dus om een methode te ontwikkelen die onderscheid maakt tussen fouten die ontstaan door een gebrek aan trouw aan de context en fouten die voortkomen uit onjuiste interne kennis, en die in staat is om de feitelijkheid van de output nauwkeurig te kwantificeren.

Methodologie: FRANQ

De auteurs introduceren FRANQ (Faithfulness-aware Retrieval Augmented UNcertainty Quantification). Dit is een nieuwe methode voor onzekerheidskwantificatie (UQ) die de waarschijnlijkheid dat een stelling waar is, berekent door eerst de trouw aan de context te evalueren en vervolgens verschillende UQ-technieken toe te passen afhankelijk van dat resultaat.

De methode baseert zich op de volgende probabilistische decompositie voor een claim $c$ :
$P(c \text{ is waar}) = P(c \text{ is trouw}) \cdot P(c \text{ is waar} | \text{trouw}) + P(c \text{ is niet trouw}) \cdot P(c \text{ is waar} | \text{niet trouw})$

De drie componenten worden als volgt geschat:

Trouw (Faithfulness):
- Er wordt bepaald in welke mate een claim semantisch wordt afgeleid uit de opgehaalde documenten ( $r$ ).
- Hiervoor wordt AlignScore gebruikt (een op RoBERTa gebaseerde, fijngetrainde metriek voor feitelijke uitlijning). Dit levert een continue waarschijnlijkheid op in plaats van een binair ja/nee, wat belangrijk is voor claims met gedeeltelijke onderbouwing.
Feitelijkheid onder de voorwaarde "Niet Trouw" (Unfaithful):
- Als een claim niet trouw is aan de context, komt deze voort uit de interne kennis van het LLM.
- In dit geval wordt de feitelijkheid geschat zonder de context ( $r$ ) te gebruiken, om distributieveranderingen te voorkomen.
- Voor lange antwoorden: Er wordt gebruik gemaakt van Parametric Knowledge (de waarschijnlijkheid van de claim gebaseerd alleen op de prompt en de interne kennis van het model).
- Voor korte antwoorden: Er wordt gebruik gemaakt van de Sum of Eigenvalues (een methode gebaseerd op steekproefdiversiteit).
Feitelijkheid onder de voorwaarde "Trouw" (Faithful):
- Als een claim trouw is, kan het model de context nog steeds verkeerd toepassen (bijv. een correcte entiteit uit de context kiezen maar in een verkeerde context plaatsen).
- Voor lange antwoorden: Er wordt gebruik gemaakt van Max Claim Probability (de waarschijnlijkheid van de claim gegeven de prompt en context).
- Voor korte antwoorden: Er wordt gebruik gemaakt van Semantic Entropy (die onzekerheid in de semantische betekenis van meerdere generaties meet).

Kalibratie:
Om de verschillende UQ-metingen (die verschillende schalen en verdelingen hebben) te harmoniseren, wordt isotone regressie toegepast. De auteurs stellen een Condition-Calibrated strategie voor, waarbij de kalibratie gescheiden wordt voor trouwe en niet-trouwe claims, wat leidt tot de beste prestaties.

Belangrijkste Bijdragen

FRANQ Methode: Een nieuwe UQ-architectuur die trouw en feitelijkheid expliciet ontrafelt en gespecialiseerde onzekerheidsmetingen toepast op basis van de aard van de fout (context-gebaseerd vs. intern).
Nieuwe Dataset: De auteurs hebben een nieuw dataset voor lange antwoorden (long-form QA) ontwikkeld. Deze dataset bevat 76 vragen en duizenden geëxtraheerde atomische claims, gelabeld voor zowel feitelijkheid als trouw. De annotatie combineert geautomatiseerde labeling (via GPT-4o met webzoekfunctie) met menselijke validatie voor moeilijke gevallen (voornamelijk valse claims).
Uitgebreide Evaluatie: Het paper presenteert uitgebreide experimenten op zowel korte als lange vragenantwoorden, gebruikmakend van meerdere LLM's (Llama, Falcon, Gemma) en diverse datasets.

Resultaten

De experimenten tonen aan dat FRANQ significant beter presteert dan bestaande baselines (zoals standaard UQ-methoden, RAG-specifieke methoden en XGBoost-classificatoren) bij het detecteren van feitelijke fouten.

Prestaties: De Condition-Calibrated FRANQ variant behaalde de beste resultaten op de meeste benchmarks, gemeten aan de hand van PR-AUC (Precision-Recall Area Under Curve) en PRR (Prediction Rejection Ratio).
- Op lange antwoorden: FRANQ behaalde de hoogste PR-AUC en een zeer hoge PRR voor modellen zoals Llama 3B en Falcon 3B.
- Op korte antwoorden: FRANQ was consistent de beste methode over vier verschillende datasets (TriviaQA, SimpleQA, Natural Questions, PopQA).
Robuustheid: FRANQ bleek robuust tegenover twee soorten retrieval-fouten:
1. Irrelevante retrieval: Willekeurig vervangen van 50% van de opgehaalde documenten.
2. Feitelijk verontreinigde retrieval: Documenten die relevant lijken maar feitelijke fouten bevatten.
  In beide scenario's behield FRANQ zijn superioriteit, wat aangeeft dat het de betrouwbaarheid van de context effectief kan beoordelen.
Efficiëntie: De methode voegt slechts een minimale rekentijd toe (ongeveer 1,7 seconden extra per instance) en de kalibratiemodellen zijn zeer lichtgewicht (enkele honderden bytes), wat maakt dat ze praktisch inzetbaar zijn.

Betekenis en Conclusie

Dit paper is significant omdat het een fundamentele verschuiving inzicht biedt in hoe we hallucinaties in RAG-systemen moeten benaderen. Door te erkennen dat een model soms feitelijk correct kan zijn zonder trouw te zijn aan de context (en vice versa), biedt FRANQ een meer nuanceerde en accurate manier om de betrouwbaarheid van AI-generaties te beoordelen.

De methode stelt systemen in staat om:

Feitelijk correcte informatie die uit interne kennis komt niet ten onrechte te censureren.
Feitelijk onjuiste informatie die wel "trouw" lijkt aan een foutief document, toch te detecteren.

Dit is cruciaal voor de veilige implementatie van RAG-systemen in kennisintensieve domeinen zoals gezondheidszorg, juridische zaken en onderwijs, waar de nauwkeurigheid van de feiten belangrijker is dan de strikte naleving van de bron. De beschikbaarheid van de nieuwe dataset en de code maakt het mogelijk voor de gemeenschap om deze benadering verder te onderzoeken en te verbeteren.