💬 NLP

Detecting Hallucinations for Large Language Model-based Knowledge Graph Reasoning

Dit artikel introduceert LUCID, een nieuwe methode voor hallucinatiedetectie bij kennisgraafredeneren op basis van grote taalmodellen, die de state-of-the-art prestaties bereikt door gezamenlijk gebruik te maken van LLM-attentiescores, semantische gelijkenissen en structurele graafinformatie via een grafische neurale netwerk.

Oorspronkelijke auteurs: Xinyan Zhu, Yaoqi Liu, Yue Gao, Huadong Ma, Cheng Yang, Chuan Shi

Gepubliceerd 2026-06-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Xinyan Zhu, Yaoqi Liu, Yue Gao, Huadong Ma, Cheng Yang, Chuan Shi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, goed onderlegde assistent inhuurt (het Large Language Model, of LLM) om een complexe vraag te beantwoorden. Om ervoor te zorgen dat je assistent niet zomaar dingen verzint, geef je hem een enorme, georganiseerde archiefkast vol feiten genaamd een Knowledge Graph (KG). Je zegt tegen de assistent: "Kijk in deze specifieke mappen en vertel me wat je vindt."

Het probleem? Zelfs met de archiefkast vlak voor zich, raakt je assistent soms afgeleid, droomt hij weg of verzint hij vol vertrouwen een feit dat niet in de mappen staat. Dit wordt een hallucinatie genoemd. In de echte wereld, als je assistent een arts of een advocaat helpt, kan het verzinnen van een feit rampzalig zijn.

De paper die je hebt verstrekt, introduceert een nieuwe tool genaamd LUCID (wat staat voor halLUcination deteCtIon method for LLM-based knowleDge graph reasoning). Zie LUCID als een zeer scherpzinnige bewaker die je assistent in de gaten houdt terwijl hij werkt.

Hier is hoe LUCID werkt, uitgelegd aan de hand van eenvoudige analogieën:

1. Het Probleen: De "Dromende" Assistent

De auteurs ontdekten dat zelfs wanneer de assistent de juiste feiten voor zich heeft, hij nog steeds in 29,65% van de gevallen een antwoord verzint.

Het voorbeeld: Stel je voor dat de archiefkast duidelijk zegt: "PLS Inc. sponsort 'MarketMakers'." Maar de assistent kijkt naar de kast, ziet een map genaamd "Dealmakers Expo" (wat er vergelijkbaar uitziet) en zegt vol vertrouwen: "PLS Inc. sponsort Dealmakers Expo." De assistent hallucineert omdat hij een woord koos dat weliswaar goed klonk, maar niet het woord was dat er daadwerkelijk stond.

2. De Oplossing: De Bewaker met Drie Lagen (LUCID)

Eerdere bewakers keken slechts naar twee dingen:

De "Interne Toestand" Bewaker: Leek de assistent nerveus of onzeker? (Dit mist het feit dat de assistent ook vol vertrouwen fout kan zijn).
De "Tekstmatch" Bewker: Kwam het antwoord overeen met de woorden in de archiefkast? (Dit mist de structuur van de feiten).

LUCID is anders. Het fungeert als een bewaker met drie ogen die tegelijkertijd drie specifieke zaken controleert:

Oog 1: De "Focus" Tracker (LLM Attention)
Stel je voor dat de assistent een laserpointer heeft. LUCID houdt in de gaten waar de laserpointer naar schijnt terwijl de assistent het antwoord schrijft.
- De truc: Als de assistente over "PLS Inc." praat, maar hun laserpointer boven de verkeerde map zweeft ("Dealmakers" in plaats van "MarketMakers"), weet LUCID dat er iets mis is. Het meet exact naar welke delen van de archiefkast de assistent daadwerkelijk aan het "kijken" is.
Oog 2: De "Betekenis" Checker (KG Semantics)
Dit oog controleert of de woorden die de assistent gebruikt, logisch zijn in de context van de vraag. Het is als een vertaler die controleert of de relatie tussen twee feiten logisch is.
Oog 3: De "Kaart" Lezer (KG Structure)
Dit is het belangrijkste deel. De archiefkast is niet alleen een lijst; het is een web van verbindingen. LUCID kijkt naar de vorm van de verbindingen.
- De analogie: Als de feiten verbonden zijn als een spinnenweb, controleert LUCID of de assistent het web correct volgt. Als de assistent tot een conclusie springt die het patroon van het web doorbreekt, merkt LUCID dit onmiddellijk op.

3. Hoe het leert (De Training)

LUCID raadt niet zomaar wat; het is getraind op een Graph Neural Network (GNN).

Denk aan een detective die duizenden zaken heeft bestudeerd waarbij de assistent het goed had en duizenden zaken waarbij de assistent het fout had.
De detective heeft geleerd om het specifieke "patroon" van een hallucinatie te herkennen: Wanneer de laserpointer op de verkeerde map staat, de betekenis iets afwijkt en het web van feiten gebroken is.
Eenmaal getraind, kan LUCID naar een nieuw antwoord kijken en zeggen: "Er is een kans van 80% dat dit een hallucinatie is."

4. De Resultaten: De Bewaker Werkt

De auteurs hebben LUCID getest tegenover 15 andere bewakers (bestaande methoden) met behulp van negen verschillende datasets (verschillende soorten archiefkasten en vragen).

De Score: LUCID won elke keer en versloeg alle anderen. Het was het meest accuraat in het opsporen van het "wegdromen".
De Praktische Winst: De paper laat een slimme truc zien waarmee LUCID geld bespaart.
- Stel je voor dat je een goedkope, snelle assistent hebt (Qwen2.5-7B) en een dure, superintelligente assistent (Qwen3-235B).
- Je laat de goedkope assistent al het werk doen.
- LUCID houdt de goedkope assistent in de gaten. Als LUCID zegt: "Hé, dit antwoord lijkt op een hallucinatie!", stuur je alleen die specifieke vraag naar de dure assistent om een dubbelcheck te doen.
- Het Resultaat: Je krijgt bijna dezelfde nauwkeurigheid als wanneer je de dure assistent voor alles had gebruikt, maar je bespaart 55% van het geld, omdat je alleen betaalt voor de dure controles wanneer ze daadwerkelijk nodig zijn.

Samenvatting

Kortom, deze paper zegt: "LLM's zijn geweldig in het gebruiken van knowledge graphs, maar ze liegen soms toch. Wij hebben LUCID gebouwd, een tool die kijkt naar hoe de AI naar de feiten kijkt, wat die feiten betekenen en hoe ze met elkaar verbonden zijn. Door deze drie perspectieven te combineren, vangt LUCID leugens beter dan welke andere tool dan ook, en het kan ons zelfs helpen geld te besparen door alleen de 'experts' op te roepen wanneer de 'novicen' op het punt staan een fout te maken."

Technische Samenvatting: LUCID - Detectie van Hallucinaties voor LLM-gebaseerde Knowledge Graph Reasoning

1. Probleemstelling

Hoewel Large Language Models (LLMs) geïntegreerd met Knowledge Graphs (KGs) geavanceerde redeneertaken zoals vraagbeantwoording (QA) en besluitvormingsondersteuning hebben vooruitgebracht, blijven ze vatbaar voor hallucinaties. Zelfs wanneer relevante KG-triples zijn opgehaald en in prompts zijn opgenomen, kunnen LLM's feitelijk onjuiste antwoorden genereren die de opgehaalde bewijslast tegenspreken.

Bestaande methoden voor hallucinatiedetectie kampen met significante beperkingen in dit specifieke domein:

Generieke methoden (bijv. EigenScore, Perplexity) richten zich op interne LLM-toestanden maar negeren de externe KG-context.
RAG-specifieke methoden (bijv. RAGAs, Trulens) verifiëren de consistentie tussen antwoorden en de opgehaalde tekst, maar laten de structurele informatie die inherent is aan KGs ongemoeid.
Gap: Geen enkele bestaande methode maakt gezamenlijk gebruik van de interne aandacht (attention) van de LLM, KG-semantiek en de structurele topologie van de KG om hallucinaties in LLM-KG-redeneerframeworks te detecteren.

De auteurs kwantificeren dit probleem door antwoorden van drie frameworks (Readi, ToG, StructGPT) over drie datasets (GrailQA, WebQSP, QALD-10) handmatig te annoteren, waarbij een gemiddeld hallucinatiepercentage van 29,65% wordt onthuld.

2. Methodologie: LUCID

Het paper stelt LUCID voor (halLUcination deteCtIon method for LLM-based knowleDge graph reasoning), de eerste methode die specifiek voor dit scenario is ontworpen. LUCID werkt door drie verschillende informatiebronnen samen te voegen in een Graph Neural Network (GNN) om de waarschijnlijkheid van hallucinatie te voorspellen.

2.1 Feature Extractie

De methode verwerkt de interactie tussen de LLM en de opgehaalde KG-subgraaf ( $G = (V, E)$ ) via drie stadia:

Interne Toestand van de LLM (Attention Scores):
- Het model extraheert attention scores uit de multi-layer, multi-head architectuur van de LLM tijdens de generatie van het antwoord.
- Het berekent de gemiddelde attention score voor elke respons-token over alle tokens die overeenkomen met KG-nodes (entiteiten) en edges (relaties).
- Deze worden geaggregeerd in twee gemiddelde attention-matrices: $M_e$ (voor nodes) en $M_r$ (voor edges) over alle lagen en heads.
KG Semantische Informatie:
- Om relevante van irrelevante edges te onderscheiden, berekent de methode de semantische gelijkenis tussen de query en de relaties (edges) in de KG.
- Met behulp van een pre-trained taalmodel (all-MiniLM-L6-v2) worden embeddings gegenereerd voor de query en de relaties.
- Cosinus-gelijkenheidsscores $s(r, Q)$ worden berekend. Opmerking: Semantische relevantie wordt berekend voor relaties, niet voor entiteiten, aangezien de oppervlaktevormen van entiteiten vaak ambigu zijn.
Feature Constructie:
- Node Features ( $x_e$ ): Vormen door het platmaken (flattening) van de node attention-matrix $M_e$ .
- Edge Features ( $x_r$ ): Vormen door de platgemaakte edge attention-matrix $M_r$ te concateneren met de semantische gelijkenheidsscore $s(r, Q)$ .

2.2 Detectiemodel (GNN)

De verrijkte subgraaf, uitgerust met de geconstrueerde node- en edge-features, wordt ingevoerd in een Graph Isomorphism Network with Edge features (GINE).
GINE is gekozen boven standaard GIN omdat het expliciet edge-features incorporeert in het message-passing mechanisme, waardoor het de rijke structurele en semantische attributen van de KG kan benutten.
De GNN aggregeert graafinformatie via $K$ lagen van message passing. Een graaf-niveau representatie wordt verkregen door de node-features op te tellen, die vervolgens door een classifier (MLP + Sigmoid) wordt gestuurd om de waarschijnlijkheid van hallucinatie te produceren.
De detectiedrempel wordt bepaald door de geometrische mediaan van sensitiviteit en specificiteit te maximaliseren op de ROC-curve.

3. Belangrijkste Bijdragen

Probleemidentificatie & Benchmarking: De auteurs zijn de eersten die systematisch hallucinaties in LLM-gebaseerde KG-redeneerframeworks identificeren en kwantificeren. Ze hebben handmatig geannoteerde benchmark-datasets geconstrueerd over drie frameworks en drie QA-datasets, waarmee een baseline-hallucinatiepercentage van 29,65% is vastgesteld.
Nieuwe Methode (LUCID): Ze stellen LUCID voor, een detectieframework dat uniek integreert:
- De interne toestand van de LLM (attention mechanismen).
- KG semantische informatie (relatie-query gelijkenis).
- KG structurele informatie (graaf-topologie).
State-of-the-Art Prestaties: Uitgebreide experimenten tonen aan dat LUCID 15 baselines (inclusclusief generieke detectiemethoden en RAG-specifieke tools) overtreft op alle geteste frameworks en datasets.
Praktisch Nut: Het paper demonstreert dat de hallucinatie-waarschijnlijkheden van LUCID gebruikt kunnen worden om QA-strategieën te verfijnen, wat de inferentiekosten aanzienlijk verlaagt terwijl de nauwkeurigheid hoog blijft.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op GrailQA, WebQSP en QALD-10 met drie redeneerframeworks: Readi, ToG en StructGPT.

Prestaties: LUCID behaalde State-of-the-Art (SOTA) prestaties op alle datasets.
- Gemiddeld versloeg het de beste baseline (SelfCheckGPT) met 6,76% en REDEEP (chunk) met 5,48% in termen van de gemiddelde metriek (AVG van ACC, AUC, PCC).
- Het vertoonde de meest significante winst op het Readi framework (+2,81% gemiddelde winst), toegeschreven aan de dichtere KG-subgrafen van Readi die beter passen bij het message-passing mechanisme van LUCID.
- Op WebQSP behaalde LUCID een gemiddelde winst van +2,57%, waarbij het effectief omgaat met relatie-gecentreerde vragen waar hallucinaties vaak voortkomen uit foutieve relatie-selectie.
Kostenefficiëntie Toepassing: Een "Mixed" strategie werd getest waarbij Qwen2.5-7B initiële antwoorden genereert, en LUCID antwoorden met een hoge waarschijnlijkheid op hallucinatie markeert voor regeneratie door een groter model (Qwen3-235B).
- Deze aanpak bereikte een nauwkeurigheid die vergelijkbaar is met het gebruik van het grote model voor alle queries (binnen 1,18% verschil).
- Het verminderde de monetaire kosten met gemiddeld 55,4% vergeleken met het exclusief gebruiken van het grote model.
Ablatie-studies:
- Features: Het verwijderen van semantische gelijkenis of het vervangen van attention-matrices door willekeurige/hidden-layer scores leidde tot een significante verslechtering van de prestaties, wat de noodzaak van zowel attention als semantische signalen bevestigt.
- Modelarchitectuur: GINE presteerde beter dan GCN, GAT en MLP, wat het belang van het expliciet modelleren van edge-features en graaf-topologie valideert.
- Hyperparameters: Optimale prestaties werden bereikt met 2 GINE-lagen, 512 hidden channels en een leercurve van $1 \times 10^{-3}$ .

5. Betekenis en Claims

Het paper claimt dat LUCID een kritieke kloof adresseert in de betrouwbaarheid van LLM-gebaseerde KG-redenering. Door verder te gaan dan oppervlakkige consistentiecontroles en de structurele en semantische uitlijning tussen de aandacht van de LLM en de KG te analyseren, biedt LUCID een robuuster mechanisme voor het detecteren van misinformatie.

De auteurs positioneren LUCID niet alleen als een detectietool, maar als een fundamenteel onderdeel voor het verbeteren van downstream toepassingen. Het vermogen om hallucinaties te filteren maakt het volgende mogelijk:

Betrouwbaardere besluitvormingsondersteuning en automatische kennisontdekking.
Kosteneffectieve implementatiestrategieën (gebruik van kleinere modellen met selectieve verfijning).
Een noodzakelijke basis voor toekomstige verbeteringen in de integratie van LLM en KG.

Het werk concludeert door op te merken dat hoewel LUCID effectief is, toekomstig werk zich zal richten op fijnmazige hallucinatie-attributie voor betere interpreteerbaarheid en het uitbreiden van evaluatie naar meertalige en cross-domein omgevingen.