🤖 machine learning

Evidence-Grounded Verified Agentic Reasoning: A Path Toward Eliminating LLM Hallucination in Empirical Inference via Tool-Attested Kernel Proofs

Het artikel introduceert EG-VAR, een op Lean 4 gebaseerde agentische redeneerarchitectuur die hallucinaties van LLM's in empirische inferentie elimineert door te waarborgen dat alle geverifieerde outputs structureel zijn afgeleid van geattesteerde tool calls en door de kernel gecontroleerde bewijzen, terwijl het expliciet auditeert of zich onthoudt van elke niet-onderbouwde claim.

Oorspronkelijke auteurs: Junyu Ren

Gepubliceerd 2026-07-15

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Junyu Ren

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een super-slimme, praatgrage robotassistent hebt (een LLM) die ervan houdt om verhalen over de wereld te vertellen. Het probleem? Soms wordt de robot zo zelfverzekerd over zijn eigen herinneringen dat hij feiten verzint of de werkelijke bewijzen die recht voor zijn neus liggen, negeert. Het is als een student die, wanneer hij gevraagd wordt een wiskundeprobleem te controleren aan de hand van het tekstboek, gewoon het antwoord opschrijft waarvan hij denkt dat het juist is omdat hij het uit een droom herinnert, zelfs als het tekstboek iets anders zegt.

Lange tijd probeerden mensen dit te fixen door de robot een "gereedschapskist" te geven met externe bronnen, zoals een rekenmachine of een database. Maar het artikel betoogt dat het geven van een gereedschapskist aan de robot niet genoeg is. De robot kan de gereedschapskist nog steeds negeren, of hij kan de getallen uit de gereedschapskist gebruiken maar vervolgens de logica verdraaien om het in zijn eigen verhaal te laten passen. Het is alsoos dat je een chef-kok een vers, geverifieerd ingrediënt geeft, maar hem wel laat koken hoe hij maar wil; het eindresultaat kan nog steeds een ramp zijn.

Het Grote Idee: De "Verified Claim" Fabriek

De auteurs, onder leiding van Junyu Ren, hebben een nieuw systeem gebouwd genaamd EG-VAR (Evidence-Grounded Verified Agentic Reasoning). Denk hierbij niet aan een robot die simpelweg vragen beantwoordt, maar aan een hoogbeveiligde fabriek met een zeer strikte, onvermoeibare inspecteur.

Zo werkt de fabriek, stap voor stap:

De Tool Layer (De Vertrouwde Koerier): Eerst gaat een vertrouwde, saaie, deterministische machine (geen praatgrage robot) naar de bron — zoals een spreadsheet of een database — en haalt de ruwe getallen op. Deze machine stempelt deze getallen met een "Verified" zegel. Dit is de enige manier om echte data in de fabriek te krijgen.
De Formalizer (De Vertaler): De praatgrage robot (een LLM) krijgt vervolgens de opdracht om de menselijke vraag te vertalen naar een strikte, wiskundige taal genaamd Lean 4. Het is alsof je de robot vraat om een juridisch contract of een wiskundig bewijs te schrijven in plaats van een paragraaf.
De Kernel (De Onvermoeibare Inspecteur): Dit is het belangrijkste onderdeel. Een klein, superstrikt computerprogramma (een Lean kernel) fungeert als de inspecteur. Het controleert het "contract" van de robot regel voor regel.
- De Gouden Regel: De inspecteur heeft een regel die luidt: "Je mag niet beweren dat een feit VERIFIED is, tenzij je kunt wijzen naar een met een zegel voorzien nummer van de Vertrouwde Koerier."
- Als de robot een getal verzint, of als hij probeert een getal te gebruiken maar de logica verkeerd verbindt, wijst de inspecteur het hele geheel af.
Het Resultaat:
- Als het bewijs slaagt, print de fabriek een VERIFIED antwoord. Dit antwoord komt met een "reproduceerbare audit trail", wat betekent dat iedereen de berekening later opnieuw kan uitvoiten en precies kan zien hoe het antwoord is opgebouwd uit de originele data.
- Als het bewijs faalt, gokt de fabriek niet. Hij zegt ABSTAIN (wat betekent "Ik weet het niet" of "Ik kan dit niet bewijzen"). Het is een eerlijk "Ik geef het op" in plaats van een zelfverzekerde leugen.

Wat het Papier Eigenlijk Vond

De auteurs hebben dit systeem getest op een specifieke set van 120 vragen over tabellen (spreadsheets).

De "Perfecte" Score: Wanneer de vragen duidelijk waren en de robot de juiste tools kreeg, behaalde EG-VAR 120 van de 120 vragen correct. Het was 100% accuraat.
De Competitie: Andere systemen die dezelfde tools gebruikten maar niet de strikte inspecteur hadden, haalden 114 van de 120 goed (95%). Zij maakten nog steeds fouten.
De "Counterfactual" Test: Dit was de echte stresstest. De auteurs namen tabellen en veranderden de getallen stiekem om de informatie te tegenspreken met wat de robot "wist" uit zijn training (zoals het veranderen van de populatie van een land naar een heel klein aantal).
- Zonder de strikte inspecteur negeerde de robot de nieuwe getallen en hield hij zich 80% tot 90% van de tijd aan zijn oude herinneringen.
- Met EG-VAR bleef het systeem 100% trouw aan de nieuwe, veranderde getallen. Het maakte er niet uit hoe sterk de oude herinnering van de robot ook was; de inspecteur dwong hem de nieuwe data te gebruiken.

Wat het Papier Uitsluit (De "No-Go" Zones)

Het artikel is heel duidelijk over wat dit systeem niet is en wat het niet kan doen:

Het is geen magische oplossing voor alle hallucinaties. Het artikel stelt expliciet dat de robot nog steeds fouten kan maken bij het vertalen van de menselijke vraag naar de wiskundige taal. Als de robot de vraag verkeerd begrijpt en de verkeerde wiskundige formule schrijft, zal de inspecteur die wiskundige formule perfect controleren, maar het antwoord zal nog steeds fout zijn voor de oorspronkelijke vraag.
- In hun tests kwam deze "vertalingsfout" ongeveer 3,3% van de tijd voor bij één model en 1,7% bij een sterker model.
Het repareert geen slechte data. Als de originele spreadsheet een leugen bevat, zal het systeem die leugen getrouw verifiëren. Het systeem garandeert dat het antwoord uit de bron komt, niet dat de bron waar is.
Het is geen "misschien" systeem. Het artikel spreekt zich uit tegen systemen die een "betrouwbaarheidsscore" geven (zoals "Ik ben voor 80% zeker"). In plaats daarvan gebruikt EG-VAR een strikte "Ja/Nee"-poort. Je hebt óf een geverifieerd bewijs, óf je hebt een eerlijk "Ik onthoud mij van een oordeel" (abstain).

Hoe Zeker Zijn Ze?

De auteurs zijn zeer zelfverzekerd over de structurele veiligheid van hun systeem. Ze hebben wiskundig bewezen (Theorema 3.1 en 3.2) dat:

Er nooit een VERIFIED antwoord kan verschijnen zonder dat dit wordt ondersteund door een gestempelde tool call.
Elke stap in de logica van een VERIFIED antwoord is gecontroleerd door de kernel en is wiskundig geldig.

Echter, wat betreft de nauwkeurigheid van de vertaling van de robot van menselijke taal, zijn ze voorzichtiger. Ze hebben de foutmarges gemeten (3,3% en 1,7%) in hun specifieke tests en suggereren dat deze cijfers kunnen verbeteren als ze de robot meer trainen op het correct vertalen van vragen. Maar de "veiligheidsvloer"—de garantie dat het systeem niet stilletjes zal liegen—is ingebouwd in de architectuur, niet alleen in het brein van de robot.

De Kern van het Verhaal

EG-VAR is als een fabriek die weigert een product te verzenden, tenzij het een bonnetje kan tonen voor elk gebruikt onderdeel. Als de robot probeert een vals onderdeel binnensluipen, stopt de fabriek de lijn en zegt: "Nee, dit verzenden we niet." Het verandert het probleem van "liegende robots" in een probleem van "ontbrekende bonnetjes", wat veel makkelijker te vangen en te corrigeren is. Hoewel het niet elk probleem oplost (de robot kan nog steeds de bestelling verkeerd begrijpen), zorgt het er wel voor dat wanneer de fabriek "Verified" zegt, het ook echt "Verified" betekent.

Technische Samenvatting: Evidence-Grounded Verified Agentic Reasoning (EG-VAR)

Probleemstelling

Large Language Models (LLM's) hallucineren regelmatig empirische feiten tijdens inferentie, waarbij ze ofwel gegevens verzinnen of vertrouwen op verouderde parametrische priors die conflicteren met opgehaalde bewijslast. Hoewel tool-augmented reasoning (RAG) modellen in staat stelt om externe bronnen te raadplegen, garandeert dit geen verifieerbare empirische claims. Huidige benaderingen lijden onder twee structurele defecten:

Onbevestigde Outputs: Geaccepteerde outputs zijn niet noodzakelijkerwijs afgeleid van bevestigd bewijs; modellen kunnen opgehaalde gegevens die conflicteren met hun interne priors negeren (bevestigingsvooroordeel).
Ongeverifieerde Deducties: Geaccepteerde deducties houden niet noodzakelijkerwijs stand onder formele controle; modellen kunnen ongeldige logische stappen uitvoeren of de output van tools verkeerd interpreteren.

Bestaande oplossingen, zoals symbolische fact-verifiers of door LLM's gestuurde theorem provers, missen ofwel externe gronding (bij alleen wiskunde gerichte provers) of vertrouwen op geleerde componenten die niet structureel kunnen garanderen dat er geen ononderbouwde claims worden gedaan.

Methodologie: EG-VAR Architectuur

Het artikel presenteert EG-VAR (Evidence-Grounded Verified Agentic Reasoning), een vierlaagse architectuur ontworpen om empirisch redeneren bestuurbaar te maken door een proof assistant (Lean 4) te integreren met tool-attestatie. Het systeem behandelt de LLM als een onbetrouwbare component binnen een strikt gedefinieerd trust ledger.

De Vierlaagse Stack

L1: Tool Layer (Vertrouwd, Deterministisch): Een deterministische runtime voert queries uit tegen externe bronnen (bijv. tabelcel-lookups, aggregaten). Het produceert een Attested T payload—een runtime witness die de query, de identiteit van de bron en het resultaat vastlegt. Alleen de runtime kan deze witnesses genereren.
L2: Per-Source Formalization (Offline geaudit): Een "curator" definieert een lift catalog voor elke gegevensbron. Deze mapt L1 storage facts (bijv. "cel op rij $r$ , kolom $c$ heeft waarde $v$ ") naar L2 wereld-ontologie facts (bijv. HasProperty, ArgmaxWhere). Deze lifts worden eenmalig geaudit en geïmporteerd als axioma's.
L3: Lean 4 Kernel (Vertrouwd, Formeel): De kernel is de enige autoriteit om Evidence Verified claims te creëren. Het handhaaft één muntregel, mkVerified, die een Attested T hypothese van de runtime vereist. De kernel type-checkt elke bewijsstap; als een stap faalt, wordt de claim afgewezen.
L4: Solver LLM (Onbetrouwbaar, Stochastisch): De LLM ontvangt een getypeerd doel en stelt proof tactics voor. De LLM kan Attested T termen consumeren die door de runtime zijn geïntroduceerd, maar kan deze niet zelf synthetiseren. Als de kernel de tactic afwijst, iterat de het systeem of onthoudt het zich.

Kernmechanismen

De mkVerified Regel: De enige constructor voor Evidence Verified vereist een Attested T witness. Dit zorgt ervoor dat geen enkele geverifieerde output kan bestaan zonder een bijbehorende tool call (Stelling 3.1).
Dependent Sum Witnesses: Claims worden geframed als afhankelijke sommen ( $\Sigma$ ). Voor een vraag "Welke entiteit heeft eigenschap $P$ ?", is het doel $\Sigma (e : \text{String}) (v : \text{Value}), \text{Evidence Verified}(\dots)$ . Het oppervlakteantwoord is de witness die uit de door de kernel gecontroleerde bewijsvoering wordt geëxtraheerd.
Eerlijke Onthouding (Honest Abstention): Als de kernel het bewijs afwijst (door ontbrekende lifts, ongeldige tactics of gebrek aan attestatie), geeft het systeem een ABSTAIN met een reproduceerbaar auditspoor, in plaats van te gokken.
Grade Discipline: Bewijs draagt expliciete gradaties (VERIFIED, SUPPORTED, PLAUSIBLE, SPECULATIVE). Het systeem handhaaft een "no-upcast" regel: conclusies mogen niet hoger ranken dan hun zwakste premisse.

Belangrijkste Bijdragen

Structurele Garantie van Gronding: EG-VAR is de eerste architectuur die een proof-assistant kernel combineert met tool-attestatie als een getypeerd axioma. Het biedt een structurele garantie (Stelling 3.1) dat elke VERIFIED output afdaalt van een geattesteerde tool call, waardoor ongegronde hallucinaties worden geëlimineerd, ongeacht de kracht van de LLM.
Formele Veiligheid vs. Semantische Getrouwheid: Het artikel maakt onderscheid tussen formele veiligheid (het bewijs is door de kernel geaccepteerd) en semantische getrouwheid (het geformaliseerde doel komt overeen met de natuurlijke taalclaim). EG-VAR garandeert de eerste structureel; de tweede wordt behandeld als een nauwkeurigheidsdoel dat adresseerbaar is via formalizer fine-tuning.
Reproduceerbare Audit Trails: Elke geverifieerde claim gaat vergezeld van een zelfstandig Lean bewijsbestand. Derden kunnen de claim offline opnieuw type-checken zonder de LLM opnieuw uit te voeren, gebruikmakend van de kernel, de per-source lifts en de tool adapter.
Per-Source Formalization Protocol: Het artikel introduceert een methode om gegevensbronnen te behandelen als gelijkwaardige vertrouwensartefacten, waarbij formalisatie (lift catalogs) vereist is, wat de curatie aan de bronzijde scheidt van de redenering aan de claimzijde.

Empirische Resultaten

De evaluatie richt zich op TableBench (numeriek redeneren op tabellen) over drie niveaus:

Tier 1 (Gold-Goal Benchmark, $n=120$ ):
- EG-VAR behaalde 120/120 (100%) op ondubbelzinnige claims, waarbij het gold antwoord werd gematcht met een door de kernel gecontroleerd bewijs.
- Baselines (hetzelfde model met tools maar zonder kernel) plateauerden op 95,0% (114/120).
- EG-VAR sloot de kloof naar nul, wat aantoont dat de kernel-discipline de correcte compositie van tool outputs afdwingt.
Tier 1.5 (Counterfactual Stress Tests, 5 domeinen $\times$ 2 modellen):
- Synthetische tabellen werden gemaakt waarbij celwaarden in strijd waren met de wereldkennis van het model (bijv. het veranderen van de populatie van een land naar een lage waarde).
- EG-VAR bleef 100% brongetrouw over alle domeinen en mate van verandering.
- Baselines (met dezelfde tool) daalden naar 80–90% (Sonnet) en 50–80% (zonder tool), wat aantoont dat EG-VAR structureel de "prior-override" foutmodus voorkomt waarbij modellen geëxtraheerde bewijslast negeren.
Tier 2 (End-to-End met LLM Formalizer, $n=120$ ):
- In een volledig geautomatiseerde setting waarbij de LLM het formele doel voorstelt (het verwijderen van de gold-fixture bypass), was de pure formalizer foutenrate 3,3% (Sonnet) en 1,7% (Opus).
- Resterende onenigheden werden gecategoriseerd als gelogde ambiguïteiten (4,2%) of gesignaleerde benchmark-artefact problemen (1,7%), die allemaal expliciet en auditeerbaar zijn in plaats van stille hallucinaties.

Betekenis en Claims

Het artikel positioneert EG-VAR als een technische-governance interface voor hoogwaardige empirische claims. De betekenis ligt in het verschuiven van de last van veiligheid van statistisch leren naar architecturale handhaving:

Eliminatie van Ononderbouwde Outputs: De structurele garantie zorgt ervoor dat "geverifieerde hallucinaties" (outputs gelabeld als VERIFIED zonder bewijs) onmogelijk zijn onder het dreigingsmodel van het systeem.
Meetbare Onzekerheid: Door onthouding een structureel gevolg te maken van kernel-afwijzing in plaats van een geleerd gedrag, biedt het systeem een meetbare "weigeringsrate" en getypte onzekerheid.
Formalization Flywheel: De auteurs stellen dat naarmate gegevensbronnen evolueren naar getypeerde interfaces (SQL, API's, Knowledge Graphs), de formalisatiebelasting zal afnemen tot herbruikbare infrastructuur, wat de kosten per query voor verificatie vermindert.
Governance Eigenschappen: Het systeem maakt drie afdwingbare eigenschappen mogelijk: (i) onafhankelijke audit van elke geverifieerde output via reproduceerbare bewijzen; (ii) getypte onzekerheid via grade discipline; en (iii) eerlijke onthouding als een meetbare systeemeigenschap.

Het artikel concludeert dat hoewel semantische-formalisatiefouten blijven bestaan (adresseerbaar via fine-tuning op de vrijgegeven curator corpus), de structurele veiligheidsvloer vandaag de dag wordt vastgesteld, wat een pad biedt naar het elimineren van LLM-hallucinaties in empirische inferentie.