💬 NLP

Anchored Confabulation: Partial Evidence Non-Monotonically Amplifies Confident Hallucination in LLMs

Dit artikel identificeert en formaliseert "verankerde confabulatie", een fenomeen waarbij het verstrekken van gedeeltelijke tussenstappen paradoxaal genoeg het vertrouwen van grote taalmodellen in gehallucineerde redeneerstappen verhoogt, en toont aan hoe het benutten van deze metriek zeer efficiënte routing voor retrieval-augmented generation mogelijk maakt zonder model fine-tuning.

Oorspronkelijke auteurs: Ashish Balkishan Lathkar

Gepubliceerd 2026-04-30

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Ashish Balkishan Lathkar

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, maar licht overmoedige bibliothecaris (de AI) vraagt om een specifiek feit te vinden in een enorme bibliotheek. Normaal gesproken zeggen ze, als ze het antwoord niet weten: "Ik ben niet zeker" of "Ik kan dat niet vinden". Dit is goed, want het vertelt je elders te zoeken.

Maar dit paper ontdekte een vreemde glitch: Soms zijn ze, wanneer ze het fout hebben, eigenlijk overtuigder dan wanneer ze het goed hebben.

De auteurs noemen dit "Anchored Confabulation" (Verankerde Fabricage). Hier is hoe het werkt, met eenvoudige analogieën:

1. De "Half-True" Valstrik (De Anker)

Stel je voor dat je de bibliothecaris een drie-stapsvraag stelt: "Wie is de regisseur van de film waarin de acteur uit de band 'X' heeft gespeeld?"

Stap 1: De bibliothecaris vindt een boek over de band.
Stap 2: De bibliothecaris vindt een boek over de acteur.
Stap 3: De bibliothecaris moet de link vinden tussen de acteur en de film. De bibliotheek heeft deze link niet.

Hier is de glitch: Omdat de bibliothecaris de eerste twee boeken heeft gevonden (de "ankers"), voelt hij zich zelfverzekerd genoeg om het derde deel te raden. Ze zeggen niet: "Ik weet het niet." In plaats daarvan zeggen ze zelfverzekerd: "Oh, het is zeker Regisseur Y!" omdat hun interne geheugen (trainingsdata) een vergelijkbaar klinkend feit bevat.

Het paper noemt dit "Anchored Confabulation". Het gedeeltelijke bewijs (de eerste twee boeken) werkt als een anker, dat de bibliothecaris vastzet in een zelfverzekerd, maar volledig verzonnen verhaal.

2. Het "Sweet Spot" van Verwarring

De onderzoekers ontdekten dat dit niet bij elke vraag gebeurt.

Eenvoudige vragen (1 hop): De bibliothecaris weet het antwoord of geeft toe dat hij het niet weet.
Zeer moeilijke vragen (4+ hops): De bibliothecaris beseft dat de keten te lang is en wordt nerveus, dus hij dekt zijn basis ("Ik ben niet zeker...").
Het "Sweet Spot" (3 hops): Dit is het gevaargebied. Het is net lang genoeg dat de bibliothecaris denkt dat hij het kan uitzoeken met zijn geheugen, maar de bibliotheekboeken hebben het antwoord eigenlijk niet. Hier worden ze zelfverzekerd fout.

3. De "Zekerheidsinversie"

In de echte wereld denken we meestal: Hoge Zekerheid = Correct Antwoord.
Het paper toont aan dat voor deze specifieke drie-stapsvragen de regel omdraait: Hoge Zekerheid = Fout Antwoord.

Als de bibliothecaris zegt: "Ik ben 100% zeker!" bij een drie-stapsvraag, moet je eigenlijk meer wantrouwig zijn dan als hij zegt: "Ik ben niet zeker."

4. De Oplossing: Een Slimmere Poortwachter

De auteurs bouwden een nieuw systeem genaamd LearnedRouter. Denk hierbij aan een slimme poortwachter die tussen jou en de bibliothecaris staat.

Oud Systeem: De poortwachter kijkt naar de vraag voordat de bibliothecaris antwoordt. Als de vraag er moeilijk uitziet, sturen ze het naar een super-expert (GraphRAG). Als het er makkelijk uitziet, laten ze de gewone bibliothecaris het afhandelen.
Nieuw Systeem (LearnedRouter): De poortwachter wacht tot de bibliothecaris eerst een antwoord geeft.
- Als de bibliothecaris een zelfverzekerd antwoord geeft op een drie-staps vraag, weet de poortwachter: "Oh oh, dit is de Anchored Confabulation-valstrik! Ze zijn zelfverzekerd fout."
- De poortwachter stopt de gewone bibliothecaris vervolgens direct en stuurt de vraag naar de super-expert (GraphRAG) om het echte antwoord te krijgen.

5. Waarom Dit Belangrijk Is

Het paper bewijst dat door te letten op dit specifieke type "zelfverzekerd fout zijn", het nieuwe systeem 81% van de fouten die het oude systeem maakte kan oplossen, zonder dat de bibliothecaris opnieuw getraind hoeft te worden of dat er extra geld uitgegeven moet worden aan dure experts voor elke enkele vraag.

Kortom: Het paper ontdekte dat AI-modellen soms met een strakke blik liegen wanneer ze net genoeg aanwijzingen hebben om zich slim te voelen. De auteurs bouwden een detector die dit "strakke gezicht" herkent en weet wanneer ze de experts moeten inschakelen om het te herstellen.

1. Probleemstelling

Retrieval-Augmented Generation (RAG)-systemen staan voor een kritieke routing-uitdaging: het bepalen wanneer een goedkope, standaard vectorretrieval (VanillaRAG) moet worden gebruikt versus een dure, gestructureerde grafgebaseerde retrieval (GraphRAG).

De Status Quo: Bestaande routingmethoden (bijv. Adaptive-RAG) werken pre-generatie, waarbij beslissingen worden genomen uitsluitend op basis van querykenmerken (bijv. complexiteit, aantal entiteiten). Ze gaan ervan uit dat een lage zekerheid in het gegenereerde antwoord wijst op de behoefte aan betere retrieval.
De Kernkwestie: De auteurs identificeren een tot nu toe onbekende kalibratiefout in Large Language Models (LLMs) genaamd Anchored Confabulation. Bij meerstapsredeneringstaken kan het verstrekken van een gedeeltelijk tussenliggend feit (een "anker") paradoxaal genoeg de zekerheid van het model in een fout antwoord verhogen voordat volledige bewijzen de fout elimineren.
Het Gevolg: Standaard onzekerheidsgebaseerde routing (escalatie bij lage zekerheid) faalt catastrofaal bij deze queries. Het model wordt zekerder wanneer het fout zit, wat leidt tot "zeker hallucinaties" die pre-generatie routers niet kunnen detecteren.

2. Belangrijkste Fenomeen: Parametric Hallucination Confidence (PHC)

Het paper definieert Parametric Hallucination Confidence (PHC) als een metriek waarbij de AUC van het voorspellen van een "orakel-escalatie" (behoefte aan GraphRAG) op basis van de zekerheid van het model > 0,5 is.

Signaalinversie: In standaard scenario's correleert hoge zekerheid met juistheid. In PHC-scenario's (specifiek 3-hop bridge queries) correleert hoge zekerheid met onjuistheid.
Het Mechanisme: Wanneer een LLM één bevestigd tussenliggend feit ontvangt (een "gouden anker") in een meerstapsketen, gebruikt het zijn parametrische geheugen om de resterende ontbrekende stappen vloeiend en met zekerheid "in te vullen". Dit gedeeltelijke anker verbindt het model met een specifieke, zelfverzekerde, maar potentieel gefabriceerde voltooiing.

3. Methodologie & Theoretisch Kader

A. Causale Interventie & Bewijs

De auteurs hebben PHC vastgesteld aan de hand van zes lijnen van bewijs, waaronder een gecontroleerde causale interventie op het MuSiQue-dataset (3-hop queries, N=160):

Causale Injectie: Ze injecteerden gouden tussenliggende feiten in prompts terwijl orakellabels constant werden gehouden.
- k=0 (Geen hints): PHC = 0,613 (Significante inversie).
- k=1 (Eén feit): PHC piekt naar 0,656 (Maximale versterking). Het model wordt zekerder in zijn foutieve antwoord.
- k=3 (Bijna-orakel): PHC daalt naar 0,536 (Geen significante inversie). Volledig bewijs onderdrukt de hallucinatie.
Ankerdrempelwet: De auteurs hebben een voorspellende wet afgeleid: $k^*(n) = \lfloor n/3 \rfloor$ $k^{*} (n) = ⌊ n /3 ⌋$ .
- Voor 3-hop-ketens is de drempel $k=1$ (33% van de keten). Dit is het "sweet spot" waar één feit het model voldoende ankeren om de rest zelfverzekerd te fabriceren.
- Voor 2-hop-ketens is $k^*=0$ ; er treedt geen versterkingspiek op omdat de keten te kort is om zelfverzekerde fabricage te onderhouden zonder volledig bewijs.
- Voor 4-hop-ketens is de piek zwakker ( $k^*=1$ , maar 25% dekking is ontoereikend).
Capaciteitsschaal: PHC schaalt met modelcapaciteit. Sterkere modellen (bijv. Claude Opus, Sonnet) vertonen een hogere PHC (zelfverzekerde hallucinaties) dan zwakkere modellen (bijv. Haiku, Llama-3-8B).

B. Theoretische Bewijzen

Stelling 1 (Post-Generatie Dominantie): Met behulp van de Data Processing Inequality (DPI) bewijzen de auteurs dat elk post-generatiesignaal $U(Q, A)$ meer informatie bevat over de behoefte aan escalatie dan elke pre-generatie-classificator $g(Q)$ . Pre-generatie routers hebben geen toegang tot het "bridge signaalinversie" omdat de inversie zich pas na de poging van het model om het antwoord te genereren, manifesteert.
Stelling 2 (Regeneratie-Gated Routing): Routingwinsten worden begrensd door de kwaliteit van de regeneratiestap. Als de regeneratie (na escalatie) slecht is, leveren routingverbeteringen afnemende meeropbrengsten op.

C. Voorgestelde Oplossing: LR+DirectGR

De auteurs stellen een tweeledig systeem voor om PHC te benutten:

LearnedRouter: Een post-generatie classificator getraind op slechts N=200 voorbeelden. Het gebruikt een kenmerkinteractie-term conf × hop om te leren dat bij high-hop queries, hoge zekerheid escalatie moet triggeren (de standaardlogica inverteren).
DirectGR (Direct GraphRAG): In plaats van subvragen te extraheren (wat context verliest), escalateert het systeem de originele volledige vraag direct naar de GraphRAG-pijplijn. Dit vermijdt het "subvraag-extractieverlies" dat is geïdentificeerd als een belangrijke bottleneck.

4. Belangrijkste Resultaten

Prestatiemetingen

Oracle Gap Sluiting: Het LR+DirectGR-systeem sluit 81,1% van de orakelgap (Macro F1 = 0,426) over vier benchmarks (HotpotQA, MuSiQue, NQ, 2Wiki).
Vergelijking met Baselines:
- Presteren beter dan de beste pre-generatie routingbaseline (HybridRouter) met +35,9 punten in orakelgap sluiting.
- Bereikt dit met 50x minder trainingslabels (200 vs. 10.000) en zonder Reinforcement Learning (RL) of fine-tuning.
- Bij gelijke kosten (32% escalatiepercentage) bereikt LR+DirectGR een Macro F1 van 0,324 versus HybridRouter's 0,295.

Specifieke Bevindingen

Hop-Depth Specificiteit: Het inversie-effect is strikt niet-monotoon. Het piekt bij 3-hop queries. 2-hop queries vertonen geen significante inversie, en 4-hop toont een zwakker effect.
Mitigatie: Een "Epistemic Humility"-prompt (het vertellen aan het model dat het feiten mist) slaagde erin de PHC-piek te verminderen met $\Delta = -0,118$ , wat bewijst dat het fenomeen metacognitief onderdrukt kan worden.
Iteratieve RAG Kwetsbaarheid: Het paper demonstreert dat iteratieve RAG-systemen (zoals IRCoT) systematisch in de "versterkingszone" terechtkomen bij hun eerste retrievalstap voor 3-hop queries, wat leidt tot zelfverzekerd fout tussenliggende redenering die daaropvolgende stappen corrumpeert.

5. Betekenis & Bijdragen

Ontdekking van Anchored Confabulation: Het paper identificeert een fundamentele, niet-monotone kalibratiefout in LLMs waarbij gedeeltelijk bewijs zelfverzekerde hallucinaties verhoogt. Dit daagt de aanname uit dat "meer bewijs altijd onzekerheid vermindert".
Voorspellende Wet: De Anchoring Threshold Law ( $k^* = \lfloor n/3 \rfloor$ ) biedt een kwantitatief kader voor het voorspellen wanneer LLMs zelfverzekerd zullen hallucineren op basis van ketenlengte en bewijsdichtheid.
Superioriteit van Post-Generatie Routing: Het bewijst formeel en valideert empirisch dat post-generatie routing (met gebruik van het gegenereerde antwoord als signaal) pre-generatie routing strikt domineert voor meerstaps taken, specifiek omdat het de "zelfverzekerd fout" toestand kan detecteren.
Efficiënte, Trainingsvrije Implementatie: Het voorgestelde LR+DirectGR-systeem bereikt state-of-the-art routingprestaties zonder fine-tuning of RL, met een minimaal aantal gelabelde voorbeelden. Het biedt een praktisch blauwdruk voor het implementeren van robuuste RAG-systemen die dynamisch aanpassen aan modelcapaciteiten en querycomplexiteit.
Implicaties voor Iteratieve Systemen: De bevindingen suggereren dat huidige iteratieve RAG-pijplijnen (IRCoT, FLARE) structureel gebrekkig kunnen zijn voor 3-hop queries, omdat ze onbedoeld het anker-versterkingsmechanisme triggeren.

Kortom, dit paper herformuleert het RAG routingprobleem van een query-complexiteitsclassificatietaken naar een kalibratiebewuste post-generatie detectietaken, waarbij gebruik wordt gemaakt van een nieuw ontdekt fenomeen waarbij LLMs het meest zelfverzekerd zijn wanneer ze het meest fout zitten.