💬 NLP

Copy-Paste to Mitigate Large Language Model Hallucinations

Dit artikel introduceert CopyPasteLLM, een methode die hallucinaties in RAG-systemen vermindert door modellen te trainen om vaker tekst direct uit de verstrekte context te kopiëren, wat leidt tot een hogere feitelijke nauwkeurigheid met aanzienlijk minder trainingsdata.

Oorspronkelijke auteurs: Yongchao Long, Xian Wu, Yingying Zhang, Xianbin Wen, Yuxi Zhou, Shenda Hong

Gepubliceerd 2026-02-10

📖 3 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Yongchao Long, Xian Wu, Yingying Zhang, Xianbin Wen, Yuxi Zhou, Shenda Hong

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een superintelligente assistent hebt (een Large Language Model zoals ChatGPT). Deze assistent heeft een gigantisch geheugen vol met boeken en feiten die hij zelf heeft geleerd. Maar er is een probleem: soms is hij zo zelfverzekerd dat hij gaat "hallucineren". Dat betekent dat hij een antwoord geeft dat heel geloofwaardig klinkt, maar dat eigenlijk niet klopt met de informatie die je hem net hebt gegeven. Hij vertrouwt dan meer op zijn eigen (soms foutieve) geheugen dan op het document dat je voor zijn neus hebt gelegd.

Dit onderzoek introduceert een oplossing genaamd "Copy-Paste".

Hier is de uitleg in begrijpelijke taal:

De Metafoor: De Zelfverzekerde Professor vs. De Nauwkeurige Kopist

Stel je voor dat je een professor vraagt: "Wat staat er in dit specifieke medische rapport over deze patiënt?"

De huidige AI (De Zelfverzekerde Professor): De professor leest het rapport vluchtig, maar begint vervolgens een prachtig verhaal te houden op basis van alles wat hij de afgelopen 30 jaar heeft geleerd. Hij zegt: "Patiënten met deze symptomen hebben meestal ziekte X." Maar in dit specifieke rapport staat dat deze patiënt juist ziekte Y heeft. De professor "hallucineert" omdat zijn eigen kennis de overhand krijgt.
De Copy-Paste Methode (De Nauwkeurige Kopist): In plaats van te proberen alles in zijn eigen woorden te vertellen, krijgt de assistent een nieuwe instructie: "Gebruik de tekst uit het rapport als een soort bouwstenen. Knip de juiste zinnen uit het rapport en plak ze in je antwoord."

Hoe werkt het? (De drie stappen)

De onderzoekers hebben een systeem gebouwd dat de AI leert om een "kopist" te worden in plaats van een "verteller":

De Oefenronde (Copy-Paste Prompting): Eerst leren ze de AI verschillende manieren om te kopiëren. Soms mag hij alleen zinnen uit het document pakken en ze in de juiste volgorde zetten (zoals een puzzel). Soms mag hij er een klein beetje "lijm" (eigen woorden) tussen gebruiken om het verhaal vloeiend te maken.
De Training (CopyPasteLLM): De AI krijgt een soort "beloningssysteem". Als de AI een antwoord geeft dat heel erg lijkt op de tekst in het document, krijgt hij een compliment. Als hij begint te verzinnen met zijn eigen geheugen, krijgt hij een tik op de vingers. Het bijzondere is dat ze dit heel efficiënt doen: ze hebben maar heel weinig voorbeelden nodig om de AI dit aan te leren.
Het Resultaat: De AI wordt een expert in het "geloven" van de tekst die hij krijgt. Zelfs als de tekst iets zegt dat tegenstrijdig is met wat de AI vroeger heeft geleerd (bijvoorbeeld: "De maan is gemaakt van kaas"), zal de AI nu braaf zeggen: "Volgens de tekst is de maan gemaakt van kaas", in plaats van te zeggen: "Nee, dat is onzin, de maan is van steen."

Waarom is dit belangrijk?

Dit is vooral cruciaal in gebieden waar fouten levens kunnen kosten, zoals de medische wereld. Als een arts een AI gebruikt om informatie uit een patiëntendossier te halen, wil hij geen "slimme mening" van een professor; hij wil de exacte feiten uit het dossier.

Kortom: De onderzoekers hebben de AI geleerd om minder te praten vanuit zijn eigen "ego" (zijn getrainde geheugen) en meer te kijken naar de "bewijsstukken" (de tekst die je hem geeft). Door simpelweg te kopiëren en te plakken, wordt de AI een veel betrouwbaardere assistent.

Technische Samenvatting: Copy-Paste

1. Het Probleem: Contextuele Ontrouw in RAG

Binnen Retrieval-Augmented Generation (RAG) proberen Large Language Models (LLM's) hun antwoorden te baseren op externe context. Een kritiek probleem is echter contextuele ontrouw (contextual unfaithfulness): wanneer de interne, aangeleerde kennis van het model (parametrische kennis) botst met de verstrekte externe informatie, neigt het model vaak naar zijn eigen interne kennis. Dit leidt tot hallucinaties, wat bijzonder riskant is in domeinen zoals de medische sector. Bestaande oplossingen, zoals het toevoegen van citaten, lossen het probleem van de consistentie tussen de tekst en de bron niet altijd op.

2. Methodologie: Het Copy-Paste Paradigma

De auteurs stellen een nieuwe generatie-paradigma voor: Copy-Paste. In plaats van de context te laten herinterpreteren of te parafraseren door het model, wordt het model aangemoedigd om letterlijke fragmenten uit de context te kopiëren. Dit vermindert het risico op fouten tijdens het parafraseren en dient direct als bewijs van getrouwheid.

De methodologie bestaat uit twee fasen:

Fase 1: Copy-Paste-Prompting (Data Constructie)
Om hoogwaardige trainingsdata te genereren, gebruiken de auteurs drie prompting-strategieën die variëren in mate van restrictie:

CP-Order: Een strikte extractieve methode waarbij relevante zinnen uit de context worden geselecteerd en in een logische volgorde worden gezet.
CP-Link: Een methode die de extractieve kern behoudt, maar korte overgangszinnen (transitions) toestaat om de leesbaarheid te vergroten.
CP-Refine: Een iteratief proces met een "Writer-Reviewer" loop, waarbij het model feedback krijgt om de mate van kopiëren (copying degree) en relevantie te optimaliseren.

Fase 2: CopyPasteLLM (Training via DPO)
De gegenereerde antwoorden worden gebruikt om een model te trainen via Direct Preference Optimization (DPO). Het proces omvat:

Multi-criteria filtering: Selectie op basis van getrouwheid, kopieersterkte ( $\kappa$ en $\delta$ ), relevantie en vloeiendheid.
Elo-ranking: Een "LLM-as-Judge" tournament om de beste antwoorden te kiezen.
Stamping: Het toevoegen van het juiste antwoord aan de gekozen respons om de redenering te koppelen aan een definitieve, correcte conclusie.

3. Belangrijkste Bijdragen

Nieuw Paradigma: Introductie van het Copy-Paste concept als een operationele proxy voor contextuele getrouwheid.
Efficiëntie: Het model bereikt superieure prestaties met slechts 365 trainingsvoorbeelden, wat slechts 1/50e is van de hoeveelheid data die conventionele methoden vereisen.
Interpretatie-algoritme: De introductie van het Context-Parameter Copying Capturing algoritme. Hiermee kunnen onderzoekers op token-niveau analyseren of een model vertrouwt op externe context of op interne parameters.

4. Resultaten

De experimenten op datasets zoals FaithEval, ConFiQA en PubMedQA laten indrukwekkende resultaten zien:

Prestatieverbetering: Op de FaithEval-dataset (counterfactual scenario's) presteert CopyPasteLLM tussen de 12,2% en 24,5% beter dan de sterkste baselines.
Robuustheid: Het model blijft zeer accuraat, zelfs wanneer de verstrekte context bewust onjuist is (counterfactual), wat aantoont dat het model zijn interne kennis effectief onderdrukt ten gunste van de context.
Mechanistisch inzicht: De analyse toont aan dat CopyPasteLLM niet zozeer de representatie van de context verbetert, maar de interne vertrouwenwaardigheid van de parametrische kennis herkalibreert (onderdrukt), waardoor de competitie tussen interne kennis en externe context wordt verminderd.

5. Betekenis en Impact

Dit onderzoek is significant omdat het een elegante, data-efficiënte oplossing biedt voor een van de grootste uitdagingen in AI: betrouwbaarheid. Door de nadruk te leggen op directe tekstuele hergebruik in plaats van abstractieve synthese, biedt Copy-Paste een ingebouwde methode voor verifieerbare attributie. Dit maakt RAG-systemen veiliger en betrouwbaarder voor kritieke toepassingen, zoals medische consultaties, waar de nauwkeurigheid van informatie van levensbelang is.