Paper Reconstruction Evaluation: Evaluating Presentation and Hallucination in AI-written Papers

Deze paper introduceert PaperRecon, een evaluatiekader dat de kwaliteit en risico's van door AI geschreven papers meet via een reconstructietest, en onthult een duidelijke afweging tussen presentatiekwaliteit en hallucinaties bij verschillende modellen.

De kern

📝 De "AI-Schrijver" Test: Kunnen robots echte papers schrijven zonder te liegen?

Stel je voor dat je een meesterchef hebt die een recept voor een perfecte taart heeft. Je geeft deze chef een korte samenvatting van het recept, een foto van de taart en de lijst met ingrediënten. De taak van de chef? Het recept volledig uitschrijven, alsof hij het zelf heeft bedacht, zonder de originele taart te zien.

Dit is precies wat dit onderzoek doet, maar dan met AI-agenten (slimme computerprogramma's) en wetenschappelijke papers in plaats van taarten en chefs.

De onderzoekers van de Universiteit van Tokio hebben een nieuwe test bedacht, genaamd PaperRecon. Ze wilden weten: Kunnen AI's een wetenschappelijk artikel herschrijven dat klinkt als een echte, maar zonder dat ze er dingen bijverzonnen (hallucineren)?

🏗️ Hoe werkt de test? (De "Bouwopdracht")

1. De Originele Taart: Ze nemen een echt, goed artikel dat al is gepubliceerd.
2. De Korte Samenvatting: Ze maken een heel kort verslag (een overview.md) van dat artikel. Dit is als een schets op een napje.
3. De Hulpstukken: Ze geven de AI ook de originele tabellen, afbeeldingen en de code (als die er is).
4. De Opdracht: De AI moet nu het volledige artikel herschrijven, gebaseerd op die schets en de hulpstukken.
5. De Vergelijking: Vervolgens kijken de onderzoekers heel streng naar het resultaat. Ze vergelijken het AI-artikel met het origineel.

⚖️ Twee Sporen: Hoe goed klinkt het? vs. Is het waar?

De onderzoekers kijken naar twee dingen, alsof ze een auto testen op uiterlijk en veiligheid:

1. Presentatie (Het Uiterlijk): Klinkt het artikel professioneel? Ziet het eruit als een echte wetenschappelijke paper?
   • Vergelijking: Stel je voor dat je een naakopdracht krijgt om een huis te bouwen. De AI bouwt een huis dat er prachtig uitziet, met een strakke gevel en mooie ramen. Dat is een goede "presentatie".
2. Hallucinaties (De Veiligheid): Verzon de AI dingen die niet waar zijn?
   • Vergelijking: In dat mooie huis van de AI zijn de muren misschien wel mooi, maar de fundering is gemaakt van boter. Of de AI zegt dat er een zwembad is, terwijl er alleen een gat in de grond zit. Dat is een "hallucinatie".

🤖 De Resultaten: De Strijd tussen Claude en Codex

De onderzoekers hebben twee grote AI's getest: Claude Code (van Anthropic) en Codex (van OpenAI). Hier is wat ze ontdekten:

• Claude Code is de "Stylist":

  • Het goede nieuws: Het artikel dat Claude schrijft, klinkt fantastisch. Het is goed gestructureerd, gebruikt de juiste vaktermen en leest als een echte paper.
  • Het slechte nieuws: Claude liegt veel! Gemiddeld verzon hij meer dan 10 dingen per artikel. Hij maakt cijfers, resultaten of methodes op die niet kloppen.
  • Vergelijking: Het is alsof Claude een prachtig verpakt cadeau geeft, maar er zit een leeg doosje in. Het ziet er mooi uit, maar het is nep.

• Codex is de "Eerlijke Boer":

  • Het goede nieuws: Codex liegt veel minder. Hij verzon maar ongeveer 3 dingen per artikel. Hij houdt zich strikt aan de feiten.
  • Het slechte nieuws: Het artikel dat Codex schrijft, is minder mooi. Het klinkt soms wat stroef en mist de "flair" van een echte wetenschapper.
  • Vergelijking: Codex geeft je een doosje dat er wat slordig uitziet, maar er zit echt een waardevol cadeau in.

📉 De Grote Leerles: Een Dilemma

De belangrijkste conclusie van het onderzoek is een afweging (trade-off):

• Hoe beter de AI wordt in het schrijven (mooie zinnen, goede structuur), hoe meer hij geneigd is om te liegen om dat mooie plaatje compleet te maken.
• Hoe eerlijker de AI is, hoe minder "flair" zijn tekst heeft.

Het onderzoek laat zien dat AI's momenteel nog niet perfect zijn. Ze kunnen prachtige verhalen schrijven, maar we kunnen ze nog niet blindelings vertrouwen voor feitelijke informatie.

🚀 Wat betekent dit voor de toekomst?

Dit onderzoek is een waarschuwing voor de wetenschappelijke wereld. Als we AI's toestaan om papers te schrijven, moeten we heel goed opletten. We kunnen niet alleen kijken of het artikel er mooi uitziet (dat is makkelijk), we moeten ook controleren of de feiten kloppen (dat is moeilijk).

De onderzoekers zeggen: "We moeten een veiligheidsnet bouwen." Zolang AI's deze "lieverij" (hallucinaties) niet onder controle hebben, moeten we voorzichtig zijn met hun werk. Het is alsof je een auto bestelt die er prachtig uitziet, maar waarvan je niet zeker weet of de remmen wel werken.

Kortom: AI's worden steeds beter in het schrijven van wetenschap, maar ze zijn nog steeds te goed in het verzonnen van feiten. We moeten ze blijven controleren, net als een leraar die een spiekbriefje van een leerling controleert.

Technische samenvatting

Titel: Paper Reconstruction Evaluation: Evaluatie van Presentatie en Hallucinatie in door AI geschreven Papers

1. Probleemstelling

Met de snelle vooruitgang van AI-tools, met name coderende agenten (coding agents), neemt de automatisatie van wetenschappelijk onderzoek toe. Er is echter een groeiende bezorgdheid over de kwaliteit en de risico's van door AI gegenereerde wetenschappelijke papers. Bestaande evaluatiemethoden zijn ontoereikend omdat ze vaak:

• Te veel vertrouwen op AI-reviewers, die neigen om papers met ernstige hallucinaties (feitelijke fouten) hoger te beoordelen.
• Beperkt zijn tot oppervlakkige issues zoals citatiefouten, zonder systematische evaluatie van de inhoudelijke consistentie.
• Geen onderscheid maken tussen de presentatiekwaliteit (hoe goed de tekst is geschreven) en feitelijke juistheid (hallucinaties).

Er is behoefte aan een rigoureus, systematisch kader om de betrouwbaarheid van AI-geschreven papers te meten en de risico's voor de academische integriteit te begrijpen.

2. Methodologie: PaperRecon

De auteurs introduceren PaperRecon, het eerste systematische evaluatiekader voor het kwantificeren van de kwaliteit en risico's van papers geschreven door moderne coderende agenten.

Het Proces:

1. Input: Een bestaande "Ground Truth" (GT) paper wordt gecomprimeerd tot een gestructureerd overzicht (research_overview.md) dat alleen essentiële informatie bevat (motivering, methode, resultaten). Daarnaast worden minimale hulpbronnen verstrekt: tabellen, figuren, een bibliografie-bestand (.bib) en de broncode (indien beschikbaar).

2. Generatie: Een coderende agent krijgt de taak om de volledige paper te reconstrueren op basis van deze minimale input, zonder toegang tot de originele paper zelf tijdens het schrijfproces.

3. Evaluatie: De gegenereerde paper wordt direct vergeleken met de originele paper langs twee orthogonale (onafhankelijke) dimensies:

   • A. Presentatie-evaluatie (Rubric Evaluation):

     • Er wordt een rubric (beoordelingscriteria) opgesteld voor elke sectie van de paper (Abstract, Introductie, Methode, etc.) gebaseerd op de originele paper.
     • Een LLM-beoordelaar scoort hoe goed de gegenereerde sectie deze specifieke elementen dekt (schaal 1-5).
     • Dit meet de kwaliteit van de schrijfstijl, structuur en het behoud van kernconcepten.

   • B. Hallucinatie-evaluatie (Agentic Evaluation):

     • Stap 1: Een LLM extrahert alle concrete, verifieerbare claims uit de gegenereerde paper en classificeert ze als: Ondersteund (komt overeen met GT), Neutraal (niet in GT, maar niet in tegenspraak) of Contradictoir (in strijd met GT).
     • Stap 2: Een coderende agent (met toegang tot de originele bronnen zoals code en data) voert een verificatie uit op de als "contradictoir" gemarkeerde claims om vals-positieven te elimineren.
     • Dit levert een nauwkeurig aantal feitelijke fouten (hallucinaties) per paper op.

3. Benchmark: PaperWrite-Bench

Voor de evaluatie hebben de auteurs PaperWrite-Bench ontwikkeld, een benchmark bestaande uit 51 papers gepubliceerd na 2025.

• Bronnen: Papers van toonaangevende conferenties zoals NeurIPS, ICLR, CVPR, ICCV, ACL en ACMMM.
• Diversiteit: De dataset omvat papers over nieuwe methoden, nieuwe benchmarks, en een combinatie van beide, dekkend domeinen zoals computer vision, NLP en machine learning.
• Doel: Het biedt een realistische en diverse testomgeving voor moderne schrijfactoren.

4. Belangrijkste Resultaten

De auteurs hebben recente krachtige agenten getest, waaronder Claude Code (met modellen Sonnet 4 en 4.6) en Codex (met modellen GPT-5 en 5.4). De resultaten tonen een duidelijke afweging (trade-off) aan:

• Presentatiekwaliteit: Claude Code presteert significant beter dan Codex. Het slaagt er beter in om de kernconcepten van wetenschappelijk schrijven vast te leggen en de tekst vloeiend te structureren. De beste configuratie (Claude Code + Sonnet 4.6) bereikte een gemiddelde rubric-score van 3,86/5.
• Hallucinaties: Er is een omgekeerd effect. Claude Code produceert aanzienlijk meer hallucinaties (gemiddeld >10 per paper), terwijl Codex (met GPT-5.4) veel nauwkeuriger is (gemiddeld ~3 hallucinaties per paper).
• Citaties: Codex produceert minder hallucinaties in citaties dan Claude Code, hoewel Claude Code soms een hogere F1-score heeft voor citatie-afdekking.
• Modelvoortgang: De schrijfcapaciteit verbetert duidelijk met de vooruitgang van de onderliggende modellen (bijv. van Sonnet 4 naar 4.6 en GPT-5 naar 5.4), wat aantoont dat PaperRecon een betrouwbare metriek is voor het volgen van vooruitgang.

5. Bijdragen en Significantie

De belangrijkste bijdragen van dit werk zijn:

1. PaperRecon Framework: Een nieuw, gestandaardiseerd protocol dat de evaluatie van AI-schrijven ontrafelt in presentatie en feitelijke juistheid, waardoor een betrouwbaardere beoordeling mogelijk is dan bestaande review-methoden.
2. PaperWrite-Bench: Een uitgebreide benchmark voor het testen van agenten op het reconstrueren van papers uit minimale informatie.
3. Inzicht in Trade-offs: Het werk onthult een kritieke afweging: modellen die beter zijn in het "klinken als een wetenschapper" (hoge presentatiekwaliteit) neigen meer feitelijke fouten te maken. Dit onderstreept het gevaar van AI-generatie voor de wetenschap: een paper kan er perfect uitzien, maar volledig onbetrouwbaar zijn.

Conclusie:
Dit paper stelt een cruciale stap voorwaarts in het begrijpen van de risico's van AI-gestuurde wetenschap. Het benadrukt dat het simpelweg kijken naar de leesbaarheid of de "acceptatiekans" van een paper niet voldoende is; er zijn strikte protocollen nodig om hallucinaties te detecteren. De bevindingen wijzen op de noodzaak van robuuste evaluatiekaders en veiligheidsmaatregelen om de integriteit van de wetenschappelijke gemeenschap te beschermen tegen plausibele maar onjuiste AI-generaties.