GPT4o-Receipt: A Dataset and Human Study for AI-Generated Document Forensics

Dit paper introduceert GPT4o-Receipt, een dataset en onderzoek dat aantoont dat mensen ondanks hun betere visuele waarneming AI gegenereerde bonnen minder goed kunnen detecteren dan AI-modellen, omdat de belangrijkste aanwijzingen rekenfouten zijn die voor het menselijk oog onzichtbaar maar voor machines direct verifieerbaar zijn.

De kern

🧾 De Grote Rekenfout: Waarom mensen AI-rekenbonnen niet zien, maar computers wel

Stel je voor dat je een superrealistische valse munt hebt. Hij ziet er precies uit als een echte: dezelfde kleur, hetzelfde gewicht, zelfs de randjes voelen hetzelfde. Maar er zit één groot verschil in: als je de munt op de weegschaal legt, weegt hij 10 gram in plaats van 5.

Dit is precies wat er gebeurt met AI-gemaakte rekenbonnen (zoals die van de supermarkt of de bakker). Een nieuw onderzoek, genaamd GPT4o-Receipt, heeft ontdekt dat mensen hierin een raadselachtig probleem hebben: wij zijn goed in het zien van nep-uitstraling, maar slecht in het zien van nep-inhoud.

Hier is hoe het werkt, stap voor stap:

1. De "Perfecte" Nepbon

De onderzoekers lieten een slimme AI (GPT-4o) duizenden rekenbonnen maken.

• Het uiterlijk: De bonnen zien er prachtig uit. Het papier heeft de juiste textuur, de letters zijn netjes, en het logo van de winkel klopt. Het is alsof iemand een foto heeft gemaakt van een echt briefje.
• Het geheim: De AI is zo slim dat ze de tekst en de afbeeldingen perfect nabootst, maar ze is niet slim in rekenen. De AI ziet getallen als "kleurtjes" op een canvas, niet als waarden die je bij elkaar moet optellen.

2. De Menselijke "Visuele Oog" vs. De "Rekenmachine"

De onderzoekers vroegen 30 gewone mensen om te kijken of de bonnen echt of nep waren. Ze deden dit puur op basis van hoe het eruitzag.

• Wat de mensen zagen: Mensen waren verrassend goed in het zien van kleine foutjes in de opmaak. Ze zagen dat de letters soms een beetje scheef stonden of dat het papier er "te glad" uitzag. Ze hadden een groot verschil in hun oordeel tussen echte en neppe bonnen.
• Wat de mensen misten: Ze keken niet naar de som. Als er op de bon stond: "3 appels à €1,00" en "2 bier à €2,00", en de totaalprijs was €10,00 (terwijl het €5,00 had moeten zijn), zagen de mensen dit niet. Voor het menselijk oog is een fout in de som net zo onzichtbaar als een fout in de kleur van het papier.

3. De Computers die "Rekenen"

Vervolgens lieten de onderzoekers vijf van de slimste AI-computers (zoals Claude en Gemini) naar dezelfde bonnen kijken.

• Het resultaat: Deze computers deden niet alleen naar het plaatje kijken, maar rekenden de som na. Ze zagen direct: "Hé, 3 appels + 2 bier is niet €10!"
• De paradox: De computers waren beter in het detecteren van nepbonnen dan de mensen, zelfs al zagen de mensen meer visuele foutjes. De computers wonnen omdat ze de "rekenfout" vonden, een fout die voor het menselijk oog onzichtbaar is.

🍎 De Analogie: De Valse Appeltjes

Stel je voor dat je een mand met appels koopt.

• De Mens kijkt naar de appels. Hij ziet dat de ene appel een beetje bruin is en de andere te glanzend. Hij zegt: "Deze appels lijken nep."
• De AI kijkt ook naar de appels, maar hij telt ze ook op. Hij zegt: "Er staan 10 appels in de mand, maar de prijs is berekend alsof er 20 in zitten."
• Het Resultaat: De mens ziet de "bruine vlek", maar mist de "rekenfout". De AI ziet de rekenfout en zegt: "Dit is nep!" Omdat de rekenfout het grootste bewijs is, wint de AI.

4. Waarom is dit belangrijk?

Dit onderzoek laat zien dat we niet alleen kunnen vertrouwen op mensen om nep-documenten te vinden.

• Als je een fraudeur bent die een neprekening maakt, hoef je je geen zorgen te maken over de lettertjes of de foto's (die lijken echt).
• Je moet je zorgen maken over de wiskunde. Als je de som niet klopt, vangen slimme computers je direct.

5. De Les voor de Toekomst

De onderzoekers concluderen dat we een hybride team nodig hebben:

• Mensen zijn goed om te kijken of iets er "echt" uitziet (visuele fouten).
• Computers zijn onmisbaar om te controleren of de cijfers kloppen (rekenfouten).

Als je alleen op mensen vertrouwt, mis je de grootste fouten. Als je alleen op computers vertrouwt, mis je misschien de subtiele visuele nepjes die de slimste AI's nog niet zien. De beste beveiliging is dus een combinatie van een menselijk oog en een rekenmachine.

Kortom: Mensen zijn goed in het zien van nep-uitstraling, maar computers zijn beter in het opsporen van nep-rekeningen. En in de wereld van neprekeningen, is de rekenfout de dodelijkste fout van allemaal.

Technische samenvatting

Titel: GPT4o-Receipt: Een dataset en menselijke studie voor forensische analyse van door AI gegenereerde documenten

1. Probleemstelling

De opkomst van generatieve AI-modellen (zoals GPT-4o en Stable Diffusion) heeft de drempel voor het vervalsen van financiële documenten verlaagd. In tegenstelling tot traditionele vervalsingen die pixel-level manipulaties gebruiken (zoals kopiëren en plakken), worden deze nieuwe documenten volledig vanaf nul gegenereerd. Dit maakt traditionele forensische methoden, die zoeken naar sporen van beeldbewerking, minder effectief.

De kernvraag van dit onderzoek is: Kunnen mensen AI-generaties van financiële documenten (bonnen) beter detecteren dan machines? Er bestaat een kloof in het begrip van de relatieve sterktes van menselijke waarneming versus logische verificatie door Large Language Models (LLMs).

2. Methodologie

A. De Dataset: GPT4o-Receipt
De auteurs hebben een nieuwe benchmark ontwikkeld bestaande uit 1.235 bonafbeeldingen:

• 935 AI-generaties: Deze zijn gegenereerd met een tweestapsproces. Eerst genereerde GPT-4o gestructureerde tekstuele boninhoud (voor 159 verschillende winkelcategorieën, zoals supermarkten en apotheken). Vervolgens renderde GPT-Image-1 een fotorealistische afbeelding van deze tekst.
  • Kritieke bevinding: Hoewel de visuele output realistisch is, behandelt de AI nummers als visuele tokens in plaats van berekende waarden. Dit leidt tot systematische rekenfouten (bijv. de som van de artikelen komt niet overeen met het subtotal, of belasting is incorrect berekend).
• 300 Authentieke bonnen: Afkomstig van bestaande openbare datasets (ExpressExpense en Roboflow Universe) om een realistische basislijn te vormen.

B. Evaluatie Framework
De dataset werd getest op twee fronten:

1. Menselijke perceptiestudie: 30 annotatoren beoordeelden ongeveer 100 afbeeldingen per persoon. Ze beoordeelden visuele kwaliteit (typografie, lay-out, artefacten) op een schaal van 1 tot 5. Er was geen directe vraag "Is dit AI?", maar de scores werden later omgezet naar een binaire detectie (AI vs. Echt) via een drempelwaarde.
2. LLM Benchmarking: Vijf state-of-the-art multimodale LLMs werden als "zero-shot" forensische detectoren ingezet:
   • Claude Sonnet 4
   • Gemini 2.5 Flash
   • GPT-5 Nano
   • Grok 4
   • LLaMA 4 Scout

De LLMs analyseerden de bonnen op drie dimensies:

• Visuele Realisme: Hoe realistisch ziet het eruit?
• Rekenintegriteit: Kloppen de sommen, belastingen en afrondingen?
• Factuele consistentie: Zijn adres, datum en producten logisch voor die winkel?

3. Belangrijkste Bijdragen

1. GPT4o-Receipt Dataset: De eerste dataset die volledig door AI gegenereerde bonnen bevat (geen gemanipuleerde echte bonnen), specifiek ontworpen om de interactie tussen visuele en logische fouten te bestuderen.
2. Menselijke Baseline: De eerste kwantitatieve karakterisering van menselijke prestaties bij het detecteren van volledig gegenereerde financiële documenten.
3. Multimodale Benchmark: Een uitgebreide vergelijking van vijf LLMs, waarbij niet alleen de nauwkeurigheid, maar ook de kalibratie (verhouding tussen recall en false positives) wordt geanalyseerd.

4. Resultaten

A. De Paradox: Mensen vs. Machines
Er is een opvallende paradox ontdekt:

• Visuele Discriminatie: Mensen zijn beter dan de meeste LLMs in het visueel onderscheiden van AI-bonnen. Mensen hadden het grootste verschil in scores tussen echte en neppe bonnen (een kloof van 1,87 punten op een schaal van 5).
• Detectieprestaties (F1-score): Ondanks hun betere visuele oordeel, presteren mensen slechter in de uiteindelijke detectie (F1 = 0,852) dan de beste LLMs.
  • Claude Sonnet 4: F1 = 0,975
  • Gemini 2.5 Flash: F1 = 0,890
  • Mensen: F1 = 0,852

B. De Oorzaak: Rekenfouten zijn onzichtbaar
De reden voor deze paradox is dat de dominante forensische signaal in AI-bonnen rekenfouten zijn.

• Een fout in de som (bijv. som van artikelen = $24,74, maar subtotal staat op $24,99) is visueel onzichtbaar voor het menselijk oog.
• LLMs kunnen deze fouten in milliseconden verifiëren door de tekst te extraheren en te rekenen.
• Mensen kunnen deze fouten niet zien zonder expliciete berekening, wat hen een structureel nadeel geeft in deze specifieke taak.

C. LLM Prestaties en Kalibratie

• Claude Sonnet 4 presteerde het beste overall (hoge recall en lage false positives).
• Grok 4 had een bijna perfecte recall (99,9%), maar een onacceptabel hoge false positive rate (90,3%), wat betekent dat het bijna alles als nep bestempelt.
• LLaMA 4 Scout had de laagste false positive rate (1,7%), maar miste 89% van de neppe bonnen (lage recall).
• Dit toont aan dat simple "accuracy" niet genoeg is; de keuze van het model hangt af van de toepassing (bijv. filteren vs. juridische bewijslast).

5. Betekenis en Conclusie

Visueel-Arithmetische Asymmetrie
Het paper concludeert dat visuele inspectie alleen structureel ontoereikend is voor het detecteren van AI-generaties van documenten, omdat het belangrijkste signaal (rekenfouten) in het semantische domein zit, niet in het pixel-domein.

Praktische Implicaties

• Hybride Workflows: Menselijke review moet worden aangevuld met geautomatiseerde reken- en logische controles. Mensen zijn goed voor het opsporen van visuele artefacten die zwakkere LLMs missen, maar machines zijn essentieel voor de logische validatie.
• Modelselectie: Voor forensische toepassingen moet men niet alleen kijken naar de F1-score, maar ook naar de kalibratie (de balans tussen recall en false positives).
• Toekomstige Uitdaging: Als tegenstanders de rekenfouten in AI-generaties oplossen (door pre-validatie), zullen de detectiemodellen moeten vertrouwen op andere signalen zoals factuele consistentie en visuele subtiliteiten. De top-modellen (Claude, Gemini) behielden nog steeds >94% van hun detectievermogen zelfs zonder rekenfouten, dankzij hun vermogen om andere inconsistenties te vinden.

Kortom, dit onderzoek waarschuwt dat menselijke intuïtie, hoewel sterk in visuele analyse, kwetsbaar is voor AI-gegenereerde documenten die logisch inconsistent maar visueel perfect lijken, en benadrukt de noodzaak van geautomatiseerde, logische verificatie in forensische workflows.