🤖 AI

Do VLMs Read or Rewrite? On Transcription Faithfulness in Vision-Language Models

Dit artikel introduceert de FaithC4-benchmark om aan te tonen dat Vision-Language Modellen imperfecte tekst vaak herschrijven naar plausibele vormen in plaats van deze getrouw te transcriberen, wat duidelijke degradatiepatronen over verschillende modeltypen onthult en specifieke laagrepresentaties en woordlengtes identificeert die dit herschrijvingsgedrag triggeren.

Oorspronkelijke auteurs: Gwang Gook Lee, Kenan Emir Ak, Jay Mohta, Yan Xu, Dimitrios Dimitriadis

Gepubliceerd 2026-07-27

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Gwang Gook Lee, Kenan Emir Ak, Jay Mohta, Yan Xu, Dimitrios Dimitriadis

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot leert om een handgeschreven brief van je oma te lezen. Je verwacht dat de robot zich gedraagt als een supernauwkeurige fotokopieermachine, die elke krabbel, vlek en spelfout exact vastlegt zoals deze verschijnt. Dit is de taak van Optical Character Recognition (OCR), een technologie die al decennia bestaat om afbeeldingen van tekst om te zetten in digitale woorden. Maar onlangs is er een nieuw soort robot gearriveerd: het Vision-Language Model (VLM). Denk aan deze modellen als robots die niet alleen de letters "zien", maar ook "nadenken" over wat de zin zou moeten betekenen, door een camera te combineren met een zeer slim brein dat getraind is op het hele internet.

De grote vraag is: wanneer deze slimme robots een rommelig woord zien, kopiëren ze het dan getrouw, of proberen ze het te "verbeteren"? Het is een beetje zoals het "typoglycemia"-effect dat mensen ervaren, waarbij we nog steeds een zin kunnen lezen zelfs als de middelste letters van de woorden door elkaar staan, omdat onze hersenen de bedoelde woorden raden. Hoewel dit nuttig is voor mensen, kan het een ramp zijn voor een robot als je een perfecte, letterlijke kopie nodig hebt van een juridisch contract of een historische brief. Als de robot een typefout "corrigeert" die eigenlijk onderdeel was van het originele document, heeft hij de geschiedenis herschreven in plaats van deze te registreren. Dit artikel duikt in de vraag of deze nieuwe AI-robots getrouwe scribenten zijn of overijverige redacteuren.

Lezen of herschrijven VLMs?

In dit onderzoek stelden onderzoekers van Amazon een specifieke gewoonte van deze Vision-Language Models (VLMs) aan de tand: wanneer ze een woord zien dat er een beetje vreemd uitziet, lezen ze het dan precies zoals het is, of herschrijven ze het stiekem naar iets wat meer logisch is?

Om dit te ontdekken, creëerde het team een speciale speeltuin genaamd FaithC4. Stel je voor dat ze duizenden schone, normale pagina's met Engelse, Chinese en Koreaanse tekst namen. Vervolgens speelden ze een spelletje "telefoontje" met de woorden voordat ze ze in afbeeldingen veranderden. Ze namen 8% van de in aanmerking komende woorden en verpestten deze op drie creatieve manieren:

Scramble (Door elkaar gehusseld): Ze husselden de binnenste letters door elkaar (zoals "standard" veranderen in "sdanartd").
Random (Willekeurig): Ze vervingen letters door volkomen willekeurige andere letters (zoals "xkpmewqi").
Visual (Visueel): Ze vervingen letters door letters die er bijna identiek uitzien (zoals een 'a' veranderen in een 'c' of een 'o' in een '0').

Vervolgens toonden ze deze "kapotte" afbeeldingen aan 15 verschillende systemen. Deze systemen vielen uiteen in drie groepen:

The Old Guard (De Oude Garde): Traditionele OCR-tools (zoals Tesseract) die simpelweg naar pixels kijken en zeggen: "dat lijkt op een 'a'."
The Specialists (De Specialisten): VLMs die specifiek getraind zijn voor het lezen van documenten.
The Generalists (De Generalisten): De grote, krachtige VLMs (zoals Qwen, GPT-4V en Gemini) die goed zijn in alles van wiskunde tot poëzie.

De resultaten: De "slimme" robots zijn te slim

De bevindingen waren verrassend en een beetje verontrustend voor iedereen die perfecte kopieën nodig heeft. De onderzoekers ontdekten dat hoe "slimmer" de robot was, hoe groter de kans dat hij de tekst herschreef.

The Old Guard (Traditionele OCR): Deze waren het meest getrouw. Wanneer de tekst werd verstoord, veranderden ze hun antwoord nauwelijks. Hun foutpercentage steeg met minder dan 0,6 procentpunt. Ze zagen de rommel en kopieerden de rommel.
The Specialists (De Specialisten): Deze deden het iets beter dan de generalisten, maar maakten nog steeds enkele wijzigingen. Hun fouten namen toe met 0,2 tot 2 procentpunten.
The Generalists (De Generalisten): Deze waren het slechtst in het zijn van getrouw. Wanneer de tekst werd gehusseld of visueel veranderd, schoot hun foutpercentage met wel 4,5 procentpunten omhoog.

Waarom? Omdat deze algemene modellen zo goed zijn in het voorspellen van hoe een zin er zou moeten uitzien, negeren ze vaak wat er daadwerkelijk geschreven staat. Als ze "prbolem" zien, geven ze zelfverzekerd "problem" uit, zelfs als de afbeelding duidelijk "prbolem" zei. Het is als een student die het antwoord op een wiskundeprobleem zo goed kent, dat hij de geschreven fout van de leraar op het bord negeert en gewoon het juiste antwoord opschrijft.

Het verborgen mechanisme: Wanneer vindt het herschrijven plaats?

Om te begrijpen waarom dit gebeurt, keken de onderzoekers laag voor laag in het brein van een van deze modellen, Qwen3-VL-4B. Ze wilden zien of de robot "blind" was voor de fout, of dat hij de fout simpelweg besloot te negeren.

Ze ontdekten een fascinerende regel: De robot herschrijft het woord alleen wanneer hij nog steeds "denkt" dat het woord bekend voorkomt.

Als de interne representatie van de gehusselde woorden van de robot nog steeds heel dicht bij het oorspronkelijke woord ligt (zoals een wazige foto die nog steeds op een kat lijkt), zegt de robot: "Oh, dat is overduidelijk 'kat'!" en herschrijft hij het.
Maar als de husseling zo erg is dat de interne representatie ver afwijkt van het origineel (de foto is nu slechts een vlek), stopt de robot met gissen en transcribeert hij eindelijk wat hij ziet.

Dit verklaart waarom woordlengte zo belangrijk is. Korte woorden (4 tot 6 letters) worden tot wel 10% van de tijd herschreven, omdat het voor de robot makkelijk is om het originele woord te raden. Maar zodra een woord 8 tekens of langer is, daalt het herschrijven naar 0%. De husseling is te groot voor het "gokbrein" van de robot om het origineel te herstellen, waardoor hij zich overgeeft aan een getrouwe transcriptie.

Het rimpeleffect

Dit is het meest verrassende deel: het verstoren van slechts een paar woorden beschadigt niet alleen die specifieke woorden. De onderzoekers ontdekten dat het corrumperen van slechts 5% van de woorden in een document ervoor zorgde dat de fouten bij de perfecte, onaangetaste woorden bij de algemene modellen met 5 tot 10 keer toenamen.

Het is alsof de robot zo in de war raakt door de ene typefout, dat hij de hele paragraaf eromheen verkeerd begint te lezen. Traditionele OCR-systemen hadden dit probleem niet; zij bleven kalm en accuraat, zelfs wanneer ze omringd werden door chaos.

Wat dit betekent

Het artikel concludeert dat hoewel deze hippe nieuwe AI-modellen geweldig zijn in het begrijpen van documenten en het beantwoorden van vragen, ze niet betrouwbaar zijn voor taken die een letterlijke, perfecte kopie van de tekst vereisen. Als je een historisch manuscript digitaliseert, een juridisch contract controleert of medische dossiers analyseert waarbij elke typefout van belang is, kun je beter vasthouden aan traditionele OCR of gespecialiseerde tools. De algemene VLMs zijn te enthousiast om te "helpen" door dingen te corrigeren die niet gecorrigeerd hadden mogen worden.

De onderzoekers suggereren dat we voorzichtig moeten zijn met hoe we deze modellen gebruiken. Alleen omdat een model een document kan lezen, betekent niet dat het het getrouw leest. Voor nu, als je de waarheid wilt precies zoals deze geschreven is, zijn de ouderwetse robots nog steeds de meest eerlijke scribenten.

Technische Samenvatting: Lezen of herschrijven VLMs? Over de getrouwheid van transcriptie in Vision-Language Modellen

Probleemstelling

Vision-Language Modellen (VLMs) vervangen steeds vaker traditionele OCR-pipelines voor documentbegrip vanwege hun vermogen om tekstherkenning, lay-outanalyse en downstream-taken binnen één enkel model te combineren. Echter, standaard OCR-benchmarks, die vertrouwen op schone tekst, slagen er niet in een kritiek gedragsdefect te vangen: VLMs fungeren vaak als "stille herschrijvers" in plaats van getrouwe transcriptoren. Wanneer ze worden geconfronteerd met imperfecte inputs (typo's, visuele artefacten of onduidelijke karakters), hebben VLMs de neiging om te produceren wat ze verwachten te zien op basis van taalkundige priors, in plaats van wat er daadwerkelijk geschreven staat. Dit gedrag, dat doet denken aan het typoglycemia-effect bij menselijk lezen, vormt aanzienlijke risico's voor domeinen die een letterlijke transcriptie vereisen, zoals juridische documenten, medische dossiers en historische manuscripten. Bestaand onderzoek heeft dit herschrijfgedrag niet systematisch onderzocht, aangezien huidige benchmarks zich richten op tekstherkenning met schone tekst.

Methodologie

Om dit gat te dichten, introduceren de auteurs FaithC4, een meertalige perturbatie-benchmark die ontworpen is om de getrouwheid van transcriptie onder imperfecte inputs te meten.

Dataset Constructie: De auteurs haalden ruwe tekst uit de Colossal Clean Crawled Corpus (C4) en renderden deze naar documentafbeeldingen van één pagina. Ze pasten gecontroleerde perturbaties toe op 8% van de in aanmerking komende woorden (woorden met $\ge$ 4 karakters) over drie talen: Engels (EN), Chinees (ZH) en Koreaans (KO). De perturbatiefamilies zijn:
- Scramble (Husselen): Interne karakters worden gehusseld terwijl de eerste en laatste letters behouden blijven (bijv. "standard" $\to$ "sdanartd").
- Random Substitution (Willekeurige vervanging): Karakters worden vervangen door willekeurige letters uit hetzelfde schrift.
- Visual Substitution (Visuele vervanging): Karakters worden vervangen door visueel vergelijkbare alternatieven (bijv. "standard" $\to$ "stsndord").
- De geperturbeerde tekst dient als de grondwaarheid (ground truth); de output van het model wordt hiermee vergeleken om te bepalen of het de fout getrouw heeft getranscribeerd of het heeft "herschreven" naar het origineel.
Geëvalueerde Systemen: De studie evalueert 15 systemen binnen drie categorieën:
1. Algemene VLMs: Open-weight modellen (bijv. Qwen3-VL, InternVL, Gemma) en closed-weight modellen (bijv. GPT-5.4-mini, Gemini).
2. OCR-gespecialiseerde VLMs: Modellen die zijn gefinetuned voor documentextractie (bijv. MinerU, DeepSeek-OCR).
3. Traditionele OCR: Karakter-niveau pipelines (Tesseract, docTR).
Evaluatiemetrieken:
- Word Error Rate (WER): Meet de volgordegevoelige woordniveau-nauwkeurigheid (of Character Error Rate, CER, voor Chinees).
- Edit Distance Similarity (EDS): Meet de karakter-niveau gelijkenis.
- Foutclassificatie: Fouten op geperturbeerde woorden worden gecategoriseerd als Rewritten (overeenkomend met het oorspronkelijke ongeperturbeerde woord), Close (kleine wijzigingen), Moderate of Wrong.
Mechanistische Probing: De auteurs voeren laag-voor-laag probing uit op Qwen3-VL-4B om de oorsprong van het herschrijven te identificeren. Ze analyseren de cosinusgelijkenis van Feed-Forward Network (FFN) outputs tussen de originele en geperturbeerde inputs en meten de attention-gewichten op gehighlighte woordpatches.

Belangrijkste Resultaten

1. Prestatiedegradatie en Robuustheids-hiërarchie

De studie onthult een consistente drieledige ordening van robuustheid over alle drie de talen, wat correleert met de kracht van de taalkundige prior van een model:

Traditionele OCR: Meest robuust, met een degradatie van $< 0,6$ procentpunt (pp) in WER/CER. Ze transcriëren karakter voor karakter zonder visueel bewijs te overschrijven.
OCR-gespecialiseerde VLMs: Vertonen matige degradatie (0,2–2,0 pp), waarbij ze enige taalkundige priors behouden maar minder dan algemene modellen.
Algemene-doel VLMs: Ondervinden de grootste degradatie (tot 4,5 pp). Bijvoorbeeld, InternVL3.5-4B degradeerde met 4,45 pp onder visuele perturbatie in het Engels, terwijl Gemini-3-Flash een uitzondering was met lagere degradatie (0,23–0,60 pp).

2. Herschrijfgedrag

Herschrijfpercentages: Algemene-doel VLMs herschrijven een aanzienlijk deel van de geperturbeerde woorden. Zo herschreef Gemini-2.5-Flash bijvoorbeeld 64,6% van de fouten, terwijl Qwen3-VL 29,2% herschreef. Traditionele OCR herschreef 0%.
Niet-lokale Foutpropagatie: Het perturberen van slechts ~4,7% van de woorden veroorzaakte een stijging van de foutpercentages op de ongeperturbeerde rest van de tekst met 5–10 $\times$ voor algemene-doel VLMs, terwijl traditionele OCR slechts een 1,7–3,1 $\times$ amplificatie vertoonde. Dit suggereing dat herschrijven een niet-lokale foutmodus is.
Taalkundige Consistentie: De degradatie-hiërarchie houdt stand voor Engels, Chinees en Koreaans, hoewel het meest schadelijke perturbatietype varieert per schrift (bijv. willekeurige vervanging is het meest schadelijk voor Chinese algemene-doel VLMs).

3. Mechanistische Inzichten (Qwen3-VL-4B)

Het proberen van de interne lagen van Qwen3-VL-4B onthulde dat herschrijven niet wordt veroorzaakt door een falen om de perturbatie op te merken:

Attention vs. Representatie: Het model wijst meer aandacht toe aan de beeldpatches van het geperturbeerde woord in vroege en late lagen, wat aangeeft dat het de corruptie "ziet".
Het Gating-mechanisme: Herschrijven vindt alleen plaats wanneer de interne FFN-representatie van het geperturbeerde woord in de laatste laag dichtbij (close) de originele codering blijft.
- Als de representatie voldoende divergeert (lage cosinusgelijkenis), transcribeert het model getrouw.
- Als de representatie dichtbij blijft (hoge gelijkenis), overrulet de taalkundige prior het visuele bewijs om het woord te "corrigeren".
Woordlengte-effect: Herschrijven is sterk afhankelijk van de woordlengte. Korte woorden (4–6 karakters) worden tot 10% van de tijd herschreven. Er is een scherpe afkapwaarde bij 8 karakters, waarbij het hersrijfpercentage naar 0% daalt. Kortere woorden veroorzaken minder verstoring van de interne representatie, waardoor de taalkundige prior het woord kan herkennen en "corrigeren".

Betekenis en Claims

Het artikel claimt dat FaithC4 een systematische beperking in VLMs blootlegt die schone-tekst benchmarks niet kunnen detecteren: de neiging om imperfecte tekst stilzwijgend te herschrijven op basis van taalkundige priors. De auteurs stellen dat voor toepassingen die een letterlijke transcriptie vereisen (juridisch, medisch, historisch), traditionele OCR of zorgvuldig geselecteerde OCR-gespecialiseerde VLMs de veiligste keuze blijven, aangezien algemene-doel VLMs systematische herschrijffouten introduceren.

De studie stelt vast dat het "herschrijven"-gedrag geen hallucinatie is in de traditionele zin van het genereren van niet-bestaande objecten, maar een specifieke foutmodus waarbij de taalkundige prior het visuele bewijs overrulet wanneer de perturbatie subtiel genoeg is om de interne representatie herkenbaar te laten. Dit gedrag wordt gereguleerd door de omvang van de verschuiving in de interne representatie van het model, en niet door de hoeveelheid aandacht die aan de input wordt toegewezen.