💬 NLP

Unlimited OCR Works

Dit artikel introduceert Unlimited OCR, een model dat de standaard decoder-attention vervangt door een nieuw Reference Sliding Window Attention (R-SWA) mechanisme om een constante KV-cache te behouden, waardoor efficiënte, single-pass transcriptie van tientallen pagina's mogelijk wordt zonder de geheugen- en snelheidssvermindering die typisch wordt veroorzaakt door lange outputsequenties in op LLM gebaseerde OCR-systemen.

Oorspronkelijke auteurs: Youyang Yin, Huanhuan Liu, YY, Qunyi Xie, Chaorun Liu, Shiqi Yang, Shaohua Wang, Zhanlong Liu, Hao Zou, Jinyue Chen, Shu Wei, Jingjing Wu, Mingxin Huang, Zhen Wu, Guibin Wang, Tengyu Du, Lei Jia

Gepubliceerd 2026-06-23

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Youyang Yin, Huanhuan Liu, YY, Qunyi Xie, Chaorun Liu, Shiqi Yang, Shaohua Wang, Zhanlong Liu, Hao Zou, Jinyue Chen, Shu Wei, Jingjing Wu, Mingxin Huang, Zhen Wu, Guibin Wang, Tengyu Du, Lei Jia

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: De "Geheugenoverbelasting" van Huidige AI

Stel je voor dat je probeert een boek van 100 pagina's met de hand over te schrijven.

Hoe Mensen Dit Doen: Je kijkt naar het boek, schrijft een zin, werpt een blik terug op de laatste paar woorden die je net hebt geschreven om te controleren of je nog op schema ligt, en gaat dan verder. Je hoeft niet elk enkel woord te onthouden dat je sinds pagina één hebt geschreven; je moet alleen weten waar je nú bent. Je brein laat het verre verleden vanzelf "vervagen" terwijl het de directe context scherp houdt.
Hoe Huidige AI Dit Doet: Huidige AI-modellen gedragen zich als een student die weigert iets te vergeten. Elke keer dat ze een nieuw woord schrijven, proberen ze het hele boek vanaf pagina één tot de huidige pagina opnieuw te lezen om te beslissen wat ze nu moeten schrijven.
- Het Resultaat: Naarmate het boek langer wordt, wordt de student steeds langzamer omdat ze een enorme mentale belasting met zich meedragen. Uiteindelijk raken ze hun geheugen (RAM) kwijt en moeten ze stoppen, resetten en opnieuw beginnen op een nieuwe pagina. Dit is waarom huidige AI moeite heeft met het verwerken van een heel boek in één keer; het moet het pagina voor pagina doen, als een robot die vastzit in een loop.

De Oplossing: "Unlimited OCR" en het "Schuivende Venster"

De onderzoekers bij Baidu stellen een nieuw model voor genaamd Unlimited OCR. Ze wilden een AI bous die meer denkt als een menselijke kopiist. Hiervoor hebben ze een nieuw aandachtmechanisme uitgevonden genaamd Reference Sliding Window Attention (R-SWA).

Zo werkt het, met behulp van enkele analogieën:

1. Het "Referentieboek" versus het "Schuivende Venster"

Stel je voor dat de AI aan een bureau zit met twee dingen:

Het Referentieboek (De Afbeelding): Dit is het document dat gescand wordt. De AI houdt dit de hele tijd open op het bureau. Het vergeet de originele afbeelding nooit.
Het Schuivende Venster (Het Recente Verleden): In plaats van de hele geschiedenis van wat het geschreven heeft te onthouden, houdt de AI alleen een klein "plaknotitie" bij van de laatste 128 woorden die het heeft gegenereerd. Terwijl het een nieuw woord schrijft, valt het oudste woord op de plaknotitie eraf en wordt het nieuwe woord toegevoegd.

De Magie: De AI kijkt naar het Referentieboek (om te weten wat er gekopieerd moet worden) en naar het Schuivende Venster (om te weten waar het in het proces is). Het negeert de rest van de geschiedenis. Dit houdt de "mentale belasting" (geheugengebruik) constant, ongeacht of het 1 pagina of 100 pagina's kopieert.

2. De "Diepe Squeeze" (High-Compression Encoder)

Voordat de AI zelfs maar begint met schrijven, moet het naar de afbeelding kijken.

De Oude Manier: Als je een foto met een hoge resolutie van een boek hebt, is het alsof je elke pixel probeert te beschrijven. Dat neemt een enorme hoeveelheid ruimte in beslag.
De Unlimited OCR-Manier: Ze gebruiken een "Deep Squeeze" (DeepEncoder). Stel je voor dat je een foto met een hoge resolutie comprimeert tot een kleine, efficiënte samenvatting zonder de belangrijke details te verliezen. Dit betekent dat het "Referentieboek" heel weinig ruimte inneemt op het bureau, waardoor er genoeg ruimte overblijft voor de AI om te werken.

Wat Hebben Ze Bereikt?

Door de "Deep Squeeze" te combineren met het "Schuivende Venster", hebben de onderzoekers drie belangrijke zaken bereikt:

One-Shot Long-Horizon Parsing: Het model kan tientallen pagina's van een document in één keer verwerken. Het hoeft niet te stoppen en te resetten. Het kan een heel boek van begin tot eind in één continue stroom lezen.
Constante Snelheid: Omdat de AI niet probeert de hele geschiedenis te onthouden, wordt het niet langzamer naarmate het document langer wordt. Of het nu op pagina 1 of pagina 50 is, het schrijft met dezelfde snelheid.
Betere Nauwkeurigheid: Verrassend genoeg, door zich alleen te concentreren op de relevante recente context en de originele afbeelding, maakte de AI juist minder fouten dan de vorige beste modellen. Het raakte niet in de war door zijn eigen lange geschiedenis.

De "Real-World" Test

De onderzoekers hebben dit getest op een benchmark genaamd OmniDocBench.

Het Resultaat: Unlimited OCR scoorde hoger dan bijna alle andere modellen, inclusief het model waarop het gebouwd is (DeepSeek OCR).
De Long-Form Test: Ze voerden het boeken met 40+ pagina's. Het model hield de nauwkeurigheid hoog, wat bewees dat het niet "de weg kwijtraakte" in het midden van het boek.

Wat Betekent Dit voor de Toekomst?

Het paper suggereert dat dit niet alleen bedoeld is voor het lezen van boeken. Omdat de "Schuivende Venster"-logica zo efficiënt is, zou dit toegepast kunnen worden op andere taken waarbij je langdurig moet luisteren of vertalen zonder moe of traag te worden, zoals:

ASR (Automatic Speech Recognition): Het transcriberen van uren aan audio zonder dat het systeem trager wordt.
Vertaling: Het vertalen van lange documenten in één passage.

Samenvatting

Beschouw Unlimited OCR als een upgrade van een AI van een "fotografisch geheugen" dat overweldigd raakt door lange taken, naar een "slimme kopiist" die precies weet wat hij moet onthouden (de originele afbeelding en de laatste paar woorden) en wat hij veilig kan vergeten. Dit stelt het in staat om sneller te werken, minder geheugen te gebruiken en enorme documenten aan te pakken die voorheen onmogelijk voor AI waren om in één keer te verwerken.

Technische Samenvatting: Unlimited OCR

1. Probleemstelling

Huidige end-to-end Optical Character Recognition (OCR) modellen, zelfs die waarbij Large Language Models (LLMs) als decoders worden ingezet, kampen met significante beperkingen bij long-horizon parsing taken (bijv. het transcriberen van tientallen pagina's in een enkele forward pass).

Geheugen- en efficiëntiebottleneck: Standaard aandachtmechanismen vereisen dat de Key-Value (KV) cache lineair groeit met de lengte van de outputsequentie. Naarmate de sequentie langer wordt, leidt dit tot ongecontroleerd geheugengebruik en progressief tragere generatiesnelheden door verhoogde computationele kosten voor aandacht (attention).
De "For-Loop" Workaround: Bestaande modellen verwerken documenten doorgaans pagina voor pagina in een lus, waarbij het geheugen bij elke stap wordt gereset. Dit fragmenteert de taak in geïsoleerde kortetermijnproblemen die door een externe scheduler worden beheerd, waardoor het niet slaagt in het emuleren van de continue cognitieve staat die mensen vertonen bij het transcriberen van lange teksten.
Visuele getrouwheid versus staatsovergangen: Hoewel lineaire aandachtmechanismen de complexiteit verminderen, passen ze vaak recurrente staatsovergangen toe op visuele tokens. Dit veroorzaakt "progressieve vervaging" van visuele kenmerken, wat de herkenningsnauwkeurigheid verslechtert.

2. Methodologie

Het artikel stelt Unlimited OCR voor, een model dat is ontworpen om het werkgeheugen van de mens te emuleren tijdens langdurige kopieertaken. Het bouwt voort op de DeepSeek OCR baseline, behoudt de hoogwaardige compressie-encoder, maar verandert fundamenteel het aandachtmechanisme van de decoder.

Kernarchitectuur

Baseline: Maakt gebruik van de DeepEncoder van DeepSeek OCR, die een gekascadeerde ViT-architectuur (SAM-ViT + CLIP-ViT) gebruikt om een 16× tokencompressie te bereiken. Dit zorgt ervoor dat visuele tokens één keer worden gecodeerd en statisch blijven, waardoor staatsovergangen aan de inputzijde worden voorkomen.
Decoder: Een Mixture-of-Experts (MoE) LLM met 3B totale parameters en 500M geactiveerde parameters.
Kerninnovatie: Alle standaard Multi-Head Attention (MHA) lagen in de decoder worden vervangen door Reference Sliding Window Attention (R-SWA).

Reference Sliding Window Attention (R-SWA)

R-SWA is een algemeen bruikbaar parsing-aandachtmechanisme dat de aandacht beperkt binnen een twee-segment venster van grootte $m + n$ :

Referentie-segment ( $P$ ): Bevat alle prefix-tokens (visuele tokens en de prompt). Dit segment heeft een vaste grootte ( $L_m$ ) en blijft globaal zichtbaar voor alle daaropvolgende tokens. Cruciaal is dat deze tokens geen staatsovergangen ondergaan, wat de visuele getrouwheid behoudt.
Decode-segment ( $D_n$ ): Een causale sliding window van een vaste breedte $n$ (standaard 128) over de eerder gegenereerde output-tokens.

Mechanisme:

Elk gegenereerd token let op alle referentie-tokens (visuele elementen + prompt) en alleen op de voorafgaande $n$ output-tokens.
KV Cache Beheer: In tegen tegenstelling tot standaard MHA waar de cachegrootte $L_m + T$ is (groeiend met de sequentielengte $T$ ), behoudt R-SWA een constante cachegrootte van $L_m + n$ . De cache fungeert als een wachtrij waarbij het oudste gegenereerde token-KV-paar wordt verwijderd zodra er een nieuwe wordt toegevoegd.
Resultaat: Dit ontwerp ontkoppelt het geheugengebruik en de computationele kosten van de totale outputlengte, wat een constante latentie en een constant geheugenvoetafdruk mogelijk maakt, ongeacht hoeveel pagina's worden verwerkt.

3. Belangrijkste Bijdragen

R-SWA Algoritme: Introductie van een nieuw aandachtmechanisme dat de volledige zichtbaarheid van referentie (visuele) tokens combineert met een begrensde causale window voor gegenereerde tokens. Dit bereikt aandacht met lineaire complexiteit zonder de visuele kenmerken te vervagen.
Unlimited OCR Model: Een praktische implementatie gebaseerd op DeepSeek OCR die tientallen documentpagina's succesvol parseert in een enkele forward pass onder een standaard 32K maximale lengtebeperking.
Prestatiewinst: Er is aangetoond dat het vervangen van standaard aandacht door R-SWA niet alleen efficiëntievoordelen oplevert, maar ook de nauwkeurigheid op standaard benchmarks verbetert, wat suggereert dat het "soft forgetting" mechanisme goed aansluit bij OCR-taken.
Generaliseerbaarheid: Het artikel stelt dat R-SWA toepasbaar is buiten OCR voor andere referentie-gebaseerde long-horizon taken zoals Automatic Speech Recognition (ASR) en vertaling.

4. Experimentele Resultaten

Benchmarks en Metrieken

Het model werd geëvalueerd op OmniDocBench (v1.5 en v1.6) en een eigen long-horizon testset. De gebruikte metrieken waren Text Edit Distance, Formula CDM, Table TEDS en Reading Order Edit Distance.

Belangrijkste Bevindingen

OmniDocBench v1.5: Unlimited OCR behaalde een algemene score van 93,23%, waarmee het de DeepSeek OCR baseline (87,01%) met 6,22 punten versloeg. Het overtrof ook de DeepSeek OCR 2 baseline.
OmniDocBench v1.6: Behaalde een nieuwe SOTA van 93,92% totaal, waarmee het andere end-to-end modellen zoals FireRed-OCR en Qianfan-OCR versloeg.
Subcategorie Analyse: Het model toonde consistente verbeteringen over alle negen documenttypen (PPT, academische papers, boeken, etc.), waarbij geen enkele metriek een nadeel vertoonde ten opzichte van de baselines.
Long-Horizon Parsing:
- Het model verwerkte succesvol inputs van 40+ pagina's in een enkele pass.
- Bij 40+ pagina's bleef de Edit Distance onder de 0,11 en was de Distinct-35 96,90%.
- Fouten bij extreme lengtes werden primair toegeschreven aan de resolutiebeperkingen van de "Base" encoder modus (1024×1024) in plaats van het verliezen van de richting door het aandachtmechanisme.

Efficiëntieanalyse

Doorvoersnelheid (TPS): Terwijl beide modellen vergelijkbaar presteren bij korte lengtes (256 tokens), behoudt Unlimited OCR een constante doorvoersnelheid (~7.800 TPS) naarmate de sequentielengte toeneemt. In contrast hiermee daalt de doorvoersnelheid van DeepSeek OCR aanzienlijk (met ~35% bij 6.000 tokens) door de groei van de KV cache.
Latentie: De duur per aanroep voor de Flash Attention kernel blijft constant voor Unlimited OCR, terwijl deze voor de baseline lineair groeit.

5. Betekenis en Claims

Het artikel beweert dat Unlimited OCR een verschuiving vertegenwoordigt naar one-shot long-horizon parsing, weg van engineering workarounds (pagina-voor-pagina lussen) naar een meer AGI-gealigneerde cognitieve architectuur.

Menselijke Efficiëntie: Door het menselijk werkgeheugen na te bootsen — het behouden van de bron (visuele elementen) en de recente context terwijl verre outputs "zachtjes worden vergeten" — bereikt het model een efficiëntie die niet degradeert met de taaklengte.
Verliesvrije Optimalisatie: De auteurs stellen dat R-SWA een "free lunch" is voor OCR, waarbij de nauwkeurigheid wordt verbeterd terwijl de geheugen- en rekenkosten drastisch worden verminderd.
Toekomstig Potentieel: Het werk suggereert dat aandachtberekening en de geheugenvoetafdruk niet langer de primaire bottlenecks zijn voor long-horizon parsing. De auteurs zijn van plan R-SWA uit te breiden naar ASR en vertaling, en willen "prefill pools" verkennen om menselijk "pagina omslaan" te simuleren voor werkelijk onbeperkte contextlengtes in de toekomst.

Erkende Beperkingen:
De huidige implementatie is nog steeds beperkt door de prefill lengte (beperkt door de 32K context window en de DeepEncoder compressie). Werkelijk "onbeperkte" parsing (bijv. hele boeken zonder contextlimieten) vereist toekomstig werk op het gebied van langere context training (128K+) en dynamische prefill fetching mechanismen.