🤖 AI

Prefix-Adaptive Block Diffusion for Efficient Document Recognition

Dit artikel stelt het Prefix-Adaptive Block Diffusion Model (PA-BDM) voor, dat de efficiënte documentherkenning verbetert door vaste blokgrenzen te vervangen door dynamische prefix-toewijzing en causale denoising om inconsistenties in de informatiestroom op te lossen, waardoor een superieure nauwkeurigheid en een toename van 71,6% in de inferentiethroughput wordt bereikt ten opzichte van bestaande modellen.

Oorspronkelijke auteurs: Mingxu Chai, Ziyu Shen, Chenyu Liu, Kaidi Zhang, Jiazheng Zhang, Dingwei Zhu, Zhiheng Xi, Ruoyu Chen, Jun Long, Jihua Kang, Tao Gui, Qi Zhang

Gepubliceerd 2026-05-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Mingxu Chai, Ziyu Shen, Chenyu Liu, Kaidi Zhang, Jiazheng Zhang, Dingwei Zhu, Zhiheng Xi, Ruoyu Chen, Jun Long, Jihua Kang, Tao Gui, Qi Zhang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert een complexe, handgeschreven wiskundige formule of een dichte tabel uit een documentafbeelding over te schrijven naar een door de computer leesbaar formaat.

De Oude Methode (Het "Rigide Blok"-Probleem)
Beschouw huidige efficiënte AI-modellen (zogenaamde Block Diffusion Models) als een team van kopiisten die in ploegen werken. Ze verdelen de pagina in blokken van vaste grootte, bijvoorbeeld 32 woorden per keer.

De Knelpunt: Ze werken aan alle 32 woorden tegelijk (wat snel is), maar ze kunnen geen voortgang opslaan of een van die woorden "vastleggen" totdat het hele blok van 32 voltooid is.
De Verwarring: Binnen dat blok kunnen de kopiisten naar elkaars werk kijken van links naar rechts en van rechts naar links. Hoewel dit nuttig lijkt, creëert dit een rommel wanneer ze naar het volgende blok gaan. Het volgende blok weet alleen wat er eerder kwam (links-naar-rechts), maar het vorige blok was een warboel van richtingen. Deze inconsistentie maakt het moeilijk om de structuur van zaken zoals wiskundige formules of tabellen correct te krijgen.
De Verspilling: Naarmate ze woorden binnen een blok voltooien, vertraagt het "parallelle" werk omdat er minder woorden over zijn om te raden. Het is als een fabrieksassemblagelijn die niet meer efficiënt is zodra de helft van de producten gemaakt is.

De Nieuwe Oplossing: PA-BDM (De "Adaptieve Kopiist")
De auteurs stellen een nieuwe methode voor genaamd Prefix-Adaptive Block Diffusion (PA-BDM). Hier is hoe dit het spel verandert met eenvoudige analogieën:

1. Het "Kandidaatbereik" versus de "Vaste Doos"

In plaats van een blok van 32 woorden te behandelen als een rigide doos die volledig moet worden gevuld voordat men verder gaat, behandelt PA-BDM het als een maximaal kandidaatbereik.

Analogie: Stel je voor dat je een emmer met water vult. De oude methode zegt: "Je moet de hele emmer vullen voordat je water in de opslagtank kunt gieten." PA-BDM zegt: "Vul de emmer zo veel mogelijk, en zodra je zeker bent dat een kop water schoon en veilig is, giet je het direct in de opslagtank."
Resultaat: De AI wacht niet tot het hele blok voltooid is. Het pakt het "betrouwbare" deel (het voorvoegsel) en slaat het direct op.

2. Causale Stroom (De "Eenrichtingsstraat")

De oude methode liet kopiisten binnen een blok achteruit en vooruit kijken, wat de volgorde van dingen verwarde. PA-BDM dwingt iedereen om alleen vooruit te kijken (van links naar rechts), net als het lezen van een boek.

Analogie: In het oude systeem kon een kopiist in het midden van een zin gluren naar het einde van de zin om het midden te raden. Dit werkte voor informeel gepraat, maar faalde voor strikte structuren zoals wiskundige vergelijkingen waar de volgorde ertoe doet. PA-BDM handhaaft een strikte "eenrichtingsstraat"-regel, zodat de AI elke keer de juiste volgorde leert.

3. Progressieve Prefix-Commitment (PPC) – De "Zekerheidscontrole"

Dit is de motor van het nieuwe systeem. Terwijl de AI de volgende batch woorden raden, controleert het zijn eigen zekerheid.

Hoe het werkt: Als de AI 99% zeker is over de eerste 10 woorden van een blok van 32 woorden, "commit" (vastlegt) het die 10 woorden direct. Het gooit vervolgens de resterende 22 raden weg en start een nieuwe batch van 32 raden gebaseerd op die 10 vastgelegde woorden.
Het Voordeel: Dit reset de "parallelle ruimte". In plaats van te werken aan een krimpende lijst van 22, dan 10, dan 5 woorden, krijgt de AI de kans om opnieuw en opnieuw te werken aan een vers, volledig set van 32 woorden. Dit houdt de snelheid hoog.

4. Confidence-Gated Structural Loss (CSL) – De "Strenge Leraar"

Tijdens training leert de AI door fouten te proberen te herstellen. De oude methode dwong de AI om van alle fouten te leren, zelfs als het begin van de zin al wankel was.

De Oplossing: PA-BDM gebruikt een "zekerheidshek". Als de AI onzeker is over het begin van een zin, stopt de leraar (het trainingsalgoritme) met het beoordelen van de rest van de zin. Het beoordeelt alleen het deel waar de AI zeker van is.
Analogie: Stel je een leraar voor die een wiskundetoets corrigeert. Als de student de eerste stap verkeerd heeft, besteedt de leraar geen tijd aan het beoordelen van het eindantwoord, omdat dit gebaseerd is op een verkeerde premisse. De leraar wacht tot de student de eerste stap goed heeft voordat de rest wordt beoordeeld. Dit voorkomt dat de AI "ruis" of slechte patronen leert.

De Resultaten

Het artikel beweert dat deze nieuwe aanpak, PA-BDM, een enorme upgrade is:

Snelheid: Het is 71,6% sneller dan het vorige beste diffusiemodel (MinerU-Diffusion) en ongeveer 8 keer sneller dan standaard autoregressieve modellen (die één woord per keer schrijven).
Nauwkeurigheid: Het is nauwkeuriger in het herkennen van complexe structuren zoals wiskundige formules, tabellen en diagrammen, omdat het de strikte volgorde van tokens respecteert.
Efficiëntie: Het gebruikt geheugen even efficiënt als de oudere modellen, maar verzet veel meer werk in dezelfde hoeveelheid tijd.

Kortom, PA-BDM voorkomt dat de AI wacht op "perfecte blokken" en laat het in plaats daarvan direct "goed genoeg" voortgang vastleggen, waardoor de assemblagelijn op topsnelheid blijft draaien zonder nauwkeurigheid te verliezen.

Technische Samenvatting: Prefix-Adaptieve Blokdiffusie voor Efficiënte Documentherkenning

1. Probleemstelling

Documentparsing vereist het converteren van documentafbeeldingen naar machineleesbare formaten (bijv. LaTeX, HTML, Markdown). Hoewel autoregressieve modellen (ARM's) aanzienlijke vooruitgang hebben geboekt, beperkt hun strikte generatieparadigma token voor token de inferentie-efficiëntie. Om dit aan te pakken, heeft recent onderzoek parallelle generatieparadigma's onderzocht, met name Blokdiffusiemodellen (BDM's). BDM's genereren blokken autoregressief terwijl ze tokens binnen elk blok parallel ontdooiden, wat output met flexibele lengte en KV-caching mogelijk maakt.

De auteurs identificeren echter twee kritieke beperkingen in standaard BDM's bij toepassing op structureel gevoelige documentherkenning:

Vaste Blokcommitment: Standaard BDM's koppelen ontdooiding en KV-cache-commitment aan vaste blokgrenzen. Tokens kunnen niet worden gecached totdat het volledige blok is voltooid, wat hergebruik van betrouwbare tussentijdse voorspellingen voor de prompt verhindert. Bovendien, naarmate ontdooiding binnen een blok vordert, neemt het aantal resterende gemaskeerde tokens af, waardoor de effectieve parallelle decoderruimte krimpt.
Inconsistente Informatiestroom: Standaard BDM's gebruiken bidirectionele ontdooiding binnen een blok, maar handhaven een links-naar-rechts autoregressie tussen blokken. Dit creëert een inconsistente informatiestroom. Voor taken die een nauwkeurige reconstructie van discrete tokenreeksen vereisen (zoals formules en tabellen), kan deze bidirectionele context conflicteren met de strikte structurele grenzen en tokenvolgorde die nodig zijn, wat leidt tot structurele generatiefouten.

2. Methodologie: Prefix-Adaptief Blokdiffusiemodel (PA-BDM)

De auteurs stellen PA-BDM voor, een raamwerk dat de rol van het "blok" herdefinieert van een vaste generatie-eenheid naar een maximaal kandidaatgeneratiebereik. De kerncomponenten zijn:

A. Causale Onthooiding binnen het Blok

In tegenstelling tot standaard BDM's die bidirectionele aandacht binnen een blok gebruiken, hanteert PA-BDM causale ontdooiding (prefix naar suffix) binnen elk kandidaatblok.

Mechanisme: Tokens binnen een blok letten alleen op eerdere blokken en hun linkerzijde-context binnen het huidige blok.
Voordeel: Dit brengt de informatiestroom binnen het blok in lijn met autoregressie tussen blokken, zodat betrouwbare prefixes die binnen een blok worden gegenereerd geldig zijn voor hergebruik van de KV-cache.

B. Vertrouwensgegateerde Structurele Verliesfunctie (CSL)

Om causale ontdooiding tijdens training te ondersteunen, introduceert PA-BDM CSL om supervisie-ruis te beheren.

Probleem: Bij causale ontdooiding hangen latere gemaskeerde tokens af van eerdere tokens. Als vroege tokens onzeker zijn (hoge entropie), introduceert het superviseren van de volledige suffix ruisende gradiënten.
Oplossing: CSL berekent het vertrouwen van voorspelde tokens. Het identificeert de eerste positie in de gemaskeerde suffix waar het vertrouwen onder een drempelwaarde $\tau$ daalt. Supervisie wordt alleen toegepast tot aan deze "leergrens". Posities rechts van deze grens worden uitgesloten van de verliesberekening.
Trainingsstrategie: Dit moedigt het model aan om lage-entropie, betrouwbare structurele prefixes op te bouwen voordat het uitbreidt naar langere voortzettingen.

C. Progressieve Prefixcommitment (PPC)

Tijdens inferentie gebruikt PA-BDM PPC om generatie en caching dynamisch te beheren.

Proces:
1. Het model voorspelt een kandidaatbereik van grootte $D$ (bijv. 32 tokens).
2. PPC scant de voorspellingen van links naar rechts en identificeert het langste aaneengesloten prefix waarbij alle tokens de vertrouwensdrempel $\tau$ overschrijden.
3. Dit betrouwbare prefix wordt direct gecommitteerd aan de KV-cache.
4. De onopgeloste suffix wordt verworpen en het volgende kandidaatbereik wordt opnieuw ingesteld, beginnend bij het nieuw gecommiteerde prefix.
Voordeel: Dit herstelt op elk moment een grote parallelle decoderruimte (vermijdt de krimpende ruimte van standaard BDM's) en maakt tijdig hergebruik van de KV-cache mogelijk, wat de doorvoer aanzienlijk verbetert.

3. Belangrijkste Bijdragen

Identificatie van Beperkingen: Het artikel wijst vaste blokcommitment en inconsistente informatiestroom binnen en tussen blokken aan als de primaire knelpunten voor BDM's bij structureel gevoelige documentherkenning.
PA-BDM Raamwerk: Een nieuw raamwerk dat blokgrootte behandelt als een maximaal kandidaatbereik in plaats van een vaste commitment-eenheid, gebruikmakend van causale modellering binnen blokken om adaptieve generatie mogelijk te maken.
PPC-mechanisme: Een decodestrategie die betrouwbare prefixes dynamisch committeert, waardoor direct hergebruik van de KV-cache mogelijk wordt en het kandidaatbereik wordt gereset om parallelisme te herstellen.
CSL-doel: Een trainingsverlies dat supervisie aanpast op basis van prefixvertrouwen, waardoor ruisende gradiënten van onstabiele prefixtoestanden worden verminderd.

4. Experimentele Resultaten

De auteurs evalueerden PA-BDM (3B parameters) tegenover diverse baselines, waaronder DiffusionVL, MinerU-Diffusion en autoregressieve modellen (bijv. Qwen2.5-VL, Dolphinv2) op benchmarks voor tekst-, formule-, tabel- en diagramherkenning.

Nauwkeurigheid: PA-BDM behaalt de beste prestaties onder diffusiegebaseerde modellen op de meeste benchmarks. Het toont bijzonder sterke winsten bij complexe formulesherkenning (bijv. CPE- en HWE-subsets), waarbij het DiffusionVL en MinerU-Diffusion overtreft.
Efficiëntie: PA-BDM verbetert de inferentie-doorvoer met 71,6% ten opzichte van de 2,5B MinerU-Diffusion-baseline (267,2 tokens/sec versus 155,7 tokens/sec). Het bereikt ongeveer 8× hogere doorvoer dan vergeleken ARM-herkenners.
Geheugen: Ondanks de efficiëntiewinsten behoudt PA-BDM een piek GPU-geheugen dat vergelijkbaar is met andere modellen van 3B-schaal.
Ablatiestudies:
- Causaal versus Bidirectioneel: Causale modellering binnen blokken presteert beter dan bidirectionele modellering op gestructureerde taken (formules, tabellen), wat suggereert dat bidirectionele context kan leiden tot structurele ongeldigheid.
- CSL: Modellen getraind met CSL tonen hogere nauwkeurigheid en doorvoer dan die met standaard Cross-Entropy of willekeurige masking, wat aangeeft dat CSL succesvol langere betrouwbare prefixes leert.
- PPC: Adaptieve commitment presteert aanzienlijk beter dan strategieën met vaste lengtecommitment, en balanceert nauwkeurigheid en parallelisme effectief.

5. Betekenis en Claims

Het artikel claimt dat PA-BDM een superieure snelheid-nauwkeurigheidsafweging biedt voor documentparsing in vergelijking met bestaande diffusiegebaseerde baselines. Door blokken te behandelen als kandidaatbereiken en betrouwbare prefixes te committeren, lost PA-BDM de spanning op tussen efficiëntie van parallelle generatie en de strikte structurele eisen van documentherkenning.

De auteurs benadrukken dat hun aanpak bijzonder effectief is voor structureel gevoelige taken (LaTeX, HTML, Mermaid) waar tokenvolgorde en structurele grenzen kritiek zijn. Zij merken op dat hoewel de methode de efficiëntie aanzienlijk verbetert, de huidige evaluatie voornamelijk is uitgevoerd op Engelstalige, open-source datasets. De generalisatie naar complexere meertalige scenario's (bijv. Chinese formules, gemengde lay-outs) blijft een gebied voor toekomstig onderzoek, aangezien deze scenario's rijkere tekensets en complexere structurele afhankelijkheden omvatten die de modellering van betrouwbare prefixes kunnen uitdagen.

Het werk suggereert dat modellering van betrouwbare prefixes een effectieve richting is voor het verbeteren van de efficiëntie van diffusiegebaseerde documentherkenning, waarbij men verder gaat dan vaste blokbeperkingen naar adaptieve, vertrouwen-gedreven generatie.