🤖 AI

Prefix-Adaptive Block Diffusion for Efficient Document Recognition

Questo articolo propone il Prefix-Adaptive Block Diffusion Model (PA-BDM), che potenzia il riconoscimento efficiente dei documenti sostituendo i confini di blocco fissi con un impegno di prefisso dinamico e un denoising causale per risolvere le incoerenze nel flusso di informazioni, ottenendo così una precisione superiore e un aumento del 71,6% della velocità di inferenza rispetto ai modelli esistenti.

Autori originali: Mingxu Chai, Ziyu Shen, Chenyu Liu, Kaidi Zhang, Jiazheng Zhang, Dingwei Zhu, Zhiheng Xi, Ruoyu Chen, Jun Long, Jihua Kang, Tao Gui, Qi Zhang

Pubblicato 2026-05-19

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Mingxu Chai, Ziyu Shen, Chenyu Liu, Kaidi Zhang, Jiazheng Zhang, Dingwei Zhu, Zhiheng Xi, Ruoyu Chen, Jun Long, Jihua Kang, Tao Gui, Qi Zhang

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di dover trascrivere una formula matematica complessa scritta a mano o una tabella densa da un'immagine di un documento in un formato leggibile dal computer.

Il Vecchio Metodo (Il Problema del "Blocco Rigido")
Pensa ai modelli di IA efficienti attuali (chiamati Modelli di Diffusione a Blocchi) come a un team di scribi che lavorano a turni. Dividono la pagina in porzioni di dimensioni fisse, diciamo 32 parole alla volta.

Il Collo di Bottiglia: Lavorano su tutte le 32 parole simultaneamente (il che è veloce), ma non possono salvare i loro progressi o "bloccare" nessuna di quelle parole fino a quando l'intera porzione di 32 non è completata.
La Confusione: All'interno di quella porzione, gli scribi possono guardare il lavoro degli altri da sinistra a destra e da destra a sinistra. Sebbene questo sembri utile, crea un caos quando passano alla porzione successiva. La porzione successiva conosce solo ciò che è venuto prima (da sinistra a destra), ma la porzione precedente era un miscuglio confuso di direzioni. Questa incoerenza rende difficile ottenere la struttura corretta di cose come formule matematiche o tabelle.
Lo Spreco: Mentre completano le parole all'interno di una porzione, il lavoro "parallelo" rallenta perché rimangono meno parole da indovinare. È come una catena di montaggio in fabbrica che smette di essere efficiente una volta prodotti metà dei prodotti.

La Nuova Soluzione: PA-BDM (Lo "Scriba Adattivo")
Gli autori propongono un nuovo metodo chiamato Diffusione a Blocchi Adattiva al Prefisso (PA-BDM). Ecco come cambia le regole del gioco utilizzando semplici analogie:

1. L'"Intervallo di Candidati" vs. La "Scatola Fissa"

Invece di trattare un blocco di 32 parole come una scatola rigida che deve essere riempita completamente prima di procedere, PA-BDM lo tratta come un massimo intervallo di candidati.

Analogia: Immagina di riempire un secchio d'acqua. Il vecchio metodo dice: "Devi riempire tutto il secchio prima di poter versare acqua nel serbatoio di stoccaggio". PA-BDM dice: "Riempi il secchio il più possibile e, non appena sei sicuro che una tazza d'acqua sia pulita e sicura, versala immediatamente nel serbatoio di stoccaggio".
Risultato: L'IA non aspetta che l'intero blocco sia finito. Afferra la parte "affidabile" (il prefisso) e la salva istantaneamente.

2. Flusso Causale (La "Strada a Senso Unico")

Il vecchio metodo permetteva agli scribi di guardare indietro e in avanti all'interno di un blocco, il che confondeva l'ordine delle cose. PA-BDM costringe tutti a guardare solo in avanti (da sinistra a destra), proprio come leggere un libro.

Analogia: Nel vecchio sistema, uno scriba a metà di una frase poteva sbirciare la fine della frase per indovinare la parte centrale. Questo funzionava per conversazioni informali ma falliva per strutture rigide come equazioni matematiche dove l'ordine conta. PA-BDM impone una regola rigorosa di "strada a senso unico", assicurando che l'IA apprenda la sequenza corretta ogni volta.

3. Impegno Progressivo del Prefisso (PPC) – Il "Controllo di Fiducia"

Questo è il motore del nuovo sistema. Mentre l'IA indovina il prossimo gruppo di parole, controlla la propria fiducia.

Come funziona: Se l'IA è sicura al 99% delle prime 10 parole di un blocco di 32 parole, "si impegna" (blocca) quelle 10 parole immediatamente. Quindi scarta le rimanenti 22 ipotesi e inizia un nuovo gruppo di 32 ipotesi basato su quelle 10 parole bloccate.
Il Vantaggio: Questo resetta lo "spazio parallelo". Invece di lavorare su una lista che si restringe di 22, poi 10, poi 5 parole, l'IA ha la possibilità di lavorare su un nuovo insieme completo di 32 parole, ripetutamente. Questo mantiene alta la velocità.

4. Funzione di Perdita Strutturale a Cancello di Fiducia (CSL) – Il "Maestro Rigido"

Durante l'addestramento, l'IA impara cercando di correggere gli errori. Il vecchio metodo costringeva l'IA a imparare da tutti gli errori, anche se l'inizio della frase era già incerto.

La Correzione: PA-BDM utilizza un "cancello di fiducia". Se l'IA non è sicura dell'inizio di una frase, il maestro (l'algoritmo di addestramento) smette di valutare il resto della frase. Valuta solo la parte di cui l'IA è sicura.
Analogia: Immagina un insegnante che corregge un test di matematica. Se lo studente sbaglia il primo passaggio, l'insegnante non perde tempo a correggere la risposta finale perché si basa su un presupposto errato. L'insegnante aspetta che lo studente ottenga il primo passaggio corretto prima di correggere il resto. Questo impedisce all'IA di apprendere pattern "rumorosi" o cattivi.

I Risultati

Il documento afferma che questo nuovo approccio, PA-BDM, è un enorme miglioramento:

Velocità: È 71,6% più veloce del precedente miglior modello di diffusione (MinerU-Diffusion) e circa 8 volte più veloce dei modelli autoregressivi standard (che scrivono una parola alla volta).
Precisione: È più accurato nel riconoscere strutture complesse come formule matematiche, tabelle e diagrammi perché rispetta l'ordine rigoroso dei token.
Efficienza: Utilizza la memoria con la stessa efficienza dei modelli più vecchi, ma ottiene molto più lavoro svolto nello stesso lasso di tempo.

In breve, PA-BDM impedisce all'IA di aspettare "blocchi perfetti" e le permette invece di bloccare immediatamente progressi "sufficientemente buoni", mantenendo la catena di montaggio alla massima velocità senza perdere accuratezza.

Riepilogo Tecnico: Diffusione a Blocchi Adattiva al Prefisso per il Riconoscimento Efficiente di Documenti

1. Enunciato del Problema

L'analisi sintattica dei documenti richiede la conversione di immagini di documenti in formati leggibili dalle macchine (ad esempio, LaTeX, HTML, Markdown). Sebbene i Modelli Autoregressivi (ARM) abbiano ottenuto progressi sostanziali, il loro paradigma di generazione strettamente token per token limita l'efficienza dell'inferenza. Per affrontare questo problema, ricerche recenti hanno esplorato paradigmi di generazione parallela, in particolare i Modelli di Diffusione a Blocchi (BDM). I BDM generano blocchi in modo autoregressivo mentre denoizzano i token all'interno di ciascun blocco in parallelo, offrendo output di lunghezza flessibile e caching KV.

Tuttavia, gli autori identificano due limitazioni critiche nei BDM standard quando applicati al riconoscimento di documenti sensibili alla struttura:

Impegno a Livello di Blocco Fisso: I BDM standard vincolano la denoizzazione e l'impegno della cache KV a confini di blocco fissi. I token non possono essere memorizzati nella cache fino al completamento dell'intero blocco, impedendo il riutilizzo del prompt di previsioni intermedie affidabili. Inoltre, man mano che la denoizzazione intra-blocco procede, il numero di token mascherati rimanenti diminuisce, causando la riduzione dello spazio di decodifica parallelo effettivo.
Flusso di Informazioni Incoerente: I BDM standard impiegano una denoizzazione bidirezionale all'interno di un blocco, ma mantengono un'autoregressione da sinistra a destra tra i blocchi. Ciò crea un flusso di informazioni incoerente. Per compiti che richiedono una ricostruzione precisa di sequenze di token discrete (come formule e tabelle), questo contesto bidirezionale può entrare in conflitto con i confini strutturali rigorosi e l'ordine dei token richiesti, portando a errori di generazione strutturale.

2. Metodologia: Modello di Diffusione a Blocchi Adattivo al Prefisso (PA-BDM)

Gli autori propongono il PA-BDM, un framework che ridefinisce il ruolo del "blocco" da unità di generazione fissa a massimo intervallo candidato di generazione. I componenti principali sono:

A. Denoizzazione Causale Intra-Blocco

A differenza dei BDM standard che utilizzano l'attenzione bidirezionale all'interno di un blocco, il PA-BDM impiega una denoizzazione causale (dal prefisso al suffisso) all'interno di ciascun blocco candidato.

Meccanismo: I token all'interno di un blocco prestano attenzione solo ai blocchi precedenti e al loro contesto lato sinistro all'interno del blocco corrente.
Vantaggio: Questo allinea il flusso di informazioni intra-blocco con l'autoregressione inter-blocco, garantendo che i prefissi affidabili generati all'interno di un blocco siano validi per il riutilizzo della cache KV.

B. Funzione di Perdita Strutturale a Cancellazione di Confidenza (CSL)

Per supportare la denoizzazione causale durante l'addestramento, il PA-BDM introduce la CSL per gestire il rumore di supervisione.

Problema: Nella denoizzazione causale, i token mascherati successivi dipendono dai token precedenti. Se i token iniziali sono incerti (alta entropia), la supervisione dell'intero suffisso introduce gradienti rumorosi.
Soluzione: La CSL calcola la confidenza dei token previsti. Identifica la prima posizione nel suffisso mascherato in cui la confidenza scende al di sotto di una soglia $\tau$ . La supervisione viene applicata solo fino a questa "frontiera di apprendimento". Le posizioni a destra di questa frontiera sono escluse dal calcolo della perdita.
Strategia di Addestramento: Ciò incoraggia il modello a costruire prefissi strutturali a bassa entropia e affidabili prima di estendersi a continuazioni più lunghe.

C. Impegno Progressivo del Prefisso (PPC)

Durante l'inferenza, il PA-BDM utilizza il PPC per gestire dinamicamente la generazione e la memorizzazione nella cache.

Processo:
1. Il modello prevede un intervallo candidato di dimensione $D$ (ad esempio, 32 token).
2. Il PPC scansiona le previsioni da sinistra a destra e identifica il prefisso contiguo più lungo in cui tutti i token superano la soglia di confidenza $\tau$ .
3. Questo prefisso affidabile viene impegnato nella cache KV immediatamente.
4. Il suffisso irrisolto viene scartato e il successivo intervallo candidato viene resettato a partire dal prefisso appena impegnato.
Vantaggio: Ciò ripristina un ampio spazio di decodifica parallelo ad ogni passaggio (evitando lo spazio in contrazione dei BDM standard) e abilita un tempestivo riutilizzo della cache KV, migliorando significativamente il throughput.

3. Contributi Chiave

Identificazione delle Limitazioni: Il documento individua l'impegno fisso a livello di blocco e il flusso di informazioni incoerente intra/inter-blocco come i principali colli di bottiglia per i BDM nel riconoscimento di documenti sensibili alla struttura.
Framework PA-BDM: Un nuovo framework che tratta la dimensione del blocco come un intervallo candidato massimo piuttosto che come un'unità di impegno fissa, utilizzando la modellazione causale intra-blocco per abilitare una generazione adattiva.
Meccanismo PPC: Una strategia di decodifica che impegna dinamicamente prefissi affidabili, consentendo un immediato riutilizzo della cache KV e resettando l'intervallo candidato per recuperare il parallelismo.
Obiettivo CSL: Una funzione di perdita di addestramento che adatta la supervisione in base alla confidenza del prefisso, riducendo i gradienti rumorosi derivanti da stati di prefisso instabili.

4. Risultati Sperimentali

Gli autori hanno valutato il PA-BDM (3 miliardi di parametri) rispetto a varie linee di base, inclusi DiffusionVL, MinerU-Diffusion e modelli autoregressivi (ad esempio, Qwen2.5-VL, Dolphinv2) su benchmark di riconoscimento di testo, formule, tabelle e diagrammi.

Accuratezza: Il PA-BDM ottiene le prestazioni migliori tra i modelli basati su diffusione nella maggior parte dei benchmark. Mostra guadagni particolarmente significativi nel riconoscimento di formule complesse (ad esempio, sottoinsiemi CPE e HWE), superando DiffusionVL e MinerU-Diffusion.
Efficienza: Il PA-BDM migliora il throughput di inferenza del 71,6% rispetto alla linea di base MinerU-Diffusion da 2,5 miliardi (267,2 token/sec contro 155,7 token/sec). Raggiunge un throughput circa 8 volte superiore rispetto ai riconoscitori ARM confrontati.
Memoria: Nonostante i guadagni di efficienza, il PA-BDM mantiene una memoria GPU di picco comparabile ad altri modelli su scala di 3 miliardi.
Studi di Ablazione:
- Causale vs Bidirezionale: La modellazione causale intra-blocco supera la modellazione bidirezionale nei compiti strutturati (formule, tabelle), suggerendo che il contesto bidirezionale può portare a invalidità strutturale.
- CSL: I modelli addestrati con CSL mostrano maggiore accuratezza e throughput rispetto a quelli con Cross-Entropy standard o mascheramento casuale, indicando che la CSL impara con successo prefissi affidabili più lunghi.
- PPC: L'impegno adattivo supera significativamente le strategie di impegno a lunghezza fissa, bilanciando efficacemente accuratezza e parallelismo.

5. Significato e Affermazioni

Il documento afferma che il PA-BDM offre un compromesso velocità-accuratezza superiore per l'analisi sintattica dei documenti rispetto alle linee di base esistenti basate su diffusione. Trattando i blocchi come intervalli candidati e impegnando prefissi affidabili, il PA-BDM risolve la tensione tra l'efficienza della generazione parallela e i rigorosi requisiti strutturali del riconoscimento di documenti.

Gli autori sottolineano che il loro approccio è particolarmente efficace per compiti sensibili alla struttura (LaTeX, HTML, Mermaid) in cui l'ordine dei token e i confini strutturali sono critici. Osservano che, sebbene il metodo migliori significativamente l'efficienza, la valutazione attuale è condotta principalmente su dataset open-source centrati sull'inglese. La generalizzazione a scenari multilingue più complessi (ad esempio, formule cinesi, layout misti) rimane un'area per studi futuri, poiché questi scenari coinvolgono set di caratteri più ricchi e dipendenze strutturali più complesse che potrebbero sfidare la modellazione del prefisso affidabile.

Il lavoro suggerisce che la modellazione del prefisso affidabile è una direzione efficace per migliorare l'efficienza del riconoscimento di documenti basato su diffusione, superando i vincoli di blocco fissi per una generazione adattiva e guidata dalla confidenza.