Riepilogo Tecnico: HPD-Parsing

1. Definizione del Problema

La parsing dei documenti è una componente critica per applicazioni a valle come l'estrazione di informazioni, il recupero di documenti e la Generazione Aumentata da Recupero (RAG). Sebbene i recenti Modelli Vision-Language (VLM) abbiano migliorato l'accuratezza della parsing unificando l'analisi del layout e il riconoscimento del contenuto, essi soffrono di significative inefficienze di inferenza.

Gli attuali parser unificati si affidano tipicamente alla generazione autoregressiva a pagina intera, dove l'intero output del documento viene generato token per token in un'unica traiettoria sequenziale. Questo approccio crea un collo di bottiglia sequenziale che scala linearmente con la lunghezza del documento. Il profiling rivela che, per documenti lunghi, la latenza del decoder può essere quasi 500 volte superiore alla latenza di codifica visiva. Questo processo di generazione seriale porta a un'elevata latenza di inferenza e a un throughput limitato, rendendo difficile soddisfare i requisiti di efficienza per carichi di lavoro di parsing documentale su larga scala.

Le attuali strategie di accelerazione, come la compressione dei token visivi o l'aumento del parallelismo all'interno delle regioni, affrontano aspetti specifici del problema ma non ristrutturano fondamentalmente il paradigma di generazione a pagina intera.

2. Metodologia: HPD-Parsing

Gli autori propongono HPD-Parsing, un parser di documenti ad alto throughput basato su un paradigma di Decodifica Parallela Gerarchica (HPD). L'intuizione centrale è che, sebbene la parsing di un documento richieda una coordinazione globale per il layout e l'ordine di lettura, il contenuto dettagliato di specifiche regioni è ampiamente localizzato ed esibisce una dipendenza limitata da regioni distanti.

2.1 Decodifica Parallela Gerarchica (HPD)

Invece di una singola traiettoria autoregressiva, HPD-Parsing ristruttura la generazione in una gerarchia a due livelli:

• Ramo del Layout Principale (Main Layout Branch): Questo ramo esegue la coordinazione globale, stabilendo la struttura spaziale del documento, le relazioni tra le regioni e l'ordine di lettura. Genera una sequenza strutturata contenente token di layout (categoria, coordinate) e token di routing (<FORK>).
• Rami di Contenuto Concorrenti (Concurrent Content Branches): Al momento dell'emissione di un token <FORK>, il sistema genera dinamicamente rami di contenuto indipendenti. Ogni ramo è responsabile della decodifica del contenuto localizzato di una specifica regione di layout.
• Riutilizzo della Cache KV con Prefisso Condiviso (Shared-Prefix KV Cache Reuse): I rami di contenuto riutilizzano il contesto visivo e il prefisso strutturale (token di layout) generati dal ramo principale fino al punto di biforcazione. Ciò evita ridondanze computazionali e la ri-codifica dell'immagine del documento per ogni regione.
• Isolamento del Contesto (Context Isolation): A differenza dei modelli autoregressivi a pagina intera dove ogni token presta attenzione all'intera sequenza precedente, ogni ramo di contenuto in HPD-Parsing presta attenzione solo al contesto visivo condiviso, al proprio prefisso strutturale specifico e alla propria storia di generazione localizzata. Ciò riduce significativamente l'orizzonte di attenzione attivo e la computazione per step.

2.2 Predizione Multi-Token Progressiva (P-MTP)

Per accelerare ulteriormente la decodifica all'interno di ogni ramo (sia di layout che di contenuto), HPD-Parsing integra la Predizione Multi-Token Progressiva (P-MTP).

• Un leggero MLP residuo predice più token futuri ad ogni step di decodifica.
• Viene impiegata una strategia di pesatura progressiva della perdita per stabilizzare le predizioni a profondità di look-ahead crescenti, assegnando pesi maggiori alle traiettorie speculative più affidabili.
• Durante l'inferenza, i rami redigono (draft) più token, li verificano in parallelo e accettano diversi token per step (lunghezza media accettata di 6,6 token), riducendo sostanzialmente il numero di iterazioni di decodifica.

2.3 Architettura del Modello

HPD-Parsing è costruito sulla base di InternVL3.5-1B:

• Encoder Visivo: InternViT (0,3 miliardi di parametri) che utilizza il cropping basato su tile dinamici per preservare i dettagli ad alta risoluzione.
• Decoder LLM: Adattato da Qwen3-0.6B (0,8 miliardi di parametri) con 28 strati Transformer, Grouped-Query Attention (GQA) e attivazione SwiGLU.

2.4 Strategia di Addestramento: Adattamento a Stadi e Curatela dei Dati

Per passare dalla convenzionale parsing autoregressiva alla decodifica parallela gerarchica senza degradazione dell'accuratezza, gli autori utilizzano una strategia di addestramento in tre fasi supportata da una pipeline di curatela dei dati consapevole della difficoltà (difficulty-aware) automatizzata:

1. Fase 1 (Inizializzazione della Capacità): Il modello viene addestrato su sequenze a pagina intera convenzionali per acquisire capacità generali di parsing (riconoscimento del testo, comprensione del layout).
2. Fase 2 (Cambio di Paradigma): Il modello viene adattato al formato gerarchico. I dati vengono riorganizzati in istanze di layout globale e istanze di contenuto localizzato. Una maschera di validità assicura che i rami di contenuto siano supervisionati solo sulla trascrizione che segue il token <CHILD>. Questa fase si concentra sull'apprendimento del nuovo formato di decodifica e sull'ottimizzazione per i casi difficili.
3. Fase 3 (Ottimizzazione Guidata dai Reward): Viene applicato un apprendimento per rinforzo leggero per migliorare la coerenza e correggere i comportamenti soggetti a errori (es. qualità delle formule, parsing di tabelle) utilizzando reward legati al compito.

La pipeline di curatela dei dati prevede clustering basato su feature, annotazione multi-modello (usando PaddleOCR-VL e MinerU), stima della difficoltà, raffinamento tramite VLM per i campioni difficili e bilanciamento della distribuzione per garantire dati di addestramento diversificati.

3. Contributi Chiave

1. Paradigma di Decodifica Parallela Gerarchica: L'introduzione di HPD, che ristruttura la generazione a pagina intera in una decodifica parallela localizzata e coordinata globalmente. Questo approccio, combinato con il riutilizzo della cache KV a prefisso condiviso e la P-MTP, accorcia il percorso di decodifica sequenziale effettivo sia attraverso le dimensioni dei rami che dei token.
2. Adattamento a Stadi con Curatela dei Dati Automata: Un framework di addestramento che trasferisce con successo le capacità autoregressive al paradigma parallelo mantenendo l'accuratezza. Questo è supportato da una pipeline automatizzata che cura dati bilanciati per difficoltà, minimizzando lo sforzo di annotazione manuale.
3. Efficienza State-of-the-Art: HPD-Parsing raggiunge un throughput senza precedenti mantenendo un'accuratezza competitiva, dimostrando che la parsing documentale può essere eseguita efficacemente tramite coordinazione del layout globale e decodifica parallela localizzata.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti sul benchmark OmniDocBench v1.6 utilizzando 8 GPU NVIDIA A800.

• Throughput: HPD-Parsing raggiunge un throughput di picco di 4.752 Token Per Second (TPS).
  • Questo è 2,62× più veloce del modello di parsing documentale esistente più veloce (GLM-OCR).
  • Questo è 3,06× più veloce del proprio baseline autoregressivo (modello da 1 miliardo di parametri).
• Accuratezza: Nonostante i massicci guadagni di efficienza, HPD-Parsing mantiene un'accuratezza di parsing competitiva con un punteggio complessivo di 94,91 su OmniDocBench v1.6. Supera modelli unificati più grandi (es. Qianfan-OCR, FireRed-OCR) e rimane competitivo con i principali parser basati su pipeline.
• Comportamento di Scalabilità: Il vantaggio di efficienza di HPD-Parsing cresce con la lunghezza del documento. Per i bucket di lunghezza di output più lunghi, raggiunge fino a 18,04× meno step di decodifica, 3,67× più alto throughput di richiesta e 5,80× minore latenza per singola richiesta rispetto al baseline autoregressivo.
• Performance Qualitativa: Il modello dimostra robustezza nel gestire formule complesse, tabelle dense e layout impegnativi (es. giornali, puzzle). Mostra una robustezza superiore agli errori di rilevamento, una migliore disambiguazione di caratteri visivamente simili (es. '0' vs 'O') tramite il contesto globale, e previene la propagazione degli errori tra i blocchi del documento.

5. Significato

Il paper sostiene che HPD-Parsing stabilisce la decodifica parallela gerarchica come un'alternativa valida ed efficace alla generazione autoregressiva a pagina intera. Sfruttando la proprietà strutturale per cui il layout di un documento richiede una coordinazione globale mentre il contenuto è radicato localmente, il metodo rompe il collo di bottiglia sequenziale inerente agli attuali parser VLM unificati.

Gli autori pongono che questo approccio apra una nuova direzione per l'efficiente parsing documentale unificato, provando che l'alto throughput e l'alta accuratezza non sono mutuamente esclusivi. Inoltre, suggeriscono che il principio di strutture coordinate globalmente ma decomponibili localmente potrebbe estendersi ad altri compiti di generazione strutturata, come la comprensione di documenti multi-pagina e l'estrazione di informazioni chiave.