Riepilogo Tecnico: LV-ROVER per l'OCR di paragrafi in Maltese

Definizione del Problema

Il maltese, l'unica lingua semitica con lo status di lingua ufficiale dell'UE, affronta un collo di bottiglia critico nella digitalizzazione del suo vasto archivio testuale (registri parlamentari, gazzette legali, stampa storica). Sebbene esistano corpora testuali e modelli linguistici pre-addestrati, la lingua soffre di vincoli estremi di scarsità di risorse specificamente per l'Optical Character Recognition (OCR). Esiste un solo corpus PDF etichettato nel mondo reale per l'addestramento (57 pagine), insufficiente per l'addestramento di riconoscitori a livello di paragrafo.

Il maltese presenta sfide tecniche uniche:

1. Diacritici: L'alfabeto include quattro coppie di diacritici (˙C/˙c, ˙G/˙g, ¯H/¯h, Ż/ż) e digrafi. Spesso i font sostituiscono silenziosamente le lettere base con le forme diacritiche, corrompendo le etichette.
2. Ifenazione: La lingua utilizza un trattino strutturale (es. il-kelb) che condivide lo stesso codepoint U+002D dei trattini di fine riga (soft hyphens). Distinguere tra i due richiede conoscenza morfologica, non solo analisi dei glifi.
3. Convenzioni di Etichettatura: Le etichette "gold" dei benchmark utilizzano virgolette curve e trattini lunghi (em-dash), mentre i motori OCR standard producono ASCII dritti. Normalizzare queste convenzioni crea riduzioni artificiali del tasso di errore che non riflettono la reale qualità del riconoscimento.

Metodologia

Gli autori propongono LV-ROVER, un sistema progettato per operare in un ambiente computazionale ristretto (solo CPU, nessun uso di GPU, nessuna rete dopo l'inizializzazione). Il sistema consiste in una pipeline di addestramento sintetica e un ensemble di inferenza multi-stream.

1. Pipeline di Dati Sintetici

A causa della mancanza di dati di addestramento reali, gli autori hanno costruito una pipeline sintetica:

• Fonte del Testo: Ha utilizzato il corpus korpus_malti (467 milioni di token) attraverso 11 configurazioni di dominio diacritizzate. Il code-switching in inglese è stato incluso al 12%.
• Renderer: Un wrapper compatibile con SynthTIGER per la generazione di ritagli di paragrafi.
  • Calibrazione della Risoluzione: Un risultato critico è stato che i primi render sintetici a 300 DPI avevano una risoluzione effettiva doppia rispetto ai ritagli reali del benchmark (~150–200 DPI). Il renderer è stato corretto per applicare una riscalatura Lanczos a metà risoluzione e una ricodifica JPEG per corrispondere alle statistiche del mondo reale.
  • Augmentation: Sono state applicate augmentation realistiche per i PDF (rotazione, sfocatura, sbavatura d'inchiostro, rumore) disabilitando le operazioni di testo di scena (distorsione prospettica, riflessi).
  • Tagging degli Ifen: Ogni trattino è etichettato come soft, strutturale o composto per consentire una valutazione specifica della precisione di giunzione.
• Validazione dei Font: 68 font sono stati curati e verificati contro un "set canary" di glifi diacritici per garantire che non sostituissero silenziosamente le lettere base.

2. Riconoscimento ed Ensemble (LV-ROVER)

Il motore di riconoscimento centrale è un ensemble Tesseract LSTM a 5 stream. La diversità è ottenuta senza riaddestrare più modelli da zero, variando tre assi:

1. Catena Linguistica: Maltese; Maltese + Italiano; Maltese + Italiano + Francese.
2. Stato di Addestramento: Modelli fine-tuned rispetto a riconoscitori stock (pre-addestrati).
3. Scala dell'Immagine: Risoluzione nativa rispetto a ritagli scalati di 2x.

Meccanismo di Voto:
Il sistema adatta il ROVER (Recognition Output Voting Error Reduction) con specifiche modifiche per contesti a basse risorse:

• Lessico Soft: Invece di un lessico a set chiuso, viene utilizzata una tabella di frequenza delle parole maltesi "soft".
• Preservazione dei Diacritici: Un vincolo stretto impedisce al voto di maggioranza di sovrascrivere un diacritico corretto (es. ˙c) con una lettera base (c) se il diacritico è presente nel lessico. Questo funge da controllo "canary".
• Diversità: Il voto si basa su differenze strutturali tra i cinque stream (catena linguistica, prior di addestramento, scala dell'immagine) piuttosto che sul campionamento dei dati.

3. Post-Processing e Giunzione

• Joiner Basato su Regole: Un joiner a regole preesistente risolve i trattini soft rispetto a quelli strutturali. È stato riscontrato che è accurato al 99,51% sui dati sintetici, eliminando la necessità di una riscrittura personalizzata.
• Catena di Normalizzazione: Una catena a cinque stadi allinea l'output alle convenzioni di etichettatura del benchmark:
  1. Normalizzazione del marker iniziale.
  2. Normalizzazione dell'apostrofo.
  3. Regola della virgoletta aperta posizionale.
  4. Voto di restauro diacritico: Uno stadio specifico per recuperare diacritici letti erroneamente (guadagno di riconoscimento).
  5. Normalizzazione della virgoletta chiusa.

4. Protocollo di Valutazione (Dual-CER)

Per distinguere tra miglioramenti reali del riconoscimento e mera allineamento formale, gli autori utilizzano un protocollo di reporting Dual-CER:

• Recognition CER: Misurato prima della normalizzazione del post-processing (es. virgolette dritte).
• Full Pipeline CER: Misurato dopo l'applicazione di tutte le regole di normalizzazione.
• Audit Harness: Utilizza intervalli di confidenza bootstrap, test di permutazione e dati sintetici tenuti fuori (held-out) per garantire che le regole di post-processing non vadano in overfitting sul set di sviluppo o introducano regressioni sui diacritici.

Risultati Chiave

Il sistema è stato valutato su un benchmark maltese di 422 paragrafi contro un baseline Tesseract fine-tuned (CER 0,0234).

1. Guadagno di Riconoscimento: L'ensemble a 5 stream da solo ha ridotto il Character Error Rate (CER) da 0,0234 a 0,01317, una riduzione del 44%. Ciò è attribuito al voto dell'ensemble e al fine-tuning.
2. Guadagno della Pipeline Completa: Dopo l'applicazione della catena di post-processing a cinque stadi, il CER è sceso a 0,00700, una riduzione del 70% rispetto al baseline.
3. Decomposizione: Gli autori sottolineano che il guadagno aggiuntivo del 26% (da 0,01317 a 0,00700) è dovuto principalmente alla normalizzazione tipografica (conversione di virgolette dritte in curve, ecc.), non a un miglioramento del riconoscimento dei caratteri. Solo uno stadio nella catena (voto di restauro diacritico) rappresenta un vero fix di riconoscimento.
4. Decoder Neurali: I tentativi di utilizzare decoder basati su Transformer (TrOCR, FasterDAN) sono stati inizialmente infruttuosi a causa del mismatch di risoluzione identificato nella pipeline sintetica. Un run corretto a singolo shard di un modello stile Pix2Struct ha raggiunto un CER di 0,312, indicando che la strada rimane aperta ma richiede ulteriore lavoro.

Significato e Rivendicazioni

Il paper rivendica importanza principalmente per il suo approccio rigoroso alla valutazione dell'OCR a basse risorse e per le sue soluzioni specifiche per la lingua maltese:

• Metriche Portatili vs Specifiche: Gli autori sostengono che riportare solo la riduzione del 70% (0,0,00700) sopravvaluti la capacità di apprendimento del modello. Essi pongono che la riduzione del 44% (0,01317) sia la stima portabile di ciò che il riconoscitore ha appreso, mentre la cifra del 70% è specifica per le convenzioni tipografiche del benchmark.
• Calibrazione dei Dati Sintetici: Il lavoro evidenzia come il mismatch di risoluzione sia un fattore critico, spesso trascurato, nel trasferimento dal sintetico al reale, che può bloccare le performance dei decoder neurali più delle scelte di architettura.
• Validazione delle Regole: Il "Dual-CER" e l'audit harness dimostrano che le regole di post-processing devono essere validate contro dati sintetici indipendenti per garantire che non stiano semplicemente facendo overfitting sulle idiosincrasie delle etichette del set di sviluppo.
• Efficienza delle Risorse: Il sistema raggiunge un'alta accuratezza su hardware solo CPU, rendendolo utilizzabile in ambienti dove l'accesso alle GPU non è disponibile.

Gli autori concludono che, sebbene l'ensemble Tesseract sia il sistema validato per questo paper, la via neurale rimane aperta, e la pipeline viene rilasciata per supportare la digitalizzazione del patrimonio archivistico maltese per i suoi 520.000 parlanti.