DohaScript: A Large-Scale Multi-Writer Dataset for Continuous Handwritten Hindi Text

Il paper presenta DohaScript, un ampio dataset multi-autore di testo scritto a mano in hindi che, superando le limitazioni delle risorse esistenti, offre un corpus controllato e di alta qualità per lo sviluppo di modelli avanzati di riconoscimento e analisi della scrittura continua in caratteri devanagari.

L'essenziale

Immagina di voler insegnare a un robot a leggere la tua scrittura a mano. Sembra facile, vero? Ma se provi a farlo con l'alfabeto latino (come l'italiano o l'inglese), è già complicato perché ognuno scrive in modo diverso. Ora, immagina di doverlo fare con l'alfabeto Devanagari, usato per scrivere l'hindi. Qui la sfida diventa un'impresa epica.

Perché? Perché in hindi le lettere non sono come i mattoncini LEGO staccati l'uno dall'altro. Sono come un treno di vagoni collegati da un unico tetto. In hindi, tutte le lettere di una parola sono unite da una linea orizzontale in alto chiamata shirorekha. È come se scrivessi una frase intera tenendo il pennarello sollevato solo alla fine della frase, creando un unico, lungo filo continuo che si intreccia in modi complessi.

Fino ad oggi, per insegnare ai computer a leggere l'hindi scritto a mano, gli scienziati avevano a disposizione solo "bocconi" piccoli: singole lettere o parole isolate. Era come cercare di insegnare a un bambino a leggere un romanzo mostrandogli solo le lettere dell'alfabeto, una alla volta, senza mai fargli vedere le parole intere o le frasi. Non funzionava bene.

Ed è qui che entra in gioco DohaScript.

Cos'è DohaScript?

Pensa a DohaScript come a una gigantesca mostra d'arte calligrafica, ma con una regola molto precisa.
Gli autori di questo studio hanno raccolto la scrittura di 531 persone diverse (uomini, donne, di tutte le età e da diverse regioni dell'India).

Ecco il trucco geniale: invece di chiedere a ognuno di scrivere ciò che voleva (il che avrebbe creato un caos di parole diverse), hanno dato a tutti esattamente lo stesso compito. Hanno chiesto a tutti di copiare sei brevi poesie tradizionali indiane chiamate Doha (simili alle nostre filastrocche o rime).

Immagina di avere 531 copie dello stesso identico testo, scritte da 531 mani diverse.

• Il testo è uguale per tutti: Come se avessi 531 persone che cantano la stessa canzone.
• Lo stile è diverso: Ognuno ha il suo modo unico di muovere la mano, di premere la penna, di inclinare le lettere.

Questo permette ai ricercatori di studiare la "firma" della mano (lo stile) senza che il contenuto del testo distragga. È come se volessi studiare come 500 persone diverse suonano lo stesso assolo di chitarra: puoi concentrarti solo su come suonano, non sulla melodia.

Perché è così importante?

Prima di questo lavoro, i computer che leggevano l'hindi scritto a mano erano come bambini che imparano a camminare su un pavimento pieno di buchi: inciampavano spesso perché non avevano mai visto un testo continuo e complesso.

DohaScript è come un pavimento di allenamento perfetto e sicuro, ma con una sfida reale:

1. È enorme: Non sono poche pagine, sono centinaia di pagine scritte da centinaia di persone.
2. È "pulito" ma reale: Gli autori hanno usato un "filtro intelligente" (un software che guarda le immagini) per scartare quelle scritte troppo sfocate o con la penna che non scorreva bene, ma hanno lasciato anche quelle un po' "sporche" per insegnare al computer a leggere anche in condizioni difficili (come se imparasse a leggere una lettera scritta sotto la pioggia).
3. È organizzato: Hanno etichettato ogni pagina con un livello di difficoltà: "Facile" (linee dritte e spaziose), "Medio" (qualche incertezza) e "Complesso" (dove le linee si toccano e si confondono). È come avere una scala di difficoltà per un videogioco, così i ricercatori possono testare i loro robot partendo dal livello "principiante" fino al "boss finale".

Cosa si può fare con questo dataset?

Con questo "tesoro" di dati, i ricercatori possono ora:

• Creare OCR migliori: Computer che leggono documenti storici o moderni scritti a mano in hindi con molta più precisione.
• Identificare chi ha scritto: Capire se una lettera anonima è stata scritta da una persona specifica, basandosi solo sul suo stile unico (come un'impronta digitale).
• Generare nuova scrittura: Insegnare all'IA a scrivere come una persona specifica, creando nuovi testi che sembrano scritti a mano da quell'individuo.

In sintesi

DohaScript è come aver dato ai ricercatori un laboratorio gigante dove 531 artisti hanno dipinto lo stesso soggetto. Questo permette di studiare le differenze tra un artista e l'altro con una precisione mai vista prima, aprendo la strada a computer che non solo "vedono" l'hindi, ma lo "capiscono" davvero, rispettando la bellezza e la complessità della scrittura umana.

È un passo fondamentale per portare l'intelligenza artificiale a comprendere una delle lingue più parlate al mondo, che fino a ieri era rimasta un po' "invisibile" per le macchine.

Sommario tecnico

Panoramica del Problema

Nonostante l'uso diffuso del Devanagari (la scripta utilizzata per l'Indiano, il Marathi, il Nepalese e altre lingue) da centinaia di milioni di parlanti, i dati pubblici per l'analisi della scrittura manoscritta in questo script sono gravemente sottorappresentati. Le risorse esistenti presentano diverse limitazioni critiche:

1. Scarsa scala e diversità: I dataset attuali sono spesso piccoli e privi di una diversità significativa a livello di scrittori.
2. Granularità limitata: La maggior parte si concentra su caratteri isolati o parole brevi, trascurando la natura continua e complessa del testo manoscritto reale.
3. Mancanza di controllo lessicale: L'assenza di contenuti lessicali controllati rende difficile isolare la variabilità dello stile di scrittura dal contenuto linguistico, ostacolando compiti come l'identificazione dello scrittore o la generazione di testo.
4. Complessità strutturale: A differenza degli script latini, il Devanagari presenta caratteri fusi, legature complesse e una linea orizzontale continua (shirorekha) che collega i caratteri, rendendo la segmentazione e il riconoscimento molto più difficili.

Metodologia e Raccolta Dati

Gli autori hanno introdotto DohaScript, un dataset su larga scala progettato per superare queste carenze attraverso un approccio metodologico rigoroso:

• Design del Corpus: Il dataset è un corpus stilistico parallelo. Tutti i 531 partecipanti hanno trascritto lo stesso set fisso di sei doha (distici poetici tradizionali in hindi composti da poeti famosi come Kabir Das e Tulsidas). Questo design garantisce che la variabilità osservata sia dovuta esclusivamente allo stile dello scrittore e non al contenuto linguistico.
• Partecipanti: Il dataset è stato raccolto da 531 scrittori unici provenienti da diverse regioni dell'India, con un'ampia copertura demografica (età, genere, stato educativo e regionale).
• Contenuto: Il corpus totale comprende 89 parole e 361 caratteri (esclusi gli spazi), coprendo l'intero spettro fonetico e ortografico del Devanagari, inclusi 38 consonanti, vocali, diacritici (mātrās) e legature comuni.
• Raccolta e Preprocessing: I campioni sono stati acquisiti tramite scansioni o foto mobili, standardizzati a dimensioni A4 (2480x3508 pixel a 300 DPI). Sono stati raccolti solo dati non identificabili per garantire la privacy.

Contributi Chiave e Pipeline di Validazione

Il paper non si limita alla raccolta dati, ma introduce una pipeline di validazione avanzata composta da tre pilastri principali:

1. Metadati Demografici: Ogni campione è accompagnato da metadati anonimi (età, genere, regione), permettendo analisi sociolinguistiche e di variazione dello stile su larga scala.
2. Cura della Qualità Automatizzata (CNN):
   • È stato sviluppato un sistema di valutazione della qualità basato su una CNN (Convolutional Neural Network).
   • Inizialmente, la nitidezza è stata misurata tramite la varianza dell'operatore di Laplace (per rilevare sfocature).
   • Successivamente, una CNN addestrata ha classificato le immagini in quattro categorie di qualità (Bassa, Media, Buona, Eccellente) imparando direttamente dai pixel grezzi, superando i limiti delle metriche statiche.
   • Risultato della filtrazione: Il dataset è stato diviso in un sottoinsieme "core" di alta qualità (288 immagini, 54.2%) e un sottoinsieme "sfidante" (243 immagini, 45.8%) che rappresenta condizioni di acquisizione reali degradate (sfocatura, scarsa illuminazione), utile per testare la robustezza dei modelli.
3. Annotazioni di Difficoltà di Segmentazione:
   • Oltre alla qualità visiva, è stata valutata la difficoltà strutturale della segmentazione delle righe.
   • Utilizzando euristiche di segmentazione, ogni pagina è stata etichettata come Facile, Media o Complessa in base alla stabilità della linea di base, alla spaziatura interlineare e alla continuità della shirorekha.
   • Questo approccio rivela che anche campioni visivamente chiari possono presentare sfide strutturali significative per gli algoritmi di layout analysis.

Risultati Sperimentali

• Classificazione della Qualità: Il classificatore binario CNN ha raggiunto un'accuratezza del 96.26% nel distinguere tra immagini di bassa/media qualità e alta qualità. Il modello a quattro classi ha ottenuto un'accuratezza dell'85.98%, dimostrando una buona capacità di discriminazione, sebbene con alcune ambiguità nella classe "Media".
• Segmentazione delle Righe: Su tutto il dataset di 531 pagine, solo il 29.57% ha raggiunto una segmentazione perfetta (12 righe su 12). La maggior parte delle pagine (52.7%) è stata classificata come "Complessa", evidenziando che la variabilità intrinseca della scrittura (sovrapposizione di tratti, linee di base irregolari) rimane una sfida maggiore rispetto al semplice rumore di acquisizione.
• Generalizzazione: Gli esperimenti di base mostrano che il dataset permette una generalizzazione robusta verso scrittori non visti, confermando la sua utilità per l'addestramento di modelli di deep learning.

Significato e Impatto

DohaScript rappresenta una risorsa fondamentale per la ricerca sulla scrittura manoscritta in script a bassa risorsa (low-resource):

• Benchmark Standardizzato: Fornisce il primo dataset su larga scala, multi-autore e controllato lessicalmente per il testo Devanagari continuo, permettendo confronti equi tra diversi metodi.
• Versatilità delle Applicazioni: Supporta una vasta gamma di compiti, tra cui:
  • Riconoscimento del testo manoscritto (HTR) e OCR a livello di pagina.
  • Identificazione dello scrittore e biometria.
  • Analisi dello stile e clustering.
  • Sintesi di scrittura manoscritta e modelli generativi (grazie alla ripetizione del contenuto lessicale tra molti autori).
  • Analisi del layout e segmentazione.
• Accessibilità: Il dataset e il codice completo (preprocessing, valutazione della qualità, sperimentazione) sono pubblicamente disponibili su Google Drive e GitHub, promuovendo la riproducibilità della ricerca.

In conclusione, DohaScript colma un vuoto critico nell'ecosistema dei dati per le lingue indiane, offrendo un benchmark realistico e sfidante che spinge la ricerca oltre i semplici caratteri isolati verso la comprensione del testo manoscritto continuo e strutturato.