BornoViT: A Novel Efficient Vision Transformer for Bengali Handwritten Basic Characters Classification

Il paper presenta BornoViT, un modello Vision Transformer leggero ed efficiente con soli 0,65 milioni di parametri, che classifica con successo i caratteri e le cifre scritti a mano in bengalese raggiungendo un'accuratezza del 95,77% sul dataset BanglaLekha e del 91,51% su un dataset autonomo, offrendo una soluzione ottimizzata per ambienti con risorse limitate.

L'essenziale

Immagina di dover insegnare a un bambino a riconoscere le lettere scritte a mano dai suoi nonni, dai suoi amici e dai suoi professori. Ogni persona scrive in modo diverso: alcuni hanno una calligrafia elegante, altri scarabocchiano, alcuni premono forte sulla penna e altri appena sfiorano il foglio. In bengalese, questo compito è ancora più difficile perché le lettere hanno forme complesse, curve intricate e spesso si assomigliano moltissimo tra loro (come due gemelli che cambiano solo un piccolo dettaglio).

Fino a poco tempo fa, per risolvere questo problema, gli scienziati usavano "mostri" digitali: enormi intelligenze artificiali che richiedevano computer potentissimi, tantissima energia e giorni di allenamento per imparare. Era come usare un trattore per raccogliere le fragole in un piccolo giardino: funzionava, ma era uno spreco enorme di risorse.

La Soluzione: BornoViT, il "Piccolo Genio"

Gli autori di questo studio hanno creato un nuovo modello chiamato BornoViT. Immaginalo non come un trattore, ma come un piccolo scoiattolo agile.

Ecco come funziona, passo dopo passo:

1. Il Problema dei "Mostri" (I Modelli Tradizionali):
   I vecchi modelli erano come studenti che dovevano memorizzare ogni singolo dettaglio di ogni singola lettera, uno per uno. Per farlo, avevano bisogno di un cervello enorme (milioni di parametri) e di un computer costoso. Se provavi a usarli su un telefono economico o su un computer vecchio, si bloccavano subito.

2. L'Approccio dello Scoiattolo (BornoViT):
   BornoViT è diverso. È un Vision Transformer, che significa che invece di guardare la lettera come un puzzle da assemblare pezzo per pezzo (come fanno i vecchi modelli), la guarda come un'intera scena.

   • L'Analogia della Visione Globale: Immagina di guardare un quadro. Un vecchio modello guarda un solo pennellata alla volta. BornoViT invece guarda tutto il quadro e capisce subito: "Ah, questa curva e quel punto insieme significano la lettera 'A'". Usa un meccanismo chiamato "attenzione", che è come se avesse un faro intelligente che illumina solo le parti importanti del disegno, ignorando il resto.

3. Leggerezza ed Efficienza:
   Questo è il punto di forza. Mentre gli altri modelli pesano come un'automobile (molti megabyte e richiedono molta energia), BornoViT pesa quanto una bici da corsa.

   • È così piccolo che sta comodamente in un telefono economico (solo 0,62 MB di spazio!).
   • È così veloce che non ha bisogno di un supercomputer per lavorare.
   • Nonostante le sue dimensioni ridotte, è incredibilmente intelligente.

I Risultati: Come ha Performato?

Gli scienziati hanno messo alla prova il loro "scoiattolo" in due scenari:

• La Prova Generale (Dataset BanglaLekha): Hanno fatto leggere al modello migliaia di lettere scritte da persone diverse. BornoViT ha ottenuto un 95,77% di precisione. È come se, su 100 lettere, ne avesse indovinate quasi tutte, battendo i modelli "mostro" che sono molto più pesanti e costosi.
• La Prova Reale (Dataset Bornomala): Hanno anche creato un loro piccolo set di lettere scritte da persone reali (familiari, studenti, persone di tutte le età). Qui ha ottenuto il 91,51%. Non è perfetto al 100% (perché le calligrafie umane sono davvero caotiche e alcune lettere sono gemelle perfette, come la "kha" e la "tha" che si confondono), ma è un risultato straordinario considerando quanto è piccolo.

Perché è Importante?

Immagina di voler usare questa tecnologia in un villaggio remoto in Bangladesh, dove le persone non hanno computer potenti o connessioni internet veloci.

• Con i vecchi modelli, sarebbe impossibile: il software non si installerebbe o sarebbe troppo lento.
• Con BornoViT, puoi caricare l'applicazione su un telefono economico, e funziona subito. È come portare un'ambulanza in un villaggio: non serve un elicottero (il supercomputer), basta un'auto veloce ed efficiente (BornoViT) per salvare la situazione.

In Sintesi

Gli autori hanno dimostrato che non serve essere "giganti" per essere "forti". Hanno creato un modello piccolo, agile ed economico che impara a leggere la scrittura bengalese quasi quanto i giganti, ma senza richiedere un consumo energetico da stadio. È un passo avanti enorme per rendere la tecnologia accessibile a tutti, anche dove le risorse sono scarse.

Il futuro? Gli scienziati vogliono rendere questo "scoiattolo" ancora più esperto, insegnandogli a riconoscere lettere ancora più complesse e ad adattarsi a più lingue, mantenendo sempre la sua leggerezza.

Sommario tecnico

1. Il Problema

Il riconoscimento dei caratteri scritti a mano in lingua bengalese (HCR - Handwritten Character Recognition) rappresenta una sfida significativa a causa della complessità intrinseca della scriptura bengalese, caratterizzata da pattern distinti, variabilità nello stile di scrittura e somiglianze inter-classe (caratteri diversi che sembrano simili).
Le soluzioni esistenti presentano due principali limiti:

• Costo Computazionale: Molti modelli di Deep Learning (come le CNN tradizionali o i modelli ViT standard) sono computazionalmente costosi e richiedono grandi quantità di dati, rendendoli inadatti per dispositivi a risorse limitate (edge devices).
• Inadeguatezza dei Metodi Tradizionali: Le tecniche di machine learning classico basate su descrittori ingegnerizzati e il matching di template falliscono spesso a causa della variabilità dei tratti e delle forme dei caratteri.

L'obiettivo è sviluppare un modello che sia sia altamente accurato che leggero, adatto a ambienti con risorse computazionali scarse.

2. Metodologia

Gli autori propongono BornoViT, un modello innovativo basato su una Vision Transformer (ViT) semplificata e ottimizzata.

• Architettura del Modello:

  • Approccio Patch-based: L'immagine di input (224x224 pixel) viene divisa in patch non sovrapposte di 16x16 pixel.
  • Embedding: Ogni patch viene proiettata in un vettore di 128 dimensioni. Viene aggiunto un token di classificazione apprendibile (CLS) e un embedding posizionale per preservare le informazioni spaziali.
  • Trasformatori Semplificati: Il modello utilizza quattro blocchi di trasformatori. Ogni blocco contiene:
    • Due strati di normalizzazione (LayerNorm).
    • Un meccanismo di Self-Attention Multi-Head (con 2 teste) per catturare le dipendenze globali tra le patch.
    • Un blocco MLP (Multi-Layer Perceptron) con funzioni di attivazione GELU e dropout.
  • Classificazione: Il token CLS finale viene passato a un layer lineare per la previsione della classe.
  • Efficienza: Il modello è progettato per ridurre drasticamente il carico computazionale rispetto alle ViT standard, eliminando la necessità di convoluzioni pesanti.

• Dataset e Preprocessing:

  • Dataset Utilizzati:
    1. Ekush: Utilizzato per il pre-training (154.824 immagini, 122 classi).
    2. BanglaLekha-Isolated: Dataset pubblico per il test finale (166.105 immagini, 84 classi).
    3. Bornomala: Dataset proprietario creato dagli autori (13.318 immagini, 60 classi), raccolto da 222 partecipanti di diverse fasce d'età per garantire diversità di stili di scrittura.
  • Augmentation: Tecniche applicate in runtime includono Random Affine (spostamento, shear) e Color Jitter (luminosità, contrasto, saturazione) per migliorare la robustezza.

• Transfer Learning:

  • A causa della mancanza di bias induttivi spaziali nelle ViT (rispetto alle CNN), il modello viene pre-addestrato sul dataset Ekush per 100 epoche prima di essere fine-tuned sui dataset target. Questo approccio è cruciale per ottenere buone prestazioni su dataset di dimensioni ridotte.

• Setup Sperimentale:

  • Validazione incrociata k-fold (k=5).
  • Early stopping basato sulla perdita di validazione.
  • Hardware: CPU Intel i5-13500, GPU NVIDIA RTX 3060 (12 GB VRAM).

3. Contributi Chiave

1. Progettazione di BornoViT: Introduzione di un'architettura ViT altamente efficiente e leggera, specifica per i caratteri bengalesi.
2. Riduzione delle Risorse: Il modello possiede solo 0,65 milioni di parametri, una dimensione di 0,62 MB e richiede solo 0,16 GFLOPs, rendendolo significativamente più leggero degli stati dell'arte attuali.
3. Nuovo Dataset (Bornomala): Creazione e pubblicazione di un dataset diversificato con 222 partecipanti, utile per valutare la robustezza del modello su stili di scrittura reali e variabili.
4. Validazione su Più Dataset: Il modello è stato testato sia su dataset pubblici standardizzati che su dati reali raccolti dagli autori, dimostrando versatilità.

4. Risultati

Il modello è stato valutato su due dataset principali e confrontato con modelli di riferimento (MobileNetV2, EfficientViT, DenseNet, Xception, ecc.):

• Su BanglaLekha-Isolated:
  • Accuratezza: 95,77% (la più alta tra i modelli confrontati in termini di efficienza).
  • Efficienza: Supera tutti gli altri modelli in termini di numero di parametri, dimensione del modello e FLOPs. Ad esempio, rispetto a Bangla HCR (96,87% di accuratezza), BornoViT offre un'accuratezza quasi identica ma con una riduzione drastica delle risorse (0,65M parametri contro 3,45M; 0,62 MB contro 13,2 MB).
• Su Bornomala (Dataset Proprietario):
  • Accuratezza: 91,51%.
  • Confronto: Sebbene leggermente inferiore a MobileNetV2 (94,09%) su questo specifico dataset, BornoViT è di gran lunga più leggero (0,62 MB contro 2,13 MB). La differenza di accuratezza è attribuita al fatto che i modelli concorrenti erano pre-addestrati su ImageNet-1k, mentre BornoViT su Ekush.
• Analisi Qualitativa (GradCAM):
  • Le mappe di attenzione mostrano che il modello riesce a focalizzarsi correttamente sulle regioni salienti e sulle caratteristiche globali dei caratteri.
  • Gli errori di classificazione sono principalmente dovuti a somiglianze inter-classe (es. i caratteri "kha" e "tha" sono visivamente molto simili) e variazioni intra-classe nello stile di scrittura individuale.

5. Significato e Impatto

Il lavoro di BornoViT è significativo perché dimostra che è possibile ottenere prestazioni di livello state-of-the-art nel riconoscimento di caratteri bengalesi scritti a mano senza ricorrere a modelli pesanti e costosi.

• Accessibilità: La ridotta dimensione del modello (sotto 1 MB) e il basso consumo computazionale lo rendono ideale per la distribuzione su dispositivi mobili economici, dispositivi IoT e in contesti con connettività o potenza di calcolo limitate.
• Scalabilità: L'approccio basato su ViT semplificato offre una via percorribile per estendere il riconoscimento a lingue a bassa risorsa (low-resource languages) che soffrono della stessa mancanza di dati e risorse computazionali.
• Futuro: Gli autori pianificano di espandere il modello a caratteri composti più complessi e di applicare tecniche di transfer learning avanzate per generalizzare ulteriormente su diversi stili di scrittura e lingue.

In sintesi, BornoViT bilancia efficacemente accuratezza ed efficienza, offrendo una soluzione praticabile per l'OCR bengalese in scenari reali e vincolati dalle risorse.