LLM-Driven AutoML for Cross-Lingual Handwritten OCR: Closed-Loop Neural Architecture Search with GPT-5, GPT-4o, and Claude Sonnet 4

Sintesi Tecnica: AutoML guidata da LLM per l'OCR di scrittura manuale cross-lingue

Problematica
Il riconoscimento del testo scritto a mano (HTR) attraverso diversi script, come l'arabo, l'inglese e il persiano, rimane una sfida significativa nel machine learning a causa delle uniche complessità visive, dei complessi pattern di tratti e dell'elevata variabilità negli stili di scrittura. Gli approcci tradizionali si affidano pesantemente alla progettazione di modelli guidata da esperti, a un esteso pre-processing manuale e a una sintonizzazione iterativa degli iperparametri. Questi metodi sono spesso lenti, difficili da scalare su nuovi script e soggetti a risultati incoerenti. Sebbene i recenti progressi nella Neural Architecture Search (NAS) e nei Large Language Models (LLM) abbiano mostrato potenziale, la loro applicazione come agenti indipendenti a ciclo chiuso per la generazione e il perfezionamento di architetture di deep learning specificamente per l'OCR di scrittura manuale cross-lingue è rimasta ampiamente inesplorata.

Metodologia
Gli autori propongono una pipeline completamente automatizzata end-to-end che utilizza Large Language Models (specificamente GPT-5, GPT-4o e Claude Sonnet 4) come "architetti IA" autonomi. Il sistema opera attraverso un processo iterativo a ciclo chiuso composto da quattro fasi principali:

1. Raccolta e Augmentation dei Dati: La pipeline utilizza i dataset EMNIST (inglese), SADRI (persiano) e AHCD (arabo). I dati vengono standardizzati in formati tensor con campionamento stratificato. Una strategia di augmentation leggera (rotazioni casuali, spostamenti, zoom) viene applicata durante l'addestramento per migliorare la generalizzazione senza un carico computazionale significativo.
2. Proposta di Architettura guidata da LLM: All'inizio di ogni prova, il sistema fornisce agli LLM i metadati del dataset (conteggio delle classi, dimensioni dell'immagine) e, nelle iterazioni successive, le metriche di prestazione dei trial precedenti. Gli LLM rispondono con una specifica JSON strutturata che dettaglia l'architettura della rete neurale (ad es., Conv2D, BatchNorm, Dropout, blocchi Transformer) e gli iperparametri di addestramento (ottimizzatore, learning rate, batch size).
3. Costruzione e Addestramento Automatizzato del Modello: Le specifiche JSON vengono analizzate e convertite automaticamente in modelli Keras eseguibili. Questi modelli spaziano da CNN standard a architetture ibride che incorporano componenti di Vision Transformer. I modelli sono compilati con perdita di cross-entropy categorica e addestrati senza intervento umano.
4. Valutazione e Ciclo di Feedback: Al termine dell'addestramento, il sistema valuta il modello su set di test, validazione e addestramento, registrando accuratezza, conteggio dei parametri e latenza di inferenza. Queste metriche vengono restituite all'LLM sotto forma di riepilogo strutturato. L'LLM utilizza questo feedback per perfezionare le sue proposte architettoniche nella successiva iterazione, creando un ciclo di auto-miglioramento che converge verso design ottimali per ogni specifico script.

Contributi Chiave

• Framework Unificato Cross-Script: Il lavoro introduce un unico framework capace di riconoscere script arabo, inglese e persiano, adattandosi alle specifiche complessità strutturali e visive di ciascuno senza riconfigurazione manuale.
• LLM come Agente Generativo: A differenza dei lavori precedenti che utilizzano gli LLM semplicemente per il riconoscimento o come strumenti statici, questo approccio impiega GPT-5, GPT-4o e Claude Sonnet 4 come agenti autonomi responsabili dell'intero ciclo di vita della scoperta del modello, dalla proposta al perfezionamento.
• Perfezionamento Iterativo a Ciclo Chiuso: Il sistema implementa un ciclo di feedback dinamico in cui gli LLM apprendono dai risultati trial per trial per regolare tipi di strati, profondità, larghezza e iperparametri, eliminando la necessità di sintonizzazione manuale.
• Trasparenza e Riproducibilità: La pipeline documenta rigorosamente ogni prova, salvando le configurazioni dell'architettura e le metriche di prestazione in formati strutturati (JSON, CSV) per garantire la piena riproducibilità.

Risultati Sperimentali
La pipeline è stata valutata su trenta prove indipendenti per ciascuno dei tre script e tre LLM. I risultati chiave includono:

• Accuratezza: Il sistema ha scoperto costantemente modelli con alta accuratezza di test. GPT-4o ha raggiunto la media di accuratezza più alta per l'arabo (0.959), mentre Claude Sonnet 4 ha guidato per il persiano (0.946). GPT-5 ha raggiunto un'accuratezza di trial nel caso migliore di 0.981 sull'arabo. Le accuratezze medie su tutti i modelli e gli script hanno generalmente superato il 93%.
• Efficienza e Latenza: GPT-5 ha generato le architetture più compatte (da 0.88M a 1.35M di parametri), mentre Claude Sonnet 4 ha prodotto modelli più grandi (fino a 9.28M di parametri). Nonostante le variazioni significative nel numero di parametri, la latenza di inferenza è rimasta stabile e adatta al tempo reale (circa 40–44 ms), suggerendo che il costo di runtime sia guidato più dalla profondità dell'architettura che dalla dimensione grezza dei parametri.
• Generalizzazione: Le curve di validazione hanno seguito da vicino le curve di addestramento (differenze tipicamente entro l'1–2%), indicando una forte generalizzazione e un efficace regolarizzazione senza overfitting.
• Confronto: Rispetto al lavoro precedente (ad es., Cerescu & Bumbu, 2024), che trattava gli LLM come riconoscitori diretti per script a basse risorse, questo framework utilizza gli LLM come agenti generativi per il design automatizzato dei modelli, raggiungendo un'accuratezza superiore e una piena automazione attraverso più lingue.

Significatività e Rivendicazioni
L'articolo sostiene che questo lavoro dimostri la capacità dei Large Language Models di trascendere il loro ruolo tradizionale nell'elaborazione del linguaggio e di funzionare come designer indipendenti per sistemi di machine learning. Automatizzando la scoperta di architetture neurali per l'OCR di scrittura manuale cross-lingue, il framework offre una soluzione scalabile, agnostica rispetto allo script e completamente automatica. Gli autori affermano che questo approccio semplifica significamente lo sviluppo di modelli OCR, rimuove la dipendenza da euristiche specifiche del dominio e dall'intervento esperto, e apre la strada a un dispiegamento rapido e adattabile della tecnologia OCR in diverse lingue e domini. I risultati validano che la ricerca di architetture guidata da LLM può bilanciare efficacemente le prestazioni predittive, l'efficienza di inferenza e la complessità del modello.