Sintesi Tecnica: CoPiT – Traduzione con Pivot Cognitivo per il Mongolo Digrafico a Basse Risorse

1. Definizione del Problema

La traduzione automatica (MT) per le lingue a basse risorse (LRL) rimane una sfida significativa, in particolare per il mongolo, una lingua digrafica scritta in due script distinti: Cirillico e Tradizionale. Mentre lo script cirillico è relativamente ben documentato e fonemicamente coerente, lo script tradizionale soffre di una grave scarsità di dati e di un'ambiguità ortografica.

Le principali difficoltà identificate sono:

• Squilibrio delle Risorse: La stragrande maggioranza dei dati testuali e delle tecnologie linguistiche esiste per lo script cirillico. Lo script tradizionale, pur rappresentando la stessa lingua, soffre di uno "squilibrio gerarchico delle risorse", che porta a scarse prestazioni nei compiti di traduzione diretta.
• Ambiguità Ortografica: Lo script tradizionale è scritto verticalmente con forme di lettere che variano in base al contesto posizionale. Fondamentalmente, molte distinzioni fonologiche e morfologiche (come l'armonia vocalica) non sono codificate esplicitamente. Una singola forma scritta può corrispondere a molteplici interpretazioni plausibili, causando un sostanziale degrado delle prestazioni nella traduzione diretta.
• Limitazioni degli LLM: Gli attuali Grandi Modelli Linguistici (LLM) faticano con lo script tradizionale, spesso fallendo nel risolvere queste ambiguità o addirittura segnalando contenuti validi come dannosi a causa della complessità dello script.

2. Metodologia: Pipeline CoPiT

Gli autori propongono CoPiT (Cognitive Pivot Translation), una pipeline multi-stadio ispirata al modo in cui i lettori fluenti di mongolo elaborano lo script tradizionale. Invece di tradurre direttamente dallo ambiguo script tradizionale alla lingua di destinazione, CoPiT instrada la traduzione attraverso lo script cirillico come rappresentazione intermedia. Questo approccio risolve esplicitamente l'ambiguità indotta dallo script prima che avvenga la traduzione semantica.

La pipeline consiste in due fasi primarie:

Stadio 1: Pivoting da Tradizionale a Cirillico

Questo stadio converte il testo mongolo tradizionale in una rappresentazione cirillica disambiguata attraverso un processo strutturato e linguisticamente motivato:

1. Segmentazione Morfologica:

   • Lo script tradizionale spesso inserisce spazi prima dei suffissi anziché attaccarli alle radici, rendendo gli spazi bianchi un indicatore di confine inaffidabile.
   • Il sistema esegue una divisione basata sugli spazi bianchi seguita da una fusione guidata dal dizionario di radici e suffissi per creare segmenti morfologicamente coerenti.

2. Disambiguazione Multi-step dello Script:

   • Recupero dell'Armonia Vocalica: Inferisce la classe di armonia vocalica (maschile o femminile) per ogni segmento basandosi sulla prima vocale e sulle regole fonologiche standard. Ciò elimina le interpretazioni che violano i vincoli fonologici.
   • Normalizzazione Assistita da Latino: Mappa le unità segmentate a una rappresentazione intermedia basata sul Latino. Questo passaggio rende esplicite le distinzioni fonologiche implicite, sfruttando l'armonia vocalica recuperata per disambiguare le forme mediali visivamente ambigue.
   • Normalizzazione Cirillica: Mappa i segmenti normalizzati in latino verso una forma cirillica canonica. Guidato dalla rappresentazione latina fonologicamente chiarificata, il modello risolve le restanti variazioni ortografiche per selezionare una singola realizzazione cirillica ben formata.

3. Ricostruzione della Frase con Auto-Riflessione:

   • I segmenti disambiguati vengono assemblati in una frase completa.
   • Un componente di auto-riflessione esamina i segmenti localmente disambiguati per identificare e rivedere le scelte che creano incoerenze semantiche o grammaticali a livello di frase (ad esempio, scelta del lemma, marcatura del caso, tempo). Ciò garantisce la coerenza globale prima della traduzione.

Stadio 2: Traduzione

La rappresentazione cirillica risultante, disambiguata, viene tradotta nella lingua di destinazione (inglese, coreano o russo) utilizzando un LLM con prompt-tuning. Grazie alla risoluzione a monte dell'ambiguità dello script, il modello di traduzione può concentrarsi sul trasferimento del significato cross-lingue piuttosto che sull'interpretazione dello script.

Strategia di Addestramento

I componenti della pipeline sono addestrati indipendentemente utilizzando il Fine-Tuning Supervisionato (SFT) con adattamento efficiente dei parametri (LoRA):

• Componenti a livello di parola: Il Recupero dell'Armonia Vocalica, la Normalizzazione Assistita da Latino e la Normalizzazione Cirillica sono addestrati su un dataset lessicale parallelo curato Tradizionale–Cirillico (14.125 voci) derivato dai dizionari.
• Componente a livello di frase: Il modulo di Auto-Riflessione è addestrato su coppie di revisione sintetiche cirilliche (2.061 coppie), costruite convertendo il testo tradizionale in cirillico tramite un LLM di base e accoppiando ipotesi imperfette con i rispettivi controparti cirillici originali.

3. Contributi Chiave

1. Pipeline CoPiT: Una pipeline di traduzione multi-stadio, a motivazione cognitiva, che risolve l'ambiguità indotta dallo script nel mongolo tradizionale tramite il pivot dello script cirillico, evitando la necessità di grandi corpora paralleli per lo script tradizionale.
2. Nuovo Dataset: Rilascio di un corpus parallelo multi-script che allinea il mongolo tradizionale e cirillico con inglese, coreano e russo, affrontando una lacuna critica di risorse per la MT digrafica a basse risorse.
3. Guadagni di Prestazione: Dimostrazione che CoPiT supera costantemente la traduzione diretta attraverso vari modelli di base (Qwen-3, Ministral-3) e lingue di destinazione.
4. Generazione di Dati Sintetici: Validazione del fatto che la pipeline può generare dati paralleli sintetici di alta qualità (8.034 coppie di frasi) da fonti reali in script tradizionale, consentendo la traduzione bidirezionale e migliorando le prestazioni in entrambe le direzioni.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su obiettivi in inglese, coreano e russo utilizzando metriche basate su riferimento (BLEU, chrF, COMET) e senza riferimento (COMETKiwi, valutazione umana).

• Miglioramento delle Prestazioni: CoPiT ha superato costantemente la traduzione diretta.
  • Zero-shot: Anche senza fine-tuning, CoPiza ha mostrato guadagni misurabili, in particolare per lingue tipologicamente distanti come il coreano e il russo.
  • Fine-tuned: Con il fine-tuning dei componenti, i guadagni sono stati sostanziali. Ad esempio, sul modello Ministral-3 (14B), i punteggi COMET sono aumentati di +0.240 (inglese), +0.279 (coreano) e +0.255 (russo) rispetto alla traduzione diretta.
  • Confronto con Benchmark: I modelli CoPiT open-source sottoposti a fine-tuning hanno eguagliato o superato le prestazioni di traduzione diretta di GPT-4.1.
• Studio di Ablazione:
  • L'Auto-Riflessione è stata identificata come il componente più critico; la sua rimozione ha portato a un sostanziale degrado delle prestazioni in tutte le lingue.
  • Il Recupero dell'Armonia Vocalica e la Normalizzazione Assistita da Latino hanno fornito guadagni complementari, con l'intera pipeline che beneficia dell'interazione di tutti i componenti.
• Utilità dei Dati Sintetici: Le 8.034 coppie di frasi generate da CoPiT sono state utilizzate con successo per addestrare i modelli di traduzione, migliorando sia la direzione Mongolo Tradizionale $\to$ Target sia la direzione Target $\to$ Mongolo Tradizionale.

5. Significato e Rivendicazioni

Il paper afferma che CoPiT offre una soluzione pratica per la traduzione automatica digrafica a basse risorse sfruttando la gerarchia interna delle risorse di una singola lingua. Risolvendo esplicitamente l'ambiguità a livello di script attraverso un pivot a motivazione cognitiva, il metodo:

• Permette a modelli open-source robusti di competere con modelli proprietari (come GPT-4.1) in contesti a basse risorse.
• Mitiga la scarsità di dati consentendo la costruzione di dati paralleli sintetici direttamente da fonti con script tradizionale meno documentate.
• Fornisce un framework che può essere adattato ad altre lingue digrafiche in cui uno script è significativamente meglio documentato dell'altro.

Gli autori sottolineano che questo approccio non richiede grandi corpora paralleli per lo script a basse risorse, affidandosi invece a una piccola quantità di dati per la conversione dello script e ai punti di forza intrinseci dello script meglio documentato.