Why Better Cross-Lingual Alignment Fails for Better Cross-Lingual Transfer: Case of Encoders

1. Il Problema

Nel campo dei modelli linguistici multilingue (MLM), esiste un'ipotesi diffusa secondo cui un migliore allineamento cross-linguale (cioè la vicinanza nello spazio di embedding tra input semanticamente equivalenti in lingue diverse) porti automaticamente a un migliore trasferimento cross-linguale (migliore performance su task downstream in lingue non viste durante l'addestramento).

Tuttavia, la ricerca empirica ha mostrato una discrepanza persistente: tecniche di allineamento esplicito, pur aumentando la similarità degli embedding, spesso non migliorano le performance su task a livello di token (come il POS Tagging o la NER) e talvolta le degradano. Il paper si pone la domanda fondamentale: Perché un "migliore" allineamento non si traduce in un "migliore" trasferimento?

2. Metodologia

Gli autori hanno condotto un'analisi sistematica basata su esperimenti controllati utilizzando il modello XLM-R (270M parametri). Lo studio è strutturato in tre fasi:

• Fase I: Allineamento Cross-Linguale (Alignment Tuning):

  • Sono stati utilizzati dataset paralleli (OPUS, MultiCCAligned) per allineare coppie di lingue diverse: Tedesco-Inglese, Inglese-Kazako, Giapponese-Kazako e Coreano-Kazako.
  • È stato adattato l'obiettivo di apprendimento contrastivo HiCTL (Hierarchical Contrastive Learning), che combina perdite a livello di frase ($L_S$), a livello di parola ($L_W$) e l'obiettivo MLM ($L_{MLM}$).
  • Sono state testate 7 configurazioni diverse di perdita (combinazioni di $\lambda_S, \lambda_W, \lambda_M$) per valutare l'impatto di ciascun livello di rappresentazione.

• Fase II: Fine-tuning su Task Downstream:

  • I checkpoint allineati sono stati adattati su due task distinti:
    1. POS Tagging (livello token) usando Universal Dependency Treebanks.
    2. Sentence Classification (livello frase) usando SIB-200.
  • Sono state confrontate due strategie di fine-tuning: Full Fine-tuning (aggiornamento di tutti i parametri) e Linear-only Fine-tuning (congelamento dell'encoder, aggiornamento solo del layer lineare).

• Fase III: Valutazione Zero-Shot:

  • Valutazione delle performance su un set di 9 lingue (inclusi linguaggi non presenti nell'allineamento) per misurare il trasferimento zero-shot.

• Analisi Diagnostica:
  Oltre alle metriche di accuratezza, gli autori hanno analizzato:

  • Distanze degli Embedding: Variazioni nella similarità coseno tra token e frasi.
  • Similarità dei Gradienti: Misura della sovrapposizione tra i gradienti dell'obiettivo di allineamento e quelli del task downstream per verificare conflitti di ottimizzazione.

3. Risultati Chiave

A. L'Allineamento non è un Predittore Affidabile

Contrariamente alla credenza comune, la riduzione delle distanze coseno tra embedding (miglioramento dell'allineamento) non è un indicatore affidabile del miglioramento delle performance downstream.

• In molti casi, modelli con un allineamento superiore (distanze ridotte) hanno mostrato un peggioramento delle performance sui task, specialmente nel POS Tagging.
• Le metriche di recupero (Retrieval) e le distanze di embedding sono state smentite come proxy per la qualità del trasferimento.

B. Ortogonalità e Conflitto dei Gradienti

L'analisi dei gradienti rivela il motivo fondamentale del fallimento:

• Gli obiettivi di allineamento e gli obiettivi dei task specifici sono spesso quasi ortogonali (il coseno del gradiente è vicino a zero o negativo).
• Questo indica che l'ottimizzazione per l'allineamento spinge i parametri in direzioni che non aiutano, e talvolta danneggiano, l'ottimizzazione per il task downstream.
• Il conflitto è particolarmente acuto per i task a livello di token (POS Tagging), dove i gradienti tendono ad essere negativi rispetto all'obiettivo di allineamento, mentre i task a livello di frase mostrano una maggiore allineamento positivo.

C. Impatto del Livello di Rappresentazione e del Fine-tuning

• Livello di Rappresentazione: L'allineamento a livello di frase aiuta i task di classificazione, ma può essere dannoso per i task a livello di token.
• Strategia di Fine-tuning: Il Linear-only Fine-tuning si è dimostrato più stabile e ha prodotto miglioramenti più consistenti rispetto al Full Fine-tuning. Il fine-tuning completo amplifica l'interferenza tra gli obiettivi di allineamento e di task, portando talvolta a un'inversione dei guadagni ottenuti.

D. Fattori Linguistici

La performance dipende fortemente dalla vicinanza linguistica tra le lingue di allineamento, quelle di fine-tuning e quelle target. Tuttavia, anche lingue linguisticamente vicine non beneficiano automaticamente dell'allineamento se gli obiettivi di ottimizzazione sono in conflitto.

4. Contributi Principali

1. Dimostrazione della Disconnessione: Hanno provato empiricamente che la riduzione delle distanze negli embedding non garantisce un miglioramento del trasferimento cross-linguale.
2. Analisi dei Gradienti: Hanno identificato l'ortogonalità tra i gradienti di allineamento e di task come la causa principale del fallimento del trasferimento, specialmente per i task a livello di token.
3. Linee Guida Pratiche: Suggeriscono che l'allineamento deve essere progettato con cura in base al livello di rappresentazione richiesto dal task (token vs. frase) e che l'uso di un fine-tuning parziale (linear-only) può mitigare i conflitti di ottimizzazione.

5. Significato e Implicazioni

Questo lavoro sfida la visione ingenua secondo cui "più allineamento è sempre meglio". Dimostra che l'allineamento cross-linguale è un processo altamente dipendente dal task e dalla lingua, governato dalle dinamiche di ottimizzazione.

Le implicazioni principali sono:

• Rivalutazione delle Metriche: Le metriche di similarità degli embedding non dovrebbero essere usate come unico criterio per valutare la qualità di un modello multilingue.
• Design degli Obiettivi: È necessario un design più sofisticato degli obiettivi di apprendimento contrastivo, che tenga conto del livello di astrazione richiesto dal task finale.
• Strategia di Adattamento: Per preservare le capacità apprese durante l'allineamento, specialmente per task complessi a livello di token, potrebbe essere preferibile congelare l'encoder e adattare solo i layer di output (linear probing/linear fine-tuning) piuttosto che ri-addestrare l'intero modello.

In sintesi, il paper conclude che la "migliore" allineamento fallisce nel trasferimento perché ottimizzare la vicinanza semantica tra lingue non è necessariamente compatibile con l'ottimizzazione della discriminazione fine-granularità richiesta dai task specifici, creando un conflitto di ottimizzazione che le attuali strategie di fine-tuning spesso non riescono a risolvere.