Language on Demand, Knowledge at Core: Composing LLMs with Encoder-Decoder Translation Models for Extensible Multilinguality

1. Il Problema

I Large Language Models (LLM) moderni mostrano un'intelligenza generale e capacità di ragionamento eccezionali, ma soffrono di uno squilibrio significativo nelle prestazioni multilingue. Sebbene codifichino una vasta conoscenza cross-linguale in uno spazio semantico unificato, faticano a interfacciare questa conoscenza con lingue a risorse limitate (low-resource) o lingue mai viste (unseen).

• Limitazione degli LLM: Tendono a funzionare bene in inglese e in poche lingue ad alta risorsa, ma falliscono nella generazione e comprensione robusta in altre lingue.
• Limitazione degli attuali approcci di integrazione: I metodi esistenti che integrano solo encoder multilingue per migliorare la comprensione lasciano la generazione vincolata all'inglese (o alla lingua nativa dell'LLM).
• Sfida strutturale: Inserire un LLM "congelato" (frozen) tra un encoder e un decoder di un modello di traduzione (NMT) pre-addestrato crea un disallineamento semantico. L'LLM trasforma gli input in uno spazio di rappresentazione diverso rispetto a quello atteso dal decoder, rendendo impossibile una semplice proiezione lineare.

2. Metodologia: XBridge

Gli autori propongono XBridge, un'architettura compositiva che combina un LLM con un modello di traduzione neurale (NMT) encoder-decoder pre-addestrato. L'obiettivo è scaricare la complessità multilingue sul modello NMT esterno, mantenendo l'LLM come nucleo centrale per la conoscenza e il ragionamento.

Architettura

XBridge adotta una struttura Encoder-LLM-Decoder:

1. Encoder Multilingue: Un modello NMT pre-addestrato (es. NLLB) codifica l'input nella lingua sorgente in uno spazio semantico condiviso.
2. Mapping Encoder: Un layer leggero (MLP) proietta le rappresentazioni dell'encoder nello spazio di input dell'LLM.
3. LLM (Nucleo Congelato): L'LLM (es. LLaMA3, Qwen) rimane congelato e funge da motore di ragionamento. Riceve l'input mappato e un prompt di istruzione in inglese, generando una sequenza di token in inglese.
4. Mapping Decoder: Un layer leggero proietta gli stati nascosti dell'LLM (specificamente quelli del penultimo layer, che contengono più informazioni semantiche) nello spazio di rappresentazione del decoder NMT.
5. Decoder Multilingue: Il decoder NMT genera l'output finale nella lingua target desiderata, utilizzando gli stati mappati dell'LLM come contesto per l'attenzione incrociata.

Allineamento Ottimale (Optimal Transport - OT)

Per risolvere il disallineamento semantico causato da tokenizzatori eterogenei e spazi di rappresentazione diversi tra LLM e decoder, XBridge introduce un obiettivo di allineamento basato sul Trasporto Ottimale (OT).

• Invece di forzare una corrispondenza token-a-token rigida, l'OT calcola un "trasporto morbido" (many-to-many) tra le sequenze di rappresentazioni dell'LLM e quelle del decoder.
• Questo permette di allineare le strutture semantiche anche quando le lunghezze delle sequenze differiscono, garantendo coerenza semantica fine-granularità.

Strategia di Addestramento in Tre Fasi

Per garantire un'ottimizzazione stabile senza ri-addestrare l'LLM, viene utilizzata una strategia a tre stadi:

1. Fase 1 (Mappatura Cross-Modello): Allineamento grezzo tra Encoder, LLM e Decoder usando dati di traduzione trilingue. Si addestrano solo i layer di mappatura e le attention del decoder.
2. Fase 2 (Adattamento lato Encoder): Adattamento delle rappresentazioni di input per compiti specifici (es. ragionamento), aggiornando solo il mapping dell'encoder.
3. Fase 3 (Adattamento lato Decoder): Miglioramento della qualità di generazione multilingue aggiornando solo il mapping del decoder e l'obiettivo OT.

3. Contributi Chiave

• Architettura Compositiva: XBridge è il primo framework a integrare completamente sia l'encoder che il decoder di un modello NMT con un LLM, permettendo sia la comprensione che la generazione nativa in molte lingue senza ri-addestrare l'LLM.
• Allineamento tramite Trasporto Ottimale: Introduce un metodo innovativo per allineare spazi di rappresentazione eterogenei e sequenze di lunghezza diversa, risolvendo il problema fondamentale dell'inserimento di un LLM congelato in un ciclo di traduzione.
• Generazione "On-Demand": Il sistema supporta la generazione in qualsiasi lingua target semplicemente cambiando il token di lingua nel decoder, senza bisogno di ri-addestramento specifico per quella lingua.
• Efficienza: Aggiunge solo pochi parametri (i layer di mappatura) e richiede dati di addestramento limitati, preservando le capacità originali dell'LLM.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su quattro LLM diversi (MetaMath-7B, LLaMA3-8B, Aya-23-8B, Qwen2.5-7B) combinati con NLLB-200.

• Comprensione e Generazione Multilingue: XBridge supera significativamente i baseline (come SFT, Translate-Test, MindMerger, LayAlign), specialmente su lingue a risorse limitate (es. Bengalese, Swahili) e lingue non viste. Le prestazioni si avvicinano a quelle del modello NMT esterno puro.
• Ragionamento Multilingue: Su benchmark come MGSM (ragionamento matematico) e XL-Sum (riassunto), XBridge mantiene l'accuratezza del ragionamento dell'LLM in inglese mentre genera risposte fluide e accurate nelle lingue target.
• Generalizzazione: Il modello dimostra una forte capacità di generalizzazione su 42 lingue non incluse nei dati di addestramento, confermando che la mappatura appresa è agnostica rispetto alla lingua specifica.
• Ablazione: L'analisi dimostra che rimuovere il decoder o l'obiettivo OT degrada drasticamente le prestazioni, confermando la necessità di entrambi i componenti per una generazione fedele e robusta.

5. Significato e Impatto

XBridge rappresenta un cambio di paradigma nell'approccio alla multilinguità negli LLM:

• Superamento del Dilemma Risorsa/Qualità: Permette di ottenere prestazioni di livello "NMT" su centinaia di lingue senza i costi computazionali e il rischio di "catastrophic forgetting" associati al ri-addestramento massiccio degli LLM.
• Modularità: Separa chiaramente il compito di "ragionamento/conoscenza" (LLM) da quello di "interfaccia linguistica" (NMT), offrendo una soluzione scalabile e flessibile.
• Accessibilità: Rende le capacità avanzate degli LLM accessibili a comunità linguistiche a risorse limitate, riducendo il divario digitale linguistico.

In sintesi, XBridge dimostra che è possibile "comporre" modelli esistenti per ottenere un'intelligenza artificiale multilingue estendibile, efficiente e di alta qualità, mantenendo il nucleo di conoscenza dell'LLM intatto e affidabile.