Cross-Lingual Consensus: Aligning Multilingual Cultural Knowledge via Multilingual Self-Consistency

Riepilogo Tecnico: Consenso Cross-Linguistico

Enunciato del Problema
I Large Language Models (LLM) mostrano disparità significative di prestazioni tra le lingue, ottenendo spesso i risultati migliori quando vengono sollecitati in inglese. Questo routing centrato sull'inglese introduce un pregiudizio di tipo occidentale, ostacolando la capacità dei modelli di riflettere accuratamente conoscenze culturali diverse. Sebbene i LLM possano possedere ricche conoscenze culturali incorporate nelle rappresentazioni linguistiche locali, spesso falliscono nel recuperare o trasferire tali conoscenze quando vengono sollecitati in inglese. Gli approcci esistenti per mitigare questo problema—come l'iniezione basata su prompt o l'addestramento su dataset culturali curati—soffrono spesso di una comprensione superficiale, di costi elevati o della dipendenza da modelli esterni più potenti per la sintesi dei dati.

Metodologia
Gli autori propongono un framework auto-supervisionato che sfrutta la coerenza multilingue per allineare le conoscenze culturali tra le lingue senza annotazione umana o modelli insegnanti più potenti. La pipeline consta di due fasi principali:

1. Generazione di Domande Bilingui:

   • Le affermazioni assertive provenienti da dataset esistenti (CANDLE, CultureAtlas) vengono convertite in paragrafi di conoscenza.
   • Il modello genera domande radicate culturalmente nelle lingue locali.
   • Queste domande vengono tradotte in inglese (e viceversa) per formare coppie bilingui, filtrando per domande non in inglese supportate da strumenti di traduzione.

2. Generazione Auto-Supervisionata della Verità Fondamentale (Ground Truth):

   • Campionamento delle Risposte: Per ogni domanda bilingue, il modello genera $N$ risposte indipendenti sia in inglese che nella lingua locale.
   • Coerenza Intralinguistica: Il modello valuta l'accordo interno delle risposte all'interno di ciascuna lingua utilizzando la similarità del coseno a coppie degli embedding (tramite Qwen3-Embedding-0.6B).
   • Selezione della Lingua: La lingua che produce una coerenza più elevata viene designata come lingua "più forte" ($\lambda^+$), mentre l'altra è la lingua "più debole" ($\lambda^-$).
   • Costruzione della Verità Fondamentale: La risposta più coerente dalla lingua più forte viene selezionata come verità fondamentale. Questa viene tradotta nella lingua più debole per servire come obiettivo per l'addestramento.
   • Addestramento Potenziato dalla Critica: Il framework impiega un meccanismo di auto-critica in cui il modello genera una critica di una risposta campionata nella lingua più debole rispetto alla verità fondamentale tradotta. I dati finali di addestramento consistono in tuple contenenti la domanda, una risposta campionata, la critica e la verità fondamentale.
   • Fine-Tuning: Il modello base (Llama 3.1 8B Instruct) viene sottoposto a fine-tuning utilizzando LoRA su questo dataset sintetizzato, potenziato con il Dataset Aya per prevenire la dimenticanza catastrofica, mantenendo un rapporto 3:1 tra esempi culturali e generali.

Contributi Chiave

• Framework Auto-Supervisionato: Gli autori introducono un metodo per generare segnali di addestramento affidabili per l'allineamento culturale interamente dalle risposte del modello stesso, eliminando la necessità di annotazioni umane esterne.
• Trasferimento di Conoscenza Cross-Linguistico: Viene proposto un meccanismo per identificare e trasferire conoscenze dalle rappresentazioni linguistiche "più forti" (più coerenti) a quelle "più deboli", portando efficacemente alla luce conoscenze culturali latenti.
• Integrazione dell'Auto-Critica: L'approccio combina la coerenza interna con l'auto-critica per migliorare la qualità dell'allineamento nella generazione aperta senza fare affidamento su modelli esterni più potenti.

Risultati
La valutazione sul benchmark BLEnD (che copre 16 regioni e 13 lingue) dimostra quanto segue:

• Allineamento Culturale: Il metodo migliora significativamente le prestazioni sulle query in inglese in tutte le 16 regioni, ottenendo un aumento medio del 5,03%.
• Prestazioni nella Lingua Locale: Sebbene le prestazioni in inglese siano migliorate, il metodo ha affrontato sfide con le lingue a risorse limitate (ad esempio, Hausa, Assamese, Sundanese) a causa della grave scarsità di dati (<1% del totale dei dati culturali), portando a una dimenticanza catastrofica in queste specifiche regioni.
• Preservazione del Ragionamento Generale: Le capacità generali sono rimaste largamente intatte, con solo lievi diminuzioni osservate su Multilingual HellaSwag (-0,85%) e Global MMLU (-1,42%).
• Studi di Ablazione: La rimozione del modulo di coerenza interna (sostituendolo con una selezione casuale) ha comportato un calo sostanziale delle prestazioni, confermando che la selezione basata sulla coerenza è critica. Tuttavia, il formato potenziato dalla critica da solo ha comunque fornito guadagni rispetto al modello base non allineato.

Significato e Affermazioni
Il paper afferma che la conoscenza culturale latente esiste all'interno dei LLM ma è spesso inaccessibile quando vengono sollecitati in lingue dominanti. Sfruttando la coerenza multilingue, gli autori dimostrano che questa conoscenza può essere portata alla luce con successo e propagata tra le lingue. Il lavoro evidenzia il potenziale per ottenere LLM più equi culturalmente e coerenti attraverso mezzi auto-supervisionati. Tuttavia, gli autori riconoscono modestamente che, sebbene efficace, l'approccio rimane sensibile alla disponibilità e all'equilibrio dei dati multilingue, in particolare per le lingue a risorse limitate dove la scarsità di dati può portare a un degrado delle prestazioni.