Do Political Opinions Transfer Between Western Languages? An Analysis of Unaligned and Aligned Multilingual LLMs

Sintesi Tecnica: Le opinioni politiche si trasferiscono tra le lingue occidentali?

Definizione del problema
I sondaggi sull'opinione pubblica dimostrano costantemente differenze transculturali nelle posizioni politiche attraverso diversi contesti socio-linguistici. Tuttavia, rimane poco chiaro se queste variazioni a livello umano si traducano in differenze cross-lingue nei Modelli Linguistici Multilingue (MLLM). Mentre la ricerca precedente ha valutato estensivamente i bias politici negli LLM esclusivamente in inglese, il comportamento degli MLLM attraverso diverse lingue occidentali è ancora poco esplorato. La domanda centrale di ricerca è se gli MLLM riflettano opinioni politiche socio-culturali distinte per ogni lingua che supportano, o se le opinioni politiche si trasferiscano uniformemente tra le lingue a causa della dominanza dell'inglese nei dati di pre-training e di allineamento.

Gli autori definiscono due ipotesi concorrenti:

• H1 (Trasferimento di opinione): Le opinioni politiche si trasferiscono tra le lingue; l'allineamento di un modello in una lingua influenza tutte le altre lingue supportate in modo uniforme.
• H2 (Opinioni separate): Gli MLLM mantengono opinioni politiche distinte per ogni lingua, permettendo una divergenza socio-culturale.

Metodologia
Lo studio impiega un design sperimentale in due fasi che coinvolge 15 MLLM non allineati (instruction-tuned) di varie dimensioni (da 1B a 35B di parametri) attraverso cinque lingue dell'Europa occidentale: inglese, tedesco, francese, spagnolo e italiano.

1. Filtraggio della robustezza (RQ1):

   • Dati: Gli autori utilizzano ProbVAA, un dataset di 239 affermazioni provenienti da applicazioni di consulenza elettorale (VAA) europee, categorizzate in otto questioni politiche (es. protezione ambientale, legge e ordine) con posizioni note sinistra/destra.
   • Controllo di robustezza: Per garantire l'affidabilità del modello, gli autori applicano un framework di robustezza (adattato da Ceron et al., 2024) testando la coerenza rispetto alle variazioni dei prompt, inclusi parafrasi, negazioni, inversione delle risposte e cambiamenti nel wording dei template. Solo i modelli che superavano almeno il 50% di questi test sono stati mantenuti per l'analisi cross-lingua (sei modelli: Phi3.5-3B, Llama3.1-8B, Aya23-8B, Mixtral8x7B, CommandR-35B, GPT3.5-turbo).
   • Analisi: Un modello di regressione beta quantifica gli effetti della lingua e del modello sulle posizioni politiche, con l'inglese come lingua di riferimento. Test non parametrici di Kruskal-Wallis valutano le differenze significative tra le lingue.

2. Allineamento politico e trasferimento (RQ2):

   • Strategia di allineamento: Due modelli robusti (Phi3.5-3B e Llama3.1-8B) sono stati allineati per esibire visioni più orientate a sinistra o a destra utilizzando la Direct Preference Optimization (DPO).
   • Fonte dei dati: I dataset di allineamento sono stati costruiti dal corpus del Manifesto Project (MARPOR), filtrando specificamente i manifesti dei partiti in lingua inglese. Sono stati utilizzati due approcci di annotazione:
     • Approccio RiLe: Utilizzando i punteggi esistenti destra-sinistra basati sui codici MARPOR.
     • Approccio per questione politica: Annotando le frasi dei manifesti specificamente per accordo/disaccordo con le otto questioni politiche target.
   • Valutazione: Gli modelli allineati sono stati rivalutati sul dataset ProbVAA in tutte e cinque le lingue. Inoltre, è stato condotto un compito di valutazione open-ended in cui i modelli hanno generato riassunti opinabili su quattro questioni politiche, con le posizioni rilevate da un LLM separato (Llama-3.1-70B-Instruct).

Risultati Chiave

• RQ1: Modelli non allineati:

  • Robustezza: La maggior parte delle lingue ha esibito livelli di robustezza simili, indicando che le opinioni politiche nelle lingue non inglesi non sono meri artefatti di una scarsa generazione, ma sono stabili.
  • Differenze cross-lingua: L'analisi di regressione ha rivelato l'assenza di differenze significative nelle opinioni politiche generali tra l'inglese e le altre lingue occidentali. Sebbene siano emerse differenze minori e statisticamente significative su specifiche questioni politiche (ad esempio, tedesco, spagnolo e italiano hanno mostrato un supporto leggermente più forte per la protezione ambientale rispetto all'inglese), queste non erano sistematiche in modo globale.
  • Varianza del modello: Sono state trovate differenze significative tra i modelli (ad esempio, Mixtral8x7B era il più orientato a sinistra), ma non sistematicamente tra le lingue all'interno dello stesso modello.

• RQ2: Modelli allineati:

  • Spostamento uniforme: Quando i modelli sono stati allineati utilizzando dati esclusivamente in inglese, gli spostamenti politici risultanti si sono verificati quasi uniformemente in tutte e cinque le lingue.
  • Validazione di H1: Gli modelli allineati si sono mossi coerentemente verso l'ideologia target (sinistra o destra) in tedesco, francese, spagnolo e italiano, rispecchiando lo spostamento avvenuto in inglese. Ciò conferma che allineare un MLLM in inglese trasferisce efficacementamente tale allineamento anche alle altre lingue occidentali.
  • Conferma open-ended: La valutazione open-ended ha corroborato questi risultati, mostrando che il "Left Score" dei testi generati si è spostato coerentemente tra le lingue in base alla direzione dell'allineamento.

Contributi Chiave

1. Valutazione cross-lingua robusta: Il paper fornisce una valutazione dettagliata e consapevole della robustezza delle opinioni politiche in molteplici MLLM non allineati attraverso cinque lingue occidentali, filtrando i modelli che non forniscono posizioni coerenti.
2. Analisi del trasferimento di allineamento: Offre un'analisi approfondita di come l'allineamento politico in inglese si propaghi alle altre lingue, dimostrando che l'allineamento dei dati incentrati sull'inglese induce spostamenti ideologici uniformi nell'intera capacità multilingue del modello.
3. Insight metodologico: Lo studio evidenzia come ottenere un allineamento socio-linguistico o culturale distinto negli MLLM sia difficile, poiché le loro rappresentazioni interne sembrano essere dominate dall'inglese, portando a un effetto "prima lingua" in cui l'allineamento in una lingua detta il comportamento nelle altre.

Significato e Rivendicazioni
Gli autori concludono che, nei contesti delle lingue occidentali, le opinioni politiche si trasferiscono tra le lingue all'interno degli MLLM. Questa scoperta sfida l'assunto che gli MLLM possano facilmente rappresentare sfumature politiche socio-culturali distinte per ogni lingua che supportano.

La significatività di questo lavoro risiede nell'identificazione di un vincolo metodologico fondamentale: creare dataset di allineamento per singole lingue in isolamento è insufficiente perché le lingue sono interdipendenti all'interno degli MLLM. Di conseguenza, ottenere un allineamento socio-linguistico, culturale e politico esplicito che rispetti le differenze regionali è intrinsecamente difficile. Il paper suggerisce che il lavoro futuro debba tenere conto di questi effetti di interazione cross-lingua quando si dispiegano gli MLLM in compiti politici attraverso diversi contesti socio-linguistici. Gli autori rimangono modesti riguardo ai meccanismi causali, osservando che, sebbene il trasferimento sia evidente, le specifiche dinamiche architettoniche o di addestramento che lo guidano (ad esempio, la dominanza dell'inglese nel pre-training rispetto al post-training alignment) richiedono ulteriori indagini.