Safety Alignment Illusion: The Cross-Lingual Safety Gap in LLMs
Questo articolo introduce INCLUDE, un benchmark multilingue che valuta i pregiudizi socio-culturali incentrati sull'India attraverso sei lingue, rivelando che l'attuale allineamento alla sicurezza centrato sull'inglese nei modelli linguistici di grandi dimensioni (LLM) crea un critico divario di sicurezza translinguistico per cui gli output non inglesi, in particolare in bengalese e nei modelli a codice chiuso, esibiscono pregiudizi significativamente più elevati rispetto ai loro corrispettivi inglesi.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui la voce di un assistente informatico sia fluida ed equa in un villaggio rurale dell'India tanto quanto lo è in un ufficio frenetico di Londra. Per anni, la tecnologia alla base di questi assistenti è stata addestrata principalmente su testi in inglese, imparando a riconoscere gli stereotipi dannosi e a rifiutare richieste offensive attraverso un processo chiamato allineamento della sicurezza. Questo addestramento agisce come un filtro, progettato per impedire alla macchina di ripetere pregiudizi su razza, religione o status sociale. Tuttavia, una domanda critica è rimasta senza risposta: questo filtro funziona altrettanto bene quando l'utente parla hindi, bengalese o un mix di inglese e hindi? Se il filtro comprende solo l'inglese, allora milioni di persone che parlano altre lingue sono lasciate esposte proprio ai pregiudizi che la tecnologia doveva prevenire. Questa è la preoccupazione centrale di un nuovo studio che indaga se la promessa di un'intelligenza artificiale sicura valga davvero attraverso il diversificato panorama linguistico dell'India.
I ricercatori, guidati da Namya Bhatnagar, hanno cercato di misurare questo divario creando un test specializzato chiamato INCLUDE. Questo benchmark è stato progettato per vedere quanto bene diversi modelli di intelligenza artificiale gestiscano stereotipi culturalmente specifici quando stimolati in sei lingue diverse: inglese, hindi, bengalese, marathi, tamil e hinglish, che è un comune mix di hindi e inglese usato nella conversazione quotidiana. Per costruire questo test, il team ha prima definito sei aree in cui il pregiudizio appare spesso, come casta, religione e regione. Hanno poi riunito un panel di venti esperti, tra cui insegnanti e docenti universitari, per revisionare e perfezionare migliaia di domande. Queste domande sono state accuratamente formulate per sembrare naturali, chiedendo ai modelli di completare frasi in modi che avrebbero rivelato se si stessero orientando verso stereotipi dannosi o li stessero rifiutando. Il team ha tradotto questi prompt nelle cinque lingue indiane, assicurandosi che il significato e l'intensità degli stereotipi rimanessero coerenti in tutte le versioni.
Lo studio ha valutato dieci diversi modelli di intelligenza artificiale, dividendoli in due gruppi: quelli aperti, che chiunque può ispezionare e modificare, e quelli a sistema chiuso, di proprietà di grandi aziende tecnologiche. Quando i ricercatori hanno testato i modelli open-source, hanno trovato un modello chiaro e preoccupante. I modelli erano significativamente più propensi a produrre risposte distorte e stereotipate quando i prompt erano scritti in lingue indiane rispetto all'inglese. Tra le lingue indiane, il bengalese ha innescato il livello più alto di pregiudizio, seguito da vicino dall'hindi. Sorprendentemente, i prompt in inglese hanno prodotto i punteggi di pregiudizio più bassi per questi modelli open, suggerendo che i filtri di sicurezza funzionano bene per gli anglofoni, ma falliscono per tutti gli altri. Ciò crea un'illusione di sicurezza dove un utente potrebbe sentirsi protetto in inglese, ma si ritrova vulnerabile nella propria lingua madre.
I risultati per i modelli a codice chiuso, che sono spesso utilizzati per alimentare le funzioni di ricerca e recupero degli assistenti vocali, hanno raccontato una storia diversa e ancora più complessa. In questo gruppo, il modello si è invertito completamente. I modelli hanno mostrato le associazioni di pregiudizio più forti quando i prompt erano in inglese, mentre le lingue indiane mostravano punteggi di pregiudizio inferiori. Questa inversione suggerisce che la fonte del problema non sia una cosa sola. Per i modelli open, il problema sembra essere che l'addestramento alla sicurezza è stato fatto principalmente in inglese, lasciando le altre lingue senza protezione. Per i modelli chiusi, il pregiudizio sembra derivare dalla massiccia quantità di testo in inglese su cui sono stati originariamente addestrati, che ha radicato stereotipi profondi nella loro comprensione fondamentale del mondo.
Uno dei risultati più significativi riguardava l'hinglish, la lingua mista utilizzata da milioni di persone in India. Lo studio ha scoperto che l'hinglish non otteneva i benefici di sicurezza dell'inglese. Anche se contiene parole inglesi, i modelli la trattavano statisticamente allo stesso modo delle altre lingue indiane a basse risorse, raggruppandola con l'hindi e il tamil piuttosto che con l'inglese. Ciò significa che gli utenti che si affidano a questa lingua mista per l'interazione vocale non ricevono lo stesso livello di protezione di chi parla inglese puro. I ricercatori hanno anche notato che, sebbene i punteggi di pregiudizio variassero, le differenze non erano casuali; erano abbastanza coerenti da essere considerate un fallimento reale e misurabile nel modo in cui questi sistemi vengono costruiti.
Lo studio conclude che la sicurezza dell'intelligenza artificiale non è uniforme tra le lingue. Rivela che gli attuali metodi di addestramento di questi modelli creano un divario in cui gli anglofoni sono protetti dagli stereotipi dannosi, mentre i parlanti di altre lingue no. I risultati suggeriscono che semplicemente tradurre le regole di sicurezza dall'inglese non sia sufficiente; la struttura stessa di come questi modelli apprendono e di come vengono allineati deve cambiare per tenere conto delle sfumature di diverse culture e lingue. Identificando queste lacune, i ricercatori sperano di fornire una tabella di marcia agli sviluppatori per costruire sistemi che siano veramente equi per tutti, indipendentemente dalla lingua che parlano. Il lavoro evidenzia che raggiungere una vera equità nell'intelligenza artificiale richiede di guardare oltre le lingue dominanti e di affrontare i contesti culturali specifici in cui queste tecnologie vengono implementate.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.