Social and Ethical Risks Posed by General-Purpose LLMs for Settling Newcomers in Canada

Immaginate il settore dell'accoglienza in Canada come un enorme e vivace centro di benvenuto per le persone che arrivano da tutto il mondo. Il suo compito è aiutare i nuovi arrivati a trovare case, lavori, scuole e medici, in modo che possano costruire una nuova vita. Al momento, questo centro è sopraffatto. Ci sono più persone che arrivano che mai, e lo staff è sottoposto a un eccessivo sforzo.

Poiché lo staff è impegnato, molti nuovi arrivati (e persino gli operatori) si rivolgono a un "robot magico" nelle loro tasche: l'Intelligenza Artificiale a Scopo Generale (come il popolare ChatGPT). Gli chiedono di tutto: "Dove trovo un lavoro?", "Quali vaccini ha bisogno mio figlio?", "Come apro un conto in banca?".

Questo documento è un'etichetta di avvertimento su quel robot magico. Gli autori affermano che, sebbene questo robot sia intelligente, non è stato costruito per questo specifico centro di benvenuto. Utilizzarlo "così com'è", senza verificarne il lavoro, è come chiedere indicazioni a un turista brillante ma non addestrato in una città straniera: potrebbe sembrare sicuro di sé, ma potrebbe facilmente indirizzarvi sulla strada sbagliata.

Ecco una panoramica dei pericoli specifici individuati dal documento, utilizzando semplici analogie:

1. Il "Pregiudizio Occupazionale" (Il Filtro degli Stereotipi)

L'Affermazione: Quando gli autori hanno chiesto all'IA di suggerire lavori per i nuovi arrivati, le risposte cambiavano in base al paese di origine della persona.
L'Analogia: Immaginate un responsabile delle assunzioni che segretamente crede che le persone del Paese A siano adatte solo alle pulizie, mentre le persone del Paese B siano leader naturali.

• Cosa è successo: Quando l'IA è stata interrogata su un nuovo arrivato dalle Filippine o dall'Afghanistan, ha suggerito lavori poco retribuiti come "Assistente Amministrativo". Quando interrogata su qualcuno dal Regno Unito o dalla Germania, ha suggerito lavori ben retribuiti come "Sviluppatore Software".
• Il Rischio: L'IA agisce come un filtro distorto, indirizzando le persone lontano dalle carriere per cui sono effettivamente qualificate, solo a causa del luogo in cui sono nate.

2. Il "Divario Linguistico" (Il Traduttore Disuguale)

L'Affermazione: L'IA funziona benissimo in inglese, ma fatica o fallisce completamente in molte altre lingue.
L'Analogia: Immaginate un medico che parla inglese perfettamente ma conosce solo poche parole di francese o spagnolo. Se gli chiedete della vostra salute nella vostra lingua madre, potrebbe annuire e dire qualcosa di vago, o peggio, darvi consigli errati.

• Cosa è successo: Quando gli autori hanno chiesto informazioni sui vaccini per i bambini in inglese, l'IA ha fornito una buona risposta. Ma quando hanno chiesto in lingue come il somalo, l'igbo o il tamil, l'IA ha fornito zero informazioni corrette, parlando talvolta di libri o contraccezione invece che di vaccini.
• Il Rischio: I nuovi arrivati che parlano lingue meno comuni ricevono una versione "rotta" del servizio, il che potrebbe portare a gravi problemi di salute.

3. Il "Mostro a Due Teste" (Inglese contro Francese)

L'Affermazione: Anche nelle due lingue ufficiali del Canada, l'IA non è equa.
L'Analogia: Immaginate una guida turistica che ha una mappa dettagliata di 10 passaggi in inglese, ma una mappa vaga di 8 passaggi in francese che omette svolte importanti.

• Cosa è successo: Quando si chiedeva come aprire un conto in banca, la risposta in inglese era una chiara lista di 10 passaggi. La risposta in francese era una lista di 8 passaggi che ometteva dettagli chiave. Inoltre, la versione in inglese permetteva all'utente di scegliere la propria banca, mentre la versione in francese ne sceglieva una per loro senza chiedere.
• Il Rischio: I nuovi arrivati di lingua francese hanno meno controllo e meno informazioni rispetto ai loro vicini di lingua inglese.

4. L'"Ologramma dell'Odio" (Stereotipi e Immagini)

L'Affermazione: L'IA crea immagini e storie false che rafforzano stereotipi dannosi su rifugiati e immigrati.
L'Analogia: Immaginate un regista che solo castinga i rifugiati come famiglie tristi del Medio Oriente che indossano il velo, ignorando il fatto che i rifugiati provengono da tutto il mondo e assomigliano a chiunque altro.

• Cosa è successo: Quando è stato chiesto di generare un'immagine di una "famiglia di rifugiati", l'IA ha sempre disegnato una famiglia musulmana del Medio Oriente. Quando interrogata su un "immigrato", ha disegnato prevalentemente famiglie dell'Asia meridionale. Ha anche assunto che i padri fossero altamente istruiti e le madri meno istruite.
• Il Rischio: Questo crea una falsa realtà nella mente delle persone, facendo credere alla società che tutti i rifugiati abbiano lo stesso aspetto e le stesse azioni, alimentando i pregiudizi e ignorando la vera diversità della comunità.

5. Il "Bugiardo Sicuro di Sé" (Allucinazioni)

L'Affermazione: L'IA inventa fatti che sembrano reali ma sono completamente falsi.
L'Analogia: Immaginate una guida turistica che indica con sicurezza un edificio dicendo: "Quella è la famosa biblioteca", quando in realtà è un terreno vuoto. La guida sembra così sicura che ci credete.

• Cosa è successo: L'IA ha inventato nomi di scuole e centri comunitari che non esistono. Ha fornito indirizzi errati per cliniche reali. Ha detto alle persone che una clinica era "senza appuntamento" quando non lo era.
• Il Rischio: I nuovi arrivati, che non conoscono ancora la città, potrebbero presentarsi in un edificio che non esiste, sprecando tempo e speranza.

6. L'"Almanacco Obsoleto" (Disinformazione)

L'Affermazione: L'IA non sa cosa sta accadendo in questo momento.
L'Analogia: Immaginate di chiedere a un bibliotecario il meteo di oggi, ma lui sta leggendo da un libro stampato tre anni fa. Vi darà una risposta "corretta" per il passato, ma è inutile per oggi.

• Cosa è successo: Quando è stato chiesto il salario minimo in Ontario, l'IA ha fornito cifre del 2021 o del 2022, anche se l'attuale era molto più alto.
• Il Rischio: Un nuovo arrivato potrebbe accettare un lavoro per meno soldi di quanto richiesto dalla legge perché il "robot" gli ha detto che quella era la tariffa corretta.

7. Il "Lupo in Vestito da Agnello" (Uso Malizioso)

L'Affermazione: Attori malintenzionati possono usare questa IA per ingannare i nuovi arrivati.
L'Analogia: Immaginate un truffatore che usa un modificatore vocale high-tech per suonare esattamente come un agente di polizia o un direttore di banca per rubarvi i soldi.

• Cosa è successo: Gli autori hanno dimostrato che, sebbene l'IA abbia alcune protezioni di sicurezza, truffatori astuti possono ingannarla per scrivere annunci di affitto falsi, creare immagini di documenti d'identità falsi o scrivere script per truffe telefoniche rivolte a nuovi arrivati vulnerabili.
• Il Rischio: I nuovi arrivati, che sono già confusi sul funzionamento del sistema, sono facili bersagli per queste truffe generate dall'IA.

La Soluzione: Non Licenziare il Robot, Addestrarlo Meglio

Il documento non dice che dovremmo vietare l'IA. Piuttosto, afferma che dobbiamo smettere di usare il robot "così com'è" per questo specifico lavoro.

• Personalizzare lo Strumento: Dobbiamo costruire un'IA speciale addestrata solo su dati verificati di accoglienza canadese, non su tutto internet.
• Umano nel Ciclo: Proprio come un pilota ha bisogno di un co-pilota, l'IA dovrebbe essere un aiuto per gli operatori di accoglienza, non un sostituto. Un esperto umano deve verificare il lavoro dell'IA prima che raggiunga il nuovo arrivato.
• Insegnare l'Alfabetizzazione Digitale: I nuovi arrivati devono imparare che il "robot magico" può mentire, in modo che sappiano verificare i fatti importanti.

In sintesi: L'IA attuale è come un tirocinante benintenzionato ma non addestrato, eager di aiutare ma che continua a inventare fatti e mostrare pregiudizi. Per la sicurezza dei nuovi arrivati, dobbiamo sostituire quel tirocinante con un assistente specializzato, supervisionato e attentamente addestrato.