Bias in Large Language Models: Origin, Evaluation, and Mitigation

Il Quadro Generale: Il "Super-Lettore" con un Punto Cieco

Immagina un Modello Linguistico su Larga Scala (LLM) come uno studente super-avanzato che ha letto quasi ogni libro, sito web e post sui social media mai scritti. Questo studente è incredibilmente intelligente e può scrivere saggi, rispondere a domande e tradurre lingue meglio di quasi chiunque altro.

Tuttavia, poiché questo studente ha appreso da tutto ciò che gli esseri umani hanno scritto, ha appreso anche tutti i nostri pregiudizi, stereotipi e abitudini ingiuste. Proprio come un bambino che cresce in un quartiere dove tutti credono che un certo gruppo di persone sia scarso in matematica, anche lo studente potrebbe iniziare a crederlo, anche se non è vero.

Questo documento è una guida massiccia che pone tre domande principali:

1. Da dove provengono queste cattive abitudini? (Origini)
2. Come possiamo scoprire se lo studente bara? (Valutazione)
3. Come possiamo insegnargli a essere equo? (Mitigazione)

---

Parte 1: Da dove provengono le cattive abitudini (Origini)

Gli autori dividono le "cattive abitudini" (bias) in due tipi: Intrinseche ed Estrinseche.

1. Bias Intrinseco: La "Memoria Interna"

Pensa a questo come al dizionario interno e alla visione del mondo dello studente formatisi mentre studiava.

• I Dati di Addestramento (I Libri di Testo): Lo studente ha letto libri in cui i "medici" erano quasi sempre uomini e le "infermiere" quasi sempre donne. Quindi, nella sua memoria interna, associa "medico" a "maschio" e "infermiera" a "femmina". Questo è un bias dei dati.
• Il Metodo di Raccolta (La Biblioteca): Immagina che lo studente abbia visitato solo biblioteche in un paese specifico. Penserebbe che le feste di quel paese siano le uniche feste al mondo. Questo è un bias spaziale/temporale.
• Gli Strumenti (La Penna e la Carta): Anche il modo in cui lo studente spezza le parole in pezzi (tokenizzazione) può essere ingiusto. Se la "penna" dello studente spezza i nomi dei gruppi minoritari in frammenti minuscoli e confusi, ma mantiene intatti i nomi comuni, non può comprendere bene i nomi delle minoranze. Questo è un bias di tokenizzazione.

2. Bias Estrinseco: La "Cattiva Performance"

Questo accade quando lo studente agisce sulle sue cattive abitudini durante un test o un lavoro specifico.

• Compiti di Comprensione (NLU): Se chiedi: "Chi è il medico?" e il testo dice "Il medico è arrivato", lo studente potrebbe indovinare "Lui" anche se il testo non specifica il genere, perché la sua memoria interna è distorta.
• Compiti di Generazione (NLG): Se chiedi allo studente di scrivere una storia su un leader, potrebbe automaticamente rendere il leader un uomo e l'infermiera una donna, anche se non te lo hai chiesto.
• Il Risultato: Lo studente potrebbe dare un consiglio di assunzione a un uomo piuttosto che a una donna, o tradurre una frase in modo da offendere una cultura, semplicemente perché sta ripetendo modelli che ha visto nei suoi dati di addestramento.

---

Parte 2: Come scoprire il baro (Valutazione)

Come sappiamo se lo studente è distorto? Il documento suggerisce di controllarlo a tre livelli diversi, come un insegnante che corregge un compito.

1. Controllo a Livello di Dati (Controllare i Libri di Testo):
   • Prima che lo studente inizi anche solo a studiare, esaminiamo i libri che sta leggendo. Ci sono troppi libri sugli uomini e troppo pochi sulle donne? Ci sono troppi libri dagli Stati Uniti e nessuno dall'Africa? Usiamo la matematica per contare quanto spesso appaiono diversi gruppi.
2. Controllo a Livello di Modello (Controllare il Cervello):
   • Sollecitiamo il cervello dello studente per vedere come collega le idee. Se chiediamo: "È un maschio un'infermiera?" e il cervello dello studente si illumina con "No", ma se chiediamo "È un maschio un medico?" si illumina con "Sì", sappiamo che c'è un bias nascosto nelle sue connessioni. Usiamo strumenti come i Controfattuali (cambiare un nome da "Giovanni" a "Giulia" e vedere se la risposta cambia).
3. Controllo a Livello di Output (Correggere il Compito):
   • Esaminiamo le risposte reali che lo studente dà. Usa parole offensive per certi gruppi? Dà consigli diversi a persone diverse? Usiamo anche Revisionatori Umani (persone reali) per leggere le risposte e dire: "Ehi, questo sembra ingiusto".

---

Parte 3: Come correggere le cattive abitudini (Mitigazione)

Il documento suggerisce tre modi per "de-biasare" lo studente, a seconda di quando interveniamo.

1. De-biasing Pre-Modello (Pulire i Libri di Testo)

• L'Idea: Prima che lo studente inizi a studiare, puliamo la biblioteca.
• Come: Aggiungiamo più libri su gruppi sottorappresentati (sovracampionamento) o rimuoviamo i libri davvero pieni di odio. Potremmo anche riscrivere le frasi per scambiare i generi (ad esempio, cambiando "Il medico è lui" in "Il medico è lei") in modo che lo studente impari entrambe le opzioni.
• Pro/Contro: È economico e facile da iniziare, ma non puoi risolvere tutto solo pulendo i libri. Alcune cattive abitudini sono già incorporate nella struttura del cervello dello studente.

2. De-biasing Intra-Modello (Ricollegare il Cervello)

• L'Idea: Mentre lo studente sta studiando, lo costringiamo ad imparare in modo diverso.
• Come: Cambiamo le regole del gioco. Se lo studente cerca di collegare "infermiera" a "femmina", gli diamo un "punteggio di penalità" (una funzione di perdita) in modo che impari a smettere di farlo. Potremmo anche "potare" (tagliare) le parti specifiche del suo cervello che contengono queste connessioni negative.
• Pro/Contro: Questo è molto efficace nel correggere la causa radice, ma è costoso e difficile. È come cercare di ricollegare un computer mentre è in esecuzione.

3. De-biasing Post-Modello (Modificare il Compito)

• L'Idea: Lasciamo che lo studente scriva la risposta, ma la modifichiamo prima di mostrarla al mondo.
• Come: Se lo studente scrive una frase distorta, usiamo un filtro per cambiare le parole. Oppure, usiamo un trucco di "prompting causale" in cui chiediamo allo studente di pensare al problema in un modo specifico che lo costringe a ignorare gli stereotipi.
• Pro/Contro: Questo è veloce e non richiede di riaddestrare lo studente. Tuttavia, è come mettere una benda su una ferita; risolve il sintomo ma non cura la malattia.

---

Parte 4: Perché questo è importante (Etica e Legge)

Il documento avverte che questi bias non sono solo fastidiosi; sono pericolosi.

• Danni Rappresentativi: Lo studente potrebbe dire: "I musulmani sono violenti" o "Le donne non sono leader". Questo ferisce i sentimenti delle persone e rafforza stereotipi negativi nella società.
• Danni Allocativi: Questo è dove le persone perdono opportunità nel mondo reale. Se uno studente distorto aiuta un'azienda ad assumere persone, potrebbe rifiutare il curriculum di una donna qualificata. Se uno studente distorto aiuta un ospedale a diagnosticare i pazienti, potrebbe trascurare una malattia in un gruppo minoritario.

Il documento nota che le leggi stanno iniziando a recuperare. In luoghi come New York e nell'Unione Europea, le aziende sono ora tenute a sottoporre i loro strumenti di IA a audit per assicurarsi che non discriminino le persone in base a razza, genere o età.

La Conclusione

Questo documento è una mappa stradale. Ci dice che l'IA è come uno specchio che riflette i difetti della nostra società. Per costruire un'IA equa, non possiamo affidarci a una sola soluzione. Dobbiamo pulire i nostri dati, addestrare i nostri modelli con cura, controllare costantemente il loro lavoro e correggere l'output prima che raggiunga le persone. È un processo continuo, non un lavoro una tantum.