An Investigation of Linguistic Biases in LLM-Based Recommendations

1. Enunciato del Problema

Il paper indaga i pregiudizi linguistici nei sistemi di raccomandazione basati su Large Language Model (LLM). Nello specifico, esamina se gli LLM alterino le loro raccomandazioni in base alle variazioni dialettali (differenze superficiali di sintassi e forma), anche quando l'intento semantico della query dell'utente rimane identico.

Gli autori sostengono che i sistemi di raccomandazione possano violare l'autonomia descrittiva orientando il comportamento dell'utente verso esiti predefiniti basati su indizi linguistici latenti (ad es. il dialetto) piuttosto che sulle preferenze esplicite dell'utente. Sebbene i pregiudizi legati a genere, razza ed età siano ampiamente studiati, i pregiudizi derivanti dal dialetto (ad es. inglese americano meridionale vs. inglese indiano) e dal code-switching (mescolanza di hindi e inglese) nei contesti di raccomandazione rimangono poco esplorati.

2. Metodologia

Design Sperimentale

Lo studio adotta un setting cold-start (prompting zero-shot senza fine-tuning su dati di interazione utente) per isolare i pregiudizi intrinseci presenti nei modelli.

• Compiti: Raccomandazioni di ristoranti e raccomandazioni di prodotti.
• Dialetti Testati:
  1. Inglese Americano Meridionale (AE): Selezionato come il più grande gruppo di accento regionale negli USA.
  2. Inglese Indiano (IE): Inglese Indiano standardizzato.
  3. Hindi-Inglese Code-Switched (CS): Una miscela di hindi e inglese (es. "Arre yaar, I'm dying of hunger...").
• Dataset:
  • Ristoranti: Yelp Open Dataset (2023). Sottogruppi di ristoranti di cucina "Americana" e "Indiana" sono stati bilanciati.
  • Prodotti: Walmart Product Reviews Dataset (2020). Le categorie includevano Sport, Salute, Cura della Persona, Abbigliamento, Casa, Bellezza ed Esercizio.
• Strategia di Prompting:
  • Gli LLM hanno ricevuto una lista bilanciata di 100 elementi (50 ristoranti americani/50 indiani o 100 prodotti per categoria).
  • All'LLM è stato chiesto di selezionare le top-20 raccomandazioni da questa lista.
  • I prompt sono stati variati solo per dialetto (es. "Where's a good place to eat?" vs. "Where can I get a good place to eat?" vs. "Kahan milta hai tasty food?").
  • Generalizzazione: Per garantire robustezza, lo studio ha utilizzato 20 semi casuali diversi per generare liste bilanciate uniche per ogni combinazione query/dialetto, risultando in 600 liste per compito.

Modelli Valutati

Sono stati testati tre famiglie di modelli con due varianti di dimensione ciascuna per analizzare l'effetto della dimensione dei parametri:

1. Llama-3.1: 8B e 70B parametri.
2. GPT-OSS: 20B e 120B parametri.
3. Mistral: 7B-instruct e mistral-small-3.1 (24B).

Analisi Statistica

• Variabile Dipendente: Conteggi aggregati degli elementi raccomandati per tipo di cucina (per i ristoranti) o categoria di prodotto (per i prodotti).
• Variabili Indipendenti: Tipo di dialetto (AE, IE, CS), Dimensione del Modello e le loro interazioni.
• Modello: Regressione a Effetti Misti Lineari (utilizzando lmerTest in R).
  • Effetti Fissi: Dialetto, Dimensione del Modello e interazioni.
  • Effetti Casuali: ID della domanda e ID del seme.
• Test: Test del rapporto di verosimiglianza per gli effetti fissi, seguiti da confronti a coppie post-hoc (corretti con Bonferroni) delle medie marginali stimate.

3. Contributi Chiave

• Novità nel Rilevamento dei Pregiudizi: Questo è uno dei primi studi a isolare specificamente i pregiudizi dialettali e da code-switching nei sistemi di raccomandazione LLM, distinguendoli dai pregiudizi demografici o basati sui contenuti.
• Analisi Cold-Start: Evitando il fine-tuning, lo studio rivela i pregiudizi intrinseci presenti nei modelli fondazione pre-addestrati prima che vengano applicate misure di addestramento correttivo o di fornitura di contesto.
• Evidenza Statistica Granulare: L'uso di modelli a effetti misti su 20 semi fornisce evidenze statisticamente significative che le variazioni linguistiche superficiali alterano significativamente le distribuzioni delle raccomandazioni.

4. Risultati Chiave

Raccomandazioni di Ristoranti

• Sensibilità al Dialetto: Tutti i modelli testati hanno mostrato una sensibilità statisticamente significativa al dialetto.
  • Llama-3.1: Ha mostrato la sensibilità più alta. Il modello 70B ha raccomandato significativamente più ristoranti indiani quando sollecitato con prompt Code-Switched (CS) e Inglese Indiano (IE) rispetto all'inglese americano (AE).
  • Mistral: Il modello mistral-small-3.1 (24B) ha mostrato sensibilità, raccomandando più ristoranti indiani con prompt IE rispetto a prompt AE.
  • GPT-OSS: Ha mostrato la sensibilità più bassa, probabilmente a causa di capacità di ragionamento superiori che permettono al modello di derivare l'intento semantico nonostante le variazioni superficiali.
• Tendenze sulla Dimensione del Modello: Non è stata trovata una tendenza universale per cui i modelli più grandi siano sempre più o meno pregiudizievoli. Tuttavia, i modelli più grandi nelle famiglie Mistral e Llama tendevano a raccomandare meno ristoranti indiani con prompt AE rispetto ai loro corrispettivi più piccoli, ma di più con prompt CS/IE.

Raccomandazioni di Prodotti

• Spostamenti di Categoria: Il dialetto ha influenzato il tipo di categorie di prodotti raccomandate.
  • Bellezza e Casa: I modelli più grandi (Llama-3.1-70B, Mistral-small-3.1) hanno raccomandato più prodotti di Bellezza con prompt IE. I modelli più piccoli (Llama-3.1-8B, Mistral-7B) hanno raccomandato più prodotti per la Casa con prompt CS.
  • Impatto del Code-Switching: Il modello Llama-3.1-70B è stato particolarmente sensibile ai prompt CS, raccomandando più prodotti in 4 categorie su 7 (Sport, Casa, Abbigliamento, Esercizio) rispetto ai prompt AE/IE.
• Differenze tra Famiglie di Modelli:
  • Llama-3.1: Ha esibito le differenze più significative basate sul dialetto e sulla dimensione del modello in tutte le categorie.
  • GPT-OSS: Ha mostrato le minori differenze, rafforzando l'ipotesi che migliori capacità di ragionamento mitigino i pregiudizi linguistici superficiali.

5. Significato e Implicazioni

• Preoccupazioni Etiche (Autonomia Descrittiva): I risultati suggeriscono che gli LLM potrebbero inferire l'identità e le preferenze dell'utente basandosi puramente sulla forma linguistica (dialetto), potenzialmente rafforzando stereotipi e restringendo la diversità delle scelte presentate agli utenti senza il loro consenso.
• Progettazione del Sistema: Lo studio mette in discussione l'assunzione che la semplice scalatura della dimensione del modello elimini i pregiudizi. In effetti, i modelli più grandi (come Llama-3.1-70B) possono esibire pregiudizi dipendenti dal dialetto più forti in contesti specifici.
• Equità delle Raccomandazioni: Se i sistemi di raccomandazione adattano gli output basandosi solo sul dialetto, gli utenti potrebbero ricevere suggerimenti limitati o stereotipati. Ciò evidenzia la necessità critica di un comportamento invariante rispetto al dialetto nei sistemi di IA.
• Direzioni Future: Gli autori suggeriscono strategie di mitigazione come la normalizzazione dei prompt, l'addestramento consapevole del dialetto o la decodifica vincolata dall'equità per garantire che le raccomandazioni siano guidate dall'intento dell'utente piuttosto che da artefatti linguistici.

Conclusione

Il paper dimostra che il dialetto da solo è un fattore significativo nei risultati delle raccomandazioni basate su LLM. Anche con un intento semantico identico, i prompt in inglese indiano o in hindi-inglese code-switched producono sistematicamente distribuzioni di raccomandazioni diverse rispetto all'inglese americano. Questo pregiudizio è più pronunciato nella famiglia Llama-3.1 e varia per categoria di prodotto, indicando che gli attuali LLM codificano associazioni latenti tra forma linguistica e preferenze culturali/demografiche che richiedono una mitigazione attiva.