Auditing LLMs for Algorithmic Fairness in Casenote-Augmented Tabular Prediction

Titolo: Audit dell'Equità Algoritmica negli LLM per la Predizione Tabellare Arricchita da Note di Caso

1. Il Problema

I Grandi Modelli Linguistici (LLM) sono sempre più considerati per compiti predittivi in contesti sociali ad alto rischio, come i servizi per i senzatetto. Tuttavia, le loro proprietà di equità algoritmica in questi scenari non sono ben comprese.
Il problema centrale nasce dalla necessità di utilizzare dati non strutturati (note di caso scritte dagli operatori durante l'assistenza a domicilio) per migliorare le previsioni di collocamento abitativo, senza introdurre o amplificare bias discriminatori basati su razza, genere o altri attributi protetti. Esiste un rischio che l'integrazione di LLM, noti per i loro bias nei word embedding, possa peggiorare le disparità già presenti nei modelli tabellari tradizionali, specialmente in un contesto storico di discriminazione abitativa.

2. Metodologia

Gli autori hanno condotto un audit empirico su un compito di classificazione multiclasse per la previsione del livello di collocamento abitativo (da 0: strada, a 3: alloggio permanente di supporto).

• Dataset: 471 clienti assistiti da un'organizzazione no-profit tra il 2019 e il 2021. I dati includono covariate tabellari (demografia, storia dei servizi, ecc.) e note di caso non strutturate.
• Task: Prevedere il livello di collocamento ($Y \in \{0, 1, 2, 3\}$).
• Modelli Testati:
  • Varianti Llama 3 (17B e 70B parametri).
  • Baseline: Random Forest (RF) su dati tabellari.
• Configurazioni Sperimentali:
  1. Zero-shot: Prompting diretto senza addestramento specifico.
  2. Fine-tuning: Addestramento sui dati etichettati.
  3. Augmentation: Aggiunta di riepiloghi generati da LLM delle note di caso (casenote summaries) ai prompt.
  4. Feature Importance: Inclusione esplicita della feature più importante (identificata via RF) nel prompt.
• Metriche di Equità: Sono stati utilizzati estensioni multiclasse di:
  • Statistical Parity (SP): Indipendenza della previsione dal gruppo protetto.
  • Equality of Opportunity (EoO): Tasso di veri positivi (TPR) uguale tra i gruppi.
  • Le valutazioni sono state condotte su sottogruppi di Razza (Bianchi, Neri, Altri) e Genere (Maschi, Femmine).

3. Contributi Chiave

1. Audit Comparativo: Confronto tra modelli LLM (17B/70B) e un baseline Random Forest su un compito reale di servizi sociali, valutando sia accuratezza che equità.
2. Analisi del Trade-off: Dimostrazione che il fine-tuning migliora l'accuratezza ma può amplificare le disparità di sottogruppo, specialmente per gruppi minoritari (es. donne).
3. Valutazione delle Strategie di Prompting:
   • L'uso di riepiloghi delle note di caso può ridurre le disparità di equità anche quando non migliora l'accuratezza.
   • L'uso di cues di importanza delle feature (evidenziare la variabile più predittiva) può migliorare l'accuratezza nello zero-shot ma rischia di rinforzare i bias storici se la feature è correlata a disuguaglianze sistemiche.

4. Risultati Principali

• Prestazioni Senza Riepiloghi:

  • Il modello Fine-tuned 70B ha raggiunto la massima accuratezza (70,2%), superando significativamente i modelli zero-shot e il Random Forest (61,2%).
  • Tuttavia, questo guadagno di accuratezza è arrivato a scapito dell'equità: il modello fine-tuned ha mostrato le disparità EoO (Equality of Opportunity) più elevate, aggravando la situazione per le donne (sottorappresentate nel dataset con un rapporto ~4:1 rispetto agli uomini).
  • I modelli zero-shot hanno performato peggio in termini di accuratezza ma con disparità generalmente inferiori rispetto al fine-tuned.

• Impatto dei Riepiloghi (Summaries):

  • Zero-shot: L'aggiunta di riepiloghi ha migliorato l'accuratezza (fino al +13,9%) aiutando i modelli a colmare lacune contestuali.
  • Fine-tuned: L'aggiunta di riepiloghi ha leggermente ridotto l'accuratezza (introducendo rumore), ma ha migliorato drasticamente l'equità. Il modello Fine-tuned 70B + Riepiloghi ha ridotto l'EoO Mean da 0,071 (RF) a 0,021, dimostrando che i riepiloghi aiutano a mitigare le disparità che esistono nei soli dati tabellari.
  • Dimensione del Modello: Nello zero-shot, il modello 17B con riepiloghi ha performato meglio del 70B (maggiore accuratezza e migliore equità media), suggerendo che i modelli più piccoli sono meno sensibili al rumore dei dati non strutturati. Tuttavia, dopo il fine-tuning, il 70B ha sfruttato meglio le sfumature contestuali.

• Feature Importance:

  • Inserire esplicitamente la feature più importante ("massimo collocamento prima del 2019") nello zero-shot ha aumentato l'accuratezza ma ha peggiorato l'equità, poiché tale feature è correlata a bias storici (razza/genere).
  • Nel modello Fine-tuned, forzare l'attenzione su una singola feature ha spesso destabilizzato l'equilibrio appreso dal modello, peggiorando le disparità (specialmente nel 70B con riepiloghi, dove l'EoO Max è quadruplicato).

• Confronto con Random Forest:

  • Il Random Forest ha mostrato le peggiori metriche di equità (SP e EoO). L'LLM, specialmente quando arricchito con riepiloghi, è stato in grado di superare il RF sia in accuratezza che in equità, sfruttando informazioni contestuali non strutturabili in tabelle.

5. Significato e Conclusioni

Lo studio offre linee guida pratiche per l'implementazione responsabile degli LLM nei servizi sociali:

1. Sicurezza dei Dati: Le note di caso in questo contesto (brevi e fortemente oscurate/redacted) non hanno introdotto nuovi bias testuali oltre a quelli già presenti nei dati tabellari.
2. Strategia di Implementazione: L'approccio più promettente è l'uso di modelli fine-tuned arricchiti da riepiloghi delle note di caso. Questa combinazione permette di ottenere un'alta accuratezza mantenendo o migliorando l'equità algoritmica, riducendo le disparità di trattamento per i gruppi svantaggiati.
3. Attenzione alle Feature: Bisogna evitare di forzare esplicitamente feature storicamente predittive ma correlate a bias sistemici nei prompt, specialmente nei modelli già addestrati, poiché ciò può annullare i benefici dell'equità.
4. Monitoraggio Continuo: È fondamentale monitorare le metriche di equità (non solo l'accuratezza) durante l'ottimizzazione, poiché miglioramenti nelle prestazioni possono nascondere o amplificare ingiustizie verso minoranze demografiche.

In sintesi, l'audit dimostra che gli LLM possono essere strumenti sicuri ed efficaci per l'equità nei servizi sociali, a patto di utilizzare strategie di ingegnerizzazione del prompt (come i riepiloghi) che sfruttano il contesto senza amplificare i bias storici.