Sintesi Tecnica: Valutazione della Presenza di Bias di Sesso nel Ragionamento Clinico da parte dei Modelli di Linguaggio di Grandi Dimensioni (LLM)

Definizione del Problema

I modelli di linguaggio di grandi dimensioni (LLM) sono sempre più integrati nei flussi di lavoro sanitari per la documentazione, l'istruzione e il supporto alle decisioni cliniche. Tuttavia, questi modelli sono addestrati su vasti corpora testuali che codificano intrinsecamente pregiudizi sociali e biologici storici, inclusi i disparità di sesso nella diagnosi e nel trattamento. Sebbene ricerche precedenti abbiano esaminato le prestazioni dell'IA rispetto ai benchmark umani e la percezione pubblica dell'IA, esiste una lacuna critica di prove empiriche riguardo se gli attuali LLM riproducano i pattern di bias biologico di sesso nell'interpretare informazioni cliniche. Nello specifico, rimane da chiarire se questi modelli adottino assunzioni legate al sesso in assenza di dati espliciti sul paziente e se tali bias alterino il ragionamento diagnostico a valle.

Metodologia

Gli autori hanno condotto uno studio controllato, composto da tre esperimenti, utilizzando 50 vignette cliniche redatte da clinici che spaziano in 44 specialità mediche. Queste vignette sono state progettate specificamente per essere "neutre rispetto al sesso", ovvero il percorso diagnostico iniziale non dovrebbe essere influenzato dal sesso del paziente. Lo studio ha utilizzato quattro LLM general-purpose: OpenAI ChatGPT (gpt-4o-mini), Anthropic Claude 3.7 Sonnet, Google Gemini 2.0 Flash e DeepSeek-chat.

Il design sperimentale prevedeva tre compiti distinti:

1. Assegnazione Binaria del Sesso: I modelli ricevevano vignette neutre (omettendo il sesso del paziente) e ricevevano l'istruzione di assegnare un sesso binario (maschio/femmina).
2. Capacità di Astensione: Le stesse vignette neutre venivano presentate, ma il prompt permetteva una terza opzione: "astenersi". Ciò serviva a testare se i modelli potessero astenersi dall'inferenza demografica non sollecitata.
3. Ragionamento sulla Diagnosi Differenziale: Ai modelli veniva chiesto di generare una lista dei primi cinque diagnosi differenziali per coppie di vignette che differivano solo per il sesso del paziente (varianti maschio vs femmina).

Condizioni Sperimentali:

• Temperature: Ogni modello è stato interrogato a tre impostazioni di temperatura (0.2, 0.5 e 1.0) per valutare l'influenza della variabilità del campionamento.
• Ripetizione: Ogni condizione è stata ripetuta 10 volte per garantirne la robustezza.
• Analisi:
  • Per gli Esperimenti 1 e 2, le proporzioni di assegnazione del sesso e di astensione sono state analizzate utilizzando test binomiali esatti.
  • Per l'Esperimento 3, le liste diagnostiche sono state confrontate utilizzando quattro metriche: similarità di Jaccard (sovrapposizione), accordo a livello di item (allineamento del ranking), caratteristica di match cumulativo (punto di divergenza) e tau-b di Kendall (similarità di ordinamento).
  • La significatività statistica è stata valutata tramite test Chi-quadrato, ANOVA e test della somma dei ranghi di Wilcoxon.

Risultati Chiave

1. Distorsione nell'Assegnazione del Sesso

Tutti i modelli hanno dimostrato bias significativi e specifici per modello nell'assegnare il sesso a vignette cliniche neutre ($\chi^2_{(3)}=363.6, p<0.001$).

• ChatGPT: Ha mostrato il più forte skew femminile, assegnando il sesso femminile nel 70% dei casi alla temperatura 0.5.
• DeepSeek & Claude: Hanno esibito un moderato bias femminile (61% e 59% rispettivamente).
• Gemini: Ha mostrato uno skew maschile costante, assegnando il sesso femminile solo nel 36% dei casi.
• Effetto della Temperatura: La temperatura da sola non ha avuto un effetto principale significativo sull'assegnazione del sesso ($p=0.95$), sebbene sia esistita un'interazione significativa tra modello e temperatura.

2. Pattern Specifici per Specialità

Il bias non era uniforme tra i domini medici; rispecchiava gli stereotipi clinici noti:

• Specialità Etichettate come Femminili: Psichiatria, reumatologia ed ematologia sono state etichettate come femminili nel 100% dei casi in tutti i modelli. L'endocrinologia era prevalentemente femminile (60–100%).
• Specialità Etichettate come Maschili: Cardiologia e urologia sono state etichettate come maschili nel 100% dei casi. La pneumologia era prevalentemente maschile (95–100% per la maggior parte dei modelli).

3. Impatto dell'Astensione

Quando era permesso astenersi:

• ChatGPT: Si è astenuto nel 100% dei casi in tutte le temperature, eliminando efficacemente l'etichettatura esplicita del sesso ma rendendo il modello non informativo per questo compito.
• Altri Modelli: Claude (84%), Gemini (80%) e DeepSeek (58%) si sono astenuti frequentemente alla temperatura 0.5.
• Impatto a Valle: Fondamentalmente, anche quando i modelli si astenevano dall'etichettatura esplicita, le differenze nelle diagnosi differenziali dipendenti dal sesso persistevano.

4. Divergenza nel Ragionamento Diagnostico

Generando diagnosi differenziali per varianti maschili vs femminili della stessa vignetta:

• Tassi di Divergenza: Alla temperatura 0.5, il 58–78% dei confronti ha prodotto liste divergenti (differenti per contenuto o ordine). ChatGPT ha mostrato la divergenza più alta (78%), mentre DeepSeek la più bassa (58%).
• Metriche di Similarità: La sovrapposizione diagnostica (similarità di Jaccard) è diminuita all'aumentare della temperatura per tutti i modelli. ChatGPT ha mostrato il declino più marcato (0.76 a temp 0.2 vs 0.50 a temp 1.0).
• Conclusione: L'aumento della temperatura aumentava la variabilità ma non eliminava le differenze diagnostiche dipendenti dal sesso. Il bias sottostante sembrava intrinseco alle rappresentazioni apprese dal modello piuttosto che un artefatto del campionamento.

Significato e Rivendicazioni

Gli autori affermano che questo studio fornisce la prima prova empirica diretta che il bias di sesso non è meramente teorico, ma rilevabile negli output di ampiamente accessibili LLM general-purpose applicati alla sanità.

• Il Bias è Intrinseco e Specifico del Modello: La direzione e l'entità del bias sono determinate principalmente dall'architettura del modello e dai dati di addestramento, non dalle impostazioni di temperatura al momento dell'inferenza. Diversi modelli commerciali codificano distinti "prior di sesso".
• Gli Stereotipi Sovvertono la Neutralità Clinica: I modelli replicano stereotipi linguistici e culturali radicati (ad esempio, associare la psichiatria alle donne e l'urologia agli uomini) invece di eseguire un ragionamento neutrale basato sull'evidenza. Ciò suggerisce che i modelli stiano compiendo un "completamento dello stereotipo" piuttosto che un'inferenza bayesiana sulle statistiche della popolazione.
• Limiti della Configurazione: Cambiamenti di configurazione semplici, come permettere l'astensione o regolare la temperatura, non sono sufficienti a neutralizzare il bias. Sebbene l'astensione riduca l'etichettatura esplicita, non riesce a prevenire le differenze diagnostiche a valle.
• Implicazioni Cliniche: I risultati argomentano contro l'uso di LLM general-purpose per guidare decisioni diagnostiche o terapeutiche senza una rigorosa supervisione. Gli autori raccomandano:
  • Configurazioni del modello documentate e conservative.
  • Audit dei dati clinici a livello di specialità per identificare i "hotspot" di bias.
  • Continua supervisione umana durante l'implementazione di questi modelli.
  • Cambiamenti strutturali nello sviluppo dei modelli, inclusi corpora di addestramento curati e obiettivi di apprendimento per rinforzo che penalizzino il completamento degli stereotipi.

Lo studio conclude che, sebbene gli LLM possano generare testi clinici fluidi, la loro iterazione attuale presenta bias di sesso stabili e sistematici che compromettono la sicurezza e l'equità, rendendo necessaria una transizione dall'impiego general-purpose verso sistemi costruiti ad hoc, auditati e supervisionati dall'uomo.