Gender-Dependent Diagnostic Substitution in LLM Medical Triage: Same Symptoms, Unequal Urgency

Sintesi Tecnica: Sostituzione Diagnostica Dipendente dal Genere nel Triage Medico tramite LLM

Problematica
Questo studio indaga se i Large Language Models (LLM) integrati nelle applicazioni sanitarie producano raccomandazioni di triage medico disparatate per presentazioni cliniche identiche quando variano solo il genere dichiarato e l'età del paziente. La ricerca affronta un requisito critico per l'IA clinica: la parità demografica nella valutazione dell'urgenza. Nello specifico, testa l'ipotesi che sintomi neurologici identici debbano produrre raccomandazioni di urgenza equivalenti indipendentamente dal genere, a meno che il genere non sia clinicamente rilevante per l'urgenza dell'azione (distinta dalla diagnosi stessa). Il lavoro è motivato dai documentati bias clinici umani in cui i sintomi neurologici e cardiaci delle donne vengono frequentemente attribuiti a cause benigne o psicosomatiche, portando a iter diagnostici ritardati o meno aggressivi.

Metodologia
Gli autori hanno condotto un esperimento di variazione controfattuale del paziente (CPV) utilizzando tre famiglie di LLM allo stato dell'arte, di livello di implementazione: Gemini 3.5 Flash, Claude Sonnet 4.6 e GPT-5.4-mini. Questi modelli specifici sono stati selezionati in quanto rappresentano i candidati più probabili per l'integrazione in strumenti di controllo dei sintomi in produzione, grazie ai loro profili di costo e latenza.

• Disegno Sperimentale: Lo studio ha utilizzato un profilo di sintomo neurologico standardizzato e singolo, che descrive segni di aumento della pressione intracranica (cefalea persistente non responsiva agli analgesici, visione offuscata, nausea mattutina e disturbi visivi).
• Condizioni: Il testo dei sintomi era identico in 30 prove per condizione, variando solo gli identificatori demografici. Le condizioni includevano tre gruppi di età (25, 38, 65) incrociati con due generi (maschio, femmina), oltre a un baseline senza genere specificato (età 38). Ciò ha portato a un totale di 630 prove (210 per modello).
• Vincoli di Output: I modelli sono stati interrogati tramite API (temperatura 0.3) per restituire un JSON strutturato contenente una diagnosi, un punteggio di gravità (1–10), una classificazione di urgenza (Emergenza/Urgente/Routine), un'azione raccomandata (Pronto Soccorso/Appuntamento medico/Autogestione) e test differenziali.
• Analisi: L'outcome primario è stato il tasso di ricorso al Pronto Soccorso (ER). L'analisi secondaria si è concentrata sulle diagnosi specifiche generate. La significatività statistica è stata determinata tramite test esatti di Fisher con correzione di Bonferroni, e le dimensioni dell'effetto sono state calcolate tramite l'h di Cohen.

Risultati Chiave
Lo studio ha identificato una disparità di genere sistematica e marcata nell'urgenza del triage per i pazienti giovani, che è stata guidata da un meccanismo denominato sostituzione diagnostica.

1. Disparità nei ricorsi al Pronto Soccorso (ER): Le giovani donne hanno ricevuto tassi di ricorso al Pronto Soccorso significativamente inferiori rispetto agli uomini della stessa età, nonostante sintomi identici e punteggi di gravità comparabili (7–9/10).

   • Età 25:
     • Gemini: 0% ER per le donne vs 23,3% per gli uomini ($p < 0,001$).
     • Claude: 6,7% ER per le donne vs 96,7% per gli uomini ($p < 0,001$).
     • GPT: 6,7% ER per le donne vs 66,7% per gli uomini ($p < 0,001$).
   • Età 65: La disparità è scomparsa interamente in tutti i modelli, con entrambi i generi che ricevevano il 90–100% di raccomandazioni per il Pronto Soccorso.

2. Meccanismo: Sostituzione Diagnostica: I modelli non si sono limitati ad assegnare un'urgenza inferiore alla stessa diagnosi per le donne. Al contrario, hanno alterato la diagnosi stessa basandosi su priorità epidemiologiche legate al genere.

   • Giovani Donne: I modelli si sono ancorati prevalentemente all'Ipertensione Intracranica Idiopatica (IIH), una condizione statisticamente più comune nelle donne in età fertile. Di conseguenza, hanno indirizzato queste pazienti verso appuntamenti ambulatoriali, assumendo che la IIH sia gestita in modo non emergenziale.
   • Giovani Uomini: I modelli hanno dato priorità alle lesioni occupanti spazio (masse, tumori) nella diagnosi differenziale, innescando raccomandazioni di urgenza elevata al Pronto Soccorso per escludere tali condizioni.
   • Errore Clinico: Gli autori notano che, sebbene la IIH sia una diagnosi differenziale valida per le giovani donne, i sintomi descritti (disturbo visivo progressivo, cefalea implacabile) costituiscono segnali di allarme per l'aumento della pressione intracranica che richiedono un'valutazione urgente indipendentemente dal fatto che si tratti di IIH o di una massa. I modelli hanno valutato correttamente la gravità, ma hanno erroneamente disaccoppiato l'urgenza dalla diagnosi.

3. Modulazione dell'Età: Il bias era strettamente dipendente dall'età. All'età di 65 anni, i modelli hanno smesso di ancorarsi alla IIH per le donne (in linea con l'epidemiologia della IIH che diminuisce dopo la menopausa) e si sono spostati su differenziali appropriati per l'età (ad es. arterite temporale, malattie cerebrovascolari) che innescavano percorsi urgenti per entrambi i generi.

Contributi

1. Dimostrazione di Disparità Sistemica: Il documento fornisce prove empiriche di significative disparità di genere nell'urgenza del triage tra tre principali famiglie di LLM, con dimensioni dell'effetto che raggiungono l'h di Cohen > 2,2.
2. Identificazione del Meccanismo: Identifica la sostituzione diagnostica come il meccanismo condiviso, dove i modelli selezionano una diagnosi legata al genere (IIH) che inavvertitamente sopprime l'urgenza, invece di applicare un euristica grezza di "le donne hanno un'urgenza minore".
3. Priorità Epidemiologiche vs Urgenza Clinica: Lo studio dimostra che il bias è guidato da priorità cliniche statistiche apprese dai dati di addestramento. I modelli replicano gli errori clinici umani in cui una diagnosi associata al genere viene utilizzata per chiudere prematuramente il ciclo diagnostico, riducendo la necessità percepita di cure urgenti.
4. Open Science: Gli autori rilasciano tutto il codice, i prompt e i risultati grezzi per facilitare ulteriori audit.

Significatività e Rivendicazioni
Il documento sostiene che gli LLM clinici replicano i documentati bias clinici umani non attraverso istruzioni esplicite, ma apprendendo e applicando priorità epidemiologiche che sono clinicamente inappropriate nel contesto della valutazione dell'urgenza. Gli autori sostengono che:

• L'urgenza deve essere disaccoppiata dalla diagnosi: Per i sintomi che indicano un aumento della pressione intracranica, la necessità di una valutazione emergenziale dovrebbe essere determinata dalla gravità dei sintomi, non dalla probabilità di una specifica diagnosi come la IIH.
• I requisiti di audit devono evolversi: L'audit dei sistemi di triage basati su IA richiede l'analisi del ragionamento diagnostico (la diagnosi differenziale), non solo dell'azione finale (Pronto Soccorso vs Medico). Un modello può produrre punteggi di gravità elevati pur indirizzando i pazienti verso percorsi di cura inferiori tramite sostituzione diagnostica.
• L'accuratezza epidemiologica non è sicurezza clinica: Un modello che identifica correttamente che la IIH è più comune nelle giovani donne non è sufficiente; fallisce se questa probabilità statistica porta a una riduzione dell'urgenza di cura per una condizione che richiede un'indagine immediata.

Gli autori concludono che, sebbene i modelli non siano "sessisti" in senso crudo, hanno appreso un pattern specifico, clinicamente fondato, che produce risultati peggiori per le donne dando priorità alla probabilità statistica rispetto alla necessità immediata di un'indagine urgente.