Position: Beyond Sensitive Attributes, ML Fairness Should Quantify Structural Injustice via Social Determinants

Sintesi Tecnica: Oltre gli Attributi Sensibili, l'Equità del ML Dovrebbe Quantificare l'Ingiustizia Strutturale tramite i Determinanti Sociali

Definizione del Problema
La ricerca attuale sull'equità algoritmica opera prevalentemente la definizione di iniquità come discriminazione lungo gli attributi sensibili (ad es., razza, sesso, genere). Sebbene questo approccio affronti il pregiudizio a livello individuale, gli autori sostengono che esso non riesca a catturare l'ingiustizia strutturale: le iniquità sistemiche istanziate attraverso i determinanti sociali. I determinanti sociali sono variabili contestuali (ad es., deprivazione del quartiere, finanziamento scolastico, esposizione ambientale) che plasmano opportunità e risultati, ma sono definite a livello di luoghi, istituzioni o politiche piuttosto che degli individui. I paradigmi tecnici prevalenti spesso trattano questi fattori contestuali come rumore da normalizzare o li eliminano interamente durante l'elaborazione dei dati, rendendo così invisibile l'ingiustizia strutturale. Di conseguenza, le strategie di mitigazione focalizzate esclusivamente sugli attributi sensibili possono involontariamente introdurre nuove forme di ingiustizia strutturale o non riuscire ad affrontare le cause profonde della disparità.

Metodologia
Il documento impiega un approccio multifocale che combina analisi concettuale, modellazione teorica e validazione empirica:

1. Quadro Concettuale: Gli autori definiscono gli Attributi Sensibili come caratteristiche individuali intrinseche e protette, e i Determinanti Sociali come variabili a livello di contesto che soddisfano tre criteri: (1) definite a livello di contesto (ad es., quartiere), (2) caratterizzate da un contenuto socio-strutturale (plasmato da politiche o allocazione di risorse) e (3) che comportano una stratificazione esogena (raggruppamenti non derivati da tratti individuali).
2. Modellazione Teorica: Viene costruito un modello stilizzato di ammissione universitaria per analizzare la tensione tra la mitigazione centrata sugli attributi sensibili (ad es., quote) e la giustizia strutturale. Il modello incorpora la composizione demografica specifica per regione e la dominanza stocastica nella preparazione accademica per derivare condizioni in forma chiusa sotto le quali le strategie di mitigazione generano oneri imprevisti.
3. Analisi Empirica (Dati del Censimento): Gli autori collegano le Public Use Microdata Areas (PUMAs) del censimento statunitense con l'Area Deprivation Index (ADI). Visualizzano le distribuzioni del reddito per specifici gruppi demografici (ad es., donne afroamericane) attraverso diversi livelli di deprivazione dell'area per dimostrare come i determinanti sociali creino eterogeneità all'interno dei gruppi sensibili.
4. Analisi Empirica (Sanità): Utilizzando record de-identificati di OSF HealthCare (circa 54.000 record di mammografia), gli autori analizzano i modelli di screening del tumore al seno. Confrontano le età di screening tra regioni "ricche" e "povere" (definite dall'ADI) e conducono una simulazione semi-sintetica per valutare come le interviste politiche mirate ai determinanti sociali (ad es., migliorare i modelli di screening nelle regioni povere) influenzino i tassi di rilevamento precoce.
5. Critica Tecnica: Il documento esamina gli esistenti framework di equità causale, dimostrando la loro mancata corrispondenza con le strutture a livello di comunità. Sostiene che i grafi causali a livello individuale non possano rappresentare adeguatamente le influenze bidirezionali tra individui e le loro comunità o la natura aggregata dei determinanti sociali.

Contributi Chiave

• Riformulazione dell'Equità: Il documento propone un passaggio dall'audit dell'iniquità intesa solo come discriminazione lungo gli attributi sensibili alla quantificazione dell'ingiustizia strutturale tramite i determinanti sociali.
• Paradosso Teorico: Attraverso il modello di ammissione universitaria, gli autori dimostrano un risultato controintuitivo: la mitigazione centrata sugli attributi sensibili (come le quote) è meno propensa a svantaggiare individui non protetti in contesti severamente ingiusti, ma diventa sempre più probabile che generi nuove forme di ingiustizia strutturale man mano che le condizioni migliorano. Nello specifico, tali strategie possono imporre soglie competitive più elevate agli candidati non protetti provenienti da regioni svantaggiate che affrontano barriere contestuali simili a quelle dei gruppi protetti.
• Evidenza Empirica di Eterogeneità: L'analisi dei dati del Censimento e sanitari rivela che individui con identici attributi sensibili sperimentano risultati vastamente differenti in base ai loro determinanti sociali (ad es., il reddito mediano per le donne afroamericane varia significativamente in base all'ADI; l'età di screening per le donne bianche varia di oltre 3 anni tra regioni ricche e povere).
• Critica dei Paradigmi Correnti: Gli autori mostrano come i benchmark standard (ad es., Adult, Folktables) spesso eliminino le variabili relative all'indirizzo, e come i modelli causali operino tipicamente a livello individuale, fallendo nel catturare le forze strutturali a livello di comunità.
• Pilastri Azionabili: Il documento delinea tre pilastri per il lavoro futuro: (1) Governance dei Dati (uso privacy-aware di aggregati contestuali), (2) Design delle Metriche (metriche di equità dinamiche e adattabili al contesto come la "Parità dei Determinanti Sociali"), e (3) Modellazione Causale (modelli multi-livello che trattano i determinanti sociali come leve di intervento esplicite).

Risultati

• Teorici: Il Teorema 4.5 stabilisce che le ammissioni basate su quote possono svantaggiare i candidati non appartenenti alle Minoranze Sottorappresentate (URM) provenienti da regioni povere più dei candidati URM provenienti da regioni ricche, particolarmente quando l'ingiustizia strutturale migliora e il divario nella preparazione accademica si riduce.
• Empirici (Censimento): Le distribuzioni del reddito per le donne afroamericane sono pesantemente sbilanciate verso redditi più bassi nelle PUMAs ad alto ADI (alta deprivazione) rispetto alle PUMAs a basso ADI, nonostante gli identici attributi sensibili.
• Empirici (Sanità): Anche all'interno di un sistema sanitario unificato con linee guida uniformi, l'età mediana del primo screening del tumore al seno per le donne bianche differisce di quasi 5 anni tra regioni ricche e povere. Le simulazioni semi-sintetiche mostrano che l'adozione di modelli di screening "migliorati" (mimando le regioni ricche) nelle regioni povere aumenta i rilevamenti precoci da circa 1.367 a circa 1.461 per 10.000 screening, dimostrando che gli interventi strutturali producono guadagni non trascurabili.
• Tecnici: Imporre la Parità Demografica (DP) includendo i determinanti sociali come feature non riduce costantemente la disparità e può talvolta peggiorare le violazioni osservate quando gli esiti sono stratificati per determinanti sociali.

Significatività e Rivendicazioni
Il documento sostiene che il campo dell'equità nel ML debba andare oltre la "non-discriminazione" (focalizzandosi sugli attributi sensibili) per affrontare la "giustizia strutturale". Gli autori affermano che, senza l'audit e la quantificazione dell'ingiustizia strutturale tramite i determinanti sociali, le strategie di mitigazione rischiano di essere superficiali o addirittura controproducenti. Essi sostengono che i determinanti sociali non siano semplicemente "un altro" attributo sensibile o un proxy di esso, ma rappresentino leve strutturali fondamentali che richiedono approcci tecnici distinti, inclusi nuovi framework di governance dei dati, metriche dinamiche e modelli causali capaci di gestire le interazioni a livello di comunità. L'obiettivo finale è abilitare interventi politici che siano meglio informati dai driver sistemici della disuguaglianza piuttosto che solo dai risultati demografici.