Fairness in Limited Resources Settings

1. Il Problema

Il lavoro affronta il problema della fairness (equità) nelle decisioni automatizzate basate sull'apprendimento automatico (machine learning) in contesti di risorse limitate.
In molti scenari critici (assegnazione di appuntamenti medici, posti in programmi speciali per studenti, finanziamenti a progetti), l'obiettivo è allocare una risorsa scarsa agli individui che ne trarranno il maggior beneficio (es. i pazienti a più alto rischio o gli studenti con il maggior potenziale).

Il nucleo del problema risiede nella combinazione di due aspetti:

1. Predizione del rischio: Stimare la probabilità che un individuo abbia una certa caratteristica ($y=1$).
2. Allocazione delle risorse: Selezionare un sottoinsieme di individui basato su tali predizioni, soggetto a un vincolo di capacità (es. solo il 1% della popolazione può essere selezionato).

Il paper evidenzia come i divari informativi tra diversi gruppi demografici (ad esempio, dati medici meno completi per un gruppo rispetto a un altro) possano portare a una distribuzione sbilanciata delle risorse. Se un algoritmo predice meglio i rischi per un gruppo $S_1$ rispetto a un gruppo $S_2$, un'ottimizzazione puramente utilitaristica (massimizzazione del beneficio totale) tenderà ad allocare quasi tutte le risorse a $S_1$, ignorando $S_2$. L'obiettivo è definire e analizzare metriche di equità che mitigino questo squilibrio senza compromettere eccessivamente l'utilità complessiva.

2. Metodologia e Formalizzazione

Gli autori modellano il processo decisionale come un processo in due fasi:

1. Apprendimento di un predittore: Si ottiene un modello $p: \mathcal{X} \to [0,1]$ che stima la probabilità di $y=1$.
2. Post-processing: Si applica una funzione di soglia randomizzata $\tau$ al predittore per determinare l'allocazione $f(x)$, rispettando i vincoli di capacità e di equità.

Definizioni Chiave:

• Capacità: La frazione attesa della popolazione a cui viene assegnata la risorsa ($E[f(x)] = c$).
• Utilità: Definita come il numero totale di veri positivi (True Positive Count), ovvero $E[f(x)y]$. Questo rappresenta il numero totale di successi nell'allocazione (es. pazienti correttamente diagnosticati).
• Tail Dominance (Dominanza della Coda): Un concetto tecnico usato per modellare il divario informativo. Un gruppo $S_1$ ha "tail dominance" su $S_2$ se il predittore identifica più facilmente gli individui ad alto rischio in $S_1$ rispetto a $S_2$ (la coda della distribuzione delle probabilità è più pesante per $S_1$).

3. Contributi Chiave

A. Adattamento delle Definizioni di Fairness nell'Allocazione di Risorse

Gli autori adattano definizioni classiche dell'allocazione di risorse (Max-Min e Proporzionale) al contesto della predizione:

• Max-Min Fairness: Massimizza il minimo numero di veri positivi atteso tra i gruppi.
• Proporzional Fairness (Normalizzata): Massimizza la somma pesata dei logaritmi dei veri positivi attesi per gruppo, normalizzando per la dimensione del gruppo.

B. Connessioni tra Definizioni di Fairness

Il paper stabilisce condizioni matematiche in cui le definizioni di equità algoritmica (come l'Equal Opportunity) coincidono con quelle di allocazione di risorse (come il Max-Min).

• In un setting non degenere (dove risorse aggiuntive migliorano sempre l'utilità) e con tassi di base (base rates) uguali tra i gruppi, massimizzare l'utilità sotto vincolo di Equal Opportunity equivale a soddisfare il Max-Min fairness.
• Tuttavia, in presenza di tassi di base diversi, l'Equal Opportunity può allocare risorse in modo diverso rispetto al Max-Min.

C. Analisi del "Prezzo della Fairness" (Price of Fairness)

Il contributo teorico più significativo è l'analisi del costo (in termini di perdita di utilità/veri positivi) imposto dall'adozione di diverse definizioni di equità:

• Equal Opportunity e Max-Min: Il paper dimostra che, in presenza di divari informativi (tail dominance), queste definizioni possono avere un prezzo della fairness illimitato (unbounded). In casi estremi, per garantire l'equità, l'algoritmo potrebbe essere costretto ad allocare la stragrande maggioranza delle risorse al gruppo su cui si ha meno informazione, portando il numero totale di veri positivi a zero (o vicino a zero). Questo accade perché, per bilanciare l'utilità in gruppi con capacità predittiva diversa, il sistema deve "sovra-allocare" al gruppo meno informato.
• Proporzional Fairness: Gli autori dimostrano che l'adattamento della Proporzional Fairness ha un prezzo della fairness limitato (bounded). Anche se può allocare risorse al gruppo meno informato, garantisce che l'utilità totale non crolli drasticamente. Matematicamente, la Proporzional Fairness agisce come una regolarizzazione moltiplicativa che bilancia la distanza dal Max-Min e la massimizzazione dell'utilità totale.

D. Nuova Definizione: "Achievable Equal Opportunity"

Per risolvere il problema del prezzo illimitato, gli autori propongono una nuova definizione: Achievable Equal Opportunity.

• Invece di equalizzare i tassi di veri positivi su tutti gli individui con $y=1$ (anche quelli irraggiungibili a causa della scarsità di risorse), questa definizione considera solo l'insieme raggiungibile (achievable set): gli individui che potrebbero essere selezionati se tutte le risorse fossero dedicate a quel gruppo specifico.
• Risultato: Questa definizione garantisce un prezzo della fairness limitato (almeno $1/m$ dell'utilità ottimale, dove $m$ è il numero di gruppi), offrendo una soluzione più robusta per scenari con risorse scarse.

4. Risultati Principali

• Teorema 5.1 & 5.3: Dimostrano che sotto condizioni di tail dominance, Equal Opportunity e Max-Min possono portare a allocare la maggior parte delle risorse al gruppo meno informato, riducendo drasticamente l'utilità totale (True Positive Count).
• Teorema 5.5: Dimostra che la Proporzional Fairness garantisce che l'utilità ottenuta sia almeno la metà (o una frazione legata alla dimensione del gruppo dominante) dell'utilità ottimale senza vincoli di equità.
• Claim 6.4: Dimostra che la nuova "Achievable Equal Opportunity" ha un prezzo della fairness limitato, garantendo che l'utilità totale non scenda sotto un certo limite proporzionale al numero di gruppi.
• Simulazioni: I grafici (Figura 1, 2, 3) confermano che in scenari con grandi divari informativi, le soluzioni basate su Max-Min o Equal Opportunity sacrificano drasticamente l'efficienza, mentre la Proporzional Fairness offre un compromesso ("middle ground") più stabile.

5. Significato e Implicazioni

Questo lavoro è fondamentale perché:

1. Smaschera i limiti delle definizioni standard: Mostra che definizioni di equità ben consolidate come l'Equal Opportunity, se applicate ciecamente in contesti di risorse limitate con dati disomogenei, possono portare a risultati controproducenti (bassa utilità globale e allocazione inefficiente).
2. Introduce un nuovo paradigma di regolarizzazione: Identifica la Proporzional Fairness come una forma di regolarizzazione moltiplicativa, offrendo una base teorica per la sua superiorità in termini di robustezza rispetto al Max-Min in questi contesti.
3. Propone soluzioni pratiche: La definizione di "Achievable Equal Opportunity" offre un approccio realistico per i decisori che devono bilanciare equità ed efficienza, riconoscendo che non tutti i "bisogni" sono raggiungibili con le risorse disponibili.
4. Impatto settoriale: Le conclusioni sono direttamente applicabili alla sanità (allocazione di posti letto), all'istruzione (borse di studio) e alla finanza (investimenti), dove la scarsità di risorse rende critica la scelta della metrica di equità corretta.

In sintesi, il paper fornisce un quadro teorico rigoroso per comprendere i compromessi (trade-off) tra equità ed efficienza, suggerendo che in scenari di risorse limitate, le definizioni di equità devono essere adattate per evitare penalità di utilità catastrofiche.