Strategic Costs of Perceived Bias in Fair Selection

1. Il Problema

I sistemi meritocratici (ammissioni universitarie, assunzioni, curatela di contenuti) mirano a premiare imparzialmente abilità e sforzo, basandosi su indicatori osservabili piuttosto che su identità o status sociale. Tuttavia, persistono disparità significative nella rappresentanza e nei risultati tra gruppi diversi (genere, razza, classe).

Mentre alcune spiegazioni attribuiscono questi gap a barriere strutturali (accesso diseguale alle risorse) o a pregiudizi impliciti nei processi di selezione, il paper si concentra su un altro fattore: le differenze nelle percezioni del valore post-selezione.
Gli autori ipotizzano che candidati di gruppi svantaggiati possano percepire un ritorno inferiore dal successo (a causa di divari salariali storici, bias algoritmici, o contesti sociali), il che porta a una scelta razionale di investire meno sforzo prima della selezione. Anche se il processo di selezione è formalmente imparziale (basato solo sul merito), queste differenze nelle aspettative generano disparità comportamentali che si propagano all'indietro, perpetuando la disuguaglianza.

2. Metodologia e Modello

Gli autori formulano un modello di teoria dei giochi basato sulla teoria delle aste e dei contesti competitivi (contest theory).

• Impostazione del gioco:

  • Ci sono $n$ agenti divisi in due gruppi: un gruppo avvantaggiato $G_1$ (frazione $1-\alpha$) e un gruppo svantaggiato $G_2$ (frazione $\alpha$).
  • Gli agenti competono per $k = c \cdot n$ posizioni (dove $c$ è la frazione di selezione).
  • Ogni agente $i$ ha una valutazione $v_i$ (il beneficio percepito di essere selezionato) e un'abilità iniziale $a_i$.
  • La distribuzione delle valutazioni per $G_1$ è $p_1$. Per $G_2$, la distribuzione è $p_2$, modellata come una versione "distorta" di $p_1$ con un parametro di bias $\rho \in (0, 1]$. Specificamente, $p_2(v) = \frac{1}{\rho} p_1(\frac{v}{\rho})$, il che implica che il valore atteso di $G_2$ è $\rho$ volte quello di $G_1$.
  • Gli agenti scelgono uno sforzo $e_i$ per massimizzare il payoff atteso: $\pi = P(\text{selezione}) \cdot v_i - e_i$.
  • Il "merito" osservabile è $s_i = e_i + a_i$. La selezione avviene scegliendo i $k$ agenti con il merito più alto.

• Analisi Asintotica:

  • Poiché trovare l'Equilibrio di Nash (NE) esatto per $n$ finito è complesso a causa dell'asimmetria, gli autori analizzano il limite per $n \to \infty$ (grande popolazione).
  • In questo limite, dimostrano l'esistenza e l'unicità di una strategia di equilibrio simmetrica caratterizzata da una soglia unica $t$.

3. Risultati Teorici Chiave

A. Caratterizzazione dell'Equilibrio di Nash (Teorema 4.1)

Nel limite di grandi popolazioni, la strategia ottimale per ogni agente è una funzione di soglia:

• Se la somma di valutazione e abilità iniziale ($v + a$) è inferiore a una soglia critica $t$, l'agente non investe sforzo ($e=0$).
• Se $v + a \ge t$, l'agente investe esattamente lo sforzo necessario per raggiungere il punteggio $t$ (cioè $e = \max\{t - a, 0\}$).

La soglia $t$ è l'unica soluzione all'equazione:
$$(1-\alpha)F_1(t) + \alpha F_2(t) = 1 - c$$
dove $F_\ell$ è la funzione di distribuzione cumulativa (CDF) della somma $v+a$ per il gruppo $\ell$.
Questo risultato è controintuitivo: nonostante le valutazioni siano diverse tra i gruppi, la soglia di punteggio necessaria per essere selezionati è identica per entrambi i gruppi nel limite asintotico. La disparità emerge dal fatto che gli agenti del gruppo svantaggiato hanno valutazioni più basse, quindi meno di loro superano la soglia $t$.

B. Metriche di Performance

Gli autori derivano formule chiuse per tre metriche fondamentali in funzione dei parametri $\rho$ (bias), $c$ (selettività) e $\alpha$ (dimensione del gruppo):

1. Rapporto di Rappresentanza ($r_R$): Misura la parità nella frazione di agenti selezionati tra i due gruppi.
2. Rapporto di Benessere Sociale ($r_S$): Misura la parità nel payoff medio (valore meno sforzo) tra i gruppi.
3. Ricavo Istituzionale ($RV$): Misura il merito medio degli agenti selezionati.

Comportamento delle metriche:

• Esiste una soglia critica per $\rho$. Se il bias è troppo forte (cioè $\rho$ è troppo basso, specificamente $\rho < 1 - \frac{c}{1-\alpha}$), nessun membro del gruppo svantaggiato partecipa ($r_R = 0$).
• Al di sopra di questa soglia, $r_R$ e $r_S$ crescono in modo non lineare all'aumentare di $\rho$ e di $c$ (diminuendo la selettività).
• Un aumento della selettività (diminuzione di $c$) riduce drasticamente la rappresentanza e il benessere del gruppo svantaggiato, spesso in modo sproporzionato.

4. Interventi e Ottimizzazione

Il paper propone un framework di ottimizzazione per le istituzioni che desiderano mitigare le disparità rispettando vincoli di equità (es. la regola dell'80% o $r_R \ge 0.8$).

• Leve di intervento:

  1. Aumentare $\rho$ (Valutazione percepita): Interventi che migliorano le prospettive del gruppo svantaggiato (es. politiche salariali, supporto, rimozione di bias algoritmici).
  2. Aumentare $c$ (Ridurre la selettività): Aumentare il numero di posizioni disponibili.

• Analisi dei costi:
  Gli autori formulano un problema di ottimizzazione vincolata per minimizzare il costo totale (costo delle politiche + perdita di ricavo istituzionale) necessario per raggiungere un target di equità $\tau$.

  • Risultato empirico (caso studio JEE Advanced): Per target di equità moderati, è più conveniente aumentare $c$ (allargare l'accesso). Per target di equità molto alti (es. $>0.92$), diventa più efficace intervenire sul parametro $\rho$ (migliorare la percezione del valore), poiché la selettività non può essere ridotta indefinitamente senza compromettere la qualità.

5. Significato e Contributi

• Ponte tra spiegazioni razionali e strutturali: Il modello dimostra come disparità strutturali (valutazioni diverse) possano portare a comportamenti razionali (meno sforzo) che, anche in sistemi "fair", generano risultati ingiusti.
• Implicazioni per l'AI: Il paper evidenzia come strumenti di IA (LLM) che forniscono consigli di carriera o salariali distorti possano agire come un meccanismo di feedback negativo, riducendo $\rho$ percepito e aggravando le disparità prima ancora che la selezione avvenga.
• Strumento di Policy: Fornisce formule analitiche per quantificare quanto un'istituzione debba intervenire (in termini di riduzione del bias o aumento delle quote) per raggiungere specifici obiettivi di diversità, offrendo una base quantitativa per il design di politiche di equità.

In sintesi, il lavoro dimostra che la "fairness" formale (selezione cieca al gruppo) non è sufficiente se le percezioni di valore sono asimmetriche; la soluzione richiede interventi mirati sulle percezioni o sulla struttura competitiva del sistema.