Riepilogo Tecnico: Geometria della Regressione Equa Rilassata

Enunciato del Problema

Il lavoro affronta la sfida di imporre la Parità Demografica (DP) nelle attività di regressione, specificamente nell'setting unaware (non consapevole) in cui gli attributi sensibili ($S$) non sono disponibili al momento dell'inferenza. Sebbene esistano metodi di post-processing per l'equità esatta nell'ambito "aware" (consapevole, dove $S$ è osservato), mancano metodi fondati per raggiungere un'equità rilassata (che bilancia accuratezza ed equità) nell'ambito unaware. Gli approcci esistenti spesso si affidano a classificatori proxy rumorosi o a discretizzazioni basate su griglie che non riescono a catturare la struttura geometrica continua del problema, portando a compromessi subottimali tra accuratezza ed equità.

Metodologia

Gli autori propongono un quadro unificato che formula la regressione equa rilassata come un problema di Trasporto Ottimo (OT). L'idea centrale è caratterizzare la funzione di previsione ottimale tramite mappe OT che trasportano le distribuzioni condizionate del predittore di base verso una distribuzione target comune, minimizzando al contempo una penalità per l'ingiustizia.

1. Quadro Unificato

Il quadro unifica sia l'ambito aware che quello unaware definendo il problema di regressione in termini della misura firmata $\chi_+ - \chi_-$ (la differenza tra le leggi delle caratteristiche nei gruppi positivo e negativo).

• Setting Unaware: Il predittore ottimale si basa sulla probabilità di gruppo firmata $\Delta(x) = \frac{P(S=+|X=x)}{p_+} - \frac{P(S=-|X=x)}{p_-}$. Il problema si riduce al trasporto di misure 2D $\mu^{\pm}_{\eta, \Delta}$ (definite sullo spazio delle previsioni di base $\eta(x)$ e $\Delta(x)$) verso uno spazio di previsione 1D.
• Setting Aware: Questo viene recuperato come caso particolare in cui $\Delta(x)$ è deterministico basato su $S$ osservato, riducendo il problema al trasporto 1D.

2. Equità Rilassata tramite Penalità

Invece di imporre una DP esatta ($\lambda \to \infty$), gli autori minimizzano un rischio penalizzato:
$$\min_f \mathbb{E}[(f(X) - \eta(X))^2] + \lambda m U_D(f)$$
dove $U_D(f)$ è una misura di discrepanza tra le immagini spinte delle variazioni positive e negative della misura firmata. Il lavoro analizza due specifiche penalità:

• Wasserstein-2 Quadrato ($W_2^2$): Penalizza l'entità dello spostamento nello spazio delle etichette.
• Variazione Totale (TV): Penalizza la massa di probabilità non sovrapposta, ignorando le distanze tra valori distinti.

3. Soluzioni in Forma Chiusa

Un contributo teorico chiave è la derivazione di espressioni esatte in forma chiusa per le funzioni di previsione ottimali quasi-eque.

• Rilassamento $W_2^2$: La soluzione comporta un'interpolazione ponderata tra la previsione di base e l'obiettivo. Il piano di trasporto ottimale è caratterizzato da una specifica funzione di costo $C_{\lambda, c_2}$, e le mappe di previsione $T^\pm$ sono combinazioni lineari degli input ponderate dai rapporti di densità locali.
• Rilassamento TV: La soluzione esibisce un comportamento di soglia rigida (hard-thresholding). Se il costo di unire due previsioni è inferiore a una soglia $\lambda$, esse vengono fuse in un baricentro ponderato; altrimenti, rimangono invariate. Ciò porta a una mappa definita a tratti.

4. Implementazione Algoritmica

Gli autori propongono un algoritmo pratico (Algoritmo 1) che:

1. Stima il regressore di base $\hat{\eta}$ e le probabilità posteriori per calcolare $\hat{\Delta}$.
2. Costruisce misure empiriche 2D dai dati di addestramento.
3. Risolve un problema OT discreto utilizzando le matrici di costo in forma chiusa derivate.
4. Utilizza la proiezione baricentrica per generare pseudo-etichette per il set di addestramento.
5. Adatta un regressore continuo (ad es. Random Forest) sulle pseudo-etichette per abilitare l'inferenza fuori campione.

Contributi Chiave

1. Quadro Unificato: Un obiettivo OT penalizzato generale che unifica la regressione equa rilassata aware e unaware, accogliendo sia le penalità $W_2^2$ che TV.
2. Caratterizzazioni in Forma Chiusa: Le prime riduzioni geometriche continue esatte per l'equità rilassata unaware. Il lavoro fornisce formule esplicite per le mappe di previsione ottimali, andando oltre le approssimazioni basate su griglie dei lavori precedenti (es. FairReg).
3. Distinzione Filosofica: Il lavoro rivela che la scelta della penalità riflette filosofie di equità fondamentalmente diverse:
   • $W_2^2$ induce un compromesso liscio e su tutta la popolazione (visione egualitaria), spostando leggermente tutti gli individui verso un centro equo.
   • TV impone una parità esatta per un sottoinsieme di individui (visione sufficientarista), lasciando invariate le previsioni estreme mentre fonde perfettamente quelle in cui è "economicamente sostenibile".
4. Algoritmo Efficiente: Un algoritmo di post-processing deterministico ed efficientemente computazionale che evita la discesa del gradiente stocastica.

Risultati Sperimentali

Il quadro è stato valutato su dati sintetici e benchmark reali (Ammissioni alla Scuola di Legge, Comunità e Crimine, e Reddito del Censimento degli Adulti).

• Prestazioni: Il metodo proposto "OT Unaware" corrisponde costantemente o supera la linea di base all'avanguardia FairReg (Taturyan et al., 2024) su tutte le metriche di equità ($W_2$, TV e distanza di Kolmogorov-Smirnov) mantenendo un Errore Quadratico Medio (MSE) competitivo.
• Confronto con Proxy: Gli approcci ingenui che stimano $S$ tramite un classificatore proxy e applicano mappe OT aware (stimatori plug-in) performano significativamente peggio, spesso fallendo nel raggiungere l'equità a causa di errori di classificazione. Il quadro 2D proposto assorbe con successo questa incertezza.
• Efficienza: Il metodo OT Unaware è significativamente più veloce di FairReg (ad es., ~26 volte più veloce sul dataset Comunità) perché si basa su risolutori OT discreti esatti piuttosto che su ottimizzazioni stocastiche iterative.
• Robustezza: Il metodo dimostra robustezza attraverso diversi stimatori di base (Lineare, Random Forest, Gradient Boosting).

Significato e Affermazioni

Il lavoro afferma di colmare un divario significativo nella letteratura fornendo una soluzione geometrica continua e teoricamente fondata per la regressione equa rilassata nell'ambito unaware.

• Rigor Teorico: A differenza dei metodi precedenti che si affidano alla discretizzazione, questo lavoro offre riduzioni esatte in forma chiusa, chiarificando la natura geometrica dei vincoli di equità.
• Utilità Pratica: Gli algoritmi derivati sono semplici da implementare ed efficienti dal punto di vista computazionale, rendendoli adatti al dispiegamento nel mondo reale dove i modelli sono scatole nere e gli attributi sensibili mancano al momento dell'inferenza.
• Insight Filosofico: Mettendo a confronto le penalità $W_2$ e TV, il lavoro evidenzia che l'"equità rilassata" non è un concetto monolitico ma dipende dalla specifica filosofia di compromesso (smussamento globale vs. esattezza locale) scelta dal praticante.

Gli autori notano limitazioni, inclusa la restrizione ad attributi sensibili binari e tipi specifici di penalità ($W_2^2$ e TV), e la dipendenza delle prestazioni dalla qualità degli stimatori di base $\hat{\eta}$ e $\hat{\Delta}$. Tuttavia, affermano che il loro approccio fornisce una linea di base superiore per i compromessi tra accuratezza ed equità rispetto ai metodi all'avanguardia esistenti.