Sintesi Tecnica: Ottimizzazione Bilevel Funzionale per la Fairness Predittiva

Definizione del Probleamento

I modelli di apprendimento automatico standard spesso sfruttano segnali statistici legati ad attributi sensibili (ad esempio, età, reddito, punteggi demografici), portando a predizioni ingiuste. Sebbene la fairness sia spesso inquadrata come l'imposizione di una piena indipendenza statistica tra le predizioni e gli attributi sensibili, questo approccio è frequentemente troppo restrittivo, particolarmente quando gli attributi sensibili sono continui e ad alta dimensionalità. In tali regimi, la piena indipendenza vincola l'intera distribuzione delle predizioni, mentre la preoccupazione pratica relativa alla fairness è spesso limitata agli spostamenti sistematici nelle predizioni medie attraverso diversi valori dell'attributo sensibile.

Le estensioni esistenti per attributi continui si affidano a penalità di dipendenza indiretta (ad esempio, HSIC, informazione mutua), schemi avversari o vincoli di dipendenza lineare. Questi metodi spesso non riescono a mirare direttamente al trade-off specifico tra fairness e accuratezza nel controllo della media condizionale, oppure sono limitati ad attributi a bassa dimensionalità o discreti.

Gli autori propongono di affrontare questo vuoto ottimizzando la Parità Demografica della Media (Mean Demographic Parity), formalizzata come la minimizzazione della varianza della media condizionale della predizione dato l'attributo sensibile. Questo metrica è denominata DPVar:
$$\text{DPVar}(\omega) = \text{Var}_A \left( \mathbb{E}[f_\omega(X) \mid A] \right)$$
dove $f_\omega$ è il predittore e $A$ è l'attributo sensibile.

Metodologia

La Formulazione Bilevel Funzionale

L'ottimizzazione di DPVar presenta una sfida unica: l'obiettivo dipende dalla funzione della media condizionale $h^\star_\omega(a) = \mathbb{E}[f_\omega(X) \mid A=a]$, che è sconosciuta e deve essere stimata dai dati. Gli autori formulano questo come un problema di ottimizzazione bilevel funzionale:

1. Problema Interno: Stimare la funzione della media condizionale $h^\star_\omega$ minimizzando la perdita quadratica tra l'output del predittore e la funzione dell'attributo sensibile:
   $$h^\star_\omega \in \arg\min_{h \in \mathcal{H}} \mathbb{E}[(f_\omega(X) - h(A))^2]$$
2. Problema Esterno: Ottimizzare i parametri del predittore $\omega$ per minimizzare un trade-off tra l'accuratezza della predizione e la penalità DPVar (che dipende dalla soluzione $h^\star_\omega$ del problema interno):
   $$\min_\omega \mathbb{E}[(f_\omega(X) - Y)^2] + \alpha \text{Var}_A(h^\star_\omega(A))$$

Poiché la variabile interna è una funzione piuttosto che un vettore di parametri a dimensione finita, questo è un problema bilevel funzionale.

Algoritmi Proposti

Il documento introduce due algoritmi per risolvere questo problema, entrambi utilizzando una suddivisione dei dati in IN (per la stima interna) e OUT (per la valutazione esterna) per prevenire un bias ottimistico.

1. FBO (Ottimizzazione Bilevole Funzionale):

   • Meccanismo: Questo metodo sfrutta la specifica struttura del problema interno a perdita quadratica. Gli autori derivano un aggiunto a forma chiusa (closed-form adjoint) per la sensibilità della soluzione interna rispetto ai parametri esterni.
   • Vantaggio: Questa derivazione produce un ipergradiente esatto e privo di Essia (Hessian-free). Evita il costo computazionale dell'inversione di Essia o del calcolo dei Jacobiani interni, richiedendo solo una regressione interna e due medie empiriche per ogni step esterno.
   • Limitazione: È specifico per l'obiettivo interno a perdita quadratica.

2. ITD (Differenziazione Iterativa):

   • Meccanismo: Questo metodo utilizza una strategia più ampia di srotolamento (unrolling) dei passi di ottimizzazione interna. Il regressore interno viene aggiornato per $K$ passi di gradiente, e l'obiettivo esterno viene differenziato attraverso questo grafo computazionale srotolato.
   • Vantaggio: È generalizzabile a obiettivi interni con perdita non quadratica (ad esempio, perdita Huber) e non richiede l'inversa in forma chiusa dell'Essia interno.
   • Trade-off: È approssimativo e computazionalmente più costoso per ogni step esterno (scala linearmente con $K$) rispetto a FBO.

Contributi Chiave

1. Criterio DPVar: L'adozione di DPVar come criterio di fairness specificamente progettato per attributi sensibili continui e ad alta dimensionalità, andando oltre l'indipendenza totale verso una visione della media condizionale.
2. Framework Bilevel Funzionale: La formulazione dell'ottimizzazione di DPVar come un problema bilevel funzionale che si integra naturalmente con i predittori di reti neurali, un regime non coperto dai precedenti approcci alla media condizionale.
3. Innovazioni Algoritmiche:
   • Derivazione di un aggiunto a forma chiusa per il caso della perdita quadratica, consentendo l'algoritmo esatto FBO.
   • Sviluppo dell'algoritmo ITD per una maggiore applicabilità tramite differenziazione iterativa.
4. Benchmark Semi-Sintetico: La creazione di una suite di valutazione su larga scala e standardizzata costruita su 60 dataset di regressione tabulare reali. Questo benchmark costruisce automaticamente attributi sensibili continui dalle feature per fornire scenari di trade-off tra fairness e accuratezza controllati e non banali.

Risultati Sperimentali

I metodi sono stati valutati su dati sintetici e sul nuovo benchmark tabulare semi-sintetico contro forti baseline, inclusi HSIC, debiasing avversario, penalità di dipendenza lineare e Generalized Demographic Parity (GDP).

• Dati Sintetici: Nei regimi in cui l'unfairness è guidata da spostamenti del primo momento, tutti i metodi si comportano in modo simile. Tuttavia, man mano che il problema di predizione diventa più complesso (introducendo interazioni tra feature sensibili e non sensibili), FBO e ITD ottengono costantemente migliori trade-off tra fairness e accuratezza. Superano i metodi basati sulla piena indipendenza distributiva (HSIC, avversari) o sulle penalità lineari, che sono o troppo restrittivi o trascurano gli effetti non lineari.
• Benchmark Tabulare: Attraverso 27 dataset informativi, FBO e ITD ottengono il regret di accuratezza aggregata più basso o vicino al minimo sotto i vincoli DPVar.
  • Sotto budget di fairness stretti e medi, FBO e ITD vincono più spesso.
  • Sotto budget ampi, GDP diventa un competitore più forte.
  • Entrambi i metodi proposti superano o eguagliano costantemente le baseline di HSIC, avversarie e di dipendenza lineare.

Significato e Rivendicazioni

Il documento sostiene che, mirando alla media condizionale piuttosto che all'intera distribuzione, DPVar offre una misura di fairness più appropriata ed estimabile per attributi continui e ad alta dimensionalità. Il significato del lavoro risiede nel:

• Fornire un percorso di ottimizzazione diretta per questo specifico criterio di fairness, evitando l'indirettezza dei vincoli avversari o basati su kernel.
• Dimostrare che l'ottimizzazione bilevel funzionale può essere resa pratica ed efficiente (tramite FBO) per i moderni predittori a reti neurali.
• Offrire un benchmark standardizzato che va oltre i dataset scelti manualmente per valutare sistematicamente i metodi di fairness su attributi continui.

Ambito e Limitazioni:
Gli autori notano esplicitamente che DPVar è un criterio di parità della media. Esso controlla gli spostamenti sistematici nelle predizioni medie, ma non garantisce l'uguaglianza dei momenti di ordine superiore (varianza, code) o la piena parità distributiva. Di conseguenza, non deve essere interpretato come un certificato di fairness globale in applicazioni che richiedono la piena uguaglianza distributiva. Inoltre, il metodo si basa sulla stima di una funzione della media condizionale, il che può essere statisticamente impegnativo in dimensioni elevate. Il benchmark è semi-sintetico, progettato per la valutazione metodologica piuttosto che per formulare specifiche rivendicazioni legali o sociali sugli originali dataset.