Optimal Fairness under Local Differential Privacy

Sintesi Tecnica: Equità Ottimale sotto la Local Differential Privacy

Definizione del Problema
I modelli di machine learning fanno sempre più affidamento su attributi sensibili (ad esempio, razza, genere) per decisioni ad alto impatto, sollevando preoccupazioni riguardanti l'equità e la privacy. Sebbene la Differential Privacy (DP) sia lo standard per la privacy, la Central DP è stata dimostrata essere potenzialmente capace di esacerbare l'ingiustizia. Al contrario, la Local Differential Privacy (LDP), in cui i dati vengono perturbati prima di lasciare il dispositivo dell'utente, rimane poco esplorata per quanto riguarda la sua interazione con l'equità. Gli approcci esistenti basati sulla LDP spesso si affidano a meccanismi specifici come il Generalized Randomized Response (GRR) o il Randomized Response (RR) e sono frequentemente limitati ad attributi sensibili binari. Il problema centrale affrontato è come progettare in modo ottimale i meccanismi LDP per minimizzare l'ingiustizia dei dati sia per attributi sensibili binari che multi-valore, preservando al contempo una utilità non banale, e come stabilire teoricamente come questa riduzione dell'ingiustizia dei dati si traduca in un miglioramento dell'equità della classificazione.

Metodologia
Gli autori propongono un framework di pre-processing in cui gli attributi sensibili vengono perturbati utilizzando un meccanismo LDP ottimale prima dell'addestramento del modello. La metodologia è divisa in derivazione teorica e validazione empirica:

1. Derivazione del Meccanismo Ottimale:

   • Attributi Binari: Per attributi sensibili binari ($A \in \{0, 1\}$), gli autori derivano una soluzione ottimale in forma chiusa. Formulano il problema come la minimizzazione del rapporto tra l'ingiustizia dei dati nel dataset perturbato e il dataset originale, soggetto a un budget di privacy $\epsilon$ fisso. Il meccanismo ottimale si dimostra dipendere dalla distribuzione dei dati (specificamente dalle probabilità condizionali dell'etichetta dato l'attributo) e dal parametro di privacy. A differenza del RR standard, il meccanismo ottimale non tratta necessariamente entrambe le classi in modo simmetrico; esso regola la probabilità di riportare il valore reale in base a quale classe è più prevalente o discriminatoria.
   • Attributi Non-Binari: Per attributi multi-valore ($A \in [k]$), il problema viene riformulato come un programma lineare frazionario min-max. L'obiettivo è minimizzare una metrica di ingiustizia dei dati (specificamente la Definizione 1, $\Delta$) soggetto a:
     • Vincoli $\epsilon$-LDP.
     • Vincoli di stocasticità per riga (le probabilità sommano a 1).
     • Vincoli di veridicità (la probabilità di riportare il valore corretto $\ge$ la probabilità di riportare un valore errato).
     • Vincoli di utilità (limitare la probabilità totale di errore a una soglia $\zeta$).
       Questa ottimizzazione viene risolta numericamente utilizzando il metodo branch-and-bound.

2. Legame Teorico con l'Equità della Classificazione:
   Il documento stabilisce una connessione teorica tra la minimizzazione dell'ingiustizia dei dati e la riduzione dell'ingiustizia della classificazione. Introduce il concetto di classificatori ottimali per Discriminazione-Accuratezza (DA) — classificatori che non sono strettamente dominati da nessun altro classificatore in termini di sia accuratezza che discriminazione. Gli autori dimostrano che, per i classificatori DA-ottimali, l'addestramento su dati con minore ingiustizia (specificamente minore $\Delta'$) garantisce una riduzione del gap di parità statistica del classificatore risultante.

3. Validazione Sperimentale:
   Il meccanismo proposto (OPT) viene valutato su diversi dataset (Adult, LSAC, COMPAS, Bank, Student Performance, German Credit) utilizzando LightGBM e la Regressione Logistica.

   • Baseline: OPT viene confrontato con i meccanismi LDP standard (GRR/RR, Subset Selection) e con le tecniche di intervento sull'equità all'avanguardia (FairProjection, FairBalance).
   • Metriche: Le prestazioni sono misurate tramite Accuratezza, Parità Statistica ($\Delta_{SP}$), Equalized Opportunity ($\Delta_{EO}$) e Mean Equalized Odds ($\Delta_{MEO}$).

Contributi Chiave

• Progettazione del Meccanismo Ottimale: Il documento fornisce il primo meccanismo LDP in forma chiusa per attributi sensibili binari e un framework numerico trattabile per attributi non binari per minimizzare l'ingiustizia dei dati.
• Giustificazione Teorica: Dimostra che per i classificatori DA-ottimali, la riduzione dell'ingiustizia dei dati tramite il pre-processing LDP conduce direttamente a una riduzione dell'ingiustizia della classificazione, colmando il divario tra pre-processing rispettoso della privacy e l'equità a valle.
• Superiorità Empirica: Il meccanismo OPT proposto supera costantemente i meccanismi LDP esistenti (GRR, SS) nel ridurre l'ingiustizia, mantenendo un'accuratezza comparabile alle baseline non private.
• Trade-off Superiori: Rispetto ai metodi di equità dedicati al pre-processing (FairBalance) e al post-processing (FairProjection), OPT raggiunge un trade-off accuratezza-equità più favorevole, preservando simultaneamente la privacy degli attributi sensibili.

Risultati

• Attributi Binari: Sui dataset Adult e LSAC, OPT riduce significativamente i gap di parità statistica e di equalized opportunity (ad esempio, quasi dimezzando i gap su LSAC) mantenendo un'accuratezza comparabile a RR e SS.
• Attributi Non-Binari: Per attributi multi-valore (ad esempio, razza, reddito familiare), il meccanismo OPT risolto numericamente raggiunge gap di equità inferiori rispetto a GRR e SS, particolarmente con budget di privacy più elevati ($\epsilon$), con una perdita di accuratezza trascurabile.
• Confronto con i Metodi di Equità: Quando confrontato con FairProjection (post-processing) e FairBalance (pre-processing) a livelli di accuratezza corrispondenti, OPT produce generalmente gap di equità inferiori (ad esempio, sul dataset COMPAS, OPT ha ridotto $\Delta_{SP}$ dal 26,8% al 24,3% rispetto a FairProjection). Sul dataset Bank, OPT ha ottenuto un'accuratezza maggiore (90,1% vs 84,5%) e un $\Delta_{EO}$ inferiore rispetto a FairBalance.
• Integrazione: OPT sostituisce con successo RR nel framework a due fasi di [13], dimostrando adattabilità in contesti in cui sono disponibili solo attributi sensibili privatizzati.

Significatività e Rivendicazioni
Il documento sostiene che la Local Differential Privacy serva come un intervento di pre-processing principato ed efficace per migliorare l'equità. A differenza della Central DP, che può essere fondamentalmente incompatibile con l'equità, la LDP offre un meccanismo in cui la casualità inerente alla preservazione della privacy può attivamente mitigare l'ingiustizia dei dati. Gli autori posizionano il loro lavoro come un legame diretto tra il pre-processing consapevole della privacy e l'equità della classificazione, dimostrando che la perturbazione ottimale degli attributi sensibili è uno strumento semplice ma potente per mitigare il bias senza sacrificare l'utilità del modello. I risultati suggeriscono che la LDP non è solo uno strumento di privacy, ma una strategia valida per l'amplificazione dell'equità nelle pipeline di machine learning.