Unbiased Model Prediction Without Using Protected Attribute Information

1. Il Problema

Il problema centrale affrontato è la bias (pregiudizio) nei modelli di deep learning, che spesso producono prestazioni disparate tra diversi sottogruppi demografici (es. genere, razza, età).

• Limitazione degli approcci esistenti: La maggior parte degli algoritmi di debiasing richiede la conoscenza a priori degli attributi protetti (come genere o etnia) durante l'addestramento per ottimizzare la fairness. Tuttavia, in molti scenari reali, l'accesso a questi dati è limitato da vincoli legali, normativi o di privacy (es. leggi che vietano la raccolta di dati sensibili).
• La sfida: Come mitigare il pregiudizio e garantire previsioni eque senza avere accesso alle etichette degli attributi protetti?

2. Metodologia: L'algoritmo NPAD

Gli autori propongono un nuovo algoritmo chiamato Non-Protected Attribute-based Debiasing (NPAD). L'idea fondamentale è sfruttare l'informazione ausiliaria fornita dagli attributi non protetti (es. "ha i baffi", "indossa un cappello") per mitigare il bias verso gli attributi protetti (es. genere, età), sfruttando la correlazione implicita tra questi.

L'algoritmo NPAD opera in due fasi principali:

Fase 1: Selezione Intelligente degli Attributi Non Protetti

Poiché non tutti gli attributi non protetti sono ugualmente correlati agli attributi protetti, il metodo non sceglie a caso, ma seleziona quelli più rilevanti:

1. Valutazione della Disparità: Viene addestrato un modello per prevedere un attributo target ($A_i$). Questo modello viene poi valutato sulle classi di altri attributi non protetti.
2. Selezione: Vengono selezionati gli attributi non protetti per i quali il modello mostra la maggiore disparità di prestazioni. L'ipotesi è che un'alta disparità indichi una forte correlazione con l'attributo protetto sottostante.
3. Indipendenza: Per evitare ridondanza, gli attributi selezionati devono essere statisticamente indipendenti l'uno dall'altro (verificato tramite il test $\chi^2$).

Fase 2: Mitigazione del Bias tramite Funzioni di Loss

Una volta selezionati gli attributi non protetti ($N$), il modello viene ottimizzato utilizzando due nuove funzioni di perdita (loss functions):

1. Debiasing via Attribute Cluster Loss (DACL):

   • Combina le classi dell'attributo target ($A_i$) con le classi degli attributi non protetti selezionati, creando $2^{n+1}$ cluster (dove $n$ è il numero di attributi non protetti).
   • L'obiettivo è minimizzare la distanza intra-classe e massimizzare la distanza inter-classe nello spazio delle feature.
   • Utilizza medie mobili e deviazioni standard delle rappresentazioni delle feature per essere robusto agli outlier, fornendo supervisione per apprendere informazioni specifiche per classe e mitigare il bias.

2. Filter Redundancy Loss (FRL):

   • Mira a ridurre la ridondanza tra i canali dei filtri convoluzionali.
   • Calcola il prodotto scalare tra i filtri normalizzati e li minimizza, forzando il modello ad apprendere feature non ridondanti e più espressive.
   • Questo migliora la separazione dei cluster nello spazio delle feature, potenziando le prestazioni complessive.

La Loss Finale è una combinazione pesata: $L = \lambda_1 L_{DACL} + \lambda_2 L_{FRL}$.

3. Contributi Chiave

• Algoritmo NPAD: Un approccio innovativo che non richiede attributi protetti per il debiasing, rendendolo applicabile in scenari reali dove tali dati sono assenti o vietati.
• Nuove Funzioni di Loss: Introduzione di DACL (per la separazione dei cluster basata su attributi non protetti) e FRL (per ridurre la ridondanza delle feature).
• Nuova Metrica di Valutazione (OPE): Gli autori introducono l'Overall Performance Equality (OPE). Le metriche tradizionali (come la differenza di opportunità) falliscono quando un modello è "unbiased" ma performante male (es. predice tutto come negativo). L'OPE considera sia la disparità tra i sottogruppi sia la qualità complessiva delle previsioni, penalizzando i modelli a bassa performance.
• Validazione Sperimentale: Test estesi su dataset reali (LFWA e CelebA) per la previsione di attributi facciali.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti sui dataset LFWA e CelebA, considerando genere e età come attributi protetti (non usati in addestramento, solo in valutazione).

• Prestazioni e Fairness: NPAD supera significativamente il modello di base (BMT) e l'algoritmo di riferimento "Learning from Failure" (LfF) in termini di accuratezza complessiva e riduzione del bias (misurato tramite DoB e OPE).
• Confronto con PAD: In molti casi, NPAD raggiunge prestazioni comparabili o superiori all'algoritmo "Protected Attribute-based Debiasing" (PAD), che invece usa le etichette di genere/età. Questo dimostra che l'uso intelligente degli attributi non protetti può sostituire efficacemente la conoscenza degli attributi protetti.
• Analisi di Correlazione: È stato dimostrato che la selezione intelligente degli attributi (basata sulla disparità e indipendenza) è cruciale. L'uso casuale di attributi o attributi dipendenti riduce l'efficacia del debiasing.
• Generalizzabilità: L'algoritmo mostra buone prestazioni anche in scenari cross-dataset (addestrato su LFWA, testato su CelebA e viceversa).
• Studio Ablativo: La rimozione di DACL o FRL degrada le prestazioni, confermando che entrambe le componenti sono necessarie per la separazione dei cluster e l'efficienza delle feature.

5. Significato e Impatto

Questo lavoro è significativo perché risolve un collo di bottiglia pratico nell'IA etica: la necessità di dati sensibili per garantire l'equità.

• Applicabilità Reale: Poiché molte aziende e governi non possono raccogliere o utilizzare dati demografici sensibili, NPAD offre una soluzione praticabile per addestrare modelli equi utilizzando solo dati disponibili (attributi non protetti).
• Efficienza: Dimostra che la correlazione tra attributi visibili (es. "baffi") e attributi protetti (es. "genere") può essere sfruttata positivamente per "de-biasare" il modello senza violare la privacy.
• Metrica Migliore: L'introduzione dell'OPE fornisce uno strumento di valutazione più realistico per la fairness, evitando di classificare come "equi" modelli che falliscono nel predire correttamente qualsiasi cosa.

In sintesi, il paper propone un framework robusto per l'addestramento di modelli imparziali in assenza di dati sensibili, combinando selezione intelligente delle feature, nuove funzioni di perdita e una valutazione più rigorosa delle prestazioni.