Technische Samenvatting: Doubly-Regressing Aanpak voor Subgroep-eerlijkheid

1. Probleemstelling

Het artikel behandelt de uitdaging om subgroep-eerlijkheid (subgroup fairness) te bereiken in machine learning wanneer er meerdere gevoelige attributen (bijv. geslacht, ras, leeftijd) aanwezig zijn. Hoewel marginale eerlijkheid (eerlijkheid over individuele attributen) goed bestudeerd is, faalt dit in het voorkomen van "fairness gerrymandering", waarbij ernstige discriminatie persisteert op de snijpunten van meerdere attributen (Kearns et al., 2018a;b).

Formeel gezien zijn er, bij $q$ binaire gevoelige attributen, $2^q$ subgroepen. Het afdwingen van distributionele eerlijkheid over al deze subgroepen staat voor twee kritieke barrières:

1. Data-schaarsheid: Naarmate $q$ toeneemt, bevatten veel subgroepen zeer weinig monsters, wat leidt tot instabiele modelestimatie en onnauwkeurige eerlijkheidsgaranties (Molina & Loiseau, 2023).
2. Computationele belasting: Het aantal eerlijkheidsrestricties schaalt exponentieel met $q$. Bestaande adversariële benaderingen die proberen eerlijkheid over alle subgroepen te meten, worden computationeel onhandelbaar.

Bovendien falen bestaande methoden vaak in het gelijktijdig garanderen van marginale eerlijkheid (eerlijkheid op elk individueel attribuut) en subgroep-eerlijkheid, of ze vertrouwen op zwakkere eerlijkheidsnoties (bijv. Demografische Pariteit) die geen distributionele eerlijkheid waarborgen.

2. Methodologie

2.1 Subgroep-Subverzameling Eerlijkheid

Om de data-schaarsheid op te lossen, stellen de auteurs voor om alleen te focussen op "actieve" subgroepen—die met voldoende steekproefomvang—terwijl ze expliciet marginale subgroepen (subgroepen gedefinieerd door enkelvoudige gevoelige attributen) opnemen om marginale eerlijkheid te waarborgen.

Zij formaliseren subgroep-subverzameling eerlijkheid (subgroup-subset fairness), waarbij een "subgroep-subverzameling" $W$ een vereniging is van specifieke subgroepen. Het doel is om distributionele eerlijkheid af te dwingen over een vooraf geselecteerde collectie van subgroep-subverzamelingen $\mathcal{W}$ waar de steekproefgroottes niet te klein zijn.

2.2 Supremum Integral Probability Metric (supIPM)

De auteurs introduceren een maatstaf voor distributionele eerlijkheid genaamd de supremum Integral Probability Metric (supIPM). Voor een collectie van subgroep-subverzamelingen $\mathcal{W}$ wordt de eerlijkheidskloof gedefinieerd als:
$$\Delta_{\psi, \mathcal{W}}(f) = \sup_{W \in \mathcal{W}} \psi(P_{f,W}, P_{f,W^c})$$
waarbij $\psi$ een deviatie-maat is (specifiek IPM). De auteurs bewijzen dat de schattingsfout van de empirische supIPM afhangt van de minimale steekproefomvang binnen de subverzamelingen ($n_W$) in plaats van het totale aantal subverzamelingen $|\mathcal{W}|$, wat de focus op actieve subverzamelingen rechtvaardigt.

2.3 Doubly Regressing Adversarial Learning (DRAF)

Het direct optimaliseren van supIPM is computationeel duur omdat het vereist is om voor elke $W \in \mathcal{W}$ een aparte discriminator te vinden. Om dit te overwinnen, stellen de auteurs een surrogaat-eerlijkheidskloof voor op basis van Doubly Regressing $R^2$ (DR2).

• Theoretische Fundering: Zij stellen een relatie vast tussen IPM en de determinatiecoëfficiënt ($R^2$) in een regressie-omgeving waarbij de input de modelvoorspelling is en de output een label is dat de lidmaatschap van een subverzameling aangeeft.
• De Surrogaat: Zij definiëren een Doubly Regressing $R^2$ maat, $DR^2(f, v, g)$, die gelijktijdig de output van de discriminator $g(f(x))$ en een gewogen combinatie van subverzameling-indicatoren $v^\top c_i$ regresseert.
• Kerninnovatie: Het voorgestelde algoritme, DRAF (Doubly Regressing Adversarial learning for Fairness), optimaliseert een surrogaat-kloof gedefinieerd als:
  $$DR_{n, \mathcal{W}, \mathcal{G}}(f) := \sup_{g \in \mathcal{G}, v \in S_M} \tilde{z}\text{-}DR^2(f, v, g)$$
  Cruciaal is dat deze formulering slechts één enkele discriminator $g$ en een gewichtsvector $v$ vereist, ongeacht het aantal subgroep-subverzamelingen $|\mathcal{W}|$. Dit reduceert de computationele complexiteit van exponentieel naar lineair ten opzichte van het aantal subverzamelingen.
• Optimalisatie: Het algoritme traint de voorspeller $f$ en het discriminator/gewichts-paar $(g, v)$ in een alternerende min-max modus. Theoretische analyse bewijst dat deze surrogaat-kloof dient als een bovengrens voor de ware supIPM.

3. Belangrijkste Bijdragen

1. Formalisering van Subgroep-Subverzameling Eerlijkheid: Een nieuwe eerlijkheidsnotie die de balans zoekt tussen de noodzaak van intersectionele eerlijkheid en de praktische beperkingen van data-schaarsheid door te focussen op actieve subgroep-subverzamelingen en marginale groepen.
2. Introductie van supIPM: Een maatstaf voor distributionele eerlijkheid voor subgroep-subverzamelingen, vergezeld van een theoretische grens op de schattingsfout ervan.
3. DRAF Algoritme: Een computationeel efficiënt adversarieel leeralgoritme dat een enkele discriminator gebruikt om supIPM te benaderen via een doubly regressing $R^2$ surrogaat. De auteurs bewijzen dat deze surrogaat een bovengrens is van de doelmaat.
4. Empirische Validatie: Demonstratie dat DRAF beter presteert dan baseline-methoden (Regularisatie, GerryFair, Sequentiële mapping), met name in scenario's met hoog-dimensionale gevoelige attributen en schaarse subgroepen.

4. Experimentele Resultaten

De auteurs evalueerden DRAF op vier benchmark-datasets: ADULT, DUTCH, CIVILCOMMENTS en COMMUNITIES (laatste heeft $q=18$ en extreme schaarste).

• Prestaties op Schaarse Data: Op de COMMUNITIES dataset, waar de meeste subgroepen extreem klein zijn, presteerde DRAF aanzienlijk beter dan baselines in zowel subgroep-eerlijkheid (SP) als eerste-orde marginale eerlijkheid (MP(1)). Baseline-methoden zoals GerryFair (gericht op de slechtste subgroep-dispariteit) of Regularisatie (gericht op marginale dispariteit) slaagden er niet in beide gelijktijdig te bereiken.
• Accuracy-Fairness Trade-off: DRAF bereikte concurrerende accuracy-fairness trade-offs over alle datasets. In minder schaarse datasets (ADULT, DUTCH) presteerde het vergelijkbaar met of beter dan de baselines.
• Correlatieanalyse: Experimenten toonden aan dat DRAF zowel subgroep- als marginale eerlijkheid effectief gelijktijdig controleert, terwijl methoden die zich op slechts één dimensie richten, vaak de andere dimensie verslechteren.
• Robuustheid: De methode toonde robuustheid tegen ruisende (ontbrekende) gevoelige attributen, aangezien het eerlijkheidsrestricties kan toepassen op alleen observeerbare subgroep-subverzamelingen zonder monsters weg te gooien.
• Extensies: Er is aangetoond dat de aanpak kan worden uitgebreid naar multi-class classificatie en Equalized Odds (EO) eerlijkheidsrestricties.

5. Betekenis en Claims

Het artikel claimt dat DRAF een praktische oplossing biedt voor de "vloek van dimensionaliteit" in subgroep-eerlijkheid. Door de focus te verschuiven van alle $2^q$ subgroepen naar een gecureerde set van actieve subgroep-subverzamelingen en gebruik te maken van een single-discriminator surrogaat, lost de methode de dubbele problemen van data-schaarsheid en computationele onhandelbaarheid op.

De auteurs benadrukken dat hun aanpak distributionele eerlijkheid (de sterkste notie van eerlijkheid) waarborgt zonder terug te vallen op zwakkere metrieken zoals Demografische Pariteit. Zij argumenteren dat het negeren van kleine subgroepen statistisch verantwoord is voor populatie-niveau eerlijkheid, mits marginale eerlijkheid expliciet wordt afgedwongen. Het werk concludeert dat DRAF de inzet van eerlijke AI-modellen mogelijk maakt in complexe, real-world scenario's met meerdere gevoelige attributen waar voorheen methoden ofwel computationeel prohibitief of statistisch instabiel waren.