Technische Samenvatting: FairBED: Een Bayesiaanse Experimentele Ontwerpbenadering voor het Verzamelen van Rechtvaardigere Data

1. Probleemstelling

Huidige kaders voor het waarborgen van rechtvaardigheid in machine learning richten zich voornamelijk op het leren van rechtvaardige modellen uit bestaande, vooraf verzamelde datasets. Deze benadering is echter fundamenteel beperkt omdat de data zelf al maatschappelijke vooroordelen en ongewenste correlaties kan bevatten. Interventies zoals het herwegen van data, geconstreerde optimalisatie of pre-processing "data-reparatie" proberen deze problemen downstream te mitigeren, maar kunnen de inherente onrechtvaardigheid van de brongegevens niet volledig overwinnen.

De auteurs stellen dat het proces van data-acquisitie zelf gewijzigd moet worden om data te verzamelen die inherent geschikter is voor het trainen van rechtvaardige voorspellers. De kernuitdaging bestaat uit het ontwerpen van een strategie voor data-acquisitie die twee concurrerende doelstellingen in evenwicht brengt:

1. Informativiteit: De data moet zeer informatief blijven over de doelvariabelen van belang om effectieve downstream voorspelling en generalisatie te garanderen.
2. Rechtvaardigheid: De data moet oninformatief zijn over gevoelige attributen (bijv. geslacht, ras, huidpigmentatie) om te voorkomen dat downstream modellen deze attributen exploiteren, wat de rechtvaardigheid op natuurlijke wijze verbetert.

2. Methodologie

2.1 Conceptueel Kader: "Rechtvaardige Werelden"

Het artikel introduceert het concept van een "rechtvaardige wereld" waarin gevoelige attributen (aangeduid als $\phi$) causaal onafhankelijk zijn van de doelvariabelen (aangeduid als $\theta$). In een dergelijke wereld zou een rechtvaardige voorspeller $\phi$ niet nodig hebben om $\theta$ te schatten. De auteurs stellen voor de onrechtvaardigheid van een dataset te meten door te kwantificeren hoeveel het deze onafhankelijkheid schendt. Specifiek: als een dataset toestaat dat informatie wordt overgedragen tussen $\theta$ en $\phi$, wordt deze als onrechtvaardig beschouwd. Het doel is om het experimentele ontwerpproces te sturen naar het verzamelen van data die deze informatieoverdracht minimaliseert terwijl de bruikbaarheid voor $\theta$ behouden blijft.

2.2 Rechtvaardigheidsmetrieken voor Data

De auteurs definiëren twee nieuwe metrieken om de rechtvaardigheid van een dataset $D$ te kwantificeren op basis van de informatie die het onthult over gevoelige attributen:

• Onvoorwaardelijke Rechtvaardigheid ($F_u$): Gedefinieerd als de negatieve waarde van de Expected Information Gain (EIG) over $\phi$. Het meet hoeveel de data marginaal over $\phi$ onthult.
  $$F_u(\pi_d) = -\max_{m \in \mathcal{M}} \text{EIG}^m_\phi(\pi_d)$$
• Voorwaardelijke Rechtvaardigheid ($F_c$): Gedefinieerd als de negatieve waarde van de conditionele EIG over $\phi$ gegeven $\theta$. Dit is een striktere metriek die ervoor zorgt dat de data geen informatie over $\phi$ onthult voor een specifieke waarde van de doelvariabele $\theta$, wat beschermt tegen "explaining away"-effecten waarbij $\phi$ herstelbaar wordt zodra $\theta$ bekend is.
  $$F_c(\pi_d) = -\max_{m \in \mathcal{M}} \mathbb{E}_{p(\theta)}[\text{EIG}^m_{\phi|\theta}(\pi_d)]$$

Hierbij stelt $\pi_d$ een ontwerpbeleid voor, en de maximalisatie over een verzameling modellen $\mathcal{M}$ waarborgt robuustheid tegen tekortkomingen in de modellen.

2.3 De FairBED-doelstelling

Om de behoefte aan informatieve data in evenwicht te brengen met de behoefte aan rechtvaardigheid, construeren de auteurs twee FairBED-doelstellingen. Deze doelstellingen maximaliseren de Expected Information Gain (EIG) over de doelvariabele $\theta$ terwijl ze de EIG over het gevoelige attribuut $\phi$ (of $\phi|\theta$) bestraffen.

• Onvoorwaardelijke FairBED ($R_u$):
  $$R_u(\pi_d) = \text{EIG}_\theta(\pi_d) - \beta \text{EIG}_\phi(\pi_d)$$
• Voorwaardelijke FairBED ($R_c$):
  $$R_c(\pi_d) = \text{EIG}_\theta(\pi_d) - \beta \mathbb{E}_{p(\theta)}[\text{EIG}_{\phi|\theta}(\pi_d)]$$

In deze vergelijkingen is $\beta > 0$ een hyperparameter die de sterkte van de rechtvaardigheidsafdwinging regelt. De auteurs merken op dat deze doelstellingen gedefinieerd zijn onder een gezamenlijk model, maar voor de praktische uitvoering geoptimaliseerd kunnen worden met marginale modellen. Cruciaal is dat de auteurs beargumenteren dat het verzamelen van data die informatief is over $\theta$ noodzakelijk is voor rechtvaardigheid in de echte wereld om generalisatieverschillen te voorkomen die zich als indirecte onrechtvaardigheid kunnen manifesteren.

2.4 Toepassing op Active Learning

Het kader wordt aangepast voor Active Learning (AL) contexten. In deze context komt de doelvariabele $\theta$ overeen met het paar test-time inputs en doel-labels $(x^*, y^*_\theta)$, terwijl het gevoelige attribuut $\phi$ overeenkomt met $(x'^*, y^*_\phi)$. De doelstelling wordt een modificatie van de Expected Predictive Information Gain (EPIG):
$$R_{\text{FairEPIG}}(x) = I(y_\theta; (x^*, y^*_\theta) | x) - \beta I(y_\phi; (x'^*, y^*_\phi) | x)$$
Dit maakt het mogelijk om query-punten te selecteren die de voorspellingen voor de doeltaak verbeteren, terwijl de leerbaarheid van het gevoelige attribuut doelbewust wordt beperkt.

3. Belangrijkste Bijdragen

1. Nieuwe Formulering van Data-rechtvaardigheid: Het artikel verschuift de focus van de rechtvaardigheid van een model naar de rechtvaardigheid van de dataset zelf, waarbij rechtvaardigheid wordt gedefinieerd als het gebrek aan informatielekken over gevoelige attributen.
2. FairBED-doelstellingen: De introductie van praktische Bayesiaanse Experimentele Ontwerp (BED) doelstellingen die expliciet de afruil maken tussen doel-informativiteit en de informatie over het gevoelige attribuut.
3. Theoretische Koppeling met Democratische Pariteit: De auteurs bewijzen dat als de voorwaardelijke rechtvaardigheidsmetriek $F_c(\pi_d) = 0$ is (d.w.z. de data geen informatie over $\phi$ geeft gegeven $\theta$), downstream voorspellers getraind op deze data Democratische Pariteit (DP) bereiken, onder de aanname dat de prior over $\theta$ en $\phi$ scheidbaar is en het downstream model $\phi$ niet als input neemt.
4. Empirische Validatie: Demonstratie dat FairBED consistent superieure rechtvaardigheid-nauwkeurigheid-afruil bereikt vergeleken met willekeurige acquisitie en conventionele BED over meerdere datasets en modelarchitecturen.

4. Experimentele Resultaten

De auteurs evalueerden FairBED op drie verschillende taken:

1. Source Location Finding: Een synthetische BED-benchmark waarbij het doel is om een doelcoördinaat ($\theta$) te extraheren terwijl men een gevoelige coördinaat ($\phi$) vermijdt. De resultaten lieten zien dat FairBED-ontwerpen zich verspreiden langs de doelas, terwijl ze inklappen naar het prior-gemiddelde van de gevoelige as, waardoor het leren van $\phi$ effectief wordt onderdrukt met minimaal verlies in de leerbaarheid van $\theta$.
2. Student Graduation Prediction: Een binaire classificatietaak die de status van afstuderen ($y_\theta$) voorspelt, waarbij geslacht ($y_\phi$) als gevoelig wordt behandeld.
3. Census Income Prediction: Voorspellen van inkomensniveaus ($>50k$) waarbij geslacht als gevoelig wordt behandeld.
4. CelebA: Een grootschalige beeldendataset die "Lachen" ("Smiling") voorspelt, waarbij "Geslacht" ("Gender") als gevoelig wordt behand behandeld.

Belangrijkste Bevindingen:

• Rechtvaardigheid-Nauwkeurigheid Afruil: FairBED bereikte Pareto-optimale fronten die willekeurige acquisitie en standaard EPIG domineerden. Het verminderde de voorspelbaarheid van het gevoelige attribuut aanzienlijk terwijl de nauwkeurigheid op de doeltaak hoog bleef.
• Dataset-niveau Rechtvaardigheid: Experimenten waarbij diverse downstream modellen (Random Forest, XGBoost, MLP, SVM) werden getraind op dezelfde door FairBED verworven dataset, toonden consistente verbeteringen in de ratio's voor Democratische Pariteit (DP) en Equalized Odds (EO). Dit bevestigt dat de verbetering in rechtvaardigheid een eigenschap is van de verworven data, en niet een artefact van een specifiek model.
• Complementariteit: Het artikel demonstreert dat FairBED gecombineerd kan worden met downstream rechtvaardigheidsinterventies (bijv. Learned Fair Representations of Reject Option Classification). De combinatie van FairBED en downstream methoden leverde betere resultaten op dan elk afzonderlijk, wat suggereert dat ze additief zijn in plaats van vervangend.
• Robuustheid: De voordelen van FairBED generaliseerden over verschillende modelarchitecturen en label-budgetten.

5. Betekenis en Claims

Het artikel claimt dat FairBED een nieuw perspectief biedt op algoritmische rechtvaardigheid door de wortel van bias aan te pakken: het proces van data-acquisitie. Door de bruikbaarheid van data te formaliseren inclusief een straf voor informatie over gevoelige attributen, biedt FairBED een principiële aanpak voor het verzamelen van data die "inherent rechtvaardiger" is.

De auteurs benadrukken dat:

• Upstream Interventie is Cruciaal: Downstream mitigatiestrategieën worden vaak ondermijnd door vooroordelen die al in de data aanwezig zijn. FairBED pakt dit aan bij de bron.
• Generalisatie: De verbeteringen in rechtvaardigheid zijn intrinsiek aan de dataset, wat betekent dat elk model dat op deze data wordt getraind (zelfs zonder specifieke rechtvaardigheidsrestricties) van nature betere rechtvaardigheidseigenschappen zal vertonen.
• Praktische Bruikbaarheid: De aanpak is compatibel met standaard Bayesiaanse Experimentele Ontwerp en Active Learning kaders, waarbij enkel de specificatie van marginale modellen voor het doel en het gevoelige attribuut vereist is, welke zelfs zonder gevoelige labels tijdens de acquisctiefase vooraf getraind of handmatig geconstrueerd kunnen worden.

Dit werk opent nieuwe onderzoeksrichtingen voor rechtvaardigheidsbewuste data-acquisitie, en suggereert dat de weg naar rechtvaardigere AI-systemen begint bij hoe data wordt verzameld, en niet alleen bij hoe het wordt gemodelleerd.