Procedural Fairness in Machine Learning

Dit artikel introduceert een definitie en een nieuwe metriek ($GPF_{FAE}$) voor procedurele eerlijkheid in machine learning, en presenteert methoden om procedurele onrechtvaardigheid te identificeren en te verhelpen, wat vaak ook leidt tot verbeterde distributieve eerlijkheid.

De kern

🎲 Het Gerechtvaardigde Spel: Waarom de Manier van Beslissen Net Zo Belangrijk Is als het Resultaat

Stel je voor dat je in een groot, digitaal casino zit. Je speelt een spel tegen een slimme computer (een Machine Learning-model). De computer moet beslissen of je wint of verliest.

Tot nu toe hebben onderzoekers zich vooral gefocust op distributieve eerlijkheid. Dat betekent: "Krijgen alle spelers aan het einde evenveel geld?" Als de computer de winnaars en verliezers eerlijk verdeelt, denken we: "Oké, dit is eerlijk."

Maar dit artikel zegt: "Wacht even! Het gaat er niet alleen om wie wint, maar ook om hoe de computer tot die beslissing komt." Dit noemen ze procedurale eerlijkheid (proces-eerlijkheid).

🕵️‍♂️ De Analogie: De Rechter en de Regels

Stel je twee mensen voor die een rechtszaak hebben.

1. Situatie A: De rechter geeft iemand een zware straf, maar hij heeft de regels strikt en transparant gevolgd. Iedereen ziet dat de regels voor iedereen hetzelfde waren.
2. Situatie B: De rechter geeft iemand een lichte straf, maar hij heeft de regels genegeerd en beslist op basis van "gevoel" of voorkeur.

In de wereld van AI is Situatie A vaak acceptabeler dan Situatie B, zelfs als het resultaat (de straf) niet perfect is. Mensen vinden het proces eerlijker als ze zien dat de regels voor iedereen gelijk zijn. Het probleem is: computers zijn vaak een "zwarte doos". We zien het eindresultaat, maar we weten niet waarom de computer zo besliste.

🔍 Het Nieuwe Gereedschap: De "X-Ray" voor Beslissingen

De auteurs van dit paper (Wang, Huang, Tang en Yao) hebben een nieuwe manier bedacht om in die zwarte doos te kijken. Ze gebruiken een techniek die FAE (Feature Attribution Explanation) heet.

De Analogie: De Chef-kok en de Ingrediënten
Stel je een gerecht voor dat door een AI-chef is bereid.

• De oude manier: Je proeft het gerecht en zegt: "Het smaakt goed/slecht." (Dit is kijken naar het resultaat).
• De nieuwe manier (FAE): Je kijkt naar het recept en vraagt: "Hoeveel invloed had de peper? Hoeveel invloed had de zout? En hoeveel invloed had de 'geboortedatum' van de klant op de smaak?"

FAE geeft een score voor elk ingrediënt (elk gegeven) dat de computer heeft gebruikt. Het zegt: "Voor deze beslissing was 'leeftijd' 80% belangrijk, maar 'geslacht' was 0% belangrijk."

⚖️ De Nieuwe Maatstaf: GPFFAE

De auteurs hebben een nieuwe meetlat bedacht, genaamd GPFFAE.
Stel je twee groepen mensen voor: Groep A (bijv. mannen) en Groep B (bijv. vrouwen).

• Als de computer twee mensen uit Groep A en Groep B die exact hetzelfde zijn (zelfde inkomen,zelfde ervaring), behandelt met exact hetzelfde recept, dan is het proces eerlijk.
• Maar als de computer voor Groep A vooral kijkt naar "werkervaring" en voor Groep B vooral naar "geslacht" (zelfs als ze identiek zijn), dan is het proces onfair. Het is alsof de chef-kok voor de ene groep zout gebruikt en voor de andere peper, terwijl ze hetzelfde gerecht wilden.

GPFFAE meet dit verschil in "recepten". Als de recepten te verschillend zijn, slaat het alarm: "Ongepast proces!"

🛠️ Wat doen ze met deze kennis?

Het paper doet drie dingen:

1. Het definiëren: Ze zeggen precies wat "proces-eerlijkheid" is in de taal van computers.
2. Het meten: Ze bouwen de GPFFAE-maatstaf om te zien of een computer eerlijk denkt.
3. Het repareren: Als de computer oneerlijk denkt, vinden ze de "verkeerde ingrediënten" en maken ze het beter.

Hoe repareren ze het? Twee methoden:

• Methode 1: De "Snoepruiter" (Opnieuw trainen)
  Je haalt de oneerlijke ingrediënten (zoals 'geslacht' of 'postcode') volledig uit het recept en laat de chef-kok het gerecht opnieuw maken zonder die ingrediënten.

  • Voordeel: Het resultaat is vaak heel eerlijk.
  • Nadeel: De chef-kok moet helemaal opnieuw leren koken, wat tijd kost en soms de smaak (de nauwkeurigheid) iets verandert.

• Methode 2: De "Fijnproever" (Aanpassen)
  Je laat de chef-kok het bestaande recept houden, maar je zegt: "Gebruik minder zout en meer peper." Je past de bestaande beslissingen aan zodat ze minder gevoelig zijn voor de oneerlijke ingrediënten, zonder het hele recept opnieuw te schrijven.

  • Voordeel: Het blijft dicht bij de originele stijl van de chef (de beslissingen blijven herkenbaar).
  • Nadeel: Het is iets lastiger om de balans te vinden tussen eerlijkheid en smaak.

📊 Wat leerden ze? (De Resultaten)

Ze hebben dit getest op 9 verschillende datasets (van sollicitaties tot kredietaanvragen).

• De verrassing: Soms is een computer eerlijk in het resultaat (iedereen krijgt evenveel kans), maar oneerlijk in het proces (hij gebruikt verschillende regels voor verschillende mensen). En andersom!
• De oplossing: Met hun nieuwe methode konden ze precies vinden welke gegevens de computer oneerlijk gebruikte.
• Het resultaat: Door die specifieke gegevens aan te passen, werd het proces veel eerlijker. Het resultaat voor de mensen werd ook eerlijker, en de computer werd nog steeds net zo slim (hij maakte nauwelijks meer fouten).

🚀 Conclusie in één zin

Dit artikel leert ons dat we niet alleen moeten kijken naar wie er wint in de AI-wereld, maar ook naar hoe de computer tot die beslissing komt. Door te kijken naar het "recept" van de beslissing, kunnen we computers eerlijker maken, zodat ze voor iedereen op dezelfde manier denken.

Technische samenvatting

Probleemstelling

Fairness (eerlijkheid) in machine learning (ML) heeft de afgelopen jaren veel aandacht gekregen, maar het onderzoek concentreert zich bijna uitsluitend op distributieve eerlijkheid (outcome fairness). Dit betreft de rechtvaardigheid van de resultaten van een beslissing (bijv. worden verschillende groepen even vaak positief beoordeeld?). Er is echter een tweede, cruciale dimensie die vaak wordt genegeerd: procedurale eerlijkheid (process fairness).

Procedurale eerlijkheid verwijst naar de rechtvaardigheid van het beslissingsproces zelf. Volgens filosofie en psychologie is het proces vaak belangrijker dan het resultaat; mensen accepteren een ongunstig resultaat eerder als ze het proces als eerlijk ervaren. Bestaande definities van procedurale eerlijkheid in ML (zoals die van Grgić-Hlača et al., 2018) zijn ontoereikend omdat ze zich alleen richten op de inherent eerlijkheid van de invoerfeatures (bijv. het gebruik van gevoelige attributen zoals ras of geslacht). Een model dat gevoelige features gebruikt, hoeft niet per se een oneerlijk beslissingsproces te hebben, en omgekeerd kan een model met schijnbaar "veilige" features toch oneerlijke logica toepassen. Er ontbreekt een formele definitie en een kwantificeerbare maatstaf om het interne beslissingsproces van ML-modellen op eerlijkheid te beoordelen.

Methodologie

De auteurs stellen een systematische aanpak voor die bestaat uit drie hoofdstappen: definitie, meting en mitigatie.

1. Definitie van Procedurale Eerlijkheid

De auteurs definiëren procedurale eerlijkheid als de afwezigheid van vooroordelen in het interne beslissingsproces of de logica van het model, ongeacht de invoerfeatures. Ze onderscheiden twee niveaus:

• Individuele procedurale eerlijkheid: Twee vergelijkbare individuen moeten een vergelijkbaar beslissingsproces ondergaan.
• Groepsprocedurale eerlijkheid: Vergelijkbare individuen uit twee verschillende groepen (bijv. man/vrouw) moeten een vergelijkbaar beslissingsproces ondergaan.

Om dit te kwantificeren, introduceren ze een representatie $\Phi$ van het beslissingsproces, afgeleid van Feature Attribution Explanations (FAE). FAE-technieken (zoals SHAP, Integrated Gradients) berekenen de belangrijkheidsscores van invoerfeatures voor een specifieke voorspelling.

2. De GPFFAE-maatstaf

Om groepsprocedurale eerlijkheid te meten, stellen de auteurs de GPFFAE (Feature Attribution-based Group Procedural Fairness) voor.

• Principe: Het vergelijkt de verdeling van de FAE-verklaringen (de logica) voor vergelijkbare datapunten uit twee groepen (bijv. $X_1$ en $X_2$).
• Implementatie:
  1. Er worden $n$ paren van zeer vergelijkbare datapunten geselecteerd uit de twee groepen (met minimale afstand in de feature-ruimte).
  2. Voor elk paar wordt de FAE-verklaring ($e$) gegenereerd.
  3. De verdelingsverschillen tussen de twee sets verklaringen ($E_1$ en $E_2$) worden gemeten met Maximum Mean Discrepancy (MMD).
• Uitkomst: Een lage MMD-waarde (hoge p-waarde) duidt op gelijke logica en dus procedurale eerlijkheid. Een hoge MMD-waarde duidt op procedurale onrechtvaardigheid.

3. Identificatie van Onrechtvaardige Features

Als een model als oneerlijk wordt beoordeeld, identificeren de auteurs de specifieke features die verantwoordelijk zijn voor de onrechtvaardigheid. Ze vergelijken de verdeling van de attributiescores voor elke feature tussen de twee groepen. Features met een significant verschil in attributie worden geclassificeerd als Unfair Features (UFs).

4. Mitigatiestrategieën

Op basis van de geïdentificeerde UFs stellen de auteurs twee methoden voor om de procedurale eerlijkheid te verbeteren:

1. Hertraining (Retraining): De geïdentificeerde onrechtvaardige features worden volledig uit de dataset verwijderd en het model wordt opnieuw getraind.
2. Modificatie (Fine-tuning): Het bestaande model wordt aangepast door een extra verliesfunctie (explanation loss) toe te voegen. Deze straal de modelparameters zodanig dat de impact (attributiescore) van de onrechtvaardige features op de beslissingen wordt geminimaliseerd, terwijl de algemene prestaties behouden blijven. Dit is "trouw" aan het originele model.

Belangrijkste Resultaten

De auteurs hebben hun methoden getest op een synthetische dataset en acht real-world datasets (waaronder Adult, COMPAS, German Credit, LSAT).

• Validatie van GPFFAE: De maatstaf onderscheidt nauwkeurig tussen modellen die proceduraal eerlijk zijn (getraind op "faire" features) en oneerlijke modellen. Interessant is dat GPFFAE aantoont dat een model met een oneerlijk resultaat (distributief oneerlijk) soms een eerlijk proces kan hebben (zoals geobserveerd bij de COMPAS-dataset), wat de noodzaak bevestigt om beide dimensies apart te meten.
• Identificatie van UFs: De methode slaagt erin om de juiste features te vinden die leiden tot onrechtvaardigheid (bijv. geslacht en gerelateerde proxy-features zoals "huwelijkse status" in de Adult-dataset).
• Effectiviteit van Mitigatie:
  • Beide methoden (hertraining en modificatie) verbeteren de procedurale eerlijkheid aanzienlijk (GPFFAE-waarden stijgen naar ~1,0).
  • Ze verbeteren ook de distributieve eerlijkheid (DP, EO, EOD).
  • Prestatieverlies: Het verlies aan modelnauwkeurigheid is minimaal. Hertraining leidt gemiddeld tot een daling van slechts 0,8%, terwijl modificatie een daling van 1,8% veroorzaakt.
  • De modificatiemethode behoudt de oorspronkelijke beslissingslogica beter dan hertraining, wat belangrijk is voor modelinterpretatie.

Bijdragen en Significantie

De belangrijkste bijdragen van dit werk zijn:

1. Formele Definitie: Een nieuwe, precieze definitie van procedurale eerlijkheid in ML die zich richt op de interne logica en niet alleen op invoerfeatures.
2. Nieuwe Maatstaf (GPFFAE): De eerste kwantitatieve, schaalbare maatstaf om procedurale eerlijkheid te evalueren met behulp van XAI-technieken (FAE), zonder afhankelijk te zijn van menselijke oordelen.
3. Actieve Interventie: Een werkend raamwerk om de bronnen van onrechtvaardigheid te vinden en twee effectieve methoden voor te stellen om deze te verhelpen.
4. Inzicht in Relaties: Het werk onthult de complexe relatie tussen distributieve en procedurale eerlijkheid; ze overlappen vaak, maar kunnen ook in conflict zijn. Een eerlijk proces garandeert niet altijd een eerlijk resultaat, en vice versa.

Significantie:
Dit onderzoek vult een kritieke leemte in het AI-ethieklandschap op. Het biedt een technische oplossing voor governance-frameworks (zoals de EU AI Act) die transparantie en eerlijke processen eisen, maar die tot nu toe moeilijk te kwantificeren waren. Door de focus te verschuiven van alleen het resultaat naar het proces, kunnen ontwikkelaars ML-modellen bouwen die niet alleen eerlijke uitkomsten leveren, maar ook door gebruikers als eerlijk worden ervaren, wat essentieel is voor de acceptatie van AI in kritieke domeinen zoals justitie en financiering.