🤖 AI

FairSHAP: Preprocessing for Fairness Through Attribution-Based Data Augmentation

Dit paper introduceert FairSHAP, een transparant voorverwerkingsframework dat Shapley-waarden gebruikt om individuele en groepsgerechtigheid te verbeteren door discriminerende data-instanties te identificeren en aan te passen, waardoor bias wordt verminderd zonder de modelnauwkeurigheid te schaden.

Oorspronkelijke auteurs: Lin Zhu, Yijun Bian, Lei You

Gepubliceerd 2026-02-24

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Lin Zhu, Yijun Bian, Lei You

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, maar soms vooroordeelvolle chef-kok bent die voor een groot restaurant werkt. Deze chef (het AI-model) moet beslissingen nemen, zoals: "Krijgt deze persoon een hypotheek?" of "Is deze verdachte een risico voor de maatschappij?"

Het probleem is dat de chef soms onbewust vooroordelen heeft. Bijvoorbeeld: hij weigert vaker leningen aan mensen met een bepaalde achternaam, of hij is strenger voor vrouwen dan voor mannen, zelfs als ze precies dezelfde situatie hebben.

De meeste bestaande methoden om dit op te lossen zijn als een "blind" ingrijpen:

Soms gooien ze gewoon alle namen van de achternaam weg (alsof je de chef blind maakt).
Soms proberen ze de hele keuken in te richten zodat iedereen evenveel eten krijgt, zonder te kijken of het gerecht wel lekker is.
Soms proberen ze de uitkomsten achteraf te corrigeren, alsof je de borden na het serveren nog even herschikt.

FairSHAP is een nieuwe, slimmere aanpak. Het is alsof we een super-scherpe keukenassistent hebben die precies weet waarom de chef een bepaalde beslissing neemt.

Hier is hoe het werkt, stap voor stap:

1. De "Waarom?"-Vraag (Shapley Waarden)

Stel je voor dat de chef zegt: "Ik weigerde deze lening omdat de klant te weinig inkomen had."
Maar was dat echt de reden? Of was het eigenlijk omdat de klant uit een bepaalde wijk kwam?

FairSHAP gebruikt een wiskundig trucje (noem het Shapley Waarden) dat werkt als een rekenmachine voor verantwoordelijkheid. Het kijkt naar elke individuele beslissing en zegt: "Oké, dit specifieke kenmerk (bijv. inkomen) droeg 10% bij aan de beslissing, maar dit andere kenmerk (bijv. geslacht) droeg 40% bij."

Als het geslacht een te grote rol speelt in een beslissing die eigenlijk alleen op inkomen zou moeten gebaseerd zijn, dan weet FairSHAP: "Hier zit de onrechtvaardigheid!"

2. De "Spiegel"-Techniek (Matching)

Nu komt het creatieve deel. FairSHAP zoekt in de database naar een "spiegelbeeld".

Het neemt een vrouw die een lening kreeg geweigerd.
Het zoekt een man die exact dezelfde situatie heeft (zelfde inkomen, dezelfde werkervaring, dezelfde schulden), maar die een lening wel kreeg.

Deze twee mensen worden aan elkaar gekoppeld. Ze zijn bijna identiek, behalve dan dat de één wel en de ander niet de voorkeur kreeg.

3. De "Kleine Aanpassing" (Data Augmentation)

In plaats van de hele database te wissen of te herschrijven, doet FairSHAP iets heel subtiels.
Het kijkt naar de man (de "spiegel") en zegt: "Oké, de reden dat de vrouw werd geweigerd was dat een bepaald kenmerk (bijvoorbeeld een specifieke postcode) te zwaar weegde in de berekening."

FairSHAP past alleen dat ene kenmerk bij de vrouw aan, zodat het meer lijkt op de man. Het is alsof je een klein beetje zout uit de soep haalt, in plaats van de hele pot soep te gooien.

Doel: De beslissing wordt eerlijker, omdat de "onrechtvaardige" factor is verwijderd.
Gevolg: De data blijft bijna hetzelfde (de soep smaakt nog steeds goed), maar de onrechtvaardigheid is weg.

Waarom is dit zo goed?

Het is transparant: We weten precies welke knoppen we hebben gedraaid en waarom. Geen "magie" meer.
Het is voorzichtig: De meeste methoden gooien 90% van de data weg of veranderen alles. FairSHAP verandert alleen de stukjes die echt nodig zijn. Het is als het repareren van een scheur in een kledingstuk in plaats van het hele pak te vernietigen.
Het werkt voor iedereen: Het helpt niet alleen groepen (mannen vs. vrouwen), maar ook individuen. Iedereen krijgt een eerlijke kans op basis van hun eigen situatie, niet op basis van vooroordelen.

Samenvattend

FairSHAP is als een eerlijke keukenchef die niet blindelings regels volgt, maar elke beslissing controleert met een vergrootglas. Als hij ziet dat een vooroordeel een rol speelt, past hij precies dat ene ding aan in de receptuur, zodat de uitkomst eerlijk wordt, zonder dat het hele gerecht (de data) zijn smaak verliest.

Het resultaat: Een AI-systeem dat niet alleen slim is, maar ook eerlijk en betrouwbaar voor iedereen.

Titel: FairSHAP: Preprocessing voor Fairness door Toewijzing-gebaseerde Data Augmentatie

1. Het Probleem

Machine learning-modellen worden steeds vaker ingezet in hoog-risico domeinen zoals gezondheidszorg, financiën en justitie. In deze context kunnen vooroordelen in modellen leiden tot ernstige maatschappelijke gevolgen. Bestaande methoden voor het mitigeren van bias (voornamelijk preprocessing) hebben echter twee belangrijke tekortkomingen:

Gebrek aan transparantie: Het is vaak onduidelijk welke specifieke kenmerken (features) verantwoordelijk zijn voor onrechtvaardigheid. Dit maakt de redenering achter data-aanpassingen ondoorzichtig en kan leiden tot "fairwashing" (het rationaliseren van vooroordelen via misleidende uitleg).
Focus op groepsgemiddelden: Veel methoden richten zich uitsluitend op groepsgerechtigheid (bijv. Demografische Pariteit), waardoor ze individuele onrechtvaardigheid en intersectieel bias over het hoofd zien. Er is een behoefte aan methoden die zowel individuele als groepsgerechtigheid verbeteren zonder de integriteit van de data te schaden.

2. Methodologie: FairSHAP

FairSHAP is een nieuw preprocessing-framework dat gebruikmaakt van Shapley-waarden (uit de coöperatieve speltheorie) om bias te identificeren en te corrigeren via gerichte data-augmentatie. Het is model-agnostisch (werkt met elke classifier) en richt zich op het minimaliseren van de Discriminative Risk (DR), een maatstaf voor individuele eerlijkheid.

Het proces verloopt in drie hoofdstappen:

Verdeling en Matching:
- De dataset wordt opgesplitst in een bevoorrechte groep (A=1) en een niet-bevoorrechte groep (A=0) op basis van een gevoelig attribuut (bijv. geslacht, ras).
- Er wordt een nearest-neighbor matching (of Optimal Transport) uitgevoerd om paren te vormen tussen individuen uit beide groepen die qua niet-gevoelige kenmerken zo vergelijkbaar mogelijk zijn. Dit creëert een referentiepunt voor elke instance.
Identificatie van Fairness-Critical Features:
- Voor elke instance in de doelgroep worden Shapley-waarden berekend. Deze waarden kwantificeren de bijdrage van elk kenmerk aan de voorspelling van het model.
- Kenmerken met een Shapley-waarde boven een bepaalde drempelwaarde ( $T$ , standaard 0.05) worden geïdentificeerd als "fairness-critical". Dit zijn de kenmerken die het meest bijdragen aan de onrechtvaardige voorspelling.
Gerichte Data Augmentatie:
- De waarden van deze kritieke kenmerken in de doel-instance worden vervangen door de waarden van het gekoppelde referentiepunt uit de andere groep.
- Dit proces wordt wederzijds uitgevoerd (beide groepen dienen als doel en referentie).
- Het resultaat is een aangepaste dataset ( $D_{new}$ ) die minder bias bevat, maar de oorspronkelijke data-distributie zoveel mogelijk behoudt.

Theoretische Basis:
Het paper bewijst dat het vervangen van kenmerken met hoge Shapley-waarden leidt tot een theoretische reductie in de Discriminative Risk (DR). De reductie wordt gegarandeerd tot op een interactieresidu-term, die verwaarloosbaar klein is bij lokale matching (kleine afstand tussen instance en referentie). Bovendien wordt aangetoond dat het verlagen van de individuele DR ook leidt tot een vermindering van groepsgerechtigheidsmaten zoals Demografische Pariteit (DP) en Equality of Opportunity (EO).

3. Belangrijkste Bijdragen

Nieuwe Framework: Introductie van FairSHAP, dat Shapley-waarden koppelt aan instance-level matching om bias te mitigeren.
Interpreteerbaarheid: De methode biedt inzicht in welke kenmerken bias veroorzaken, waardoor de aanpassingen transparant en actiegericht zijn.
Dualiteit van Fairness: Het bewijs dat het verbeteren van individuele eerlijkheid (via DR) automatisch leidt tot verbetering van groepsgerechtigheid.
Data Integriteit: De methode voert minimale wijzigingen door in de dataset, wat de data-fideliteit (trouw aan de oorspronkelijke verdeling) behoudt en vaak zelfs de voorspellende nauwkeurigheid verbetert.
Open Source: De code is beschikbaar gemaakt voor reproduceerbaarheid.

4. Resultaten

De auteurs hebben FairSHAP getest op vijf veelgebruikte tabulaire datasets (German Credit, COMPAS, Adult, Census Income KDD, Default Credit) en vergeleken met bestaande methoden zoals Remove Sensitive Attribute (RSA), Disparate Impact Remover (DIR) en Correlation Remover (CR).

Prestaties: FairSHAP behaalde state-of-the-art of vergelijkbare resultaten op alle fairness-maatstaven (DR, DP, EO) met vaak minder data-aanpassingen dan concurrenten.
- Bijvoorbeeld: Op de German Credit dataset werd de DR met tot 80% gereduceerd.
- Op de COMPAS dataset werd de DR met bijna 40% verlaagd.
Nauwkeurigheid: In tegenstelling tot veel andere methoden die vaak ten koste gaan van de nauwkeurigheid, behield FairSHAP de nauwkeurigheid of verbeterde deze zelfs in sommige gevallen (bijv. COMPAS en Census Income).
Data Fidelity: FairSHAP behield de data-integriteit aanzienlijk beter dan methoden zoals Correlation Remover, die vaak >95% van de data aanpasten. FairSHAP paste slechts een klein percentage van de data aan (Training Adjustment Rate was zeer laag, vaak <2%).
Ablatie Studies: Experimenten toonden aan dat zowel de matching-strategie als het gebruik van Shapley-waarden essentieel zijn; willekeurige aanpassingen of matching zonder Shapley-resultaten leverden minder goede resultaten op.

5. Betekenis en Impact

FairSHAP biedt een belangrijke stap voorwaarts in het veld van Responsible AI door:

Transparantie te combineren met actie: Het lost het probleem op dat interpretability vaak losstaat van daadwerkelijke bias-mitigatie. Het laat niet alleen zien waarom er bias is, maar gebruikt die uitleg direct om de data te corrigeren.
Individuele focus: Door te focussen op individuele eerlijkheid (DR) wordt voorkomen dat groepsgemiddelden individuele onrechtvaardigheden maskeren.
Praktische toepasbaarheid: Omdat het een preprocessing-methode is die model-agnostisch werkt, kan het naadloos worden geïntegreerd in bestaande ML-pijplijnen zonder dat het model zelf hoeft te worden herontworpen of dat de testset aangepast moet worden.

Kortom, FairSHAP demonstreert dat het mogelijk is om machine learning-modellen eerlijker te maken door slimme, interpreteerbare data-aanpassingen die de kwaliteit van de data en het model behouden.