🤖 machine learning

Fairness under uncertainty in sequential decisions

Dit artikel introduceert een taxonomie van onzekerheid in sequentiële beslissingen om de ongelijke verdeling van risico's voor ondervertegenwoordigde groepen te analyseren en biedt een raamwerk voor het ontwerpen van eerlijke algoritmes die rekening houden met onwaargenomen tegenvoorbeelden en selectieve feedback.

Oorspronkelijke auteurs: Michelle Seng Ah Lee, Kirtan Padh, David Watson, Niki Kilbertus, Jatinder Singh

Gepubliceerd 2026-04-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Michelle Seng Ah Lee, Kirtan Padh, David Watson, Niki Kilbertus, Jatinder Singh

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een bankdirecteur bent die beslissingen moet nemen over wie een lening krijgt. In het verleden deden mensen dit op basis van ervaring en een "buikgevoel". Vandaag de dag gebruiken we slimme computers (kunstmatige intelligentie) om deze beslissingen te nemen. Die computers zijn vaak sneller en nauwkeuriger, maar ze hebben een groot probleem: ze kunnen niet zien wat er had kunnen gebeuren als ze een andere keuze hadden gemaakt.

Dit artikel van Michelle Seng Ah Lee en haar team gaat over hoe we eerlijk kunnen beslissen in een wereld vol onzekerheid, vooral als die onzekerheid oneerlijk verdeeld is over verschillende groepen mensen.

Hier is een uitleg in gewone taal, met een paar creatieve vergelijkingen:

1. Het Probleem: De "Zwarte Doos" van de Toekomst

Stel je voor dat je een tuinier bent. Je wilt weten welke zaden de beste bloemen opleveren. Maar er is een probleem: je hebt alleen gegevens over de zaden die je wel hebt geplant. Je weet niet hoe de bloemen zouden zijn geweest bij de zaden die je niet hebt geplant.

In de wereld van leningen is dit precies hetzelfde:

Als de bank een lening verkeert, weten ze of de klant het geld terugbetaalt.
Als de bank een lening weigert, weten ze nooit of die klant het geld wel terug had betaald.

Dit is het grote mysterie: de computer ziet alleen de succesvolle verhalen, niet de gemiste kansen. En hier komt het gevaar: als een bepaalde groep mensen (bijvoorbeeld een minderheidsgroep) in het verleden vaak is geweigerd, heeft de computer weinig gegevens over hen. Voor die groep is de computer dus "blind" en onzeker. Voor de groep waarover veel data is, is de computer juist heel zeker.

2. De Onzekerheid is niet eerlijk verdeeld

De auteurs zeggen: "Onzekerheid is niet voor iedereen hetzelfde."

Groep A (de geprivilegieerden): De computer heeft veel data over hen. Hij zegt: "Ik weet bijna zeker dat deze persoon betaalt."
Groep B (de historisch benadeelden): De computer heeft weinig data over hen. Hij zegt: "Ik weet het niet zeker, misschien betaalt hij, misschien niet."

Het gevaarlijke is: als de computer bang is voor onzekerheid, zal hij Group B vaak weigeren, simpelweg omdat hij het niet durft te gokken. Hierdoor krijgen ze nog minder kansen, waardoor de computer nog minder data krijgt, en wordt het probleem erger. Dit is een slecht cirkeltje.

3. De Oplossing: De "Nieuwsgierige" Computer

De auteurs stellen een nieuwe manier van denken voor. In plaats van alleen te kijken naar wat we zeker weten, moeten we de onzekerheid zelf gebruiken als een kompas.

Stel je voor dat de computer een avonturier is in een donker bos:

De oude manier (naïef): De avonturier loopt alleen op de paden die hij al kent (de veilige, bekende groepen). Hij loopt nooit het bos in waar het donker is (de onbekende groepen), omdat hij bang is om verdwaald te raken. Hierdoor blijft hij voor altijd vastzitten in de bekende paden.
De nieuwe manier (onzekerheidsbewust): De avonturier zegt: "Ik weet dat ik in het donkere deel van het bos minder weet. Dus, in plaats van bang te zijn, ga ik daar bewust een beetje meer onderzoek doen."

Ze noemen dit "exploratie". De computer geeft mensen uit de onzekere groepen (Groep B) een kleine kans om te laten zien dat ze betrouwbaar zijn, zelfs als de computer niet 100% zeker is. Dit is niet "positieve discriminatie" (iemand een voorkeur geven puur om zijn achtergrond), maar het is eerlijke nieuwsgierigheid. Je geeft de kans aan iemand die anders nooit een kans zou krijgen omdat de computer "niet genoeg weet".

4. Wat levert dit op?

De auteurs hebben dit getest in een virtuele wereld (een simulatie). Ze lieten zien dat als je de computer leert om rekening te houden met deze onzekerheid:

De bank verliest niet: Ze maken evenveel (of soms zelfs meer) winst, omdat ze niet langer goede klanten mislopen die ze uit onzekerheid weigerden.
De ongelijkheid neemt af: De groep die vroeger vaak werd geweigerd, krijgt meer eerlijke kansen. De "onzekerheidskloof" wordt kleiner.

5. Waarom is dit belangrijk voor de wet?

In veel landen is het illegaal om mensen te discrimineren op basis van hun ras of geslacht. Maar wat als een computer iemand weigert omdat hij "niet genoeg data" heeft? Is dat dan discriminatie?
De auteurs zeggen: Ja, dat kan wel. Als je niet bewust probeert om die onzekerheid op te lossen, blijf je vastzitten in oude onrechtvaardigheden. Door de computer te laten "gokken" op de onzekere gevallen, voldoe je beter aan de wetten tegen discriminatie, omdat je iedereen een eerlijke kans geeft om bewezen te worden.

Samenvattend

Dit artikel zegt eigenlijk: "Wees niet bang voor wat je niet weet, maar gebruik je nieuwsgierigheid om het te ontdekken."

In plaats van alleen te vertrouwen op wat we al weten (wat vaak de geprivilegieerden bevoordeelt), moeten we slimme systemen bouwen die bewust de "donkere hoekjes" van de data onderzoeken. Op die manier maken we de wereld eerlijker voor iedereen, zonder dat we daarvoor onze winst op hoeven te offeren. Het is een manier om de computer te leren dat niet weten geen reden mag zijn om iemand de deur te wijzen.

Probleemstelling

Machine Learning (ML) wordt steeds vaker ingezet voor sequentiële beslissingen in hoog-risico domeinen zoals kredietverstrekking, werving en justitie. Waar traditionele toezichtstudies zich voornamelijk richten op supervised learning (statistische voorspellingen op vaste datasets), missen veel bestaande methoden de dynamiek van online en sequentiële systemen. In deze systemen worden beslissingen genomen onder onzekerheid, waarbij de uitkomst van een beslissing (bijv. of een afgekeurde lening zou zijn terugbetaald) vaak onwaarneembaar blijft (ontbrekende contrafactuele uitkomsten).

Het kernprobleem is dat onzekerheid niet gelijkmatig over groepen is verdeeld. Historisch gemarginaliseerde groepen hebben vaak minder data tot hun beschikking (door selectieve feedback en historische uitsluiting), wat leidt tot hogere voorspellingsonzekerheid voor deze groepen. Naïeve beleidslijnen die deze onzekerheid negeren, neigen ertoe om deze groepen systematisch te benadelen door conservatief te handelen (bijv. leningen weigeren bij twijfel), wat de ongelijkheid versterkt in een vicieuze cirkel. Bovendien brengt Reinforcement Learning (RL), dat exploratie vereist, juridische en ethische risico's met zich mee als deze exploratie willekeurig gebeurt zonder rekening te houden met de ongelijkheid in onzekerheid.

Methodologie

De auteurs introduceren een gestructureerde aanpak bestaande uit een taxonomie, een wiskundig formalisme en simulaties.

1. Taxonomie van Onzekerheid

Het artikel presenteert een taxonomie van zes soorten onzekerheid die zich door de ML-leefcyclus verspreiden, onderverdeeld in "globale" (systeemniveau) en "lokale" (individueel/groepsniveau) onzekerheden:

Globale onzekerheid:
- Wereld: Onzekerheid over welke ongelijkheden wenselijk of onwenselijk zijn.
- Datacollectie: Representatieonzekerheid (bias in de steekproef).
- Feature engineering: Meetonzekerheid (hoe goed meten features het doel?).
- Modeltraining: Modelonzekerheid (hoe dicht staat het model bij de "ware" verdeling?).
Lokale onzekerheid (focus van het artikel):
- Voorspelling: Onzekerheid rondom een specifieke voorspelling (bijv. kans op terugbetaling), die vaak hoger is voor ondervertegenwoordigde groepen.
- Feedback: Onzekerheid over de uitkomst van niet-gekozen acties (contrafactuele uitkomsten). Bijvoorbeeld: een bank weet niet of een afgekeurde lening zou zijn terugbetaald.

2. Wiskundig Formalisme

Het probleem wordt gemodelleerd als een contextuele bandit (of RL-probleem).

Doelfunctie: De auteurs definiëren de nuttigheid (utility) niet alleen op basis van waargenomen uitkomsten, maar inclusief contrafactuele uitkomsten.
- Waargenomen: $d(y_1 g - (1-y_1)l)$ , waarbij $d$ de beslissing is, $y_1$ de terugbetaling, $g$ winst en $l$ verlies.
- Onwaargenomen (Contrafactueel): $(1-d)((1-y_1)g - y_1 l)$ . Dit vertegenwoordigt de gemiste kans (opportunity cost) als een goede kandidaat wordt afgewezen.
Beleid: Het doel is om het verwachte nut te maximaliseren over zowel waargenomen als onwaargenomen ruimtes, rekening houdend met de onzekerheid in de voorspellingen.

3. Experimenteel Opzet en Vergelijkende Methodes

De auteurs gebruiken synthetische data (gebaseerd op leningaanvragen) met gecontroleerde niveaus van bias (historisch, meet- en representatiebias). Ze vergelijken vijf benaderingen:

Naïef: Geen exploratie; strikte drempelwaarden op basis van een logistiek regressiemodel.
Naïeve exploratie: Een willekeurige subset van kandidaten in het "onzekerheidsgebied" krijgt een lening om data te verzamelen.
Gewogen exploratie: Exploratie gebaseerd op de geschatte terugbetalingskans (prioritering van kansrijke kandidaten).
Onzekerheidsbewuste exploratie (Uncertainty-aware): Exploratie is beperkt tot kandidaten waarbij het betrouwbaarheidsinterval van de voorspelling de beslissingsdrempel overlapt. Dit adresseert expliciet de voorspellingsonzekerheid.
Contrafactuele nutmaximalisatie: Een end-to-end trainingsmethode waarbij het model wordt geoptimaliseerd op een differentieerbare combinatie van waargenomen en verwachte contrafactuele uitkomsten, zonder expliciete fairness-beperkingen.

Belangrijkste Bijdragen

Taxonomie van Onzekerheid: Een gedeelde vocabulaire voor het identificeren van waar en hoe onzekerheid ontstaat in sequentiële beslissingssystemen, met name hoe deze ongelijk verdeeld is over groepen.
Formalisatie van "Fairness under Uncertainty": Een wiskundige kaderstelling die laat zien hoe ongelijke epistemische en feedback-onzekerheid onder selectieve labels tot structurele discriminatie kan leiden.
Demonstratie van Oplossingen: Bewijs dat het actief managen van onzekerheid (via exploratie of contrafactuele optimalisatie) de fairness-metrics verbetert zonder de algehele prestaties (winst) van de beslissingsnemer te offeren.
Juridische en Governance Implicaties: Een discussie over hoe RL-systemen, die inherent willekeurig zijn door exploratie, kunnen botsen met non-discriminatiewetten, en hoe onzekerheidsbewustzijn kan helpen bij het naleven van deze wetten.

Resultaten

De experimenten tonen de volgende inzichten:

Verbeterde Fairness zonder Prestatieverlies: De methode van "Contrafactuele nutmaximalisatie" en "Onzekerheidsbewuste exploratie" leidt tot aanzienlijk betere fairness-metrics (zoals selectie-ratio verschillen en FPR/FNR verschillen) vergeleken met naïeve methoden.
Robuustheid tegen Bias: Zelfs bij hoge niveaus van historische en meetbias, behouden de onzekerheidsbewuste methoden een hoge winst, terwijl naïeve methoden in prestatie en eerlijkheid achteruitgaan.
Mechanisme: Door onzekerheid expliciet te modelleren, wordt voorkomen dat kandidaten uit ondervertegenwoordigde groepen (die hogere voorspellingsonzekerheid hebben) onterecht worden afgewezen. Het systeem "onderzoekt" deze onzekerheid in plaats van deze te straffen.
Geen expliciete Fairness Constraints: Opmerkelijk is dat de verbetering in eerlijkheid wordt bereikt zonder expliciete fairness-beperkingen in de optimatieroutine toe te voegen; het is een natuurlijk gevolg van het optimaliseren van het totale verwachte nut inclusief contrafactuele uitkomsten.

Significantie en Conclusie

Dit artikel is van groot belang voor de Fair ML-community omdat het de focus verschuift van statische, post-hoc fairness-metingen naar dynamische, proces-georiënteerde benaderingen.

Theoretische Impact: Het benadrukt dat onzekerheid niet slechts "ruis" is, maar een structurele drijver van ongelijkheid in sequentiële systemen. Het biedt een raamwerk om te begrijpen hoe selectieve feedback en ongelijke data-kwaliteit cumulatieve schade veroorzaken.
Praktische Toepassing: Het biedt beleidsmakers en ontwikkelaars een toolkit om audit- en governance-processen te verbeteren. Door te focussen op de "onzekerheidsbronnen" (zoals voorspellingsintervallen en feedback-luiken) kunnen systemen worden ontworpen die minder schadelijk zijn voor kwetsbare groepen.
Toekomstperspectief: De auteurs pleiten voor een meer transparante dialoog over de juridische status van RL in hoog-risico domeinen. Hun aanpak suggereert dat het actief omgaan met onzekerheid een haalbare weg is om zowel economische doelen als ethische en wettelijke eisen (zoals non-discriminatie) te verenigen, zonder noodzaak voor complexe, mogelijk juridisch riskante "affirmative action"-algoritmen.

Kortom, het artikel stelt dat eerlijke besluitvorming in de toekomst niet alleen gaat over het corrigeren van voorspellingen, maar over het actief managen van de onzekerheid die inherent is aan het nemen van beslissingen over mensen.