🤖 machine learning

Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review

Deze survey biedt een uitgebreid overzicht van hybride machine learning-methoden die gezamenlijk Groeps- en Individuele Rechtvaardigheid aanpakken, waarbij de theoretische fundamenten, optimalisatiestrategieën en afwegingen systematisch worden geanalyseerd, terwijl openstaande uitdagingen voor het ontwikkelen van principiële, contextbewuste rechtvaardigheidsoplossingen worden geïdentificeerd.

Oorspronkelijke auteurs: Sandra Benítez-Peña, Blas Kolic, Victoria Menendez, Belén Pulido

Gepubliceerd 2026-02-03

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Sandra Benítez-Peña, Blas Kolic, Victoria Menendez, Belén Pulido

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je de hoofddoordeler bent in een enorme rechtszaal waar een AI-systeem helpt beslissen wie een lening, een baan of een medische behandeling krijgt. Je moet twee zeer belangrijke, maar vaak botsende regels volgen om rechtvaardigheid te waarborgen:

De "Groepsregel" (Groepseerlijkheid): Deze regel zegt: "We moeten ervoor zorgen dat de algehele succespercentages voor elke demografische groep gelijk zijn." Als Groep A in 50% van de gevallen wordt goedgekeurd, moet Groep B ook in 50% van de gevallen worden goedgekeurd. Het gaat om het grote plaatje en de statistieken.
De "Buurregel" (Individuele eerlijkheid): Deze regel zegt: "We moeten vergelijkbare mensen op dezelfde manier behandelen." Als twee mensen bijna identieke cv's, kredietscores en levensverhalen hebben, zouden ze precies dezelfde beslissing moeten krijgen, ongeacht bij welke groep ze horen. Het gaat om de specifieke details van elk persoon.

Het Grote Probleem:
Dit artikel, geschreven door een team onderzoekers uit Spanje, wijst op een frustrerende realiteit: Je kunt deze twee regels vaak niet perfect tegelijkertijd volgen.

Denk aan het proberen te snijden van een taart.

Als je de taart zo snijdt dat elke tafel een gelijk deel van de taart krijgt (Groepseerlijkheid), moet je misschien een heel klein stukje geven aan iemand die erg hongerig is en een enorm stuk aan iemand die niet hongerig is, om de totalen in evenwicht te brengen. Dit schendt de Buurregel, omdat twee even hongerige buren verschillende stukken krijgen.
Als je de taart zo snijdt dat elke hongerige persoon een even groot stuk krijgt (Individuele eerlijkheid), kunnen de tafels uiteindelijk met zeer verschillende hoeveelheden taart eindigen. De ene tafel krijgt een berg taart terwijl de andere bijna niets krijgt. Dit schendt de Groepsregel.

Wat het Artikel Doet:
In plaats van alleen maar te zeggen: "Het is onmogelijk," fungeert dit artikel als een uitgebreide kaart voor andere onderzoekers. Het beoordeelt al de verschillende instrumenten en methoden die mensen hebben uitgevonden om deze twee regels te proberen te balanceren.

De auteurs hebben deze methoden georganiseerd in drie "werkplaatsen" waar de magie van eerlijkheid plaatsvindt:

De Data Voorbereidingswerkplaats (Pre-processing): Voordat de AI zelfs maar begint te leren, passen onderzoekers de gegevens aan. Ze kunnen de cijfers in de dataset wijzigen of nep-"wat-als"-scenario's toevoegen (zoals vragen: "Wat als deze persoon uit een andere groep kwam?") om de AI vanaf het begin eerlijker te leren zijn.
De Training-sportschool (In-processing): Terwijl de AI aan het leren is, voegen onderzoekers extra "gewichten" of "regels" toe aan de training. Het is also�s een handicap toevoegen aan de AI: "Als je begint om vergelijkbare mensen verschillend te behandelen, krijg je een straf." De AI moet leren om zowel accuraat als eerlijk te zijn.
De Laatste Controle (Post-processing): Nadat de AI zijn beslissingen heeft genomen, grijpt een mens (of een tweede algoritme) in om de resultaten aan te passen. Als de AI "Ja" tegen Groep A in 60% van de gevallen zegt en "Ja" tegen Groep B in 40% van de gevallen, kan deze stap de lat voor Groep B iets verlagen om de boel gelijk te trekken, terwijl geprobeerd wordt om vergelijkbare mensen vergelijkbaar te behandelen.

Wat het Artikel Vond:

De Afweging is Echt: Het artikel bevestigt dat het proberen te herstellen van het ene type oneerlijkheid vaak het andere type erger maakt. Er is geen gratis lunch.
De Meeste Methoden zijn Duur: Veel van deze chique evenwichtshandelingen vereisen veel computerkracht en tijd. Het is alsof je een Rubiks kubus probeert op te lossen terwijl je een marathon loopt.
We Hebben Niet Genoeg Data: De meeste van deze methoden worden getest op een paar oude, eenvoudige datasets (zoals de "Adult" of "COMPAS" datasets). We weten eigenlijk niet goed of ze goed werken in complexe, echte situaties zoals medische beeldvorming of werving voor creatieve banen.
Code Ontbreekt: Bijna de helft van de beoordeelde methoden deelt hun computercode niet publiekelijk. Het is alsof je een recept leest voor een heerlijke taart, maar je de ingrediëntenlijst niet mag zien.

De Kernboodschap:
Het artikel concludeert dat we nog in de beginfase zitten van het oplossen van dit puzzelstukje. Hoewel we veel instrumenten hebben om de "Groepsregel" en de "Buurregel" te proberen te balanceren, hebben we betere manieren nodig om de kosten van het gebruik ervan te meten, meer tests in verschillende scenario's uit de echte wereld, en duidelijkere richtlijnen over hoe je te kiezen welke regel je prioriteit geeft wanneer ze botsen. Het doel is niet om een perfecte oplossing te vinden (omdat die misschien niet bestaat), maar om systemen te bouwen waarbij we de afwegingen begrijpen en weloverwogen, ethische keuzes kunnen maken.

Technische Samenvatting: Afwegingen tussen Individuele en Groepseerlijkheid in Machine Learning

Probleemstelling
Algoritmische eerlijkheid is een kritiek punt geworden in besluitvormingssystemen met een hoge inzet (bijv. strafrecht, werving en selectie, gezondheidszorg). De literatuur is traditioneel uiteengegaan in twee afzonderlijke, vaak conflicterende concepten van eerlijkheid: Groepseerlijkheid (Group Fairness - GF) en Individuele eerlijkheid (Individual Fairness - IF).

Groepseerlijkheid richt zich op de pariteit van uitkomsten of foutpercentages over demografische subpopulaties gedefinieerd door gevoelige attributen (bijv. demografische pariteit, gelijke kansen/equalized odds).
Individuele eerlijkheid benadrukt de consistente behandeling van vergelijkbare individuen, ongeacht groepslidmaatschap, typisch geformaliseerd via Lipschitz-continuïteit of gelijkenismetrieken.

Hoewel beide streven naar rechtvaardige behandeling, zijn ze vaak wiskundig onverenigbaar. Het afdwingen van strikte groepspariteit vereist vaak dat vergelijkbare individuen verschillend worden behandeld op basis van groepslidmaatschap om distributieve onbalansen te corrigeren, wat daarmee de individuele eerlijkheid schendt. Omgekeerd kan het afdwingen van strikte individuele consistentie bestaande groepsniveau-verschillen in stand houden of reproduceren. Bestaande surveys behandelen deze concepten grotendeels in isolatie of categoriseren methoden op basis van hun positie in de ML-pipeline (pre-, in-, of post-processing) zonder expliciet de afwegingen tussen GF en IF te analyseren. Dit artikel adresseert de kloof in het systematisch beoordelen van methoden die beide concurrerende doelstellingen gezamenlijk beheren.

Methodologie
De auteurs hebben een systematische literatuurstudie uitgevoerd om studies te identificeren die zowel GF als IF expliciet integreren binnen een verenigd kader.

Zoekstrategie: Er is een Booleaanse query uitgevoerd over Web of Science, IEEE en arXiv, waarbij termen gerelateerd aan individuele eerlijkheid (bijv. "consistentie", "Lipschitz") en groepseerlijkheid (bijv. "demografische pariteit", "equalized odds") werden gecombineerd.
Filtercriteria: Papers werden alleen geselecteerd als ze een gezamenlijke optimalisatie, een beperkingsset (constraint set) of een evaluatiekader formaliseerden dat beide eerlijkheidsconcepten simultaan verwerkt. Papers die beide concepten slechts noemen in de motivatie zonder technische integratie, werden uitgesloten.
Taxonomieconstructie: In plaats van uitsluitend te vertrouwen op de standaard taxonomie gebaseerd op de pipeline-fase (pre/in/post-processing), hebben de auteurs een fijnmazige taxonomie ontwikkeld op basis van de gebruikte eerlijkheidsmechanismen. Deze aanpak groepeert methoden op basis van hoe ze de GF-IF afweging formuleren en beheren, ongeacht de specifieke pipeline-fase.

Belangrijkste Bijdragen en Taxonomie
Het artikel biedt een uitgebreid overzicht van hybride eerlijkheidsbenaderingen, die zij onderverdelen in drie primaire mechanistische families:

Strategieën gebaseerd op Representatie of Datamodificatie:
- Datatransformatie: Wijzigt de inputdata (bijv. labelcorrectie, feature editing) om de gezamenlijke distributies van gevoelige groepen en uitkomsten in balans te brengen, terwijl de lokale buurtstructuren behouden blijven.
- Herweging en Resampling: Past de specifieke instantie-gewichten aan om een doelverdeling te benaderen waarin gevoelige attributen en uitkomsten onafhankelijk zijn, vaak gebruikmakend van Shapley-waarden om de individuele bijdragen aan de ongelijkheid te beoordelen.
- Representatie en Embedding: Brengt individuen in kaart in een latente ruimte waar vergelijkbare observaties gegroepeerd zijn. Dit dwingt IF af door constructie (ononderscheidbaar binnen clusters) terwijl het GF bevordert door beperkingen op de herwinbaarheid van representaties of de samenstelling van clusters.
- Augmentatie en Contrastief: Genereert synthetische counterfactual of contrastieve samples (variërend in gevoelige attributen) om invariantie of gladheid in voorspellingen af te dwingen, waarmee zowel lokale consistentie als groepsverschillen worden geadresseerd.
Strategieën gebaseerd op Regularisatie of Optimalisatiedoelstellingen:
- Regularisatie: Voegt termen toe aan de verliesfunctie die oneerlijk gedrag op zowel groeps- als individueel niveau bestraffen (bijv. $\lambda_{GF}\Phi_{group} + \lambda_{IF}\Psi_{individual}$ ). Dit maakt navigatie mogelijk over de Pareto-front tussen nauwkeurigheid, GF en IF.
- Metriek-gebaseerde benaderingen: Implementeert de geometrische structuur direct in de verliesfunctie, waarbij discrepanties in voorspellingen voor paren van individuen die door een vooraf gedefinieerde metriek als vergelijkbaar worden beschouwd, worden bestraft. Dit dwingt Lipschitz-continuïteit af, wat indirect aan groepseerlijkheid kan voldoen onder specifieke condities.
- Adversarial Learning: Traint een voorspeller om de voorspellingsfout te minimaliseren terwijl een tegenstander (adversary) probeert gevoelige attributen te herstellen. Extensies bevatten pairwise similarity penalties of counterfactual losses om lokale consistentie naast groepsinvariantie te waarborgen.
Strategieën gebaseerd op Lokale of Post-hoc Aanpassingen:
- Drempelwaarde (Thresholding): Introduceert groepsspecifieke beslissingsdrempels om aan te sluiten bij criteria zoals equalized odds. Extensies integreren gelijkenismetrieken om gedeeltelijk aan te sluiten bij IF.
- Reject-option: Werkt in een "ambiguïteitsregio" nabij de beslissingsgrens, waarbij voorspellingen selectief worden aangepast om ongelijkheden te verminderen en lokale inconsistenties gelijktijdig te corrigeren.

Resultaten en Empirische Observaties
De review analyseerde de geselecteerde literatuur met betrekking tot implementatie en benchmarking:

Pipelineverdeling: In-processing methoden zijn het meest prevalent (60%), gevolgd door pre-processing (25%) en post-processing (19%).
Dominante Mechanismen: Regularisatie is de meest voorkomende sub-taxonomie, gevolgd door metriek-gebaseerde benaderingen en representatieleer.
Benchmarking: Er is een zware afhankelijkheid van een smalle set datasets (Adult, COMPAS, German Credit), die in ongeveer 20% van de studies voorkomen. Dit roept zorgen op over de generaliseerbaarheid naar hoogdimensionele domeinen zoals Computer Vision of NLP.
Computationele Kosten: Computationele efficiëntie is zelden een primair focuspunt. Hoewel sommige methoden als computationeel veeleisend worden aangemerkt (bijv. het vereisen van uren training of iteratieve hertraining), bieden weinig een systematische analyse van de afwegingen tussen eerlijkheidsdoelstellingen, nauwkeurigheid en computationele kosten.
Reproduceerbaarheid: Slechts 56% van de gereviewde methoden biedt publiek toegankelijke code, wat onafhankelijke verificatie en praktische adoptie beperkt.

Significantie en Claims
Het artikel beweert de eerste systematische review te zijn die expliciet methoden analyseert die de afwegingen tussen GF en IF beheren over definities, algoritmen en evaluatie-instellingen heen. De significantie ligt in:

Synthese van Hybride Benaderingen: Het gaat verder dan het bestuderen van GF en IF in isolatie om te verduidelijken hoe ze gezamenlijk geoperationaliseerd kunnen worden.
Verheldering van Afwegingen: Het benadrukt dat het conflict tussen deze concepten niet louter een technisch artefact is, maar een diepere normatieve spanning weerspiegelt, en dat bestaande methoden verschillende manieren bieden om de Pareto-front te navigeren.
Identificatie van Gaten: De auteurs merken bescheiden op dat het veld zich nog in een vroege fase van volwassenheid bevindt. Zij identificeren kritieke hiaten, waaronder het gebrek aan systematische evaluatie van computationele kosten, de schaarste aan studies in diverse domeinen, de afwezigheid van richtlijnen voor parametervariatie bij real-world constraints, en de sterke aanname van volledig gelabelde gevoelige attributen tijdens de training.
Toekomstige Richtingen: Het artikel suggereert dat toekomstig werk zich moet richten op flexibelere kaders (voorbij rigide pariteit), integratie met causale en juridische perspectieven, en methoden die opereren onder realistische beperkingen (bijv. gecensureerde data, intersectionaliteit).

De auteurs concluderen dat hoewel GF en IF vaak wiskundig onverenigbaar zijn, methoden die deze afwegingen expliciet beheren een cruciale stap vormen naar meer verantwoordelijke en transparante algoritmische besluitvorming, waarbij een fundament wordt gelegd voor het ontwerpen van algoritmen die betrouwbaarheid bieden op zowel individueel als groepsniveau.

Technische Samenvatting: Afwegingen tussen Individuele en Groepseerlijkheid in Machine Learning

Meer zoals dit