🤖 AI

A Systems Thinking Approach to Algorithmic Fairness

Dit artikel pleit voor een systeemdenkbenadering om algoritmische eerlijkheid te modelleren via causale grafieken, waardoor complexe afwegingen tussen machine learning, causaliteit en systeemdynamica inzichtelijk worden gemaakt voor het vormgeven van beleid dat aansluit bij politieke agenda's en democratische waarden.

Oorspronkelijke auteurs: Chris Lam

Gepubliceerd 2026-04-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Chris Lam

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorme, ingewikkelde machine bouwt die beslissingen neemt voor mensen: wie krijgt een hypotheek, wie wordt aangenomen voor een baan, en wie krijgt een verzekering. Dit is wat we Algoritmen noemen. Het probleem is dat deze machines soms onrechtvaardig zijn; ze behandelen mensen uit bepaalde groepen (bijvoorbeeld op basis van ras of geslacht) oneerlijk.

Deze paper, geschreven door Chris Lam, stelt voor dat we stoppen met kijken naar de machine als een "zwarte doos" en in plaats daarvan kijken naar het hele systeem waarin die machine werkt. Hij noemt dit een "Systeemdenken-benadering".

Hier is de uitleg in simpele taal, met een paar creatieve metaforen:

1. Het Probleem: De Zwarte Doos

Stel je voor dat de AI een zwarte doos is. Je gooit gegevens erin (zoals inkomen of schoolcijfers) en er komt een beslissing uit. We weten niet precies hoe het binnenin werkt.

De oude manier: Wiskundigen probeerden de doos te "repareren" door alleen te kijken naar de statistieken. Ze dachten: "Als we de cijfers evenredig maken, is het eerlijk." Maar dat werkt niet, omdat het de echte oorzaak van het probleem negeert.
De nieuwe manier (Systeemdenken): In plaats van alleen naar de doos te kijken, kijken we naar de tuin waarin de doos staat. Waar komen de groenten vandaan? Is de grond verontreinigd? Wie heeft de zaadjes geplant?

2. De Drie Lagen van de "Recept"

De auteur zegt dat we drie verschillende manieren nodig hebben om dit probleem te begrijpen, net als bij het koken van een complexe maaltijd:

A. Machine Learning (De Kooktechniek)

Dit is het recept zelf. De machine leert van voorbeelden.

Metafoor: Een kok die probeert een soep te maken door te proeven. Als de soep te zout is, voegt hij water toe. Maar als hij niet weet waarom de soep zout is (bijvoorbeeld omdat de bouillon al zout was), maakt hij het maar erger.

B. Causale Inference (De Oorzaak & Gevolg)

Dit is het begrijpen van de verbanden. Waarom is de soep zout?

Metafoor: Een detective die een moordzaak oplost. Hij vraagt zich af: "Is de verdachte de dader, of is het een ongeluk?"
In de paper wordt dit getoond met kaarten (grafieken).
- Onwetendheid (Fairness through unawareness): De kok gooit de naam van de gast in de prullenbak voordat hij kookt. Hij weet niet of de gast rijk of arm is. Probleem: De soep is misschien nog steeds zout omdat de ingrediënten (de data) al bevooroordeeld waren.
- Actie (Affirmative Action): De kok voegt extra zout toe aan de soep voor de arme gast, om het gebrek aan goede ingrediënten te compenseren. Probleem: Dit kan leiden tot "omgekeerde discriminatie" als de kok niet begrijpt dat de grondstof zelf het probleem was.

C. Systeem Dynamics (De Feedback Loop)

Dit is het belangrijkste deel. Het kijkt naar wat er gebeurt in de loop van de tijd.

Metafoor: Een roestende fiets.
- Als een groep mensen (bijvoorbeeld Groep A) al langere tijd betere fietsen heeft, kunnen ze sneller rijden.
- Omdat ze sneller rijden, krijgen ze meer geld om nog betere fietsen te kopen.
- Groep B, die langzamer is, krijgt minder geld en hun fietsen gaan nog meer roesten.
- Dit is een vicious cycle (een slechte cirkel): "Succes voor de succesvolsten".
- Als je nu alleen de fietsen van Groep B repareert (kortetermijnoplossing), maar de grondstof (de fietsen) blijft slecht, zullen ze op de lange termijn toch weer achterblijven. Dit heet in de paper "Shifting the burden" (de last verschuiven). Je lost het symptoom op, maar niet de ziekte.

3. De Politieke Twist: Waarom iedereen het oneens is

De paper legt uit dat dit niet alleen een technisch probleem is, maar een politiek probleem. Mensen zijn het oneens over waar het probleem zit:

De Linkerflank (Progressief): Gelooft dat de "grond" (de maatschappij) verontreinigd is. Ze denken: "Het systeem is scheef, dus we moeten actief ingrijpen (zoals Affirmative Action) om de balans te herstellen." Ze kijken naar externe oorzaken.
De Rechterflank (Conservatief): Gelooft dat de "tuinders" (de individuen) zelf verantwoordelijk zijn. Ze denken: "Als we de naam van de gast verbergen, is het eerlijk. Iedereen moet op zijn eigen merites worden beoordeeld." Ze kijken naar interne oorzaken.

De paper zegt: "Laten we stoppen met ruzie maken en in plaats daarvan een gemeenschappelijke taal vinden."

4. De Oplossing: Een Nieuwe Kaart

De auteur stelt een nieuwe manier voor om naar dit probleem te kijken, een soort super-kaart die alles verbindt:

Verbinding: Hij verbindt de wiskunde (AI) met de sociologie (mensen) en de wet (politie/recht).
De Helling: Hij maakt een nieuwe "causale hiërarchie".
- Beneden: Kijken naar patronen (Machine Learning).
- Midden: Kijken naar oorzaken (Causale Inference).
- Boven: Kijken naar de dynamiek in de tijd (Systeem Dynamics).

Conclusie in één zin

Om eerlijke AI te bouwen, moeten we stoppen met alleen proberen de machine te fixeren, en in plaats daarvan begrijpen hoe de machine, de mensen die hem gebruiken, en de maatschappij om hem heen elkaar in de loop van de tijd beïnvloeden. Het is alsof je niet alleen de auto repareert, maar ook de weg, het verkeer en de regels begrijpt die leiden tot een ongeluk.

Kort samengevat:
Als je een onrechtvaardige AI wilt fixeren, moet je niet alleen de code herschrijven. Je moet begrijpen dat de AI een spiegel is van onze maatschappij. Als je de spiegel wilt schoonmaken, moet je eerst de kamer (het systeem) schoonmaken, en je moet weten dat wat je vandaag doet, morgen weer terugkaatst.

Probleemstelling

Het artikel adresseert de aanhoudende uitdaging om AI/ML-systemen te bouwen die rechtvaardig (fair) zijn en aansluiten bij de gedeelde democratische waarden van de samenleving. De auteur stelt dat puur technische benaderingen, die uitsluitend vertrouwen op statistische correlaties, ontoereikend zijn om het complexe probleem van algoritmische bias op te lossen.

De kern van het probleem ligt in de ideologische en politieke verdeeldheid over de oorzaken van ongelijkheid tussen beschermde groepen (zoals ras of geslacht):

Linkerzijde: Neigt ernaar ongelijkheid toe te schrijven aan externe factoren (structurele discriminatie, systeemfouten), wat leidt tot voorstanders van overheidsinterventie zoals "affirmative action".
Rechterzijde: Neigt ernaar ongelijkheid toe te schrijven aan interne factoren (persoonlijke keuze, verdienste), wat leidt tot voorstanders van "fairness through unawareness" (het negeren van beschermde attributen).

Bestaande methoden falen omdat ze deze sociale en politieke nuances niet integreren in technische modellen, waardoor het moeilijk is om wettelijke definities van discriminatie (zoals disparate treatment en disparate impact) te vertalen naar wiskundige criteria.

Methodologie: Een System Thinking Benadering

Lam stelt een geïntegreerde methodologie voor die drie disciplines combineert binnen een raamwerk van "System Thinking":

Machine Learning (ML): Voor het bouwen van voorspellende systemen.
Causale Inferentie (Causal Inference): Voor het modelleren van causale relaties en het visualiseren van bias.
Systeemdynamica (System Dynamics): Voor het modelleren van feedbackloops en emergent gedrag over tijd.

De auteur introduceert een nieuwe causale hiërarchie die deze drie niveaus verbindt:

Niveau 1: Supervised Machine Learning (Associatie): Gemodelleerd als een "black box" (blokdiagram). Hier wordt voorspelling gemaakt op basis van data $X$ naar een beslissing $D$ .
Niveau 2: Causale Inferentie (Acyclische Causatie): Gemodelleerd via Causale Bayesiaanse Netwerken (CBN's). Dit vertaalt de ML-black box naar een gerichte acyclische graaf (DAG). Hier worden aannames over bias (intern vs. extern) geëncodeerd als causale paden tussen een beschermd attribuut $A$ , een mediator $W$ , data $X$ , beslissing $D$ en uitkomst $Y$ .
Niveau 3: Systeemdynamica (Cyclus Causatie): Gemodelleerd via Causale Looptabellen (CLD's). Dit breidt de CBN's uit door feedbackloops toe te voegen (waarbij uitkomsten $Y$ terugkeren als toekomstige data $X$ ), waardoor dynamisch gedrag en tijdsverloop kunnen worden geanalyseerd.

Kernbijdragen

1. Een Unificerend Model voor Bias en Discriminatie
De auteur presenteert een reeks CBN's die verschillende vormen van rechtvaardigheid en discriminatie visualiseren, gekoppeld aan politieke wereldbeelden:

Fairness through Unawareness: Geen directe link tussen $A$ en $D$ . Wordt geassocieerd met de politieke rechts (individuele rechtvaardigheid), maar kan leiden tot covert discrimination (indirecte discriminatie) als de data zelf biased is.
Fairness through Affirmative Action: Gebruik van $A$ om bias in $X$ te corrigeren. Geassocieerd met de politieke links (groepsrechtvaardigheid).
Fairness through Lottery: Volledige onafhankelijkheid van data en attributen.
Reverse Discrimination & Supremacism: Extreme vormen waarbij de richting van de bias wordt omgekeerd.

2. Koppeling aan Wetgeving
Het artikel mappet deze technische modellen direct op juridische concepten:

Disparate Treatment / Direct Discriminatie: Ontstaat bij een directe causale link ( $A \to D$ ).
Disparate Impact / Indirect Discriminatie: Ontstaat bij een indirecte link ( $A \to W \to X \to D$ ), zelfs als de beslissing neutraal lijkt.
De CBN's bieden een gemeenschappelijke taal voor datawetenschappers en juristen om te bepalen of een model illegale discriminatie veroorzaakt.

3. Introductie van Systeemdynamica voor Fairness
Een unieke bijdrage is het gebruik van Systeemdynamica om te laten zien hoe beleidsmaatregelen op de lange termijn kunnen falen of averechts werken. De auteur identificeert drie "systeem-archetypen" die relevant zijn voor fairness:

"Success to the successful": Een versterkende loop (R1, R2) waarbij een groep die al succesvol is, nog meer middelen krijgt, wat de kloof vergroot (versterking van historische bias).
"Limits to success": Een balancerende loop (B1, B2) die de groei van een dominante groep beperkt, wat kansen biedt voor achtergestelde groepen.
"Shifting the burden / Addiction": Een loop (B3, B4) waarbij externe interventies (zoals affirmative action) op korte termijn helpen, maar op lange termijn afhankelijkheid creëren en de focus wegnemen van interne oplossingen (het optimaliseren van de mediator $W$ , bijv. kwalificaties).

4. Een Nieuwe Causale Hiërarchie
De auteur stelt een nieuwe hiërarchie voor die verder gaat dan die van Judea Pearl:

Layer 1: Associatie (ML/Predictie).
Layer 2: Acyclische Causatie (Causale Inferentie/Control).
Layer 3: Cyclus Causatie (Systeemdynamica/Simulatie).
Dit stelt onderzoekers in staat om niet alleen te kijken naar wat er gebeurt (correlatie) of wat zou gebeuren bij een ingreep (interventie), maar ook naar hoe systemen evolueren over tijd door feedback.

Resultaten en Analyse

Korte termijn vs. Lange termijn: De analyse toont aan dat de effecten van fairness-beleid kunnen omkeren afhankelijk van de tijdschaal.
- Fairness through Unawareness: Leidt op korte termijn tot negatieve uitkomsten voor achtergestelde groepen (versterking van bestaande bias), maar kan op lange termijn leiden tot een evenwicht door "limits to success".
- Affirmative Action: Leidt op korte termijn tot gelijkere beslissingen, maar kan op lange termijn leiden tot negatieve uitkomsten door "shifting the burden" (afhankelijkheid van interventie en slechtere uitkomsten omdat de onderliggende mediator niet wordt geoptimaliseerd).
Normatieve vs. Positieve Effecten: Het artikel onderscheidt tussen wat "zou moeten zijn" (normatief, gebaseerd op ideologie) en wat "is" (positief, gebaseerd op systeemgedrag). Wat door de ene groep als rechtvaardig wordt gezien, kan door de andere als discriminerend worden gezien, afhankelijk van waar men de oorsprong van de bias plaatst.

Significantie

Deze paper is significant omdat het de kloof overbrugt tussen de technische wereld van AI en de sociale/politieke wereld van wetgeving en ethiek.

Sociotechnische Basis: Het biedt een raamwerk om AI-beleid te ontwerpen dat rekening houdt met zowel technische beperkingen als politieke agenda's.
Gemeenschappelijke Taal: Het introduceert een causale taal die zowel datawetenschappers als beleidsmakers en juristen kunnen gebruiken om over bias te communiceren.
Transparantie en Vertrouwen: Door de "black box" te omarmen en de causale lagen eromheen te modelleren, biedt het meer transparantie over hoe bias ontstaat en hoe beleidsmaatregelen werken.
Praktische Toepassing: Het helpt bedrijven om te voldoen aan antidiscriminatiewetgeving en helpt beleidsmakers om de onbedoelde langetermijneffecten van hun ingrepen te simuleren voordat ze deze implementeren.

Kortom, het artikel pleit ervoor dat we "naast de black box" moeten kijken en de complexe, dynamische systemen moeten modelleren waarin AI-systemen opereren, om tot duurzame en rechtvaardige oplossingen te komen.