🤖 machine learning

Fairness of Classifiers in the Presence of Constraints between Features

Dit artikel stelt voor om classifier-rechtvaardigheid te definiëren via het bestaan van "rechtvaardige verklaringen" (prime-implicantredenen die beschermde kenmerken uitsluiten) die rekening houden met kenmerkbeperkingen, en analyseert de relaties en computationele complexiteit van drie verschillende rechtvaardigheidsdefinities onder deze voorwaarden.

Oorspronkelijke auteurs: Martin C. Cooper, Imane Bousdira

Gepubliceerd 2026-05-04

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Martin C. Cooper, Imane Bousdira

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een rechter bent die beslist wie een baan, een lening of een bonus krijgt. In de wereld van Kunstmatige Intelligentie (KI) willen we ervoor zorgen dat deze rechters eerlijk zijn. Meestal betekent "eerlijk" dat de rechter niet kijkt naar gevoelige zaken zoals het geslacht of de ras van een persoon.

Maar dit artikel stelt dat het kijken naar de "gevoelige" kenmerken niet genoeg is. Je moet ook kijken naar de regels van het spel (de beperkingen) die verschillende stukken informatie met elkaar verbinden. Als je deze regels negeert, kun je denken dat een rechter onrechtvaardig is terwijl ze eigenlijk eerlijk is, of andersom.

Hieronder volgt een uiteenzetting van de belangrijkste ideeën uit het artikel, met behulp van eenvoudige analogieën.

1. De valstrik van "Verborgen Regels"

Stel je een club voor met een regel: "Je mag alleen binnen als je een rode hoed draagt EN lid bent."

De Kenmerken: "Een rode hoed dragen" en "Lid zijn".
De Beperking: In deze specifieke club mogen alleen leden rode hoeden dragen. Als je geen lid bent, kun je geen rode hoed hebben.

Stel nu dat een KI-rechter beslist wie er binnen mag.

Scenario A (Regels negeren): De KI ziet een persoon met een rode hoed maar zonder lidmaatschapskaart (wat in werkelijkheid onmogelijk is, maar de KI kent de regel niet). Ze zegt: "Nee, want je hebt geen kaart." Het lijkt alsof de KI de hoed negeert.
Scenario B (Regels kennen): De KI kent de regel: "Rode hoeden bestaan alleen voor leden." Dus als iemand een rode hoed heeft, moet ze noodzakelijkerwijs lid zijn. De KI zegt: "Ja, je komt binnen omdat je een rode hoed hebt."

Het artikel stelt: Als je de regel (de beperking) niet kent, kun je denken dat de KI onrechtvaardig is omdat het lijkt alsof ze om de hoed geeft. Maar als je de regel wel kent, besef je dat de hoed slechts een afkorting is voor lidmaatschap. De KI is eigenlijk eerlijk.

De Stelling van het Artikel: Je kunt eerlijkheid niet beoordelen door alleen naar de invoer te kijken; je moet kijken naar hoe de invoer wettelijk of logisch met elkaar verbonden is.

2. De "Eerlijke Uitleg"-test

De auteurs stellen een nieuwe manier voor om te controleren of een beslissing eerlijk is. In plaats van te vragen: "Heeft de KI naar geslacht gekeken?", vragen ze: "Kan de KI haar beslissing uitleggen zonder geslacht te noemen?"

Ze noemen dit een "Eerlijke Uitleg".

De Analogie: Stel je voor dat je een lening aanvraagt.
- Onrechtvaardige Uitleg: "Je bent afgewezen omdat je een vrouw bent." (Dit is slecht).
- Eerlijke Uitleg: "Je bent afgewezen omdat je inkomen te laag is." (Dit is goed).
- De Twist: Soms is de logica van de KI rommelig. Ze zou kunnen zeggen: "Afgewezen omdat (je een vrouw bent EN je inkomen laag is) OF (je een man bent EN je inkomen laag is)."
- De Oplossing van het Artikel: Als de KI één eenvoudige reden kan vinden die geen geslacht noemt (bijvoorbeeld: "Inkomen is laag"), dan is de beslissing Existentieel Eerlijk. Als elke mogelijke reden die ze kan geven geslacht inhoudt, dan is het Onrechtvaardig.

3. Drie Niveaus van Eerlijkheid

Het artikel definieert drie manieren waarop een heel KI-systeem (een classifier) als eerlijk kan worden beschouwd:

Existentiële Eerlijkheid (De "Ten Minste Eén"-regel):
- Analogie: Kan de KI voor elke beslissing die ze maakt ten minste één excuus vinden dat geen geslacht noemt?
- Uitspraak: Zo ja, dan bestaat het systeem deze test. Het is alsof je zegt: "Ik kan deze beslissing rechtvaardigen zonder seksistisch te zijn, zelfs als ik andere seksistische redenen in mijn hoofd heb rondzweven."
Universele Eerlijkheid (De "Alle Redenen"-regel):
- Analogie: Zijn voor elke beslissing alle mogelijke uitleggen vrij van geslacht?
- Uitspraak: Dit is veel strenger. Het betekent dat de KI geslacht niet als reden kan gebruiken, zelfs niet als ze dat wilde.
Eerlijkheid door Onwetendheid (De "Blinddoek"-regel):
- Analogie: Krijgen twee mensen die in alles identiek zijn, behalve hun geslacht, hetzelfde resultaat?
- Uitspraak: Het artikel toont aan dat in een wereld met regels (beperkingen) deze "blinddoek"-test lastig kan zijn. Soms kunnen twee mensen, vanwege de regels, niet identiek zijn behalve qua geslacht (bijvoorbeeld: je kunt geen man zijn op zwangerschapsverlof). Dus kan de blinddoektest falen, zelfs als de KI eerlijk is.

4. De "Magie" van Beperkingen

Het artikel gebruikt wiskunde om enkele verrassende dingen aan te tonen:

Beperkingen negeren kan een eerlijke KI onrechtvaardig doen lijken. (Zoals het voorbeeld van zwangerschapsverlof: Als je niet weet dat alleen vrouwen zwangerschapsverlof nemen, kun je denken dat een KI mannen discrimineert, terwijl ze gewoon de wet volgt).
Beperkingen negeren kan een onrechtvaardige KI eerlijk doen lijken. (Als een KI een verborgen regel gebruikt om te discrimineren, maar je ziet de regel niet, kun je denken dat ze onschuldig is).

5. De Kosten van het Controleren van Eerlijkheid

Het artikel eindigt met een waarschuwing over complexiteit.

De Analogie: Controleren of een simpele "blinddoek"-regel wordt nageleefd, is als het controleren van een boodschappenlijstje; het is snel.
De Realiteit: Controleren of een KI een "Eerlijke Uitleg" heeft (vooral als regels betrokken zijn), is als het proberen op te lossen van een enorm, meerlagig raadsel waarbij je elke mogelijke versie van de realiteit moet voorstellen.
Het Resultaat: De auteurs hebben ontdekt dat het controleren van deze geavanceerde eerlijkheidsdefinities computatieel zeer moeilijk is (wiskundig gesproken valt het in een hoge categorie van moeilijkheid). Echter, ze hebben enkele shortcuts gevonden (zoals "losse beperkingen") waarbij de controle weer makkelijker wordt.

Samenvatting

Dit artikel stelt dat eerlijkheid niet alleen gaat over welke data je de KI voert, maar over de regels die die data met elkaar verbinden.

Als je de regels negeert, kun je een eerlijke KI straffen of een vooroordeelvolle erdoor laten glippen.
De beste manier om eerlijkheid te controleren is te vragen: "Kun je deze beslissing uitleggen zonder het beschermde kenmerk te gebruiken?"
Deze controle perfect uit te voeren is voor computers zeer moeilijk, maar het is noodzakelijk om echte eerlijkheid te waarborgen.

1. Probleemstelling

Het artikel adresseert een kritieke lacune in de definitie en evaluatie van eerlijkheid bij Machine Learning-classificatoren: de aanwezigheid van logische constraints tussen kenmerken.

Context: Standaard definities van eerlijkheid (bijv. Fairness Through Unawareness) gaan er vaak van uit dat een beslissing eerlijk is als deze niet afhankelijk is van beschermde kenmerken (bijv. geslacht, ras).
Het Probleem: In realistische scenario's zijn kenmerken zelden onafhankelijk. Constraints bestaan door:
- Encoding: bijv. one-hot encoding waarbij precies één boolean-kenmerk waar moet zijn.
- Realistische logica: bijv. "Als een persoon in zwangerschapsverlof is, moet deze vrouwelijk zijn en in dienst zijn."
Het Gevolg: Het negeren van deze constraints kan leiden tot vals-positieven (een eerlijke classificator als oneerlijk bestempelen) of vals-negatieven (een oneerlijke classificator als eerlijk bestempelen).
- Voorbeeld: Een model kan lijken afhankelijk van geslacht omdat de modeloutput verandert wanneer het geslacht wordt omgekeerd, maar als de constraint impliceert dat het omkeren van geslacht ook een verandering in een ander kenmerk (zoals werkstatus) forceert, kan de beslissing feitelijk onafhankelijk zijn van geslacht binnen de geldige kenmerkruimte.
Doel: Eerlijkheid formeel te definiëren in aanwezigheid van constraints ( $C$ ) en de computationele complexiteit van het verifiëren van deze definities te analyseren.

2. Methodologie en Kernconcepten

De auteurs maken gebruik van Abductieve Verklaringen (AXp) en Prime Implicants (PI) binnen een geconstrueerde kenmerkruimte.

Belangrijke Definities

Kenmerkruimte ( $F$ ): Het Cartesische product van kenmerkdomeinen.
Constraints ( $C$ ): Een set logische regels die geldige instanties beperkt. De geldige ruimte is $F[C]$ .
Beschermde Kenmerken ( $P$ ) versus Onbeschermde Kenmerken ( $N$ ): $P$ bevat gevoelige attributen (bijv. geslacht); $N$ bevat andere.
Abductieve Verklaring (AXp): Een subset van kenmerken $S$ zodanig dat het vastzetten van de waarden van $S$ op die in instantie $x$ de classificatoroutput $\kappa(x)$ garandeert, rekening houdend met alleen instanties in $F[C]$ .
Prime-Implicant Verklaring (PI-verklaring): Een AXp dat niet strikt wordt gesubsumeerd door een ander AXp. In geconstrueerde ruimten wordt subsumptie gedefinieerd door logische implicatie binnen $F[C]$ , niet slechts door set-inclusie.
Eerlijke PI-verklaring: Een PI-verklaring die geen beschermde kenmerken bevat ( $S \cap P = \emptyset$ ).

Voorgestelde Definities van Eerlijkheid

Het artikel stelt drie distincte definities voor de eerlijkheid van een classificator $\kappa$ voor:

Geconstrueerde Fairness Through Unawareness (FTU):
- Voor alle $x, y \in F[C]$ , als $x_N = y_N$ (onbeschermde kenmerken zijn identiek), dan $\kappa(x) = \kappa(y)$ .
- Dit waarborgt dat de beslissing alleen afhankelijk is van onbeschermde kenmerken binnen de geldige ruimte.
Existentiële Eerlijkheid:
- Voor elke beslissing $\kappa(x) = c$ , bestaat er minimaal één eerlijke PI-verklaring.
- Betekenis: Er is een geldige reden voor de beslissing die niet afhankelijk is van beschermde kenmerken.
Universele Eerlijkheid:
- Voor elke beslissing $\kappa(x) = c$ , zijn alle PI-verklaringen eerlijk.
- Betekenis: Elke minimale reden voor de beslissing vermijdt beschermde kenmerken.

Theoretische Analyse

De auteurs analyseren de relaties tussen deze definities onder verschillende constraint-scenario's:

Constraints tussen $P$ en $N$ : Het negeren hiervan kan eerlijkheidsbeoordelingen drastisch veranderen. Een beslissing kan universeel eerlijk zijn in $F[C]$ maar oneerlijk lijken in ongeconstrueerde $F$ , of vice versa.
Constraints binnen $P$ alleen: Als constraints alleen bestaan tussen beschermde kenmerken, wordt het bestaan van een eerlijke PI-verklaring behouden van ongeconstrueerde naar geconstrueerde ruimten (Propositie 1).
Constraints binnen $N$ alleen: Het bestaan van een eerlijke PI-verklaring is onafhankelijk van deze constraints (Propositie 2). Echter, constraints binnen $N$ kunnen oneerlijke PI-verklaringen creëren die niet bestonden in de ongeconstrueerde ruimte (Voorbeeld 7).

Speciale Voorwaarden voor Equivalentie

Het artikel identificeert voorwaarden waarbij de complexe definities (Existentieel/Universeel) vereenvoudigen tot de makkelijker te controleren Geconstrueerde FTU:

Losse Constraints: Als geen enkele partiële toewijzing van een beschermd kenmerk strikt de toewijzing van alle onbeschermde kenmerken subsumeert, impliceert Geconstrueerde FTU Existentiële Eerlijkheid.
Ontkoppelde Classificatoren: Een classificator is "ontkoppeld" als de set onbeschermde kenmerken $N$ een zwak AXp is dat niet strikt wordt gesubsumeerd door een oneerlijk AXp. Dit garandeert Existentiële Eerlijkheid.

3. Belangrijkste Bijdragen

Formalisatie van Eerlijkheid met Constraints: Het artikel gaat voorbij de standaard "onbewustheids"-definitie door logische constraints direct te integreren in de definitie van verklaringen (PI-verklaringen).
Demonstratie van Constraint-impact: Via meerdere voorbeelden (bijv. zwangerschapsverlof, adoptiebureaus) bewijzen de auteurs dat het negeren van constraints leidt tot incorrecte eerlijkheidsbeoordelingen.
Hiërarchie van Eerlijkheidsdefinities: Het artikel vestigt de logische relaties tussen Geconstrueerde FTU, Existentiële Eerlijkheid en Universele Eerlijkheid.
- Universeel $\implies$ Existentieel $\implies$ Geconstrueerde FTU.
- De omgekeerde implicaties gelden over het algemeen niet tenzij specifieke voorwaarden (zoals "losse constraints" of "geen constraints tussen P en N") worden vervuld.
Complexiteitsanalyse: De auteurs mappingen de computationele complexiteit van het verifiëren van deze eerlijkheidsnoties binnen de Polynoomhiërarchie.

4. Resultaten en Complexiteitsanalyse

Het artikel biedt een rigoureuze complexiteitsanalyse voor het testen van deze eerlijkheidsdefinities:

Eerlijkheidsnotie	Complexiteitsklasse	Opmerkingen
Bestaan van eerlijke PI-verklaring (voor een enkele beslissing)	$\Sigma^P_3$	Behelst $\exists \forall \exists$ kwantor-afwisseling.
Bestaan van oneerlijke PI-verklaring	$\Sigma^P_3$	Complement van het bovenstaande.
Testen van Existentiële Eerlijkheid (Classificator)	$\Pi^P_4$	Vereist het controleren van alle instanties ( $\forall x$ ) op de $\Sigma^P_3$ -eigenschap.
Testen van Universele Eerlijkheid (Classificator)	$\Pi^P_3$	Equivalent aan het controleren dat er voor geen enkele instantie een oneerlijke verklaring bestaat.
Testen van Geconstrueerde FTU	coNP-compleet	Kan worden opgelost met één enkele SAT-solver-call (controleren of er $\exists x, y$ bestaan met dezelfde $N$ maar verschillende outputs).

Belangrijkste Complexiteitsinzicht:

Het testen van Geconstrueerde FTU is computationeel haalbaar (coNP-compleet) en kan worden afgehandeld door standaard SAT-solvers.
Het testen van Existentiële/Universele Eerlijkheid is aanzienlijk moeilijker ( $\Pi^P_3$ of $\Pi^P_4$ ) en vereist Quantified Boolean Formula (QBF)-solvers.
Praktische Implicatie: De auteurs stellen het gebruik van "Losse Constraints"- of "Ontkoppelde"-checks (die $\Pi^P_2$ zijn) voor als voldoende voorwaarden om Existentiële Eerlijkheid te garanderen, waardoor het gebruik van eenvoudigere SAT-solvers mogelijk wordt in plaats van QBF-solvers.

5. Betekenis en Conclusie

Theoretische Fundament: Het artikel vestigt dat eerlijkheid niet in een vacuüm kan worden beoordeeld; de logische structuur van de kenmerkruimte (constraints) verandert fundamenteel de definitie van een "reden" voor een beslissing.
Praktische Richtlijnen: Het waarschuwt praktici dat standaard eerlijkheidstools (die vaak constraints negeren) misleidende resultaten kunnen produceren.
Trade-off: Er is een afweging tussen de strengheid van de eerlijkheidsdefinitie en computationele haalbaarheid.
- Universele Eerlijkheid is de strengste maar het moeilijkst te verifiëren.
- Geconstrueerde FTU is het makkelijkst te verifiëren maar kan gevallen missen waar een beslissing technisch afhankelijk is van beschermde kenmerken via constraints.
Toekomstige Richtingen: De auteurs suggereren dit logische raamwerk uit te breiden om statistische correlaties te behandelen en de "keuze van beschermde kenmerken" te verkennen met behulp van causale grafieken (Fairness Through Causal Independence - FTCI).

Kortom, dit artikel betoogt dat eerlijkheid contextafhankelijk is van kenmerkconstraints. Het biedt een formeel raamwerk om eerlijkheid te definiëren via prime-implicant-verklaringen en biedt een routekaart voor het verifiëren van deze definities, waarbij theoretische rigour wordt gebalanceerd met computationele haalbaarheid.