💻 computer science

Proxy Discrimination After Students for Fair Admissions

Dit artikel ontwikkelt een vergelijkende juridische toets om discriminatie door proxyvariabelen te reguleren, waarbij beslissingstools als nauwelijks toegesneden worden beschouwd wanneer ze de zwakste totale proxykracht vertonen en wetgevers geleidelijk aanvaardbare grenzen voor proxykracht kunnen vaststellen.

Oorspronkelijke auteurs: Frank Fagan

Gepubliceerd 2026-04-24

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Frank Fagan

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Probleem: De "Onzichtbare Hand" van Discriminatie

Stel je voor dat een universiteit, een bank of een werkgever zegt: "Wij discrimineren niet. Wij kijken niet naar je huidskleur, je geslacht of je geboorteland." Dat klinkt eerlijk, toch?

Maar wat als ze in plaats daarvan kijken naar iets dat ze niet mogen gebruiken, maar dat er wel heel erg op lijkt?

In plaats van te kijken naar huidskleur, kijken ze naar welke school je hebt bezocht. (In de VS zijn scholen vaak gescheiden; als je naar een bepaalde school gaat, is de kans groot dat je tot een bepaalde etnische groep behoort).
In plaats van te kijken naar geslacht, kijken ze naar hoe vaak je verlof hebt genomen voor de geboorte van je kind. (Mannen nemen gemiddeld minder verlof dan vrouwen).
In plaats van te kijken naar huwelijkse status, kijken ze naar of je achternaam is veranderd. (Dit suggereert vaak een scheiding of huwelijk).

Dit artikel noemt deze variabelen "proxy's" (of vertalers). Het zijn als het ware stiekeme vertalers. Ze zeggen niet direct: "Wij kiezen niet voor zwart", maar ze zeggen wel: "Wij kiezen niet voor mensen uit de wijk waar veel zwarte mensen wonen." Het resultaat is hetzelfde, maar de taal is anders.

Na de recente uitspraak van het Hooggerechtshof (SFFA vs. Harvard), mogen universiteiten geen directe voorkeur meer geven aan een ras. Maar ze kunnen nog steeds indirecte wegen gebruiken om dezelfde diversiteit (of juist minder diversiteit) te bereiken. De vraag is: Wanneer is dit illegaal?

De Oplossing: De "Minimale Vertaler"-Regel

De auteur, Frank Fagan, stelt een nieuwe regel voor. Hij zegt: "Als je een doel hebt (zoals een goede student selecteren of een lening terugbetalen), moet je de weg kiezen die het minst discrimineert."

Hij gebruikt een mooi voorbeeld om dit uit te leggen: De Twee Kaartspellen.

Stel je voor dat twee spelers een kaartspel spelen om te winnen (het doel).

Speler A gebruikt een deck kaarten waar 50% rode kaarten in zitten en 50% zwarte kaarten.
Speler B gebruikt een deck kaarten waar 50% rode kaarten in zitten en 50% zwarte kaarten, MAAR hij gebruikt ook een trucje: hij kijkt naar de kleur van de rand van de tafel om te weten welke kaart hij moet trekken.

Als beide spelers even vaak winnen (dezelfde nauwkeurigheid), maar Speler B gebruikt die extra, stiekeme truc (de proxy), dan is Speler A eerlijker. Speler A heeft de minimale proxy-kracht.

De regel is simpel: Als er twee manieren zijn om hetzelfde doel te bereiken, en de ene manier gebruikt minder "stiekeme vertalers" (proxy's) dan de andere, dan moet je de eerlijke manier kiezen.

Hoe werkt dit in de praktijk?

Het artikel bespreekt drie manieren om dit te regelen:

De "Geen Vertaler"-Regel (De harde aanpak):
Als een variabele perfect overeenkomt met een verboden groep (bijvoorbeeld: als "naam" 100% betekent dat iemand uit een bepaald land komt), mag je die variabele helemaal niet gebruiken. Het is alsof je zegt: "Ik gebruik geen rode kaarten, maar ik gebruik wel kaarten met een rode rand die precies op rode kaarten lijken." Dat mag niet.
De "Vergelijkende Minimaal"-Regel (De slimme aanpak):
Vaak is het niet 100% perfect. Misschien zegt "woonplaats" alleen 20% iets over je ras. De auteur zegt: Kijk naar alle mogelijke modellen. Als Model A en Model B even goed voorspellen wie een lening terugbetaalt, maar Model A gebruikt minder variabelen die te maken hebben met ras, dan wint Model A. Je moet altijd zoeken naar de minst discriminerende optie die nog steeds werkt.
De "Dekplaat"-Regel (De veiligheidsmarge):
Soms is het heel moeilijk om precies te meten hoeveel een variabele discrimineert. De auteur stelt voor om een limiet (een "dekplaat") te stellen. Bijvoorbeeld: "Een model mag maximaal 5% van zijn voorspellingskracht halen uit variabelen die te maken hebben met ras." Als een model daarboven zit, moet het worden aangepast. Dit bespaart tijd en geld, omdat je niet elke keer alles tot in de puntjes hoeft uit te rekenen.

Wie moet het bewijzen? (De Last van het Bewijs)

Een groot probleem is: wie moet bewijzen dat er een eerlijker manier is?

Huidige wet: De slachtoffer (de afgewezen sollicitant of student) moet een beter model bedenken.
Het probleem: Dit is heel moeilijk en duur. Een sollicitant heeft niet de data van de bank of het bedrijf.
De oplossing van de auteur: Laat de slachtoffer het initiatief nemen, maar zorg dat ze toegang hebben tot de data. Stel je voor dat er een wedstrijd is.
- De bank zegt: "Wij gebruiken dit algoritme."
- De slachtoffer (of een groep) zegt: "Wij hebben een ander algoritme bedacht dat net zo goed werkt, maar minder discrimineert."
- Ze testen beide modellen op een geheim testpakket met data.
- Wie het eerlijkste model heeft, wint de zaak.

Dit zorgt voor een concurrentie. Bedrijven worden gedwongen om hun eigen systemen te verbeteren om te voorkomen dat ze door een "beter, eerlijker" model van buitenaf worden verslagen.

Waarom is dit belangrijk?

Vroeger kon een universiteit zeggen: "Wij kiezen voor diversiteit." Dat was een vaag doel. Nu, na de nieuwe uitspraken, moeten ze heel specifiek zijn: "Wij willen studenten die moed hebben bewezen."

Het gevaar is dat ze dan zeggen: "Oké, we kijken niet naar ras, maar we kijken wel naar 'moed'." En als ze dan ontdekken dat mensen uit een bepaalde achtergrond vaker moed hebben bewezen, gebruiken ze dat als excuus om toch te selecteren op ras.

De boodschap van dit artikel is: Het doel mag legitiem zijn, maar de weg ernaartoe moet de kortste en eerlijkste zijn. Als je een doel kunt bereiken zonder stiekeme vertalers (proxy's), dan moet je dat doen.

Samenvatting in één zin

Als je twee wegen hebt om naar dezelfde bestemming te komen, en de ene weg gaat langs een verboden terrein (discriminatie) terwijl de andere dat niet doet, dan moet je de eerlijke weg kiezen, zelfs als beide wegen even snel zijn. En als je niet zeker weet welke weg het eerlijkst is, laten we een wedstrijd houden om het beste, eerlijkste model te vinden.

Probleemstelling

Na de recente uitspraak van het Amerikaanse Hooggerechtshof in Students for Fair Admissions (SFFA) v. Harvard, is directe discriminatie op basis van ras in toelatingsprocedures voor universiteiten verboden. Echter, algoritmen en beslissingsmodellen kunnen deze verboden omzeilen door het gebruik van proxy-variabelen.

Een proxy-variabele is een schijnbaar neutrale variabele (zoals postcode, schooltype, of inkomen van ouders) die sterk correleert met een beschermde klasse (zoals ras of geslacht). Hoewel de beslissingsmaker de beschermde variabele niet direct gebruikt, resulteert het gebruik van de proxy in een vergelijkbaar discriminerend effect (disparate impact).

Het kernprobleem: Er ontbreekt een helder juridisch en technisch toetsingskader om het gebruik van deze proxy-variabelen te reguleren. Bestaande wetgeving verbiedt directe discriminatie en vereist dat beleidsmaatregelen een "legitieme bedrijfsnoodzaak" dienen, maar het is moeilijk te bepalen wanneer een proxy-variabele onnodig discriminerend is ten opzichte van een alternatief dat even nauwkeurig is.

Methodologie

Fagan combineert juridische analyse met statistische econometrie en machine learning-theorie om een nieuw meetkader te ontwikkelen. De methode omvat:

Definitie van Proxy Power: Het artikel introduceert het concept van "totale proxy power". Dit wordt gemeten door de correlatiestrength van een variabele met een beschermde klasse te combineren met de verklarende kracht van die variabele voor het doel van het model (bijv. kredietrisico of academische prestatie).
Statistische Meting:
- Gebruik van R-kwadraat ( $R^2$ ) en logistische regressie om te bepalen hoeveel variatie in het resultaat (bijv. kredietverzuim) wordt verklaard door de proxy-variabelen.
- Semi-partial $R^2$ : Het meten van de incrementele variatie die wordt verklaard door een beschermde variabele (zoals ras) wanneer deze wordt toegevoegd aan een model dat reeds proxy-variabelen bevat. Als de toevoeging van "ras" de voorspellingskracht niet significant verhoogt, betekent dit dat de proxy-variabelen het effect van ras volledig overnemen.
Vergelijkende Analyse: De auteur stelt dat de rechtmatigheid van een algoritme niet op zichzelf staat, maar comparatief moet worden beoordeeld. Men vergelijkt twee modellen die hetzelfde doel bereiken met dezelfde nauwkeurigheid, maar waarbij het ene model minder proxy-power gebruikt dan het andere.

Belangrijkste Bijdragen en Concepten

Het artikel stelt drie juridische tests voor om proxy-discriminatie te reguleren:

1. De "Geen Proxy" Regel (The No Proxy Rule)

Toepassing: Voor situaties waarin een neutrale variabele een perfecte of bijna perfecte substitue is voor een beschermde klasse (bijv. een specifieke school die 100% uit één etnische groep bestaat).
Regel: Het gebruik van zo'n variabele moet worden verboden, omdat het statistisch gelijkstaat aan het gebruik van de beschermde variabele zelf. Dit vormt een vorm van disparate treatment (intentionele discriminatie), zelfs als de intentie niet expliciet is, omdat de correlatie zo sterk is dat kennis ervan wordt verondersteld.

2. De Vergelijkende Minimale Proxy-Power Standaard (Comparative Minimum Proxy Power Standard)

Toepassing: Voor imperfecte substituten (variabelen die slechts gedeeltelijk correleren met ras).
Regel: Als er twee algoritmen bestaan die hetzelfde doel bereiken met identieke nauwkeurigheid, moet het algoritme worden gekozen dat de minimale totale proxy-power heeft.
Technische logica: Als een model variabele $X$ (een proxy) verwijdert en de voorspellingsnauwkeurigheid daalt niet significant, dan is $X$ overbodig en discriminerend. De last ligt bij de eiser om een alternatief model aan te dragen dat minder proxy-power gebruikt.

3. De Geharde Proxy-Power Regel (The Capped Proxy Power Rule)

Toepassing: Voor complexe situaties waar het moeilijk is om statistisch te bewijzen welk model "beter" is, of waar kleine verschillen in nauwkeurigheid bestaan.
Regel: De wetgever kan een drempelwaarde (cap) instellen voor het totale proxy-power (bijv. gemeten via de toename van $R^2$ $R^{2}$ wanneer ras wordt toegevoegd).
- Als het verschil in proxy-power tussen twee modellen onder deze drempel ligt (bijv. < 5%), worden ze als gelijkwaardig beschouwd.
- Als een model boven de drempel zit, moet het worden vervangen door een alternatief dat onder de drempel valt, zelfs als dit een zeer kleine afname in nauwkeurigheid betekent. Dit verlaagt de administratieve kosten van juridische procedures.

4. Omgaan met Ongemeten Doelen

Een grote uitdaging is dat organisaties hun doelen vaak vaag definiëren (bijv. "diversiteit" of "leiderschap"). Fagan stelt dat doelen meetbaar moeten zijn om proxy-minimalisatie mogelijk te maken. Zonder een objectieve doel-functie (zoals "kredietterugbetaling" of "winstmaximalisatie") kan men niet bepalen of een alternatief even effectief is.

Resultaten en Aanbevelingen

Verschuiving van de Bewijslast: Hoewel de huidige wetgeving de last legt bij de eiser om een minder discriminerend alternatief aan te dragen, betoogt Fagan dat dit in de algoritmetijd nog steeds de beste aanpak is, mits er toegang is tot testdata.
Algoritmische Competitie: In plaats van dat de verdediger (de bank/universiteit) zelf moet zoeken naar alternatieven, stelt Fagan voor dat partijen hun eigen algoritmen bouwen op basis van een gedeelde, synthetische testset. Het algoritme dat het doel bereikt met de laagste proxy-power wint. Dit creëert een marktmechanisme voor eerlijkheid.
Omgaan met "Black Boxes": Zelfs bij menselijke beslissingen of ondoorzichtige algoritmen kunnen eisers een transparant algoritme als alternatief voorleggen. Als dit alternatief dezelfde resultaten oplevert met minder proxy-power, moet het oorspronkelijke systeem worden afgewezen.
Pre-commitment: Om "retrofitting" (het achteraf aanpassen van een proces om het schijnbaar eerlijk te maken) te voorkomen, moeten instellingen hun algoritmen vooraf bekendmaken en zich ertoe verbinden deze niet te wijzigen zonder juridische toetsing.

Significantie

Dit artikel is van cruciaal belang voor de toekomst van anti-discriminatierecht in het tijdperk van AI:

Juridische Evolutie: Het biedt een technisch onderbouwd kader om de "substantie boven de schaduw" (substance over shadows) doctrine uit de SFFA-uitspraak toe te passen. Het sluit de kloof tussen het verbod op directe discriminatie en de realiteit van indirecte discriminatie via data.
Technische Haalbaarheid: Het demonstreert dat het meten van proxy-power statistisch mogelijk is en niet alleen een theoretisch concept. Het verschuift de discussie van "intentie" naar "meetbare uitkomsten en alternatieven".
Beleid en Regulering: Het pleit voor een verschuiving van statische regels naar dynamische, vergelijkende standaarden en caps, wat administratieve lasten verlaagt en organisaties stimuleert om continu te innoveren in minder discriminerende modellen.
Transparantie: Het benadrukt dat zonder toegang tot data en de mogelijkheid tot vergelijking, proxy-discriminatie oncontroleerbaar blijft. Het artikel legt de basis voor een nieuw bewijsrecht in algoritmediscriminatiezaken.

Kortom, Fagan stelt dat de enige manier om proxy-discriminatie effectief te bestrijden, is door een comparatieve benadering te hanteren waarbij de "minste kwaad" (minimale proxy-power) wordt geselecteerd, ondersteund door transparante data en algoritmische competitie.