Algorithmic Monocultures in Hiring
Dit artikel analyseert een nieuw dataset van 4 miljoen sollicitaties die door één algoritmeleverancier zijn gescreend en stelt vast dat dergelijke algorithmische monoculturen leiden tot homogene afwijzingsuitkomsten die onevenredig en nadelig van invloed zijn op zwarte en Aziatische sollicitanten, wat vaak noodzakelijk maakt dat er een brede sollicitatiestrategie wordt gehanteerd om menselijke beoordeling te verkrijgen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Idee: De "Eén-Maat-Voor-Allen" Poortwachter
Stel je voor dat je op zoek bent naar een baan. In het verleden heb je misschien je cv naar 20 verschillende bedrijven gestuurd. Elk bedrijf had zijn eigen wervingsmanager, zijn eigen manier om je cv te lezen, en zijn eigen unieke voorkeur voor wat een goede werknemer maakt. Als één manager je niet leuk vond, kon een ander je misschien juist geweldig vinden. Je had veel verschillende deuren om op te kloppen.
Vandaag de dag echter, huren veel bedrijven niet langer onafhankelijk. Ze huren allemaal dezelfde "poortwachter".
Dit artikel onderzoekt een specifiek wervingsbedrijf genaamd pymetrics. Zij ontwikkelen software die games gebruikt om sollicitanten te testen. In plaats van cv's te lezen, bekijkt de software hoe je deze games speelt en geeft je een score. Als de score hoog is, ga je door naar een mens. Is de score laag, dan word je direct afgewezen.
Het probleem? Meer dan 60% van de grootste bedrijven in de VS gebruikt exact dezelfde poortwachter.
De auteurs noemen dit een "Algorithmische Monocultuur". Denk hierbij aan een tuin waar elke boer exact hetzelfde soort zaad en exact dezelfde gieter gebruikt. Als dat zaad slecht is voor een bepaald type grond, zal de tuin van elke boer op dezelfde manier mislukken. In de werving betekent dit: als het algoritme een vooroordeel heeft, worden dezelfde mensen bij elk bedrijf waar ze solliciteren afgewezen.
De Studie: Wat Ze Vonden
De onderzoekers kregen toegang tot een enorme, geheime database met 4 miljoen sollicitaties van 3,3 miljoen mensen bij 156 verschillende bedrijven. Ze keken wat er gebeurde toen deze mensen de games speelden.
Hier zijn de drie belangrijkste dingen die ze ontdekten:
1. Het "Ongeluk" van Ras (Nadelig Effect)
De onderzoekers controleerden of de games verschillende raciale groepen eerlijk behandelden. Ze keken naar de resultaten voor elke afzonderlijke vacature, niet alleen naar het gemiddelde.
- De Bevinding: Ze ontdekten dat voor Zwarte sollicitanten ongeveer 26% van de sollicitaties die ze stuurden, gericht was op banen waar het algoritme statistisch gezien onterecht waarschijnlijk zou afwijzen. Voor Aziatische sollicitanten was dit ongeveer 15%.
- De Analogie: Stel je een basketbalring voor die lichtjes gekanteld is. Als je lang bent, kun je misschien nog steeds scoren. Maar als je een specifieke lengte hebt, maakt de kanteling het onmogelijk om te scoren. De onderzoekers ontdekten dat voor bepaalde raciale groepen de "kanteling" in het algoritme het veel moeilijker maakte om een "geslaagd"-score te halen, ook al vroeg het spel zelf niets over ras.
2. De "Systematische Afwijzing" (Overal Zwartgekaapt)
Dit is het meest verrassende deel. De auteurs vroegen zich af: Wat gebeurt er als een persoon solliciteert naar veel verschillende banen?
In een normale wereld, als je solliciteert naar 10 banen, word je misschien door 8 afgewezen en door 2 aangenomen. Je hebt een kans. Maar omdat zoveel bedrijven hetzelfde algoritme gebruiken, zijn de resultaten identiek.
- De Bevinding: Als een sollicitant solliciteert naar 10 verschillende posities, worden 4% van hen door alle 10 afgewezen.
- De Analogie: Stel je voor dat je een muzikant bent die probeert een optreden te krijgen. Je speelt voor 10 verschillende bands.
- Normale Wereld: Band A haat je stijl, maar Band B houdt ervan. Je krijgt een baan.
- Monocultuur-Wereld: Alle 10 bands gebruiken dezelfde "Muziek-Rechter"-robot. De robot besluit dat je niet past. Je wordt direct door alle 10 bands afgewezen. Je wordt "systematisch afgewezen". Je bent niet alleen ongelukkig; het systeem heeft tegelijkertijd elke deur voor je gesloten.
De onderzoekers ontdekten dat deze "alles-of-niets" afwijzing veel vaker voorkomt dan wanneer elk bedrijf zijn eigen onafhankelijke beslissing zou nemen.
3. De "Super-Sollicitant" Simulatie
De onderzoekers wilden weten: Kunnen sollicitanten dit oplossen door naar meer banen te solliciteren?
Ze gebruikten de rekenkracht van de computer om "wat-zou-er-gebeuren"-scenario's te draaien. Ze simuleerden wat er zou gebeuren als een sollicitant solliciteerde naar elke enkele beschikbare baan in de database.
- De Bevinding: Zelfs in deze extreme simulatie werd niemand door elk enkel model afgewezen. Iedereen had minstens één baan waarvoor ze zouden zijn aanbevolen.
- De Realiteitscheck: In de echte wereld kunnen mensen echter niet naar elke baan solliciteren. Ze moeten selectief zijn. De simulatie toonde aan dat iemand 25 verschillende posities moet solliciteren om een kans van 99,9% te hebben om minstens één aanbeveling te krijgen.
- De Analogie: Om in dit systeem een enkel "ja" te vinden, moet je op 25 deuren kloppen. In een normaal systeem heb je misschien maar 10 deuren nodig om te kloppen. De algorithmische monocultuur dwingt sollicitanten om veel harder te werken om slechts één kans te krijgen.
Waarom Dit Belangrijk Is
Het artikel betoogt dat wanneer veel bedrijven vertrouwen op dezelfde paar leveranciers voor werving, ze een flesnek creëren.
- Het verbergt vooroordelen: Als je kijkt naar het gemiddelde van alle bedrijven, kunnen de cijfers er misschien prima uitzien. Maar als je kijkt naar specifieke banen, is het vooroordeel duidelijk.
- Het creëert "doodlopende straten": Het is niet alleen dat je misschien niet één baan krijgt; het is dat je misschien volledig wordt buitengesloten van de arbeidsmarkt omdat hetzelfde algoritme je overal waar je keek heeft afgewezen.
- Het is moeilijk op te lossen: Omdat de data verborgen zit binnen deze private bedrijven, is het zeer moeilijk voor onderzoekers of toezichthouders om te zien dat dit gebeurt, totdat het te laat is.
De Aanbevelingen van de Auteurs
Het artikel suggereert een paar manieren om dit op te lossen:
- Controleer elke baan, niet alleen het gemiddelde: Toezichthouders moeten kijken hoe het algoritme mensen behandelt voor elke specifieke baan, niet alleen naar het totale aantal aanstellingen binnen een heel bedrijf.
- Houd de "Monocultuur" in de gaten: Agentschappen moeten monitoren hoeveel bedrijven dezelfde leverancier gebruiken. Als te veel vertrouwen op dezelfde tool, creëert dit een risico voor de hele economie.
- Laat onderzoekers binnen: De enige manier om te weten of deze systemen eerlijk zijn, is door onafhankelijke wetenschappers de data te laten bekijken. De auteurs suggereren dat wetten deze bedrijven moeten dwingen data te delen met onderzoekers, vergelijkbaar met hoe socialemediaplatforms nu verplicht zijn data te delen met wetenschappers.
Samenvatting
Dit artikel onthult dat bedrijven, door allemaal dezelfde "wervingsrobot" te gebruiken, per ongeluk een systeem hebben gecreëerd waarin dezelfde mensen overal waar ze solliciteren worden afgewezen. Het is alsof er één, vooroordeelhoudende portier is bij elke club in de stad; als je door hem wordt afgewezen, kun je bij geen enkele club binnenkomen, hoe veel je er ook probeert.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.