Human, Algorithm, or Both? Gender Bias in Human-Augmented Recruiting

Deze studie toont aan dat hoewel menselijke recruiters genderbias beter vermijden dan AI alleen, een hybride aanpak waarbij recruiters eerst door AI aanbevolen kandidaten bekijken en daarna zelf zoeken, de meest eerlijke selectie oplevert.

De kern

Stel je voor dat het vinden van de perfecte kandidaat voor een baan een beetje lijkt op het zoeken naar de beste schelpen op een enorm strand. Je hebt drie manieren om dit te doen: je doet het helemaal zelf, je laat een robot het doen, of je doet het samen.

Deze studie van Mesut Kaya en Toine Bogers kijkt precies naar die drie manieren, maar dan in de echte wereld van werving en selectie in Denemarken. Ze wilden weten: wie is eerlijker als het gaat om mannen en vrouwen? De mens, de computer, of een team van beiden?

Hier is de uitleg, vertaald naar begrijpelijke taal:

1. De Drie Spelers (De Manieren van Zoeken)

De onderzoekers keken naar drie scenario's bij een grote banensite:

• De Mens (Alleen): De recruiter gaat zelf het digitale archief in. Hij of zij typt trefwoorden in en bladert door duizenden CV's, net als iemand die zelf door een stapel papieren bladert.
• De Robot (Alleen): Een slim computerprogramma (AI) kijkt naar de vacature en schuift direct een lijstje met de "beste" kandidaten aan. De recruiter kijkt hier alleen naar, maar doet niets anders.
• Het Team (Mens + Robot): De recruiter krijgt eerst het lijstje van de robot te zien. Hij of zij kijkt er even naar, en zoekt daarna zelf nog verder om het lijstje aan te vullen.

2. Wat Vonden Ze? (De Verbinding)

Hier komen de verrassende resultaten, die je misschien niet direct zou verwachten:

De Mens is eerlijker dan de Robot (maar niet perfect)
Toen recruiters alleen zelf zochten, waren ze eerlijker dan de robot. De robot had een klein vooroordeel: hij koos iets vaker mannen dan vrouwen, waarschijnlijk omdat hij in het verleden had geleerd van oude data waar mensen ook al vooroordelen hadden.

• De analogie: De robot is als een leerling die een fout boekje heeft geleerd. Hij herhaalt onbewust de fouten van het verleden.

Hoe meer je nadenkt, hoe eerlijker het wordt
Interessant genoeg: als recruiters langer stopten om naar een CV te kijken (van 'even kijken' naar 'klikken' naar 'bellen'), werd de lijst met kandidaten steeds eerlijker.

• De analogie: Als je snel door een fotoalbum bladt, let je misschien op oppervlakkige dingen. Als je stopt en goed kijkt, zie je de echte kwaliteiten en negeer je de vooroordelen.

Het Team wint (De Magie van Samenwerken)
Dit is het belangrijkste punt: De combinatie van mens en robot gaf het eerlijkste resultaat.
Het was niet zomaar "mens plus robot". Het was meer dan de som der delen.

• Hoe werkt dat? De recruiter kijkt eerst naar het lijstje van de robot. Dit lijkt misschien onnodig, maar het werkt als een spiegel. Door te zien wie de robot voorstelt, wordt de recruiter zich bewust van wat er missen of wat er oververtegenwoordigd is.
• De analogie: Stel je voor dat je een schilderij bekijkt. De robot zegt: "Kijk, hier zijn veel rode bloemen." De recruiter denkt: "Ah, ik zie veel rood, maar waar zijn de blauwe bloemen?" En gaat dan zelf op zoek naar die blauwe bloemen. De robot gaf de recruiter dus een 'duwtje in de rug' om bewuster te zoeken.

3. De Grote Les

De studie laat zien dat we AI niet hoeven te zien als een vervanger die alles beter doet, en we moeten ook niet denken dat mensen van nature perfect eerlijk zijn.

• De AI is snel, maar kan oude vooroordelen vasthouden (zoals een spiegel die een beetje scheef hangt).
• De Mens is goed in het corrigeren, maar kan soms te snel gaan of onbewust vooroordelen hebben.
• Samen werken ze het beste. De AI doet het zware werk van het filteren, en de mens kijkt er met een kritische blik overheen om de balans te herstellen.

Kortom: De beste manier om eerlijk te werven, is niet om de mens weg te werken, maar om de mens slim te maken met AI-hulp. De mens moet de "hoofdrol" houden en de AI gebruiken als een hulpmiddel om blindvlekken te zien, niet als de eindbeslissers.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Human, Algorithm, or Both? Gender Bias in Human-Augmented Recruiting" in het Nederlands.

Probleemstelling

De markt voor HR-technologie en AI-gedreven oplossingen groeit snel, maar er bestaat bezorgdheid dat het gebruik van AI in wervingsprocessen bestaande vooroordelen (zoals genderbias) kan versterken in plaats van ze te verminderen. Hoewel er veel onderzoek is gedaan naar de eerlijkheid van algoritmen, ontbreekt er empirisch bewijs dat de eerlijkheid vergelijkt tussen drie specifieke scenario's:

1. Menselijk alleen: Recruiters zoeken handmatig in een CV-database.
2. AI alleen: Een algoritme selecteert kandidaten zonder menselijke tussenkomst.
3. Hybride (Human-Augmented): Een combinatie waarbij recruiters eerst AI-aanbevelingen bekijken en vervolgens handmatig zoeken.

De kernvraag is hoe genderbias zich verhoudt in deze drie scenario's en of menselijke toezicht (human oversight) de negatieve effecten van algoritmen kan mitigeren.

Methodologie

De studie is uitgevoerd bij Jobindex, het grootste jobportaal van Denemarken, over een periode van 27 maanden (april 2023 tot juli 2025).

• Data: De dataset omvat 58.765 vacatures en 1.348.916 gecontacteerde kandidaten.
• Experimenteel Ontwerp: Het onderzoek gebruikt een quasi-experimenteel ontwerp gebaseerd op het workflow-systeem van Jobindex:
  • Human Recruiting: Recruiters slaan de AI-aanbevelingen over en zoeken volledig handmatig.
  • AI Recruiting: Analyse van de door het algoritme gegenereerde lijst van 100 aanbevolen kandidaten (onafhankelijk van menselijke actie).
  • Human + AI Recruiting: Recruiters bekijken de AI-lijst en zoeken daarna handmatig verder.
• Metingen: De auteurs analyseren drie interactiestadia: Bekeken (Viewed), Aangeklikt (Clicked) en Gecontacteerd (Contacted).
• Fairness Metric: Er wordt gebruikgemaakt van Conditional Demographic Parity (CDP) om genderfairness te meten. Dit is een variant van Demographic Parity die de acceptatiekans vergelijkt tussen geslachten (vrouwen vs. mannen) binnen specifieke groepen (bijv. gekwalificeerde kandidaten). Een CDP-ratio van 1,0 duidt op perfecte gelijkheid; waarden onder de 0,8 worden vaak als onaanvaardbaar beschouwd (volgens de "80%-regel" van de EEOC).
• Geslachtsbepaling: Omdat Jobindex sinds 2021 geen geslacht meer vraagt bij nieuwe registraties, werd het geslacht van kandidaten geïnfereerd op basis van hun voornaam. Dit model had een F1-score van 99,25% en een dekking van 94,5%.

Belangrijkste Resultaten

1. Menselijke recruiters zijn eerlijker dan AI alleen:

   • AI-aanbevelingen (zonder menselijke tussenkomst) vertoonden een significante ondervertegenwoordiging van vrouwelijke kandidaten (gemiddelde CDP-ratio van ~0,64).
   • Menselijke recruiters die handmatig zoeken, produceerden een eerlijkere lijst dan de pure AI-lijst, hoewel er nog steeds sprake was van een lichte ondervertegenwoordiging van vrouwen (gemiddelde CDP-ratio ~0,81 voor gecontacteerde kandidaten).
   • Conclusie: Hoe meer moeite een recruiter doet (van 'bekeken' naar 'gecontacteerd'), hoe eerlijker de lijst wordt, wat suggereert dat diepere reflectie bias vermindert.

2. Hybride aanpak is superieur ("Meer dan de som der delen"):

   • De combinatie van AI en menselijke recruiters leverde de eerlijkste resultaten op (gemiddelde CDP-ratio van 0,854 voor gecontacteerde kandidaten).
   • Dit is significant hoger dan zowel de pure AI-lijst als de pure menselijke zoekopdracht.
   • Het proces laat zien dat het bekijken van AI-aanbevelingen een positief effect heeft op de daaropvolgende handmatige zoekopdracht. Recruiters lijken geïnspireerd of bewustgemaakt door de AI-lijst, wat leidt tot een diversere selectie in de latere handmatige fase.

3. Fasen van bias-mitigatie:

   • AI-toezicht (AI oversight): Menselijke beoordeling van de AI-lijst verbetert de eerlijkheid ten opzichte van de ruwe AI-lijst, maar elimineert de bias niet volledig.
   • Post-AI toezicht (Post-AI oversight): De handmatige zoekopdracht na het bekijken van de AI-lijst resulteert in de hoogste eerlijkheid (CDP 0,876). Dit is zelfs eerlijker dan handmatig zoeken zonder AI-voorbereiding.

4. Invloed van beroepsgroepen:

   • Bias varieert sterk per beroepsgroep. In vrouwedomineerde sectoren (zoals kinderopvang en verpleging) werden mannen vaak oververtegenwoordigd gecontacteerd (CDP < 1), wat suggereert dat recruiters actief proberen de genderkloof te dichten. In mannelijk dominerende sectoren was dit effect minder sterk.

Belangrijkste Bijdragen

• Empirische Vergelijking: Dit is een van de eerste studies die kwantitatief de eerlijkheid vergelijkt tussen menselijke, AI-gedreven en hybride wervingsprocessen in een real-world setting.
• Validatie van Human-Augmentation: De studie levert bewijs dat menselijke toezicht cruciaal is om algoritmische bias te mitigeren, maar dat de optimale uitkomst wordt bereikt wanneer AI en mens samenwerken.
• Ontmaskering van "Sum of Parts": Het onderzoek weerlegt het idee dat hybride systemen slechts een optelsom zijn van mens en machine; de interactie tussen beide leidt tot een synergetisch effect dat de eerlijkheid verder verhoogt dan beide componenten apart.

Betekenis en Conclusie

De studie concludeert dat het volledig automatiseren van wervingsprocessen risico's inhoudt voor genderfairness, omdat AI historische biases kan perpetueren. Menselijke recruiters zijn beter in het corrigeren van deze bias, maar zijn niet perfect.

De meest effectieve strategie voor eerlijk werven is een hybride model waarbij recruiters eerst worden blootgesteld aan AI-aanbevelingen en vervolgens handmatig verder zoeken. Dit proces stimuleert een bewuster en eerlijker selectieproces. De auteurs benadrukken dat menselijk toezicht (human oversight) niet alleen noodzakelijk is voor controle, maar dat de interactie met AI-aanbevelingen zelf een positief leer- en corrigerend effect heeft op de besluitvorming van de recruiter.

Beperkingen: De studie is beperkt tot gender (man/vrouw) en de context van Denemarken. De methode van geslachtsinferentie via namen heeft beperkingen voor niet-binaire identiteiten of diverse culturele achtergronden. Toch biedt het een sterke basis voor het ontwikkelen van eerlijkere HR-praktijken.