Gender Bias in Generative AI-assisted Recruitment Processes

Dit onderzoek toont aan dat, hoewel generatieve AI-modellen zoals GPT-5 geen significante verschillen tonen in de aanbevolen functies voor mannelijke en vrouwelijke kandidaten, ze wel genderstereotypen reproduceren door vrouwen te associëren met emotionele eigenschappen en mannen met strategische en analytische vaardigheden.

De kern

Stel je voor dat je een zeer slimme, digitale assistent hebt die net zo goed is in lezen en schrijven als een universiteitsprofessor. Deze assistent heet GenAI (Generatieve Kunstmatige Intelligentie). Bedrijven beginnen deze assistent steeds vaker in te huren om nieuwe mensen aan te nemen. Het idee is: "Laten we de computer de cv's laten lezen, dan zijn we sneller en eerlijker."

Maar in dit artikel, geschreven door onderzoekers van de Politecnico di Torino in Italië, wordt gekeken of die computer wel echt eerlijk is. Ze ontdekken dat de computer misschien wel een onbewuste voorkeur heeft, net als een mens die opgegroeid is met oude stereotypen.

Hier is wat ze hebben gedaan, vertaald in een simpel verhaal:

1. Het Experiment: De Digitale Matchmaker

De onderzoekers hebben 24 "fictieve" sollicitanten bedacht. Het waren allemaal jonge Italianen (onder de 35) met een diploma.

• De helft was een man, de helft een vrouw.
• Ze hadden allemaal verschillende ervaringen (soms net gestart, soms wat ouder en ervarener).
• Ze hadden allemaal verschillende soorten werkervaring (soms technisch, soms sociaal, soms leidinggevend).

Vervolgens hebben ze deze profielen één voor één naar de slimme computer (GPT-5) gestuurd met de vraag: "Wat voor baan zou deze persoon het beste kunnen doen?"

Het was alsof ze 24 keer dezelfde test afnamen, maar dan met een man of een vrouw als hoofdpersoon.

2. De Verrassende Resultaten: De "Naam" en de "Baan"

Eerst keken ze of de computer verschillende banen voorstelde voor mannen en vrouwen.

• Het goede nieuws: De computer noemde vaak dezelfde soort banen en werkte in dezelfde sectoren (zoals technologie of productie) voor zowel mannen als vrouwen. Er was geen duidelijke "muur" waar vrouwen niet overheen mochten.
• De analogie: Stel je voor dat je een man en een vrouw naar dezelfde supermarkt stuurt. Beiden krijgen een mandje met dezelfde producten (de banen). Op het eerste gezicht lijkt het dus eerlijk.

3. Het Echte Probleem: De "Stempel" op het Pakket

Maar toen keken ze naar de woorden die de computer gebruikte om de mensen te beschrijven. En hier kwam de ongelijkheid naar voren. De computer stempelde mannen en vrouwen met heel verschillende eigenschappen, alsof ze een ander label op hun voorhoofd plakten.

• Voor vrouwen: De computer gebruikte woorden als empatisch, behulpzaam, toegankelijk en zorgzaam.
  • Analogie: Het was alsof de computer vrouwen zag als de zorgzame buurvrouw die altijd luistert en een warme kop thee zet.
• Voor mannen: De computer gebruikte woorden als leidend, strategisch, ambitieus en betrouwbaar.
  • Analogie: Het was alsof de computer mannen zag als de strategische kapitein van een schip die de leiding neemt en harde beslissingen neemt.

Zelfs als een vrouw en een man exact dezelfde ervaring en opleiding hadden, beschreef de computer de vrouw als iemand die "zorgt" en de man als iemand die "leidt".

4. Waarom gebeurt dit?

De onderzoekers leggen uit dat deze computer niet uit de lucht valt. Hij is getraind op enorme hoeveelheden tekst uit het internet, boeken en nieuwsartikelen. Omdat onze maatschappij in het verleden (en nu nog steeds) vaak mannen als leiders en vrouwen als verzorgers heeft gezien, heeft de computer die patronen "geleerd".

Het is alsof je een kind opvoedt door alleen oude films te laten kijken waarin de vader altijd de auto rijdt en de moeder altijd kookt. Als dat kind later zelf moet beslissen wie wat doet, zal het waarschijnlijk denken: "Nou ja, de vader rijdt wel, dat is logisch." De computer doet precies hetzelfde: hij herhaalt de oude patronen uit zijn "opleiding".

5. Wat betekent dit voor de toekomst?

De conclusie van het artikel is een waarschuwing. Als bedrijven deze slimme computers gaan gebruiken om mensen aan te nemen, kunnen ze onbedoeld oude onrechtvaardigheden versterken.

• Het risico: Een vrouw kan worden afgewezen voor een leidinggevende functie, niet omdat ze niet slim genoeg is, maar omdat de computer denkt dat ze "te empathisch" is voor zo'n baan.
• De oplossing: We kunnen deze technologie niet zomaar blindelings vertrouwen. We moeten er transparant over zijn en erop letten dat de computer niet alleen "slim" is, maar ook "eerlijk".

Kort samengevat:
Deze studie laat zien dat een AI die sollicitanten beoordeelt, soms wel dezelfde banen voorstelt voor mannen en vrouwen, maar ze wel met heel verschillende "brillen" bekijkt. Mannen krijgen een bril met een leiderschaps-patroon, vrouwen een bril met een zorg-patroon. Om eerlijke kansen te creëren, moeten we die bril van de computer eerst schoonmaken.

Technische samenvatting

Titel: Genderbias in door Generatieve AI ondersteunde wervingsprocessen

Auteurs: Martina Ullasci, Marco Rondina, Riccardo Coppola en Antonio Vetrò (Politecnico di Torino, Italië)

---

1. Probleemstelling

Generatieve kunstmatige intelligentie (GenAI), en met name Large Language Models (LLM's), worden steeds vaker ingezet in wervings- en selectieprocessen om efficiëntie te verhogen. Het artikel benadrukt echter dat deze modellen, getraind op historische data die maatschappelijke ongelijkheden weerspiegelen, het risico lopen om bestaande genderstereotypen en vooroordelen te reproduceren en zelfs te versterken.
De kernvraag is of AI-systemen in gevoelige processen zoals recruitment onbewust genderrollen bevestigen, wat kan leiden tot onrechtvaardige behandelingen, beroepssegregatie en loonkloven. Het onderzoek richt zich specifiek op de suggesties van banen en beschrijvingen die door een state-of-the-art model worden gegenereerd op basis van geslacht.

2. Methodologie

Het onderzoek volgt een gestructureerde experimentele opzet om de aanwezigheid van bias te kwantificeren:

• Doelstelling: Evalueren of een GenAI-model (ChatGPT-5) verschillende banen, sectoren en beschrijvende bijvoeglijke naamwoorden suggereert voor kandidaten met identieke achtergronden, maar verschillend geslacht.
• Populatie: 24 gesimuleerde kandidatenprofielen (12 vrouwen, 12 mannen), allen Italiaanse afgestudeerden onder de 35 jaar.
  • De profielen zijn gebalanceerd op geslacht, leeftijd, ervaringsniveau (Junior: 0-5 jaar, Senior: >5 jaar) en vakgebied.
  • De vakgebieden zijn gebaseerd op de ISCO-08-classificatie en ingedeeld in drie macro-gebieden: Cognitief, Sociaal-Relationeel en Technisch.
• Experimenteel Ontwerp:
  • Een gestandaardiseerde prompt werd drie keer per profiel ingediend (totaal 72 observaties).
  • De prompt rolde de AI als een "expert loopbaanadviseur" die een ideale baan, sector en drie beschrijvende bijvoeglijke naamwoorden moest genereren.
  • Variabelen:
    • Onafhankelijke variabele: Geslacht (M/V).
    • Afhankelijke variabelen: Suggestie voor functietitel, suggestie voor industriecategorie, en de gegenereerde bijvoeglijke naamwoorden.
• Data-analyse:
  • De kwalitatieve output (banen, sectoren, bijvoeglijke naamwoorden) werd via "open coding" gegroepeerd in homogene categorieën op basis van semantische gelijkenis.
  • Een Chi-kwadraat ($\chi^2$) toets werd gebruikt om te testen of er statistisch significante verschillen zijn in de verdeling van de resultaten tussen mannen en vrouwen.

3. Belangrijkste Bijdragen

• Empirisch Onderzoek naar LLM-bias in HR: Het artikel biedt kwantitatief bewijs voor de aanwezigheid van genderbias in de taalgebruik van een geavanceerd LLM (GPT-5) binnen een specifiek recruitment-scenario.
• Differentiatie tussen Structuur en Semantiek: Het onderzoek onderscheidt tussen de inhoud van de suggesties (welke baan) en de manier waarop deze worden beschreven (taalgebruik), waarbij laatstgenoemde een sterkere bias vertoont.
• Ethiek en Transparantie: Het benadrukt de noodzaak van transparantie en ethische richtlijnen bij het gebruik van AI in wervingsprocessen, aangezien individuele vooroordelen kunnen worden omgezet in grootschalige algoritmische schade.

4. Resultaten

De statistische analyse leverde de volgende bevindingen op:

• Functietitels (RQ1): Er waren geen statistisch significante verschillen in de voorgestelde functietitels tussen mannen en vrouwen ($p = 0,27$). Hoewel er een neiging was om vrouwen vaker naar HR-rolle en mannen naar technische/operationele rollen te sturen, was dit niet significant genoeg om de nulhypothese te verwerpen.
• Industrie-keuzes (RQ2): Ook hier werd geen statistisch significant verschil gevonden in de voorgestelde sectoren ($p = 0,38$). Er was een lichte polarisatie in de HR-sector (meer vrouwen), maar over het algemeen bleef de verdeling gebalanceerd.
• Beschrijvende Bijvoeglijke Naamwoorden (RQ3): Dit was het meest kritieke resultaat. Er werd een statistisch significant verschil gevonden ($p = 0,00176$) in de taalgebruik:
  • Vrouwen werden vaker beschreven met relationele en emotionele eigenschappen (bijv. toegankelijk, empathisch, ondersteunend).
  • Mannen werden vaker geassocieerd met leiderschaps-, invloed- en betrouwbaarheidseigenschappen (bijv. invloedrijk, overtuigend, ambitieus, vastberaden, ervaren).
  • Dit bevestigt dat het model traditionele genderstereotypen reproduceert in de kwalitatieve beschrijving van kandidaten, zelfs als de kwantitatieve banensuggesties vergelijkbaar blijven.

5. Betekenis en Conclusie

Het onderzoek concludeert dat hoewel GenAI-modellen mogelijk niet altijd leiden tot een directe segregatie in de voorgestelde functietitels, ze wel degelijk subtiel maar significant genderbias reproduceren in de taalgebruik en attributen die aan kandidaten worden toegeschreven.

• Implicaties: Het gebruik van dergelijke systemen in recruitment is problematisch omdat het stereotypen kan versterken die de carrières van vrouwen en mannen beïnvloeden op een subtiele, maar systematische manier.
• Beperkingen: De studie beperkt zich tot een binair geslachtsconcept (man/vrouw), een kleine steekproef (N=24) en één specifiek model (GPT-5).
• Toekomstperspectief: De auteurs pleiten voor een multidisciplinaire aanpak (informatica, sociologie, genderstudies) en voor kritische evaluatie van AI in gevoelige beslissingsprocessen. Toekomstig onderzoek zal zich richten op het analyseren van bias in visuele en tekstuele beschrijvingen van ideale kandidaten op basis van echte vacatures.

Kortom, de studie waarschuwt dat "efficiëntie" in werving niet mag gaan ten koste van eerlijkheid, en dat AI-systemen actief moeten worden getoetst op hun vermogen om sociale ongelijkheden te versterken.