Gender Bias in Generative AI-assisted Recruitment Processes

Questo studio valuta l'impatto del modello generativo GPT-5 nel reclutamento di laureati italiani under-35, rivelando che, sebbene le proposte occupazionali non mostrino differenze significative, il modello perpetua stereotipi di genere assegnando aggettivi emotivi ed empatici alle donne e tratti strategici e analitici agli uomini, sollevando così preoccupazioni etiche sull'uso di tali sistemi nei processi di selezione.

L'essenziale

🤖 L'IA che "pensa" con gli stereotipi: Cosa succede quando un robot fa il selezionatore?

Immaginate di avere un consulente di carriera super intelligente, un robot che ha letto milioni di libri, articoli e CV. Questo robot, chiamato GenAI (Intelligenza Artificiale Generativa), è stato assunto dalle aziende per aiutare a scegliere i nuovi dipendenti. Sembra perfetto: veloce, non si stanca e non prende caffè.

Ma c'è un problema. Questo robot è stato "addestrato" leggendo tutto ciò che è stato scritto dall'umanità fino ad oggi. E purtroppo, la nostra storia è piena di pregiudizi. È come se questo robot avesse bevuto un "caffè avvelenato" fatto di vecchie idee su come dovrebbero comportarsi uomini e donne.

Gli autori di questo studio (ricercatori italiani del Politecnico di Torino) hanno deciso di fare un esperimento da detective per vedere se questo robot, quando deve suggerire un lavoro, tratta diversamente un uomo e una donna, anche se hanno le stesse identiche competenze.

🕵️‍♂️ L'Esperimento: Il "Gioco dei Gemelli"

I ricercatori hanno creato 24 profili fittizi di giovani laureati italiani (sotto i 35 anni).

• 12 erano donne.
• 12 erano uomini.
• Tutti avevano lo stesso livello di istruzione, la stessa età e competenze simili.

Hanno poi chiesto al robot (in questo caso una versione avanzata di GPT-5) di fare da "consulente di carriera" e dire: "Ehi, quale lavoro è perfetto per questa persona?".

🎭 Cosa è emerso? Tre scoperte fondamentali

1. Il Titolo del Lavoro: "Quasi" uguali, ma con un sussurro
Quando il robot ha suggerito il nome del lavoro (es. "Ingegnere" o "HR Manager"), non ha fatto grandi differenze evidenti. Non ha detto "Le donne non possono fare gli ingegneri".
Tuttavia, c'era un piccolo "tintinnio" di pregiudizio: tendeva a suggerire più spesso ruoli legati alle risorse umane per le donne e ruoli più tecnici o operativi per gli uomini. È come se il robot, anche se cerca di essere neutrale, avesse ancora in testa quell'idea antica che "le donne curano le persone, gli uomini gestiscono le macchine".

2. Il Settore: Un equilibrio apparente
Anche per quanto riguarda il settore (es. Tecnologia, Manifatturiero, Servizi), il robot ha mostrato un comportamento abbastanza equilibrato. Non ha escluso le donne dalla tecnologia o gli uomini dall'assistenza clienti. Qui il pregiudizio era meno visibile, come un'ombra che si nasconde dietro un muro.

3. Gli Aggettivi: La vera "bomba" nascosta 💣
Qui è dove la storia diventa interessante. Quando il robot ha dovuto descrivere le persone con degli aggettivi, ecco che ha svelato la sua vera natura.

• Per le donne: Ha usato parole come "empatica", "accogliente", "di supporto", "gentile". È come se il robot dicesse: "Lei è la persona che ci tiene a farci sentire a nostro agio".
• Per gli uomini: Ha usato parole come "strategico", "influenzante", "determinato", "ambizioso". È come se il robot dicesse: "Lui è il leader che comanda la nave".

L'analogia della "Camicia Magica":
Immaginate che il robot non veda le persone, ma veda solo una "camicia magica" che indossa.

• Se la camicia è rosa (donna), il robot le attacca automaticamente un cartellino che dice: "Cuore caldo e mani gentili".
• Se la camicia è blu (uomo), il cartellino dice: "Mente fredda e comando".
  Anche se sotto la camicia c'è la stessa persona con le stesse capacità, il robot giudica in base al colore del tessuto, non alla persona reale.

🚨 Perché è pericoloso?

Il problema non è solo che il robot è "cattivo", ma che ripete e amplifica i nostri errori.
Se un'azienda usa questo robot per assumere persone, rischia di:

1. Assumere donne solo per ruoli "di supporto" e uomini per ruoli "di comando".
2. Creare un mondo del lavoro dove le donne vengono sempre descritte come "brave a collaborare" e gli uomini come "bravi a decidere", rendendo difficile per le donne fare carriera in posizioni di leadership.

È come se il robot fosse un cattivo fotografo: non cambia la realtà, ma usa un filtro che distorce i colori, rendendo tutto più "stereotipato" di quanto non sia nella realtà.

💡 La Conclusione: Cosa dobbiamo fare?

Gli autori ci dicono che non possiamo fidarci ciecamente di questi robot per decisioni delicate come le assunzioni.

• Trasparenza: Dobbiamo sapere come pensano questi robot.
• Controllo umano: Non possiamo lasciare che un algoritmo prenda decisioni da solo su chi assume e chi no.
• Etica: Dobbiamo costruire questi strumenti in modo che imparino a vedere le persone per quello che sono, non per il genere che hanno.

In sintesi: L'Intelligenza Artificiale è uno specchio potente. Se lo specchio è sporco di pregiudizi, rifletterà un mondo distorto. Il nostro compito è pulirlo, affinché possa riflettere la vera uguaglianza.

Sommario tecnico

Titolo: Bias di Genere nei Processi di Reclutamento Assistiti dall'IA Generativa

Autori: Martina Ullasci, Marco Rondina, Riccardo Coppola e Antonio Vetrò (Politecnico di Torino, Italia).

---

1. Il Problema

Negli ultimi anni, i sistemi di Intelligenza Artificiale Generativa (GenAI) e i Modelli Linguistici di Grande Dimensione (LLM) sono stati sempre più integrati nei processi di selezione del personale e nell'analisi dei profili candidati. Tuttavia, poiché questi modelli sono addestrati su dati storici che riflettono le disuguaglianze sociali esistenti, c'è il rischio concreto che essi riproducano e talvolta amplifichino gli stereotipi di genere e i pregiudizi del mercato del lavoro.
L'obiettivo della ricerca è valutare se e come un modello all'avanguardia (GPT-5) suggerisca occupazioni e descrizioni basandosi sul genere del candidato, con un focus specifico su laureati italiani under 35, un gruppo particolarmente vulnerabile alla digitalizzazione del mercato del lavoro.

2. Metodologia

Lo studio ha adottato un approccio sperimentale quantitativo e qualitativo strutturato secondo il template Goal-Question-Metric (GQM).

• Popolazione di Studio: Sono stati creati 24 profili candidati simulati (12 donne, 12 uomini), tutti italiani, laureati e under 35.
  • I profili sono stati bilanciati per età, esperienza lavorativa (Junior: 0-5 anni; Senior: >5 anni) e campo professionale.
  • Le competenze sono state mappate secondo la classificazione ISCO-08 in tre macro-aree: Cognitive (strategia, problem-solving), Socio-Relazionali (assistenza, interazione clienti) e Tecniche (lavoro manuale, macchinari).
• Strumento: È stato utilizzato ChatGPT-5 tramite interfaccia web, configurato con i parametri predefiniti di OpenAI.
• Procedura:
  • A ogni profilo è stato inviato un prompt standardizzato che assegnava al modello il ruolo di "consulente di carriera esperto".
  • Il modello doveva suggerire un lavoro ideale, il settore industriale e fornire 3 aggettivi descrittivi per il candidato.
  • Ogni profilo è stato testato 3 volte, per un totale di 72 osservazioni.
• Analisi dei Dati:
  • I titoli di lavoro, i settori e gli aggettivi generati sono stati raggruppati in categorie omogenee tramite open coding (codifica aperta).
  • È stata applicata una test statistica del Chi-quadro ($\chi^2$) per verificare l'indipendenza tra il genere del candidato e le uscite del modello (titoli, settori, aggettivi).

3. Risultati Chiave

L'analisi dei dati ha portato a conclusioni differenziate a seconda della variabile esaminata:

• Titoli di Lavoro e Settori Industriali (RQ1 e RQ2):
  • Non sono state rilevate differenze statisticamente significative nella distribuzione dei titoli di lavoro o dei settori industriali suggeriti in base al genere (p-value = 0.27 per i titoli, p-value = 0.38 per i settori).
  • Sebbene si siano osservate alcune tendenze (es. sovrarappresentazione femminile nel settore HR e maschile nel manifatturiero/operativo), queste non sono state sufficienti a rifiutare l'ipotesi nulla di indipendenza. Il modello non sembra segregare sistematicamente i ruoli principali.
• Aggettivi Descrittivi (RQ3):
  • È emerso un bias di genere statisticamente significativo (p-value = 0.00176) nella scelta degli aggettivi.
  • Candidati Femminili: Descritti prevalentemente con tratti relazionali ed emotivi (es. "empatica", "supportiva", "accessibile").
  • Candidati Maschili: Associati a tratti di leadership, influenza e affidabilità pratica (es. "influenzante", "ambizioso", "determinato", "responsabile", "analitico").

4. Contributi e Limiti

• Contributi:
  • Dimostrazione empirica che, anche quando i ruoli occupazionali suggeriti sono simili, il linguaggio descrittivo utilizzato dall'IA perpetua stereotipi di genere tradizionali.
  • Evidenziazione del rischio che l'IA trasformi i pregiudizi individuali in danni algoritmici su larga scala nei processi di reclutamento.
  • Fornitura di un dataset e di una metodologia replicabile per valutare l'equità degli LLM in contesti HR.
• Limiti (Minacce alla Validità):
  • Dimensione del campione: 24 profili sono limitati per la complessità del mercato reale.
  • Binario di Genere: Lo studio ha operato su una dicotomia Maschio/Femmina, escludendo identità non binarie o non eteronormative.
  • Soggettività: La codifica degli aggettivi e dei ruoli è stata effettuata manualmente dagli autori, introducendo un potenziale bias soggettivo.
  • Generalizzabilità: I risultati sono specifici per un singolo modello (GPT-5) e per il contesto italiano under-35.

5. Significatività e Conclusioni

Lo studio solleva una questione etica cruciale sull'uso di modelli GenAI in processi sensibili come il reclutamento. Sebbene il modello non sembri negare sistematicamente certi ruoli a un genere rispetto all'altro, la sua tendenza ad associare le donne a tratti emotivi e gli uomini a tratti strategici e analitici rischia di:

1. Rafforzare la segregazione occupazionale e le disparità salariali.
2. Influenzare inconsciamente i decisori umani che utilizzano questi output.
3. Creare un ambiente digitale del lavoro che non è equo.

Gli autori concludono che la soluzione non risiede solo nella creazione di linee guida etiche, ma in una valutazione critica a monte dell'uso di queste tecnologie in ambiti ad alto rischio. È necessario un approccio interdisciplinare (informatica, sociologia, studi di genere) per sviluppare strumenti che promuovano l'uguaglianza o, in alternativa, per mettere in discussione l'adeguatezza dell'uso dell'IA in tali contesti.