Human, Algorithm, or Both? Gender Bias in Human-Augmented Recruiting

Questo studio empirico dimostra che, sebbene i reclutatori umani siano più equi rispetto alle soluzioni puramente algoritmiche per quanto riguarda il bias di genere, l'approccio ibrido che combina l'intelligenza artificiale con la supervisione umana produce i risultati più equi, confermando l'importanza del controllo umano per mitigare i pregiudizi nell'assunzione.

L'essenziale

Ecco una spiegazione semplice e creativa del paper, pensata per chiunque, anche senza conoscenze tecniche.

Immagina di dover assumere un nuovo dipendente per la tua azienda. Hai tre modi per farlo:

1. L'Umano: Un reclutatore umano che sfoglia manualmente migliaia di CV su un computer.
2. L'Algoritmo: Un'intelligenza artificiale (AI) che sceglie i candidati per te.
3. L'Equilibrio (Umano + AI): L'AI ti fa una prima lista di suggerimenti, e poi l'umano la controlla e cerca altri candidati.

Gli autori di questo studio, Mesut Kaya e Toine Bogers, hanno analizzato milioni di dati da Jobindex, il più grande sito di lavoro della Danimarca, per capire quale di questi tre metodi sia il più giusto quando si tratta di genere (uomini vs donne).

Ecco cosa hanno scoperto, usando qualche metafora:

1. L'Uomo da solo: Il "Cercatore Stanco"

Quando i reclutatori umani lavorano da soli (senza AI), tendono a essere più equi rispetto all'AI da sola, ma non perfetti.

• La metafora: Immagina un cacciatore che cerca prede in una foresta. Se ha fretta (perché ha molti lavori da fare), tende a prendere le prede più facili da vedere o quelle che ricordava di aver visto prima. Questo porta a un piccolo pregiudizio: le donne vengono "viste" e "cliccate" un po' meno degli uomini.
• Il risultato: Più tempo e attenzione dedica il reclutatore a guardare i CV, più la lista finale diventa equilibrata. È come se, rallentando e guardando meglio, si accorgesse di aver saltato delle candidate valide.

2. L'AI da sola: Il "Ricorderò Male"

Quando l'AI lavora da sola, la situazione peggiora.

• La metafora: L'AI è come un cuoco che ha imparato a cucinare guardando i libri di cucina dei suoi nonni. Se i nonni usavano solo ingredienti maschili per certi piatti, l'AI continuerà a usare solo quelli, pensando che sia la "ricetta giusta". L'AI ha imparato dai dati storici (dove i reclutatori umani, in passato, avevano mostrato pregiudizi o dove le donne erano meno presenti in certi ruoli).
• Il risultato: L'AI tende a sottorappresentare le donne in modo sistematico. È come se avesse un "filtro" invisibile che rende le donne meno visibili rispetto agli uomini.

3. L'Equilibrio (Umano + AI): La "Magia della Collaborazione"

Qui arriva la sorpresa più grande! Quando l'AI e l'umano lavorano insieme, il risultato è il migliore di tutti.

• La metafora: Immagina di avere una bussola (l'AI) e un esploratore esperto (l'umano).
  • L'AI ti dice: "Ehi, guarda qui, ci sono 100 persone che potrebbero andare bene".
  • L'umano guarda questa lista, dice: "Ok, queste sono interessanti, ma ne mancano alcune".
  • Poi l'umano continua a cercare da solo.
  • Il trucco: Il fatto che l'umano abbia prima guardato la lista dell'AI cambia il suo modo di cercare dopo. È come se l'AI avesse "svegliato" il reclutatore, facendogli notare cose che altrimenti avrebbe ignorato.
• Il risultato: La lista finale di candidati contattati è la più equilibrata in assoluto. L'AI corregge i bias dell'uomo (spingendolo a guardare oltre il solito), e l'uomo corregge i bias dell'AI (aggiungendo quelle che l'algoritmo ha perso). Insieme, sono più della somma delle loro parti.

Altre scoperte interessanti

• Il lavoro di "controllo": Hanno notato che quando i reclutatori controllano la lista dell'AI, diventano più attenti. Se saltano la lista dell'AI e cercano da soli, fanno più errori di genere. Se guardano la lista dell'AI prima, diventano più equi.
• I settori specifici: In alcuni lavori (come l'assistenza all'infanzia, dove ci sono molte donne), i reclutatori tendono a contattare più uomini del previsto, forse cercando di "bilanciare" la situazione. Al contrario, nei lavori maschili (come l'edilizia), è più difficile trovare un equilibrio.
• Non c'è un "cattivo": Non è che i reclutatori siano razzisti o che l'AI sia malvagia. È un mix di abitudini vecchie, dati imperfetti e fretta.

La conclusione in una frase

Usare l'AI da sola rischia di amplificare i pregiudizi del passato, ma usarla come un "assistente" che suggerisce idee a un umano attento crea un processo di assunzione molto più giusto ed equo per tutti.

In sintesi: Non affidatevi ciecamente al computer, ma non lavorate nemmeno senza la sua mappa. La vera magia sta nel far lavorare insieme l'intelligenza umana e quella artificiale, controllandosi a vicenda.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "Human, Algorithm, or Both? Gender Bias in Human-Augmented Recruiting" di Mesut Kaya e Toine Bogers, presentato alla conferenza FAccT 2026.

1. Il Problema

Il mercato delle tecnologie HR e delle soluzioni basate sull'Intelligenza Artificiale (AI) sta crescendo rapidamente. Sebbene l'AI prometta efficienza, il suo utilizzo nei processi di assunzione comporta rischi significativi, in particolare la possibilità di amplificare i bias esistenti (come quelli di genere) piuttosto che ridurli.
Attualmente, esiste una lacuna nella ricerca empirica: mentre sono stati studiati i bias umani e quelli algoritmici separatamente, mancano valutazioni comparative concrete sulla equità (fairness) di tre scenari specifici:

1. Solo Umano: Recruiter che cercano manualmente nel database.
2. Solo AI: Matching automatico tra candidati e offerte.
3. Umano + AI (Human-Augmented): Una combinazione in cui i recruiter interagiscono con le raccomandazioni dell'AI prima di procedere con la ricerca manuale.

L'obiettivo dello studio è quantificare e confrontare il bias di genere in questi tre scenari all'interno di un ambiente di reclutamento reale.

2. Metodologia

Lo studio è stato condotto su Jobindex, il più grande portale di lavoro e agenzia di reclutamento della Danimarca.

• Design Sperimentale:
  • Dataset: Analisi di 58.765 offerte di lavoro completate da recruiter tra aprile 2023 e luglio 2025 (27 mesi).
  • Scenario 1 (Human Recruiting): Recruiter che ignorano le raccomandazioni AI e cercano manualmente nel database (oltre 180.000 CV).
  • Scenario 2 (AI Recruiting): Analisi della "slate" (lista) di 100 candidati raccomandati dall'algoritmo, indipendentemente dall'interazione umana.
  • Scenario 3 (Human + AI): Recruiter che visualizzano le raccomandazioni AI e poi integrano la ricerca con query manuali. Questo scenario è ulteriormente suddiviso in:
    • AI Oversight: Valutazione dei candidati raccomandati dall'AI.
    • Post-AI Oversight: Ricerca manuale successiva all'interazione con l'AI.
  • Metriche di Fairness: È stato utilizzato il Conditional Demographic (Dis)Parity (CDP), una variante della Demographic Parity (DP). Il CDP misura se il tasso di selezione (visualizzazione, click, contatto) è indipendente dal genere, condizionato alle qualifiche del candidato. Un rapporto CDP di 1 indica parità perfetta; valori < 1 indicano sottorappresentazione del gruppo protetto (donne).
  • Inferenza del Genere: Poiché i dati demografici sensibili non sono sempre auto-dichiarati (dopo settembre 2021), il genere è stato inferito utilizzando il nome di primo nome con un modello basato sulla frequenza (F1-score del 99,25%).

3. Risultati Chiave

L'analisi quantitativa ha prodotto le seguenti scoperte principali:

• Human Recruiting (Solo Umano):
  • Le candidate donne sono sistematicamente sottorappresentate nelle liste di candidati visualizzati e cliccati (CDP medio < 0,7).
  • Tuttavia, nella fase finale di contatto, il CDP sale a 0,813, indicando che più tempo e sforzo vengono dedicati alla valutazione dei CV, più il risultato diventa equo.
• AI Recruiting (Solo AI):
  • L'algoritmo di raccomandazione mostra un bias di genere più forte rispetto ai recruiter umani, con un CDP medio di 0,642 per la lista completa e 0,699 per i top-K candidati.
  • Questo suggerisce che l'AI, addestrata su dati storici, ha appreso e riprodotto i pregiudizi esistenti (es. bias storici visibili quando foto e nomi erano mostrati).
• Human + AI (Human-Augmented):
  • Risultato Sorprendente: La combinazione di AI e umano produce le liste più eque di tutte.
  • Il CDP per i candidati contattati in questo scenario è 0,854, significativamente superiore sia allo scenario solo umano (0,813) che a quello solo AI.
  • Effetto Sinergico: L'interazione con le raccomandazioni AI ha un effetto benefico sulla successiva ricerca manuale. I recruiter che vedono prima le liste AI tendono a generare liste finali più equilibrate rispetto a chi cerca solo manualmente.
  • Fasi di Mitigazione: La mitigazione del bias avviene in entrambe le fasi: sia durante la revisione delle raccomandazioni AI (AI oversight) che durante la ricerca manuale successiva (Post-AI oversight). La fase Post-AI oversight raggiunge il CDP più alto (0,876).

4. Contributi Principali

1. Prima Comparazione Empirica Reale: Questo studio offre una delle prime valutazioni quantitative che confronta direttamente l'equità di genere tra processi di reclutamento puramente umani, puramente algoritmici e ibridi in un ambiente di produzione reale.
2. Evidenza dell'Effetto Sinergico: Dimostra che l'approccio "Human-Augmented" è "più della somma delle sue parti". L'AI non sostituisce l'umano, ma agisce come un catalizzatore che migliora l'equità della decisione umana successiva.
3. Ruolo della Supervisione Umana: Conferma che la supervisione umana è cruciale per mitigare i bias algoritmici, ma solo se l'umano rimane attivo nel processo decisionale (Human-in-the-loop) e non ignora o accetta passivamente i suggerimenti.
4. Analisi per Categoria Lavorativa: Lo studio rivela che il bias varia fortemente per settore. Nei settori a predominanza femminile, c'è spesso una sovrarappresentazione maschile nei contatti (forse dovuta a una compensazione attiva dei recruiter), mentre nei settori maschili la sottorappresentazione femminile è meno marcata.

5. Significato e Implicazioni

• Per la Pratica HR: Il lavoro suggerisce che implementare sistemi di raccomandazione AI senza un processo di revisione umana può peggiorare i bias. Tuttavia, integrare l'AI come strumento di supporto (che mostra candidati iniziali) prima della ricerca manuale può portare a risultati più equi rispetto all'uso esclusivo di uno dei due metodi.
• Per la Ricerca e la Regolamentazione: Sottolinea l'importanza di audit periodici e longitudinali per monitorare l'equità nei sistemi ibridi. Smentisce l'idea che l'AI sia intrinsecamente più equa dell'umano o viceversa; l'equità dipende dall'interazione tra i due.
• Limitazioni: Lo studio si concentra sul genere e su un singolo contesto culturale (Danimarca). Non è stato possibile isolare esattamente come psicologicamente l'AI influenzi la ricerca manuale successiva (effetto subconscio), né sono stati analizzati altri attributi sensibili come l'etnia o l'età.

In conclusione, il paper conclude che l'approccio ibrido, dove l'umano mantiene il controllo finale ma utilizza l'AI per l'esplorazione iniziale, rappresenta la strategia più promettente per ridurre il bias di genere nel reclutamento, superando le limitazioni di entrambi gli approcci presi singolarmente.