Algorithmic Monocultures in Hiring
Questo documento analizza un nuovo dataset di 4 milioni di candidature al lavoro esaminate da un unico fornitore di algoritmi e rileva che tali monoculture algoritmiche producono esiti di rifiuto omogenei che colpiscono in modo sproporzionato e negativo i candidati neri e asiatici, rendendo spesso necessarie strategie di candidatura ampie per ottenere una revisione umana.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
L'idea principale: Il "guardiano" unico per tutti
Immagina di essere alla ricerca di un lavoro. In passato, potresti aver inviato il tuo curriculum a 20 aziende diverse. Ogni azienda aveva il proprio responsabile delle assunzioni, il proprio modo di leggere il tuo curriculum e il proprio gusto unico per ciò che rende un buon dipendente. Se un manager non ti piaceva, un altro potrebbe aver adorato il tuo profilo. Avevi molte porte diverse su cui bussare.
Oggi, tuttavia, molte aziende non assumono da sole. Assumono tutte lo stesso "guardiano".
Questo documento studia una specifica azienda di reclutamento chiamata pymetrics. Sviluppano un software che utilizza giochi per testare i candidati. Invece di leggere i curriculum, il software osserva come giochi e ti assegna un punteggio. Se il punteggio è alto, passi alla fase successiva con un essere umano. Se è basso, vieni rifiutato immediatamente.
Il problema? Oltre il 60% delle più grandi aziende negli Stati Uniti utilizza lo stesso identico guardiano.
Gli autori definiscono questo fenomeno "Monocoltura algoritmica". Pensala come un giardino in cui ogni agricoltore usa lo stesso identico tipo di seme e la stessa identica annaffiatoia. Se quel seme è inadatto a un certo tipo di terreno, il giardino di ogni agricoltore fallirà nello stesso modo. Nel reclutamento, se l'algoritmo ha un pregiudizio, rifiuta le stesse persone in ogni azienda a cui si candidano.
Lo studio: Cosa hanno scoperto
I ricercatori hanno ottenuto l'accesso a un enorme database segreto contenente 4 milioni di candidature da parte di 3,3 milioni di persone in 156 aziende diverse. Hanno analizzato cosa accadeva quando queste persone giocavano ai giochi.
Ecco le tre principali scoperte:
1. La "sfortuna" della razza (Impatto avverso)
I ricercatori hanno verificato se i giochi trattavano equamente diversi gruppi razziali. Hanno esaminato i risultati per ogni singola posizione lavorativa separatamente, non solo la media.
- La scoperta: Hanno rilevato che per i candidati neri, circa il 26% delle candidature inviate era rivolto a lavori in cui l'algoritmo aveva statisticamente un'alta probabilità di rifiutarli ingiustamente. Per i candidati asiatici, la cifra era circa il 15%.
- L'analogia: Immagina un canestro da basket leggermente inclinato. Se sei alto, potresti comunque segnare. Ma se hai una specifica altezza, l'inclinazione rende impossibile segnare. I ricercatori hanno scoperto che per certi gruppi razziali, l'"inclinazione" nell'algoritmo rendeva molto più difficile ottenere un punteggio di "superamento", anche se il gioco stesso non chiedeva informazioni sulla razza.
2. Il "rifiuto sistemico" (Essere messi alla porta ovunque)
Questa è la parte più sorprendente. Gli autori si sono chiesti: Cosa succede se una persona si candida per molti lavori diversi?
In un mondo normale, se ti candidi per 10 lavori, potresti essere rifiutato da 8 e accettato da 2. Hai una possibilità. Ma poiché così tante aziende utilizzano lo stesso algoritmo, i risultati sono identici.
- La scoperta: Se un candidato si candida per 10 posizioni diverse, il 4% di loro viene rifiutato da tutte e 10.
- L'analogia: Immagina di essere un musicista che cerca un ingaggio. Suoni per 10 band diverse.
- Mondo normale: La Band A odia il tuo stile, ma la Band B lo ama. Trovi lavoro.
- Mondo monocolturale: Tutte e 10 le band usano lo stesso "Giudice Musicale" robot. Il robot decide che non sei adatto. Vieni rifiutato da tutte e 10 le band istantaneamente. Sei "rifiutato sistematicamente". Non sei solo sfortunato; il sistema ha chiuso tutte le porte per te contemporaneamente.
I ricercatori hanno scoperto che questo rifiuto "tutto o nulla" accade molto più spesso di quanto accadrebbe se ogni azienda stesse prendendo la propria decisione indipendente.
3. La simulazione del "Super-candidato"
I ricercatori volevano sapere: I candidati possono risolvere il problema candidandosi per più lavori?
Hanno utilizzato la capacità del computer di eseguire scenari "cosa succederebbe se". Hanno simulato cosa sarebbe accaduto se un candidato si fosse candidato per ogni singolo lavoro disponibile nel database.
- La scoperta: Anche in questa simulazione estrema, nessuno è stato rifiutato da ogni singolo modello. Ognuno aveva almeno un lavoro per cui sarebbe stato raccomandato.
- Il controllo della realtà: Tuttavia, nel mondo reale, le persone non possono candidarsi per ogni lavoro. Devono essere selettive. La simulazione ha mostrato che per avere una probabilità del 99,9% di ottenere almeno una raccomandazione, una persona dovrebbe candidarsi per 25 posizioni diverse.
- L'analogia: Per trovare un singolo "sì" in questo sistema, devi bussare a 25 porte. In un sistema normale, potresti aver bisogno di bussare solo a 10. La monocoltura algoritmica costringe i cercatori di lavoro a lavorare molto di più solo per ottenere una singola possibilità.
Perché questo è importante
Il documento sostiene che quando molte aziende si affidano alle stesse poche fornitori per il reclutamento, creano un "collo di bottiglia".
- Nasconde i pregiudizi: Se guardi la media di tutte le aziende, i numeri potrebbero sembrare accettabili. Ma quando guardi lavori specifici, il pregiudizio è evidente.
- Crea "vicoli ciechi": Non è solo che potresti non ottenere un lavoro; è che potresti essere escluso dall'intero mercato del lavoro perché lo stesso algoritmo ti ha rifiutato ovunque tu abbia guardato.
- È difficile da risolvere: Poiché i dati sono nascosti all'interno di queste aziende private, è molto difficile per ricercatori o regolatori vedere questo fenomeno accadere fino a quando non è troppo tardi.
Le raccomandazioni degli autori
Il documento suggerisce alcuni modi per risolvere il problema:
- Controllare ogni lavoro, non solo la media: I regolatori dovrebbero esaminare come l'algoritmo tratta le persone per ogni specifico lavoro, non solo il numero totale di assunzioni in un'intera azienda.
- Sorvegliare la "Monocoltura": Gli enti dovrebbero monitorare quante aziende stanno utilizzando lo stesso fornitore. Se troppe si affidano allo stesso strumento, si crea un rischio per l'intera economia.
- Far entrare i ricercatori: L'unico modo per sapere se questi sistemi sono equi è permettere a scienziati indipendenti di esaminare i dati. Gli autori suggeriscono che le leggi dovrebbero costringere queste aziende a condividere i dati con i ricercatori, in modo simile a come le piattaforme di social media sono ora tenute a condividere dati con gli scienziati.
Sintesi
Questo documento rivela che, utilizzando tutti lo stesso "robot per le assunzioni", le aziende hanno accidentalmente creato un sistema in cui le stesse persone vengono rifiutate ovunque si candidino. È come avere un singolo buttafuori pregiudizievole in ogni club della città; se vieni respinto da lui, non puoi entrare in nessun club, non importa quanti ne provi.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.