Algorithmic Monocultures in Hiring
Cette étude analyse un nouvel ensemble de données comprenant 4 millions de candidatures à des emplois examinées par un seul fournisseur d'algorithmes et révèle que de telles monocultures algorithmiques produisent des résultats de rejet homogènes qui affectent de manière disproportionnée et défavorable les candidats noirs et asiatiques, nécessitant souvent des stratégies de candidature étendues pour obtenir un examen humain.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
L'idée principale : Le « gardien » unique pour tous
Imaginez que vous cherchez un emploi. Autrefois, vous envoyiez peut-être votre CV à 20 entreprises différentes. Chaque entreprise avait son propre responsable du recrutement, sa propre façon de lire votre CV et ses propres goûts uniques en matière de ce qui fait un bon employé. Si un responsable ne vous aimait pas, un autre aurait pu vous adorer. Vous aviez de nombreuses portes différentes à frapper.
Aujourd'hui, cependant, de nombreuses entreprises ne recrutent plus seules. Elles utilisent toutes le même « gardien ».
Ce document étudie une entreprise de recrutement spécifique appelée pymetrics. Elle développe un logiciel qui utilise des jeux pour tester les candidats. Au lieu de lire les CV, le logiciel observe comment vous jouez à ces jeux et vous attribue un score. Si le score est élevé, vous passez à l'étape suivante avec un humain. S'il est faible, vous êtes rejeté immédiatement.
Le problème ? Plus de 60 % des plus grandes entreprises des États-Unis utilisent exactement le même gardien.
Les auteurs appellent cela une « monoculture algorithmique ». Imaginez un jardin où chaque agriculteur utilise exactement le même type de semence et exactement le même arrosoir. Si cette semence est mauvaise pour un certain type de sol, le jardin de chaque agriculteur échouera de la même manière. Dans le recrutement, si l'algorithme présente un biais, il rejette les mêmes personnes dans chaque entreprise où elles postulent.
L'étude : Ce qu'ils ont découvert
Les chercheurs ont obtenu accès à une base de données massive et secrète contenant 4 millions de candidatures de 3,3 millions de personnes auprès de 156 entreprises différentes. Ils ont examiné ce qui se passait lorsque ces personnes jouaient aux jeux.
Voici les trois principales découvertes :
1. La « malchance » de la race (Impact défavorable)
Les chercheurs ont vérifié si les jeux traitaient équitablement les différents groupes raciaux. Ils ont examiné les résultats pour chaque poste spécifique, et non pas seulement la moyenne.
- La découverte : Ils ont constaté que pour les candidats noirs, environ 26 % des candidatures qu'ils ont envoyées concernaient des postes où l'algorithme était statistiquement susceptible de les rejeter de manière injuste. Pour les candidats asiatiques, ce chiffre était d'environ 15 %.
- L'analogie : Imaginez un panier de basket légèrement incliné. Si vous êtes grand, vous pourriez quand même marquer. Mais si vous avez une taille spécifique, l'inclinaison rend le score impossible. Les chercheurs ont constaté que pour certains groupes raciaux, l'« inclinaison » de l'algorithme rendait beaucoup plus difficile l'obtention d'un score de « validation », même si le jeu lui-même ne posait pas de questions sur la race.
2. Le « rejet systémique » (Être blacklisté partout)
C'est la partie la plus surprenante. Les auteurs se sont demandé : Que se passe-t-il si une personne postule à de nombreux emplois différents ?
Dans un monde normal, si vous postulez à 10 emplois, vous pourriez être rejeté par 8 et accepté par 2. Vous avez une chance. Mais comme tant d'entreprises utilisent le même algorithme, les résultats sont identiques.
- La découverte : Si un candidat postule à 10 postes différents, 4 % d'entre eux sont rejetés par les 10.
- L'analogie : Imaginez que vous êtes musicien essayant de trouver un engagement. Vous jouez pour 10 groupes différents.
- Monde normal : Le groupe A déteste votre style, mais le groupe B l'adore. Vous obtenez un emploi.
- Monde de la monoculture : Les 10 groupes utilisent le même robot « Juge Musical ». Le robot décide que vous ne convenez pas. Vous êtes rejeté par les 10 groupes instantanément. Vous êtes « systématiquement rejeté ». Vous n'êtes pas simplement malchanceux ; le système a fermé toutes les portes pour vous en même temps.
Les chercheurs ont constaté que ce rejet « tout ou rien » se produit beaucoup plus souvent que ce qui se passerait si chaque entreprise prenait sa propre décision indépendante.
3. La simulation du « super-candidat »
Les chercheurs voulaient savoir : Les candidats peuvent-ils corriger cela en postulant à plus d'emplois ?
Ils ont utilisé la capacité de l'ordinateur à exécuter des scénarios « et si ». Ils ont simulé ce qui se passerait si un candidat postulait à chaque emploi disponible dans la base de données.
- La découverte : Même dans cette simulation extrême, personne n'a été rejeté par chaque modèle. Tout le monde avait au moins un emploi pour lequel il aurait été recommandé.
- La réalité : Cependant, dans le monde réel, les gens ne peuvent pas postuler à tous les emplois. Ils doivent être sélectifs. La simulation a montré que pour avoir 99,9 % de chances d'obtenir au moins une recommandation, une personne devrait postuler à 25 postes différents.
- L'analogie : Pour trouver un seul « oui » dans ce système, vous devez frapper à 25 portes. Dans un système normal, vous n'auriez peut-être besoin de frapper qu'à 10. La monoculture algorithmique force les chercheurs d'emploi à travailler beaucoup plus dur juste pour obtenir une seule chance.
Pourquoi cela compte
Le document soutient que lorsque de nombreuses entreprises s'appuient sur les mêmes fournisseurs pour le recrutement, elles créent un goulot d'étranglement.
- Cela cache les biais : Si vous regardez la moyenne de toutes les entreprises, les chiffres peuvent sembler corrects. Mais lorsque vous examinez des emplois spécifiques, le biais est clair.
- Cela crée des « impasses » : Ce n'est pas seulement que vous pourriez ne pas obtenir un emploi ; c'est que vous pourriez être exclu de l'ensemble du marché du travail parce que le même algorithme vous a rejeté partout où vous avez regardé.
- C'est difficile à corriger : Comme les données sont cachées à l'intérieur de ces entreprises privées, il est très difficile pour les chercheurs ou les régulateurs de voir cela se produire jusqu'à ce qu'il soit trop tard.
Les recommandations des auteurs
Le document suggère quelques moyens de corriger cela :
- Vérifier chaque emploi, pas seulement la moyenne : Les régulateurs devraient examiner comment l'algorithme traite les personnes pour chaque emploi spécifique, et non pas seulement le nombre total d'embauches dans une entreprise entière.
- Surveiller la « monoculture » : Les agences devraient surveiller le nombre d'entreprises utilisant le même fournisseur. Si trop d'entreprises s'appuient sur le même outil, cela crée un risque pour l'ensemble de l'économie.
- Laisser entrer les chercheurs : La seule façon de savoir si ces systèmes sont équitables est de permettre à des scientifiques indépendants d'examiner les données. Les auteurs suggèrent que des lois devraient obliger ces entreprises à partager les données avec les chercheurs, de la même manière que les plateformes de médias sociaux sont désormais tenues de partager des données avec les scientifiques.
Résumé
Ce document révèle que, en utilisant tous le même « robot de recrutement », les entreprises ont accidentellement créé un système où les mêmes personnes sont rejetées partout où elles postulent. C'est comme avoir un seul videur biaisé dans chaque club de la ville ; si vous êtes rejeté par lui, vous ne pouvez entrer dans aucun club, peu importe combien vous essayez.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.