Algorithmic Monocultures in Hiring
Este artículo analiza un nuevo conjunto de datos de 4 millones de solicitudes de empleo filtradas por un único proveedor de algoritmos y descubre que dichas monoculturas algorítmicas generan resultados de rechazo homogéneos que afectan de manera desproporcionada y adversa a los solicitantes negros y asiáticos, lo que a menudo obliga a adoptar estrategias de envío masivo de solicitudes para garantizar una revisión humana.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
La Gran Idea: El "Guardián de Talla Única"
Imagina que estás buscando trabajo. En el pasado, quizás habrías enviado tu currículum a 20 empresas diferentes. Cada empresa tenía su propio gerente de contratación, su propia forma de leer tu currículum y su propio gusto único sobre lo que hace a un buen empleado. Si a un gerente no le gustabas, a otro podría haberte encantado. Tenías muchas puertas diferentes por las que llamar.
Hoy, sin embargo, muchas empresas no contratan solas. Todas contratan al mismo "guardián".
Este artículo estudia una empresa de contratación específica llamada pymetrics. Desarrollan un software que utiliza juegos para evaluar a los solicitantes de empleo. En lugar de leer currículums, el software observa cómo juegas estos juegos y te asigna una puntuación. Si la puntuación es alta, pasas a una evaluación humana. Si es baja, eres rechazado inmediatamente.
¿El problema? Más del 60% de las empresas más grandes de EE. UU. utilizan exactamente al mismo guardián.
Los autores llaman a esto una "Monocultura Algorítmica". Piensa en un jardín donde cada agricultor utiliza exactamente el mismo tipo de semilla y exactamente la misma regadera. Si esa semilla es mala para un cierto tipo de suelo, el jardín de cada agricultor fallará de la misma manera. En la contratación, si el algoritmo tiene un sesgo, rechaza a las mismas personas en cada empresa a la que se postulan.
El Estudio: Lo que Descubrieron
Los investigadores obtuvieron acceso a una base de datos masiva y secreta que contenía 4 millones de solicitudes de empleo de 3,3 millones de personas en 156 empresas diferentes. Examinaron lo que sucedía cuando estas personas jugaban los juegos.
Estos son los tres hallazgos principales:
1. La "Mala Suerte" de la Raza (Impacto Adverso)
Los investigadores verificaron si los juegos trataban de manera justa a diferentes grupos raciales. Examinaron los resultados para cada puesto de trabajo individualmente, no solo el promedio.
- El Hallazgo: Descubrieron que para los solicitantes negros, aproximadamente el 26% de las solicitudes que enviaron fueron a trabajos donde el algoritmo tenía una probabilidad estadística de rechazarlos injustamente. Para los solicitantes asiáticos, fue aproximadamente el 15%.
- La Analogía: Imagina una canasta de baloncesto ligeramente inclinada. Si eres alto, quizás aún logres encestar. Pero si tienes una estatura específica, la inclinación hace imposible anotar. Los investigadores descubrieron que para ciertos grupos raciales, la "inclinación" en el algoritmo hacía mucho más difícil obtener una puntuación de "aprobado", aunque el juego en sí no preguntara por la raza.
2. El "Rechazo Sistémico" (Ser Vetado en Todas Partes)
Esta es la parte más sorprendente. Los autores preguntaron: ¿Qué sucede si una persona solicita muchos trabajos diferentes?
En un mundo normal, si aplicas a 10 trabajos, podrías ser rechazado por 8 y aceptado por 2. Tienes una oportunidad. Pero como tantas empresas utilizan el mismo algoritmo, los resultados son idénticos.
- El Hallazgo: Si un solicitante aplica a 10 posiciones diferentes, el 4% de ellos es rechazado por las 10.
- La Analogía: Imagina que eres un músico tratando de conseguir un trabajo. Tocas para 10 bandas diferentes.
- Mundo Normal: La Banda A odia tu estilo, pero a la Banda B le encanta. Consigues un trabajo.
- Mundo de Monocultura: Las 10 bandas utilizan el mismo robot "Juez Musical". El robot decide que no encajas. Eres rechazado por las 10 bandas instantáneamente. Estás "sistémicamente rechazado". No es solo mala suerte; el sistema ha cerrado todas las puertas para ti al mismo tiempo.
Los investigadores descubrieron que este rechazo "todo o nada" ocurre mucho más a menudo de lo que sucedería si cada empresa tomara su propia decisión independiente.
3. La Simulación del "Super-Solicitante"
Los investigadores querían saber: ¿Pueden los solicitantes arreglar esto aplicando a más trabajos?
Utilizaron la capacidad de la computadora para ejecutar escenarios de "qué pasaría si". Simularon qué sucedería si un solicitante aplicara a cada trabajo individual disponible en la base de datos.
- El Hallazgo: Incluso en esta simulación extrema, nadie fue rechazado por cada modelo individual. Todos tenían al menos un trabajo donde habrían sido recomendados.
- La Realidad: Sin embargo, en el mundo real, la gente no puede aplicar a todos los trabajos. Tienen que ser selectivos. La simulación mostró que para tener un 99,9% de probabilidad de obtener al menos una recomendación, una persona tendría que aplicar a 25 posiciones diferentes.
- La Analogía: Para encontrar un único "sí" en este sistema, tienes que llamar a 25 puertas. En un sistema normal, quizás solo necesites llamar a 10. La monocultura algorítmica obliga a los buscadores de empleo a trabajar mucho más solo para obtener una sola oportunidad.
Por Qué Esto Importa
El artículo argumenta que cuando muchas empresas dependen de los mismos pocos proveedores para la contratación, crean un cuello de botella.
- Oculta el sesgo: Si miras el promedio de todas las empresas, los números podrían parecer aceptables. Pero cuando miras trabajos específicos, el sesgo es claro.
- Crea "callejones sin salida": No es solo que podrías no conseguir un trabajo; es que podrías quedar bloqueado de todo el mercado laboral porque el mismo algoritmo te rechazó en todas partes donde miraste.
- Es difícil de arreglar: Como los datos están ocultos dentro de estas empresas privadas, es muy difícil que investigadores o reguladores vean esto sucediendo hasta que es demasiado tarde.
Las Recomendaciones de los Autores
El artículo sugiere algunas formas de solucionar esto:
- Verifica cada trabajo, no solo el promedio: Los reguladores deberían examinar cómo el algoritmo trata a las personas para cada trabajo específico, no solo el número total de contrataciones en toda una empresa.
- Vigila la "Monocultura": Las agencias deberían monitorear cuántas empresas utilizan al mismo proveedor. Si demasiadas dependen de la misma herramienta, crea un riesgo para toda la economía.
- Deja entrar a los investigadores: La única forma de saber si estos sistemas son justos es permitir que científicos independientes examinen los datos. Los autores sugieren que las leyes deberían obligar a estas empresas a compartir datos con investigadores, de manera similar a como ahora se requiere que las plataformas de redes sociales compartan datos con científicos.
Resumen
Este artículo revela que al utilizar todos el mismo "robot de contratación", las empresas han creado accidentalmente un sistema donde las mismas personas son rechazadas en todas partes a las que se postulan. Es como tener un único portero sesgado en cada club de la ciudad; si te hace entrar, no puedes entrar a ningún club, no importa cuántos intentes.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.