AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights

Resumen Técnico: Autopreferencia de la IA en la Contratación Algorítmica

Definición del Problema
A medida que los Modelos de Lenguaje de Gran Escala (LLM) se vuelven ubicuos tanto en la generación como en la evaluación de contenidos, ha surgido una nueva forma de sesgo algorítmico: la autopreferencia de la IA. Si bien investigaciones previas en ciencias de la computación han identificado que los LLM tienden a favorecer el contenido que ellos mismos generaron sobre el escrito por humanos o las salidas de otros modelos, las implicaciones operativas en el mundo real de este sesgo permanecen sin cuantificar. Este artículo investiga este fenómeno en el contexto de la contratación algorítmica, un dominio de alto riesgo donde los empleadores utilizan cada vez más LLM para filtrar currículos que los solicitantes también pueden haber redactado o refinado utilizando herramientas de IA similares. El problema central es si los evaluadores de LLM favorecen sistemáticamente los currículos generados por su propia arquitectura, distorsionando potencialmente los resultados de contratación independientemente de las cualificaciones de los candidatos.

Metodología
Los autores emplean un experimento de correspondencia de currículos controlado y a gran escala para medir empíricamente el sesgo de autopreferencia.

• Conjunto de datos: El estudio utiliza un conjunto de 2,245 currículos anonimizados, escritos por humanos, extraídos de una plataforma profesional (LiveCareer.com) antes de la adopción generalizada de la IA generativa.
• Diseño Experimental: Para cada currículo escrito por un humano, los autores generan versiones contrafácticas utilizando un conjunto diverso de LLM de vanguardia (incluyendo GPT-4o, GPT-4-turbo, LLaMA 3.3-70B, Mistral-7B, Qwen 2.5-72B y DeepSeek-V3). Crucialmente, solo se regenera la sección del resumen ejecutivo; todo el resto del contenido fáctico (experiencia, educación, habilidades) permanece idéntico para aislar el efecto del origen del texto.
• Protocolo de Evaluación: Los LLM actúan como evaluadores en una tarea de comparación por pares. Se les presenta dos resúmenes ejecutivos que describen al mismo candidato: uno generado por el propio evaluador y otro generado por un humano o un LLM alternativo. El evaluador debe seleccionar el currículo "más fuerte".
• Medición del Sesgo: El estudio cuantifica el sesgo utilizando dos métricas de equidad adaptadas de la literatura de equidad algorítmica:
  1. Paridad Estadística: La diferencia en las tasas de selección entre currículos autogenerados y no autogenerados.
  2. Igualdad de Oportunidades: La diferencia en las tasas de selección condicionada a la calidad del contenido. Esto se mide mediante regresión logística condicional (controlando las características lingüísticas) y anotación humana (donde los anotadores identifican el resumen objetivamente de mayor calidad).
• Simulación: Para evaluar el impacto en el mercado laboral, los autores simulan procesos de contratación en 24 ocupaciones, modelando un escenario donde un grupo de candidatos (la mitad con currículos escritos por humanos y la mitad generados por IA) compite por un número fijo de puestos de entrevista.
• Pruebas de Mitigación: El estudio evalúa dos estrategias de intervención: Prompting de Sistema (instruir a los modelos para que ignoren el origen de la fuente) y Ensamble de Votación por Mayoría (combinar el evaluador objetivo con modelos más pequeños que exhiben menor autorreconocimiento).

Resultados Clave

• Sesgo LLM-vs-Humano: Existe evidencia sólida y consistente de que los LLM prefieren sus propios resultados. En la mayoría de los modelos, el sesgo de autopreferencia oscila entre el 67% y el 82% tras controlar la calidad del contenido. Los modelos más grandes (por ejemplo, GPT-4o, DeepSeek-V3) exhiben el sesgo más fuerte, mostrando GPT-4o una preferencia del 81.9% por sus propios resúmenes sobre los escritos por humanos, incluso cuando la versión humana es juzgada como superior por anotadores humanos.
• Sesgo LLM-vs-LLM: La autopreferencia es más heterogénea cuando se comparan diferentes LLM. DeepSeek-V3 muestra el sesgo más fuerte en este entorno (prefiere su propio resultado en un 69% sobre LLaMA 3.3-70B), mientras que GPT-4o y LLaMA 3.3-70B no muestran preferencias consistentes contra otros modelos.
• Impacto Operativo: En las simulaciones de procesos de contratación, los candidatos que utilizan el mismo LLM que el evaluador tienen un 23% a 60% más de probabilidades de ser preseleccionados que los solicitantes igualmente cualificados que presentan currículos escritos por humanos. Esta desventaja es más severa en campos relacionados con los negocios (ventas, contabilidad, finanzas) y menos pronunciada en sectores como la agricultura y las artes.
• Eficacia de la Mitigación: Ambas intervenciones propuestas reducen significamente el sesgo.
  • El Prompting de Sistema redujo la autopreferencia entre un 17% y un 62% (disminución relativa).
  • El Ensamble de Votación por Mayoría resultó altamente efectivo, reduciendo el sesgo entre un 50% y un 71% en todos los modelos probados. Por ejemplo, el sesgo de GPT-4o cayó del 82% al 30% utilizando la votación por mayoría.

Significancia y Reivindicaciones
El artículo afirma proporcionar la primera evidencia empírica de que la autopreferencia de la IA puede distorsionar las evaluaciones de candidatos en la contratación algorítmica. Sus principales contribuciones son:

1. Identificación de un Nuevo Mecanismo de Sesgo: Establece que la autopreferencia es un sesgo de interacción que surge endógenamente de las interacciones IA-IA, distinto de los sesgos demográficos tradicionales (por ejemplo, raza, género). Esto desafía los marcos de equidad existentes que se centran únicamente en atributos protegidos.
2. Cuantificación del Riesgo Operativo: El estudio demuestra que este sesgo no es simplemente un artefacto teórico, sino que tiene consecuencias tangibles, creando un efecto de "bloqueo" (lock-in) donde los solicitantes que utilizan herramientas de IA específicas obtienen ventajas injustificadas, lo que potencialmente reduce la diversidad y amplifica las inequidades en la contratación.
3. Mitigación Práctica: Los autores muestran que este sesgo no es inmutable. Las intervenciones de diseño simples y de bajo costo (ingeniería de prompts y métodos de ensamble) pueden mitigar sustancialmente la distorsión sin requerir el reentrenamiento del modelo o la modificación de sus pesos.
4. Implicaciones de Política: Los hallazgos exigen la expansión de los marcos de equidad de la IA en las operaciones comerciales para dar cuenta de los sesgos que surgen de sistemas de IA que evalúan contenidos que ellos mismos podrían haber producido. Los autores sugieren que los reguladores y las organizaciones deben considerar la transparencia respecto al uso de la IA en la selección e incorporar métricas de autopreferencia en las auditorías de terceros.

El artículo concluye que, si bien la toma de decisiones asistida por IA ofrece eficiencia, el doble rol de los LLM como generadores y evaluadores introduce un riesgo estructural que requiere salvaguardas técnicas y de gobernanza específicas para garantizar resultados equitativos.