LLM Bias Evaluation: Gender, Racial, and Age Disparities in Occupational and Crime Scenarios

Resumen Técnico: Evaluación de Sesgos de Género, Raza y Edad en Modelos de Lenguaje de Gran Escala

Planteamiento del Problema
A pesar de los avances significativos en los Modelos de Lenguaje de Gran Escala (LLM), la adopción empresarial generalizada se ve obstaculizada por problemas persistentes de sesgo que comprometen la usabilidad, la fiabilidad y la equidad. El sesgo en los LLM no es meramente un artefacto técnico, sino una preocupación social capaz de reforzar estereotipos y propagar desinformación. Si bien los investigadores han desarrollado estrategias de mitigación —como capas de eliminación de sesgos, conjuntos de datos de referencia especializados (p. ej., Winogender, Winobias) y Aprendizaje por Refuerzo con Retroalimentación Humana (RLHF)—, el sesgo residual persiste. Este documento postula que los actuales LLM líderes, a pesar de emplear estas técnicas de mitigación, todavía exhiben desviaciones significativas de las distribuciones estadísticas del mundo real en escenarios ocupacionales y criminales. Además, los autores hipotetizan que los esfuerzos de mitigación pueden conducir inadvertidamente a un "sobreindexado" de subclases específicas, lo que podría exacerbar el sesgo en lugar de resolverlo.

Metodología
El estudio realiza un análisis comparativo de cuatro modelos de lenguaje de última generación lanzados en 2024: Gemini 1.5 Pro, Llama 3 70B, Claude 3 Opus y GPT-4o. La investigación se centra en dos categorías primarias de sesgo:

1. Sesgo de Género Ocupacional: Evaluación de la asociación de género en 20 profesiones distintas.
2. Sesgo Demográfico en Escenarios de Crimen: Evaluación de las asociaciones de género, raza y edad en seis tipos de delitos (robo, fraude, asesinato, abuso de drogas, DUI [conducir bajo la influencia], vandalismo).

Generación y Clasificación de Datos:
Los autores utilizaron APIs para generar un conjunto de datos robusto que comprende 10,400 historias (8,000 ocupacionales y 2,400 escenarios de crimen).

• Ocupacional: Los prompts solicitaron historias inspiradoras de 500 palabras para profesiones específicas.
• Crimen: Los prompts solicitaron historias de 500 palabras sobre individuos cometiendo delitos específicos, instruyendo explícitamente a los modelos a incluir detalles demográficos.
• Clasificación: Se emplearon los mismos cuatro LLM para clasificar las historias generadas. Las historias ocupacionales fueron clasificadas por género (binario: masculino/femenino). Las historias de crimen fueron clasificadas por género (masculino/femenino/no binario), grupos de edad (<18, 19-30, 30-50, >50) y raza (Negra, Blanca, Asiática).

Benchmarking (Evaluación Comparativa):
Las distribuciones generadas se contrastaron con datos autorizados del mundo real:

• Datos Ocupacionales: Oficina de Estadísticas Laborales de EE. UU. (BLS).
• Datos de Crimen: Informes de la Oficina Federal de Investigación (FBI) de EE. UU.
• Validación: Se realizó una revisión de control de calidad (QA) humana manual para verificar los resultados de la clasificación automatizada.

Resultados Clave
El estudio cuantificó el sesgo calculando la desviación estándar de las salidas de los modelos respecto a las estadísticas del mundo real.

• Sesgo de Género Ocupacional:

  • Los cuatro modelos mostraron un patrón consistente: se adhirieron en gran medida a los estereotipos de género tradicionales para roles dominados por mujeres (p. ej., enfermera, recepcionista) y por hombres (p. ej., bombero, trabajador de la construcción).
  • Sin embargo, ocurrieron desviaciones significativas en roles de alto estatus o técnicos. Para profesiones como Ingenieros de Software, Abogados y CEOs, los modelos generaron frecuentemente personajes femeninos a tasas significativamente superiores a los datos de la BLS, lo que sugiere un intento de corrección que resultó en una sobrecompensación.
  • La desviación promedio de los datos de la BLS en todos los modelos fue de aproximadamente el 37%.

• Sesgos en Escenarios de Crimen:

  • Género: Los modelos exhibieron comportamientos divergentes. GPT-4o reflejó de cerca las estadísticas masculinas del FBI en algunas áreas, pero sobrerepresentó a los hombres en otras. Gemini 1.5 Pro y Llama 3 70B subrepresentaron significativamente a los hombres en escenarios de crimen (p. ej., prediciendo un 96% de participación femenina en casos de DUI donde los datos del FBI muestran un 74% masculino). Claude 3 Opus presentó una distribución más equilibrada. La desviación de género promedio fue del 54%.
  • Raza: La mayoría de los modelos (Claude, GPT-4o, Llama) sobrerepresentaron a los individuos blancos en escenarios de crimen en comparación con los datos del FBI, mientras que subrepresentaron a los individuos negros. Gemini 1.5 Pro mostró notablemente una menor representación de individuos blancos. La desviación racial promedio fue del 28%.
  • Edad: Las desviaciones fueron generalmente menores que los sesgos de género y raza (promedio del 17%), aunque Llama 3 70B tendió a sobrerepresentar al grupo de edad de 31-50 años, y Gemini 1.5 Pro sobrerepresentó al grupo de 18-30 años.

• Resumen del Rendimiento de los Modelos (Desviación Estándar de los Datos del Mundo Real):

  • Llama 3 70B mostró la mayor desviación en el sesgo de Género en Crimen (71.87%).
  • Gemini 1.5 Pro mostró la mayor desviación en el sesgo de Raza en Crimen (45.31%).
  • Claude 3 Opus mostró la mayor desviación en el sesgo de Edad en Crimen (30.59%).
  • Todos los modelos mostraron niveles de desviación similares para el sesgo de Género Ocupacional (que oscilan entre el 33% y el 39%).

Significancia y Reivindicaciones
El documento afirma que, a pesar de la integración de técnicas avanzadas de mitigación de sesgos como RLHF y red teaming, los principales LLM continúan exhibiendo un sesgo sustancial. Un hallazgo crítico es que las estrategias de mitigación a menudo resultan en un sobreindexado de subclases específicas (p. ej., sobrerepresentar a mujeres en profesiones dominadas por hombres o a personas blancas en escenarios de crimen) en lugar de lograr la paridad estadística.

Los autores argumentan que estos hallazgos resaltan las limitaciones de los enfoques actuales de mitigación de sesgos. El estudio sugiere que la simple aplicación de capas de mitigación de sesgos o el ajuste fino (fine-tuning) en conjuntos de datos específicos es insuficiente y puede conducir a una mala generalización o a nuevas formas de sesgo. El documento concluye que existe una necesidad urgente de enfoques más efectivos y matizados para la mitigación del sesgo para asegurar la adopción responsable de la IA, particularmente a medida que los LLM se integran cada vez más en aplicaciones empresariales, procesos de contratación y sistemas de apoyo judicial. El marco propuesto sirve como una línea base para evaluar futuros modelos y otros tipos de sesgos (políticos, socioeconómicos) a través de la ingeniería de prompts de código abierto.