Resumen Técnico: Medición de Sesgos de Estereotipo y Desviación en Modelos de Lenguaje Grandes

Declaración del Problema

Los Modelos de Lenguaje Grandes (LLM) se despliegan cada vez más en dominios críticos como la atención médica, el derecho y las finanzas, sin embargo, heredan y potencialmente amplifican los sesgos sociales presentes en sus datos de entrenamiento. La literatura existente sobre la evaluación de sesgos suele depender de un único principio de evaluación: ya sea comparar las salidas del modelo contra una referencia "ideal" definida por humanos (normativa) o contra datos reales observados (descriptiva). Esta dicotomía crea una brecha; confiar únicamente en referencias ideales puede pasar por alto distribuciones realistas, mientras que confiar únicamente en datos reales puede reforzar las inequidades sociales existentes. Además, la mayoría de los estudios se centran en identificadores demográficos explícitos, pasando por alto potencialmente los sesgos desencadenados por señales implícitas (por ejemplo, nombres) que eluden los mecanismos de alineación explícitos. Este estudio aborda la necesidad de un marco holístico que evalúe tanto el sesgo de estereotipo (asociaciones sistemáticas y consistentes entre grupos demográficos y atributos) como el sesgo de desviación (disparidades entre las distribuciones generadas por el LLM y las estadísticas demográficas del mundo real) a través de múltiples dimensiones sociales.

Metodología

Los autores realizaron un estudio exploratorio que involucró a cuatro LLM avanzados: Claude-3.5-Sonnet, GPT-4o-mini, Command-r-plus y Llama-3.1-70b.

Diseño Experimental

1. Estrategia de Prompts: El estudio utilizó tanto prompts explícitos (por ejemplo, "Escribe una descripción de un hombre hispano") como prompts implícitos (por ejemplo, "Escribe una descripción de Juan", donde el nombre implica etnia/género). Este diseño permite comparar la manifestación del sesgo cuando los atributos demográficos se declaran directamente frente a cuando se infieren.
2. Atributos de Entrada: Las demografías variaron en tres dimensiones:
   • Género: Masculino, Femenino.
   • Etnia/Raza: Blanco, Negro, Hispano, Asiático y Neutral.
   • Edad: Baby Boomer, Generación X, Millennial, Generación Z, Generación Alpha.
   • Nota: Los nombres se seleccionaron basándose en una alta correlación con demografías específicas (por ejemplo, los 100 nombres de bebés más populares de EE. UU. para el género; nombres específicos de etnia derivados del Índice de Neutralidad Étnica de SiSense) para minimizar el ruido.
3. Atributos de Salida: Se pidió a los modelos que generaran perfiles de 200 palabras que incluyeran atributos para:
   • Afiliación Política (Conservador, Liberal, Neutral)
   • Religión (Cristiano, Budista, Hindú, Judío, Musulmán, No afiliado)
   • Orientación Sexual (Heterosexual, Homosexual, Bisexual, Otro)
   • Estatus Socioeconómico (Alto, Medio, Bajo)
   • Ocupación
4. Generación de Datos: Para prompts implícitos, se generaron 500 textos por grupo de género y 50 por grupo de etnia/edad. Para prompts explícitos, se generaron 50 textos por grupo demográfico. Todas las generaciones utilizaron una temperatura de 0.7.
5. Métricas de Evaluación:
   • Sesgo de Estereotipo: Medido utilizando la media de las divergencias de Jensen-Shannon (JS) máximas entre grupos demográficos (género, etnia, edad) para un atributo de salida dado. Valores más altos indican una mayor disparidad en cómo el modelo trata a diferentes grupos.
   • Sesgo de Desviación: Calculado como la proporción de atributos de salida donde la distribución generada por el LLM se desvía significativamente de las estadísticas de la población real de EE. UU. (utilizando pruebas binomiales con $p < 0.05$). Los datos del mundo real se obtuvieron del Centro de Investigación Pew, Gallup y otros estudios demográficos de prestigio.
   • Polaridad: Se realizó un análisis de sentimiento para medir la valencia (positiva/negativa) de los textos generados.

Contribuciones Clave

1. Evaluación de Marco Dual: El artículo introduce un marco de evaluación integral que evalúa simultáneamente el sesgo de estereotipo (consistencia interna entre grupos) y el sesgo de desviación (alineación con la realidad), abordando las limitaciones de estudios anteriores que utilizan solo un tipo de referencia.
2. Análisis de Sesgo Implícito vs. Explícito: Al comparar sistemáticamente prompts implícitos (basados en nombres) y explícitos (basados en atributos), el estudio revela que los patrones de sesgo permanecen en gran medida consistentes independientemente del tipo de prompt, aunque los prompts explícitos a veces desencadenan tasas de rechazo más altas o desviaciones más extremas.
3. Alcance Multidimensional: A diferencia de muchas obras anteriores centradas en atributos individuales (por ejemplo, solo género o solo toxicidad), este estudio evalúa el sesgo a través de cinco dimensiones sociales distintas: política, religión, orientación sexual, estatus socioeconómico y ocupación.
4. Métricas Cuantitativas de Sesgo: Los autores proporcionan métricas estandarizadas (Puntuación de Sesgo de Estereotipo y Puntuación de Sesgo de Desviación) para cuatro LLM principales, ofreciendo una línea base para futuros análisis comparativos.

Resultados Clave

Afiliación Política

• Sobrerepresentación Liberal: Los cuatro modelos clasificaron abrumadoramente a los individuos como "Liberales" (a menudo >90% o 100%), desviándose significativamente de las distribuciones reales.
• Subrepresentación de la Neutralidad: Las afiliaciones políticas "Neutrales" se subestimaron drásticamente (a menudo <10%).
• Excepción de Edad: Los modelos (excepto GPT-4o-mini) tendieron a asociar a los Baby Boomers con puntos de vista "Conservadores", reflejando un estereotipo específico.
• Consistencia del Sesgo: Los patrones de sesgo fueron consistentes entre prompts implícitos y explícitos.

Religión

• Dominio Cristiano/No Afiliado: Los modelos asignaron predominantemente las etiquetas "Cristiano" o "No afiliado".
• Subrepresentación de Minorías: Las religiones no cristianas (Hindú, Judío, Musulmán) estuvieron severamente subrepresentadas o se les asignaron probabilidades cercanas a cero, a pesar de su prevalencia en el mundo real.
• Correlaciones Demográficas: Los modelos exhibieron fuertes estereotipos, como asociar a los individuos blancos con el judaísmo y a los individuos negros con el islam, lo que a menudo divergía de las distribuciones demográficas reales.

Orientación Sexual

• Sobrerepresentación LGBTQ: Todos los modelos sobrerepresentaron significativamente a las minorías sexuales (Homosexual, Bisexual) en comparación con las estadísticas reales (donde ~7.6% se identifica como LGBTQ).
• Estereotipos de Género: Los modelos asociaron frecuentemente a las mujeres con "Bisexualidad" y a los hombres con "Homosexualidad".
• Desviación: Las puntuaciones de sesgo de desviación fueron extremadamente altas (cercanas a 1.0) para la orientación sexual en todos los modelos, lo que indica un fallo sistemático para alinearse con las distribuciones del mundo real.

Estatus Socioeconómico (SES)

• Estereotipos de Clase: Los modelos tendieron a emitir estatus de "Clase media" y "Clase baja".
• Disparidades Raciales: Los individuos negros se asociaron desproporcionadamente con el estatus de "Clase baja", mientras que los individuos asiáticos a menudo se asociaron con el estatus de "Clase alta", reflejando estereotipos sociales específicos.
• Tasas de Rechazo: Claude-3.5-Sonnet exhibió altas tasas de rechazo para prompts que involucraban a hombres blancos y negros, y mujeres asiáticas, complicando la comparación directa para estos grupos.

Ocupación

• Asignaciones Estereotipadas: "Profesor" fue la ocupación más común asignada a los Baby Boomers en todos los modelos.
• Género y Etnia: Los modelos asignaron "Ingeniero" a los hombres (especialmente en Claude-3.5-Sonnet) y "Trabajador Social" o "Profesor" a las mujeres. Surgieron estereotipos étnicos específicos, como "Organizador Comunitario" para individuos negros e hispanos.

Polaridad (Sentimiento)

• Explícito vs. Implícito: Los textos generados a partir de prompts explícitos mostraron variaciones más grandes en las puntuaciones de sentimiento entre grupos demográficos en comparación con los prompts implícitos.
• Grupos Marginados: Los prompts explícitos a menudo resultaron en puntuaciones de polaridad más altas (sentimiento más positivo) para grupos históricamente marginados (Negros, Hispanos, Femeninos), mientras que los grupos Blanco, Asiático y Masculino recibieron puntuaciones más bajas, lo que sugiere una posible "sobrecompensación" o sesgo de alineación en escenarios explícitos.

Significado y Afirmaciones

Los autores afirman que sus hallazgos destacan los riesgos significativos de los LLM en aplicaciones del mundo real donde los atributos del usuario se infieren o se declaran explícitamente.

• Para Usuarios: El estudio subraya la necesidad de un compromiso crítico con las salidas del modelo, particularmente en el análisis sociopolítico, ya que los modelos pueden presentar distribuciones sesgadas como hechos objetivos.
• Para Desarrolladores: La sobrerepresentación consistente de ciertos atributos (por ejemplo, política liberal, identidades LGBTQ, religión cristiana) sugiere que los procesos actuales de RLHF (Aprendizaje por Refuerzo a partir de Retroalimentación Humana) pueden codificar inadvertidamente sesgos sociales específicos o preferencias de "alineación" que divergen de la realidad.
• Para Organizaciones: Los resultados indican que desplegar LLM sin comprender estos sesgos puede conducir a una toma de decisiones sesgada o al refuerzo de estereotipos dañinos.

El artículo concluye que, aunque los LLM son herramientas poderosas, su comportamiento actual en la inferencia de atributos demográficos revela profundos sesgos de estereotipo y desviación. Los autores abogan por un diseño cuidadoso de prompts, selección de modelos e investigación adicional para equilibrar la inclusividad con una representación precisa de las distribuciones del mundo real. Notan modestamente que estos sesgos pueden evolucionar con las actualizaciones del modelo y que el trabajo futuro debería explorar diversos grupos étnicos y distribuciones de referencia alternativas más allá de los datos centrados en EE. UU.