Do Large Language Models Reflect Demographic Pluralism in Safety?

Resumen Técnico: ¿Reflejan los Grandes Modelos de Lenguaje el Pluralismo Demográfico en la Seguridad?

1. El Problema: La Falta de Pluralismo en la Seguridad de los LLM

La investigación parte de la premisa de que la "seguridad" en los modelos de lenguaje no es un concepto monolítico ni universal; lo que se considera peligroso o apropiado varía significativamente según el contexto cultural, social y demográfico.

Los autores identifican una brecha crítica en la investigación actual: los conjuntos de datos de alineación existentes (como ANTHROPIC-HH o DICES) dependen de grupos de anotadores demográficamente limitados o centrados en valores occidentales. Esto provoca que los modelos se optimicen hacia un "mediano moral" que refuerza las normas de las culturas dominantes y margina las perspectivas de las minorías. Además, los métodos actuales de "LLM-as-a-Judge" (usar un modelo para evaluar a otro) heredan estos sesgos al evaluar respuestas, lo que dificulta aislar si la variación en la seguridad proviene del contenido o del sesgo del modelo evaluador.

2. Metodología: El Framework Demo-SafetyBench

Para resolver esto, los autores proponen Demo-SafetyBench, un marco de dos etapas que introduce el pluralismo demográfico directamente a nivel de prompt (instrucción), desacoplando el encuadre de los valores de la respuesta del modelo.

• Etapa I: Construcción de Datos (Data Construction):

  • Reclasificación: Utilizan el dataset DICES y emplean Mistral-7B-Instruct-v0.3 para reclasificar las consultas en 14 dominios de seguridad (basados en la taxonomía BEAVERTAILS), como abuso infantil, discurso de odio, terrorismo, etc.
  • Expansión de Dominios: Para los dominios con pocos datos, utilizan Llama-3.1-8B-Instruct para generar consultas sintéticas condicionadas tanto al dominio de seguridad como a metadatos demográficos (género, raza, edad, educación).
  • Deduplicación: Implementan el algoritmo SimHash con un umbral de distancia de Hamming ($\tau=10$) para asegurar la diversidad semántica y evitar la redundancia.
  • Resultado: Un corpus de 43,050 muestras con atributos demográficos explícitos.

• Etapa II: Evaluación (Benchmarking):

  • Utilizan un protocolo de LLM-as-Raters con tres modelos: Gemma-7B, GPT-4o y LLaMA-2-7B.
  • Los modelos actúan como jueces en un entorno zero-shot, asignando una etiqueta categórica (seguro/inseguro) y una puntuación de confianza numérica (0 a 1).
  • Métricas de Pluralismo: Se emplean cuatro métricas clave:
    1. Sensibilidad Demográfica (DS): Variación de los juicios entre subgrupos.
    2. Correlación entre Evaluadores ($\bar{\rho}$): Consistencia de razonamiento moral entre diferentes modelos.
    3. Brechas de Equidad (DPD y EOD): Disparidades en la paridad demográfica y la igualdad de oportunidades.

3. Contribuciones Clave

1. Demo-SafetyBench: Un nuevo benchmark que modela el pluralismo demográfico a nivel de prompt, permitiendo una evaluación de seguridad más robusta y menos sesgada por las respuestas del modelo.
2. Desacoplamiento de Valores: Al centrarse en el prompt, el framework permite medir cómo la identidad demográfica influye en la percepción de riesgo sin la confusión de los sesgos de estilo o rechazo de las respuestas.
3. Protocolo de Evaluación Escalable: Demuestra que la evaluación pluralista puede realizarse de forma automatizada y eficiente utilizando modelos de lenguaje.

4. Resultados Principales

• Desempeño de los Modelos:
  • GPT-4o demostró ser el evaluador más fiable y estable, con la mayor correlación intra-clase (ICC = 0.87) y la menor sensibilidad demográfica (DS = 0.119).
  • LLaMA-2-7B mostró la mayor sensibilidad demográfica y las mayores brechas de equidad, lo que indica que los modelos más pequeños y menos alineados amplifican las divergencias en los juicios de seguridad.
• Sesgo Demográfico Persistente: Incluso modelos avanzados como GPT-4o muestran una sensibilidad demográfica residual. Se observó que ciertos grupos (ej. hombres, personas blancas, mayores de 40 años) tienden a recibir puntuaciones de riesgo más altas, lo que sugiere que la percepción de seguridad sigue estando condicionada socialmente.
• Eficiencia Computacional: Los modelos más pequeños (Gemma y LLaMA) ofrecen resultados competitivos con un costo energético y de memoria significativamente menor que GPT-4o, lo que hace que la evaluación sea escalable.

5. Significado e Impacto

Este trabajo es fundamental para el desarrollo de una IA alineada con la diversidad humana. Al demostrar que la seguridad no es un estándar universal, los autores subrayan la necesidad de que los futuros procesos de alineación de LLM no busquen un "consenso moral promedio", sino que sean capaces de navegar y respetar la pluralidad de normas culturales y demográficas. Demo-SafetyBench proporciona la herramienta necesaria para medir y, eventualmente, mitigar estos sesgos en el desarrollo de sistemas de IA responsables.