SCOPE: A Dataset of Stereotyped Prompts for Counterfactual Fairness Assessment of LLMs

A continuación presento un resumen técnico detallado del artículo "SCOPE: A Dataset of Stereotyped Prompts for Counterfactual Fairness Assessment of LLMs" en español, estructurado según los componentes solicitados.

1. Planteamiento del Problema

Los Modelos de Lenguaje Grande (LLMs) son fundamentales en aplicaciones modernas, desde asistentes conversacionales hasta herramientas de toma de decisiones. Sin embargo, existe una preocupación crítica sobre su equidad (fairness): los LLMs a menudo amplifican estereotipos sociales y producen contenido sesgado, tratando a individuos de manera desigual basándose en atributos demográficos.

El problema central identificado por los autores es la insuficiencia de los recursos existentes para evaluar estos sesgos de manera rigurosa:

• Limitaciones de los conjuntos de datos actuales: Herramientas como CrowS-Pairs, StereoSet, WinoBias y BBQ se basan en ejemplos pequeños, plantillas fijas o pares de oraciones declarativas que no simulan interacciones reales con prompts.
• Falta de diversidad lingüística y temática: Muchos conjuntos de datos cubren un rango limitado de temas o intenciones comunicativas.
• Ausencia de control de intención: La mayoría de los recursos no varían la intención comunicativa (ej. preguntar vs. recomendar), a pesar de que la formulación de la solicitud influye fuertemente en el comportamiento del modelo.
• Falta de pares contrafactuales escalables: Se necesita un recurso que permita comparar la salida del modelo ante perturbaciones demográficas mínimas (cambiar solo el grupo social) manteniendo constante el significado semántico y la intención.

2. Metodología

Los autores proponen SCOPE (Stereotype-Conditioned Prompts for Evaluation), un conjunto de datos a gran escala generado mediante un pipeline automatizado de múltiples etapas:

• Construcción de la Base de Conocimientos:

  • Se partió del dataset CrowS-Pairs (1,508 pares de oraciones) que contrastan formulaciones estereotipadas y anti-estereotipadas.
  • Se extrajeron tripletas estructuradas <Tema, Grupo Desfavorecido, Grupo Favorecido> utilizando GPT-4O Mini. Por ejemplo, de la frase "Los hombres gay son emocionalmente frágiles" se extrajo <sensibilidad emocional, hombres gay, hombres heterosexuales>.
  • Se realizó una validación manual rigurosa por consenso para asegurar la fidelidad semántica y la precisión de las relaciones conceptuales, resultando en una base de 1,508 tripletas validadas.

• Generación de Prompts Contrafactuales:

  • Se diseñó un proceso automatizado para generar prompts semánticamente equivalentes que difieren únicamente en el atributo de grupo sensible.
  • Condicionamiento por Intención: Se seleccionaron cuatro intenciones comunicativas basadas en la taxonomía de Robe et al.: Pregunta (Question), Recomendación (Recommendation), Dirección (Direction) y Clarificación (Clarification).
  • Para cada tripleta y cada intención, el modelo generador (GPT-4O Mini) produjo 10 prompts para el grupo desfavorecido y 10 para el favorecido, creando 20 pares por tripleta.
  • Se aplicaron restricciones estrictas para garantizar la equivalencia semántica estricta y la variación léxica/sintáctica.

• Procesamiento y Formato:

  • Los datos se organizaron en un formato JSONL estructurado, donde cada registro contiene un par contrafactual completo junto con sus metadatos (tipo de sesgo, intención, tema, índice de par).

3. Contribuciones Clave

• Dataset a Gran Escala (SCOPE): Un repositorio de 241,280 prompts organizados en 120,640 pares contrafactuales.
• Alta Diversidad y Cobertura:
  • 1,438 temas distintos.
  • 9 dimensiones de sesgo: raza/color, género, orientación sexual, religión, edad, nacionalidad, discapacidad, apariencia física y estatus socioeconómico.
  • 1,536 grupos demográficos únicos, permitiendo análisis más finos que las agrupaciones binarias tradicionales.
  • 4 intenciones comunicativas que cubren estilos de interacción comunes.
• Enfoque en la Intención: Es el primer recurso que integra sistemáticamente la variación de la intención comunicativa en la evaluación de la equidad contrafactual, permitiendo estudiar cómo el sesgo se manifiesta bajo diferentes estilos de interacción.
• Accesibilidad: El dataset está disponible públicamente con scripts de transformación para facilitar su uso en pipelines de evaluación de LLMs.

4. Resultados y Estadísticas

El dataset presenta una distribución equilibrada y exhaustiva:

• Volumen: 60,320 prompts por intención.
• Distribución por Sesgo: La dimensión de "raza-color" es la más grande (82,480 prompts, 454 grupos), seguida de "género" (41,920 prompts, 238 grupos). Otras dimensiones como estatus socioeconómico y nacionalidad también tienen una representación sustancial.
• Experimento Ilustrativo: Los autores realizaron una prueba piloto con el modelo Gemini-2.5-flash.
  • Hallazgo: Aunque el modelo mantuvo narrativas de alto nivel similares, introdujo explicaciones, énfasis y estructuras distintas dependiendo del grupo social mencionado.
  • Métricas: Se observó una superposición léxica (Jaccard) modesta entre las respuestas de los pares, indicando un tratamiento diferencial incluso cuando el tema y la intención eran idénticos.
  • Conclusión del experimento: El modelo mostró inconsistencias en la longitud de la respuesta, el tono y las suposiciones, evidenciando la utilidad de SCOPE para detectar estas disparidades.

5. Significado e Impacto

El lanzamiento de SCOPE representa un avance significativo en la investigación de la equidad en IA por varias razones:

1. Evaluación Sistemática: Permite a los investigadores y practicantes realizar pruebas de equidad contrafactual a gran escala, cuantificando disparidades mediante métricas de similitud, toxicidad o cambios de postura.
2. Análisis de Robustez: Facilita la auditoría de la estabilidad de los modelos ante perturbaciones de atributos sensibles, crucial para la detección de regresiones y la seguridad del modelo.
3. Estudio del Sesgo Condicionado por Intención: Abre una nueva línea de investigación sobre cómo diferentes estilos de interacción (preguntar vs. dar instrucciones) activan o modulan los estereotipos en los LLMs.
4. Reproducibilidad: Al proporcionar un conjunto de datos estandarizado, semánticamente alineado y de código abierto, SCOPE establece una base sólida para comparaciones justas entre diferentes modelos y versiones, avanzando hacia LLMs más justos y robustos.

En resumen, SCOPE supera las limitaciones de los benchmarks anteriores al ofrecer un entorno controlado, diverso y rico en matices para diagnosticar y mitigar el sesgo en los sistemas de lenguaje generativo.