Will the Prince Get True Love's Kiss? On the Model Sensitivity to Gender Perturbation over Fairytale Texts

1. Problema

El artículo aborda la persistencia de sesgos de género en los Modelos de Lenguaje (LMs) y Grandes Modelos de Lenguaje (LLMs), específicamente en el contexto de la comprensión de narrativas infantiles (cuentos de hadas).

• Contexto: Los cuentos de hadas tradicionales a menudo refuerzan estereotipos de género dañinos (ej. príncipes valientes rescatando a princesas indefensas).
• Desafío: Aunque los modelos de QA (Preguntas y Respuestas) como los entrenados en el conjunto de datos FairytaleQA tienen un buen rendimiento, existe la incógnita de si su éxito se debe a una comprensión real de la narrativa o a la explotación de correlaciones de género aprendidas durante el pre-entrenamiento.
• Riesgo: Si los modelos dependen de estereotipos, fallarán al enfrentar narrativas que desafían estos roles (anti-estereotipos), lo que limita su robustez y perpetúa sesgos en aplicaciones educativas y generativas.

2. Metodología

Los autores proponen un marco de trabajo basado en la Aumento de Datos Contrafactual (CDA) para evaluar y mitigar estos sesgos.

• Dataset: Utilizan FairytaleQA, un conjunto de datos de comprensión narrativa para niños de jardín de infantes a octavo grado, que contiene 278 cuentos y 10,580 preguntas.
• Perturbación de Género: Modifican el dataset creando versiones "contrafactuales" donde se intercambian los roles de género (ej. cambiar "princesa" por "príncipe", "reina" por "rey", "ella" por "él"), manteniendo las etiquetas de verdad fundamental (ground truth) intactas.
• Métodos de Generación de Datos Contrafactuales: Comparan tres enfoques para realizar estas perturbaciones:
  1. Traducción basada en reglas: Utiliza un diccionario estático de pares de palabras de género opuesto. Es preciso pero limitado al dominio.
  2. Reescritura con LLM: Utiliza un modelo generativo (GPT-3.5-turbo) para reescribir el texto. Ofrece mayor flexibilidad pero puede introducir inconsistencias o modificar adjetivos no deseados.
  3. Traducción basada en reglas asistida por LLM: Un enfoque híbrido que combina la precisión de las reglas con la adaptabilidad del LLM. El sistema verifica si una palabra está en el diccionario; si no, consulta al LLM para generar el par opuesto.
• Modelos Base: Se fine-tunean dos modelos pre-entrenados, T5 y BART, sobre el dataset original y las variantes aumentadas.
• Evaluación:
  • Se mide la sensibilidad del modelo probando modelos entrenados en datos originales contra datos de prueba perturbados (y viceversa).
  • Se utiliza la puntuación ROUGE-L F1 como métrica principal.
  • Se realiza un estudio de caso para evaluar la generación de nuevos cuentos de hadas, analizando la propagación de sesgos y la calidad narrativa.

3. Contribuciones Clave

1. Evaluación de Sensibilidad: Demuestran que los modelos de lenguaje son sensibles a las perturbaciones de género, mostrando caídas de rendimiento cuando se enfrentan a narrativas que contradicen sus estereotipos aprendidos.
2. Nueva Metodología de CDA: Introducen y evalúan el enfoque híbrido de "Traducción basada en reglas asistida por LLM", que ofrece un equilibrio entre control y adaptabilidad para dominios específicos como los cuentos de hadas.
3. Estrategia de Entrenamiento Híbrido: Proponen que el fine-tuning con una mezcla de datos originales y contrafactuales (50/50) es superior al uso exclusivo de datos contrafactuales, ya que mantiene la precisión en roles normativos mientras mejora la robustez en roles anti-estereotípicos.
4. Estudio de Caso en Generación: Evidencian que entrenar modelos con datos contrafactuales no solo mejora la comprensión, sino que también genera historias más inclusivas, con menos propagación de estereotipos y mayor enfoque en rasgos de personalidad en lugar de atributos físicos.

4. Resultados Principales

• Sensibilidad a Sesgos: Los modelos fine-tuneados en el dataset original experimentaron una caída consistente en el rendimiento (ROUGE-L F1) al ser evaluados en datos de prueba con perturbaciones de género. Esto confirma que los modelos dependen de correlaciones de género aprendidas.
• Robustez Mejorada: Al fine-tunear los modelos con datos contrafactuales (especialmente la mezcla 50% original / 50% contrafactual), el rendimiento se estabiliza y mejora en los conjuntos de prueba perturbados.
  • Los modelos híbridos mostraron una caída mínima en el conjunto de datos original, pero una mejora significativa en los conjuntos de datos contrafactuales.
• Análisis por Tipo de Pregunta:
  • Las preguntas extractivas (donde la respuesta está explícita en el texto) sufrieron caídas de rendimiento más pronunciadas, indicando una fuerte dependencia de patrones memorizados.
  • Las preguntas abstractivas (que requieren razonamiento) mostraron una caída menor, sugiriendo que el modelo debe razonar más allá de los sesgos simples para responder correctamente.
• Generación Inclusiva: En el estudio de caso, las historias generadas a partir de prompts con datos contrafactuales obtuvieron puntuaciones más altas (5.67/6.0 vs 4.93/6.0). Estas historias mostraron:
  • Menor propagación de sesgos (0% en la métrica de propagación de sesgo vs 16.7% en el original).
  • Mayor coherencia lógica y continuidad.
  • Enfoque en rasgos de personalidad en lugar de apariencia física.

5. Significado e Impacto

• Implicaciones Educativas: Dado que los cuentos de hadas se utilizan para enseñar comprensión lectora y normas culturales, es crucial que los modelos de IA utilizados en educación no perpetúen estereotipos de género limitantes.
• Mitigación de Sesgos: El trabajo demuestra que la Aumento de Datos Contrafactual es una estrategia efectiva para "desaprender" sesgos de género en dominios narrativos específicos, yendo más allá de los enfoques tradicionales que solo se centran en sesgos ocupacionales.
• Inclusividad en IA Generativa: Proporciona un método escalable para generar contenido infantil diverso y representativo, alineado con los principios de la enseñanza culturalmente receptiva.
• Limitaciones y Futuro: Los autores reconocen que su enfoque se limita al binario de género (hombre/mujer) y no aborda interseccionalidades (raza, clase, identidad no binaria), señalando esto como un área crítica para futuras investigaciones.

En resumen, el paper demuestra que los modelos de lenguaje actuales son frágiles ante cambios en los roles de género dentro de narrativas familiares, pero que mediante técnicas de aumento de datos contrafactuales, es posible entrenar sistemas más robustos, justos e inclusivos para aplicaciones educativas y creativas.