Resumen Técnico: Sesgos Demográficos Impulsados por la Emoción en la Generación de Rostros Sintéticos

Declaración del Problema

Si bien los modelos de generación de imágenes a partir de texto (T2I) y los modelos de lenguaje de gran escala multimodales (MLLM) han logrado una generación de rostros sintéticos de alta fidelidad, la calidad representacional y el sesgo de estos sistemas siguen sin comprenderse adecuadamente, particularmente en lo que respecta a la intersección de atributos demográficos y prompts emocionales. La investigación previa se ha centrado principalmente en sesgos demográficos aislados (por ejemplo, género o raza por sí solos) en rostros neutros o en modelos entrenados en Occidente. Este estudio identifica tres brechas críticas:

1. Interseccionalidad: El trabajo existente a menudo pasa por alto cómo múltiples identidades (género, raza, edad) se combinan para crear vulnerabilidades y subrepresentaciones únicas.
2. Sesgo Condicionado por la Emoción: La mayoría de los estudios ignoran cómo los prompts emocionales (por ejemplo, "feliz" frente a "enojado") influyen en las distribuciones demográficas, a pesar de la evidencia de que las expresiones faciales están ligadas a normas culturales y estereotipos.
3. Consistencia Transcultural: Existe una falta de comparación sistemática entre modelos desarrollados en contextos occidentales frente a aquellos desarrollados en China, a pesar del surgimiento de China como una potencia de IA con datos de entrenamiento específicos de su región.

Las preguntas centrales de investigación abordan si los modelos T2I generan rostros demográficamente desequilibrados en relación con las poblaciones globales, cómo difieren estos sesgos entre los modelos occidentales y chinos, y cómo los prompts emocionales desplazan las distribuciones demográficas y de atractivo.

Metodología

Los autores realizaron una auditoría sistemática de ocho modelos de difusión T2I de vanguardia: cuatro desarrollados por organizaciones occidentales (FLUX-Schnell, Proteus V0.3, Stable Diffusion 3.5, SANA 1.5) y cuatro por instituciones chinas (Hunyuan-DiT, Qwen-Image, Kolors, Wan2.1).

Diseño Experimental:

• Prompting: Los modelos fueron instados con plantillas idénticas en inglés: "A photorealistic portrait of a [emotion] person, front-facing." (Un retrato fotorealista de una persona [emoción], de frente).
• Emociones: Se probaron seis emociones canónicas (felicidad, tristeza, ira, sorpresa, disgusto, miedo) basadas en el marco de las emociones básicas de Ekman, junto con una línea base neutral.
• Escala: Se generaron 1,000 imágenes por modelo por emoción, totalizando 56,000 rostros sintéticos.
• Estimación de Atributos: Los rostros generados fueron analizados mediante herramientas automatizadas de vanguardia:
  • Demografía: Se utilizó el modelo FairFace para estimar género, raza y edad. La validación en conjuntos de datos de referencia (CFD, FACES, APPA-REAL, FGNET) mostró una alta precisión (97% para género, 90% para raza, 73% para edad).
  • Atractivo: Un modelo dedicado (basado en ResNet y entrenado en el conjunto de datos AHEAD) estimó los niveles de atractivo (bajo, medio, alto).
• Métricas de Sesgo: El estudio empleó métricas de teoría de la información para cuantificar las desviaciones:
  • Sesgo de Línea Base: Se calcularon las divergencias de Kullback-Leibler (KL), Jensen-Shannon (JS) y la Distancia de Variación Total (TVD) entre los resultados de los modelos y las estadísticas de la población global (derivadas de datos de la ONU y estrategias de asignación de país a raza).
  • Desplazamiento Interseccional: Las divergencias KL y JS midieron los desplazamientos en la distribución conjunta de género, raza y edad.
  • Sesgo Condicionado por la Emoción: Se calcularon las divergencias entre los resultados específicos de cada emoción y la línea base neutral para aislar el impacto de los prompts emocionales.

Resultados Clave

1. Sesgo Demográfico Persistente (RQ1)
Todos los ocho modelos exhibieron desviaciones significativas respecto a las estadísticas de la población global, independientemente de su origen.

• Género: La mayoría de los modelos mostraron un pronunciado desequilibrio de género. Cuatro modelos (FLUX, Proteus, SD3, Qwen) sobre-representaron a los hombres (60–90%), mientras que dos (SANA, Hunyuan) sobre-representaron a las mujeres (>80%). Solo Qwen y Wan2.1 se acercaron a una distribución equilibrada, aunque ninguno logró la paridad.
• Raza: Las disparidades fueron aún más severas. Tres modelos (Proteus, SANA, Kolors) generaron más del 80–90% de rostros blancos, a pesar de que los individuos blancos comprenden aproximadamente el 11% de la población mundial. Las poblaciones asiáticas y negras fueron consistentemente subrepresentadas.
• Edad: Se observó un fuerte sesgo generativo hacia la juventud. El grupo de edad de 20 a 39 años fue fuertemente sobre-representado (>80% en seis modelos), mientras que niños, adolescentes, adultos de mediana edad y, especialmente, los ancianos (60+) fueron severamente subrepresentados.
• Interseccionalidad: El análisis de la distribución conjunta reveló que combinaciones específicas, como "joven × mujer × negra", tenían una representación cercana a cero en la mayoría de los modelos, mientras que "joven × mujer × blanca" predominaba.

2. Homogeneización Transcultural (RQ2)
Contrario a la expectativa de que los modelos chinos reflejarían la demografía local, el estudio encontró una sorprendente homogeneización de los sesgos.

• Similitud: Los modelos occidentales y chinos exhibieron patrones comparables de sobre-representación de personas blancas y jóvenes.
• Anomalía Racial: A pesar de que China tiene una población predominantemente de Asia Oriental, la mayoría de los modelos chinos generaron una mayoría de rostros blancos, reflejando de cerca a los modelos occidentales. Hunyuan fue una excepción notable, generando aproximadamente un 90% de rostros asiáticos.
• Impacto del Lenguaje: Probar los modelos chinos con prompts en chino (Apéndice E) mostró solo cambios distributivos moderados; la sobre-representación de rostros blancos persistió, lo que sugiere que el sesgo proviene de datos de entrenamiento compartidos o de sesgos arquitectónicos, más que del lenguaje del prompt por sí solo.

3. Sesgo Condicionado por la Emoción (RQ3)
Los prompts emocionales desplazaron sistemáticamente las distribuciones demográficas, exacerbando los sesgos existentes.

• Emociones Negativas: Los prompts para emociones negativas de alta activación (Ira, Disgusto, Miedo) indujeron los mayores desplazamientos demográficos. Estos prompts aumentaron consistentemente la probabilidad de generar rostros mayores, masculinos y blancos, mientras que disminuyeron la representación de rostros jóvenes, femeninos y asiáticos.
• Emociones Positivas: Los prompts de "Felicidad" resultaron en las desviaciones más pequeñas respecto a la línea base neutral, a menudo reforzando el sesgo predeterminado hacia rostros jóvenes, atractivos y blancos.
• Atractivo: Las emociones negativas se correlacionaron con un aumento significativo en las puntuaciones de bajo atractivo, mientras que la felicidad aumentó ligeramente las puntuaciones de alto atractivo, alineándose con el "efecto halo de la belleza".
• Sensibilidad del Modelo: Los modelos occidentales generalmente exhibieron divergencias KL más grandes (mayor sensibilidad a la emoción) que los modelos chinos, aunque la dirección de los desplazamientos fue consistente en ambos grupos.

Significación y Reivindicaciones

El artículo afirma proporcionar la primera auditoría sistemática, transcultural y condicionada por la emoción de los rostros generados por T2I. Sus principales contribuciones son:

1. Marco Cuantitativo: Un método para medir los sesgos de representación utilizando métricas de la teoría de la información a través de atributos interseccionales.
2. Evidencia de Homogeneización: El hallazgo de que los modelos de distintos ecosistemas culturales (occidentales y chinos) convergen en una representación "por defecto" única y centrada en Occidente, lo que desafía la noción de que los datos de entrenamiento regionales conducen necesariamente a salidas culturalmente distintas.
3. La Emoción como Amplificador de Sesgo: El descubrimiento de que añadir claves emocionales no solo cambia la expresión facial, sino que redefine fundamentalmente las distribuciones demográficas, reforzando a menudo los estereotipos de edad y raza/género (por ejemplo, asociar la ira con hombres mayores).

Los autores argumentan que estos sesgos no son meros artefactos de la composición de los datos, sino que reflejan sesgos estructurales en el espacio latente de los modelos generativos. Concluyen que, sin una auditoría e intervención activas, estos sistemas corren el riesgo de reforzar estereotipos excluyentes, particularmente cuando se utilizan para imágenes "emocionalmente cargadas". El estudio aboga por la transparencia en los datos de entrenamiento, controles de usuario granulares para desacoplar la emoción de los valores demográficos por defecto y una regulación proactiva que requiera auditorías de sesgo regulares antes de su despliegue a gran escala.

Limitaciones: Los autores reconocen que su auditoría está limitada a un conjunto específico de modelos y a un conjunto predefinido de emociones y atributos. Señalan que su dependencia de clasificadores automatizados, aunque escalable, puede introducir errores de clasificación, y que su marco es diagnóstico más que prescriptivo respecto a las estrategias de mitigación.