GLEaN: A Text-to-image Bias Detection Approach for Public Comprehension

1. El Problema

Los modelos de texto a imagen (T2I) están integrados cada vez más en productos de consumo y medios públicos, difundiendo sesgos algorítmicos que refuerzan estereotipos raciales, de género y socioeconómicos. Aunque existe una literatura abundante sobre la medición y mitigación de estos sesgos, las metodologías actuales están diseñadas principalmente para stakeholders técnicos (investigadores, ingenieros), utilizando métricas complejas (similitud de cosenos, distribuciones estadísticas) que carecen de legibilidad pública. Esto crea una brecha donde el público general no puede reconocer, interpretar ni comprender fácilmente la presencia de sesgos en estos sistemas, a pesar de la creciente preocupación ciudadana sobre la equidad en la IA.

2. Metodología: GLEaN

El artículo introduce GLEaN (Generative Likeness Evaluation at N-Scale), una tubería de explicabilidad basada en retratos diseñada para hacer los sesgos visualmente comprensibles. El método consta de tres etapas principales:

1. Generación Automatizada a Gran Escala:

   • Se seleccionan 40 prompts neutrales relacionados con identidades sociales y ocupacionales (ej. "médico", "felón", "refugiado").
   • Se utiliza el modelo Stable Diffusion XL (SDXL) para generar miles de imágenes por prompt mediante un flujo de trabajo automatizado en ComfyUI.
   • Se configuran parámetros específicos (muestreador Euler, 50 pasos, escala CFG 8.0) para garantizar consistencia.

2. Filtrado y Alineación Facial:

   • Detección y Puntos de Referencia: Se utiliza el modelo Face Mesh de MediaPipe para identificar 468 puntos faciales. Se extraen tres puntos clave: punta de la nariz y centros de los ojos.
   • Validación de Pose: Se aplican heurísticas para descartar perfiles laterales o cabezas con inclinación excesiva, asegurando que solo se procesen rostros frontales.
   • Alineación Posicional: Las imágenes aceptadas se rotan, escalan y desplazan para alinear los ojos en una línea horizontal perfecta y estandarizar la distancia interpupilar (120 píxeles) en un lienzo de 800x800 píxeles.

3. Composición por Píxel Mediano:

   • Las imágenes alineadas se apilan en un array 4D.
   • En lugar de calcular el promedio (media), se calcula el píxel mediano para cada posición RGB a través de todas las imágenes.
   • Racional: La mediana es más robusta frente a valores atípicos, ruido y características transitorias, produciendo un retrato compuesto más nítido que representa la "tendencia central" del modelo para ese prompt.

3. Contribuciones Clave

• Cierre de la Brecha de Legibilidad: Identifica y aborda la falta de métodos de explicabilidad accesibles para audiencias no técnicas.
• Pipeline Agnóstico al Modelo: GLEaN depende únicamente de las salidas generadas, lo que permite aplicarlo a modelos de "caja negra" o de peso cerrado sin necesidad de acceso interno al modelo.
• Visualización de Tendencias Centrales: Convierte miles de imágenes dispersas en un solo retrato representativo que revela patrones de sesgo de un vistazo.
• Herramienta Interactiva: Creación de "The Latent Gaze", una exhibición digital narrativa para la divulgación pública de los hallazgos.

4. Resultados Empíricos y del Estudio de Usuario

El estudio se aplicó a SDXL y se validó mediante un estudio de usuarios entre sujetos (N=291) comparando los composites de GLEaN con una tabla de datos tradicional.

Hallazgos Empíricos (Sesgos Detectados):

• Predominio Masculino: El 85% de los retratos generados fueron clasificados como hombres. Las mujeres aparecieron principalmente en roles estereotípicamente femeninos (enfermera, recepcionista).
• Correlación Piel-Identidad: Las identidades marginadas y criminales (ej. "felón", "refugiado") se asociaron significativamente con tonos de piel más oscuros (escala Monk), mientras que las profesiones de cuello blanco se asociaron con tonos más claros. La identidad del subgrupo explicó el 59% de la varianza en el tono de piel.
• Sesgo Emocional: Se encontró una correlación estadísticamente significativa entre tonos de piel más oscuros y la predicción de la emoción "enojo".

Resultados del Estudio de Usuario:

• Eficacia Equivalente: Los participantes identificaron los sesgos de género y tono de piel con la misma precisión tanto al ver los retratos compuestos como la tabla de datos.
• Eficiencia Temporal: Los participantes que vieron los retratos compuestos tardaron un 32% menos de tiempo (56.3s vs 82.7s) en procesar la información en comparación con la tabla, sin sacrificar la comprensión ni la confianza.
• Impacto en Grupos Diversos: El formato de retratos fue particularmente efectivo para aumentar la preocupación en grupos políticamente menos receptivos a la información sobre sesgos de IA (específicamente republicanos), sugiriendo que la visualización puede superar barreras de resistencia cognitiva.

5. Significado e Implicaciones

• Nueva Forma de Explicabilidad: GLEaN demuestra que la explicabilidad técnica no requiere estadísticas complejas para ser efectiva. La visualización de la "tendencia central" permite una comprensión holística y simultánea de múltiples variables de sesgo.
• Auditoría de Caja Negra: Al no requerir acceso interno al modelo, GLEaN permite la auditoría y comparación de sesgos en cualquier sistema T2I comercial o cerrado, facilitando la rendición de cuentas.
• Impacto Social: Al hacer los sesgos visibles y comprensibles para el público general, la herramienta empodera a la sociedad para cuestionar y exigir responsabilidad a los desarrolladores de IA, abordando un problema ético crítico en la era de los medios generativos.

En conclusión, GLEaN ofrece un enfoque escalable y agnóstico al modelo para la explicabilidad de sesgos, transformando datos abstractos en evidencia visual inmediata, lo cual es esencial para la comprensión pública en un mundo donde los medios generativos moldean cada vez más la percepción social.