Operationalizing Fairness in Text-to-Image Models: A Survey of Bias, Fairness Audits and Mitigation Strategies

1. El Problema

Los modelos de generación de imágenes a partir de texto (T2I), como los basados en difusión, han transformado la creación de contenido digital. Sin embargo, presentan un desafío crítico: la reproducción y amplificación de estereotipos sociales (sesgos de género, raza, ocupación, etc.).

• Ambigüedad Conceptual: El campo actual sufre de una fragmentación nominal. Términos como "sesgo" (una observación estadística de disparidad) y "equidad" (un objetivo normativo de representación justa) se utilizan indistintamente sin definiciones operativas claras.
• Brecha de Implementación: Existe una desconexión entre la detección de fallos representacionales y la aplicación de soluciones estructurales. Muchas estrategias actuales actúan como parches temporales en lugar de soluciones de alineación robustas debido a la falta de reglas de decisión claras para determinar cuándo un modelo es "justo".

2. Metodología

Los autores realizaron una revisión sistemática exhaustiva de la literatura sobre T2I publicada entre 2022 y 2025.

• Recopilación de Datos: Se utilizaron bases de datos (Google Scholar, Semantic Scholar, arXiv) con palabras clave específicas sobre equidad, sesgo y representación en T2I. Se aplicó el método de "bola de nieve" (hacia adelante y hacia atrás) para ampliar el alcance.
• Criterios de Inclusión: Artículos que midieran, analizaran o mitigaran la equidad/sesgo en modelos T2I.
• Análisis Estructural: Se examinó el pipeline de generación T2I (Codificador de texto, Esqueleto generativo, Compresión latente) para identificar los puntos de origen del sesgo.
• Clasificación: Se sistematizó la literatura existente en una taxonomía unificada de tipos de sesgo y nociones de equidad, proponiendo un nuevo marco para su operacionalización.

3. Contribuciones Clave

A. Marco Teórico: Equidad Objetivo vs. Equidad Umbral

El aporte más significativo es la distinción teórica entre dos formas de operacionalizar la equidad:

1. Equidad Objetivo (Target Fairness): Declara un ideal normativo (ej. paridad demográfica 50/50 o representación proporcional a la realidad) y mide la distancia hacia ese ideal. Limitación: No especifica un umbral de aceptación ni una regla de decisión (aprobado/reprobado). Es común en estudios descriptivos.
2. Equidad Umbral (Threshold Fairness): Define un objetivo normativo junto con una región de aceptación, banda de tolerancia o regla de decisión explícita. Considera la incertidumbre y el ruido estadístico para determinar si una disparidad es "suficientemente pequeña" para ser considerada justa.

• Propuesta: El campo debe moverse hacia la Equidad Umbral para garantizar que los modelos cumplan con estándares normativos verificables, no solo descriptivos.

B. Taxonomía Unificada de Nociones de Equidad

Se identifican tres familias operativas de equidad:

1. Paridad Demográfica: Busca una distribución uniforme (ej. 50% hombres / 50% mujeres), independientemente de las estadísticas reales.
2. Representación Proporcional: Alinea las salidas del modelo con baselines del mundo real (ej. estadísticas laborales o censos).
3. Paridad de Rendimiento: Exige que la calidad de la imagen (fidelidad, alineación con el prompt) sea invariante entre grupos demográficos.

C. Taxonomía de Tipos de Sesgo

Se sistematizan seis formas distintas de sesgo:

1. Sesgo de Representación: Distribución desigual de grupos demográficos.
2. Sesgo de Estereotipado: Asociación automática de roles, rasgos o contextos a grupos específicos (ej. "ladrón" asociado a una raza específica).
3. Sesgo de Amplificación: El modelo exagera las disparidades presentes en los datos de entrenamiento.
4. Sesgo de Composición: En escenas multi-objeto, los roles se colapsan hacia expectativas sesgadas (ej. "niño alimentando mujer" se invierte a "mujer alimentando niño").
5. Sesgo de Censura: Filtros de seguridad que suprimen selectivamente contenidos de ciertas identidades o marcadores culturales.
6. Sesgo de Fidelidad: Errores de alineación o reconocimiento que afectan desproporcionadamente a ciertos grupos (ej. generar torsos blancos con extremidades negras).

D. Estrategias de Mitigación

Se clasifican las intervenciones según su punto de aplicación en el pipeline:

1. Ingeniería de Prompts (Tiempo de Inferencia): Modificación de entradas (ej. añadir "médico mujer"). Es ligero pero superficial; traslada la carga de equidad al usuario.
2. Realineación del Modelo (Fine-Tuning/PEFT): Ajuste de pesos mediante técnicas como LoRA o "Concept Sliders" para "desaprender" estereotipos. Aborda la raíz pero es costoso computacionalmente.
3. Manipulación de Embeddings: Proyección geométrica o adición de vectores de corrección en el espacio latente del codificador de texto para desvincular asociaciones sesgadas.
4. Manipulación del Proceso de Difusión: Intervención dinámica durante el paso de eliminación de ruido (denoising) para corregir la trayectoria de generación hacia una distribución objetivo. Aumenta la latencia de inferencia.

4. Resultados y Hallazgos

• Dominio de la Equidad Objetivo: La gran mayoría de la literatura actual se centra en la Equidad Objetivo (medir la brecha hacia un ideal) sin establecer reglas de decisión claras (umbrales). Esto hace que las afirmaciones de "equidad lograda" sean difíciles de verificar y comparar.
• Falta de Defensa Normativa: Los objetivos normativos (como una paridad 50/50) rara vez se justifican filosóficamente. Asumir que la igualdad estadística es inherentemente justa ignora las tasas base y puede entrar en conflicto con otros objetivos (como la precisión).
• Crisis de Reproducibilidad: Muchas estrategias de mitigación carecen de código abierto, lo que impide una comparación rigurosa de las compensaciones (trade-offs) entre reducción de sesgo, fidelidad de imagen y adherencia al prompt.
• Compensaciones (Trade-offs): Las estrategias de mitigación a menudo degradan la fidelidad de la imagen o la adherencia al prompt, y carecen de métricas estandarizadas para evaluar estos efectos secundarios negativos de manera holística.

5. Significado e Impacto

Este trabajo es fundamental para la evolución de la IA generativa por las siguientes razones:

• Rigor Científico: Propone un cambio de paradigma desde auditorías descriptivas hacia la aplicación de reglas de decisión (Threshold Fairness), lo cual es esencial para la certificación y el despliegue seguro de modelos.
• Clarificación Terminológica: Resuelve la confusión entre "sesgo" y "equidad", permitiendo comparaciones más justas entre estudios.
• Guía para el Desarrollo: Identifica la necesidad de benchmarks estandarizados que evalúen simultáneamente la reducción de sesgo, la fidelidad, la generalización y los efectos secundarios.
• Marco de Acción: Ofrece una hoja de ruta para que los investigadores y desarrolladores no solo midan la equidad, sino que definan criterios claros de cumplimiento y aceptación, moviendo el campo hacia una IA generativa más responsable y alineada con estándares sociales.

En conclusión, el artículo argumenta que sin un movimiento hacia la Equidad Umbral y una justificación explícita de los objetivos normativos, los modelos T2I no lograrán una alineación real con los estándares éticos esperados, permaneciendo como herramientas que perpetúan sesgos bajo una capa de auditoría superficial.