💻 computer science

KG-FairDiff: Knowledge Graph-Guided Prompt Refinement for Demographically Fair Text-to-Image Generation

KG-FairDiff es un marco de trabajo agnóstico al modelo y de tiempo de inferencia que aprovecha un grafo de conocimiento y un proceso de optimización de bucle cerrado para refinar los prompts de texto a imagen, reduciendo eficazmente los sesgos demográficos y culturales mientras preserva la fidelidad semántica sin requerir un costoso reentrenamiento del modelo.

Autores originales: Farbod Davoodi, Seyed Reza Tavakoli Shiyadeh, Pooria Safaei, Sana Harighi, Parsa Gholami, Amirali Amini, Kimia Vanaei, Emad Firoozi, Parham Abed Azad, Babak Khalaj, Siavash Ahmadi, Amir Hossein Payber

Publicado 2026-06-02

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Farbod Davoodi, Seyed Reza Tavakoli Shiyadeh, Pooria Safaei, Sana Harighi, Parsa Gholami, Amirali Amini, Kimia Vanaei, Emad Firoozi, Parham Abed Azad, Babak Khalaj, Siavash Ahmadi, Amir Hossein Payberah, Mohammad Hossein Rohban, Soheil Kolouri, Ali Diba

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes una cámara mágica que puede convertir cualquier frase que escribas en una imagen. Escribes "un doctor" y toma una foto. Pero aquí está el truco: esta cámara ha sido entrenada con millones de fotos antiguas de internet. Debido a esto, ha desarrollado un mal hábito. Cuando pides un "doctor", casi siempre muestra a un hombre blanco mayor. Cuando pides una "enfermera", muestra a una mujer joven. Es como si la cámara estuviera atrapada en un viaje en el tiempo, viendo el mundo a través de un lente muy estrecho y estereotipado.

Este artículo presenta una nueva herramienta llamada KG-FairDiff para arreglar esta cámara sin tener que reconstruirla.

El Problema: Los "Ajustes Predeterminados" de la Cámara

Piensa en estos sistemas de texto a imagen como chefs que han memorizado un libro de cocina masivo. Si pides "CEO", automáticamente sacan la foto de un hombre de traje porque es lo que han visto con más frecuencia en sus datos de entrenamiento. No están intentando ser malos; solo están siguiendo los patrones más comunes que conocen. Esto conduce a un mundo donde ciertos grupos de personas (como mujeres, personas de color o adultos mayores) rara vez son vistos en roles de poder, o son mostrados de formas divertidas y exageradas.

La Solución: El "Editor Inteligente"

En lugar de intentar despedir al chef y contratar a uno nuevo (lo cual sería costoso e imposible para muchas cámaras cerradas), KG-FairDiff actúa como un editor inteligente que se interpone entre tú y la cámara.

Así es como funciona el editor, paso a paso:

La Biblioteca de Conocimiento (El "Verificador de Hechos"):
El editor lleva consigo una biblioteca especial de aproximadamente 1,200 hechos (un Grafo de Conocimiento). Estos hechos son como pequeñas tarjetas que dicen cosas como: "Los doctores pueden ser mujeres", "Las enfermeras pueden ser hombres" o "La vestimenta tradicional de esta cultura es así". También tiene tarjetas que dicen: "Este es un estereotipo que debemos evitar".
La Reescritura (La "Sugerencia"):
Cuando escribes "un doctor", el editor no se lo envía directamente a la cámara. Primero, consulta su biblioteca. Ve que "doctor" suele estar estereotipado. Luego, le pide a una IA superinteligente (un LLM) que reescriba tu frase.
- Tu entrada: "Un doctor".
- Sugerencia del editor: "Un grupo diverso de doctores, incluyendo mujeres y personas de diferentes orígenes, trabajando en un hospital moderno".
  El editor se asegura de que la nueva frase todavía suene a lo que querías (fidelidad semántica) pero añade la diversidad faltante.
El Guardián (El "Validador"):
Antes de enviar la nueva frase a la cámara, el editor comprueba dos cosas:
- ¿Corregimos el sesgo? (¿La nueva frase fomenta una imagen más diversa?)
- ¿Cambiamos demasiado el significado? (¿Sigue siendo sobre un doctor?)
  Si la respuesta a ambas es "Sí", el editor la envía. Si no, lo intenta de nuevo, como un bucle hasta que lo logra.

Por qué esto es importante

Normalmente, para arreglar una cámara sesgada, tienes que desarmarla, reentrenarla con nuevos datos y esperar que aprenda mejor. Esto es difícil, costoso y a menudo imposible porque muchas cámaras son "cajas negras" (no puedes ver qué hay dentro).

KG-FairDiff es diferente porque:

Es una solución de "conectar y usar": Funciona con cualquier cámara, ya sea gratuita o una privada y pagada.
No rompe la cámara: Solo ajusta las instrucciones (prompts) que le das.
Está basado en hechos: No solo adivina; utiliza una lista estructurada de hechos para guiar los cambios.

Los Resultados

Los investigadores probaron este "Editor Inteligente" en ocho generadores de imágenes populares diferentes. Encontraron que:

Redujo significativamente las veces que la cámara recurría a estereotipos (como mostrar solo hombres como CEOs).
Aumentó la variedad de personas mostradas (más mujeres, personas de color y diferentes edades).
Lo hizo sin que las imágenes se vieran extrañas o cambiaran la idea original del usuario.

Las Limitaciones (La "Letra Pequeña")

Los autores son honestos sobre dónde podría tropezar la herramienta:

El choque con el "Filtro de Seguridad": Algunas cámaras tienen sus propias reglas de seguridad estrictas. A veces, la sugerencia del editor de añadir diversidad puede chocar con las reglas internas de la cámara, causando que la imagen falle o se vea extraña.
El Editor "Circular": Se utiliza el mismo modelo de IA tanto para escribir la nueva frase como para comprobar si es buena. Es como un estudiante calificando su propia tarea; generalmente funciona, pero no es perfecto.
Brechas Culturales: Aunque la herramienta intenta incluir culturas no occidentales, la biblioteca de hechos aún no es perfecta. Podría omitir algunos detalles culturales específicos.

En Resumen

KG-FairDiff es como un filtro de equidad para tu imaginación. No cambia la cámara; simplemente te ayuda a pedir imágenes de una manera que asegure que la cámara vea el mundo entero, no solo una pequeña y sesgada porción de él. Es una forma práctica y lista para usar de hacer que las imágenes generadas por IA sean más representativas de la vida real.

Resumen Técnico: KG-FairDiff

Planteamiento del Problema
Los sistemas de Texto-a-Imagen (TTI) se han convertido en infraestructura crítica para el periodismo, la educación y la publicidad. Sin embargo, estos modelos heredan estereotipos demográficos y culturales de sus datos de entrenamiento, subrepresentando o caricaturizando sistemáticamente a mujeres, personas de color, adultos mayores y culturas no occidentales. Las estrategias de mitigación existentes enfrentan limitaciones significativas: el reequilibrio de conjuntos de datos y la regularización del espacio latente requieren acceso a los datos de entrenamiento o a los componentes internos del modelo (inviable para arquitecturas de código cerrado), mientras que los métodos más ligeros a nivel de prompt suelen depender de plantillas demográficas fijas que ignoran el contexto cultural, lo que resulta en salidas superficiales o tokenistas.

Metodología
Los autores proponen KG-FairDiff, un marco de trabajo agnóstico al modelo y de tiempo de inferencia que trata el refinamiento de prompts consciente de la equidad como un problema de optimización con restricciones. El sistema opera como un flujo de trabajo de bucle cerrado sin modificar el generador subyacente:

Construcción del Grafo de Conocimiento (KG): El marco utiliza un KG curado a mano que contiene aproximadamente 1,200 triples. Estos triples se obtuvieron de la base de datos McGillNLP Bias y de CultureBank, y cubren tres categorías: asociaciones estereotípicas (a ser contrarrestadas), contraestereotipos (a ser afirmados) y fundamentación cultural (conceptos, vestimenta y prácticas no occidentales).
Recuperación y Reescritura: En el momento de la inferencia, el sistema recupera los $k$ triples más relevantes del KG basados en el prompt inicial del usuario. Un reescritor basado en LLM (GPT-4o) utiliza este contexto estructurado para proponer prompts refinados.
Validación de Bucle Cerrado: Un validador (también GPT-4o) evalúa el prompt refinado frente a dos criterios:
- Mejora de la Equidad: El prompt debe reducir una pérdida de equidad basada en la divergencia (medida mediante la divergencia KL de una distribución objetivo uniforme).
- Fidelidad Semántica: El prompt refinado debe mantener una similitud de coseno por encima de un umbral ( $\tau$ ) con la intención original del usuario para evitar la deriva semántica.
Formulación de Optimización: El proceso se formaliza como la minimización de una suma ponderada de la pérdida de equidad y un regularizador de preservación de estilo, sujeto a la restricción de fidelidad semántica. Los autores demuestran un límite de terminación finita para el bucle de refinamiento bajo un supuesto de mejora monótona.

Contribuciones Clave

Formulación Algorítmica: El artículo formaliza el refinamiento de prompts consciente de la equidad como un problema de optimización con restricciones que incluye términos explícitos para la equidad, la fidelidad semántica y la preservación de estilo, proporcionando un algoritmo iterativo con un límite de terminación teórico.
Grafo de Conocimiento Reutilizable: Los autores construyen y liberan un KG curado de ~1,200 triples que abarcan estereotipos, contraestereotipos y fundamentación cultural, doblemente anotados para exactitud fáctica y sensibilidad cultural.
Suite de Evaluación Teóricamente Fundamentada: Se introduce un nuevo marco de evaluación que vincula las métricas de sesgo estándar (Bias-P, Bias-W) con la divergencia de las distribuciones objetivo y relaciona las medidas basadas en la entropía (ENS) con la divergencia KL, utilizando el alineamiento de Wasserstein y la similitud CLIP para evaluar la preservación semántica.
Auditoría Exhaustiva: El marco es evaluado contra ocho generadores de base ampliamente desplegados (incluyendo GPT-Image-1, SD 3.5, Gemini 3 Pro) a través de un benchmark de 100 prompts que cubre 50 ocupaciones.

Resultados
KG-FairDiff demuestra mejoras sustanciales en la reducción de disparidades demográficas preservando la semántica del prompt:

Rendimiento vs. Baselines: Comparado con los baselines a nivel de prompt como MinorityPrompt y PreciseDebias, KG-FairDiff logra reducciones de sesgo significativamente mayores. Específicamente, logra reducciones de Bias-W hasta 20 veces mayores (ej., -0.1396 vs. -0.0037 para Raza) y ganancias de ENS 13 veces mayores en comparación con MinorityPrompt.
Preservación Semántica: El proceso de refinamiento mantiene una alta fidelidad semántica, con un cambio en la distancia media de Wasserstein ( $\Delta \bar{W}_2^2$ ) de solo 0.0011.
Estudios de Ablación: Los experimentos confirman que el componente de recuperación del KG contribuye de forma independiente a las ganancias de equidad, de manera distinta a las capacidades del reescritor LLM.
Limitaciones Observadas: Los autores señalan que para ciertos generadores (ej., SD 3.5 Large, Gemini 3 Pro), algunas métricas empeoraron debido a conflictos entre los prompts refinados y los filtros de seguridad integrados de los generadores, o debido a señales conflictivas en la optimización interseccional. Además, el marco depende de clasificadores automatizados (FairFace) que tienen un menor recall para fenotipos no occidentales.

Significancia y Reivindicaciones
El artículo afirma que KG-FairDiff ofrece una ruta práctica y lista para el despliegue hacia una IA más equitativa. Su principal significancia radica en su capacidad para intervenir a nivel de prompt sin requerir acceso a los pesos del modelo o reentrenamientos costosos, lo que lo hace aplicable tanto a generadores de caja negra propietarios como de pesos abiertos. Al fundamentar los refinamientos en conocimiento cultural estructurado en lugar de plantillas fijas, el marco busca reducir los daños a nivel poblacional causados por la repetición de representaciones estrechas. Los autores posicionan este trabajo como un paso hacia una "IA confiable" que pueda auditar e intervenir en modelos desplegados bajo restricciones realistas, aunque reconocen la necesidad de trabajos futuros para escalar el grafo de conocimiento hacia una cobertura cultural más amplia y calibrar rigurosamente el validador frente a métricas de uso posterior.