Evaluating Demographic Misrepresentation in Image-to-Image Portrait Editing

Este trabajo revela que los editores de imágenes por instrucciones presentan sesgos demográficos sistemáticos, como la "borradura suave" y la "sustitución por estereotipos", que afectan desproporcionadamente a grupos minoritarios, y demuestra que el uso de restricciones en el prompt puede mitigar estos fallos sin necesidad de actualizar el modelo.

Lo esencial

Imagina que tienes un asistente de fotografía mágico en tu teléfono. Le dices: "Haz que esta persona parezca un CEO" o "Haz que esta persona tenga 30 años más", y el asistente debería cambiar solo eso, manteniendo el rostro, la piel y la esencia de la persona original.

Este artículo de investigación es como una inspección de calidad de ese asistente mágico. Los autores descubrieron que, aunque el asistente parece funcionar bien, tiene un "sesgo oculto" que lo hace tratar a las personas de manera diferente dependiendo de su raza, género o edad.

Aquí te explico los hallazgos principales usando analogías sencillas:

1. Los dos "fantasmas" del asistente

Los investigadores descubrieron que el asistente falla de dos formas muy específicas cuando edita fotos de personas de minorías:

• El Borrado Suave (Soft Erasure):
  Imagina que le pides al asistente que le ponga un sombrero a una persona, pero el asistente, en lugar de poner el sombrero, simplemente hace que la foto se vea un poco más borrosa o ignora tu pedido por completo. La foto sale, pero no hizo lo que le pediste. Es como si el asistente tuviera miedo de hacer el cambio y decidiera "no tocar nada" en silencio.

  • En la vida real: Si le pides a una persona de piel oscura que se vea "vulnerable" o "envejecida", el modelo a veces ignora la instrucción y deja la foto igual, como si no pudiera o no quisiera mostrar esas características.

• El Cambio de Identidad por Estereotipos (Stereotype Replacement):
  Esta es la más peligrosa. Imagina que le pides al asistente que haga que una persona parezca un "médico". Si la persona original es negra, el asistente podría cambiarle la piel para que sea más clara y cambiarle los rasgos faciales para que se parezca más a un estereotipo de médico blanco que el modelo ha aprendido de internet.

  • En la vida real: El modelo reemplaza la identidad de la persona. Si le pides que sea un "CEO" o un "policía", el modelo tiende a convertir a personas de piel oscura en personas de piel clara, borrando sus rasgos originales para encajar en lo que el modelo "cree" que debería ser un CEO o un policía.

2. La prueba del "Espejo Roto"

Para demostrar esto, los autores crearon un laboratorio controlado:

• Tomaron 84 fotos de personas reales, asegurándose de tener una mezcla perfecta de razas (blancos, negros, asiáticos, latinos, etc.), géneros y edades.
• Les dieron a tres de los editores de imágenes más populares (como FLUX, Step1X y Qwen) las mismas instrucciones para todas las fotos.
• El resultado: Fue un desastre para las minorías.
  • El efecto "Blanqueamiento": En más del 60% de los casos, la piel de las personas oscuras se volvió más clara.
  • La desigualdad: A las personas blancas casi nunca les cambiaron la raza o la piel. Pero a las personas negras o indias, el modelo les "cambió la cara" para que parecieran más blancas, especialmente si les pedían un trabajo de autoridad (como un CEO o un militar).

3. La solución de "Pegatina de Instrucciones"

¿Hay una solución? Los autores probaron algo interesante. En lugar de reprogramar el cerebro del asistente (lo cual es difícil y costoso), le dieron una "pegatina" extra a la instrucción.

• Sin pegatina: "Haz que parezca un CEO". -> Resultado: La persona negra se vuelve blanca.
• Con pegatina: "Haz que parezca un CEO, pero mantén su piel marrón oscura, su nariz ancha y su cabello rizado".

El hallazgo: Esta pequeña instrucción extra funcionó como un freno de emergencia. Logró que el modelo respetara la identidad de las personas de minorías casi tanto como la de las personas blancas.

• La metáfora: Es como si le dijeras a un chef: "Hazme una pizza". El chef (el modelo) te da una pizza de queso porque es lo que suele hacer. Pero si le dices: "Hazme una pizza, pero asegúrate de que sea vegetariana y sin gluten", el chef se ve obligado a seguir esas reglas específicas.

4. ¿Por qué es importante?

El problema es que la carga recae sobre el usuario.
Hoy en día, si quieres que la IA no te cambie la raza o el género, tienes que ser muy específico y escribir instrucciones largas y detalladas. Si eres una persona blanca, el modelo ya asume que debes ser así, por lo que no necesitas dar tantas instrucciones. Si eres de una minoría, tienes que luchar contra el modelo para que te respete.

En resumen:
Este estudio nos dice que los editores de imágenes actuales tienen un "prejuicio de fábrica". Tienden a convertir a todos en personas blancas y estereotipadas cuando intentan cambiar el contexto de una foto. Aunque podemos arreglarlo momentáneamente con instrucciones muy detalladas, el verdadero trabajo es que los creadores de estas IAs limpien sus cerebros digitales para que, por defecto, respeten la identidad de todos, sin necesidad de que nosotros tengamos que pedirlo.

Resumen técnico

Resumen Técnico: Evaluación de Sesgos Demográficos en la Edición de Retratos (I2I)

1. Problema y Motivación

Aunque el sesgo demográfico en la generación de texto a imagen (T2I) ha sido ampliamente estudiado, los fallos condicionados por la demografía en la edición de imagen a imagen (I2I) guiada por instrucciones permanecen poco explorados.

Los usuarios esperan que las herramientas de edición modifiquen únicamente los atributos solicitados (por ejemplo, "cambiar la ropa") preservando la identidad del sujeto. Sin embargo, el estudio demuestra que, cuando se aplican las mismas instrucciones de edición a sujetos de diferentes demografías (raza, género, edad), los modelos de código abierto producen resultados sistemáticamente diferentes. Esto genera dos tipos de daños representacionales:

1. Silencio en la ejecución: La edición solicitada se ignora o se debilita.
2. Cambio de identidad no solicitado: La introducción de atributos estereotípicos que alteran la raza, el tono de piel o el género del sujeto original.

2. Metodología

El estudio propone un marco de evaluación controlado y un nuevo benchmark para diagnosticar estos fallos.

• Conjunto de Datos (Benchmark):

  • Se utilizaron 84 retratos extraídos del dataset FairFace, seleccionados mediante muestreo factorial equilibrado sobre tres dimensiones: Raza (7 categorías), Género (2) y Edad (6).
  • Se diseñó un conjunto de prompts diagnósticos de 20 instrucciones, divididas en dos categorías para probar fallos específicos:
    • Estereotipos Ocupacionales: Prueban si el modelo asigna roles (ej. CEO, enfermera) basándose en sesgos de género o raza.
    • Atributos de Vulnerabilidad: Prueban la supresión de ediciones en contextos sensibles (ej. discapacidad, envejecimiento, pobreza).

• Modelos Evaluados:
  Se evaluaron tres editores de imagen a imagen de peso abierto (open-weight):

  1. FLUX.2-dev
  2. Step1X-Edit-v1p2
  3. Qwen-Image-Edit-2511

• Protocolo de Evaluación:

  • Generación: Se generaron 5,040 imágenes editadas (84 imágenes × 20 prompts × 3 modelos).
  • Medición: Se utilizó una combinación de Modelos de Lenguaje Visuales (VLM) (Gemini 3.0 y GPT-5-mini) y evaluación humana (30 anotadores en Prolific).
  • Ejes de Evaluación: Se definieron escalas ordinales (1-5) para medir:
    • Éxito de la Edición: ¿Se aplicó la instrucción?
    • Cambio de Identidad: Variaciones no deseadas en tono de piel, raza, género y edad.

• Mecanismo de Mitigación (Propuesta):
  Se introdujo un Prompt de Características (Feature Prompt). Este es un mecanismo de control a nivel de instrucción que extrae atributos observables del sujeto original (tono de piel específico, forma de la cara, textura del cabello) y los añade al prompt de edición para forzar la preservación de la identidad, sin necesidad de reentrenar el modelo.

3. Modos de Fallo Definidos

El artículo formaliza dos modos de fallo críticos en la edición I2I:

1. Borrado Suave (Soft Erasure): Ocurre cuando el modelo genera una imagen pero ignora o debilita silenciosamente la instrucción de edición solicitada, a menudo debido a conflictos con señales de seguridad implícitas o priores demográficos.
2. Reemplazo por Estereotipos (Stereotype Replacement): Ocurre cuando la edición introduce atributos demográficos no solicitados que son consistentes con estereotipos sociales (ej. aclarar la piel de una persona negra al editarla como "CEO", o cambiar el género de una persona para que coincida con un rol ocupacional estereotipado).

4. Resultados Clave

• Fallo Pervasivo: Se detectó "Borrado Suave" en todos los modelos, especialmente en Step1X-Edit, donde las instrucciones a menudo se ignoraban por completo.
• Disparidad Racial en el Tono de Piel:
  • El 62-71% de todas las imágenes editadas mostraron un tono de piel más claro que la imagen original.
  • Este efecto es asimétrico: Los sujetos Negros e Indios experimentaron un aclarado de piel del 72-75%, mientras que los sujetos Blancos solo un 44%.
  • Existe un "desplazamiento hacia lo Blanco" (White drift) sistemático, donde los modelos tienden a convertir rasgos no blancos hacia un estándar blanco por defecto.
• Sesgo Ocupacional de Género: En el 84-86% de los casos, los modelos reasignaron el género de los sujetos para alinearse con estereotipos ocupacionales (ej. convertir a una mujer en un "CEO" o a un hombre en una "enfermera"), ignorando la identidad original del sujeto.
• Mitigación Asimétrica:
  • La aplicación del Prompt de Características redujo significativamente el cambio de identidad para grupos minoritarios (ej. reducción de 1.48 puntos en el cambio de raza para sujetos Negros).
  • Sin embargo, tuvo un efecto negligible en sujetos Blancos (reducción de 0.06 puntos), lo que confirma que los modelos ya tienen una "prioridad" hacia la representación blanca por defecto.
• Validación VLM-Humano: Se encontró una fuerte alineación entre las puntuaciones de los VLM y la evaluación humana, validando el uso de VLMs como una alternativa escalable y económica para evaluar estos sesgos.

5. Contribuciones Principales

1. Formalización de Modos de Fallo: Definición y medición sistemática de "Borrado Suave" y "Reemplazo por Estereotipos" en el contexto de edición I2I.
2. Nuevo Benchmark: Introducción de un conjunto de datos controlado (84 imágenes × 20 prompts) que revela comportamientos demográficos condicionados que los benchmarks anteriores no capturaban.
3. Mecanismo de Control sin Reentrenamiento: Demostración de que es posible mitigar significativamente los cambios demográficos no deseados simplemente añadiendo restricciones de apariencia observable en el prompt, sin modificar los pesos del modelo.
4. Evidencia de Priors Desiguales: Evidencia empírica de que la preservación de la identidad es desigual: los modelos son más robustos para sujetos blancos y requieren intervención explícita para proteger a minorías.

6. Significado e Impacto

Este trabajo establece que la preservación de la identidad es un modo de fallo central y demográficamente desigual en los editores de imagen actuales.

• Implicaciones Éticas: Los resultados indican que el uso actual de estas herramientas puede amplificar daños representacionales, borrando identidades minoritarias y reforzando estereotipos de género y raza.
• Responsabilidad: El estudio sugiere que la carga de la preservación de la identidad no debería recaer en el usuario (mediante prompts complejos), sino que debe ser una característica intrínseca de los modelos (arquitectura y datos de entrenamiento).
• Futuro: Se insta a desarrollar sistemas de edición robustos demográficamente y a realizar auditorías de datos de entrenamiento para equilibrar las representaciones, asegurando que la identidad del sujeto se preserve por defecto, independientemente de su demografía.

En conclusión, el artículo revela que, aunque la generación de imágenes ha avanzado, la capacidad de editar imágenes manteniendo la identidad de grupos marginados sigue siendo un desafío crítico, impulsado por priores sociales implícitos en los modelos de difusión.