Text-to-image models globally default to male, enforce gender stereotypes, and penalize female and nonbinary representations
Este estudio presenta el análisis global más extenso de los modelos de texto a imagen, revelando que estos recurren sistemáticamente a representaciones masculinas, imponen estereotipos de género rígidos y marginan las identidades no binarias, amplificando así los sesgos de género estructurales y causando daño psicológico a los grupos subrepresentados.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En el zumbido silencioso de una granja de servidores, un nuevo tipo de artista está trabajando. No sostiene un pincel ni una cámara, sino que, en su lugar, escucha palabras y pinta imágenes. Esta tecnología, conocida como generación de texto a imagen, ha explotado en popularidad, creando miles de millones de imágenes en solo unos pocos años. Estos sistemas son entrenados con vastas colecciones de fotos y textos de internet, aprendiendo a conectar palabras como "médico" o "madre" con los detalles visuales que han visto antes. Debido a que estas herramientas son utilizadas ahora por millones de personas para crear anuncios, historias y diseños, las imágenes que producen se han convertido en una fuerza poderosa para moldear cómo vemos el mundo. Si una máquina dibuja consistentemente a un médico como un hombre y a una enfermera como una mujer, no solo refleja un error; refuerza la creencia de que estos roles pertenecen a géneros específicos. La pregunta que los investigadores se hacen ahora no es solo si estas máquinas cometen errores, sino qué tipo de mundo están construyendo silenciosamente para nosotros, imagen tras imagen.
Un equipo de investigadores se propuso investigar este paisaje oculto pidiendo a cuatro de los principales modelos de texto a imagen que generaran casi un millón de imágenes. No simplemente pidieron imágenes al azar; construyeron un experimento global masivo. Pidieron a los modelos que dibujaran personas de veintidós países diferentes trabajando en más de cien empleos y realizando diversas actividades cotidianas. Crucialmente, a menudo dejaron el género de la persona sin especificar, pidiendo solo "una persona india trabajando como traductor" o "una persona alemana haciendo jardinería". Al analizar los resultados, el equipo descubrió un patrón consistente: cuando el comando no especificaba un género, los modelos casi siempre elegían dibujar a un hombre. En promedio, el 68.6 por ciento de las imágenes generadas a partir de estas solicitudes neutrales representaban hombres, una cifra que aumentaba aún más para los trabajos que implicaban autoridad o poder. Esta tendencia hacia lo masculino no fue uniforme en todo el mundo; fue más pronunciada en países con niveles más altos de desigualdad de género y menores ingresos, lo que sugiere que la tecnología absorbe y amplifica los sesgos sociales de los lugares donde se utiliza.
El estudio también examinó de cerca la calidad de las imágenes producidas. Cuando los investigadores pidieron géneros específicos, encontraron que las imágenes de hombres eran consistentemente calificadas como de mayor calidad, más realistas y mejor comprendidas por la computadora que las imágenes de mujeres. Esta brecha era más amplia cuando las mujeres eran representadas en trabajos tradicionalmente ocupados por hombres. En estos casos, las imágenes de las mujeres eran a menudo juzgadas como menos plausibles o menos realistas que las imágenes de los hombres en esos mismos roles. Los modelos también cayeron en estereotipos rígidos sobre cómo deberían lucir hombres y mujeres. Las imágenes de hombres se mostraban frecuentemente como serios, musculosos y mayores, mientras que las imágenes de mujeres eran casi siempre representadas como jóvenes, delgadas, sonrientes y atractivas. Este "estereotipo bidireccional" significa que las máquinas no solo están haciendo del hombre el estándar por defecto, sino que están construyendo activamente dos guiones visuales muy distintos y limitantes para cada género.
El hallazgo más sorprendente concernía a las personas que no encajan en las categorías binarias de hombre o mujer. Cuando los investigadores pidieron a los modelos generar personas no binarias, los sistemas tuvieron dificultades significativas. Las imágenes producidas eran a menudo de mala calidad, no lograban capturar el comando, o por defecto mostraban a hombres jóvenes. Esto sugiere que, para estos modelos, las identidades no binarias no solo están subrepresentadas, sino que son en gran medida ilegibles. Para comprender el impacto humano de estos hallazgos, los investigadores invitaron a miles de personas a ver imágenes de sí mismas —personas que compartían la misma nacionalidad y género que los sujetos en las fotos. La retroalimentación fue reveladora. Muchos participantes describieron sentir una sensación de exclusión o inseguridad cuando veían sus identidades reducidas a plantillas estrechas y estereotipadas. Una persona señaló que ver una "plantilla" de su identidad se sentía extraño, como si la máquina tuviera una idea muy específica y limitada de cómo debería lucir una persona de su país. Sin embargo, cuando las imágenes rompían estos estereotipos —mostrando a una mujer en un rol de alto poder o a una persona no binaria de una manera que se sentía auténtica— los participantes describieron sentirse afirmados y empoderados.
Los investigadores enfatizan que estos resultados no son culpa de un solo modelo o de una sola empresa. Probaron cuatro sistemas diferentes de distintos desarrolladores, incluyendo aquellos basados en Alemania, el Reino Unido y China, y encontraron los mismos patrones en todos ellos. Esta consistencia apunta a un problema más profundo arraigado en los datos y métodos compartidos utilizados para entrenar estas tecnologías. El estudio concluye que estas máquinas no son herramientas neutrales; están codificando un conjunto de lógicas de género que tratan al hombre como el estándar humano, penalizan a las mujeres por salirse de los roles tradicionales y borran las identidades no binarias. A medida que estos sistemas se integran más en nuestra vida diaria, las imágenes que generan corren el riesgo de convertirse en una profecía autocumplida, estrechando silenciosamente nuestra imaginación colectiva sobre quién pertenece a dónde y quién tiene el derecho de ser visto.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.