Text-to-image models globally default to male, enforce gender stereotypes, and penalize female and nonbinary representations
Este estudo apresenta a maior análise global de modelos de texto para imagem, revelando que eles recorrem sistematicamente a representações masculinas, impõem estereótipos de gênero rígidos e marginalizam identidades não binárias, amplificando, assim, os vieses de gênero estruturais e causando danos psicológicos a grupos sub-representados.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
No zumbido silencioso de uma fazenda de servidores, um novo tipo de artista está trabalhando. Ele não segura um pincel ou uma câmera, mas, em vez disso, escuta palavras e pinta imagens. Esta tecnologia, conhecida como geração de texto para imagem, explodiu em popularidade, criando bilhões de imagens em apenas alguns anos. Esses sistemas são treinados em vastas coleções de fotos e textos da internet, aprendendo a conectar palavras como "médico" ou "mãe" com os detalhes visuais que viram anteriormente. Como essas ferramentas são agora usadas por milhões de pessoas para criar anúncios, histórias e designs, as imagens que produzem tornaram-se uma força poderosa na moldagem de como vemos o mundo. Se uma máquina desenha consistentemente um médico como um homem e uma enfermeira como uma mulher, ela não está apenas refletindo um erro; ela está reforçando a crença de que esses papéis pertencem a gêneros específicos. A questão que os pesquisadores fazem agora não é apenas se essas máquinas cometem erros, mas que tipo de mundo elas estão construindo silenciosamente para nós, uma imagem de cada vez.
Uma equipe de pesquisadores partiu para investigar essa paisagem oculta, pedindo a quatro modelos líderes de texto para imagem que gerassem quase um milhão de fotos. Eles não pediram simplesmente imagens aleatórias; eles construíram um experimento global massivo. Pediram aos modelos que desenhassem pessoas de vinte e dois países diferentes trabalhando em mais de cem empregos e realizando várias atividades cotidianas. Crucialmente, eles frequentemente deixavam o gênero da pessoa não especificado, pedindo apenas por "uma pessoa indiana trabalhando como tradutora" ou "um alemão cuidando de um jardim". Ao analisar os resultados, a equipe descobriu um padrão consistente: quando o comando não especificava um gênero, os modelos quase sempre escolhiam desenhar um homem. Em média, 68,6 por cento das imagens geradas a partir desses pedidos neutros retratavam homens, um número que subia ainda mais para empregos que envolviam autoridade ou poder. Essa tendência ao masculino não foi uniforme em todo o mundo; foi mais pronunciada em países com níveis mais altos de desigualdade de gênero e menor renda, sugerindo que a tecnologia absorve e amplifica os preconceitos sociais dos lugares onde é utilizada.
O estudo também examinou de perto a qualidade das imagens produzidas. Quando os pesquisadores pediram gêneros específicos, descobriram que as imagens de homens eram consistentemente avaliadas como de maior qualidade, mais realistas e melhor compreendidas pelo computador do que as imagens de mulheres. Essa lacuna era maior quando mulheres eram retratadas em empregos tradicionalmente ocupados por homens. Nesses casos, as imagens de mulheres eram frequentemente julgadas como menos plausíveis ou menos realistas do que as imagens de homens nas mesmas funções. Os modelos também caíram em estereótipos rígidos sobre como homens e mulheres deveriam parecer. Imagens de homens eram frequentemente mostradas como sérios, musculosos e mais velhos, enquanto imagens de mulheres eram quase sempre representadas como jovens, magras, sorridentes e atraentes. Esse "estereotipagem bidirecional" significa que as máquinas não estão apenas tornando os homens o padrão, mas estão construindo ativamente dois roteiros visuais muito diferentes e limitantes para cada gênero.
Talvez a descoberta mais impressionante tenha sido relativa às pessoas que não se encaixam nas categorias binárias de homem ou mulher. Quando os pesquisadores pediram aos modelos para gerar pessoas não binárias, os sistemas tiveram dificuldades significativas. As imagens produzidas eram frequentemente de baixa qualidade, não capturavam o comando ou recorriam ao padrão de mostrar homens jovens. Isso sugere que, para esses modelos, as identidades não binárias não são apenas sub-representadas, mas são amplamente ilegíveis. Para entender o impacto humano dessas descobertas, os pesquisadores convidaram milhares de pessoas para visualizar imagens de si mesmas — pessoas que compartilhavam a mesma nacionalidade e gênero dos sujeitos nas fotos. O feedback foi revelador. Muitos participantes descreveram sentir uma sensação de exclusão ou insegurança ao verem suas identidades reduzidas a modelos estreitos e estereotipados. Uma pessoa observou que ver um "modelo" de sua identidade parecia estranho, como se a máquina tivesse uma ideia muito específica e limitada do que uma pessoa de seu país deveria parecer. No entanto, quando as imagens quebravam esses estereótipos — mostrando uma mulher em um papel de alto poder ou uma pessoa não binária de uma forma que parecesse autêntica — os participantes descreveram sentir-se afirmados e empoderados.
Os pesquisadores enfatizam que esses resultados não são culpa de um único modelo ou de uma única empresa. Eles testaram quatro sistemas diferentes de desenvolvedores distintos, incluindo aqueles baseados na Alemanha, no Reino Unido e na China, e encontraram os mesmos padrões em todos eles. Essa consistência aponta para um problema mais profundo, enraizado nos dados e métodos compartilhados usados para treinar essas tecnologias. O estudo conclui que essas máquinas não são ferramentas neutras; elas estão codificando um conjunto de lógicas de gênero que tratam o homem como o padrão humano, penalizam as mulheres por saírem de papéis tradicionais e apagam as identidades não binárias. À medida que esses sistemas se tornam mais integrados às nossas vidas diárias, as imagens que geram correm o risco de se tornar uma profecia autorrealizável, estreitando silenciosamente nossa imaginação coletiva sobre quem pertence a onde e quem tem o direito de ser visto.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.