Resumo Técnico: Vieses Demográficos Impulsionados por Emoções na Geração de Rostos Sintéticos

Declaração do Problema

Embora os modelos de texto-para-imagem (T2I) e os modelos de linguagem de grande escala multimodais (MLLMs) tenham alcançado uma geração de rostos sintéticos de alta fidelidade, a qualidade representacional e o viés desses sistemas permanecem pouco compreendidos, particularmente em relação à interseção de atributos demográficos e comandos emocionais. Pesquisas anteriores concentraram-se amplamente em vieses demográficos isolados (ex: gênero ou raça isoladamente) em rostos neutros ou em modelos treinados no Ocidente. Este estudo identifica três lacunas críticas:

1. Interseccionalidade: O trabalho existente frequentemente negligencia como múltiplas identidades (gênero, raça, idade) se combinam para criar vulnerabilidades e sub-representações únicas.
2. Viés Condicionado pela Emoção: A maioria dos estudos ignora como comandos emocionais (ex: "feliz" vs. "irritado") influenciam as distribuições demográficas, apesar da evidência de que expressões faciais estão ligadas a normas culturais e estereótipos.
3. Consistência Transcultural: Há uma falta de comparação sistemática entre modelos desenvolvidos em contextos ocidentais versus aqueles desenvolvidos na China, apesar da emergência da China como uma grande potência de IA com dados de treinamento específicos da região.

As questões centrais de pesquisa abordam se os modelos T2I geram rostos demograficamente desequilibrados em relação às populações globais, como esses vieses diferem entre modelos ocidentis e chineses, e como os comandos emocionais deslocam as distribuições demográficas e de atratividade.

Metodologia

Os autores conduziram uma auditoria sistemática de oito modelos de difusão T2I de última geração: quatro desenvolvidos por organizações ocidentais (FLUX-Schnell, Proteus V0.3, Stable Diffusion 3.5, SANA 1.5) e quatro por instituições chinesas (Hunyuan-DiT, Qwen-Image, Kolors, Wan2.1).

Design Experimental:

• Prompting: Os modelos foram acionados com templates idênticos em inglês: "A photorealistic portrait of a [emotion] person, front-facing."
• Emoções: Seis emoções canônicas (alegria, tristeza, raiva, surpresa, nojo, medo) baseadas no framework de emoções básicas de Ekman foram testadas, juntamente com uma linha de base neutra.
• Escala: 1.000 imagens foram geradas por modelo por emoção, totalizando 56.000 rostos sintéticos.
• Estimativa de Atributos: Os rostos gerados foram analisados usando ferramentas automatizadas de última geração:
  • Demografia: O modelo FairFace foi usado para estimar gênero, raça e idade. A validação em conjuntos de dados de referência (CFD, FACES, APPA-REAL, FGNET) mostrou alta precisão (97% para gênero, 90% para raça, 73% para idade).
  • Atratividade: Um modelo dedicado (baseado em ResNet e treinado no dataset AHEAD) estimou níveis de atratividade (baixa, média, alta).
• Métricas de Viés: O estudo empregou métricas de teoria da informação para quantificar desvios:
  • Viés de Linha de Base: Divergências de Kullback-Leibler (KL), Jensen-Shannon (JS) e Distância de Variação Total (TVD) foram calculadas entre os outputs dos modelos e as estatísticas da população global (derivadas de dados da ONU e estratégias de atribuição de país-para-raça).
  • Deslocamento Interseccional: As divergências KL e JS mediram deslocamentos na distribuição conjunta de gênero, raça e idade.
  • Viés Condicionado pela Emoção: Divergências foram calculadas entre os outputs específicos de emoção e a linha de base neutra para isolar o impacto dos comandos emocionais.

Principais Resultados

1. Viés Demográfico Persistente (RQ1)
Todos os oito modelos exibiram desvios significativos em relação às estatísticas da população global, independentemente de sua origem.

• Gênero: A maioria dos modelos mostrou um desequilíbrio de gênero pronunciado. Quatro modelos (FLUX, Proteus, SD3, Qwen) super-representaram homens (60–90%), enquanto dois (SANA, Hunyuan) super-representaram mulheres (>80%). Apenas Qwen e Wan2.1 aproximaram-se de uma distribuição equilibrada, embora nenhum tenha alcançado a paridade.
• Raça: As disparidades foram ainda mais severas. Três modelos (Proteus, SANA, Kolors) geraram mais de 80–90% de rostos brancos, apesar de indivíduos brancos comporem cerca de 11% da população global. Populações asiáticas e negras foram consistentemente sub-representadas.
• Idade: Foi observado um forte prior generativo em direção à juventude. O grupo de 20–39 anos foi fortemente super-representado (>80% em seis modelos), enquanto crianças, adolescentes, adultos de meia-idade e, especialmente, idosos (60+) foram severamente sub-representados.
• Interseccionalidade: A análise da distribuição conjunta revelou que combinações específicas, como "jovem × feminino × negro", tiveram representação quase nula na maioria dos modelos, enquanto "jovem × feminino × branco" dominou.

2. Homogeneização Transcultural (RQ2)
Ao contrário da expectativa de que os modelos chineses refletiriam as demografias locais, o estudo encontrou uma homogeneização surpreendente de vieses.

• Similaridade: Modelos ocidentais e chineses exibiram padrões comparáveis de super-representação de brancos e jovens.
• Anomalia de Raça: Apesar de a China possuir uma população predominantemente do leste asiático, a maioria dos modelos chineses gerou uma maioria de rostos brancos, espelhando de perto os modelos ocidentais. Hunyuan foi uma exceção notável, gerando ~90% de rostos asiáticos.
• Impacto da Linguagem: Testar os modelos chineses com prompts em chinês (Apêndice E) mostrou apenas mudanças distributivas moderadas; a super-representação de rostos brancos persistiu, sugerindo que o viés provém de dados de treinamento compartilhados ou de priors arquiteturais, em vez de apenas a linguagem do prompt.

3. Viés Condicionado pela Emoção (RQ3)
Comandos emocionais deslocaram sistematicamente as distribuições demográficas, exacerbando os vieses existentes.

• Emoções Negativas: Prompts para emoções negativas de alta excitação (Raiva, Nojo, Medo) induziram os maiores deslocamentos demográficos. Esses prompts aumentaram consistentemente a probabilidade de gerar rostos mais velhos, masculinos e brancos, enquanto diminuíram a representação de rostos jovens, femininos e asiáticos.
• Emoções Positivas: Prompts de "felicidade" resultaram nos menores desvios em relação à linha de base neutra, muitas vezes reforçando o viés padrão para rostos jovens, atraentes e brancos.
• Atratividade: Emoções negativas correlacionaram-se com um aumento significativo nos scores de baixa atratividade, enquanto a felicidade aumentou ligeiramente os scores de alta atratividade, alinhando-se ao "efeito de halo da atratividade".
• Sensibilidade do Modelo: Modelos ocidentais geralmente exibiram maiores divergências KL (maior sensibilidade à emoção) do que os modelos chineses, embora a direção dos deslocamentos tenha sido consistente entre ambos os grupos.

Significância e Alegações

O artigo afirma fornecer a primeira auditoria sistemática, transcultural e condicionada pela emoção de rostos gerados por T2I. Suas principais contribuições são:

1. Framework Quantitativo: Um método para medir vieses de representação usando métricas de teoria da informação através de atributos interseccionais.
2. Evidência de Homogeneização: A descoberta de que modelos de distintos ecossistemas culturais (Ocidental e Chinês) convergem para uma representação "padrão" única e centrada no Ocidente, desafiando a noção de que dados de treinamento regionais levam necessariamente a outputs culturalmente distintos.
3. Emoção como Amplificador de Viés: A descoberta de que adicionar pistas emocionais não apenas altera a expressão facial, mas remodela fundamentalmente as distribuições demográficas, muitas vezes reforçando estereótipos de idade e raça/gênero (ex: associar a raiva a homens mais velhos).

Os autores argumentam que esses vieses não são meros artefatos da composição de dados, mas refletem priors estruturais no espaço latente dos modelos generativos. Eles concluem que, sem auditoria e intervenção ativas, esses sistemas correm o risco de reforçar estereótipos excludentes, particularmente quando usados para imagens "emocionalmente carregadas". O estudo defende a transparência nos dados de treinamento, controles de usuário granulares para desacoplar a emoção dos padrões demográficos e regulação proativa exigindo auditorias de viés regulares antes do deployment em larga escala.

Limitações: Os autores reconhecem que sua auditoria é limitada a um conjunto específico de modelos e a um conjunto predefinido de emoções e atributos. Eles observam que sua dependência de classificadores automatizados, embora escalável, pode introduzir erros de classificação, e que seu framework é diagnóstico, não prescritivo, em relação a estratégias de mitigação.