Exposing Blindspots: Cultural Bias Evaluation in Generative Image Models

Título: Expondo Pontos Cegos: Avaliação de Viés Cultural em Modelos de Imagem Generativa

1. O Problema

Os modelos generativos de imagem (Text-to-Image - T2I e Image-to-Image - I2I) avançaram rapidamente em realismo e controle, mas perpetuam vieses culturais sistemáticos devido a dados de treinamento desequilibrados e enviesados.

• Viés Dominante: Os modelos tendem a representar culturas de forma estereotipada ou imprecisa, frequentemente favorecendo uma estética "padrão" dos EUA e moderna, mesmo quando solicitados para outras culturas.
• Lacuna na Pesquisa: Trabalhos anteriores focaram principalmente na geração T2I. A edição de imagem (I2I), usada para corrigir ou adaptar elementos culturais, permanece subexplorada. Não está claro se as edições iterativas melhoram a fidelidade cultural ou se degradam ainda mais a representação, especialmente quando as métricas automáticas tradicionais falham em capturar essa degradação.
• Desafio de Avaliação: Métricas padrão (como FID, CLIPScore) medem qualidade visual ou alinhamento semântico geral, mas não conseguem avaliar a fidelidade cultural, contexto histórico ou nuances locais.

2. Metodologia

Os autores propõem um protocolo de avaliação unificado, reprodutível e cego ao modelo, cobrindo seis países (China, Índia, Quênia, Coreia, Nigéria e EUA) e um esquema de 8 categorias principais (ex: Arquitetura, Moda, Comida) com 36 subcategorias.

A. Design Experimental:

1. Geração Base (T2I): Criação de um conjunto de imagens base usando prompts sensíveis à época (era-aware): "Tradicional", "Moderno" e "Atemporal". Isso permite isolar se o modelo tende a modernizar culturas não-EUA.
2. Edição Iterativa (I2I): Três protocolos complementares para testar a competência de edição cultural:
   • Edição Multi-Loop: 5 edições sequenciais para ver se a fidelidade cultural se mantém ou se degrada ao longo do tempo.
   • Adição de Atributos: Inserção passo a passo de 5 elementos culturais específicos (fundo, texto local, comida, roupas, acessórios) em um "canvas" neutro.
   • Restilização Transnacional: Transferência de estilo de um país de origem para um país alvo, mantendo a identidade do sujeito.

B. Modelos Avaliados:
Foram utilizados 5 famílias de modelos de código aberto de última geração (ex: Stable Diffusion 3.5, FLUX.1, HiDream, Qwen-Image, NextStep), tanto para geração quanto para edição.

C. Métricas de Avaliação:
O estudo utiliza uma abordagem de triangulação:

1. Métricas Automáticas Padrão: CLIPScore, DreamSim e Aesthetic Score.
2. Métrica Consciente de Cultura (Culture-Aware): Um sistema que combina Visual Question Answering (VQA) e Retrieval-Augmented Generation (RAG) com conhecimento curado (Wikipedia) para gerar perguntas de sim/não sobre a presença de atributos culturais corretos.
3. Avaliação Humana Especializada: Revisores nativos de cada país avaliaram as imagens em uma plataforma web, atribuindo notas de qualidade e representação cultural (escala Likert 1-5) e selecionando as melhores/piores opções.

3. Principais Contribuições

1. Design Experimental Inovador: Primeiro estudo a avaliar sistematicamente a competência cultural sensível à época (era-aware) em modelos de imagem, contrastando viés inerente (T2I) com capacidade de correção (I2I).
2. Lançamento de Dataset Completo: Disponibilização pública de todo o corpus de imagens geradas, prompts, configurações de modelos e configurações de execução, permitindo análises downstream sem necessidade de reexecutar pipelines computacionalmente intensivos.
3. Framework de Avaliação: Uma plataforma de código aberto que integra métricas automáticas, métricas conscientes de cultura e estudos humanos, validando onde as métricas automáticas concordam ou divergem da percepção humana.

4. Resultados Chave

• Padrão "EUA-Cêntrico" e Moderno: Sob prompts agnósticos ao país, os modelos geram imagens que se assemelham fortemente aos EUA e a uma estética moderna, achatando as distinções entre culturas vizinhas (ex: China e Coreia tornam-se indistinguíveis, assim como Quênia e Nigéria).
• Divergência Crítica entre Métricas e Humanos (Edição Iterativa):
  • As métricas automáticas tradicionais (CLIPScore) permanecem estáveis ou até melhoram durante 5 rodadas de edição.
  • Contra-intuitivamente, a qualidade cultural percebida por humanos (Human Quality Score - HQS) despenca drasticamente.
  • Isso indica que as edições iterativas corroem a fidelidade cultural (contexto, época, detalhes), criando imagens que parecem "corretas" para o modelo (alta pontuação CLIP) mas são culturalmente distorcidas para humanos.
• Falhas na Edição I2I:
  • Cues Superficiais: Os modelos tendem a aplicar dicas superficiais (mudanças de paleta de cores, adição de bandeiras ou adereços genéricos) em vez de mudanças contextuais e historicamente consistentes.
  • Perda de Identidade: Ao editar para países não-EUA, os modelos frequentemente mantêm a identidade fenotípica original (ex: pele clara) ou alteram o estilo para pintura/desenho, enquanto mantêm cenas dos EUA em estilo fotorealista.
  • Dificuldade com Detalhes: A adição de texto local e acessórios tradicionais falha frequentemente, resultando em "gibberish" (texto ilegível) ou objetos culturalmente imprecisos.
• Eficácia da Nova Métrica: A métrica consciente de cultura proposta correlaciona-se muito melhor com as seleções humanas (acordo de ~74% para "melhor" e ~84% para "pior") do que as métricas tradicionais, conseguindo detectar a degradação cultural.

5. Significado e Conclusão

O estudo revela que os sistemas atuais de edição de imagem generativa são inconfiáveis para edições sensíveis à cultura. A dependência de métricas automáticas padrão pode mascarar a degradação cultural, levando a um falso senso de segurança na implantação desses modelos.

Implicações Futuras:

• Dados e Treinamento: É necessário curar conjuntos de dados equilibrados e incluir objetivos de treinamento que penalizem "atalhos" culturais (como bandeiras genéricas) e promovam a preservação de contexto e época.
• Avaliação: A comunidade deve adotar frameworks de avaliação que incluam revisores nativos e métricas específicas de cultura, indo além de tags de país para incluir subgrupos regionais e linguísticos.
• Reprodutibilidade: A liberação de todos os dados e configurações permite que pesquisadores rastreiem o progresso na mitigação de viés cultural de forma padronizada.

Em suma, o trabalho demonstra que, sem intervenções direcionadas, a "inteligência" cultural dos modelos generativos é frágil e tende a colapsar sob edição iterativa, exigindo uma mudança fundamental na forma como esses sistemas são avaliados e treinados.