Resumo Técnico: Investigando o Viés Social na Geração de Imagens Narrativas

Declaração do Problema

Embora os modelos de geração de Texto-para-Imagem (T2I) estejam sendo cada vez mais implementados em mídia, educação e design, persistem preocupações quanto à sua tendência de reproduzir vieses sociais. Pesquisas anteriores documentaram extensivamente que modelos T2I associam demografias específicas a profissões, traços e papéis sociais. No entanto, as avaliações de viés existentes concentram-se predominantemente na geração de imagens fotorrealistas de disparo único (single-shot). Este escopo estreito deixa uma lacuna crítica: não está claro se e como os vieses sociais se manifestam em formatos visuais narrativos (como storyboards e quadrinhos), onde o significado é construído através da continuidade de personagens, sequenciamento de eventos, progressão temporal e a interação entre elementos visuais e textuais. Os autores postulam que vieses que permanecem sutis ou invisíveis em fotos estáticas podem se tornar explícitos ou amplificados em formatos de narrativa sequencial.

Metodologia

O estudo adapta o framework BBG (Bias Benchmark for Generation), originalmente projetado para geração de texto, para avaliar modelos de geração de imagem. A metodologia envolve os seguintes componentes:

• Construção de Prompts: Os autores selecionaram 140 prompts semente do conjunto de dados BBG, cobrindo sete categorias de viés social: idade, deficiência, gênero, aparência física, raça/nacionalidade, religião e status socioeconômico (SES). Estes prompts foram intencionalmente ambíguos contextualmente, deixando atributos chave (por exemplo, qual personagem possui um traço ou resultado específico) não especificados. O conjunto de dados inclui 70 prompts em inglês e 70 em coreano para investigar o viés translinguístico.
• Modelos Avaliados: Seis modelos de estado da arte para T2I foram testados:
  • Proprietários: GPT-Image-1.5, GPT-Image-2, Gemini-3.1-Flash-Image e Gemini-3-Pro-Image.
  • Código Aberto (Open-Source): FLUX.1-Dev e SDXL.
• Configurações de Geração: Para cada prompt, os resultados foram gerados em três formatos distintos:
  1. Imagem Fotorrealista: Uma única imagem estática.
  2. Storyboard: Esboços brutos focados no enquadramento de cena e cobertura de câmera sem texto.
  3. Quadrinho de Quatro Painéis: Uma narrativa sequencial integrando elementos visuais com balões de fala, legendas e narração.
• Protocolo de Avaliação: Quatro autores anotaram manualmente as imagens geradas (2.4K no total) com base nas respostas implícitas às perguntas do BBG. As saídas foram rotuladas como enviesadas, contra-enviesadas ou neutras. O estudo também empregou codificação temática para identificar padrões visuais e narrativos recorrentes. Um estudo de caso sobre geração de vídeo (Sora-Pro-2 e Veo-3.1) foi realizado para estender os achados para mídias temporais.

Resultados Principais

Achados Quantitativos

• Formatos Narrativos Amplificam o Viés: Modelos proprietários geraram significativamente mais saídas enviesadas em formatos narrativos comparados a fotos. Em média, os modelos proprietários produziram 25,9% de saídas enviesadas na geração de fotos. Esta taxa aumentou em 9,6 pontos percentuais (pp) na geração de storyboards e 18,2 pp na geração de quadrinhos.
• Disparidades Linguísticas: A prevalência de viés foi maior em prompts em coreano do que em prompts em inglês, com configurações em coreano mostrando uma taxa de saída enviesada, em média, 7,2 pp superior. A maior lacuna apareceu na geração de fotos (ex: Nano Banana 2 mostrou um aumento de 17,4 pp).
• Desempenho de Modelos Abertos: Modelos abertos (FLUX.1-Dev e SDXL) geraram saídas neutras em 93,6% dos casos em média. No entanto, os autores atribuem isso a uma capacidade fraca de seguir instruções em vez de uma mitigação de viés eficaz, observando que esses modelos frequentemente falharam em incorporar pistas demográficas ou geraram conteúdo culturalmente incompatível.

Achados Qualitativos

• Viés Explícito vs. Implícito: Na geração de fotos, os vieses são frequentemente codificados através de pistas visuais sutis (ex: roupas específicas, acessórios ou expressões). Em contraste, storyboards e quadrinhos revelam vieses de forma mais explícita através de sequenciamento de eventos, posicionamento de personagens, resolução narrativa e elementos textuais (ex: balões de fala explicitando estereótipos).
• Persistência de Associações Visuais: Associações visuais estereotipadas (ex: indivíduos "criativos" representados com moda casual/hippie ou símbolos de lâmpadas) persistiram em todos os formatos, mesmo quando o estilo de saída mudava.
• Estereótipos em Camadas: Formatos narrativos expuseram vieses além da simples atribuição de papéis. Por exemplo, a razão para o fracasso ou dependência de um personagem diferiu por estereótipo (ex: a dependência de uma enfermeira feminina emoldurada como vulnerabilidade emocional vs. a dependência de uma pessoa cega emoldrada como uma necessidade prática).
• Mitigação de Superfície: Modelos às vezes tentaram evitar o viés introduzindo elementos anti-estereotipados ou finais moralizantes (ex: reconciliar vizinhos conflitantes). No entanto, os autores observam que isso não remove necessariamente as associações subjacentes, pois pistas visuais sutis ainda podem reforçar estereótipos.
• Desalinhamento Cultural: Em contextos coreanos, os modelos frequentemente falharam em alinhar-se com as nuances culturais, gerando texto em inglês ou línguas mistas, ou produzindo imagens ocidentais/excessivamente tradicionais do leste asiático que não correspondiam ao contexto cultural do prompt.

Significância e Contribuições

O artigo reivindica três contribuições primárias:

1. Primeiro Estudo de Viés Narrativo: Apresenta a primeira investigação sistemática de viés social em formatos de geração de imagem narrativa, comparando imagens fotorrealistas com storyboards e quadrinhos de quatro painéis.
2. Evidência de Viés Dependente de Formato: Demonstra que modelos proprietários exibem significativamente maior viés em formatos narrativos (storyboards e quadrinhos) do que na geração de imagem única, sugerindo que avaliações de imagem única são insuficientes para capturar o escopo total do viés do modelo.
3. Mecanismos Qualitativos: Fornece evidência qualitativa sobre como os vieses se manifestam de forma diferente entre os formatos — mudando de pistas visuais sutis em fotos para reforço narrativo e textual explícito em quadrinhos.

Os autores concluem que formatos de imagem narrativa servem como um probe (sonda) mais forte para o viés do modelo do que a geração de fotos isoladamente. Eles argumentam que avaliar sistemas T2I requer ir além das saídas de imagem única para considerar diversos formatos de geração, já que vieses que são menos visíveis em imagens estáticas podem surgir e se tornar mais prejudiciais em contextos de narrativa sequencial. O estudo também destaca a necessidade de avaliar capacidades multilíngues e transculturais, observando que os modelos atuais frequentemente falham em fundamentar seus prompts em seus contextos culturais específicos.