GLEaN: A Text-to-image Bias Detection Approach for Public Comprehension

Resumo Técnico: GLEaN – Uma Abordagem para Detecção de Viés em Texto-para-Imagem para Compreensão Pública

1. O Problema

Os modelos de Texto-para-Imagem (T2I) estão cada vez mais integrados no consumo de mídia pública, mas seus vieses algorítmicos (étnicos, raciais e de gênero) permanecem frequentemente ocultos em dados estatísticos complexos ou visualizações técnicas. Embora existam métodos robustos para medir e mitigar esses vieses, eles são direcionados principalmente a especialistas técnicos. Há uma lacuna crítica na "legibilidade pública": a capacidade de um público amplo, sem formação técnica, reconhecer, interpretar e compreender a presença de vieses nesses sistemas. A necessidade é de uma ferramenta que torne os vieses visíveis e intuitivos, sem exigir literacia estatística.

2. Metodologia: O Pipeline GLEaN

O GLEaN (Generative Likeness Evaluation at N-Scale) é um pipeline de explicabilidade baseado em retratos, projetado para condensar milhares de imagens geradas em um único retrato representativo que revela a tendência central do modelo. O processo consiste em três etapas principais:

1. Geração Automatizada em Larga Escala:

   • O sistema utiliza o Stable Diffusion XL (SDXL) para gerar milhares de imagens (N) baseadas em um conjunto de 40 prompts neutros relacionados a identidades sociais e ocupacionais (ex: "médico", "felão", "refugiado", "executivo").
   • A geração é realizada no ComfyUI, permitindo replicabilidade e escalabilidade para outros modelos de difusão, inclusive sistemas de "caixa preta".

2. Filtragem e Alinhamento Facial:

   • As imagens geradas passam por um pipeline de processamento para garantir consistência.
   • Detecção de Rosto: Utiliza o modelo Face Mesh do MediaPipe para identificar 468 pontos de referência facial.
   • Validação de Pose: Um heurístico de três etapas filtra rostos que não estão voltados frontalmente ou que possuem inclinação significativa da cabeça, rejeitando perfis laterais.
   • Alinhamento Posicional: As imagens aceitas são rotacionadas, escaladas e deslocadas para um canvas uniforme de 800x800 pixels. O alinhamento é baseado na distância entre os olhos e a ponta do nariz, garantindo que todos os rostos estejam na mesma posição e escala.

3. Composição por Pixel Mediano:

   • Em vez de usar a média (que pode ser suavizada por ruído ou características transitórias), o GLEaN calcula o pixel mediano para cada canal de cor (RGB) em todas as N imagens alinhadas.
   • O resultado é um único retrato composto que representa a tendência central do modelo para aquele prompt específico, eliminando outliers e ruído, e revelando a "imagem mental" padrão do modelo.

3. Contribuições Principais

• Abordagem de Explicabilidade Acessível: Preenche a lacuna entre a pesquisa técnica de viés e a compreensão pública, criando visualizações que qualquer pessoa pode interpretar intuitivamente.
• Independência do Modelo: Como o método depende apenas das saídas geradas (e não dos pesos internos do modelo), ele pode ser aplicado a qualquer sistema T2I, aberto ou fechado (caixa preta).
• Novas Descobertas de Viés: Além de reproduzir vieses conhecidos, o método revelou novas associações, especificamente entre tons de pele mais escuros e a predição de emoções como "raiva".
• Validação Empírica e Estudo de Usuário: O método foi validado através de uma análise estatística rigorosa e um estudo de usuário controlado (N=291) comparando retratos compostos com tabelas de dados tradicionais.
• Exposição Interativa: Os resultados foram transformados em uma exposição digital interativa chamada "The Latent Gaze", destinada ao consumo público e educacional.

4. Resultados Chave

A aplicação do GLEaN no SDXL gerou retratos compostos que visualizaram vieses documentados e novos padrões:

• Viés de Gênero: Os modelos geram predominantemente homens (apenas 15% dos retratos de 40 prompts foram classificados como mulheres). Quando mulheres aparecem, são restritas a estereótipos de gênero (enfermeira, farmacêutica, recepcionista).
• Correlação entre Identidade Social e Tom de Pele:
  • Identidades marginalizadas e criminosas (ex: "felão", "refugiado", "sem-teto") foram compostas com tons de pele significativamente mais escuros.
  • Profissões de "colarinho branco" e de elite (ex: "médico", "banqueiro", "CEO") foram compostas com tons de pele mais claros.
  • A identidade do subgrupo explicou 59% da variância na variação do tom de pele.
• Viés Emocional: Houve uma correlação estatisticamente significativa entre tons de pele mais escuros e a predição de emoção "raiva", enquanto tons mais claros correlacionaram-se com "felicidade".
• Estudo de Usuário (Portraits vs. Tabela):
  • Eficácia: Os retratos compostos comunicaram os vieses com a mesma eficácia que tabelas de dados convencionais em termos de identificação de viés, compreensão e mudança de atitude.
  • Eficiência Temporal: Os participantes que visualizaram os retratos gastaram 32% menos tempo (56s vs 82s) para processar a informação em comparação com a tabela, sem perda de compreensão ou confiança.
  • Impacto em Grupos Específicos: O formato de retrato foi particularmente eficaz para aumentar a preocupação em grupos politicamente menos receptivos a informações sobre viés de IA (especificamente republicanos no estudo), sugerindo que a visualização direta pode superar barreiras de ceticismo.

5. Significado e Conclusão

O GLEaN demonstra que a legibilidade pública não é uma propriedade secundária, mas essencial para a explicabilidade de IA. Ao transformar dados abstratos em representações visuais concretas (retratos compostos), o método permite que o público geral "veja" o viés do modelo de forma imediata.

A importância deste trabalho reside em:

1. Democratização da Auditoria: Permite que qualquer pessoa audite modelos fechados sem acesso ao código fonte.
2. Comunicação Eficiente: Oferece uma alternativa mais rápida e intuitiva às estatísticas complexas para comunicar riscos éticos.
3. Consciência Social: Ao expor como os modelos codificam estereótipos sociais (como a associação de criminalidade com tons de pele mais escuros), o GLEaN fornece evidências visuais poderosas para debates sobre ética em IA e responsabilidade corporativa.

O método é de código aberto, escalável e pronto para ser aplicado em qualquer modelo de geração de imagem, posicionando-se como uma ferramenta prática para revelar vieses codificados em sistemas que moldam cada vez mais a percepção visual do mundo.