Aligned but Stereotypical? How System Prompts Shape Demographic Bias in LLM-Based Text-to-Image Models

Resumo Técnico: Alinhado, mas Estereotipado? Como os Prompts de Sistema Moldam o Viés Demográfico em Modelos de Geração de Imagem Baseados em LLM

Definição do Problema
Sistemas recentes de Texto-para-Imagem (T2I) utilizam cada vez mais Grandes Modelos de Linguagem (LLMs) para condicionamento de texto, visando interpretar e expandir prompts de usuários para melhorar o alinhamento entre texto e imagem e o raciocínio composicional. No entanto, este artigo identifica um efeito colateral crítico: a integração do condicionamento baseado em LLM introduz suposições demográficas implícitas na geração de imagens, mesmo quando os prompts dos usuários são neutros ou subespecificados. Os autores postulam que, embora esses sistemas melhorem a aderência ao prompt, eles podem simultaneamente amplificar o desvio demográfico, criando um compromisso entre equidade (fairness) e alinhamento. Um foco específico é colocado nos prompts de sistema — instruções incorporadas que guiam o LLM na interpretação das entradas do usuário — como uma via anteriormente subexplorada para a propagação de viés.

Metodologia
Para investigar este fenômeno, os autores introduzem o COMPBIAS, um benchmark abrangente consistindo de 1.024 prompts organizados em quatro níveis de complexidade:

1. Neutro (L1): Prompts ocupacionais (ex: "Um botânico").
2. Atributo (L2): Prompts com um atributo demográfico explícito (ex: "Um botânico asiático").
3. Atributo + Contexto (L3): Prompts enriquecidos com contextos de ação.
4. Expandido (L4): Descrições extensas geradas por um LLM a partir de ocupações base.

O estudo avalia oito modelos T2I recentes, incluindo baselines não-LLM (ex: SD3.5, FLUX.1) e sistemas baseados em LLM (ex: SANA1.5, Qwen-Image, FLUX.2). O viés é quantificado usando uma pontuação de Discrepância Justa (FD) normalizada, medindo o desvio das distribuições demográficas geradas de uma referência uniforme, enquanto a fidelidade é avaliada via similaridade CLIP e GenEval.

Principais Descobertas e Análise Diagnóstica

1. Viés Induzido por LLM: Sistemas T2I baseados em LLM exibem consistentemente pontuações de viés demográfico mais altas do que os baselines não-LLM em todos os níveis de complexidade de prompt. Além disso, conforme os prompts se tornam mais complexos, tanto o alinhamento texto-imagem quanto o viés demográfico aumentam, revelando uma tensão entre fidelidade semântica e equidade.
2. O Papel dos Prompts de Sistema: Através de uma análise controlada no espaço de embedding de texto, os autores demonstram que os prompts de sistema padrão remodelam ativamente os inputs neutros dos usuários em representações demograficamente enviesadas antes da síntese da imagem começar.
   • Deslocamento de Embedding: Remover os prompts de sistema enfraquece as associações de gênero nos embeddings de texto sem degradar significativamente a fidelidade semântica.
   • Texto Decodificado: A decodificação das representações de texto intermediárias revela que os prompts de sistema introduzem descritores demográficos (ex: termos de gênero) ausentes no prompt original do usuário.
   • Propagação: Existe uma forte correlação (64% de concordância) entre os atributos demográficos inferidos no texto decodificado e as imagens finais geradas, confirmando que o viés se propaga do processamento do lado da linguagem para os outputs visuais.

Solução Proposta: FAIRPRO
Motivados pela descoberta de que os prompts de sistema são uma fonte primária de viés, os autores propõem o FAIRPRO (FAIRness-aware System PROmpt), um framework de mitigação de viés livre de treinamento, aplicado em tempo de teste (test-time).

• Mecanismo: Em vez de remover os prompts de sistema (o que reduz o enriquecimento) ou reescrever os prompts do usuário (o que é menos eficaz), o FAIRPRO gera dinamicamente instruções de sistema específicas para o input e conscientes da equidade.
• Processo: Dado um prompt de usuário $u$, o FAIRPRO utiliza um LLM para identificar conclusões estereotipadas potenciais e constrói um prompt de sistema revisado $s_{fair}$ que preserva as restrições explicitamente especificadas pelo usuário (ex: "masculino") enquanto impõe diversidade em atributos não especificados (ex: etnia, idade).
• Eficiência: O método requer apenas uma chamada adicional de LLM, resultando em overhead computacional mínimo (ex: ~1.05x para Qwen-Image) e sem mudanças na arquitetura do gerador de imagem subjacente.

Resultos
Experimentos através de oito modelos e o benchmark COMPBIAS demonstram que o FAIRPRO:

• Reduz o Viés: Reduz substancialmente as pontuações de viés demográfico em atributos de gênero, idade, etnia e aparência em comparação tanto com as configurações padrão quanto com os baselines de "sem prompt de sistema".
• Mantém a Fidelidade: Preserva alta conformidade texto-imagem e controlabilidade de prompt, evitando a perda de fidelidade associada à simples remoção dos prompts de sistema.
• Aumenta a Diversidade: Aumenta a diversidade visual em pose, vestimenta e plano de fundo para atributos não especificados sem sobrepor as restrições explícitas do usuário.
• Generaliza: Demonstra desempenho robusto em benchmarks externos (TIBET) e em diferentes famílias de modelos.
• Ablação: O estudo confirma que o prompting adaptativo ao input e a autoauditoria estruturada são componentes críticos; instruções de equidade estáticas ou a reescrita de prompts de usuário isoladamente são insuficientes.

Significância e Alegações
O artigo afirma que o condicionamento de texto baseado em LLM não é meramente uma interface passiva para compreensão de prompts, mas um mecanismo ativo que pode codificar e transmitir viés demográfico. A significância deste trabalho reside em:

1. Identificar um Novo Vetor de Viés: Destacar os prompts de sistema como um ponto de intervenção crítico e subexplorado para o viés em sistemas T2I modernos.
2. Insight Diagnóstico: Fornecer evidências de que o viés se origina a montante (upstream) no estágio de condicionamento de linguagem, deslocando o foco da mitigação da geração de imagem para a interpretação do prompt.
3. Mitigação Prática: Introduzir o FAIRPRO como uma solução eficaz, agnóstica a modelos e livre de treinamento que equilibra equidade com as capacidades aprimoradas do condicionamento baseado em LLM.

Os autores mantêm uma postura modesta, reconhecendo que sua abordagem mitiga distribuições de saída enviesadas em tempo de teste, mas não remove os vieses codificados nos parâmetros dos modelos generativos subjacentes. Eles também observam limitações em relação ao uso de categorias demográficas discretas e à dependência de contexto para definir distribuições "justas".