Resumo Técnico: DebFilter

Declaração do Problema

Modelos de difusão texto-para-imagem, embora teoricamente equivalentes a modelos generativos baseados em pontuação, sofrem de vieses sociais e semânticos inerentes. Esses vieses — especificamente relacionados a gênero, idade e ocupação — são codificados dentro dos embeddings de texto extraídos de modelos pré-treinados de visão e linguagem (por exemplo, CLIP). Durante o processo de remoção de ruído, esses embeddings enviesados são propagados e amplificados através dos mecanismos de orientação do modelo, particularmente nas camadas de atenção cruzada. Consequentemente, mesmo prompts neutros (por exemplo, "uma pessoa que trabalha como médico") frequentemente produzem resultados distorcidos ou estereotipados. Estratégias existentes de mitigação geralmente dependem de retreinamento ou ajuste fino computacionalmente caros da rede de pontuação ou do codificador de texto, exigindo conjuntos de dados balanceados e recursos extensos, o que limita sua praticidade para aplicações do mundo real.

Metodologia: DebFilter

Os autores propõem o DebFilter, um framework leve e sem treinamento, projetado para mitigar vieses durante a fase de inferência de modelos de difusão texto-para-imagem. O método opera ajustando seletivamente os componentes de valor dentro do mecanismo de atenção cruzada, em vez de modificar os pesos do modelo.

Mecanismo Central

1. Correção de Viés via Ajuste de Valor: O método observa que a previsão de erro do modelo em cada etapa de remoção de ruído é influenciada principalmente pelas dinâmicas de atenção cruzada. Especificamente, o embedding de condicionamento $c$ define as representações de chave e valor. O DebFilter introduz um vetor de correção de viés $\Delta c$ ao sinal de condicionamento original.
2. Alinhamento de Atenção Cruzada: A abordagem visa alinhar a saída da atenção cruzada de um prompt neutro $c$ com a de um prompt explícito de correção de viés $c'$ (por exemplo, alinhar "um médico" com "uma médica").
   • A previsão de remoção de ruído $\hat{\epsilon}_\theta(z_t, c)$ é tratada como uma função das saídas de atenção cruzada.
   • O método calcula um vetor de valor alvo $\hat{v}_m$ para um índice de token específico $m$ (correspondente ao conceito enviesado) resolvendo um problema de otimização de mínimos quadrados. Essa otimização minimiza a diferença entre a saída de atenção cruzada de origem e a saída alvo derivada do prompt explícito.
3. Estimativa Unificada de Orientação: Como o U-Net contém múltiplos blocos de atenção com profundidades e cabeças variadas, o método estima independentemente o vetor de valor alvo para cada camada e cabeça. Essas estimativas são então agregadas usando uma regressão de mínimos quadrados ponderada para derivar um embedding unificado e desviado $c^{new}_m$.
4. Orientação de Desviamento Estável (DebFilter): Para garantir escalabilidade e evitar o cálculo de correções para cada prompt, o método calcula o deslocamento $\Delta c = c^{new}_m - c_m$ através de múltiplos prompts e os média. Esse deslocamento médio, denominado DebFilter, serve como uma direção de correção estável e universal aplicável a qualquer prompt contendo o conceito alvo.
5. Aplicação em Tempo de Inferência: Durante a inferência, esse deslocamento fixo é adicionado ao embedding de condicionamento. O método foca nas etapas iniciais de remoção de ruído (tipicamente as duas primeiras), onde estruturas grosseiras e atributos de alto nível são determinados, garantindo que a correção de viés não interfira em refinamentos posteriores de textura ou estilo.

Características Principais

• Sem Treinamento: Não requer dados adicionais ou atualizações do modelo.
• Controle de Alta Granularidade: Ao identificar índices de token específicos, o método permite controle ao nível de objeto em cenas com múltiplos objetos (por exemplo, alterar o gênero de um "médico" mantendo uma "enfermeira" inalterada).
• Reversibilidade: O vetor de correção pode ser invertido (alterando o sinal) para aplicar o filtro na direção oposta (por exemplo, masculino para feminino vs. feminino para masculino).

Contribuições Principais

1. Desviamento sem Treinamento: Introdução de um método para Stable Diffusion que mitiga o viés ajustando mecanismos de atenção cruzada durante a inferência, eliminando a necessidade de retreinamento.
2. Controle ao Nível de Objeto: Demonstração de controle direcionado em imagens com múltiplos objetos, permitindo que conceitos específicos sejam desviados enquanto se preserva a consistência espacial e outros atributos.
3. Escalabilidade Prática: Apresentação de uma abordagem flexível que melhora a equidade sem alterar a arquitetura do modelo ou exigir conjuntos de dados de desviamento curados para cada nova aplicação.

Resultados Experimentais

Os autores avaliaram o DebFilter no Stable Diffusion v2.1 (e SDXL para comparações específicas) usando métricas de viés de gênero e idade.

• Mitigação de Viés de Gênero:
  • Avaliado em 87 ocupações (58 dominadas por homens, 29 dominadas por mulheres).
  • Razão de Viés ($\Delta$): O DebFilter reduziu significativamente o desvio absoluto normalizado de um equilíbrio de gênero de 50% entre profissões, superando linhas de base como TIME, UCE e MIST.
  • Pontuação de Transição (TS): O método alcançou uma pontuação de transição próxima à razão alvo (por exemplo, 0,5), demonstrando controle preciso sobre a proporção de amostras desviadas.
  • Distorção (Skew): O DebFilter alcançou a menor pontuação SKEW (62,1) comparado a outros métodos, indicando uma distribuição de gênero mais equilibrada entre as ocupações.
  • CLIPScore: As imagens desviadas mantiveram alta alinhamento com os prompts de texto, frequentemente igualando ou excedendo o CLIPScore do modelo original, confirmando que a fidelidade semântica foi preservada.
• Mitigação de Viés de Idade:
  • Mitigou com sucesso vieses de idade para profissões associadas a grupos etários específicos (por exemplo, "relojoeiro" vs. "barista").
  • O método ajustou naturalmente atributos visuais como estilo de cabelo e textura da pele, preservando a ação e o fundo.
• Cenários com Múltiplos Objetos:
  • Demonstrou a capacidade de aplicar filtros de desviamento diferentes a objetos diferentes dentro de um único prompt (por exemplo, "um médico e uma enfermeira"), revertendo com sucesso as representações de gênero para entidades específicas sem afetar as outras.

Significado e Alegações

O artigo alega que o DebFilter oferece um caminho escalável e eficiente para uma geração texto-para-imagem mais justa e inclusiva. Ao operar inteiramente no tempo de inferência, aborda a impraticabilidade computacional de retreinar modelos em grande escala. Os autores enfatizam que seu método fornece controle de alta granularidade e interpretável sobre a força do desviamento, mantendo a fidelidade semântica das saídas geradas.

O significado reside na demonstração de que perturbações sutis na orientação textual podem efetivamente remodelar o landscape da função de pontuação para suprimir vieses latentes. Os autores posicionam o DebFilter não como um substituto para a curadoria de conjuntos de dados ou retreinamento de modelos, mas como uma solução prática e imediata para mitigar vieses sociais em modelos generativos implantados. Eles observam que o método é extensível a outros conceitos de viés, como etnia ou atributos culturais, embora seus experimentos atuais se concentrem em gênero e idade.

O artigo conclui que o ajuste controlado da orientação fornece um mecanismo poderoso para criatividade impulsionada por IA socialmente responsável, avançando a inclusividade e a controlabilidade de modelos generativos sem a sobrecarga de treinamento adicional.