💻 computer science

KG-FairDiff: Knowledge Graph-Guided Prompt Refinement for Demographically Fair Text-to-Image Generation

O KG-FairDiff é um framework agnóstico ao modelo, de tempo de inferência, que utiliza um grafo de conhecimento e um processo de otimização de ciclo fechado para refinar prompts de texto para imagem, reduzindo efetivamente vieses demográficos e culturais enquanto preserva a fidelidade semântica sem exigir o retreinamento dispendioso do modelo.

Autores originais: Farbod Davoodi, Seyed Reza Tavakoli Shiyadeh, Pooria Safaei, Sana Harighi, Parsa Gholami, Amirali Amini, Kimia Vanaei, Emad Firoozi, Parham Abed Azad, Babak Khalaj, Siavash Ahmadi, Amir Hossein Payber

Publicado 2026-06-02

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Farbod Davoodi, Seyed Reza Tavakoli Shiyadeh, Pooria Safaei, Sana Harighi, Parsa Gholami, Amirali Amini, Kimia Vanaei, Emad Firoozi, Parham Abed Azad, Babak Khalaj, Siavash Ahmadi, Amir Hossein Payberah, Mohammad Hossein Rohban, Soheil Kolouri, Ali Diba

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem uma câmera mágica que transforma qualquer frase que você escreve em uma imagem. Você digita "um médico" e ela tira uma foto. Mas aqui está o detalhe: esta câmera foi treinada com milhões de fotos antigas da internet. Por causa disso, ela desenvolveu um mau hábito. Quando você pede "um médico", ela quase sempre mostra um homem branco mais velho. Quando você pede "uma enfermeira", ela mostra uma mulher jovem. É como se a câmera estivesse presa em um buraco temporal, vendo o mundo através de uma lente muito estreita e estereotipada.

Este artigo apresenta uma nova ferramenta chamada KG-FairDiff para consertar essa câmera sem precisar reconstruí-la.

O Problema: As "Configurações Padrão" da Câmera

Pense nesses sistemas de texto para imagem como chefs que memorizaram um livro de receitas enorme. Se você pedir "CEO", eles automaticamente buscam uma foto de um homem de terno porque é o que viram com mais frequência em seus dados de treinamento. Eles não estão tentando ser maldosos; estão apenas seguindo os padrões mais comuns que conhecem. Isso leva a um mundo onde certos grupos de pessoas (como mulheres, pessoas de cor ou adultos mais velhos) são raramente vistos em papéis de poder, ou são mostrados de formas engraçadas e exageradas.

A Solução: O "Editor Inteligente"

Em vez de tentar demitir o chef e contratar um novo (o que seria caro e impossível para muitas câmeras fechadas), o KG-FairDiff atua como um editor inteligente que fica entre você e a câmera.

Aqui está como o editor funciona, passo a passo:

A Biblioteca de Conhecimento (O "Verificador de Fatos"):
O editor carre o uma biblioteca especial de cerca de 1.200 fatos (um Grafo de Conhecimento). Esses fatos são como pequenos cartões que dizem coisas como: "Médicos podem ser mulheres", "Enfermeiras podem ser homens" ou "As roupas tradicionais desta cultura são assim". Também possui cartões que dizem: "Este é um estereótipo que devemos evitar".
A Reescrita (A "Sugestão"):
Quando você digita "um médico", o editor não envia apenas isso para a câmera. Primeiro, ele consulta sua biblioteca. Ele vê que "médico" é frequentemente estereotipado. Ele então pede a uma IA superinteligente (um LLM) para reescrever sua frase.
- Sua entrada: "Um médico."
- Sugestão do Editor: "Um grupo diversificado de médicos, incluindo mulheres e pessoas de diferentes origens, trabalhando em um hospital moderno."
  O editor garante que a nova frase ainda soe como o que você queria (fidelidade semântica), mas adiciona a diversidade que faltava.
O Guardião (O "Validador"):
Antes de enviar a nova frase para a câmera, o editor verifica duas coisas:
- Nós corrigimos o viés? (A nova frase incentiva uma imagem mais diversa?)
- Mudamos demais o sentido? (Ainda é sobre um médico?)
  Se a resposta para ambos for "Sim", o editor a envia. Se não, ele tenta novamente, como um ciclo, até acertar.

Por que isso é importante

Normalmente, para consertar uma câmera enviesada, você precisa desmontá-la, treiná-la novamente com novos dados e torcer para que ela aprenda melhor. Isso é difícil, caro e muitas vezes impossível porque muitas câmeras são "caixas pretas" (você não consegue ver o que há dentro delas).

O KG-FairDiff é diferente porque:

É um conserto "plug-and-play": Funciona com qualquer câmera, seja ela gratuita ou paga e secreta.
Não quebra a câmera: Ele apenas ajusta as instruções (prompts) que você dá a ela.
É baseado em fatos: Não é apenas um palpite; utiliza uma lista estruturada de fatos para guiar as mudanças.

Os Resultados

Os pesquisadores testaram este "Editor Inteligente" em oito geradores de imagem populares diferentes. Eles descobriram que:

Reduziu significativamente o número de vezes que a câmera recorria a estereótipos (como mostrar apenas homens como CEOs).
Aumentou a variedade de pessoas mostradas (mais mulheres, pessoas de cor e diferentes idades).
Fez isso sem deixar as imagens estranhas ou mudar a ideia original do usuário.

As Limitações (As "Letras Miúdas")

Os autores são honestos sobre onde a ferramenta pode falhar:

O Conflito com o "Filtro de Segurança": Algumas câmeras têm suas próprias regras de segurança rigorosas. Às vezes, a sugestão do editor para adicionar diversidade pode entrar em conflito com as regras internas da câmera, fazendo com que a imagem falhe ou pareça estranha.
O Editor "Circular": O mesmo modelo de IA é usado tanto para escrever a nova frase quanto para verificar se ela está boa. É como um aluno corrigindo o próprio dever de casa; geralmente funciona, mas não é perfeito.
Lacunas Culturais: Embora a ferramenta tente incluir culturas não ocidentais, a biblioteca de fatos ainda não é perfeita. Ela pode perder alguns detalhes culturais específicos.

Em Resumo

O KG-FairDiff é como um filtro de equidade para a sua imaginação. Ele não muda a câmera; ele apenas ajuda você a pedir imagens de uma forma que garanta que a câmera veja o mundo inteiro, e não apenas um recorte pequeno e enviesado dele. É uma maneira prática e pronta para uso de tornar as imagens geradas por IA mais representativas da vida real.

Resumo Técnico: KG-FairDiff

Problema
Os sistemas de Texto-para-Imagem (TTI) tornaram-se infraestruturas críticas para o jornalismo, educação e publicidade. No entanto, esses modelos herdam estereótipos demográficos e culturais de seus dados de treinamento, sub-representando ou caricaturando sistematicamente mulheres, pessoas de cor, idosos e culturas não ocidentais. As estratégias de mitigação existentes enfrentam limitações significativas: o rebalanceamento de conjuntos de dados e a regularização do espaço latente exigem acesso aos dados de treinamento ou aos componentes internos do modelo (inviável para backbones de código fechado), enquanto métodos mais leves ao nível de prompt dependem de templates demográficos fixos que ignoram o contexto cultural, resultando em saídas superficiais ou tokenistas.

Metodologia
Os autores propõem o KG-FairDiff, um framework agnóstico ao modelo e operado em tempo de inferência, que trata o refinamento de prompts orientado à equidade como um problema de otimização restrita. O sistema opera como um pipeline de malha fechada sem modificar o gerador subjacente:

Construção do Grafo de Conhecimento (KG): O framework utiliza um KG curado manualmente contendo aproximadamente 1.200 triplas. Estas triplas foram extraídas do McGillNLP Bias Dataset e do CultureBank e cobrem três categorias: associações estereotipadas (a serem combatidas), contra-estereótipos (a serem assertados) e fundamentação cultural (conceitos, vestimentas e práticas não ocidentais).
Recuperação e Reescrita: No tempo de inferência, o sistema recupera as $k$ melhores triplas relevantes do KG com base no prompt inicial do usuário. Um reescritor de LLM (GPT-4o) utiliza este contexto estruturado para propor prompts refinados.
Validação de Malha Fechada: Um validador (tamb também GPT-4o) avalia o prompt refinado com base em dois critérios:
- Melhoria da Equidade: O prompt deve reduzir uma perda de equidade baseada em divergência (medida via divergência KL em relação a uma distribuição alvo uniforme).
- Fidelidade Semântica: O prompt refinado deve manter uma similaridade de cosseno acima de um limiar ( $\tau$ ) com a intenção original do usuário para evitar o desvio semântico.
Formulação de Otimização: O processo é formalizado como a minimização de uma soma ponderada da perda de equidade e um regularizador de preservação de estilo, sujeito à restrição de fidelidade semântica. Os autores provam um limite de terminação finita para o loop de refinamento sob uma suposição de melhoria monotônica.

Principais Contribuições

Formulação Algorítmica: O artigo formaliza o refinamento de prompt orientado à equidade como um problema de otimização restrita com termos explícitos para equidade, fidelidade semântica e preservação de estilo, fornecendo um algoritmo iterativo com um limite teórico de terminação.
Grafo de Conhecimento Reutilizável: Os autores constroem e liberam um KG curado de ~1.200 triplas abrangendo estereótipos, contra-estereótipos e fundamentação cultural, com dupla anotação para precisão factual e sensibilidade cultural.
Suíte de Avaliação Teoricamente Fundamentada: Um novo framework de avaliação é introduzido, vinculando métricas de viés padrão (Bias-P, Bias-W) à divergência de distribuições alvo e relacionando medidas baseadas em Entropia (ENS) à divergência KL, utilizando alinhamento de Wasserstein e similaridade CLIP para avaliar a preservação semântica.
Auditoria Abrangente: O framework é avaliado contra oito geradores de backbone amplamente implantados (incluindo GPT-Image-1, SD 3.5, Gemini 3 Pro) através de um benchmark de 100 prompts cobrindo 50 ocupações.

Resultados
O KG-FairDiff demonstra melhorias substanciais na redução de disparidades demográficas enquanto preserva a semântica do prompt:

Desempenho vs. Baselines: Comparado a baselines de nível de prompt como MinorityPrompt e PreciseDebias, o KG-FairDiff alcança reduções de viés significativamente maiores. Especificamente, ele alcança até 20× maiores reduções de Bias-W (ex: -0,1396 vs. -0,0037 para Raça) e 13× maiores ganhos de ENS em comparação ao MinorityPrompt.
Preservação Semântica: O processo de refinamento mantém alta fidelidade semântica, com uma mudança média na distância de Wasserstein ( $\Delta \bar{W}_2^2$ ) de apenas 0,0011.
Estudos de Ablação: Experimentos confirmam que o componente de recuperação do KG contribui independentemente para os ganhos de equidade, de forma distinta das capacidades do reescritor LLM.
Limitações Observadas: Os autores observam que, para certos geradores (ex: SD 3.5 Large, Gemini 3 Pro), algumas métricas pioraram devido a conflitos entre os prompts refinados e os filtros de segurança integrados dos geradores, ou devido a pistas conflitantes na otimização interseccional. Além disso, o framework depende de classificadores automatizados (FairFace) que possuem menor recall para fenótipos não ocidentais.

Significância e Alegações
O artigo afirma que o KG-FairDiff oferece uma rota prática e pronta para implantação para uma IA generativa mais equitativa. Sua principal significância reside na capacidade de intervir ao nível de prompt sem exigir acesso aos pesos do modelo ou retreinamento custoso, tornando-o aplicável tanto a geradores proprietários quanto a geradores de código aberto (black-box). Ao fundamentar os refinamentos em conhecimento cultural estruturado em vez de templates fixos, o framework visa reduzir danos ao nível populacional causados pela repetição de representações estreitas. Os autores posicionam este trabalho como um passo em direção a uma "IA confiável" que pode auditar e intervir em modelos implantados sob restrições realistas, embora reconheçam a necessidade de trabalhos futuros para escalar o grafo de conhecimento para uma cobertura cultural mais ampla e calibrar rigorosamente o validador contra métricas de downstream.