Unveiling the "Fairness Seesaw": Discovering and Mitigating Gender and Race Bias in Vision-Language Models

Resumo Técnico: "Unveiling the ‘Fairness Seesaw’"

O artigo investiga a presença de vieses de gênero e raça em Modelos de Linguagem e Visão (VLMs) de última geração, explorando não apenas as respostas textuais, mas também as distribuições de probabilidade internas (confiança do modelo).

1. O Problema

Embora os VLMs tenham alcançado grande sucesso, seus mecanismos de conhecimento social permanecem uma "caixa preta". Os autores identificam que as avaliações de justiça (fairness) atuais são limitadas:

• Limitação de Avaliação: Muitos estudos focam apenas na precisão da recuperação de atributos (ex: identificar corretamente o gênero de uma pessoa na imagem), o que pode mascarar preconceitos subjacentes. Se um modelo identifica corretamente um homem como "piloto", ele parece justo, mas pode manter um viés de que apenas homens podem ser pilotos.
• O Paradoxo da Justiça: Modelos podem gerar respostas textuais "justas" (ex: "ambos os gêneros são iguais"), mas manter pontuações de confiança altamente enviesadas (ex: atribuindo 0.75 de probabilidade ao gênero masculino e apenas 0.25 ao feminino).
• O "Seesaw" da Justiça (Fairness Seesaw): O conhecimento de justiça não é uniforme nas camadas do modelo; ele oscila, atingindo picos em camadas intermediárias e sofrendo "erosão" nas camadas finais.

2. Metodologia

Os autores propõem uma abordagem de descoberta e mitigação baseada em duas frentes:

A. Nova Tarefa de Avaliação (MCS):
Eles introduzem uma tarefa de Seleção de Múltipla Escolha (MCS) onde as imagens servem como referência, mas não como evidência absoluta. Isso força o modelo a revelar sua opinião sobre categorias sociais gerais (ex: "Qual gênero é mais propenso a ser engenheiro?"), permitindo medir tanto a resposta quanto a confiança (calibração) via divergência KL.

B. Mitigação via RES-FAIR (Residual Flow Adjustment for Inference Recalibration):
Trata-se de um framework post-hoc (aplicado após o treinamento) que atua no espaço latente:

1. Decomposição de Resíduos: O método analisa os fluxos residuais ($\Delta_1$ e $\Delta_2$) de cada camada do Transformer.
2. Identificação de Direções: Eles identificam vetores que representam direções de "resíduos justos" e "resíduos enviesados".
3. Projeção Ortogonal: O RES-FAIR projeta o estado oculto para longe da direção do viés (anulando o componente enviesado) e o alinha com a direção da justiça (amplificando o componente justo), utilizando pesos de controle ($\lambda_1, \lambda_2$) para manter a fluência da linguagem.

3. Principais Contribuições

• Descoberta de Dinâmicas Internas: Revelação de que o viés reside nos fluxos residuais e que a justiça flutua entre as camadas.
• Framework RES-FAIR: Uma técnica de mitigação eficiente que não requer retreinamento do modelo, apenas ajustes na inferência.
• Novo Protocolo de Avaliação: Criação de prompts e datasets modificados (baseados em PAIRS e SCF) que permitem avaliar a opinião social explícita do modelo.

4. Resultados

Os experimentos realizados com modelos SOTA (como LLaVA-NeXT e Qwen2.5-VL) mostraram que:

• Melhoria na Justiça: O método RES-FAIR aumentou significativamente a proporção de respostas justas em comparação aos modelos originais.
• Melhoria na Calibração: O método reduziu a divergência KL, tornando a confiança do modelo mais equilibrada e menos enviesada em relação aos atributos sociais.
• Preservação de Capacidade: Diferente de outros métodos de debiasing, o RES-FAIR manteve a capacidade de raciocínio geral e a precisão em tarefas de VQA (Visual Question Answering), com quedas mínimas de desempenho.
• Comparação: O método superou técnicas tradicionais como Temperature Scaling (que apenas ajusta a probabilidade sem mudar a resposta) e o ajuste via LoRA em termos de equilíbrio entre justiça e confiança.

5. Significância

Este trabalho é fundamental para a ética em IA multimodal, pois demonstra que a "justiça" de um modelo não pode ser medida apenas pelo texto final, mas deve ser analisada através de sua distribuição de probabilidade e de sua dinâmica interna de camadas. O conceito de "Fairness Seesaw" oferece uma nova lente para entender como modelos de grande escala processam informações sociais sensíveis, abrindo caminho para sistemas de visão-linguagem mais confiáveis e éticos.