Detecting and Mitigating Bias by Treating Fairness as a Symmetry Operation

Resumo Técnico: Detecção e Mitigação de Viés ao Tratar a Equidade como uma Operação de Simetria

Definição do Problema

Sistemas de aprendizado de máquina implantados em contextos socioeconômicos de alto risco frequentemente exibem vieses sistemáticos contra grupos socialmente sensíveis. Embora pesquisas anteriores tenham proposto definições estatísticas de equidade (ex: paridade demográfica, igualdade de oportunidades) como restrições post-hoc, resultados de impossibilidade fundamental (Chouldechova, 2017; Kleinberg et al., 2016) demonstram que certos critérios de equidade não podem ser satisfeitos simultaneamente quando as taxas de base diferem entre os grupos. Além disso, abordagens de equidade contrafactual existentes (Kusner et al., 2017) frequentemente exigem conhecimento detalhado de grafos causais, o qual é frequentemente indisponível em cenários do mundo real. Há uma necessidade de um framework que imponha a equidade por construção, sem depender de análise de mediação causal ou treinamento adversarial complexo.

Metodologia

Os autores propõem um novo framework que formaliza a equidade como uma operação de simetria e o viés como uma operação de quebra de simetria.

1. Formulação Teórica:
Baseando-se na teoria de grupos e na física, os autores definem um classificador $f$ como justo (simétrico) se seus outputs permanecerem invariantes sob uma transformação específica $T$.

• Particionamento de Entrada: O vetor de entrada $x$ é particionado em atributos de mérito $x_m$ (ex: educação, experiência, habilidade) e atributos sensíveis $x_s$ (ex: gênero, raça, casta).
• Operador de Transformação ($T$): O operador $T$ realiza uma inversão de bit (bit-flip) contrafactual nos atributos sensíveis enquanto mantém os atributos de mérito fixos: $T(x) = [x_m; 1 - x_s]$.
• Condição de Invariância: Um classificador é considerado imparcial se $f(x) = f(T(x))$ para todo $x$.
• Métrica de Violação: O viés é quantificado como a violação populacional $V = \mathbb{E}_{x \sim P_X}[|f(x) - f(T(x))|]$, aproximada empiricamente pela diferença absoluta média entre as previsões em amostras originais e transformadas.

2. Mitigação via Regularização de Perda:
Para impor esta simetria, os autores introduzem um termo de perda de restauração de simetria, $L_{sym}$, adicionado à perda de tarefa padrão ($L_{task}$, entropia cruzada binária).

• Função Objetivo: $L(w, b) = L_{task}(w, b) + \lambda L_{sym}(w, b)$.
• Perda de Simetria: $L_{sym} = \frac{1}{n} \sum_{i=1}^n [f(x_i) - f(T(x_i))]^2$.
• Otimização: O gradiente de $L_{sym}$ é derivado usando a regra da cadeia, permitindo que o modelo atualize os pesos para minimizar a lacuna de previsão entre um indivíduo e seu eu contrafactual (com atributos sensíveis invertidos). Esta abordagem é computacionalmente leve e não requer o treinamento de um adversário ou o conhecimento do grafo causal subjacente.

3. Configuração Experimental:
O framework foi avaliado em quatro conjuntos de dados sintéticos ($D1$–$D4$) projetados para testar o modelo sob diversas condições:

• Baixo-viés vs. Alto-viés: Controlados via vetor de injeção de viés $\gamma$.
• Correlação: Atributos foram correlacionados com atributos sensíveis para simular confusão do mundo real.
• Ruído: Correlações espúrias foram introduzidas para testar a robustez.
• Desequilíbrio: As taxas de classe positiva foram variadas para simular cenários de contratação competitiva.

Principais Resultados

Os experimentos utilizaram uma divisão de treino/teste de 75/25 com 2.000 amostras. A força de regularização $\lambda$ foi testada em um intervalo de 0.0 a 10.0.

• Redução de Viés: O framework alcançou uma redução de 93,2% nas métricas de violação no conjunto de teste para o dataset de baixo-viés e alta correlação ($D2$). Em todos os datasets, o framework demonstrou uma redução de violação superior a 90%.
• Trade-off de Acurácia: A redução do viés veio com um custo modesto na acurácia preditiva, estimado em aproximadamente 5%.
• Robustez: O método permaneceu eficaz mesmo em datasets com alto ruído e correlação de atributos, demonstrando que a restrição de simetria consegue sobrepor correlações espúrias sem exigir o desmembramento (disentanglement) causal explícito.

Significância e Alegações

O artigo posiciona sua contribuição como uma alternativa prática e computacionalmente eficiente para métodos de equidade causal.

• Não Requer Grafo Causal: Diferente da equidade contrafactual (Kusner et al., 2017), este método opera puramente em dados observacionais ao inverter atributos sensíveis, tornando-o aplicável em contextos onde as estruturas causais são desconhecidas ou não modeladas.
• Generalização: O framework é projetado para ser agnóstico à definição específica de atributos sensíveis. Ele se generaliza para qualquer contexto onde um atributo sensível possa ser definido como uma inversão de bit (ex: gênero, raça, casta), tornando-o adequado para regiões e indústrias (saúde, empréstimos, contratação) onde os benchmarks convencionais podem carecer de representatividade.
• Equidade de Baixo Recurso: Ao evitar o overhead computacional do treinamento adversarial ou da inferência causal, o método oferece um "desconto significativo de computação", facilitando a pesquisa de equidade em ambientes com escassez de dados.
• Validação Sintética: Os autores utilizaram dados sintéticos com processos de geração conhecidos para validar o framework, argumentando que os populares benchmarks eurocêntricos (ex: COMPAS, Adult Income) podem não codificar efetivamente os preconceitos prevalentes no Sul Global. Esta abordagem sintética permite um teste de estresse controlado de estratégias de mitigação de viés.

Em resumo, o artigo argumenta que tratar a equidade como uma invariância estrutural (simetria) fornece um mecanismo tratável e eficaz para a mitigação de viés que equilibra alta redução de violação com perda mínima de acurácia, sem os pré-requisitos pesados da modelagem causal.