Procedural Fairness via Group Counterfactual Explanation

Este artigo apresenta o GCIG, um framework de regularização que promove a justiça processual em modelos de aprendizado de máquina ao garantir a estabilidade das explicações entre diferentes grupos protegidos, reduzindo disparidades explicativas sem comprometer o desempenho preditivo.

O essencial

Imagine que você tem um juiz robótico que decide quem consegue um empréstimo bancário ou quem é liberado da prisão.

Até agora, os pesquisadores focavam apenas no resultado: "O juiz deu a mesma chance de aprovação para negros e brancos?" Se a resposta fosse "sim", eles diziam que o sistema era justo.

Mas os autores deste artigo, Gideon Popoola e John Sheppard, dizem: "Espera aí! O resultado pode ser igual, mas o motivo pode ser totalmente diferente."

Eles propõem uma nova forma de garantir a justiça, chamada GCIG (uma sigla complexa para algo que podemos chamar de "Justiça no Processo"). Vamos entender como funciona usando analogias simples.

1. O Problema: O "Juiz de Dupla Face"

Imagine dois candidatos, Ana e Carlos, que têm exatamente o mesmo perfil de crédito e ambos são aprovados.

• O juiz diz: "Ana foi aprovada porque ela tem um bom histórico de pagamentos."
• O juiz diz: "Carlos foi aprovado porque ele mora em um bairro rico."

O resultado é o mesmo (ambos foram aprovados). Mas o processo (a lógica usada) foi diferente.

• Para Ana, o juiz olhou para o dinheiro.
• Para Carlos, o juiz olhou para o endereço.

Isso é injusto. Se o sistema muda a "receita" de decisão dependendo de quem você é (sua raça, gênero, etc.), ele não é confiável. Isso é o que eles chamam de injustiça processual.

2. A Solução: O "Espelho Grupal"

Para consertar isso, os autores criaram uma técnica chamada GCIG. Pense nela como um espelho mágico que o juiz é obrigado a olhar antes de decidir.

A pergunta que o espelho faz é:

"Se eu fosse Carlos, mas tivesse o perfil de Ana, como você explicaria a decisão?"

O sistema força o computador a responder essa pergunta para todos os grupos. Se a explicação para Ana e para Carlos for muito diferente, o sistema recebe uma "punição" (uma penalidade matemática) e precisa aprender a usar a mesma lógica para ambos.

3. Como Funciona na Prática (A Analogia do Chef)

Imagine que você é um Chef de Cozinha (o modelo de IA) e tem dois clientes: um do Grupo A e um do Grupo B. Ambos pedem o mesmo prato.

• O jeito antigo (Justiça de Resultado): O Chef entrega o prato pronto. Se ambos gostaram, tudo bem. O Chef pode ter usado ingredientes frescos para o Grupo A e ingredientes velhos para o Grupo B, mas o prato final ficou com o mesmo gosto. Ninguém percebeu.
• O jeito novo (GCIG): O Chef é obrigado a mostrar a receita (a explicação) para um inspetor.
  • O inspetor pergunta: "Por que você usou sal no prato do Grupo A e pimenta no do Grupo B?"
  • O GCIG força o Chef a dizer: "Eu usei sal e pimenta para ambos porque a receita exige."
  • Se o Chef tentar inventar uma desculpa diferente para cada grupo, o inspetor (o algoritmo) o pune e ele tem que treinar de novo até que a explicação seja a mesma para todos.

4. O Que Eles Descobriram?

Os autores testaram essa ideia em vários bancos de dados reais (como empréstimos e risco de reincidência criminal). Os resultados foram surpreendentes:

1. Justiça Real: O sistema aprendeu a usar a mesma lógica para todos os grupos. As explicações ficaram consistentes.
2. Sem Perda de Qualidade: Ao forçar o sistema a ser mais "honesto" na explicação, ele não ficou menos inteligente. A precisão das previsões continuou alta.
3. A Surpresa: Eles descobriram que ter resultados justos (todos aprovados na mesma taxa) não garante que a lógica seja justa. Você pode ter um sistema que dá a mesma chance para todos, mas que "pensa" de forma preconceituosa.

Resumo em uma Frase

Este artigo ensina que para ser verdadeiramente justo, uma Inteligência Artificial não deve apenas dar a mesma resposta para todos, mas também usar a mesma lógica para chegar a essa resposta, independentemente de quem você é.

Eles criaram um "treinador" (o GCIG) que vigia o raciocínio do robô em tempo real, garantindo que ele não mude de opinião ou de critérios apenas porque mudou a cor da pele ou o gênero de quem está sendo avaliado.

Resumo técnico

Resumo Técnico: Justiça Procedural via Explicação Contrafactual de Grupo

1. O Problema

A pesquisa em justiça (fairness) no aprendizado de máquina tem focado historicamente em critérios orientados a resultados (outcome-oriented), como Equalized Odds (Odds Equilibradas) ou Paridade Estatística. Esses métodos garantem que as taxas de erro (falsos positivos/negativos) sejam equilibradas entre grupos protegidos.

No entanto, o artigo identifica uma lacuna crítica: garantir justiça nos resultados não garante justiça procedural. Dois modelos podem atingir métricas de justiça de resultado idênticas, mas utilizar processos de decisão fundamentalmente diferentes para grupos distintos. Por exemplo, um modelo pode basear sua decisão em características legítimas para um grupo, mas em características irrelevantes ou estereotipadas para outro. Essa disparidade nos processos de raciocínio (explicações) mina a confiança no sistema, pois indivíduos com o mesmo resultado podem receber justificativas diferentes apenas devido à sua pertença a um grupo protegido.

A maioria das abordagens existentes usa explicações apenas para auditoria pós-treinamento (diagnóstico), sem intervenções durante o aprendizado para prevenir essas disparidades.

2. Metodologia: GCIG e FairX

Os autores propõem um novo framework de treinamento chamado FairX, centrado em uma nova regularização: Integração de Gradientes Contrafactual de Grupo (GCIG - Group Counterfactual Integrated Gradients).

Conceitos Fundamentais:

• Justiça Procedural Definida: A invariância da explicação. O modelo deve fornecer explicações consistentes para indivíduos com o mesmo rótulo verdadeiro, independentemente do grupo protegido ao qual pertencem.
• Linhas de Base Condicionais ao Grupo (Group Conditional Baselines): Em vez de usar uma única linha de base global, o método calcula a média das características para cada combinação de rótulo verdadeiro ($y$) e grupo protegido ($g$). Isso cria um contexto de referência específico para cada grupo.
• Gradientes Integrados (IG): Utiliza-se o método de Gradientes Integrados para atribuir a importância das características na previsão.

O Mecanismo GCIG:
Para uma instância de entrada $x$ com rótulo verdadeiro $y$:

1. Calcula-se os Gradientes Integrados ($IG$) em relação à linha de base do grupo 0 ($b_{y,0}$) e à linha de base do grupo 1 ($b_{y,1}$).
2. Isso responde à pergunta contrafactual: "Como a explicação mudaria se este indivíduo fosse avaliado em relação ao perfil típico do grupo 0 versus o grupo 1?"
3. Se o raciocínio do modelo for justo, essas explicações devem ser similares.
4. Calcula-se a Disparidade de Explicação ($V(x; y)$) como a variância (ou distância) entre as atribuições normalizadas dos diferentes grupos.

Função de Objetivo (FairX):
O modelo é treinado para minimizar uma função de perda composta por três partes:
$$L_{total} = L_{pred} + \lambda_{ig} L_{GCIG} + \lambda_{fair} L_{fair}$$

• $L_{pred}$: Perda de desempenho padrão (ex: Entropia Cruzada).
• $L_{GCIG}$: Penalidade pela variação das explicações entre grupos (Justiça Procedural).
• $L_{fair}$: Penalidade por violação de justiça de resultado (ex: Equalized Odds).
• $\lambda_{ig}$ e $\lambda_{fair}$: Hiperparâmetros que controlam a força de cada regularização.

Complexidade Computacional:
O método adiciona um custo computacional moderado (aproximadamente $T$ vezes o custo de um treinamento padrão, onde $T$ é o número de passos de integração), mas é viável para conjuntos de dados tabulares de escala média.

3. Principais Contribuições

1. Formalização da Justiça Procedural: Definem a justiça procedural como a invariância da explicação contrafactual de grupo, condicionada ao rótulo verdadeiro.
2. Novo Framework de Regularização (GCIG): Introduzem um método in-processing que penaliza a variação das atribuições de características entre grupos durante o treinamento, forçando o modelo a aprender padrões de raciocínio consistentes.
3. Validação Empírica: Demonstram que é possível reduzir drasticamente a disparidade explicativa sem sacrificar a precisão preditiva ou a justiça de resultados.

4. Resultados Experimentais

Os autores avaliaram o método em quatro conjuntos de dados de referência (Adult, German Credit, COMPAS, Bank Marketing) comparando com seis métodos state-of-the-art (incluindo abordagens pré-processamento, pós-processamento e adversariais).

• Redução de Disparidade Explicativa: O GCIG reduziu significativamente a disparidade de explicações entre grupos.
  • Exemplo no German Credit: A métrica GCIG caiu de 0,190 (baseline sem restrições) para 0,066.
  • Exemplo no COMPAS: Caiu de 0,193 para 0,034.
• Desempenho Preditivo: O modelo FairX manteve desempenho competitivo (F1 e AUC), muitas vezes igualando ou superando as melhores linhas de base, sem degradação sistemática.
• Justiça de Resultados: O método alcançou as menores lacunas de Equalized Odds (EO) em alguns conjuntos de dados e foi competitivo em outros.
• Correlação Fraca entre Justiça de Resultado e Procedural: A análise de correlação mostrou que métricas de justiça de resultado (EO) explicam apenas cerca de 6% da variância na justiça procedural. Modelos com o mesmo EO podem ter comportamentos explicativos drasticamente diferentes.
• Estudo de Ablação: A combinação de justiça de resultado e procedural (Full Model) foi superior à aplicação isolada de qualquer uma delas, demonstrando um efeito sinérgico.

5. Significado e Conclusão

O trabalho estabelece que a justiça em aprendizado de máquina não pode ser alcançada apenas controlando os resultados finais. A consistência no raciocínio (como o modelo chega à decisão) é uma dimensão independente e crucial da justiça.

• Impacto Prático: O GCIG oferece uma ferramenta prática para treinar modelos que não apenas são "justos" em termos de estatísticas de erro, mas que também são "justos" em sua lógica interna, aumentando a transparência e a confiança.
• Mudança de Paradigma: Move o foco de auditorias post-hoc (após o treinamento) para intervenções in-processing (durante o treinamento), integrando a explicabilidade diretamente no objetivo de otimização.
• Limitações Futuras: O método atual foca em atributos protegidos binários e dados tabulares. Trabalhos futuros devem explorar atributos interseccionais e outras modalidades de dados (texto, imagem).

Em suma, o artigo demonstra que alinhar o raciocínio do modelo entre grupos é uma via viável e necessária para avançar além da paridade de resultados, promovendo uma inteligência artificial mais robusta e ética.