Resumo Técnico: Consistência da Explicação Contrafactual para Justiça Procedimental em Decisões de Crédito

Declaração do Problema

A pesquisa atual sobre justiça algorítmica em domínios socialmente sensíveis, como concessão de crédito, concentra-se predominantemente na justiça de resultados (por exemplo, paridade demográfica, chances igualizadas). Essas métricas garantem que os resultados preditivos estejam estatisticamente equilibrados entre grupos protegidos (por exemplo, raça, gênero). No entanto, os autores argumentam que satisfazer a justiça de resultados não garante que o modelo utilize o mesmo processo de raciocínio para indivíduos de diferentes grupos.

Essa lacuna cria um "viés procedimental oculto", onde um modelo pode produzir resultados idênticos para candidatos comparáveis de diferentes grupos demográficos, mas basear-se em atribuições de características fundamentalmente diferentes para chegar a essas conclusões. Por exemplo, um modelo pode aprovar um candidato do sexo masculino baseando-se principalmente na pontuação de crédito, enquanto aprova uma candidata do sexo feminino com perfil semelhante baseando-se no histórico de emprego. Sob quadros legais como a Lei de Igualdade de Oportunidades de Crédito (ECOA), isso constitui tratamento disparate, mas permanece invisível para as métricas padrão de justiça baseadas em resultados.

Os autores formalizam esse fenômeno usando uma taxonomia 2×2 de regimes de justiça:

• Regime A (Totalmente Justo): Mesma previsão, mesmo raciocínio.
• Regime B (Viés Oculto): Mesma previsão, raciocínio diferente (o ponto cego crítico).
• Regime C (Resultado Injusto): Previsão diferente, mesmo raciocínio.
• Regime D (Severamente Injusto): Previsão diferente, raciocínio diferente.

Os métodos existentes visam principalmente os Regimes C e D, deixando o Regime B indetectado.

Metodologia: Consistência da Explicação Contrafactual (CEC)

Para detectar e mitigar o Regime B, os autores propõem a Consistência da Explicação Contrafactual (CEC), um framework que alinha as atribuições de características entre indivíduos e seus contrapartes contrafactuais.

1. Geração Contrafactual via Correspondência de Vizinho Mais Próximo Estratificada por Rótulo

Em vez de usar contrafactuais ingênuos (inverter o atributo protegido mantendo todas as outras características constantes, o que frequentemente gera indivíduos estatisticamente impossíveis), os autores propõem uma abordagem de Vizinho Mais Próximo (NN) Estratificado por Rótulo.

• Mecanismo: Para um indivíduo factual $(x, y, a)$, o sistema pesquisa nos dados de treinamento um indivíduo $\tilde{x}$ do grupo oposto ($1-a$) que compartilhe o mesmo rótulo verdadeiro ($y$) e possua as características financeiras ($F$) mais similares.
• Características Financeiras ($F$): Definidas como características baseadas em mérito e legalmente permitidas (por exemplo, renda, pontuação de crédito) que não são proxies demográficas.
• Racional: Isso garante que o factual e o contrafactual tenham idêntica solvência creditícia de verdade. Qualquer diferença no raciocínio do modelo é, portanto, atribuível a um viés dependente do grupo, e não a diferenças legítimas de risco. Este método evita a necessidade de modelos causais estruturais (SCMs).

2. Princípio da Linha de Base Consistente

O framework utiliza Gradientes Integrados (IG) para medir as atribuições de características. Uma contribuição crítica é o Princípio da Linha de Base Consistente.

• Problema: Comparar vetores de IG usando linhas de base específicas do grupo (por exemplo, média do Grupo 0 vs. média do Grupo 1) introduz um fator de confusão. Diferenças nas atribuições podem surgir simplesmente dos diferentes pontos de referência (linhas de base) e não de raciocínios discriminatórios.
• Solução: Tanto o factual $x$ quanto o contrafactual $\tilde{x}$ devem ser avaliados contra a mesma linha de base (especificamente, a média do grupo de rótulos do factual).
• Garantia Teórica: Os autores provam que o uso de uma linha de base consistente isola a diferença de atribuição à diferença de entrada e aos gradientes do modelo, removendo termos espúrios causados por deslocamentos na distribuição do grupo.

3. A Métrica CEC e a Função de Perda de Treinamento

• Métrica: A pontuação CEC mede a distância $L_2$ normalizada entre os vetores de atribuição de $x$ e $\tilde{x}$ ao usar a linha de base consistente. Uma pontuação de 0 indica raciocínio idêntico; 1 indica raciocínio maximamente oposto.
• Objetivo de Treinamento: Os autores introduzem uma função de perda multiobjetivo que otimiza conjuntamente:
  1. Precisão da Previsão (Entropia Cruzada Binária).
  2. Justiça de Resultados (Restrição de Chances Igualizadas).
  3. Justiça Procedimental (Perda CEC): Um regularizador diferenciável que penaliza a divergência nos vetores de atribuição entre pares factual e contrafactual.

Contribuições Principais

1. Formalização do Viés Procedimental Oculto: O artigo define e categoriza o "Regime B" (mesmo resultado, raciocínio diferente) como um modo de falha crítico invisível para métricas padrão de justiça.
2. Geração Contrafactual via Vizinho Mais Próximo: Um método prático para gerar contrafactuais realistas para auditoria de justiça sem exigir grafos causais, confiando em vez disso na correspondência de mérito financeiro.
3. Princípio da Linha de Base Consistente: Uma correção teórica e prática para comparações de Gradientes Integrados que impede que artefatos induzidos pela linha de base sejam interpretados erroneamente como viés.
4. Framework CEC: Uma função de perda de treinamento diferenciável que impõe consistência na explicação juntamente com precisão e justiça de resultados, demonstrando que a justiça procedimental pode ser alcançada com custos modestos de utilidade.

Resultados Experimentais

Os autores avaliaram a CEC em quatro conjuntos de dados: Dados sintéticos, Crédito Alemão, Renda Adulta e dados de hipotecas do HMDA. Eles compararam a CEC contra seis linhas de base (Sem Restrições, Removedor de Impacto Dispar, Pós-processamento de Hardt, Reduções de Agarwal, Debiasing Adversarial, Aprendizado de Justiça Lagrangiano).

• Detecção de Viés Oculto: Todos os métodos de linha de base que alcançaram justiça de resultados competitiva (baixas lacunas de Chances Igualizadas) exibiram substancial viés procedimental oculto (altas pontuações CEC). Por exemplo, no conjunto de dados de Crédito Alemão, os métodos de linha de base colocaram ~90% das amostras no Regime B, enquanto o modelo CEC reduziu isso para ~17%.
• Mitigação: O modelo treinado com CEC consistentemente alcançou as menores pontuações CEC e a maior proporção de amostras do Regime A (totalmente justas) em todos os conjuntos de dados.
• Compensação de Utilidade: O modelo CEC manteve utilidade preditiva competitiva (F1 e AUC) e justiça de resultados, com apenas reduções modestas no desempenho em comparação com as linhas de base sem restrições.
• Estudos de Ablação:
  • Adicionar apenas restrições de Chances Igualizadas (EO) não reduziu o Regime B; em alguns casos, aumentou-o ligeiramente.
  • Adicionar apenas regularização CEC reduziu significativamente o Regime B e, como efeito colateral, frequentemente levou a lacuna EO a zero.
  • O modelo multiobjetivo completo alcançou o melhor equilíbrio, confirmando que a justiça procedimental e a justiça de resultados são objetivos ortogonais que exigem otimização conjunta explícita.

Significado e Alegações

O artigo alega que justiça de resultados e justiça procedimental são ortogonais. Otimizar um não garante o outro; de fato, intervenções padrão focadas em resultados podem inadvertidamente mascarar ou exacerbar o viés procedimental oculto (Regime B).

O significado deste trabalho reside em:

1. Conformidade Regulatória: Aborda uma lacuna específica na conformidade legal (por exemplo, ECOA), onde credores são proibidos de usar diferentes padrões de subscrita para diferentes grupos, mesmo que as taxas finais de aprovação sejam iguais.
2. Auditabilidade: Fornece uma ferramenta quantitativa (pontuação CEC e distribuição de regimes) para auditar não apenas o que um modelo decide, mas como ele raciocina, identificando candidatos específicos submetidos a tratamento inconsistente.
3. Mudança Metodológica: Demonstra que a justiça procedimental pode ser integrada ao pipeline de treinamento por meio de perdas diferenciáveis, indo além de explicações post-hoc para a mitigação proativa de viés oculto.

Os autores concluem que, embora a justiça de resultados seja necessária, ela é insuficiente para garantir decisões automatizadas equitativas em domínios de alto risco, como empréstimos. O framework CEC oferece um caminho prático para alinhar o raciocínio do modelo com padrões legais e éticos de justiça procedimental.