Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing

1. Declaração do Problema

O artigo aborda uma limitação fundamental nas metodologias atuais de testes de discriminação, especificamente no que diz respeito à construção do comparador.

• Contexto: Os testes de discriminação baseiam-se na comparação de um "reclamante" (um indivíduo que alega discriminação com base em um atributo protegido $A$, como raça ou gênero) com um "comparador" (um indivíduo semelhante de um grupo não protegido).
• A Abordagem Padrão (Ceteris Paribus - CP): A maioria das ferramentas existentes (tanto legais quanto algorítmicas) utiliza um comparador ceteris paribus ("tudo o mais igual"). Isso assume que o comparador é idêntico ao reclamante em todos os atributos não protegidos ($X$), diferindo apenas no atributo protegido ($A$).
• O Defeito: Os autores argumentam que a abordagem CP é uma comparação idealizada que falha em levar em conta a realidade causal de que atributos protegidos frequentemente influenciam atributos não protegidos (por exemplo, racismo sistêmico afetando níveis de educação ou renda). Ao forçar $X$ a permanecer idêntico quando $A$ muda, o comparador CP ignora os efeitos a jusante da discriminação, potencialmente mascarando discriminação indireta ou falhando em capturar o verdadeiro cenário "o que teria sido".
• Questão Central: Como podemos derivar um comparador que leve em conta a influência causal do atributo protegido sobre outros recursos, em vez de assumir um mundo estático e idealizado onde apenas o atributo protegido muda?

2. Metodologia

Os autores propõem um framework de modelagem causal para redefinir o comparador, movendo-se de uma métrica de distância estática para uma abordagem generativa e contrafactual.

A. Framework Causal

O artigo utiliza Modelos Causais Estruturais (SCM) (framework de Pearl) para formalizar os testes de discriminação.

• Variáveis: $A$ (Atributo Protegido), $X$ (Atributos Não Protegidos), $Y$ (Resultado da Decisão).
• Raciocínio Contrafactual: A derivação de um comparador é enquadrada como responder a uma pergunta contrafactual: "Qual seria o resultado se o reclamante tivesse um atributo protegido diferente?"
• Procedimento: Os autores adotam os passos padrão Abdução-Ação-Predição:
  1. Abdução: Inferir as variáveis exógenas latentes ($U$) a partir dos dados observados.
  2. Ação: Intervir em $A$ (definir $A := \alpha$).
  3. Predição: Propagar a mudança através das equações estruturais para gerar a distribuição contrafactual de $X$ e $Y$.

B. Os Dois Tipos de Comparador

O artigo introduz uma classificação formal de comparadores:

1. Comparador Ceteris Paribus (CP):

   • Definição: Encontra um indivíduo $i'$ tal que $d(x_i, x_{i'}) \leq \epsilon$ e $a_i \neq a_{i'}$.
   • Mecanismo: Minimiza a distância nos atributos não protegidos $X$ enquanto inverte $A$.
   • Limitação: Assume que $X$ é independente de $A$ no mundo contrafactual, ignorando vínculos causais históricos ou sistêmicos.

2. Comparador Mutatis Mutandis (MM):

   • Definição: Encontra um indivíduo $i'$ tal que $\tilde{d}((x_i, a_i), (x_{i'}, a_{i'})) \leq \epsilon$ e $a_i \neq a_{i'}$.
   • Mecanismo: Utiliza uma função de distância consciente do atributo protegido $\tilde{d}$. Crucialmente, permite que $x_i \neq x_{i'}$.
   • Implementação: O comparador MM requer a geração de uma representação contrafactual $\tilde{X}$ dos atributos não protegidos do reclamante. Este $\tilde{X}$ representa o que seriam os atributos do reclamante caso ele pertencesse ao grupo não protegido, efetivamente "ajustando" para os efeitos a jusante de $A$ sobre $X$.
   • Formulação Matemática: Os autores propõem o uso de um modelo generativo $g(\cdot)$ (baseado, por exemplo, em SCM) para aprender $\tilde{X} = g(X, A)$ tal que $\tilde{X} \perp A$ (representação justa). O comparador é então encontrado minimizando a distância entre $\tilde{X}$ e o $X$ real do grupo não protegido.

C. Configuração Experimental

Para validar a distinção, os autores comparam duas ferramentas no conjunto de dados Admissões à Faculdade de Direito:

1. Teste de Situação (ST): Implementa o comparador CP. Encontra os vizinhos mais próximos no conjunto de dados com base em $X$ (GPA, LSAT) após inverter o atributo protegido.
2. Teste de Situação Contrafactual (CST): Implementa o comparador MM. Utiliza um SCM para gerar perfis contrafactuais (ajustando GPA/LSAT com base na influência causal de raça/gênero) antes de encontrar os vizinhos mais próximos.

3. Contribuições Principais

1. Reenquadramento Causal: Os autores argumentam que derivar um comparador é inerentemente um problema de modelagem causal, e não apenas uma busca por similaridade. O comparador é uma representação contrafactual do reclamante factual.
2. O Conceito de Comparador MM: Eles introduzem o comparador Mutatis Mutandis como uma alternativa viável ao comparador CP padrão. Isso desloca o objetivo de "tratar pessoas semelhantes de forma semelhante" (igualdade formal) para "alcançar igualdade substantiva", levando em conta desvantagens sistêmicas.
3. Distinção Formal: O artigo fornece uma distinção matemática rigorosa entre comparadores CP e MM, destacando que o MM permite dissimilaridade em atributos não protegidos se essas diferenças forem causadas pelo atributo protegido.
4. Integração de ML: Os autores posicionam o Aprendizado de Máquina (especificamente modelos generativos e SCMs) como essencial para implementar o comparador MM, contrastando com visões que rejeitam a modelagem causal nos testes de discriminação.

4. Resultados

O experimento ilustrativo no conjunto de dados de Admissões à Faculdade de Direito produziu achados significativos:

• Taxas de Detecção: A ferramenta CST (MM) detectou significativamente mais casos de discriminação prima facie do que a ferramenta ST (CP).
  • Raça: O CST detectou ~3x mais casos do que o ST (por exemplo, 17,26% vs 3,08% em $k=500$).
  • Gênero: O CST detectou ligeiramente mais casos, mas a lacuna foi menor, sugerindo que o impacto causal do gênero sobre os recursos específicos (GPA/LSAT) neste conjunto de dados foi menos pronunciado do que o da raça.
• Mudanças de Distribuição: A análise visual (gráficos de caixa) mostrou que, sob ST, o grupo de teste (comparadores) tinha distribuições de GPA/LSAT quase idênticas ao grupo de controle. Sob CST, as distribuições do grupo de teste foram deslocadas, refletindo o ajuste contrafactual onde a influência do atributo protegido sobre os recursos foi removida.
• Implicação: A abordagem CP (ST) frequentemente falha em detectar discriminação indireta porque assume que, se um candidato de minoria tem o mesmo GPA/LSAT que um candidato branco, eles são "semelhantes". A abordagem MM (CST) reconhece que alcançar aquele GPA/LSAT pode ter exigido superar barreiras sistêmicas, e, portanto, o comparador "justo" deve ter valores de recursos diferentes.

5. Significado e Conclusão

• Igualdade Substantiva vs. Formal: O artigo argumenta que confiar exclusivamente em comparadores CP impõe igualdade formal (tratar pessoas com estatísticas atuais idênticas da mesma forma), o que pode perpetuar desigualdades existentes. O comparador MM visa a igualdade substantiva ao visualizar um mundo onde barreiras sistêmicas são removidas.
• Impacto Normativo: A escolha do comparador não é apenas um parâmetro técnico; é uma declaração normativa sobre o que constitui uma comparação "justa". O comparador MM força as partes interessadas a confrontar os mecanismos causais da discriminação.
• Direções Futuras: Os autores sugerem que as futuras ferramentas de teste de discriminação devem ir além de métricas de distância simples e incorporar modelos generativos (como SCMs ou Aprendizado de Representação Justa) para derivar comparadores MM. Isso permite que o campo avance da detecção de discriminação direta para a descoberta de padrões complexos de discriminação indireta enraizados em viés sistêmico.

Em resumo, o artigo postula que, para testar verdadeiramente a discriminação em uma sociedade complexa e enviesada, devemos parar de perguntar "Quem é exatamente como esta pessoa, mas com uma raça/gênero diferente?" e começar a perguntar "Quem seria esta pessoa se os efeitos sistêmicos de sua raça/gênero fossem removidos?". O comparador Mutatis Mutandis fornece o framework técnico para responder a esta última questão.