Tuning Derivatives for Causal Fairness in Machine Learning

Resumo Técnico: Ajuste de Derivadas para Justiça Causal em Aprendizado de Máquina

Declaração do Problema
Sistemas de Inteligência Artificial frequentemente herdam vieses sociais relacionados a atributos protegidos, como raça, gênero e idade. Métricas de justiça clássicas, como Paridade Estatística (PE), que exigem que as previsões sejam independentes de atributos protegidos, são frequentemente excessivamente restritivas. Isso é particularmente verdadeiro quando atributos protegidos influenciam "necessidades comerciais" ou "variáveis de resolução" (por exemplo, infrações anteriores na avaliação de risco de reincidência) que são legitimamente necessárias para a previsão. Formulações causais recentes abordam isso distinguindo entre caminhos "não permitidos" (efeitos diretos de atributos protegidos) e caminhos "permitidos" (efeitos indiretos através de necessidades comerciais), frequentemente incorporando Paridade Preditiva (PP) para garantir que influências legítimas sejam preservadas. No entanto, definições baseadas em caminhos que dependem de contrastes causais são projetadas principalmente para atributos categóricos. Quando aplicadas a atributos protegidos contínuos (por exemplo, idade), esses métodos tornam-se impraticáveis devido à necessidade de avaliar contrastes em pontos infinitos.

Metodologia
Os autores propõem um quadro para justiça causal dentro de Modelos Causais Estruturais (MCEs) adaptado especificamente para atributos protegidos contínuos.

1. Definições Baseadas em Derivadas:

   • Paridade Estatística em Derivadas (PED): Em vez de usar contrastes, os autores definem PE ao longo de um caminho $\pi$ como o produto das derivadas parciais dos mecanismos estruturais ao longo desse caminho sendo zero. Isso garante que o preditor seja constante em relação ao atributo protegido ao longo de caminhos não permitidos.
   • Paridade Preditiva em Derivadas (PPD): A PP é definida igualando as derivadas parciais do preditor em relação às variáveis ao longo de caminhos permitidos às derivadas parciais da variável de resultado real no Processo de Geração de Dados (PGD). Isso garante que o preditor replique a influência legítima das necessidades comerciais.

2. Condições de Existência:
   O artigo estabelece uma condição necessária e suficiente para a existência de um preditor que satisfaça simultaneamente PED e PPD. Para um caminho direto não permitido ($X \to Y$) e um caminho permitido ($W \to Y$), um preditor justo existe se e somente se a derivada parcial mista do resultado esperado for zero: $\frac{\partial^2}{\partial w \partial x} E[Y | P_A^Y = p] = 0$. Se essa condição não for satisfeita, um compromisso entre PED e PPD é inevitável.

3. Algoritmo de Ajuste Justo:
   Para construir tais preditores, os autores propõem um algoritmo de "ajuste justo" para redes neurais:

   • Passo 1: Ajustar um preditor sem restrições ($\hat{Y}_{\theta_U}$) para minimizar a perda de previsão (por exemplo, MSE).
   • Passo 2: Inicializar um preditor justo com os parâmetros sem restrições.
   • Passo 3: Otimizar uma função de perda composta ($L_{FT}$) consistindo de:
     • Perda de previsão (MSE entre o preditor ajustado e o preditor sem restrições).
     • Perda PED (norma L1 das derivadas parciais ao longo de caminhos não permitidos).
     • Perda PPD (norma L1 da diferença entre as derivadas do preditor e as derivadas do preditor sem restrições ao longo de caminhos permitidos).
   • Os hiperparâmetros $\lambda_{PED}$ e $\lambda_{PPD}$ permitem que os usuários priorizem um critério de justiça sobre o outro quando a condição de compatibilidade não for atendida.

Contribuições Principais

• Formalização: O artigo formaliza PE e PP usando derivadas parciais específicas de caminho, tornando as definições de justiça causal aplicáveis a atributos protegidos contínuos sem o ônus computacional de avaliar contrastes infinitos.
• Caracterização Teórica: Deriva condições sob as quais essas definições baseadas em derivadas coincidem com definições causais anteriores baseadas em contrastes e estabelece o critério de compatibilidade (Teorema 1) para a existência simultânea de preditores justos.
• Solução Algorítmica: Introduz um algoritmo de ajuste prático que constrói preditores justos quando o critério de compatibilidade é atendido e oferece um mecanismo de compromisso flexível quando não é.
• Validação Empírica: O método é avaliado em dados simulados (PGDs lineares e multiplicativos) e no conjunto de dados do mundo real COMPAS, comparando o desempenho com métodos focados exclusivamente em PE (SPT) e esquemas de marginalização.

Resultados

• Dados Simulados: Em configurações lineares onde PED e PPD são compatíveis, o algoritmo de ajuste justo (AJ) minimiza com sucesso ambas as perdas simultaneamente. Em configurações não lineares (multiplicativas) onde são incompatíveis, o algoritmo demonstra o compromisso esperado: aumentar as restrições em uma métrica degrada a outra. O método AJ supera as abordagens de marginalização e apenas SPT na manutenção do desempenho preditivo enquanto adere às restrições de justiça, particularmente quando PPD é considerada.
• Conjunto de Dados COMPAS: Aplicado à previsão de reincidência, o algoritmo AJ (especificamente com pesos balanceados) alcançou um compromisso superior entre PED e PPD em comparação com os métodos SPT e Marginalize. Embora todos os modelos restritos tenham mostrado desempenho preditivo reduzido em comparação com a linha de base sem restrições, o AJ 10 manteve maior precisão e pontuações F1 enquanto reduzia significativamente a perda PPD.
• Derivada vs. Contraste: Quando aplicado a características binárias no conjunto de dados COMPAS, minimizar perdas baseadas em derivadas (PED/PPD) geralmente resultou em perdas baseadas em contrastes reduzidas (CSP/CPP), embora discrepâncias tenham sido observadas em alguns cenários de alta restrição.

Significado e Alegações
O artigo alega que seu quadro baseado em derivadas fornece uma solução prática e teoricamente fundamentada para justiça causal em domínios contínuos, uma lacuna deixada pelos métodos existentes baseados em contrastes. Argumenta que, ao modelar explicitamente o compromisso entre paridade estatística e preditiva através de derivadas parciais, os praticantes podem construir preditores que respeitam as necessidades comerciais enquanto mitigam a discriminação. Os autores enfatizam que seu método não requer suposições sobre as equações estruturais do PGD, apenas um diagrama causal, tornando-o aplicável em cenários do mundo real. O trabalho conclui que, embora a justiça por derivadas nem sempre se alinhe perfeitamente com a justiça por contraste para atributos binários, ela oferece uma abordagem robusta e flexível para atributos contínuos e um caminho viável para lidar com a tensão entre independência estatística e utilidade preditiva.