Resumo Técnico: O Teorema Pokémon e outros Resultados de Impossibilidade de Equidade

Declaração do Problema

O artigo aborda as limitações fundamentais da equidade algorítmica, investigando especificamente se os resultados de impossibilidade conhecidos (como a dicotomia de Kleinberg–Mullainathan–Raghavan) são artefatos de critérios escalares específicos ou propriedades estruturais inerentes de distribuições com taxas base desiguais. Duas questões principais são colocadas:

1. Limite da Lista de Verificação Finita: Uma coleção finita de critérios de equidade de média linear (por exemplo, paridade demográfica, chances iguais) pode certificar que duas distribuições de grupos são idênticas, ou uma violação residual sempre permanecerá?
2. Limite da Aprendizagem de Representação: A aprendizagem de características equitativa (aprender um codificador que remove informações de grupo) pode contornar essas impossibilidades ao produzir uma representação onde preditores subsequentes herdam a equidade sem sacrificar a utilidade?

A literatura existente frequentemente enquadra essas impossibilidades como conflitos entre estatísticas escalares (por exemplo, calibração vs. equilíbrio de taxas de erro). Os autores argumentam que esse enquadramento escalar obscurece a estrutura geométrica subjacente e deixa em aberto se "mais" critérios poderiam fechar a lacuna.

Metodologia

Os autores unificam essas restrições de equidade usando Espaços de Hilbert de Kernel Reproduzível (RKHS) e embarcamentos de média.

• Geometria RKHS: Eles modelam critérios de equidade como restrições lineares em embarcamentos de média condicional $\mu_{P} = \mathbb{E}[\phi(X)]$ dentro de um espaço de Hilbert $\mathcal{H}$.
• Kernels Característicos: Ao usar kernels característicos, eles garantem que distribuições distintas mapeiem para embarcamentos de média distintos ($\mu_P \neq \mu_Q \iff P \neq Q$).
• Acoplamento de Expectativa Total: O mecanismo central que impulsiona os resultados de impossibilidade é a lei da expectativa total, que acopla expectativas condicionais ao grupo à lacuna da taxa base ($\Delta p = p_a - p_b$).
• Análise Espectral: O artigo emprega suposições de regularidade espectral (decaimento polinomial de autovalores do operador de covariância agrupado e condições de fonte) para quantificar a taxa na qual as violações residuais decaem à medida que o número de critérios de equidade aumenta.

Principais Contribuições

1. Teorema KMR Mais Forte

Os autores fortalecem o resultado clássico de impossibilidade de Kleinberg–Mullainathan–Raghavan (KMR). Eles demonstram que a contradição entre calibração e equilíbrio condicional à classe vale mesmo sob a condição mais fraca de imparcialidade condicional ao grupo ($\mathbb{E}[S|G=g] = p_g$), em vez de exigir calibração completa dentro do grupo. Isso mostra que pontuações mal calibradas que apenas rastreiam a taxa base média do grupo ainda estão sujeitas à impossibilidade.

2. O Teorema Pokémon

Nomeado em referência ao slogan "Pegue Todos", este teorema aborda a questão da lista de verificação finita.

• Resultado Qualitativo: Para qualquer par de grupos distintos ($P_a \neq P_b$) e qualquer conjunto finito de critérios de equidade de média linear $\{v_1, \dots, v_m\}$ satisfeitos pelos grupos, existe uma violação residual no complemento ortogonal. Essa violação é testemunhada pelo vetor testemunha de Discrepância de Média Máxima (MMD) $\delta / \|\delta\|_{\mathcal{H}}$.
• Resultado Quantitativo: Sob regularidade espectral (decaimento polinomial de autovalores) e uma condição de fonte, a violação residual minimax decai à taxa de largura $m$ de Kolmogorov $\Theta(m^{-2\alpha r})$. Isso implica que, embora adicionar mais critérios reduza a violação no pior caso, ela nunca desaparece completamente para um $m$ finito, a menos que as distribuições sejam idênticas.

3. Impossibilidade da Aprendizagem de Características Equitativa

O artigo prova que a aprendizagem de representação equitativa não pode alcançar simultaneamente:

1. Paridade Distribucional: $\Phi(P_a) = \Phi(P_b)$ (a representação é invariante ao grupo).
2. Separação Condicional à Classe: A representação preserva distribuições condicionais à classe distintas ($\Phi(X) \perp\!\!\!\perp G | Y$).
3. Sinal Não Trivial: A representação retém poder preditivo para o resultado $Y$.

Se as taxas base diferirem ($p_a \neq p_b$), impor tanto paridade distribucional quanto separação condicional à classe força o colapso de classe ($\Phi(X) \perp\!\!\!\perp Y$), tornando a representação inútil para previsão.

4. Equidade Aproximada e a Ponte Pokémon–KMR

Os autores derivam limites quantitativos para equidade aproximada:

• Aprendizagem de Características Aproximada: Eles estabelecem uma fronteira de Pareto onde o sinal utilizável a jusante (lacuna de média condicional à classe) é limitado por $(\epsilon + \rho) / |p_a - p_b|$, onde $\epsilon$ é a violação de paridade e $\rho$ é a violação de separação.
• Ponte para KMR: Eles mostram que, à medida que o número de critérios de auditoria $m \to \infty$ e as violações residuais desaparecem, as condições aproximadas recuperam a impossibilidade exata de KMR (previsão perfeita é a única solução).

Resultados Experimentais

O artigo valida esses limites teóricos em benchmarks padrão de equidade (Adult Income, COMPAS, ACS PUMS):

• Decaimento Espectral: Gráficos empíricos do MMD residual contra o número de critérios $m$ confirmam a taxa de decaimento polinomial prevista pelo teorema Pokémon. O "orçamento" de MMD necessário para satisfazer os critérios varia conforme o conjunto de dados (por exemplo, o COMPAS concentra-se mais rapidamente devido à menor dimensionalidade).
• Fronteiras de Pareto: Gráficos empíricos de erro vs. lacuna de paridade demográfica para classificadores que impõem separação alinham-se com o limite inferior teórico derivado na Seção 6.2.
• Região Proibida: Experimentos com codificadores equitativos (LFR, Fair-VAE, Debiasing Adversarial) mostram que nenhum método preenche com sucesso a região "proibida" superior esquerda do gráfico (baixa lacuna de paridade com alto sinal condicional à classe), confirmando a impossibilidade de colapso de classe.

Significado e Alegações

O artigo alega fornecer uma estrutura geométrica unificada para resultados de impossibilidade de equidade.

• Insight Estrutural: Reenquadra as impossibilidades de equidade não como um conflito de métricas escalares específicas, mas como uma consequência estrutural da lei da expectativa total atuando sobre distribuições com taxas base desiguais.
• Alocação de Orçamento: Reenquadra a auditoria de equidade como um problema de alocação de orçamento, onde o "orçamento" total é o MMD entre grupos. A equidade exata exige esgotar esse orçamento, o que é impossível sem sacrificar a utilidade se as taxas base diferirem.
• Implicação Prática: Os resultados sugerem que, quando os grupos são distribucionalmente distintos, intervenções algorítmicas por si só não podem alcançar simultaneamente equidade perfeita e utilidade. O artigo implica que intervenções de políticas ou disparidades de tratamento explícitas podem ser necessárias nesses regimes, em vez de confiar apenas na limpeza de características ou otimização de restrições.

Os autores mantêm uma postura modesta, observando que seus resultados são observacionais e não propõem novos algoritmos. Em vez disso, fornecem um teorema de "não avançar" teórico que define os limites do que é alcançável em aprendizado de máquina equitativo sob taxas base desiguais.