Resumo Técnico: Abordagem de Regressão Dupla para Equidade de Subgrupos

1. Declaração do Problema

O artigo aborda o desafio de alcançar a equidade de subgrupos (subgroup fairness) em aprendizado de máquina quando múltiplos atributos sensíveis (por exemplo, gênero, raça, idade) estão presentes. Embora a equidade marginal (equidade em relação a atributos individuais) seja bem estudada, ela falha em prevenir o "gerrymandering de equidade" (fairness gerrymandering), onde a discriminação severa persiste nas interseções de múltiplos atributos (Kearns et al., 2018a;b).

Formalmente, com $q$ atributos sensíveis binários, existem $2^q$ subgrupos. Impor a equidade de distribuição em todos esses subgrupos enfrenta duas barreiras críticas:

1. Esparsidade de Dados: À medida que $q$ aumenta, muitos subgrupos contêm pouquíssimas amostras, levando a uma estimativa de modelo instável e garantias de equidade imprecisas (Molina & Loiseau, 2023).
2. Carga Computacional: O número de restrições de equidade escala exponencialmente com $q$. Abordagens adversariais existentes que tentam medir a equidade em todos os subgrupos tornam-se computacionalmente intratáveis.

Além disso, os métodos existentes frequentemente falham em garantir simultaneamente a equidade marginal (equidade em cada atributo individual) e a equidade de subgrupo, ou dependem de noções de equidade mais fracas (por exemplo, Paridade Demográfica) que não garantem a equidade de distribuição.

2. Metodologia

2.1 Equidade de Subgrupo-Subconjunto

Para resolver a esparsidade de dados, os autores propõem focar apenas em subgrupos "ativos" — aqueles com tamanhos de amostra suficientes — incluindo explicitamente subgrupos marginais (subgrupos definidos por atributos sensíveis únicos) para garantir a equidade marginal.

Eles formalizam a equidade de subgrupo-subconjunto, onde um "subgrupo-subconjunto" $W$ é a união de subgrupos específicos. O objetivo é impor a equidade de distribuição sobre uma coleção pré-selecionada de subgrupos-subconjuntos $\mathcal{W}$ onde os tamanhos de amostra não são muito pequenos.

2.2 Métrica de Probabilidade Integral de Supremo (supIPM)

Os autores introduzem uma medida de equidade de distribuição chamada Métrica de Probabilidade Integral de Supremo (supIPM). Para uma coleção de subgrupos-subconjuntos $\mathcal{W}$, a lacuna de equidade é definida como:
$$\Delta_{\psi, \mathcal{W}}(f) = \sup_{W \in \mathcal{W}} \psi(P_{f,W}, P_{f,W^c})$$
onde $\psi$ é uma medida de desvio (especificamente IPM). Os autores provam que o erro de estimativa do supIPM empírico depende do tamanho mínimo de amostra dentro dos subconjuntos ($n_W$), em vez do número total de subconjuntos $|\mathcal{W}|$, justificando o foco em subconjuntos ativos.

2.3 Aprendizado Adversarial de Regressão Dupla (DRAF)

Otimizar diretamente o supIPM é computacionalmente caro porque requer encontrar um discriminador separado para cada $W \in \mathcal{W}$. Para superar isso, os autores propõem um surrogate de lacuna de equidade baseado em $R^2$ de Regressão Dupla (DR2).

• Fundamentação Teórica: Eles estabelecem uma relação entre o IPM e o coeficiente de determinação ($R^2$) em um cenário de regressão onde a entrada é a predição do modelo e a saída é um rótulo indicando a participação no subconjunto.
• O Surrogate: Eles definem uma medida de $R^2$ de Regressão Dupla, $DR^2(f, v, g)$, que regride simultaneamente a saída do discriminador $g(f(x))$ e uma combinação ponderada de indicadores de subconjunto $v^\top c_i$.
• Inovação Principal: O algoritmo proposto, DRAF (Aprendizado Adversarial de Regressão Dupla para Equidade), otimiza uma lacuna substituta definida como:
  $$DR_{n, \mathcal{W}, \mathcal{G}}(f) := \sup_{g \in \mathcal{G}, v \in S_M} \tilde{z}\text{-}DR^2(f, v, g)$$
  Crucialmente, esta formulação requer apenas um único discriminador $g$ e um vetor de pesos $v$, independentemente do número de subgrupos-subconjuntos $|\mathcal{W}|$. Isso reduz a complexidade computacional de exponencial para linear em relação ao número de subconjuntos.
• Otimização: O algoritmo treina o preditor $f$ e o par discriminador/peso $(g, v)$ em um formato min-max alternado. A análise teórica prova que este surrogate de lacuna serve como um limite superior para o verdadeiro supIPM.

3. Principais Contribuições

1. Formalização da Equidade de Subgrupo-Subconjunto: Uma nova noção de equidade que equilibra a necessidade de equidade interseccional com as restrições práticas de esparsidade de dados, focando em subgrupos-subconjuntos ativos e grupos marginais.
2. Introdução do supIPM: Uma medida de equidade de distribuição para subgrupos-subconjuntos, acompanhada de um limite teórico sobre seu erro de estimativa.
3. Algoritmo DRAF: Um algoritmo de aprendizado adversarial computacionalmente eficiente que utiliza um único discriminador para aproximar o supIPM via um surrogate de $R^2$ de regressão dupla. Os autores provam que este surrogate é um limite superior da métrica alvo.
4. Validação Empírica: Demonstração de que o DRAF supera os métodos de base (Regularização, GerryFair, Mapeamento Sequencial), particularmente em cenários com atributos sensíveis de alta dimensão e subgrupos esparsos.

4. Resultados Experimentais

Os autores avaliaram o DRAF em quatro conjuntos de dados de referência: ADULT, DUTCH, CIVILCOMMENTS e COMMUNITIES (este último com $q=18$ e esparsidade extrema).

• Desempenho em Dados Esparsos: No conjunto de dados COMMUNITIES, onde a maioria dos subgrupos é extremamente pequena, o DRAF superou significativamente os métodos de base tanto em equidade de subgrupo (SP) quanto em equidade marginal de primeira ordem (MP(1)). Métodos de base como o GerryFair (focado na disparidade de pior caso do subgrupo) ou Regularização (focado na disparidade marginal) falharam em alcançar ambos simultaneamente.
• Troca entre Acurácia e Equidade: O DRAF alcançou trocas competitivas entre acurácia e equidade em todos os conjuntos de dados. Em conjuntos de dados menos esparsos (ADULT, DUTCH), ele teve desempenho comparável ou superior aos métodos de base.
• Análise de Correlação: Experimentos mostraram que o DRAF controla efetivamente tanto a equidade de subgrupo quanto a marginal simultaneamente, enquanto métodos focados em apenas uma dimensão frequentemente degradam a outra.
• Robustez: O método demonstrou robustez a atributos sensíveis ruidosos (ausentes), pois pode aplicar restrições de equidade apenas a subgrupos-subconjuntos observáveis sem descartar amostras.
• Extensões: Foi mostrado que a abordagem se estende para classificação multiclasse e restrições de equidade de Igualdade de Oportunidades (EO - Equalized Odds).

5. Significância e Alegações

O artigo afirma que o DRAF fornece uma solução prática para a "maldição da dimensionalidade" na equidade de subgrupos. Ao mudar o foco de todos os $2^q$ subgrupos para um conjunto curado de subgrupos-subconjuntos ativos e utilizar um único discriminador como surrogate, o método resolve os problemas duplos de esparsidade de dados e intratabilidade computacional.

Os autores enfatizam que sua abordagem garante a equidade de distribuição (a noção mais forte de equidade) sem recorrer a métricas mais fracas como a Paridade Demográfica. Eles argumentam que ignorar subgrupos pequenos é estatisticamente sólido para a equidade ao nível populacional, desde que a equidade marginal seja explicitamente imposta. O trabalho conclui que o DRAF permite a implantação de modelos de IA justos em cenários complexos do mundo real com múltiplos atributos sensíveis, onde métodos anteriores eram ou computacionalmente proibitivos ou estatisticamente instáveis.