MIFair: A Mutual-Information Framework for Intersectionality and Multiclass Fairness

1. Declaração do Problema

A justiça em aprendizado de máquina é impedida por três desafios principais:

• Falta de Universalidade: Não há uma única definição de justiça; as métricas existentes (por exemplo, Paridade Estatística, Odds Igualizadas) são frequentemente incompatíveis e vinculadas a formulações específicas.
• Escopo Limitado: A maioria dos métodos existentes restringe-se a classificação binária e grupos sensíveis de atributo único. Eles lutam para lidar com interseccionalidade (discriminação decorrente da combinação de múltiplos atributos, por exemplo, raça + gênero) e tarefas de previsão multiclasse.
• Fragmentação: O campo carece de um framework unificado para avaliar, comparar e mitigar viés através de diversas noções de justiça e estruturas de subgrupos complexas simultaneamente.

2. Metodologia: O Framework MIFair

Os autores propõem o MIFair, um framework unificado baseado em Informação Mútua (MI) que serve tanto como métrica de avaliação de viés quanto como estratégia de mitigação.

A. Fundamentação Teórica

O MIFair reformula a justiça de grupo como a independência estatística entre atributos sensíveis ($A$) e uma variável de "benefício" ($B$) derivada das previsões do modelo ($\hat{Y}$) e da verdade fundamental ($Y$).

• Modelo de Métrica: A métrica central é definida como $\iota_{fairness} = I(A; B)$, onde $I$ é a Informação Mútua.
  • $I(A; B) = 0$ implica justiça perfeita (independência estatística).
  • Valores mais altos indicam dependência mais forte e maior viés.
• Unificação de Noções: Ao definir explicitamente a variável de benefício $B$ de forma diferente para cada noção de justiça, o MIFair unifica vários critérios em uma única forma matemática:
  • Paridade Estatística (SP): $B = \hat{Y}$
  • Oportunidade Igual (EO): $B = \hat{Y} \mid Y=1$
  • Igualdade Preditiva (PE): $B = \hat{Y} \mid Y=0$
  • Odds Igualizadas: Uma soma ponderada de EO e PE.
  • Igualdade Geral de Precisão: $B = \mathbb{1}\{\hat{Y} = Y\}$

B. Mitigação de Viés (In-Processing)

O MIFair emprega uma abordagem in-processing, modificando o objetivo padrão de Minimização de Risco Empírico (ERM) durante o treinamento.

• Objetivo Regularizado: A perda de treinamento é aumentada com um regularizador de justiça:
  $$\min_{w} L(D, w) + \eta \cdot \hat{\iota}_{fairness}(D, w)$$
  Onde $L$ é a perda da tarefa (por exemplo, entropia cruzada), $\eta$ é a força de regularização e $\hat{\iota}_{fairness}$ é a estimativa empírica da informação mútua.
• Estimação: Para evitar o custo computacional e a instabilidade do treinamento adversarial ou estimadores variacionais (como MINE), o MIFair utiliza uma aproximação baseada em contagem de MI derivada de amostras de minibatch. Isso estima as distribuições conjuntas e marginais diretamente a partir das probabilidades de saída do modelo e dos dados do lote.

3. Contribuições Principais

1. Framework Unificado: O MIFair consolida definições diversas de justiça (Independência, Separação, etc.) em um único modelo coerente de teoria da informação, permitindo avaliação consistente.
2. Suporte à Interseccionalidade: Diferentemente da maioria dos trabalhos anteriores limitados a atributos binários, o MIFair lida naturalmente com vetores de atributos sensíveis, permitindo a avaliação de estruturas complexas de subgrupos (por exemplo, $|G| > 2$).
3. Capacidade Multiclasse: O framework estende-se perfeitamente a tarefas de classificação multiclasse, abordando uma lacuna onde muitas métricas de justiça existentes falham.
4. Mitigação Prática: Introduz um método de treinamento baseado em regularização que é computacionalmente eficiente (sem redes adversariais) e flexível, permitindo que praticantes selecionem noções específicas de justiça através da definição de $B$.

4. Resultados Experimentais

Os autores avaliaram o MIFair em dois conjuntos de dados: UCI Adult (dados tabulares) e CelebA (dados de imagem).

• Redução de Viés: O aumento do parâmetro de regularização $\eta$ reduziu consistentemente a métrica MIFair correspondente ($\iota_{fairness}$) e as métricas clássicas associadas (SPD, EOD, OAE) em todos os pares de subgrupos.
• Interseccionalidade: No conjunto de dados Adult (3 atributos sensíveis, 8 subgrupos), o MIFair reduziu com sucesso o viés mesmo para os grupos interseccionais mais distintos (por exemplo, comparando grupos sem valores de atributo compartilhados), convergindo para a faixa de justiça aceitável $[-0.2, 0.2]$.
• Desempenho Multiclasse: No CelebA (previsão de cor do cabelo), o MIFair alcançou uma redução de 96% na métrica SP com uma perda máxima de precisão de apenas 9.1%, demonstrando mitigação eficaz de viés em configurações multiclasse.
• Compromisso Justiça-Precisão: Embora a precisão ($ACC_{mean}$) tenha diminuído ligeiramente com regularização forte, a precisão ponderada ($ACC_{weighted}$) permaneceu mais estável, indicando que o modelo corrigiu vieses de representação sem colapsar.
• Demonstração de Incompatibilidade: Os experimentos mostraram que otimizar para uma noção (por exemplo, Igualdade Geral de Precisão) não necessariamente melhora outras (por exemplo, Paridade Estatística), destacando a necessidade de selecionar a métrica correta para o objetivo ético específico.
• Comparação com Baselines: Comparado a uma baseline baseada em KDE [31], o MIFair alcançou menor Informação Mútua (melhor independência) e precisão significativamente maior, embora a baseline tenha alcançado um Impacto Dispar (DDP) ligeiramente menor. Isso sugere que a MI captura aspectos diferentes de viés do que métricas de disparidade em pares.

5. Significado e Impacto

• Versatilidade: O MIFair preenche a lacuna entre definições teóricas de justiça e aplicação prática, apoiando cenários complexos do mundo real (multiclasse, multi-atributo) que anteriormente eram difíceis de abordar.
• Padronização: Ao fornecer um único modelo de métrica, facilita a comparação de noções diversas de justiça, ajudando pesquisadores e praticantes a entender os compromissos entre diferentes definições.
• Acessibilidade: O uso de estimação de MI baseada em contagem torna o método computacionalmente eficiente e fácil de integrar em pipelines padrão de aprendizado profundo, sem exigir configurações complexas de treinamento adversarial.
• Direção Futura: O artigo estabelece uma base para estender a justiça a recursos e saídas contínuas usando formulações de informação mútua contínua.

Em resumo, o MIFair oferece uma solução robusta, principial e flexível para os desafios modernos de justiça, superando as limitações da justiça binária e de atributo único para abordar as complexidades estruturais da discriminação interseccional e multiclasse.