Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review

Resumo Técnico: Trocas entre Equidade Individual e de Grupo em Aprendizado de Máquina

Declaração do Problema
A equidade algorítmica tornou-se uma preocupação crítica em sistemas de tomada de decisão de alto risco (ex.: justiça criminal, contratação, saúde). A literatura tradicionalmente se bifurcou em duas noções distintas e, frequentemente, conflitantes de equidade: Equidade de Grupo (EG) e Equidade Individual (EI).

• Equidade de Grupo foca na paridade de resultados ou taxas de erro entre subpopulações demográficas definidas por atributos sensíveis (ex.: paridade demográfica, igualdade de oportunidades).
• Equidade Individual enfatiza o tratamento consistente de indivíduos semelhantes, independentemente de sua pertença a um grupo, tipicamente formalizada via continuidade de Lipschitz ou métricas de similaridade.

Embora ambas visem o tratamento equitativo, elas são frequentemente matematicamente incompatíveis. Impor uma paridade de grupo estrita muitas vezes exige tratar indivíduos semelhantes de forma diferente com base na pertença ao grupo para corrigir desequilíbrios distributivos, o que viola a equidade individual. Inversamente, impor consistência individual estrita pode preservar ou reproduzir disparidades ao nível do grupo. As revisões existentes abordam majoritariamente essas noções isoladamente ou categorizam os métodos por sua posição no pipeline de ML sem analisar explicitamente as trocas entre EG e EI. Este artigo aborda a lacuna de revisar sistematicamente métodos que gerenciam conjuntamente esses objetivos conflitantes.

Metodologia
Os autores realizaram uma revisão sistemática da literatura para identificar estudos que integram explicitamente tanto a EG quanto a EI dentro de um arcabouço unificado.

• Estratégia de Busca: Uma consulta booleana foi executada nas bases Web of Science, IEEE e arXiv, combinando termos relacionados à equidade individual (ex.: "consistência", "Lipschitz") e equidade de grupo (ex.: "paridade demográfica", "igualdade de oportunidades").
• Critérios de Filtragem: Os artigos foram selecionados apenas se formalizassem uma otimização conjunta, conjunto de restrições ou arcabouço de avaliação que contabilizasse simultaneamente ambas as noções de equidade. Artigos que apenas mencionavam ambos os conceitos em motivação, sem integração técnica, foram excluídos.
• Construção da Taxonomia: Em vez de depender apenas da taxonomia padrão por estágio de pipeline (pré/em/pós-processamento), os autores desenvolveram uma taxonomia detalhada baseada nos mecanismos de equidade empregados. Esta abordagem agrupa os métodos pela forma como formulam e gerenciam a troca entre EG e EI, independentemente do estágio específico do pipeline.

Contribuições Principais e Taxonomia
O artigo fornece uma revisão abrangente de abordas de equidade híbridas, organizando-as em três famílias mecanísticas primárias:

1. Estratégias baseadas em Representação ou Modificação de Dados:

   • Transformação de Dados: Modifica os dados de entrada (ex.: correção de rótulos, edição de características) para equilibrar distribuições conjuntas de grupos sensíveis e resultados, preservando as estruturas de vizinhança local.
   • Reponderação e Reamostragem: Ajusta pesos específicos de instâncias para aproximar uma distribuição alvo onde atributos sensíveis e resultados sejam independentes, frequentemente utilizando valores de Shapley para avaliar contribuições individuais à disparidade.
   • Representação e Embedding: Mapeia indivíduos em um espaço latente onde observações semelhantes são agrupadas. Isso impõe a EI por construção (indistinguíveis dentro de clusters) enquanto promove a EG através de restrições de recuperabilidade de representação ou composição de clusters.
   • Aumentação e Contrastiva: Gera amostras contrafatuais ou contrastivas sintéticas (variando atributos sensíveis) para impor invariância ou suavidade nas predições, abordando tanto a consistência local quanto as disparidades de grupo.

2. Estratégias baseadas em Regularização ou Objetivos de Otimização:

   • Regularização: Aumenta a função de perda com termos que penalizam o comportamento injusto tanto em nível de grupo quanto individual (ex.: $\lambda_{EG}\Phi_{grupo} + \lambda_{EI}\Psi_{individual}$). Isso permite navegar na fronteira de Pareto entre precisão, EG e EI.
   • Abordagens baseadas em Métricas: Incorpora a estrutura geométrica diretamente na função de perda, penalizando discrepâncias de predição para pares de indivíduos considerados semelhantes por uma métrica predefinida. Isso impõe a continuidade de Lipschitz, o que pode satisfazer indiretamente a equidade de grupo sob condições específicas.
   • Aprendizado Adversário: Treina um preditor para minimizar a perda de predição enquanto um adversário tenta recuperar atributos sensíveis. Extensões incorporam penalidades de similaridade por pares ou perdas contrafatuais para garantir consistência local juntamente com invariância de grupo.

3. Estratégias baseadas em Ajustes Locais ou Post-hoc:

   • Limiarização (Thresholding): Introduz limiares de decisão específicos por grupo para alinhar-se com critérios como igualdade de oportunidades. Extensões incorporam métricas de similaridade para alinhar parcialmente com a EI.
     rak
   • Opção de Rejeição (Reject-option): Opera em uma "região de ambiguidade" próxima à fronteira de decisão, modificando seletivamente as predições para reduzir disparidades e corrigir inconsistências locais simultaneamente.

Resultados e Observações Empíricas
A revisão analisou a literatura selecionada em relação à implementação e benchmarking:

• Distribuição no Pipeline: Métodos de processamento interno (in-processing) são os mais prevalentes (60%), seguidos por pré-processamento (25%) e pós-processamento (19%).
• Mecanismos Dominantes: A regularização é a sub-taxonomia mais comum, seguida por abordagens baseadas em métricas e aprendizado de representação.
• Benchmarking: Há uma dependência excessiva de um conjunto estreito de datasets (Adult, COMPAS, German Credit), que aparecem em aproximadamente 20% dos estudos. Isso levanta preocupações sobre a generalização para domínios de alta dimensão como Visão Computacional ou PLN.
• Custo Computacional: A eficiência computacional raramente é um foco primário. Embora alguns métodos sejam notados como computacionalmente exigentes (ex.: exigindo horas de treinamento ou retreinamento iterativo), poucos fornecem análises sistemáticas das trocas entre objetivos de equidade, precisão e custo computacional.
• Reprodutibilidade: Apenas 56% dos métodos revisados fornecem código acessível publicamente, limitando a verificação independente e a adoção prática.

Significância e Alegações
O artigo afirma ser a primeira revisão sistemática que analisa explicitamente as trocas entre EG e EI através de definições, algoritmos e configurações de avaliação. Sua significância reside em:

1. Sintetizar Abordagens Híbridas: Ele vai além do estudo de EG e EI isoladamente para esclarecer como ambos podem ser operacionalizados conjuntamente.
2. Esclarecer Trocas (Trade-offs): Destaca que o conflito entre essas noções não é meramente um artefato técnico, mas reflete tensões normativas mais profundas, e que os métodos existentes oferecem diferentes formas de navegar na fronteira de Pareto entre elas.
3. Identificar Lacunas: Os autores notam modestamente que o campo está em um estágio inicial de maturidade. Eles identificam lacunas críticas, incluindo a falta de avaliação sistemática de custos computacionais, a escassez de estudos em domínios diversos, a ausência de orientação sobre seleção de parâmetros para restrições do mundo real e a forte suposição de atributos sensíveis totalmente rotulados durante o treinamento.
4. Direções Futuras: O artigo sugere que trabalhos futuros devem focar em frameworks mais flexíveis (além da paridade rígida), integração com perspectivas causais e legais, e métodos que operem sob restrições realistas (ex.: dados censurados, interseccionalidade).

Os autores concluem que, embora a EG e a EI sejam frequentemente matematicamente incompatíveis, os métodos que gerenciam explicitamente essas trocas representam um passo crucial em direção a uma tomada de decisão algorítmica mais responsável e transparente, fornecendo uma base para projetar algoritmos que ofereçam confiabilidade tanto em níveis individuais quanto de grupo.