Improving Fairness with Ensemble Combination: Margin-Dependent Bounds

Este artigo propõe uma nova métrica de qualidade de justiça chamada "risco discriminativo" e estabelece limites teóricos de margem-dependente que demonstram como a combinação de ensembles pode melhorar simultaneamente a justiça de grupo e individual, validando a eficácia do método através de técnicas de poda de ensembles e experimentos abrangentes.

O essencial

Imagine que você está montando um time de juízes para decidir quem é aprovado em um concurso ou quem recebe um empréstimo. O problema é que, às vezes, esses juízes (que são modelos de Inteligência Artificial) têm preconceitos escondidos. Eles podem tratar duas pessoas com perfis quase idênticos de forma diferente, apenas porque uma é de um grupo social diferente da outra.

Este artigo, escrito por Yijun Bian, é como um manual de instruções para consertar esse time de juízes, tornando-os mais justos sem perder a capacidade de fazer bons julgamentos.

Aqui está a explicação do trabalho, dividida em partes simples:

1. O Problema: O "Viés" Escondido

Muitas vezes, tentamos medir a justiça de uma máquina de duas formas:

• Justiça de Grupo: "O grupo A e o grupo B têm a mesma taxa de aprovação?"
• Justiça Individual: "Duas pessoas muito parecidas foram tratadas da mesma forma?"

O problema é que essas duas medidas muitas vezes brigam entre si. Você pode satisfazer uma e violar a outra. Além disso, a maioria dos métodos atuais apenas "chuta" se está funcionando, sem ter uma garantia matemática de que vai melhorar a justiça.

2. A Nova Régua de Medição: "Risco Discriminatório"

O autor criou uma nova maneira de medir a injustiça, chamada de Risco Discriminatório (DR).

A Analogia do Espelho Mágico:
Imagine que você pega uma pessoa e, magicamente, troca apenas a sua "etiqueta" de grupo (por exemplo, muda a cor da pele ou o gênero no papel), mas deixa tudo o resto (histórico, notas, habilidades) exatamente igual.

• Se o modelo de IA disser "Sim" para a pessoa original e "Não" para a cópia com a etiqueta trocada, aí está o preconceito.
• O "Risco Discriminatório" é basicamente contar quantas vezes essa máquina muda de ideia injustamente quando você faz essa troca mágica. É uma régua que mede a injustiça tanto para grupos quanto para indivíduos ao mesmo tempo.

3. A Solução: O Poder do "Time" (Ensemble)

A parte mais interessante do artigo é a descoberta de como consertar esses juízes preconceituosos. Em vez de tentar consertar um único juiz, o autor propõe criar um Time de Juízes (o que em IA chamamos de Ensemble).

A Analogia do Conselho de Sabedoria:
Pense em um conselho de 100 juízes. Alguns são um pouco preconceituosos, outros são neutros, e alguns são super justos.

• Se cada juiz votar sozinho, o preconceito pode prevalecer.
• Mas, se eles votarem juntos e a decisão final for baseada na maioria dos votos, algo mágico acontece: os erros e os preconceitos individuais tendem a se anular.

O autor provou matematicamente que, se o "margem de vitória" do time for grande (ou seja, se o time tiver certeza da decisão), a injustiça do grupo todo diminui. É como se o preconceito de um juiz fosse cancelado pela justiça de outro.

4. A Ferramenta de Seleção: "Poda" Inteligente

Ter 100 juízes pode ser caro e lento. O autor também criou um método chamado POAF para "podar" o time.

A Analogia do Jardineiro:
Imagine que você tem um bosque gigante (o time de 100 juízes). Nem todas as árvores são necessárias. O método POAF age como um jardineiro esperto que:

1. Olha para cada árvore.
2. Remove as que são muito prejudiciais à justiça.
3. Mantém as que ajudam a ser preciso e justos.
4. O resultado é um "jardim menor" (um sub-time) que é mais justo e tão preciso quanto o original.

5. O Resultado Final

O artigo mostra, através de testes reais (como dados de faculdade de direito e empréstimos bancários), que:

• A nova régua de medição (Risco Discriminatório) funciona melhor que as antigas para detectar preconceitos.
• A matemática prova que juntar vários modelos pode, de fato, reduzir o preconceito.
• O método de "poda" consegue criar times menores que são mais justos do que os modelos individuais, sem perder a precisão.

Em resumo: O papel diz que, em vez de tentar criar um "super-juiz" perfeito (o que é difícil), é melhor reunir vários juízes "normais", deixar que eles votem juntos para cancelar os preconceitos uns dos outros, e depois selecionar apenas os melhores do grupo. É uma forma de usar a sabedoria das multidões para criar uma Inteligência Artificial mais humana e justa.

Resumo técnico

Resumo Técnico: Melhoria da Justiça em Ensemble com Limites Dependentes de Margem

1. O Problema

O uso generalizado de modelos de Aprendizado de Máquina (ML) em áreas sensíveis (recrutamento, justiça, crédito) levantou preocupações críticas sobre discriminação oculta. A literatura identifica duas fontes principais de viés: viés nos dados (histórico ou de medição) e viés algorítmico (objetivos de otimização que favorecem grupos privilegiados).

Os desafios centrais abordados no artigo são:

• Incompatibilidade de Medidas: As medidas de justiça existentes focam ou na justiça de grupo (ex: Paridade Demográfica, Igualdade de Oportunidade) ou na justiça individual (indivíduos semelhantes devem ser tratados igualmente). Essas medidas frequentemente conflitam; satisfazer uma não garante a satisfação da outra, e é possível que vieses persistam mesmo quando uma métrica é otimizada.
• Falta de Garantias Teóricas: A maioria dos métodos para melhorar a justiça (pré-processamento, in-processamento, pós-processamento) baseia-se em resultados empíricos. Poucos oferecem garantias teóricas sobre se a combinação de classificadores (ensemble) pode realmente mitigar a discriminação.
• Trade-off Justiça-Acurácia: Frequentemente, impor restrições de justiça reduz a acurácia geral do modelo.

2. Metodologia

O autor propõe uma abordagem teórica e prática baseada em combinação de ensembles (votação ponderada) para melhorar a justiça sem sacrificar significativamente a acurácia.

A. Nova Medida de Qualidade: Risco Discriminatório (DR)
Para capturar simultaneamente aspectos de justiça individual e de grupo, o artigo introduz o Risco Discriminatório (Discriminative Risk - DR).

• Conceito: O DR mede a sensibilidade de um modelo a perturbações nos atributos protegidos (SAs). Se um modelo prevê resultados diferentes para um mesmo indivíduo apenas porque seu atributo sensível foi ligeiramente alterado (ex: mudar de "homem" para "mulher" mantendo outras características), existe um risco discriminatório.
• Definição Formal:
  • Para uma instância $x = (\tilde{x}, a)$, onde $a$ são os atributos sensíveis e $\tilde{a}$ é uma versão perturbada de $a$:
  • $\ell_{bias}(f, x) = \mathbb{I}(f(\tilde{x}, a) \neq f(\tilde{x}, \tilde{a}))$
  • O DR empírico é a média desse valor sobre o conjunto de dados.
• Vantagens: Diferente de medidas de grupo que exigem particionamento explícito, o DR avalia o risco global e individual simultaneamente, sendo aplicável a atributos binários e multivalorados, e não requer gráficos causais explícitos (diferente da justiça contrafactual).

B. Limites Teóricos (Oracle Bounds)
O artigo estabelece limites teóricos que relacionam a justiça do ensemble com a margem de votação (a diferença entre a probabilidade da classe vencedora e a segunda melhor).

• Premissa: A combinação de múltiplos classificadores fracos pode gerar um "efeito de cancelamento de vieses" (cancellation-of-biases), análogo ao "cancelamento de erros" em ensembles tradicionais.
• Limites Derivados:
  • Limite de Primeira Ordem: $L_{bias}(wv_\rho) \leq 2 \mathbb{E}_D [\frac{\phi_\rho(x)}{\gamma_\rho(x)}]$
  • Limite de Segunda Ordem: $L_{bias}(wv_\rho) \leq 4 \mathbb{E}_D [\frac{\phi_\rho(x)^2}{\gamma_\rho(x)^2}]$
  • Onde $\gamma_\rho(x)$ é a margem de votação e $\phi_\rho(x)$ representa a probabilidade de inconsistência de previsão devido à perturbação.
• Conclusão Teórica: Os limites mostram que o risco discriminatório do ensemble é limitado por uma constante vezes a razão entre o risco dos classificadores individuais e a margem de votação. Isso sugere que ensembles com margens altas tendem a ser mais justos, mesmo que os classificadores individuais sejam enviesados.

C. Método de Poda: POAF
Para aplicar esses conceitos, foi desenvolvido um método de poda de ensembles chamado POAF (Pareto Optimal Ensemble Pruning via improving Accuracy and Fairness concurrently).

• Objetivo: Selecionar um sub-ensemble que seja Pareto-ótimo, minimizando simultaneamente o erro de classificação (acurácia) e o Risco Discriminatório (DR).
• Mecanismo: Utiliza dominância de Pareto e otimização bi-objetiva para iterativamente remover classificadores que não contribuem para o equilíbrio ideal entre justiça e precisão.

3. Contribuições Principais

1. Medida Unificada (DR): Proposta de uma nova métrica que quantifica o viés sob as perspectivas individual e de grupo simultaneamente, superando as limitações de incompatibilidade das métricas tradicionais.
2. Garantias Teóricas: Estabelecimento dos primeiros limites de oráculo (primeira e segunda ordem) e limites de generalização (PAC) para a justiça em ensembles de votação ponderada, provando teoricamente que a combinação pode mitigar discriminação dependendo das margens de votação.
3. Algoritmo de Poda (POAF): Desenvolvimento de um método prático para construir sub-ensembles justos e precisos, baseado em dominância de Pareto.
4. Validação Abrangente: Extensa avaliação experimental em múltiplos conjuntos de dados reais (Ricci, Credit, Income, PPR, PPVR) e comparação com o estado da arte (SOTA).

4. Resultados Experimentais

Os experimentos validaram as quatro perguntas de pesquisa (RQs) do artigo:

• Validação do DR (RQ1): O DR mostrou uma correlação mais forte com a variação de acurácia e outras métricas de desempenho sob perturbação de atributos sensíveis do que as métricas de grupo tradicionais (DP, EOpp, PP). Em um estudo de caso com dados de sucesso na faculdade de direito, o DR conseguiu refletir a justiça contrafactual de forma quantificável.
• Validação dos Limites (RQ2): Os limites teóricos foram verificados empiricamente. Os dados mostraram que os valores reais de DR do ensemble estão consistentemente abaixo dos limites teóricos derivados, confirmando a validade das desigualdades. Além disso, os limites dependentes de margem mostraram-se mais apertados e informativos do que limites análogos sem dependência de margem.
• Desempenho do POAF vs. Métodos SOTA (RQ3): O POAF superou ou foi comparável a métodos de ensemble conscientes de justiça (como FairGBM e AdaFair) e métodos de ensemble padrão (Bagging, LightGBM). Em muitos casos, o POAF alcançou um melhor equilíbrio (trade-off) entre acurácia e justiça.
• Desempenho do POAF vs. Métodos de Poda (RQ4): Comparado a diversas técnicas de poda de ensembles (baseadas em ranking, diversidade, otimização), o POAF alcançou consistentemente o melhor ou quase o melhor desempenho em termos de justiça (DR, DP, EOpp, PP), mantendo a acurácia em níveis aceitáveis.

5. Significado e Impacto

Este trabalho é significativo por várias razões:

• Fundamentação Teórica: Preenche uma lacuna crítica ao fornecer garantias teóricas de que a combinação de modelos pode melhorar a justiça, indo além da intuição empírica.
• Abordagem Unificada: A medida DR oferece uma maneira prática de avaliar a justiça que não depende da escolha arbitrária de uma única métrica de grupo ou da definição complexa de distâncias para justiça individual.
• Eficiência Prática: O método POAF demonstra que é possível obter modelos mais justos através da seleção inteligente de sub-ensembles, evitando a necessidade de re-treinamento complexo ou manipulação pesada de dados.
• Direção Futura: O artigo sugere que aumentar as margens de votação em ensembles é uma estratégia viável para mitigar discriminação, oferecendo um novo caminho para o design de algoritmos justos.

Em suma, o artigo demonstra que a combinação de ensembles, quando guiada por limites teóricos dependentes de margem e otimizada via Pareto, é uma ferramenta poderosa para melhorar a justiça em sistemas de aprendizado de máquina, oferecendo tanto garantias teóricas quanto desempenho empírico superior.