Overcoming Representation Bias in Fairness-Aware data Repair using Optimal Transport

Este artigo propõe um método de reparo de dados baseado em transporte ótimo e regras de parada não paramétricas bayesianas para mitigar o viés de representação em subgrupos sub-representados e permitir a aplicação de correções justas em dados fora da amostra, equilibrando a justiça com a preservação da qualidade dos dados.

O essencial

Imagine que você é um chef de cozinha famoso que está tentando criar uma receita perfeita para um prato que todos vão adorar. O problema é que, até agora, você só pediu ajuda para a receita para um grupo muito específico de pessoas: homens brancos de uma cidade grande. Quando você tenta cozinhar para mulheres, pessoas de outras etnias ou de cidades menores, o prato fica sem graça ou até estragado.

Isso é o que acontece com a Inteligência Artificial (IA) hoje em dia. Ela aprende com dados históricos que muitas vezes são "viciados" (tendenciosos), favorecendo grupos majoritários e ignorando minorias.

Este artigo propõe uma nova maneira de "consertar" esses dados antes de ensinar a IA, garantindo que ela seja justa para todos. Vamos explicar como eles fazem isso usando algumas analogias simples:

1. O Problema: A "Falta de Amostra" (Viés de Representação)

Imagine que você quer aprender a falar todas as línguas do mundo. Se você tiver 1.000 livros em inglês, 500 em espanhol, mas apenas 2 em japonês, você vai se tornar um especialista em inglês, bom em espanhol, mas um completo desastre em japonês.

Na IA, isso é chamado de viés de representação. Se um grupo de pessoas (como mulheres negras ou idosos) aparece muito pouco nos dados de treinamento, a IA não aprende bem como eles funcionam. Quando tentamos "consertar" a IA depois, os métodos antigos falham nesses grupos pequenos porque simplesmente não tinham dados suficientes para entender a realidade deles.

2. A Solução: O "Detetive Paciente" (Regra de Parada Bayesiana)

A maioria dos métodos antigos diz: "Vamos pegar 100 dados de cada grupo e começar a consertar". O problema é que 100 dados podem ser suficientes para o grupo majoritário, mas totalmente insuficientes para o grupo minoritário.

Os autores deste artigo propõem ser mais inteligentes. Eles criaram um "Detetive Paciente".

• Em vez de contar apenas o número de dados, o detetive pergunta: "Eu já entendi completamente como esse grupo funciona?"
• Se a resposta for "não", o detetive continua coletando dados, mesmo que demore muito.
• Ele só para (o que eles chamam de "regra de parada") quando tem certeza estatística de que aprendeu tudo o que precisa sobre aquele grupo específico.

A analogia da pintura: Imagine que você está pintando um quadro. Para pintar o céu (grupo grande), você precisa de 10 pinceladas. Para pintar um pequeno pássaro no canto (grupo pequeno), você precisa de 100 pinceladas delicadas para capturar cada detalhe. O método antigo parava em 10 pinceladas para todos, deixando o pássaro borrado. O novo método continua pintando o pássaro até que ele fique perfeito, sem se importar se demorou mais.

3. O Conserto: O "Transporte Ótimo" (Caminho Mais Justo)

Depois de entender perfeitamente cada grupo, a IA precisa ser "consertada". Eles usam uma técnica matemática chamada Transporte Ótimo.

Pense nisso como um mapa de trânsito justo:

• Imagine que os dados dos grupos desfavorecidos estão em um bairro com ruas esburacadas (dados ruins ou incompletos).
• O objetivo é mover essas pessoas para um bairro onde as ruas estejam niveladas com as dos grupos privilegiados, mas sem destruir as casas delas (sem perder a informação original).
• O "Transporte Ótimo" calcula o caminho mais eficiente e menos doloroso para fazer essa mudança, garantindo que ninguém seja jogado no lixo e que todos cheguem ao mesmo destino justo.

4. O Resultado: Justiça sem Destruir a Informação

Um grande medo é que, ao tentar ser justo, a IA perca sua capacidade de prever coisas úteis (como prever se alguém vai pagar um empréstimo).

• O método deles mede o "dano" causado. É como se eles dissessem: "Conseguimos nivelar o terreno para todos, mas mantivemos a estrutura das casas intacta."
• Eles testaram isso em dados reais (como o dataset de renda dos EUA, que tem muitos homens brancos e poucas mulheres negras) e em dados simulados.
• O resultado: O método deles funcionou muito melhor do que as técnicas atuais, especialmente para os grupos que eram ignorados. Eles conseguiram corrigir a injustiça mesmo quando havia muito poucos dados sobre o grupo minoritário.

Resumo Final

Em vez de forçar a IA a aprender com dados desiguais e tentar corrigir depois (o que falha), os autores dizem: "Espere até ter dados suficientes para entender cada grupo individualmente, e só então faça a correção."

É como garantir que você ouviu a história de cada pessoa antes de julgar o caso, em vez de julgar com base apenas na história do grupo mais barulhento. Isso torna a IA mais justa, mais confiável e pronta para o mundo real, onde a diversidade é a regra, não a exceção.

Resumo técnico

Aqui está um resumo técnico detalhado do artigo "Overcoming Representation Bias in Fairness-Aware Data Repair Using Optimal Transport", apresentado em português:

1. Problema Identificado

O artigo aborda dois desafios críticos na correção de viés em Inteligência Artificial (IA) e justiça algorítmica:

• Viés de Representação: Conjuntos de dados de treinamento frequentemente sub-representam certos grupos (ex: minorias raciais, mulheres), levando a modelos que aprendem mal as distribuições desses grupos. Métodos existentes de reparo de dados falham quando aplicados a esses subgrupos devido ao aprendizado incompleto das distribuições subjacentes.
• Falta de Generalização: A maioria dos métodos de reparo de dados (data repair) opera apenas no conjunto de dados estático e finito de treinamento. Eles não conseguem ser aplicados a dados "fora da amostra" (out-of-sample), como dados arquivados ou fluxos de dados em tempo real, que seguem a mesma distribuição geradora, mas não foram vistos durante o treinamento.

2. Metodologia Proposta

Os autores propõem uma abordagem baseada em Transporte Ótimo (Optimal Transport - OT) combinada com Estatística Bayesiana Não Paramétrica (BNP) para superar o viés de representação e permitir a generalização.

A. Aprendizado Bayesiano Não Paramétrico com Regra de Parada

• Modelagem: Em vez de assumir uma distribuição paramétrica fixa, o método modela as distribuições condicionais dos dados ($F(x|u,s)$, onde $u$ é um atributo não protegido e $s$ é o atributo sensível) como processos não paramétricos.
• Priori Dirichlet: Utiliza um processo de Dirichlet (DPP) como prior para aprender as distribuições dos subgrupos.
• Regra de Parada (Stopping Rule): O núcleo da inovação é uma regra de parada sequencial baseada na Divergência de Kullback-Leibler (KLD). O processo de aprendizado para cada subgrupo $(u,s)$ continua até que a incerteza sobre a distribuição diminua abaixo de um limiar $\epsilon$.
  • Isso define um número de parada ($\hat{n}_{u,s}$) adaptativo para cada subgrupo.
  • Resultado: Garante que subgrupos minoritários (com poucos dados) continuem a ser amostrados (ou que o modelo espere até que a distribuição seja suficientemente aprendida) até que o aprendizado seja "completo", evitando o viés de representação.

B. Correção de Dados via Transporte Ótimo

• Quantização: Após o aprendizado, os dados são quantizados em células baseadas nas observações sequenciais.
• Barycentro de Wasserstein: O método define um alvo justo como o "barycentro" (ponto médio) no espaço de Wasserstein entre as distribuições dos subgrupos sensíveis ($s=0$ e $s=1$) condicionados a $u$.
• Operador de Reparo: Um operador estocástico $T_{u,s}$ é construído para mapear os dados originais para este barycentro. Isso quebra a dependência condicional entre o recurso $x$ e o atributo sensível $s$, mantendo a dependência com $u$.
• Generalização: Como o operador é aprendido a partir da distribuição estimada (e não apenas dos pontos de dados), ele pode ser aplicado a novos dados arquivados que seguem a mesma distribuição geradora.

C. Métricas de Avaliação

• Justiça ($\hat{E}$): Medida baseada na KLD simetrizada para quantificar a dependência remanescente entre $x$ e $s$ dado $u$.
• Dano aos Dados ($D$): Uma nova métrica que quantifica a perda de informação preditiva (dano) causada pela transformação, calculada como a divergência entre a distribuição reparada e a original. O objetivo é minimizar o dano enquanto maximiza a justiça.

3. Principais Contribuições

1. Solução para Viés de Representação: Introdução de uma regra de parada Bayesiana que garante que todas as distribuições condicionais (incluindo minorias) sejam aprendidas completamente antes do reparo, eliminando a diluição de dados.
2. Generalização para Dados Arquivados: Capacidade de aplicar o reparo aprendido a dados fora da amostra, superando a limitação de métodos que exigem o conjunto de dados completo para operar.
3. Definição de Alvo Justo e Trade-off: Formulação de uma definição de distribuição alvo justa e métricas quantitativas para equilibrar a justiça com a utilidade preditiva (dano aos dados).
4. Abordagem Não Paramétrica: Eliminação da necessidade de assumir formas de distribuição específicas (como Gaussianas), tornando o método robusto a dados complexos e mistos.

4. Resultados Experimentais

Os autores validaram o método em dados simulados e no conjunto de dados real Adult Income:

• Dados Simulados (GMM): O método demonstrou robustez mesmo com viés de representação severo (onde a classe minoritária aparecia menos de 1 em 20 vezes). O reparo foi eficaz e o "dano" aos dados foi invariante ao viés.
• Comparação com SOTA (State-of-the-Art):
  • O método superou abordagens de reparo geométrico e reparo distribucional existentes em métricas de invariância ao atributo sensível ($\hat{E}$).
  • No reparo de dados fora da amostra (off-sample), o método proposto foi o único capaz de realizar a correção eficazmente, enquanto o reparo geométrico falhou.
• Adult Income: Na aplicação real, o método reduziu a dependência sensível em dados não vistos em pelo menos três vezes em comparação com o reparo geométrico, mantendo níveis de dano aos dados comparáveis.

5. Significado e Impacto

Este trabalho é significativo porque oferece uma solução teórica e prática para um dos maiores obstáculos na implementação de IA justa: a escassez de dados para grupos minoritários. Ao garantir que o aprendizado da distribuição seja completo antes de aplicar correções, o método evita a amplificação de preconceitos existentes. Além disso, a capacidade de generalizar o reparo para dados arquivados ou em fluxo torna a ferramenta viável para cenários do mundo real, onde os dados de treinamento são frequentemente limitados e estáticos, mas as aplicações operam em grandes volumes de dados históricos ou em tempo real. A abordagem alinha-se com a necessidade de ferramentas de justiça escaláveis e robustas, especialmente relevante no contexto de novas regulamentações como o AI Act da União Europeia.