🤖 machine learning

Fairness in Link Prediction Beyond Demographic Parity: A Reproducibility Study

Este estudo de reprodutibilidade demonstra que a métrica NDKL proposta, sensível ao ranking, e o método de pós-processamento MORAL revelam e mitigam eficazmente os vieses de exposição em predição de links que são negligenciados pela paridade demográfica tradicional, mantendo simultaneamente uma utilidade competitiva em diversos cenários.

Autores originais: Valentijn Oldenburg, Floris de Kam, Stef de Wildt, Jarno Nilson Balk

Publicado 2026-08-11

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Valentijn Oldenburg, Floris de Kam, Stef de Wildt, Jarno Nilson Balk

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é o capitão de um enorme navio digital, conduzindo uma frota de recomendações através do vasto oceano da internet. Cada vez que você sugere um novo amigo, um candidato a um emprego ou um serviço, está essencialmente estabelecendo um link entre duas pessoas. No mundo do aprendizado de máquina, isso é chamado de predição de links. Mas aqui está o detalhe: só porque você pode prever um link, não significa que deva tratar todos igualmente. Se a bússola do seu navio estiver ligeiramente desregulada, você pode continuar direcionando os mesmos grupos de pessoas umas para as outras, enquanto deixa outros à deriva na escuridão. Este é o problema da equidade (fairness).

Por muito tempo, os cientistas usaram uma regra simples chamada Paridade Demográfica para verificar se o seu navio era justo. Pense nisso como contar quantos passageiros do Grupo A e do Grupo B estão no convés. Se os números forem aproximadamente iguais, o capitão assume que todos estão sendo tratados de forma justa. Mas este artigo argumenta que essa regra é como verificar a contagem de passageiros sem olhar para onde eles estão sentados. Se o Grupo A estiver todo na sala VIP na frente do navio (recebendo toda a atenção) e o Grupo B estiver espremido no porão de carga na parte de trás (sendo ignorado), a contagem total ainda pode parecer equilibrada, mas a experiência será tremendamente injusta. Esta é a diferença entre apenas "estar lá" e obter exposição — a chance de ser visto e escolhido.

Os pesquisadores deste estudo, uma equipe de estudantes da Universidade de Amsterdã, decidiram testar uma nova teoria sobre esse "viés de exposição". Eles queriam ver se a regra antiga (Paridade Demográfica) estava escondendo o problema real e se uma régua mais sensível poderia consertá-lo. Eles não apenas aceitaram a ideia original como fato; eles reconstruíram o experimento do zero, consertaram algumas ferramentas quebradas que encontraram pelo caminho e até criaram seus próprios mares tempestuosos para ver se a nova bússola resistiria. O que descobriram sugere que, para sermos verdadeiramente justos, precisamos olhar não apenas para quem recebe um link, mas para onde esse link aparece na lista de sugestões.

A História do Artigo

O artigo, intitulado "Fairness in Link Prediction Beyond Demographic Parity: A Reproducibility Study" (Equidade na Predição de Links Além da Paridade Demográfica: Um Estudo de Reprodutibilidade), é essencialmente uma história de detetive sobre a equidade em algoritmos de computador. Os autores, Valentijn Oldenburg, Floris de Kam, Stef de Wildt e Jarno Balk, partiram para verificar uma afirmação feita por outra equipe de pesquisadores (Mattos et al., 2025). A equipe original argumentou que a forma padrão de medir a equidade era falha porque ignorava o ranking (classificação) dos links.

Para entender o problema, imagine uma playlist de música. Se uma playlist deve ser justa, ela não deve apenas tocar um número igual de músicas do Artista A e do Artista B. Importa quando elas tocam. Se as músicas do Artista A estiverem sempre no topo (onde as pessoas realmente ouvem), e as músicas do Artista B estiverem enterradas no final (onde ninguém rola a tela), a playlist é tendenciosa, mesmo que o número total de músicas seja o mesmo. No mundo da predição de links, este "topo da lista" é onde ocorre a exposição. A regra antiga, Paridade Demográfica, era como contar o total de músicas e dizer: "Ei, temos 50 do A e 50 do B, então somos justos!" A nova regra, chamada NDKL, olha para a ordem da playlist e pergunta: "Espere, por que todas as músicas de A estão nas dez primeiras faixas?"

Os autores deste artigo fizeram três coisas principais:

Eles Reconstruíram o Experimento: Eles pegaram o código e os métodos do estudo original de 2025 e tentaram reproduzir os resultados. Descobriram que o código original tinha alguns bugs e inconsistências. Após corrigir esses problemas, confirmaram as principais descobertas da equipe original: a regra antiga (Paridade Demográfica) de fato esconde a injustiça, e a nova regra (NDKL) de fato a detecta.
Eles Testaram o "Conserto": O estudo original propôs um método chamado MORAL para resolver o problema. O MORAL é como um DJ inteligente que rearranja a playlist depois que as músicas são escolhidas. Ele pega as sugestões iniciais e as embaralha para que diferentes grupos tenham uma chance justa nos primeiros lugares, sem estragar a qualidade da música. Os autores descobriram que o MORAL reduziu com sucesso o viés de exposição injusto, mantendo a utilidade das recomendações.
Eles Estressaram o Sistema: Para garantir que isso não fosse apenas um acaso, eles criaram seus próprios "testes de estresse". Eles construíram redes sociais falsas com diferentes níveis de homofilia (a tendência de pessoas se conectarem com outras como elas mesmas). Descobriram que, mesmo quando as redes eram complicadas ou os grupos eram pequenos, o MORAL ainda conseguia manter as coisas justas. Eles também testaram o que acontece quando há mais do que apenas dois grupos (como adicionar uma terceira ou quarta categoria), e o sistema resistiu bem, embora tenha ficado um pouco mais difícil de equilibrar conforme os grupos diminuíam.

O Que Eles Descobriram

O estudo confirma que a Paridade Demográfica é um indicador pobre de equidade quando se trata de listas classificadas. Sugere que confiar nela é como julgar uma corrida pelo número de pessoas que terminaram, ignorando quem realmente ganhou a medalha de ouro. A nova métrica, NDKL, é muito melhor em detectar quando um grupo está sendo sistematicamente empurrado para o final da lista.

O método MORAL, que atua como um "re-classificador" de pós-processamento, mostrou-se altamente eficaz. Em seus experimentos em seis conjuntos de dados do mundo real (incluindo redes sociais e dados de crédito), o MORAL reduziu consistentemente o viés de exposição. Por exemplo, no conjunto de dados "Facebook", o novo método reduziu a pontuação de equidade para quase zero (significando pouquíssimo viés), mantendo a precisão das previsões alta.

Os autores também descobriram que o sistema é robusto. Mesmo quando simularam redes onde um grupo era muito pequeno ou onde as pessoas só gostavam de se conectar com o próprio tipo (alta homofilia), o MORAL ainda conseguiu distribuir a exposição de forma justa. No entanto, eles observaram uma compensação (trade-off): à medida que o número de grupos diferentes aumentava, tornava-se ligeiramente mais difícil equilibrar todos perfeitamente, e o sistema exigia mais poder computacional. Mas, mesmo assim, as principais recomendações permaneceram precisas.

A Conclusão

Este artigo não afirma ter resolvido todos os problemas de equidade na IA, mas sugere fortemente que precisamos mudar a forma como a medimos. Se nos importamos com quem é visto e quem é ignorado, não podemos apenas contar cabeças; temos que olhar para o mapa de assentos. O estudo mostra que, ao usar uma métrica que respeita a ordem da lista (como o NDKL) e um método que rearranja ativamente a lista para ser justa (como o MORAL), podemos construir sistemas que são não apenas precisos, mas também genuinamente justos para todos os grupos, não importa quão pequenos ou ocultos sejam. Os autores até disponibilizaram seu código corrigido para que outros possam verificar seu trabalho e construir sobre ele, garantindo que o caminho para uma IA justa esteja aberto para todos caminhar.

Declaração do Problema
A equidade na predição de links visa reduzir as disparidades nas probabilidades de links preditos entre grupos. Em recomendações de redes sociais, os preditores de links determinam a visibilidade e a conectividade, podendo induzir loops de feedback que reforçam conexões dentro do mesmo grupo e desfavorecem grupos minoritários. Um problema crítico surge quando esses modelos são treinados em dados históricos de grafos, que podem herdar e amplificar vieses estruturais existentes.

Embora a paridade demográfica ( $\Delta$ DP) seja uma métrica de equidade comum na predição de links baseada em ranking, ela agrega links em categorias grosseiras (mesmo grupo vs. grupos distintos). Mattos et al. (2025) argumentam que essa visão diádica falha em detectar o viés de exposição porque ignora a posição específica dos links dentro do ranking. Consequentemente, a paridade agregada pode ser mantida mesmo quando links de pares de subgrupos específicos (ex: links feminino-feminino) são sistematicamente classificados abaixo de outros, ocultando disparidades intra-grupo.

Metodologia
Este estudo é uma reprodução e extensão de Mattos et al. (2025). Os autores formalizam a predição de links como um problema de ranking onde atributos sensíveis definem tipos de pares de subgrupos (ex: $E_{0-0}, E_{1-1}, E_{0-1}$ ).

Métricas:
- Paridade Demográfica ( $\Delta$ DP): Mede a diferença nas pontuações médias preditas entre links intra-grupo ( $E_{intra}$ ) e inter-grupo ( $E_{inter}$ ). É invariante à permutação em relação à ordem do ranking.
- Divergência KL Normalizada Descontada (NDKL): Uma métrica consciente do ranking e não diádica que trata todos os tipos de pares de subgrupos distintamente. Ela acumula a divergência de Kullback-Leibler entre a distribuição de exposição predita e uma distribuição alvo através de prefixos de ranking, ponderada por um fator de decaimento logarítmico para penalizar desvios em ranks mais altos de forma mais severa.
- Utilidade: Medida via Precision@1000 e NDCG@1000.
MORAL (Multi-Output Ranking Aggregation for Link Fairness):
Um algoritmo de pós-processamento que reclassifica saídas de preditores de links desacoplados (um modelo treinado por tipo de par de subgrupo). O MORAL emprega uma estratégia de agregação gulosa guiada por KL: em cada posição de rank, ele seleciona o melhor edge restante de cada pool de par de subgrupo que minimiza a divergência KL entre a distribuição de exposição atualizada e uma distribuição alvo $\pi$ (derivada do grafo original).
Configuração Experimental:
- Datasets: Seis datasets de redes sociais (Credit, Facebook, German, NBA, Pokec-n, Pokec-z) e dois datasets adicionais (Global Airport Routes Network, Chameleon) para verificação de topologia.
- Reprodução: Os autores reproduziram a configuração central usando encoders GCN e decoders de produto escalar, corrigindo inconsistências encontradas no código original em relação ao cálculo da distribuição alvo e agregação KL.
- Extensões:
  - Teste de Estresse de Homofilia Assimétrica: Grafos sintéticos gerados via o modelo Directed Preferential Attachment with Homophily (DPAH) para testar o desempenho sob variados graus de conectividade intra-grupo.
  - Robustez da Métrica: Avaliação usando Attention-Weighted Rank Fairness (AWRF) e NDCG para garantir que os resultados não sejam específicos do mecanismo de agregação NDKL.
  - Atributos Categóricos: Extensão do framework para atributos sensíveis com cardinalidade $m > 2$ .

Principais Contribuições

Reprodução e Correção: O estudo reproduz com sucesso as alegações centrais de Mattos et al. (2025) enquanto libera uma implementação corrigida e reproduzível. Ele identifica e corrige inconsistências no código original em relação ao cálculo da distribuição alvo e normalização da divergência KL.
Validação de Alegações:
- C1: Confirma que o $\Delta$ DP pode indicar paridade agregada mesmo quando existem disparidades de exposição significativas dentro de pares de subgrupos específicos (ex: dentro de $E_{intra}$ ).
- C2: Demonstra que o NDKL detecta efetivamente essas disparidades ocultas devido à sua natureza consciente do rank e não diádica.
- C3: Mostra que o MORAL mitiga consistentemente vieses de exposição (baixo NDKL) enquanto mantém uma utilidade competitiva (Precision/NDCG) em diversos datasets.
Análise de Robustez:
- O estudo estende o trabalho original testando a homofilia assimétrica, mostrando que o MORAL performa de forma robusta, embora as disparidades de exposição sejam mais pronunciadas em níveis de homofilia absoluta intermediários.
- Valida a generalização do framework para atributos categóricos (até $m=10$ ) e diferentes topologias de grafos (Core-periphery, Heterophilic).
- Confirma que as melhorias de equidade não são meros artefatos da otimização do NDKL, pois tendências semelhantes são observadas com o AWRF.

Resultados

Equidade vs. Utilidade: O MORAL alcança NDKL próximo de zero em todos os datasets, superando significativamente os baselines (FairAdj, FairWalk, DetConstSort). Esta redução no viés de exposição vem com uma perda de utilidade mínima; o MORAL mantém alta Precision@1000, muitas vezes igualando ou excedendo os baselines.
Sensibilidade da Métrica: O $\Delta$ DP permanece amplamente invariante a mudanças na alocação de exposição dentro dos grupos, enquanto o NDKL e o AWRF são altamente sensíveis a essas mudanças.
Homofilia: Em configurações sintéticas, as métricas baseadas em exposição atingem o pico em homofilia absoluta intermediária ( $\approx 0.6$ ), onde edges intra-grupo são frequentes, mas os rankings permanecem diversos. Em alta homofilia, a utilidade cai ligeiramente conforme os preditores desacoplados recebem sinais de treinamento mais fracos.
Atributos Categóricos: À medida que o número de tipos de pares de subgrupos ( $T$ ) aumenta, o NDKL e o AWRF degradam monotonicamente, indicando que alinhar a exposição com a distribuição alvo torna-se progressivamente mais difícil. No entanto, a utilidade permanece alta, sugerindo que os edges no topo do ranking permanecem precisos mesmo quando os ranks inferiores tornam-se menos estáveis.
Ablação: Uma comparação entre scores pré-rerank e pós-rerank mostra que o próprio passo de agregação gulosa de KL é responsável por uma redução substancial no viés de exposição (redução de 66,9% no NDKL, 92,6% no AWRF).

Significância e Alegações
O artigo conclui que a paridade demográfica diádica é insuficiente para predição de links baseada em ranking porque pode ocultar disparidades de exposição de pares de subgrupos. Os autores argumentam que, quando as saídas de predição de links são consumidas como rankings, a exposição deve ser a moeda relevante de equidade.

O estudo apoia o uso de métricas conscientes do rank e baseadas em exposição (como NDKL e AWRF) e o método de pós-processamento MORAL como ferramentas eficazes para mitigar vieses em predições de links baseadas em ranking. Ele destaca um trade-off prático: embora o MORAL escale para configurações de maior cardinalidade, o custo computacional e a dificuldade de alinhamento de exposição aumentam com o número de tipos de pares de subgrupos. Os autores enfatizam que preservar a distribuição original do grafo ( $\pi$ ) é uma escolha de design para evitar a amplificação algorítmica de viés, e não uma afirmação de que a distribuição original é inerentemente "justa".

A História do Artigo

O Que Eles Descobriram

A Conclusão

Mais como este