PBiLoss: Popularity-Aware Regularization to Improve Fairness in Graph-Based Recommender Systems

1. Declaração do Problema

Sistemas de recomendação baseados em grafos, particularmente aqueles que utilizam Redes Neurais em Grafos (GNNs) como o LightGCN, alcançaram desempenho de última geração na captura de interações usuário-item. No entanto, eles sofrem significativamente com viés de popularidade.

• O Problema: Esses modelos tendem a super-recomendar itens populares (nós de alto grau) enquanto sub-recomendam itens de cauda longa (menos populares).
• A Causa: Em GNNs, a passagem de mensagens amplifica inerentemente padrões de interação dominantes. Itens populares recebem atualizações mais frequentes e sinais mais fortes, criando um ciclo de retroalimentação que marginaliza conteúdo de nicho.
• Limitações das Soluções Existentes:
  • Pré-processamento: Distorce distribuições de dados.
  • Pós-processamento: Limitado em corrigir viés já embutido nas representações aprendidas.
  • Durante o processamento (baseado em gradiente): Frequentemente complica a otimização, cria paisagens de perda instáveis ou requer ajuste sensível de hiperparâmetros.
  • Regularização Existente: Muitos métodos dependem de atributos sensíveis ou exigem alterações arquitetônicas complexas.

Os autores propõem a necessidade de um método que seja agnóstico ao modelo, integrado diretamente ao objetivo de treinamento e capaz de equilibrar a equidade sem sacrificar a precisão da recomendação.

2. Metodologia: PBiLoss

A contribuição central é o PBiLoss (Perda de Viés de Popularidade), um termo de regularização inovador projetado para ser adicionado a objetivos de treinamento padrão (especificamente Classificação Bayesiana Personalizada ou BPR).

A. Conceito Central

O PBiLoss penaliza explicitamente a inclinação do modelo em relação a itens populares durante o treinamento. Ele visa:

1. Rebaixar a classificação de itens populares que são irrelevantes para um usuário.
2. Promover a classificação de itens impopulares que são relevantes para um usuário.

B. Diferenciação entre Itens Populares e Impopulares

O artigo propõe dois métodos para categorizar itens com base na popularidade (quantificada pelo grau do nó):

1. Limite Fixo ($\alpha$): Itens com grau $\ge \alpha$ são "populares"; os demais são "impopulares".
2. Sem Limite (Probabilístico): Probabilidades de amostragem são atribuídas com base no grau. Itens populares são amostrados com probabilidade proporcional ao seu grau; itens impopulares são amostrados com probabilidade proporcional ao inverso do seu grau.

C. Estratégias de Amostragem

O PBiLoss introduz duas estratégias de amostragem distintas para gerar tripletas de treinamento $(u, i, j)$, onde $u$ é um usuário, $i$ é um item positivo e $j$ é um item negativo:

1. Positivo Popular (PopPos):

   • Foco: Interações relevantes (positivas).
   • Mecanismo: Amostra pares de itens relevantes onde um é popular e o outro é impopular.
   • Objetivo: Incentiva o modelo a classificar o item relevante impopular mais alto do que o item relevante popular, aumentando a exposição da cauda longa.
   • Formulação: $T_{PBi} = \{(u, i, j) | u \in U, i \in I^+_{u, unpop}, j \in I^+_{u, pop}\}$

2. Negativo Popular (PopNeg):

   • Foco: Interações irrelevantes (negativas).
   • Mecanismo: Amostra pares onde o item positivo é impopular e o item negativo é popular.
   • Objetivo: Penaliza explicitamente o modelo por classificar itens populares (com os quais o usuário não interagiu) muito alto. Isso é frequentemente mais eficaz porque o viés de popularidade no BPR é frequentemente impulsionado por itens populares aparecendo como "negativos fáceis".
   • Formulação: $T_{PBi} = \{(u, i, j) | u \in U, i \in I^+_{u, unpop}, j \in I_{pop} \setminus I^+_{u, pop}\}$

D. Função Objetivo Final

A função de perda total combina a perda BPR padrão com o termo PBiLoss:
$$L_{total} = L_{BPR} + w \cdot L_{PBi}$$
Onde $w$ é um hiperparâmetro que controla a força da regularização de equidade.

3. Contribuições Principais

1. Função de Perda Inovadora: O PBiLoss integra restrições de equidade diretamente no objetivo de aprendizado, evitando a necessidade de pós-processamento ou alterações arquitetônicas complexas.
2. Estratégias de Amostragem Inovadoras: Introdução das estratégias PopPos e PopNeg para atingir diferentes facetas do viés de popularidade (itens relevantes vs. irrelevantes).
3. Definição Flexível de Popularidade: Fornece tanto uma abordagem de limite fixo (determinística) quanto uma abordagem sem limite (probabilística), permitindo adaptabilidade a diferentes distribuições de dados.
4. Design Agnóstico ao Modelo: O método é um componente de perda modular que pode ser integrado perfeitamente a frameworks GNN existentes (por exemplo, LightGCN, r-AdjNorm, APDA, PopGo) sem modificações estruturais.
5. Eficiência: A complexidade de tempo permanece assintoticamente equivalente ao modelo base ($O(|E|Ld)$), pois o cálculo de perda adicional é um aumento de fator constante.

4. Resultados Experimentais

Os autores avaliaram o PBiLoss em três conjuntos de dados do mundo real: Epinions, iFashion e MovieLens, integrando-o a quatro modelos de linha de base: LightGCN, r-AdjNorm, APDA e PopGo.

Principais Descobertas:

• Melhoria na Equidade: O PBiLoss reduziu significativamente o viés de popularidade.
  • PRU (Correlação de Popularidade-Rank para Usuários) e PRI (Correlação de Popularidade-Rank para Itens) foram reduzidos em até 10% em comparação com as linhas de base. Valores mais baixos indicam melhor equidade.
  • A variante PopNeg-FT (Negativo Popular com Limite Fixo) consistentemente alcançou o melhor equilíbrio entre equidade e precisão.
• Preservação da Precisão: Crucialmente, o método melhorou a equidade sem degradar as métricas padrão de precisão (F1@10, NDCG@10, MAP@10). Em muitos casos, as métricas de precisão melhoraram ligeiramente ou permaneceram estáveis.
• Significância Estatística: Um teste não paramétrico de Friedman confirmou que as melhorias nas métricas de classificação (NDCG) foram estatisticamente significativas ($p < 0.05$).
• Sensibilidade aos Hiperparâmetros:
  • Valores moderados do peso de regularização $w$ forneceram o melhor compromisso.
  • Definir o limite de popularidade $\alpha$ para o top 20% dos itens produziu resultados ótimos.

5. Significado e Conclusão

• Impacto Prático: O PBiLoss oferece uma solução escalável e fácil de implementar para sistemas de recomendação industriais. Ele aborda o "Efeito Mateus" (os ricos ficam mais ricos) em recomendações, garantindo que conteúdo de cauda longa receba exposição justa.
• Contribuição Teórica: Demonstra que a equidade pode ser alcançada através de uma simples regularização da função de perda, em vez de reformas arquitetônicas complexas ou manipulação de atributos sensíveis.
• Direções Futuras: Os autores sugerem estender a definição de popularidade além do grau do nó (por exemplo, tendências temporais, sinais baseados em conteúdo) e aplicar o método a cenários de recomendação sequenciais ou multimodais.

Em resumo, o PBiLoss é um framework robusto e agnóstico ao modelo que mitiga com sucesso o viés de popularidade em recomendadores baseados em grafos, aumentando a diversidade e a equidade enquanto mantém alta precisão de recomendação.