Resumo Técnico: Desviesamento da Amplificação de Popularidade em Agregação (DPAA)

Declaração do Problema

Modelos de Filtragem Colaborativa (FC) baseados em Redes Neurais de Grafos (GNN) alcançaram desempenho de última geração ao propagar sinais usuário-item sobre grafos de interação. No entanto, esses modelos são altamente suscetíveis a viés de popularidade. Dados de interação do mundo real tipicamente seguem uma distribuição de cauda longa, onde uma pequena fração de itens populares accounts pela maioria das interações. Em GNNs, a passagem de mensagens propaga repetidamente sinais de itens populares de alto grau através de vizinhanças locais e de ordem superior. Esse processo amplifica a influência de itens populares enquanto suprime itens de cauda longa (de nicho), criando um ciclo de retroalimentação "os ricos ficam mais ricos".

Abordagens existentes de desviesamento — como ponderação inversa de propensão (IPW), regularização, modelagem causal e pós-processamento — frequentemente falham em configurações GNN porque não contra-atuam diretamente o viés propagado durante o processo de agregação. Métodos recentes de ponderação dentro da agregação (por exemplo, APDA, NAVIP) dependem de heurísticas estáticas ou estimativas de embeddings instáveis durante os estágios iniciais do treinamento, o que pode distorcer a aprendizagem de representações ao propagar sinais ruidosos.

Metodologia: DPAA

Os autores propõem o Desviesamento da Amplificação de Popularidade em Agregação (DPAA), um framework que integra ponderação de interações adaptativa e consciente de embeddings e ponderação por camadas diretamente no processo de passagem de mensagens da GNN.

1. Ponderação no Nível de Interação (IIW)

Para mitigar o viés de popularidade no nível da aresta, o DPAA atribui pesos dinâmicos às interações usuário-item com base em seu alinhamento no espaço de embeddings.

• Peso de Interação Inverso: O método define um peso de interação como o complemento da similaridade cosseno entre os embeddings do usuário e do item. Alta similaridade (frequentemente indicativa de alinhamento impulsionado por popularidade) resulta em pesos mais baixos, enquanto baixa similaridade (itens de nicho) recebe pesos mais altos.
• Estimativa Estabilizada: Para abordar a instabilidade dos embeddings nos primeiros épocas de treinamento, o DPAA emprega uma combinação convexa dependente do tempo de pesos derivados de:
  • Um modelo pré-treinado (fornecendo sinais estáveis no início do treinamento).
  • O modelo atual em evolução (capturando sinais adaptativos à medida que o treinamento progride).
  • Um coeficiente de transição ($\beta_t$) é ajustado dinamicamente com base na estabilidade dos embeddings atuais (medida pela mudança média nos embeddings entre épocas), garantindo uma transição suave da dependência do modelo pré-treinado para a dependência do modelo atual.

2. Ponderação no Nível de Camada (LW)

Para abordar o viés além das interações individuais, o DPAA introduz um mecanismo de ponderação por camadas que controla a contribuição de diferentes camadas da GNN.

• Mecanismo: Camadas mais profundas, que agregam sinais de vizinhos de múltiplos saltos, recebem pesos mais altos ($\lambda_l = (l+1)^\eta$).
• Racional: Enquanto camadas rasas frequentemente capturam interações imediatas dominadas por itens populares, camadas mais profundas incorporam sinais de contextos colaborativos diversos e de ordem superior. Amplificar essas camadas ajuda a trazer à tona interações de longo alcance com itens relevantes e subexpostos.

3. Agregação Unificada

O peso final para uma interação na camada $l$ combina tanto o IIW quanto o LW. O framework também utiliza conexões residuais iniciais para prevenir o excesso de suavização, garantindo que informações específicas dos nós sejam preservadas à medida que a rede se aprofunda.

Contribuições Principais

O artigo delineia quatro contribuições primárias:

1. Correção Direta de Viés: O DPAA é um framework unificado que mitiga diretamente a amplificação de popularidade durante a passagem de mensagens, combinando pesos adaptativos e conscientes de embeddings estabilizados com pesos por camadas.
2. Caracterização Teórica: Os autores fornecem provas teóricas (Lemmas 4.1 e 4.2) demonstrando que:
   • O IIW reduz a contribuição relativa de passagem de mensagens de itens populares, com a magnitude da redução escalando conforme a severidade do viés de popularidade e o desequilíbrio de grau.
   • O LW amplifica estruturalmente a influência do gradiente em direção às camadas mais profundas, deslocando a aprendizagem de representações de interações rasas dominadas por popularidade para sinais colaborativos de ordem superior.
3. Geração de Dados Semissintéticos: Os autores introduzem um processo inovador para gerar dados de cliques semissintéticos usando amostragem de probabilidade Zipfiana. Isso permite a variação controlada da severidade do viés de popularidade ($s$), possibilitando uma avaliação sistemática de métodos de desviesamento sob diferentes intensidades de viés — uma capacidade ausente em estudos anteriores.
4. Desempenho Empírico: Experimentos extensivos em conjuntos de dados reais e semissintéticos demonstram que o DPAA supera consistentemente os métodos de última geração em várias severidades de viés e níveis de esparsidade.

Resultados Experimentais

Os autores avaliaram o DPAA em três conjuntos de dados do mundo real (Coat, KuaiRec, Yahoo! R3) e dados semissintéticos com severidade de viés controlada.

• Desempenho Geral: O DPAA alcançou o melhor desempenho em todos os conjuntos de dados e métricas (Recall@20, NDCG@20, HR@20). Notavelmente, mostrou ganhos significativos no KuaiRec (até 24,05% de melhoria no NDCG) e no Coat (11,13% de melhoria no Recall), superando linhas de base como APDA, NAVIP, DAP e métodos de inferência causal.
• Robustez à Severidade do Viés: Em experimentos variando o parâmetro de severidade do viés de popularidade ($s$) de 0 a 9, o DPAA permaneceu robusto. Enquanto outros métodos degradaram significativamente à medida que o viés aumentava, o DPAA manteve desempenho superior, particularmente sob condições de viés severo.
• Itens Populares vs. de Nicho: Ao contrário de alguns métodos de desviesamento que trocam o desempenho de itens populares pelo de itens de nicho, o DPAA melhorou o desempenho para ambos os grupos simultaneamente. Isso sugere que o método reduz distorções impulsionadas pela popularidade sem sacrificar sinais relevantes às preferências.
• Estudos de Ablação: A remoção de qualquer ponderação no nível de interação (IIW) ou ponderação no nível de camada (LW) resultou em quedas claras de desempenho, confirmando a necessidade de ambos os componentes. Além disso, o estudo validou que combinar embeddings pré-treinados e atuais para estimativa de pesos produz resultados mais estáveis e precisos do que depender de qualquer fonte isoladamente.

Significado e Alegações

O artigo alega que o DPAA aborda uma lacuna crítica na recomendação baseada em GNN ao intervir diretamente na fonte da amplificação de viés: o processo de agregação. Ao caracterizar teoricamente como os pesos de interação e de camada reduzem a dominância da popularidade, os autores argumentam que seu método oferece uma abordagem mais principista e eficaz do que correções post-hoc ou reponderação estática.

A introdução de um processo de geração de dados semissintéticos é destacada como uma contribuição metodológica significativa, permitindo uma avaliação rigorosa e controlada de técnicas de desviesamento que anteriormente era difícil devido à incapacidade de manipular a severidade do viés em dados do mundo real. Os autores posicionam o DPAA como um passo rumo a sistemas de recomendação mais equitativos que podem atender efetivamente tanto a itens populares quanto de cauda longa, embora reconheçam limitações quanto a outros tipos de viés (por exemplo, viés de seleção ou de posição) e a necessidade de salvaguardas responsáveis para implantação na prática.