Fairness Attacks on Recommender Systems

Resumo Técnico: Ataques de Equidade em Sistemas de Recomendação

Definição do Problema
Os sistemas de recomendação, embora essenciais para mitigar a sobrecarga de informações, enfrentam um desafio crítico em relação à injustiça (ou falta de equidade), onde grupos específicos de usuários (por exemplo, baseados em gênero ou raça) são sistematicamente discriminados. Enquanto pesquisas existentes estudaram extensivamente ataques adversários visando manipular o desempenho da recomendação (por exemplo, ataques de promoção ou demissão), a vulnerabilidade da equidade da recomendação a tais ataques permanece amplamente subexplorada. Este artigo aborda o problema dos "ataques de equidade", onde um adversário visa exacerbar a injustiça inerente a um sistema de recomendação alvo. O desafio central reside no fato de que os sistemas alvo podem empregar treinamento consciente da equidade e utilizar atributos sensíveis (como o gênero). Consequentemente, um atacante eficaz deve não apenas selecionar itens falsos para injetar, mas também determinar o atributo sensível (gênero) dos perfis de usuários falsos para maximizar a degradação da equidade.

Metodologia: Ataque de Equidade Baseado em Aprendizado por Reforço com Consciência Estrutural (SRLFA)
Os autores propõem um novo método, o SRLFA, que enquadra a geração de perfis de usuários falsos como um processo de decisão sequencial modelado como um Processo de Decisão de Markov (MDP). O framework opera sob um cenário de caixa-preta, onde o atacante não conhece os parâmetros do modelo alvo, mas tem acesso aos dados de treinamento. Para otimizar o ataque, os autores utilizam um recomendador substituto (surrogate) treinado com objetivos de consciência de equidade para fornecer feedback de recompensa.

O framework SRLFA consiste em cinco módulos principais:

1. Codificador de Estrutura Baseado em Grafos: Reconhecendo que as interações usuário-item formam um grafo bipartido, o método utiliza uma Rede Neural Convolucional de Grafos (GCN) para modelar as dependências estruturais entre as interações falsas usuário-item injetadas e o grafo de interação original. Este codificador aprende representações conscientes da estrutura tanto para usuários falsos quanto para itens falsos, capturando como novas arestas alteram a estrutura global do grafo.
2. Codificador Sequencial: Como os itens falsos são gerados sequencialmente dentro de um perfil de usuário, uma Rede Neural Recorrente (especificamente LSTM) é usada para modelar as dependências sequenciais entre os itens falsos gerados, aprendendo uma representação consciente da sequência.
3. Política de Seleção de Itens: Com base nas representações combinadas de consciência estrutural e de sequência, um mecanismo de atenção mascarada determina o próximo item falso a ser injetado. Esta política garante que os itens dentro de um único perfil de usuário falso sejam distintos.
4. Política de Seleção de Gênero: Para abordar o desafio dos atributos sensíveis, uma rede de política separada decide o gênero (por exemplo, masculino ou feminino) para cada perfil de usuário falso. Esta decisão é feita ao nível do perfil (a cada $M$ passos) usando as representações estruturais e sequenciais agregadas do perfil.
5. Recomendador Substituto & Treinamento: O atacante utiliza um modelo substituto (Fatoração de Matriz com Ranking Personalizado Bayesiano) que incorpora um termo de regularização de equidade para simular o potencial treinamento consciente de equidade no sistema alvo. Tanto a política de seleção de itens quanto a política de seleção de gênero são treinadas conjuntamente usando Otimização de Política Próxima (PPO) para maximizar a recompensa cumulativa, definida como o aumento da métrica de injustiça ($Unfair_F$).

Principais Contribuições

• Exploração de um Novo Problema: O artigo identifica e investiga o domínio subexplorado de ataques adversários direcionados especificamente à equidade dos sistemas de recomendação, destacando as implicações sociais de tais vulnerabilidades.
• Método de Ataque com Consciência Estrutural: Diferente de ataques de desempenho anteriores baseados em RL que negligenciam a topologia do grafo, o SRLFA modela explicitamente a dependência estrutural entre as interações falsas injetadas e o grafo usuário-item original usando um codificador de grafos.
• Aprendizado Conjunto de Itens e Atributos: O método introduz uma política hierárquica que aprende conjuntamente a seleção de itens falsos e a atribuição de atributos sensíveis de forma ponta a ponta (end-to-end), abordando os requisitos únicos de ataques de equidade.
• Avaliação Abrangente: O estudo avalia o método contra quatro modelos alvo (NCF, LightGCN e suas variantes conscientes de equidade) em dois conjuntos de dados do mundo real (MovieLens e Last.fm), demonstrando a eficácia do método tanto em cenários padrão quanto em cenários de equidade.

Resultados Experimentais
Experimentos extensos demonstram que o SRLFA supera significativamente os métodos de linha de base (incluindo ataques de desempenho adaptados e ataques de equidade baseados em influência) na exacerbação da injustiça:

• Recomendadores Padrão: O SRLFA aumentou a métrica de injustiça ($Unfair_{NDCG}$) em uma média de 297,24% através de diferentes modelos e conjuntos de dados, superando significativamente as linhas de base. Também reduziu notavelmente o desempenho da recomendação para grupos desfavorecidos (por exemplo, usuários do sexo feminino), ampliando assim a lacuna de desempenho.
• Recomendadores Conscientes de Equidade: Mesmo quando o sistema alvo emprega treinamento consciente de equidade (regularização), o SRLFA conseguiu intensificar a injustiça, aumentando o $Unfair_{NDCG}$ em uma média de 1259,66% em modelos conscientes de equidade.
• Robustez: O método permaneceu eficaz mesmo quando o atacante tinha acesso a apenas uma parte (por exemplo, 30%) dos dados de treinamento.
• Sensibilidade de Parâmetros: O desempenho do ataque mostrou-se sensível ao número de perfis falsos ($N$) e às interações por perfil ($M$), com resultados ótimos observados em valores médios de $N$ e $M$ que se aproximam das contagens médias de interação do usuário.

Significância e Alegações
O artigo postula que o desenvolvimento de algoritmos avançados de ataque de equidade é um pré-requisito para o "red-teaming" de sistemas de recomendação. Os autores argumentam que, sem simulações de ataque agressivas, a robustez dos mecanismos de equidade pode ser substancialmente subestimada, levando a uma falsa sensação de segurança. Ao demonstrar que sistemas conscientes de equidade ainda são vulneráveis a injeções adversárias estruturais e baseadas em atributos, o artigo ressalta a necessidade crítica de identificação proativa de vulnerabilidades e do desenvolvimento de estratégias de mitigação de equidade mais resilientes. O trabalho serve como um passo fundamental para compreender as vulnerabilidades específicas da equidade na recomendação.