Post-Training Fairness Control: A Single-Train Framework for Dynamic Fairness in Recommendation

Resumo Técnico: Controle de Equidade Pós-Treinamento (Cofair)

Definição do Problema
Sistemas de recomendação frequentemente amplificam vieses sociais inerentes aos dados de treinamento, afetando desproporcionalmente os usuários com base em atributos sensíveis como gênero ou raça. Embora os métodos existentes de consciência de equidade integrem restrições durante o treinamento, eles tipicamente fixam os requisitos de equidade naquela etapa. Consequentemente, se as necessidades das partes interessadas evoluírem ou diferirem entre contextos, todo o modelo deve ser retreinado para acomodar novos níveis de equidade. Esse processo de retreinamento é computacionalmente proibitivo e cria um gargalo para a implantação no mundo real. Além disso, tentativas recentes de flexibilidade pós-treinamento frequentemente permitem que os usuários selecionem quais atributos proteger, mas falham em fornecer controle granular sobre o quanto de equidade deve ser aplicado (ou seja, diferentes níveis de equidade) sem retreinar.

Metodologia: Estrutura Cofair
Os autores propõem o Cofair, uma estrutura de treinamento único projetada para permitir o controle dinâmico de equidade pós-treinamento. A arquitetura central consiste em três componentes principais:

1. Camada de Representação Compartilhada: Uma camada de rede neural que mapeia os embeddings originais dos usuários em um espaço compartilhado de menor dimensão. Esta camada captura características e padrões comuns dos usuários essenciais para equilibrar precisão e equidade em todas as configurações, aderindo aos princípios de aprendizado multitarefa para evitar o aprendizado redundante.
2. Adaptadores Condicionados à Equidade: Para cada um dos $T$ distintos níveis de equidade, um módulo adaptador especializado é empregado. Esses adaptadores recebem a representação compartilhada e injetam ajustes específicos de equidade, permitindo que o modelo produza embeddings de usuários calibrados para graus de equidade específicos ($t \in \{1, \dots, T\}$) sem alterar as características compartilhadas principais.
3. Funções de Perda e Regularização:
   • Perda de Recomendação: Perda de Bayesian Personalized Ranking (BPR) padrão para manter a precisão do ranking.
   • Perda de Equidade Adversária: Uma rede adversária tenta prever o atributo sensível a partir dos embeddings do usuário. O modelo principal minimiza esta perda para garantir que os embeddings sejam independentes de atributos sensíveis, servindo como um substituto (proxy) para a Paridade Demográfica (DP).
   • Regularização ao Nível do Usuário: Um termo crítico que penaliza cenários onde a equidade de um usuário específico degrada conforme o nível de equidade aumenta. Isso garante uma melhoria de equidade monotônica para cada usuário individual, não apenas na média.
   • Pesagem Adaptativa: Um mecanismo automático ajusta os coeficientes de equidade ($\lambda_t$) durante o treinamento com base no progresso da redução da perda de equidade, eliminando a necessidade de ajuste manual de hiperparâmetros para cada nível.

Contribuições Teóricas
O artigo fornece duas garantias teóricas fundamentais:

1. Limitação Superior da Paridade Demográfica: Os autores provam que o objetivo de equidade adversária limita superiormente a diferença de paridade demográfica ($\Delta DP$). Minimizar a perda adversária correlaciona-se diretamente com a redução da disparidade de grupo.
2. Equidade Monotônica ao Nível do Usuário: Através do termo de regularização ao nível do usuário, a estrutura garante que, conforme o nível de equidade $t$ aumenta, o desempenho de equidade para cada usuário individual não degrada ($\Delta DP^{(t+1)}(u) \leq \Delta DP^{(t)}(u)$).

Resultados Experimentais
Experimentos foram conduzidos em dois conjuntos de dados (Movielens-1M e Lastfm-360K) utilizando dois modelos de base (BPR e LightGCN). O Cofair foi comparado com baselines de última geração (ComFair, FairRec, FairGo, AFRL).

• Compromissos entre Equidade e Precisão (Fairness-Accuracy Trade-offs): O Cofair alcançou compromissos de Pareto-ótimos em 15 de 16 comparações. Ele gerou uma curva contínua de compromissos de equidade-precisão em uma única passagem de treinamento, enquanto os baselines exigiram múltiplas execuções de retreinamento para produzir curvas semelhantes.
• Desempenho: O Cofair entregou curvas de equidade-precisão comparáveis ou melhores que os baselines. Ele conseguiu abranger uma gama mais ampla de valores de equidade (DP@10 e EOpp@10) mantendo uma precisão competitiva (Recall@10 e NDCG@10).
• Eficiência: Embora o Cofair incorra em um tempo de treinamento por época ligeiramente maior devido ao processamento paralelo de adaptadores, ele requer significativamente menos épocas (aproximadamente um quinto dos baselines) para cobrir múltiplos níveis de equidade. Isso resulta em economias de tempo total substanciais.
• Generalização: Quando integrado como um módulo plug-and-play com métodos de equidade existentes, o Cofair permitiu que esses métodos alcançassem controle dinâmico sem retreinamento, muitas vezes melhorando sua eficiência de Pareto.

Significância e Alegações
O artigo alega que o Cofair aborda a inflexibilidade crítica das abordagens atuais de equidade ao desacoplar a seleção do nível de equidade do processo de treinamento. Sua principal significância reside em:

• Eliminação do Retreinamento: Remove o custo computacional de retreinar modelos para cada novo requisito de equidade.
• Garantias Progressivas: É a primeira estrutura que garante, teórica e empiricamente, melhorias de equidade monotônicas ao nível do usuário individual através de diferentes configurações de equidade.
• Implantação Prática: Ao oferecer uma solução de "treinamento único, múltiplos níveis", fornece uma rota escalável e prática para implantar sistemas de recomendação justos em ambientes do mundo real dinâmicos, onde os requisitos de equidade podem mudar ao longo do tempo.

Os autores observam que, embora o foco atual seja na Paridade Demográfica, a estrutura é flexível o suficiente para acomodar outras noções de equidade (por exemplo, Igualdade de Oportunidades) ao adaptar o objetivo adversário. Trabalhos futuros podem explorar a unificação de múltiplas definições de equidade dentro desta estrutura.