CURE:Circuit-Aware Unlearning for LLM-based Recommendation

1. O Problema

O uso de Grandes Modelos de Linguagem (LLMs) em sistemas de recomendação (LLMRec) trouxe avanços significativos na compreensão semântica e no raciocínio sobre interesses dos usuários. No entanto, a incorporação de dados de usuários sensíveis (como histórico de compras) levanta sérias preocupações de privacidade, exigindo algoritmos de "esquecimento" (unlearning) para remover a influência desses dados sem retreinar o modelo do zero.

Os métodos existentes de esquecimento para LLMRec enfrentam dois desafios principais:

• Conflitos de Gradiente: A maioria das abordagens formula o esquecimento como uma combinação ponderada de objetivos de "esquecer" (remover dados) e "retener" (manter a utilidade do modelo). Isso gera conflitos de gradiente, onde as direções de atualização para um objetivo prejudicam o outro, levando a um esquecimento ineficaz ou à degradação severa do desempenho do modelo.
• Caixa-Preta (Black-Box): Os métodos atuais atualizam os parâmetros do modelo de forma uniforme e opaca, sem identificar quais módulos internos (como cabeças de atenção ou MLPs) codificam especificamente as informações a serem esquecidas. Isso compromete a transparência e a confiabilidade do processo.

2. Metodologia: O Framework CURE

O CURE (Circuit-Aware Unlearning) propõe uma abordagem baseada em interpretabilidade mecânica para resolver esses problemas. Em vez de tratar o modelo como uma caixa-preta, o CURE identifica e manipula "circuitos" computacionais específicos (subgrafos responsáveis por comportamentos específicos da tarefa).

O método opera em duas etapas principais:

Etapa 1: Localização de Circuitos (Circuit Extraction)

O objetivo é mapear os caminhos computacionais internos do LLM que são causalmente responsáveis pelas previsões de recomendação para os dados a serem esquecidos ($D_f$) e os dados a serem retidos ($D_r$).

• Representação: O modelo é tratado como um grafo acíclico direcionado (DAG), onde nós são cabeças de atenção e módulos MLP, e arestas representam o fluxo de informação.
• Técnicas de Extração:
  • Intervenção de Ativação (Activation Intervention): Uma estimativa grosseira que mascara arestas no grafo para medir a mudança na probabilidade de saída.
  • Patching de Ativação (Activation Patching): Uma abordagem mais precisa que compara as ativações de uma entrada original com uma entrada "corrompida" (onde um item do histórico do usuário é substituído por um item menos relevante, gerado via Personalized PageRank no grafo usuário-item). Isso identifica módulos críticos para a decisão específica.
• Descoberta Greedy: Um algoritmo greedy constrói o circuito completo do logits de volta às entradas, selecionando as arestas mais influentes.

Etapa 2: Atualização Seletiva de Circuitos (Selective Updating)

Com os circuitos identificados, os módulos do modelo são categorizados em três grupos funcionais e atualizados com regras específicas para mitigar conflitos:

1. Neurônios Específicos de Esquecimento ($\Theta_f$): Pertencem apenas ao circuito de esquecimento. São atualizados apenas com a função de perda de esquecimento ($L_F$).
2. Neurônios Específicos de Retenção ($\Theta_r$): Pertencem apenas ao circuito de retenção. São atualizados apenas com a função de perda de retenção ($L_R$).
3. Neurônios Compartilhados ($\Theta_{sh}$): Pertencem a ambos os circuitos. Para evitar conflitos, o CURE utiliza uma estratégia de projeção de gradiente. Se os gradientes de $L_F$ e $L_R$ forem conflitantes (produto escalar negativo), o gradiente de um objetivo é projetado no plano normal do outro, removendo a componente destrutiva antes da atualização.

3. Principais Contribuições

• Perspectiva Orientada a Circuitos: Introduz uma nova visão para entender e resolver conflitos de gradiente em LLMRec, desconectando os circuitos conflitantes em vez de otimizar globalmente.
• Framework Transparente e Model-Agnostic: O CURE não depende de uma arquitetura específica de LLM e oferece transparência ao identificar exatamente quais módulos estão sendo modificados e por quê.
• Análise Teórica: Fornece uma prova teórica de que a atualização de um passo do CURE resulta em uma perda menor (mais eficiente) do que o descida de gradiente padrão quando há conflitos.
• Mecanismo de Construção de Dados Corrompidos: Desenvolveu uma técnica eficiente para gerar amostras contrafactuais em LLMRec usando a estrutura do grafo usuário-item, essencial para a precisão na localização de circuitos.

4. Resultados Experimentais

O CURE foi avaliado em conjuntos de dados reais (MovieLens-1M e GoodReads) usando backbones como GPT-2 e Llama-2 (7B), comparado com baselines como Retrain (re-treinamento total), E2URec, RecEraser, ROME e WISE.

• Eficiência de Esquecimento: O CURE alcançou uma melhoria de 18% na eficiência de esquecimento (medida pela divergência JSD em relação ao modelo re-treinado) em comparação com as melhores baselines existentes.
• Preservação de Utilidade: O método manteve a utilidade do modelo com uma melhoria de 6% em métricas de recomendação (AUC e Accuracy) em relação às baselines, evitando a degradação comum em métodos de esquecimento aproximado.
• Velocidade: O CURE é 3,5 vezes mais rápido que o baseline E2URec e significativamente mais rápido que métodos de re-treinamento parcial (como SISA), tornando-o viável para cenários de grande escala.
• Mitigação de Conflitos: A análise mostrou que o CURE reduz a proporção de pares de gradientes severamente conflitantes em até 76% em comparação com o E2URec.

5. Significado e Impacto

O trabalho CURE representa um avanço crucial na interseção entre privacidade e inteligência artificial. Ao mover-se de atualizações de "caixa-preta" para intervenções de nível de circuito, o CURE oferece:

1. Confiabilidade: Garante que o esquecimento seja eficaz sem sacrificar a qualidade do serviço de recomendação.
2. Transparência: Permite que desenvolvedores e reguladores entendam como e onde os dados sensíveis estão sendo removidos do modelo, aumentando a confiança no sistema.
3. Viabilidade Prática: Resolve o dilema entre custo computacional e eficácia, permitindo que sistemas de recomendação baseados em LLMs cumpram regulamentações de privacidade (como GDPR) de forma eficiente e escalável.

Em resumo, o CURE estabelece um novo padrão para o esquecimento em LLMs, demonstrando que a interpretabilidade mecânica pode ser usada não apenas para entender modelos, mas para otimizá-los para tarefas críticas de privacidade.