Continual Low-Rank Adapters for LLM-based Generative Recommender Systems

O artigo propõe o PESO, um método de adaptação contínua baseado em LoRA para sistemas de recomendação generativos que utiliza um regularizador proximal para equilibrar a adaptação a novos comportamentos dos usuários com a preservação do estado mais recente, superando assim as limitações dos métodos existentes ao focar em preferências atuais em vez de dados obsoletos.

O essencial

Imagine que você tem um assistente pessoal superinteligente (um Modelo de Linguagem Grande, ou LLM) cuja única função é adivinhar o que você vai querer comprar ou assistir em seguida.

No mundo real, os gostos das pessoas mudam. Hoje você ama filmes de terror, mas mês que vem você decide que quer apenas comédias românticas. O desafio para o computador é: como ele aprende esse novo gosto sem esquecer completamente o que você gostava antes?

Se ele aprender demais o novo, ele esquece o antigo (e você continua querendo ver terror). Se ele for muito teimoso e não mudar, ele continua recomendando terror quando você quer comédia.

Este artigo, apresentado na conferência ICLR 2026, apresenta uma solução inteligente chamada PESO para resolver esse dilema.

O Problema: O "Esquecimento" vs. A "Teimosia"

Os pesquisadores testaram duas abordagens antigas e viram que elas não funcionavam bem para recomendações:

1. A Abordagem "Esqueça Tudo" (LoRA Único Evolutivo):
   Imagine que você tem um caderno de anotações. Quando chega uma nova informação, você rasga a página antiga e escreve a nova.

   • O que acontece: O computador aprende muito rápido o que você gosta agora, mas esquece completamente o que você gostava há 6 meses. Se você voltar a gostar de terror depois de um mês de comédia, o computador não vai lembrar.

2. A Abordagem "Acumule Tudo" (LoRA Cumulativo):
   Imagine que você não rasga as páginas. Em vez disso, você cola uma nova folha de papel em cima da anterior, e depois outra, e outra.

   • O que acontece: O computador tem acesso a tudo o que você já fez. Mas, como as folhas estão todas coladas, fica difícil separar o que é importante agora do que é lixo antigo. O computador fica confuso, tentando misturar gostos de anos atrás com os de hoje, e acaba recomendando coisas estranhas. Além disso, guardar todas essas folhas ocupa muito espaço na memória.

A Solução: PESO (O "Ancorador Proximal")

Os autores criaram o PESO (que significa algo como "LoRA Único Evolutivo Regularizado Proximalmente"). Vamos usar uma analogia simples:

Imagine que o gosto do usuário é um barco navegando em um rio.

• O rio representa os novos dados (o que o usuário está fazendo agora).
• O barco é o modelo de recomendação.

O problema é que o barco precisa seguir a correnteza (mudar de gosto), mas não pode ser arrastado para longe demais a ponto de esquecer de onde veio (estabilidade).

Como o PESO funciona?
Em vez de colar folhas de papel ou rasgar páginas, o PESO usa uma âncora elástica.

1. O Barco se move: Quando o usuário muda de gosto (o rio muda), o barco é puxado pela correnteza para a nova direção. Isso é a plasticidade (capacidade de aprender).
2. A Âncora Puxa de Volta: Existe um elástico conectado ao barco e a uma "posição anterior" (o que o usuário gostava no momento anterior). Se o barco tentar mudar muito rápido ou para um lugar sem sentido, o elástico puxa ele de volta, mantendo a estrutura do que já foi aprendido. Isso é a estabilidade.

O Segredo do PESO:
O PESO não é uma âncora rígida que impede o barco de se mover. É um elástico inteligente.

• Se o usuário começar a comprar muitas coisas de um novo tipo (ex: 100 livros de ficção científica em uma semana), a força da correnteza é tão forte que o elástico estica e o barco vai para a nova direção. O computador entende: "Ok, esse é um gosto novo e forte".
• Se o usuário apenas olhar uma vez para um tipo de coisa, a correnteza é fraca. O elástico puxa o barco de volta para a posição anterior. O computador pensa: "Isso foi só um capricho passageiro, vou manter meu gosto antigo".

Por que isso é genial?

1. Não acumula lixo: Diferente dos métodos antigos que guardavam "tudo", o PESO guarda apenas uma versão atualizada e uma "memória recente" (o estado anterior). É como se você tivesse um único caderno onde você corrige suas anotações, mas mantém uma cópia de segurança do que você escreveu na semana passada para não apagar coisas importantes.
2. Entende a direção: O PESO sabe para onde olhar. Se os dados mostram que o usuário mudou de gosto em uma direção específica, ele muda lá. Se não houver sinal forte, ele fica quieto.
3. Economia: Como ele não precisa guardar centenas de "versões" do modelo, ele é muito mais leve e rápido para rodar.

Resumo em uma frase

O PESO é como um amigo que ouve suas novas opiniões e atualiza o que sabe sobre você, mas usa uma "memória de curto prazo" para garantir que ele não esqueça quem você é de verdade, equilibrando perfeitamente o que é novo com o que é duradouro.

O resultado? Recomendações que se adaptam rapidamente às suas mudanças de humor, sem esquecer seus gostos clássicos, e tudo isso de forma eficiente.

Resumo técnico

1. Problema e Motivação

O artigo aborda o desafio de aplicar Aprendizado Contínuo (Continual Learning) em sistemas de recomendação baseados em Grandes Modelos de Linguagem (LLMs).

• Contexto: LLMs estão sendo usados para recomendação generativa, onde o modelo prevê o próximo item (token) com base no histórico de interações do usuário.
• Desafio: Os dados de interação são dinâmicos e evoluem com o tempo (novos usuários, novos itens, mudanças nas preferências). Retreinar o modelo do zero periodicamente é ineficiente.
• O Dilema Estabilidade-Plasticidade:
  • Em outras áreas (como visão computacional), o objetivo é preservar o conhecimento de tarefas passadas (estabilidade) enquanto se adapta a novas.
  • Na Recomendação: O objetivo não é prever preferências passadas, mas sim capturar as preferências atuais e futuras do usuário. Preferências desatualizadas podem até prejudicar o desempenho se os interesses do usuário mudaram drasticamente (ex: um usuário que parou de gostar de ação e passou a gostar de romance).
  • Portanto, a "estabilidade" na recomendação refere-se a manter preferências de longo prazo que ainda são preditivas, enquanto a "plasticidade" exige sobrescrever preferências obsoletas para capturar tendências emergentes.

2. Análise de Métodos Existentes

Os autores analisam duas abordagens comuns de LoRA (Low-Rank Adaptation) para aprendizado contínuo e identificam suas limitações no contexto de recomendação:

1. LoRA Evolutivo Único (Single Evolving LoRA): Mantém um único adaptador que é atualizado sequencialmente.
   • Vantagem: Alta plasticidade.
   • Desvantagem: Sofre de "esquecimento catastrófico", sobrescrevendo conhecimento útil de longo prazo durante o ajuste fino.
2. LoRA Cumulativo (Cumulative LoRA): Mantém múltiplos adaptadores congelados de etapas anteriores e soma-os ao adaptador atual (comum em visão computacional).
   • Vantagem: Alta estabilidade.
   • Desvantagem na Recomendação: Cria interferência indesejada. Como as preferências dos usuários evoluem, os adaptadores congelados "entrelaçam" preferências obsoletas com as relevantes, dificultando a separação. Além disso, aumenta os custos de armazenamento e falha em capturar a importância relativa das etapas.

3. Metodologia Proposta: PESO

Os autores propõem o PESO (Proximally rEgularized Single evolving lOra). A ideia central é manter um único adaptador LoRA evolutivo, mas regularizá-lo para permanecer próximo ao seu estado anterior, permitindo que o modelo decida o que adaptar e o que reter.

Componentes Principais:

1. Regularizador Proximal:

   • Adiciona um termo de perda que penaliza o desvio do adaptador atual ($v_t$) em relação ao estado anterior congelado ($v_{t-1}$).
   • A função de perda total é: $L_t = L_{data} + \lambda \cdot \text{Proximal}(v_t, v_{t-1})$.
   • Isso cria uma competição natural: o termo de ajuste de dados puxa para o ótimo atual, enquanto o termo proximal puxa para o estado anterior.

2. Análise Teórica:

   • Os autores demonstram que essa abordagem fornece orientação direcional sensível aos dados no subespaço LoRA.
   • Se os dados atuais suportam fortemente uma direção (mudança de preferência), o modelo adapta-se. Se o suporte é fraco (preferência estável), o modelo permanece próximo ao estado anterior.

3. Instanciação Prática (Softmax-KL):

   • Em vez de usar uma distância L2 simples (que trata todos os parâmetros igualmente), o PESO utiliza uma regularização baseada em Divergência de Kullback-Leibler (KL) entre distribuições de softmax dos parâmetros do módulo.
   • Isso preserva a estrutura interna do módulo (ex: camadas de atenção) e penaliza mais as mudanças em coordenadas com maior massa a priori, oferecendo uma estabilidade mais matizada.

4. Resultados Experimentais

Os experimentos foram conduzidos em conjuntos de dados reais da Amazon (Instrumentos Musicais, Filmes/TV e Livros) e Yelp, comparando o PESO com várias baselines (LoRA evolutivo único, LoRA cumulativo, O-LoRA, AM-LoRA, etc.).

• Desempenho Geral: O PESO superou consistentemente todas as outras abordagens em métricas como Hit@5, Hit@10, NDCG@5 e NDCG@10.
  • Ganho médio de 3.71% a 6.26% sobre os melhores concorrentes.
• Equilíbrio Estabilidade-Plasticidade:
  • Testes com "Usuários Dormant" (que voltaram após um período de inatividade) mostraram que o PESO manteve melhor as preferências de longo prazo do que o LoRA evolutivo único.
  • Testes com "Novos Usuários" mostraram que o PESO adaptou-se melhor às novas preferências do que o LoRA cumulativo.
• Análise de Hiperparâmetros: O parâmetro de escala $\lambda$ atua como um controle de trade-off. Valores muito baixos causam esquecimento; valores muito altos impedem a adaptação. O PESO mostrou ser robusto a variações de $\lambda$.
• Eficiência: O PESO tem complexidade de armazenamento $O(1)$ (apenas um adaptador anterior), ao contrário do LoRA cumulativo que cresce linearmente $O(T)$. Não há sobrecarga computacional significativa durante o treinamento.

5. Contribuições Principais

1. Análise do Problema: Identificação de que as técnicas de LoRA cumulativo, eficazes em visão, são inadequadas para recomendação devido à natureza evolutiva e não-disjunta das preferências dos usuários.
2. Método e Teoria: Proposta do PESO, que utiliza regularização proximal em um único adaptador evolutivo, com prova teórica de orientação direcional sensível aos dados e uma instanciação via Softmax-KL.
3. Validação Empírica: Demonstração extensiva de que o PESO alcança um equilíbrio superior entre estabilidade e plasticidade em múltiplos conjuntos de dados do mundo real, superando tanto métodos de LoRA simples quanto cumulativos.

6. Significado e Impacto

O trabalho é significativo porque redefine como o aprendizado contínuo deve ser aplicado em sistemas de recomendação generativos. Ao rejeitar a ideia de "preservar tudo" (cumulativo) ou "esquecer tudo" (evolutivo simples), o PESO oferece um mecanismo matizado que alinha a atualização do modelo com a dinâmica real do comportamento do usuário. Isso permite que LLMs de recomendação se mantenham relevantes e precisos ao longo do tempo sem a necessidade de retreinamento massivo ou armazenamento excessivo de parâmetros, sendo uma solução prática e eficiente para a evolução contínua de sistemas de recomendação.