Resumo Técnico: Ponte entre Perfis Textuais e Embeddings Latentes de Usuário para Personalização (BLUE)

1. Declaração do Problema

Sistemas personalizados dependem de representações de usuário para conectar o histórico comportamental a aplicações subsequentes, como recomendação e resposta a perguntas. As abordagens existentes geralmente se enquadram em duas categorias distintas, cada uma com limitações significativas:

• Embeddings Latentes de Usuário: Esses vetores densos, aprendidos a partir de históricos de interação sequenciais, são altamente eficazes para recuperação e classificação, mas carecem de interpretabilidade. Eles comprimem históricos complexos em um único vetor, atuando como uma "caixa preta" que obscurece preferências de alto nível e torna difícil entender por que uma recomendação foi feita.
• Perfis Textuais de Usuário: Essas descrições em linguagem natural são interpretáveis e podem capturar semântica rica. No entanto, gerá-los é desafiador porque frequentemente não existe um único perfil de verdade absoluta para um usuário. Consequentemente, os métodos existentes muitas vezes dependem de prompts criados manualmente ou geração zero-shot, que podem não alinhar-se bem com utilidade subsequente ou objetivos de otimização.

Isso cria uma lacuna: embeddings latentes são fortes para recuperação, mas fracos em raciocínio, enquanto perfis textuais são interpretáveis, mas difíceis de otimizar para desempenho subsequente. O artigo propõe BLUE (Bridging textuaL profiles and latent User Embeddings) para unificar essas representações.

2. Metodologia

BLUE é um framework de aprendizado por reforço (RL) que trata a geração de perfis de usuário como um problema de otimização de política. Ele conecta a transparência semântica de perfis baseados em linguagem com a capacidade discriminativa de classificação de embeddings latentes.

Framework Central

Dada uma sequência bruta de interações do usuário $H_u$, um Modelo de Linguagem de Grande Escala (LLM) de Perfilador gera um perfil textual de usuário $p_u$. Este perfil serve a dois papéis:

1. Espaço Textual: Um resumo interpretável para tarefas de linguagem subsequentes (por exemplo, QA personalizado).
2. Espaço Latente: Uma entrada para um modelo de embedding para gerar representações de usuário para recuperação de itens.

O framework otimiza o LLM de perfilador usando dois sinais de recompensa distintos:

A. Recompensa no Espaço de Embedding (Supervisão Latente)

Para garantir que o perfil gerado melhore o desempenho de recuperação, o BLUE utiliza um modelo de embedding congelado para fornecer sinais de recompensa contrastivos.

• Mecanismo: O perfil gerado (sozinho ou combinado com o histórico recente) é codificado em um embedding latente de usuário.
• Objetivo: A recompensa baseia-se no alinhamento contrastivo bidirecional (estilo InfoNCE) entre o embedding do usuário e o embedding do item positivo alvo.
• Sinal: A recompensa incentiva o perfil a induzir embeddings de usuário que estejam mais próximos do próximo item positivo e mais distantes de itens negativos e de outros usuários no lote. Isso guia o perfilador a gerar representações que são funcionalmente úteis para classificação, mesmo sem resumos textuais de verdade absoluta.

B. Recompensa no Espaço Textual (Supervisão Semântica)

Para garantir que o perfil permaneça semanticamente significativo e utilizável em linguagem natural, uma recompensa no espaço textual é introduzida.

• Mecanismo: O perfil gerado é usado como contexto para uma tarefa de previsão do próximo item formulada como uma questão de múltipla escolha.
• Sinal: Uma recompensa binária é dada se o perfilador (atuando como preditor) identificar corretamente o próximo item baseando-se apenas no perfil gerado. Isso garante que o perfil contenha informações explícitas suficientes para apoiar o raciocínio baseado em linguagem.

Otimização

O modelo de perfilador é otimizado usando Otimização de Política Relativa de Grupo (GRPO).

• Para cada usuário, um grupo de perfis candidatos é amostrado.
• A recompensa total é a soma da recompensa no espaço textual e da recompensa no espaço de embedding.
• A vantagem é normalizada dentro do grupo para reduzir a variância.
• Um termo de divergência KL regulariza a política para evitar desvios de um modelo de referência, garantindo fluência.

Adaptação do Modelo de Embedding (Opcional)

Embora a configuração principal envolva um modelo de embedding congelado, o artigo também explora uma configuração onde os perfis textuais aprendidos são usados para ajustar finamente o modelo de embedding via aprendizado contrastivo supervisionado. Isso testa se os resumos estruturados e desruidados podem fornecer sinais de supervisão melhores do que históricos de interação brutos.

3. Contribuições Principais

1. Framework Unificado (BLUE): Uma abordagem de aprendizado por reforço que otimiza conjuntamente a profilagem textual de usuário e o alinhamento de embedding latente. Demonstra que recompensas contrastivas no espaço latente podem supervisionar efetivamente um LLM de perfilador sem exigir resumos de usuário de verdade absoluta.
2. Otimização de Duplo Objetivo: O método equilibra com sucesso dois objetivos complementares: melhorar a qualidade de recuperação no espaço de embedding e manter contexto de alta qualidade e interpretável para tarefas de linguagem subsequentes.
3. Generalização entre Domínios: Os perfis aprendidos demonstram forte transferibilidade, superando linhas de base em recomendação sequencial zero-shot em diferentes domínios (por exemplo, treinamento em Roupas, teste em Livros, Eletrônicos, Esportes e Avaliações do Google).

4. Resultados Experimentais

O framework foi avaliado nos conjuntos de dados Amazon Reviews 2023 e Google Local Reviews sob configurações de recomendação sequencial zero-shot.

• Configuração de Embedding Congelado: O BLUE superou consistentemente linhas de base fortes (incluindo histórico bruto, perfis base e outros métodos de perfil baseados em RL, como RLAIF e RLPF) quando o modelo de embedding foi fixo.
  • Ganhos notáveis foram observados na transferência entre domínios (por exemplo, Amazon Books N@10 melhorou de 0,228 para 0,291).
  • Combinar o histórico recente com o perfil BLUE produziu o melhor desempenho em todos os conjuntos de dados.
• Configuração de Embedding Adaptativo: Quando o modelo de embedding foi ajustado finamente usando os perfis gerados, o BLUE+SCL alcançou desempenho superior de transferência entre domínios em comparação com modelos padrão de recomendação sequencial (SASRec, BERT4Rec) e outros métodos contrastivos baseados em perfil.
• Resposta a Perguntas Personalizada: Os perfis gerados forneceram melhor contexto para tarefas de previsão do próximo item e previsão de classificação em comparação com históricos brutos ou métodos alternativos de perfil. O BLUE alcançou a maior precisão na previsão do próximo item em todos os domínios.
• Eficiência e Estrutura:
  • Compromisso Qualidade-Eficiência: O BLUE alcançou as maiores pontuações de qualidade enquanto mantinha tempos de inferência comparáveis a outros métodos baseados em perfil, superando o histórico bruto em qualidade e outros métodos de perfil em eficiência.
  • Estrutura Latente: Visualizações T-SNE mostraram que os embeddings induzidos pelo BLUE formaram clusters locais mais compactos com separação mais clara entre grupos de usuários em comparação com as linhas de base, indicando uma estrutura latente mais discriminativa e consciente de preferências.

5. Significado e Alegações

O artigo alega que o BLUE fornece um mecanismo eficaz para unificar a interpretabilidade da profilagem textual com o poder discriminativo dos embeddings latentes.

• Complementaridade: Argumenta que perfis textuais e embeddings latentes não devem ser vistos como representações concorrentes, mas como espaços complementares que podem ser otimizados conjuntamente.
• Utilidade Prática: O método é particularmente significativo para cenários onde modelos de embedding são proprietários ou congelados (por exemplo, serviços prontos para uso), pois melhora a personalização otimizando o contexto de entrada (o perfil) em vez do próprio modelo.
• Generalização: Os resultados destacam que otimizar perfis para utilidade subsequente (via recompensas latentes) leva a representações que generalizam melhor entre domínios do que aquelas otimizadas apenas para fluência de linguagem ou compressão de histórico bruto.
• Interpretabilidade: Os perfis gerados servem como contextos concisos e legíveis por humanos que melhoram tanto o desempenho de recuperação quanto a qualidade de tarefas de personalização generativa subsequentes (como QA), oferecendo uma alternativa de "caixa branca" aos vetores latentes de "caixa preta".

Os autores concluem que sua abordagem preenche a lacuna entre a natureza "classificação forte, raciocínio fraco" dos embeddings e a natureza "interpretável, difícil de otimizar" dos perfis textuais, oferecendo uma solução robusta para sistemas personalizados de próxima geração.