Latent Preference Modeling for Cross-Session Personalized Tool Calling

Título: Modelagem de Preferências Latentes para Chamada de Ferramentas Personalizada entre Sessões

Autores: Yejin Yoon, Minseo Kim, Taeuk Kim (Hanyang University, Coreia do Sul)
Status: Pré-impressão sob revisão (arXiv:2604.17886v1)

1. O Problema

Agentes baseados em Grandes Modelos de Linguagem (LLMs) dependem cada vez mais de ferramentas externas (APIs) para executar tarefas complexas. No entanto, um desafio fundamental surge quando os usuários fornecem solicitações subespecificadas, omitindo detalhes essenciais necessários para a execução da API (ex: não especificar a classe de voo ao pedir uma reserva).

• Limitação das Abordagens Atuais: A maioria dos sistemas trata a chamada de ferramentas como um problema de recuperação de memória ou decisão baseada apenas no estado atual da conversa. Eles falham ao tentar inferir preferências implícitas que se desenvolvem ao longo de múltiplas sessões e diferentes domínios.
• A Lacuna: Preferências reais de usuários são frequentemente "latentes" (não declaradas explicitamente) e manifestam-se através de padrões comportamentais recorrentes (ex: um usuário que sempre escolhe opções baratas em restaurantes, hotéis e aluguel de carros). Modelar essas restrições implícitas para preencher argumentos faltantes em novas sessões é um problema de raciocínio, não apenas de recuperação de dados.

2. Contribuições Principais

O artigo apresenta duas contribuições fundamentais: um novo benchmark e um novo método de inferência.

A. O Benchmark MPT (Multi-Session Personalized Tool Calling)

Os autores introduzem o MPT, um conjunto de dados composto por 265 diálogos multi-sessão (totalizando 2.020 sessões e ~40k turnos), construído sobre o corpus SGD (Schema-Guided Dialogue). O MPT é projetado para avaliar especificamente a modelagem de preferências latentes através de três desafios distintos:

1. Recuperação de Preferência (Preference Recall): Reutilização direta de uma escolha específica dentro do mesmo domínio (ex: sempre escolher "Economy" em voos).
2. Indução de Preferência (Preference Induction): Agregação de evidências comportamentais através de múltiplas sessões e domínios para inferir uma restrição latente (ex: inferir que o usuário é "consciente do orçamento" baseando-se em escolhas de restaurantes, hotéis e transporte).
3. Transferência de Preferência (Preference Transfer): Aplicação de uma preferência latente inferida em um domínio para guiar a seleção de argumentos em um novo domínio sem evidência direta (ex: aplicar a preferência de "baixo custo" de restaurantes para escolher um tipo de carro de aluguel).

B. O Método PREFINE

Para resolver o problema, os autores propõem o PREFINE, um método leve de aumento de memória no tempo de teste (test-time memory-augmented). Diferente de métodos que armazenam todo o histórico de diálogo ou fatos brutos, o PREFINE trata as preferências como hipóteses revisáveis.

• Mecanismo de Loop Gerar-Verificar-Refinar:
  1. Gerar: Um módulo propõe hipóteses de preferência latente baseadas no diálogo atual, chamadas de API e memória anterior.
  2. Verificar: Um verificador avalia se a hipótese atende a quatro critérios: suporte de evidência (múltiplas interações), qualidade de abstração (não ser apenas uma reafirmação de slots), acionabilidade (poder influenciar futuras escolhas) e consistência temporal.
  3. Refinar: Hipóteses fracas ou muito específicas são rejeitadas e refinadas com base no feedback do verificador até que uma restrição reutilizável e robusta seja estabelecida.
• Memória Esquema-Agnóstica: A memória do PREFINE armazena restrições abstratas (ex: "prefere opções econômicas") em vez de assinaturas de API específicas. Isso permite que a memória seja reutilizada mesmo quando os nomes dos slots ou o esquema da ferramenta mudam.

3. Resultados Experimentais

Os experimentos foram conduzidos comparando o PREFINE com várias linhas de base (Prompting Completo, RAG, Mem0, LangMem) utilizando diversos LLMs (Gemma, GPT-4o/5, Llama, etc.).

• Desempenho Superior em Raciocínio Latente:

  • As linhas de base (especialmente o Base Prompting e RAG) performam bem em Recuperação de Preferência, mas degradam drasticamente em Indução e Transferência.
  • O PREFINE melhora significativamente a precisão na previsão de argumentos faltantes (P-EM) e no F1 geral, especialmente em cenários onde a consulta atual não fornece contexto suficiente (Context-Free Queries).
  • Em média, o PREFINE alcança ganhos de 13.11% em P-EM em consultas guiadas por contexto e melhora substancialmente a transferência de preferências.

• Eficiência de Memória:

  • O PREFINE é extremamente eficiente. Ele utiliza apenas 1,24% dos tokens necessários para o full-history prompting (chamada de todo o histórico).
  • A memória cresce de forma quase constante (cerca de 20-25 tokens) mesmo após 10 sessões, demonstrando que a retenção de restrições compactas é mais eficaz do que carregar históricos longos.

• Generalização de Esquema Dinâmico:

  • Em testes com esquemas de API dinâmicos (domínios não vistos durante a construção da memória), o PREFINE manteve ganhos claros (ex: aumento de P-EM de 3,75% para 47,00% com GPT-5), enquanto métodos baseados em recuperação de texto (RAG) falharam devido à incompatibilidade lexical.

4. Significância e Conclusão

O trabalho demonstra que a personalização robusta em sistemas agênticos não depende apenas de recuperar ações passadas, mas de inferir e abstrair as razões por trás das escolhas do usuário.

• Mudança de Paradigma: O artigo desloca o foco da "recuperação de fatos" para a "abstração de restrições". O PREFINE prova que é possível manter um modelo de preferência latente compacto e revisável que guia a tomada de decisão em tempo real.
• Implicações Práticas: A abordagem é escalável, eficiente em termos de tokens e robusta a mudanças na estrutura das ferramentas (APIs), tornando-a viável para aplicações do mundo real onde os esquemas de ferramentas evoluem e os usuários interagem de forma intermitente.
• Conclusão Final: A capacidade de um agente de generalizar preferências latentes através de sessões e domínios é o fator crítico para a chamada de ferramentas personalizada eficaz, e o PREFINE oferece um caminho viável para alcançar isso sem o custo computacional de processar históricos de diálogo completos.