Resumo Técnico: SimPersona

Declaração do Problema

Agentes web baseados em Modelos de Linguagem de Grande Escala (LLMs) demonstraram a capacidade de navegar em lojas virtuais de comércio eletrônico ao vivo e executar fluxos de compra. No entanto, os agentes atuais tipicamente colapsam em uma única política de "comprador médio", falhando em capturar a natureza heterogênea e distribucional das populações reais de compradores. Os métodos de personalização existentes dependem de personas baseadas em prompts manualmente criadas (por exemplo, perfis de interpretação de papéis ou resumos de compras), que são frágeis, ineficientes em termos de contexto e incapazes de representar fielmente o comportamento em nível populacional. Além disso, embora a literatura de modelagem de usuários possa aprender representações estruturadas de compradores a partir de fluxos de cliques brutos, esses métodos são projetados para tarefas offline (previsão, agrupamento) e não "fundamentam" essas representações no espaço de ação de um agente em malha fechada. Consequentemente, reconstruir a distribuição específica de tipos de compradores que define o tráfego de uma loja permanece um desafio aberto.

Metodologia

Os autores propõem o SimPersona, um framework que aprende tipos discretos de compradores a partir de tráfego histórico e os expõe a agentes web baseados em LLMs como tokens de persona compactos. A abordagem consiste em três componentes principais:

1. Pipeline de Dados

O sistema processa logs de eventos de comércio eletrônico brutos e fragmentados (visualizações de página, ações de carrinho, buscas) em dois tipos de dados complementares:

• Representações Comportamentais de Compradores: Logs brutos são enriquecidos com catálogos de produtos e consultas de busca para criar vetores agregados de sessão-comprador. Esses vetores combinam 16 características comportamentais escalares (exposição, engajamento, taxas de funil, força de intenção, valores em dólares) com embeddings semânticos de produtos (comprimidos via PCA). Os compradores também são estratificados em cinco níveis de funil (Compradores, Abandonadores de Checkout, Construtores de Carrinho, Janeladores, Rejeitados).
• Rastros de Agente: Sessões reais de compradores são reproduzidas em lojas virtuais ao vivo. Um LLM reescreve a sequência de eventos em um objetivo de navegação em linguagem natural, e um agente separado executa esse objetivo, gerando sequências de múltiplas voltas de observações de DOM, ações e rastros de raciocínio para Ajuste Fino Supervisionado (SFT).

2. Descoberta de Persona via VQ-VAE Consciente de Comportamento

Um Autoencoder Variacional Quantizado Vetorialmente (VQ-VAE) mapeia os vetores comportamentais de alta dimensão para um livro de códigos discreto de $K$ tokens.

• Arquitetura: O codificador comprime as entradas em um espaço latente, que é quantizado para a entrada mais próxima em um livro de códigos aprendido. O decodificador reconstrói a entrada.
• Objetivo Consciente de Comportamento: Diferente do agrupamento padrão (por exemplo, k-means), o VQ-VAE é treinado com uma função de perda composta incluindo:
  • Perda de Reconstrução: Consciente de grupo (MSE para escalares, distância cosseno para embeddings).
  • Perda Contrastiva (InfoNCE): Um mecanismo de gate de três estágios (nível de funil, similaridade de produto, estilo comportamental) garante que os compradores atribuídos ao mesmo token compartilhem similaridades comportamentais significativas, não apenas proximidade geométrica.
  • Cabeças Auxiliares: Três cabeças de classificação preveem rótulos grosseiros para profundidade de engajamento, amplitude de exploração e intensidade de compra, impondo agrupamento semântico.
• Resultado: A frequência de atribuições de tokens espelha naturalmente a distribuição empírica de tipos de compradores dentro do tráfego de um comerciante específico.

3. Fundamentação de Persona em Duas Etapas

Para integrar esses tokens discretos em um LLM (Qwen3-14B-Base) sem causar que o modelo ignore os tokens em favor de dicas de prompt de superfície, um processo de ajuste fino em duas etapas é empregado:

• Etapa 1 (Fundamentação de Persona): A espinha dorsal do LLM é congelada; apenas os novos embeddings de tokens de persona são treinados. O modelo é treinado em objetivos neutros em relação à intenção (por exemplo, "Você está interessado em saias") onde o único sinal que distingue os tipos de compradores é o padrão estatístico de ações através dos rastros. Isso força os embeddings a absorver o significado comportamental da persona.
• Etapa 2 (Ajuste Fino Orientado a Ação): A espinha dorsal é descongelada e o modelo é treinado em rastros orientados a objetivos com intenções explícitas (por exemplo, "Você está aqui para comprar saias"). O modelo aprende a fundir o token de persona (perfil comportamental geral) com a intenção específica da sessão.

Contribuições Principais

1. Framework SimPersona: Um método para aprender tokens de persona discretos a partir de fluxos de cliques brutos usando um VQ-VAE consciente de comportamento, permitindo atribuição de persona escalável e reconstrução fiel de distribuições de populações de compradores.
2. Fundamentação em Duas Etapas: Um procedimento de treinamento que desacopla o aprendizado do significado semântico de um token do aprendizado de como agir sobre ele, produzindo embeddings que generalizam através de lojas virtuais não vistas sem adaptação.
3. Pipeline de Código Aberto: Um pipeline de dados que converte logs brutos de eventos de comércio eletrônico em representações de compradores e rastros de treinamento de agentes.
4. Avaliação: Testes abrangentes em 8,37 milhões de compradores não vistos em 42 lojas virtuais ao vivo.

Resultados

Avaliado em 42 lojas virtuais ao vivo retidas com 8,37 milhões de compradores, o SimPersona demonstra:

• Alinhamento de Conversão: Os agentes alcançam 78% de alinhamento com as taxas reais de conversão de compradores (Adicionar ao Carrinho e Compra), superando significativamente baselines incompatíveis.
• Fidelidade Comportamental: Agentes condicionados a tokens específicos exibem separação estatisticamente significativa em dimensões comportamentais (por exemplo, tokens de alta compra convergem em taxas >100x maiores do que tokens de baixa compra sob a mesma intenção).
• Acompanhamento de Instruções: O SimPersona supera um modelo baseline com 8x mais parâmetros (GPT-OSS-120B) em tarefas de compra orientadas a objetivos, particularmente em fluxos complexos de checkout, mantendo robustez através de lojas virtuais diversas.
• Recuperação de Distribuição: A distribuição de tokens aprendida recupera com precisão a composição de estágio de funil das lojas (divergência média de Jensen-Shannon de 0,054) e características comportamentais contínuas ($R^2 \ge 0,87$).
• Estabilidade: O treinamento em duas etapas elimina modos de falha catastrófica vistos no treinamento de etapa única, reduzindo a taxa de erro máxima por loja de 71,3% para 28,5%.

Significado

O artigo afirma que o SimPersona preenche a lacuna entre a modelagem de usuários offline e a simulação de agentes em malha fechada. Ao representar o comportamento do comprador como tokens discretos aprendidos diretamente do tráfego, o framework resolve o "problema da persona" não apenas para agentes individuais, mas para a população como um todo. Ele permite a simulação de populações de compradores realistas e heterogêneas que preservam distribuições de tráfego específicas do comerciante, permitindo avaliação mais precisa de lojas virtuais e testes A/B sintéticos. O trabalho demonstra que tokens discretos aprendidos podem direcionar efetivamente agentes LLM para refletir segmentos específicos de compradores sem as fragilidades ou problemas de escalabilidade do condicionamento baseado em prompts.