Riepilogo Tecnico: SimPersona

Enunciato del Problema

Gli agenti web basati su Modelli Linguistici di Grande Dimensione (LLM) hanno dimostrato la capacità di navigare in vetrine di e-commerce live ed eseguire flussi di acquisto. Tuttavia, gli agenti attuali tendono a collassare in una singola politica di "acquirente medio", fallendo nel catturare la natura eterogenea e distribuita delle popolazioni reali di acquirenti. I metodi di personalizzazione esistenti si basano su personaggi (personas) costruiti a mano e basati su prompt (ad esempio, profili di ruolo o riepiloghi di acquisto) che sono fragili, inefficienti dal punto di vista del contesto e incapaci di rappresentare fedelmente il comportamento a livello di popolazione. Inoltre, sebbene la letteratura sulla modellazione degli utenti possa apprendere rappresentazioni strutturate degli acquirenti dai flussi di clic grezzi, questi metodi sono progettati per compiti offline (previsione, clustering) e non "ancorano" queste rappresentazioni nello spazio delle azioni di un agente in ciclo chiuso. Di conseguenza, ricostruire la specifica distribuzione dei tipi di acquirente che definisce il traffico di un negozio rimane una sfida aperta.

Metodologia

Gli autori propongono SimPersona, un framework che apprende tipi di acquirenti discreti dal traffico storico e li espone agli agenti web basati su LLM come token di persona compatti. L'approccio è composto da tre componenti fondamentali:

1. Pipeline dei Dati

Il sistema elabora log di eventi di e-commerce grezzi e frammentati (visualizzazioni di pagina, azioni del carrello, ricerche) in due tipi di dati complementari:

• Rappresentazioni Comportamentali degli Acquirenti: I log grezzi sono arricchiti con cataloghi di prodotti e query di ricerca per creare vettori aggregati acquirente-sessione. Questi vettori combinano 16 caratteristiche comportamentali scalari (esposizione, coinvolgimento, tassi di imbuto, forza dell'intento, valori in dollari) con embedding semantici di prodotti (compressi tramite PCA). Gli acquirenti sono inoltre stratificati in cinque livelli dell'imbuto (Acquirenti, Abbandonatori del Checkout, Costruttori del Carrello, Finestrini, Rimbalzanti).
• Tracce degli Agenti: Le sessioni reali degli acquirenti vengono riprodotte su vetrine live. Un LLM riscrive la sequenza di eventi in un obiettivo di navigazione in linguaggio naturale, e un agente separato esegue questo obiettivo, generando sequenze multi-turno di osservazioni DOM, azioni e tracce di ragionamento per il Fine-Tuning Supervisionato (SFT).

2. Scoperta della Persona tramite VQ-VAE Consapevole del Comportamento

Un Variational Autoencoder a Quantizzazione Vettoriale (VQ-VAE) mappa i vettori comportamentali ad alta dimensionalità su un codice discreto di $K$ token.

• Architettura: L'encoder comprime gli input in uno spazio latente, che viene quantizzato all'entry più vicina in un codice appreso. Il decoder ricostruisce l'input.
• Obiettivo Consapevole del Comportamento: A differenza del clustering standard (ad esempio, k-means), il VQ-VAE è addestrato con una funzione di perdita composita che include:
  • Perdita di Ricostruzione: Consapevole del gruppo (MSE per gli scalari, distanza coseno per gli embedding).
  • Perdita Contrastiva (InfoNCE): Un meccanismo di gating a tre stadi (livello dell'imbuto, similarità del prodotto, stile comportamentale) garantisce che gli acquirenti assegnati allo stesso token condividano similarità comportamentali significative, non solo prossimità geometrica.
  • Teste Ausiliarie: Tre teste di classificazione predicono etichette grezze per profondità di coinvolgimento, ampiezza di esplorazione e intensità di acquisto, imponendo un clustering semantico.
• Risultato: La frequenza delle assegnazioni dei token riflette naturalmente la distribuzione empirica dei tipi di acquirente all'interno del traffico di un specifico venditore.

3. Ancoraggio della Persona in Due Fasi

Per integrare questi token discreti in un LLM (Qwen3-14B-Base) senza causare che il modello ignori i token a favore di indizi di prompt superficiali, viene impiegato un processo di fine-tuning in due fasi:

• Fase 1 (Ancoraggio della Persona): Il backbone LLM è congelato; vengono addestrati solo i nuovi embedding dei token di persona. Il modello è addestrato su obiettivi neutrali rispetto all'intento (ad esempio, "Sei interessato alle gonne") dove l'unico segnale che distingue i tipi di acquirente è il pattern statistico delle azioni attraverso le tracce. Questo costringe gli embedding ad assorbire il significato comportamentale della persona.
• Fase 2 (Fine-Tuning Orientato all'Azione): Il backbone viene sbloccato e il modello è addestrato su tracce guidate da obiettivi con intenti espliciti (ad esempio, "Sei qui per comprare gonne"). Il modello impara a fondere il token di persona (profilo comportamentale generale) con l'intento specifico della sessione.

Contributi Chiave

1. Framework SimPersona: Un metodo per apprendere token di persona discreti dai flussi di clic grezzi utilizzando un VQ-VAE consapevole del comportamento, che consente un'assegnazione scalabile delle persone e una ricostruzione fedele delle distribuzioni della popolazione di acquirenti.
2. Ancoraggio in Due Fasi: Una procedura di addestramento che disaccoppia l'apprendimento del significato semantico di un token dall'apprendimento di come agire su di esso, producendo embedding che generalizzano su vetrine non viste senza adattamento.
3. Pipeline Open-Source: Una pipeline di dati che converte log grezzi di eventi di e-commerce in rappresentazioni di acquirenti e tracce per l'addestramento degli agenti.
4. Valutazione: Test completi su 8,37 milioni di acquirenti non visti su 42 vetrine live.

Risultati

Valutato su 42 vetrine live tenute da parte con 8,37 milioni di acquirenti, SimPersona dimostra:

• Allineamento alla Conversione: Gli agenti raggiungono un allineamento del 78% con i tassi di conversione reali degli acquirenti (Aggiungi al Carrello e Acquisto), superando significativamente le baseline non corrispondenti.
• Fedeltà Comportamentale: Gli agenti condizionati su token specifici mostrano una separazione statisticamente significativa nelle dimensioni comportamentali (ad esempio, i token ad alto acquisto convertono a tassi >100 volte superiori rispetto ai token a basso acquisto sotto lo stesso intento).
• Seguito delle Istruzioni: SimPersona supera un modello baseline con 8 volte più parametri (GPT-OSS-120B) nei compiti di acquisto orientati agli obiettivi, in particolare nei flussi di checkout complessi, mantenendo al contempo robustezza su vetrine diverse.
• Recupero della Distribuzione: La distribuzione dei token appresa recupera accuratamente la composizione per stadio dell'imbuto dei negozi (divergenza media Jensen-Shannon di 0,054) e le caratteristiche comportamentali continue ($R^2 \ge 0,87$).
• Stabilità: L'addestramento in due fasi elimina le modalità di fallimento catastrofico osservate nell'addestramento in una singola fase, riducendo il tasso di errore massimo per negozio dal 71,3% al 28,5%.

Significato

Il documento afferma che SimPersona colma il divario tra la modellazione degli utenti offline e la simulazione di agenti in ciclo chiuso. Rappresentando il comportamento degli acquirenti come token discreti appresi direttamente dal traffico, il framework risolve il "problema della persona" non solo per singoli agenti, ma per l'intera popolazione. Permette la simulazione di popolazioni di acquirenti realistiche ed eterogenee che preservano le distribuzioni di traffico specifiche del venditore, consentendo una valutazione più accurata delle vetrine e test A/B sintetici. Il lavoro dimostra che token discreti appresi possono guidare efficacemente gli agenti LLM a riflettere segmenti specifici di acquirenti senza la fragilità o i problemi di scalabilità del condizionamento basato su prompt.