T-REX: Transformer-Based Category Sequence Generation for Grocery Basket Recommendation

Each language version is independently generated for its own context, not a direct translation.

Immagina di dover fare la spesa online. A differenza di quando compri un divano o un vestito (che sono acquisti "una tantum"), la spesa settimanale è un'abitudine: compri sempre latte, uova, pane e detersivo. Il problema è che i vecchi sistemi di raccomandazione di Amazon erano un po' come un amico che ti suggerisce cose strane basandosi solo su ciò che hai comprato una volta, o peggio, ti ripetono sempre le stesse cose senza capire il contesto.

Questo documento presenta T-REX, un nuovo "cervello digitale" (basato su una tecnologia chiamata Transformer, la stessa che fa funzionare i chatbot moderni) progettato specificamente per capire come le persone fanno la spesa.

Ecco come funziona, spiegato con parole semplici e qualche analogia:

1. Il Problema: La spesa non è come leggere un libro

Nei libri, le parole seguono un ordine preciso (pagina 1, poi pagina 2). Nella spesa online, però, le cose sono diverse:

Non c'è un ordine fisso: Se compri latte e uova, non importa se li metti nel carrello prima l'uno o l'altra.
I tempi sono strani: Potresti fare la spesa lunedì, poi non comprare nulla per due settimane, e poi tornare.
I vecchi sistemi sbagliavano: I modelli precedenti (come quelli usati per leggere testi) cercavano di indovinare la "parola successiva" guardando tutto il testo, anche il futuro. Nella spesa, questo crea un trucco: il sistema "sbircia" cosa comprerai dopo e lo usa per prevedere cosa comprerai ora, il che non è realistico.

2. La Soluzione T-REX: Il Cuoco Intelligente

T-REX è come un cuoco esperto che ti aiuta a preparare la lista della spesa. Non guarda solo cosa hai comprato ieri, ma capisce il ritmo della tua vita e cosa ti serve davvero.

Ecco le sue tre "superpoteri":

A. Non guarda tutto insieme, ma a "scatti" (Dynamic Sequence Splitting)

Immagina di guardare un film. Se guardi tutto il film prima di capire la trama, perdi il senso. T-REX guarda la tua storia di acquisti come se fosse un film interrotto: ti mostra cosa hai comprato fino a quel momento e ti chiede: "Cosa ti serve dopo?".

L'analogia: È come un allenatore che ti guarda mentre giochi. Non ti dice cosa farai tra un'ora, ma ti suggerisce la mossa successiva basandosi su come stai correndo ora. Questo aiuta il sistema a imparare meglio, anche se fai la spesa in modo irregolare.

B. Capisce il "tempo" in modo flessibile (Adaptive Positional Encoding)

I computer sono soliti contare: 1, 2, 3, 4. Ma nella spesa, il tempo non è lineare. Potresti comprare il latte ogni 3 giorni, ma il detersivo ogni 30 giorni.

L'analogia: Invece di usare un righello rigido, T-REX usa un orologio elastico. Capisce che "ieri" è vicino, ma "due settimane fa" è lontano, e adatta i suoi consigli di conseguenza. Se sai che compri le uova ogni domenica, non te le suggerirà martedì, ma ti ricorderà di comprarle per il weekend.

C. Pensa per "Categorie", non per "Prodotti" (Category-Level Modeling)

Ci sono 29.000 prodotti diversi! È troppo per un computer da elaborare in tempo reale. Invece di pensare "Latte Intero 1L", T-REX pensa "Latticini".

L'analogia: Immagina di dover organizzare un armadio. Invece di cercare "la maglietta rossa numero 4", pensi "Magliette". È molto più veloce e pratico. T-REX ragiona per categorie (Frutta, Verdura, Latticini), che è esattamente come le persone pensano quando fanno la lista della spesa. Questo rende il sistema velocissimo e preciso.

3. Perché è meglio dei vecchi metodi?

Prima, Amazon usava un metodo semplice chiamato "P-Top" (che significa: "Ti consiglio quello che compri più spesso").

Il vecchio metodo: Se compri sempre latte, ti suggerirà solo latte. È utile, ma noioso e non ti aiuta a scoprire cosa ti serve oggi (es. se hai finito il pane ma non lo compri spesso).
T-REX: Capisce che oggi ti serve il pane insieme al latte. Ha visto milioni di altre persone fare la spesa e sa che "Latte + Pane" è una combinazione logica, anche se tu non hai mai comprato pane insieme al latte in passato.

4. I Risultati: Funziona davvero?

Hanno fatto dei test reali (come un esperimento scientifico) su milioni di clienti.

Il risultato: T-REX ha battuto il vecchio sistema in tutto.
Per i nuovi clienti: È stato un miracolo. I nuovi clienti non hanno molta storia, quindi i vecchi sistemi non sapevano cosa dire. T-REX, guardando cosa fanno tutti gli altri, ha potuto dire: "Ehi, visto che sei nuovo, probabilmente ti servono queste 5 cose".
Vendite: Grazie a consigli più pertinenti, le persone hanno comprato di più (circa il 23% in più rispetto ai sistemi normali) e hanno speso meno tempo a cercare cosa mettere nel carrello.

In sintesi

T-REX è come un assistente personale che non solo ricorda cosa hai comprato, ma capisce il tuo stile di vita. Sa che la spesa è un'abitudine ciclica, non un evento casuale. Non ti suggerisce cose a caso, ma ti aiuta a costruire il carrello in modo intelligente, veloce e ordinato, proprio come farebbe un amico esperto che ti accompagna al supermercato.

Each language version is independently generated for its own context, not a direct translation.

Ecco un riassunto tecnico dettagliato del paper "T-REX: Transformer-Based Category Sequence Generation for Grocery Basket Recommendation", redatto in italiano.

Titolo

T-REX: Generazione di Sequenze di Categorie Basata su Transformer per la Raccomandazione di Carrelli della Spesa

1. Il Problema

Il contesto della spesa online presenta sfide uniche rispetto all'e-commerce tradizionale (come abbigliamento o elettronica). Mentre i acquisti tradizionali sono spesso "una tantum" ed esplorativi, la spesa alimentare è caratterizzata da:

Pattern di acquisto ripetitivi: I clienti acquistano gli stessi articoli o categorie regolarmente.
Relazioni complesse: Esistono forti associazioni complementari tra gli articoli all'interno dello stesso carrello.
Dipendenze temporali: Le preferenze variano nel tempo e tra diverse sessioni di acquisto.

I metodi di personalizzazione tradizionali (es. modelli di similarità o affinità latente) spesso falliscono in questo dominio, performando peggio di semplici baselines come la "Frequenza Personale Top" (P-Top), che raccomanda le categorie più acquistate in passato. Inoltre, l'uso di modelli linguistici bidirezionali standard (come BERT4Rec) è problematico per la generazione di carrelli futuri a causa di problemi di "perdita di informazione" (information leakage), dove il modello potrebbe "sbirciare" futuri acquisti durante l'addestramento, creando un vantaggio irrealistico.

2. Metodologia: Architettura T-REX

Gli autori propongono T-REX, un'architettura Transformer specifica per generare raccomandazioni a livello di categoria (invece che di singolo prodotto) per interi carrelli della spesa.

A. Formalizzazione del Problema e Modellazione a Livello di Categoria

Input: La cronologia degli acquisti di un utente è una sequenza temporale di sessioni di spesa.
Mappatura: Per gestire la sparsità e la complessità computazionale, i 29.000 prodotti originali sono mappati in 35 categorie principali (estese successivamente a 280 per la produzione). Questo riduce la dimensionalità, rende i pattern temporali più stabili e allinea il modello al modo in cui i clienti pianificano la spesa (pensando per categorie, es. "latticini", "ortofrutta").
Obiettivo: Generare una distribuzione di probabilità $P(S_{t+1}|S)$ per il prossimo carrello, dove ogni carrello è un insieme non ordinato di categorie.

B. Architettura Encoder-Decoder

A differenza dei modelli basati su masking bidirezionale (BERT), T-REX utilizza una struttura Encoder-Decoder separata:

Encoder: Apprende pattern di composizione del carrello generalizzabili su tutta la base clienti, rimanendo flessibile per incorporare segnali aggiuntivi (query di ricerca, comportamento di navigazione). Processa la cronologia storica senza mascheramento.
Decoder: Genera previsioni personalizzate sfruttando sia i pattern di popolazione (tramite cross-attention con l'encoder) sia la cronologia individuale. Utilizza un masking causale (unidirezionale) per garantire che le previsioni si basino solo sugli acquisti passati, allineandosi alla natura sequenziale della generazione del carrello.

C. Innovazioni Chiave

Splitting Dinamico delle Sequenze (Dynamic Sequence Splitting):
- Invece di dividere le sessioni in modo statico, il sistema seleziona dinamicamente un "punto pivot" temporale nella cronologia dell'utente.
- Gli acquisti precedenti al pivot formano l'input dell'encoder, mentre i successivi formano il target del decoder.
- Questo approccio crea contesti di addestramento diversificati, gestisce meglio le cronologie di lunghezza variabile e permette di generare raccomandazioni anche a metà sessione (in tempo reale).
Codifica Posizionale Adattiva:
- Le sessioni di spesa possono essere distanti giorni o settimane, rendendo le codifiche posizionali standard (sinusoidali) inefficaci.
- T-REX utilizza una codifica basata sulla posizione normalizzata rispetto al pivot (giorni prima/dopo l'acquisto pivot). Questo cattura meglio i pattern temporali irregolari tipici della spesa alimentare.
Modellazione a Livello di Categoria:
- Riduce drasticamente la complessità computazionale (da 29k a 35/280 predizioni possibili).
- Migliora la robustezza dei pattern temporali e la capacità di catturare variazioni stagionali.

3. Risultati Sperimentali

Dataset e Baseline

Dati: Oltre 1 milione di sessioni di spesa da 100.000 clienti.
Baseline: Il modello è stato confrontato con P-Top (Personal Top Frequency), una baseline robusta nel dominio della spesa che raccomanda le categorie più frequenti storicamente.

Metriche di Valutazione

Oltre alle metriche standard (Precision@k, Recall@k), gli autori introducono una metrica innovativa: Rank-Matching. Questa valuta quanto bene la classifica generata dal modello corrisponda alla frequenza reale di acquisto dell'utente, misurando l'allineamento pratico con le abitudini di spesa.

Performance

Miglioramento Generale: T-REX supera significativamente P-Top in tutte le metriche (Precision e Recall) per diverse dimensioni di carrello (k=2-14).
Consistenza: L'analisi della varianza mostra che T-REX offre una qualità di generazione più consistente, imparando pattern generalizzabili invece di memorizzare regole basate sulla frequenza.
Nuovi Clienti: Il modello mostra vantaggi significativi per i nuovi clienti o quelli con cronologie brevi, dove P-Top fatica a trovare segnali sufficienti. T-REX sfrutta i pattern appresi dall'intera base clienti.
Rank-Matching: T-REX ottiene il 30% di corrispondenze esatte nella classifica (vs 27% di P-Top) e il 60% di corrispondenze entro un rango (vs 48% di P-Top), indicando che le categorie più importanti per l'utente vengono posizionate più in alto nella raccomandazione.

Test A/B in Produzione

Il sistema è stato distribuito in Amazon Grocery con un test A/B randomizzato a livello di cliente.
Risultati: T-REX ha ottenuto il tasso di click-through (CTR) più alto tra i widget di raccomandazione comparabili.
Impatto Commerciale: Ha generato un aumento delle vendite di prodotti del carrello e del profitto lordo significativamente superiore alla media dei sistemi di raccomandazione Amazon (circa 23% in più rispetto al lift tipico).

4. Contributi Chiave e Significato

Architettura Specifica per la Spesa: Dimostra che l'architettura Encoder-Decoder con masking causale è superiore ai modelli BERT-like per la generazione sequenziale di carrelli, risolvendo il problema della perdita di informazione.
Gestione della Sparsità Temporale: L'introduzione dello splitting dinamico e della codifica posizionale adattiva risolve le sfide uniche dei dati di spesa (intervalli irregolari, sessioni discontinue).
Validazione Industriale: Il paper fornisce una prova concreta dell'efficacia dei Transformer avanzati in un dominio ad alta ripetitività (spesa), superando baselines semplici ma robuste come P-Top, con un impatto diretto e misurabile sui ricavi aziendali.
Nuova Metrica: La proposta della metrica "Rank-Matching" offre un modo più pratico per valutare la qualità delle raccomandazioni nella spesa, focalizzandosi sull'efficienza con cui l'utente costruisce il carrello.

In sintesi, T-REX rappresenta un avanzamento significativo nella raccomandazione per la spesa online, combinando innovazioni architetturali con una profonda comprensione delle dinamiche comportamentali dei consumatori, risultando in un sistema di raccomandazione più preciso, efficiente e commercialmente valido.