Sintesi Tecnica: REPREC

Definizione del Problema

La raccomandazione sequenziale mira a prevedere la prossima interazione di un utente basandosi sull'ordine cronologico dei suoi comportamenti passati. Mentre i modelli classici (ad es. filtraggio collaborativo, SASRec, BERT4Rec) apprendono efficacemente rappresentazioni compatte dell'utente dalle sequenze di interazione, essi mancano della conoscenza semantica del mondo e delle capacità di seguire le istruzioni tipiche dei Large Language Models (LLM). Al contrario, gli approcci recenti che riformulano la raccomandazione come un compito di linguaggio naturale utilizzando gli LLM spesso faticano a preservare i segnali collaborativi strutturati.

Le soluzioni esistenti che tentano di colmare questo divario si affidano tipicamente a una o più delle seguenti strategie, che introducono significativi compromessi di implementazione:

• Fine-tuning dell'LLM: Adattamento del backbone dell'LLM (ad es. tramite LoRA) per apprendere compiti di raccomandazione.
• Modifiche Architetturali: Aggiunta di moduli dedicati di cross-attention o ottimizzazione congiunta di molteplici componenti.
• Condizionamento a livello di Item: Iniezione di una rappresentazione per ogni item storico nell'input dell'LLM, causando una scalabilità lineare della lunghezza della sequenza e dei costi computazionali (FLOPs) rispetto alla cronologia delle interazioni.
• Distillazione della Rappresentazione: Trasferimento della conoscenza tramite complessi obiettivi di distillazione.

Questi metodi aumentano spesso la complessità dell'addestramento, l'impronta dei parametri e la latenza di inferenza, rendendoli meno adatti agli ambienti di produzione dove modularità, scalabilità e bassa latenza sono critiche. Il documento pone una domanda di design: È possibile connettere un encoder sequenziale congelato e un LLM congelato esclusivamente attraverso un leggero allineamento della rappresentazione a livello di utente, preservando la modularità e minimizzando la complessità di implementazione?

Metodologia

Gli autori propongono REPREC (Representation-driven Parameter-Efficient Recommendation), un framework che connette un raccomandatore sequenziale congelato e un LLM congelato tramite un modulo di allineamento leggero e addestrabile. L'architettura è composta da tre componenti primarie:

1. Encoder Sequenziale Congelato ($f_\theta$): Un raccomandatore sequenziale standard (istanziato come SASRec o BERT4Rec) addestrato sulla previsione del prossimo item. Una volta addestrato, i suoi parametri vengono congelati. Esso mappa la sequenza di interazione di un utente $S_u$ in un embedding utente di dimensione fissa $d$.
2. Iniettore Leggero ($g_\phi$): Un compatto Multi-Layer Perceptron (MLP) che proietta l'embedding utente di dimensione fissa nello spazio di embedding dell'LLM.
   • L'iniettore mappa l'embedding di dimensione $d$ in un insieme di $m$ "soft tokens" (vettori di condizionamento) di dimensione $D$ (la dimensione nascosta dell'LLM).
   • La trasformazione prevede una proiezione lineare, un'attivazione non lineare (GELU) e un LayerNorm condiviso applicato ai token risultanti.
   • Fondamentalmente, solo i parametri dell'iniettore $\phi$ sono addestrabili; l'encoder sequenziale e l'LLM rimangono congelati.
3. Backbone LLM Congelato ($M$): Un LLM pre-addestrato (ad es. LLaMA, Qwen) che riceve i soft token iniettati prependenti a un prompt testuale che descrive l'item candidato. L'LLM esegue una classificazione binaria (Sì/No) per determinare se l'item candidato è rilevante.

Processo di Addestramento:
Il sistema è addestrato utilizzando un prompt di decisione binaria. I token dell'utente $Z = g_\phi(u)$ vengono concatenati con l'embedding del prompt $E_{prompt}$ per formare l'input $E_{input} = [Z; E_{prompt}]$. L'LLM genera i logit per il token della risposta e la perdita di cross-entropy è calcolata solo alla posizione della risposta. I gradienti fluiscono attraverso le attivazioni dell'LLM congelato per aggiornare solo i parametri dell'iniettore $\phi$.

Contributi Chiave

• Efficienza dei Parametri: REPREC elimina la necessità di effettuare il fine-tuning del backbone dell'LLM o dell'encoder sequenziale. L'adattamento è limitato a un piccolo modulo iniettore MLP, riducendo significativamente il numero di parametri addestrabili rispetto a LoRA o al fine-tuning completo.
• Modularità e Compatibilità: Il framework è agnostico rispetto all'encoder e al backbone. Può integrare vari encoder sequenziali (SASRec, BERT4Rec) e LLM (LLaMA, Qwen) senza modificare le loro architetture interne.
• Allineamento a Livello Utente: A differenza dei metodi di condizionamento a livello di item che scalano con la lunghezza della cronologia, REPREC utilizza un numero fisso di soft token ($m$) derivati da una rappresentazione globale dell'utente, garantendo una latenza di inferenza costante indipendentemente dalla dimensione della cronologia delle interazioni.
• Generalizzazione a Dati Sparsi: Il metodo è specificamente progettato per trasferire i segnali collaborativi dall'encoder sequenziale all'LLM, il che è particolarmente vantaggioso per gli utenti con cronologie di interazione limitate.

Risultati Sperimentali

Gli autori hanno valutato REPREC su cinque dataset di recensioni di prodotti Amazon (Beauty, Sports, Toys, Pet Supplies, Tools) contro i baseline tra cui Zero-shot LLM, Frozen Injector, LoRA-FT e LLaRA.

• Prestazioni Complessive: REPREC supera costantemente i modelli sequenziali standalone (SASRec, BERT4Rec) e gli LLM Zero-shot. Sotto parità di budget di parametri, REPREC eguaglia o supera le prestazioni di LoRA-FT e LLaRA in tutti i dataset e i backbone LLM (LLaMA e Qwen).
• Analisi del Regime Utente:
  • Utenti Occasionali e Core: REPREC dimostra guadagni significativi rispetto a LoRA per utenti con brevi cronologie di interazione (0–20 interazioni). La rappresentazione utente iniettata fornisce segnali collaborativi preziosi che l'LLM non possiede nei regimi a bassi dati.
  • Utenti Power User: Per utenti con lunghe cronologie (>20 interazioni), il divario di prestazione tra REPREC e LoRA si restringe, con REPREC che ottiene prestazioni comparabili.
• Efficienza e Compromessi di Addestramento/Inferenza:
  • Velocità di Addestramento: L'addestramento di REPREC è significamente più veloce di LoRA.
  • Generalizzazione Breve-Lungo: Gli autori hanno investigato l'addestramento con brevi cronologie di prompt ($\ell=10$) e la valutazione con contesti più lunghi ($\ell=50$). Sebbene l'addestramento su cronologie brevi degradi le prestazioni per i power user, un approccio ibrido (addestramento breve, test lungo) recupera l'85–100% delle prestazioni di LoRA per i power user, riducendo il tempo di addestramento per epoca in media di 1,51×.
• Ablazione: Lo studio conferma che semplicemente preappendere soft token non addestrati (Frozen Injector) non è sufficiente; l'allineamento appreso è essenziale. Inoltre, combinare i soft token con la cronologia testuale delle interazioni produce risultati migliori rispetto ai soli soft token.

Significato e Rivendicazioni

Il documento afferma che REPREC stabilisce un approccio semplice, modulare e pratico per integrare i segnali collaborativi nei sistemi di raccomandazione basati su LLM. Il suo significato primario risiede nel dimostrare che una raccomandazione sequenziale di alta qualità non richiede cambiamenti architetturali complessi o costosi fine-tuning di LLM.

Decoppiando l'estrazione del segnale collaborativo (encoder congelato) dal ragionamento linguistico (LLM congelato) tramite uno strato di allineamento leggero, REPREC offre una pipeline pronta per la produzione che bilancia la qualità della raccomandazione con l'efficienza computazionale. Gli autori sottolineano che questo approccio è particolarmente efficace per la "coda lunga" degli utenti (occasionali e core) che costituiscono la maggior parte delle basi utenti nei sistemi reali, dove la scarsità di dati è una sfida comune. Il lavoro suggerisce che l'allineamento della rappresentazione a livello utente è un'alternativa valida all'adattamento del backbone per scalare gli LLM in scenari di raccomandazione.