When Relevance Meets Novelty: Dual-Stable Periodic Optimization for Serendipitous Recommendation

Questo articolo propone il metodo Co-Evolutionary Alignment (CoEA), che combina il modulo Dual-Stable Interest Exploration (DSIE) per modellare sia le identità di gruppo a lungo termine che gli interessi individuali a breve termine, e il meccanismo Periodic Collaborative Optimization (PCO) per un'ottimizzazione dinamica a ciclo chiuso, al fine di migliorare la serendipità nei sistemi di raccomandazione superando i limiti dei modelli tradizionali e delle attuali architetture basate su LLM.

L'essenziale

Immagina di essere in un grande supermercato digitale (come Meituan o Netflix). Il commesso virtuale, che è il sistema di raccomandazione, ha un compito difficile: deve darti esattamente quello che vuoi comprare oggi, ma anche farti scoprire cose nuove e interessanti che non sapevi di amare.

Il problema è che i sistemi tradizionali sono come un amico un po' "testardo": se ti piace il caffè, ti proporrà solo caffè, caffè e ancora caffè. Alla fine, ti annoierai (la cosiddetta "fatica da contenuto") e non scoprirai mai che potresti adorare anche il tè matcha o i biscotti alla cannella.

Gli autori di questo paper, lavorando con Meituan, hanno creato una soluzione intelligente chiamata CoEA (Co-Evolutionary Alignment). Ecco come funziona, spiegato con parole semplici e metafore:

1. Il Problema: Due Nemici da Combattere

I sistemi attuali hanno due difetti principali:

• Si basano solo sul "qui e ora": Se oggi hai comprato una penna, pensano che tu voglia solo penne. Ignorano chi sei davvero nel lungo periodo (ad esempio, che sei un appassionato di tecnologia da 10 anni).
• Si fermano dopo il primo tentativo: Una volta che decidono cosa suggerirti, smettono di imparare. Non si aggiornano mentre tu continui a navigare.

2. La Soluzione: Due Cervelli che Lavorano Insieme

Il sistema CoEA usa due "intelligenze artificiali" (LLM) che collaborano come una squadra di calcio:

• Il "Cervello della Novità" (Novelty LLM): È l'esploratore. Il suo compito è dire: "Ehi, guarda questa cosa strana e nuova!".
• Il "Cervello della Rilevanza" (Relevance LLM): È il controllore. Il suo compito è dire: "Aspetta, questo è davvero adatto a te o è solo una perdita di tempo?".

3. I Due Segreti della Magia

A. La "Bussola Identitaria" (DSIE - Dual-Stable Interest Exploration)

Immagina che ogni persona abbia due facce:

1. La tua identità di gruppo: Sei un "appassionato di cucina", un "fan di calcio" o un "geek della tecnologia". Queste cose non cambiano spesso.
2. I tuoi capricci di oggi: Oggi hai comprato un gatto, quindi forse vuoi un giocattolo per gatti.

Il sistema CoEA non guarda solo cosa hai comprato oggi. Usa una bussola per capire la tua "identità di gruppo" (il tuo lungo termine) e la combina con i tuoi capricci recenti.

• Metafora: È come se il commesso non ti chiedesse solo "Cosa vuoi comprare ora?", ma guardasse anche il tuo passaporto per sapere che sei un "appassionato di viaggi" e ti suggerisse una valigia nuova, anche se oggi stavi solo comprando il latte.

B. L'Allenamento Continuo (PCO - Periodic Collaborative Optimization)

Qui sta la vera innovazione. I vecchi sistemi facevano un allenamento una volta sola e poi si fermavano. CoEA è come un atleta che si allina ogni giorno.

Ecco il ciclo infinito:

1. Il Cervello della Novità suggerisce 10 idee nuove.
2. Il Cervello della Rilevanza le controlla e dice: "Queste 3 sono ottime, queste 7 sono noiose".
3. Il sistema prende i feedback (le 3 idee buone) e ri-allena il Cervello della Novità immediatamente.
4. Il Cervello della Novità diventa più bravo, suggerisce cose ancora meglio, e il ciclo ricomincia.

È un circolo virtuoso: più il sistema ti conosce, più ti suggerisce cose nuove che ti piaceranno davvero, senza mai dimenticare chi sei.

4. Il Risultato: La "Sorpresa Perfetta"

Grazie a questo metodo, il sistema non ti intrappola più in una gabbia di contenuti vecchi.

• Offline (i test): Ha scoperto categorie di prodotti che nessun altro aveva trovato, mantenendo un'alta qualità.
• Online (nella realtà su Meituan): Quando lo hanno provato sugli utenti veri, le persone hanno speso di più (perché trovavano cose che amavano davvero) e hanno scoperto molti più prodotti nuovi.

In Sintesi

Immagina un amico che ti accompagna a fare shopping.

• I vecchi sistemi sono amici che ti portano sempre nello stesso negozio di scarpe perché sai che ti piacciono.
• CoEA è un amico che conosce la tua storia (ti piace lo sport, la musica, il cibo) e oggi ti dice: "So che di solito compri solo scarpe, ma ho visto che sei un fan della tecnologia da anni. Guarda questa nuova cuffia sportiva! È perfetta per te e non l'hai mai vista prima!".

È un equilibrio perfetto tra ciò che ti piace e ciò che potresti amare, aggiornato ogni singolo giorno.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "When Relevance Meets Novelty: Dual-Stable Periodic Optimization for Serendipitous Recommendation" in italiano.

1. Il Problema

I sistemi di raccomandazione tradizionali soffrono spesso di un circolo vizioso di feedback: tendono a spingere eccessivamente contenuti allineati alle preferenze storiche dell'utente, limitando l'esplorazione di nuovi interessi e causando "affaticamento dei contenuti" (content fatigue). Sebbene i Modelli Linguistici di Grandi Dimensioni (LLM) offrano potenzialità per generare contenuti diversificati, le architetture esistenti basate su LLM presentano due limitazioni critiche:

1. Bias nella modellazione degli interessi: I metodi attuali si basano principalmente su sequenze di interessi a breve termine, trascurando le preferenze a lungo termine guidate dall'identità di gruppo (es. "appassionati di tecnologia"). Questo porta a un'esplorazione di novità che si discosta dai reali bisogni dell'utente.
2. Difetti nell'ottimizzazione statica: Le attuali architetture dual-model (un LLM per la novità e uno per la rilevanza) eseguono un allineamento una tantum. Questo approccio non riesce a integrare continuamente i dati utente incrementali per un'ottimizzazione a ciclo chiuso, rendendo il sistema statico e incapace di adattarsi all'evoluzione delle preferenze.

2. Metodologia: Co-Evolutionary Alignment (CoEA)

Gli autori propongono CoEA, un metodo che integra la modellazione delle preferenze di gruppo a lungo termine con una collaborazione dinamica tra due modelli LLM. L'architettura si compone di due moduli principali:

A. Dual-Stable Interest Exploration (DSIE)

Questo modulo affronta il bias nella modellazione degli interessi elaborando in parallelo due tipi di sequenze comportamentali:

• Sequenze a lungo termine: Vengono filtrate per rimuovere comportamenti occasionali e processate tramite Causal Self-Attention. Le rappresentazioni risultanti vengono quantizzate utilizzando un RQ-VAE (Residual-Quantized Variational AutoEncoder) per generare Group Collaborative Semantic IDs (CSID). Questi ID catturano le preferenze stabili del gruppo di appartenenza dell'utente. Vengono inoltre generati profili testuali per ciascun gruppo utilizzando un LLM.
• Sequenze a breve termine: Vengono mappate in categorie di interesse recenti e granulari per catturare la tempestività degli interessi individuali.
  Il risultato è una rappresentazione utente che combina la stabilità dell'identità di gruppo e la dinamicità degli interessi recenti.

B. Periodic Collaborative Optimization (PCO)

Per superare i limiti dell'ottimizzazione statica, viene introdotto un meccanismo di ciclo chiuso bidirezionale e periodico:

1. Generazione e Verifica: Il Novelty LLM genera categorie candidate basandosi sui dati comportamentali dinamici e sul profilo del gruppo (CSID). Il Relevance LLM verifica queste categorie rispetto alle preferenze reali dell'utente.
2. Fine-tuning Incrementale: I segnali di valutazione del Relevance LLM guidano il fine-tuning incrementale del Novelty LLM. Per evitare la "dimenticanza catastrofica" (catastrophic forgetting) durante l'aggiornamento continuo, viene introdotta una funzione di perdita basata sulla divergenza KL rispetto a un modello di riferimento.
3. Ciclo Chiuso: Le categorie ottimizzate dal Novelty LLM vengono re-valutate dal Relevance LLM, creando un ciclo di ottimizzazione sostenibile che evolve con i dati incrementali.

3. Contributi Chiave

1. Co-Evolutionary Alignment (CoEA): Un nuovo framework che bilancia esplorazione della novità e allineamento alle preferenze attraverso la collaborazione dinamica di due LLM.
2. Dual-Stable Interest Exploration (DSIE): Un approccio innovativo che risolve il problema della mancanza di identità di gruppo modellando parallelamente sequenze a lungo e breve termine, generando CSID stabili.
3. Periodic Collaborative Optimization (PCO): Un meccanismo che trasforma l'allineamento statico in un ciclo iterativo dinamico, permettendo ai modelli di adattarsi continuamente ai dati utente senza perdere le conoscenze acquisite.
4. Valutazione Completa: Dimostrazione dell'efficacia del framework attraverso esperimenti offline su dataset industriali e test A/B online su larga scala.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su due dataset: Movielens-1M (film) e MTRec (dati reali dell'app Meituan, piattaforma di delivery cinese).

• Performance Offline: CoEA ha superato tutti i modelli baseline (inclusi metodi basati su LLM come Google-v1/v2 e metodi tradizionali come SASRec).
  • Miglioramento medio del 0,73% nelle metriche di qualità (C-H@K, C-N@K).
  • Miglioramento eccezionale del 19,34% nelle metriche di novità (NCP@K, CLTP@K), con un aumento del 27,14% nella scoperta di categorie a lunga coda (Long-Tail).
• Studi di Ablazione:
  • Rimuovere la sequenza a lungo termine (DSIE) ha causato un calo significativo della qualità (-5,9%), confermando l'importanza dell'identità di gruppo.
  • Rimuovere il Relevance LLM (PCO) ha degradato drasticamente la qualità, dimostrando che l'allineamento è cruciale.
  • L'uso della perdita KL nel PCO ha prevenuto la degradazione della novità dopo molte iterazioni di fine-tuning.
• Test Online (Meituan App): Dopo un test A/B di 20 giorni:
  • +1,203% nel Valore Lordo delle Transazioni (GTV).
  • +2,364% nella proporzione di esposizione di nuovi articoli su 7 giorni (7D-NIEP).

5. Significato

Il paper rappresenta un passo avanti significativo nel campo della raccomandazione serendipica. Dimostra che è possibile superare il compromesso classico tra rilevanza e novità non solo utilizzando LLM, ma strutturando un'architettura di co-evoluzione tra modelli.
L'introduzione della modellazione basata sull'identità di gruppo (CSID) risolve il problema della superficialità delle preferenze a breve termine, mentre il meccanismo PCO offre una soluzione scalabile e dinamica per l'aggiornamento continuo dei modelli in ambienti industriali. I risultati su Meituan confermano che questo approccio non solo migliora l'esperienza utente (scoprendo nuovi interessi), ma genera anche valore commerciale tangibile.