Generative Recommendation for Large-Scale Advertising

Il paper presenta GR4AD, un sistema di raccomandazione generativa orientato alla produzione per la pubblicità su larga scala che integra tokenizzazione semantica unificata, decodifica autoregressiva lazy, apprendimento supervisionato e ottimizzazione basata sul ranking per massimizzare i ricavi pubblicitari, risultando in un miglioramento del 4,2% rispetto alle soluzioni tradizionali e già distribuito con successo nel sistema pubblicitario di Kuaishou.

L'essenziale

Immagina di essere il direttore di un enorme mercato digitale, come quello di Kuaishou (l'equivalente cinese di TikTok), dove ogni secondo arrivano milioni di persone e devono essere mostrati annunci pubblicitari pertinenti.

Fino a poco tempo fa, questo mercato funzionava come un bibliotecario molto veloce ma un po' rigido: guardava cosa avevi letto prima, consultava un elenco predefinito e ti dava i libri (o gli annunci) che statisticamente piacevano a persone simili a te. Questo sistema funzionava bene, ma era limitato: non "capiva" davvero il contenuto, non sapeva adattarsi alle tue umorismi del momento e faticava a gestire la folla quando il mercato era al completo.

Gli autori di questo paper hanno costruito qualcosa di nuovo: GR4AD. È come se avessero assunto un consigliere di stile personale, geniale e super veloce, capace di "inventare" la lista perfetta di annunci per te in tempo reale, invece di limitarsi a sfogliare un catalogo.

Ecco come funziona, spiegato con metafore semplici:

1. L'Alfabeto dei Prodotti (UA-SID)

Immagina che ogni annuncio pubblicitario (un video, un prodotto, un'azienda) sia un oggetto complesso. Il vecchio sistema li etichettava con numeri noiosi (es. "Prodotto #12345").
GR4AD invece crea un alfabeto semantico. Invece di un numero, assegna a ogni annuncio una "parola" composta da più parti che ne descrive l'anima:

• Parte 1: Che tipo di video è? (Comico, educativo, drammatico).
• Parte 2: Chi è il venditore? (Un piccolo artigiano o un grande brand).
• Parte 3: Cosa vende esattamente?
  Invece di cercare per numero, il sistema "legge" l'annuncio come se fosse una storia, capendo il contesto e il significato profondo. Questo permette di trovare annunci perfetti anche per prodotti nuovi che non hanno ancora una storia di vendite (il famoso "problema del freddo").

2. Il Motore di Scrittura "Pigro" (LazyAR)

Qui sta il trucco ingegnoso. Un sistema che genera testi (come gli annunci) di solito deve scrivere una parola alla volta, aspettando la precedente per scrivere la successiva. È come se un cuoco dovesse assaggiare ogni singolo ingrediente prima di aggiungere il successivo: lento e costoso.
GR4AD usa una tecnica chiamata LazyAR (Scrittura Autoregressiva Pigra).

• L'analogia: Immagina di dover scrivere una lettera. Le prime frasi sono le più importanti e difficili da scrivere (il "saluto" e l'oggetto). Le frasi successive sono più facili.
• Il trucco: Il sistema scrive le prime frasi con cura, ma per le frasi successive, invece di aspettare di finire la precedente, "salta" alcune fasi di pensiero e scrive in parallelo. È come se avesse un team di segretari: uno scrive l'introduzione con cura, mentre gli altri, basandosi su un abbozzo, scrivono il resto della lettera contemporaneamente.
• Risultato: È incredibilmente veloce (come un treno ad alta velocità) ma mantiene la qualità della lettera.

3. L'Intelligenza che Impara dal Guadagno (VSL e RSPO)

Un'intelligenza artificiale generica sa scrivere bene, ma non sa cosa vende.

• VSL (Apprendimento Consapevole del Valore): Immagina che il sistema impari non solo cosa ti piace, ma anche quanto vale quel gusto per l'azienda. Se un annuncio ti piace ma porta pochi guadagni, il sistema impara a bilanciare.
• RSPO (Ottimizzazione Guidata dal Ranking): Non si tratta di scegliere un solo annuncio, ma di creare una lista perfetta (come una playlist Spotify). Il sistema impara a ordinare gli annunci in modo che i primi siano quelli che massimizzano il valore per tutti (te e l'azienda). È come un DJ che non suona solo la canzone che ti piace di più, ma crea una sequenza che ti tiene incollato alla radio per tutto il tempo.

4. Il Controllo del Traffico (Dynamic Beam Serving)

Immagina un'autostrada. Di notte c'è poco traffico, di giorno è un ingorgo.

• Di notte (traffico basso): Il sistema apre tutte le corsie, prova mille percorsi diversi (cerca più annunci possibili) per trovare l'idea perfetta.
• Di giorno (traffico alto): Il sistema stringe le corsie, si concentra sui percorsi più sicuri e veloci per non bloccare il traffico, garantendo che tu riceva la risposta in meno di un battito di ciglia (meno di 100 millisecondi).
  Questa capacità di adattarsi al momento della giornata permette di risparmiare energia e soldi senza perdere qualità.

Il Risultato Finale?

Grazie a questo sistema, Kuaishou ha visto un aumento delle entrate pubblicitarie del 4,2% rispetto ai sistemi precedenti.
Ma non è solo questione di soldi:

• Per gli utenti: Vedono annunci più pertinenti e meno fastidiosi.
• Per i piccoli venditori: Hanno più possibilità di essere visti, anche se sono nuovi.
• Per la piattaforma: Gestisce milioni di utenti in tempo reale senza crashare.

In sintesi, GR4AD è come aver trasformato un bibliotecario che consulta un elenco in un magico concierge che, mentre cammina con te per il mercato, ti sussurra esattamente cosa stai cercando, anche prima che tu te ne renda conto, e lo fa a una velocità tale da non farti mai aspettare.

Sommario tecnico

Ecco una sintesi tecnica dettagliata del paper "Generative Recommendation for Large-Scale Advertising" (GR4AD), presentata in italiano.

1. Il Problema

L'industria dei sistemi di raccomandazione sta passando dai modelli tradizionali basati su Deep Learning (DLRM) a modelli generativi, sfruttando la capacità di scalabilità e la potenza dei Large Language Models (LLM). Tuttavia, l'implementazione di raccomandazioni generative in tempo reale per la pubblicità su larga scala presenta sfide uniche che rendono l'uso diretto delle ricette di addestramento e servizio degli LLM insufficiente:

• Tokenizzazione Complessa: Gli annunci pubblicitari (short-video) fondono attributi video, dettagli del prodotto e metadati B2B (es. tipo di conversione, ID account). Non esistono embedding end-to-end specifici per gli annunci che catturino sia il contenuto semantico che i segnali aziendali critici.
• Paradigma di Apprendimento: La pubblicità ottimizza liste ordinate secondo obiettivi di business (es. eCPM) e metriche a livello di lista (es. NDCG), non solo la previsione di singoli item. Gli approcci attuali mancano di un design di apprendimento "list-wise" e orientato al ranking.
• Vincoli di Servizio in Tempo Reale: A differenza degli LLM interattivi che possono tollerare latenze più lunghe per una singola risposta, i sistemi pubblicitari devono generare molteplici candidati di alta qualità sotto vincoli di latenza stringenti (<100ms) e budget computazionali fissi, con un traffico elevato.

2. Metodologia: GR4AD

Gli autori propongono GR4AD (Generative Recommendation for ADdvertising), un sistema co-progettato a livello di architettura, apprendimento e servizio.

A. Tokenizzazione: UA-SID (Unified Advertisement Semantic ID)

Per rappresentare gli annunci, il sistema utilizza un ID Semantico Unificato derivato da un embedding LLM fine-tuned:

• Unified Advertisement Embedding (UAE): Un modello MLLM (Multimodal Large Language Model) viene fine-tuned tramite Instruction Tuning (per comprendere video, prodotti e advertiser) e Co-occurrence Learning (per catturare segnali collaborativi dagli utenti).
• Quantizzazione MGMR RQ-Kmeans: Per gestire le informazioni non semantiche (es. ID account, tipi di conversione) e ridurre le collisioni degli ID, viene utilizzata una quantizzazione a più granularità e risoluzione. I livelli inferiori usano codebook grandi per fattori dominanti, mentre il livello finale utilizza una mappatura hash basata su caratteristiche non semantiche per migliorare l'equilibrio globale.

B. Architettura: Lazy Autoregressive Decoder (LazyAR)

Per ridurre il costo inferenziale mantenendo l'efficacia:

• Principio: Le prime fasi della generazione (livello 1 dell'SID) sono le più difficili e importanti, ma costano poco in termini di ricerca a fascio (beam search). Le fasi successive sono più facili ma richiedono più calcoli sequenziali.
• Soluzione: LazyAR ritarda la dipendenza autoregressiva (l'input del token precedente) fino a uno strato intermedio $K$ (es. $K=2/3$ del totale).
• Vantaggio: I primi $K$ strati possono essere calcolati in parallelo per tutti i candidati del fascio, riducendo drasticamente la dipendenza sequenziale e raddoppiando il throughput senza degradare la qualità della raccomandazione.

C. Apprendimento: VSL e RSPO

Per allineare l'ottimizzazione al valore commerciale:

• VSL (Value-Aware Supervised Learning): Un obiettivo di apprendimento supervisionato che include la previsione di token eCPM (valore economico) e pesa i campioni in base al valore a lungo termine dell'utente e alla profondità dell'interazione.
• RSPO (Ranking-Guided Softmax Preference Optimization): Un algoritmo di Reinforcement Learning (RL) list-wise che ottimizza direttamente le metriche di ranking (NDCG) invece di usare reward per singolo item. RSPO guida il modello a preferire liste con alto eCPM.
• Unificazione: VSL e RSPO sono integrati in un unico flusso di apprendimento online. Un punteggio di allineamento dinamico bilancia l'imitazione della distribuzione degli utenti (VSL) e l'esplorazione per massimizzare il valore (RSPO).

D. Servizio: Dynamic Beam Serving (DBS)

Per gestire il traffico variabile e i vincoli di latenza:

• Dynamic Beam Width (DBW): La larghezza del fascio di ricerca aumenta progressivamente attraverso i livelli di generazione (es. 128 -> 256 -> 512) per ottimizzare il calcolo.
• Traffic-Aware Adaptive Beam Search (TABS): La larghezza del fascio viene adattata in base al carico di traffico istantaneo (QPS). Durante i picchi, si riduce per garantire la latenza; durante i periodi di bassa attività, si aumenta per esplorare più candidati e migliorare il ricavo.
• Cache: Utilizzo di cache per i risultati di raccomandazione e ottimizzazioni di memoria (KV Cache condivisa) per ridurre l'overhead.

3. Risultati Sperimentali

Il sistema è stato distribuito nel sistema pubblicitario di Kuaishou, servendo oltre 400 milioni di utenti.

• Performance di Business: I test A/B online mostrano un miglioramento del ricavo pubblicitario fino al 4,2% rispetto allo stack DLRM esistente.
• Efficienza: Il sistema raggiunge una latenza inferiore a 100ms e un throughput di 500+ QPS per GPU L20, con un'efficienza di inferenza raddoppiata grazie a LazyAR.
• Scalabilità:
  • Model Scaling: Aumentando i parametri del modello (da 0.03B a 0.32B), il ricavo aumenta monotonicamente (da +2.13% a +4.43%).
  • Inference Scaling: Aumentare la larghezza del fascio di ricerca (da 128 a 1024) porta a ulteriori guadagni di ricavo (+4.21%).
• Impatto Ecosistemico:
  • +17.5% di consegna per i piccoli e medi inserzionisti.
  • +10.17% nel tasso di conversione degli annunci.
  • Migliore esperienza utente e copertura degli item a "cold-start".

4. Contributi Chiave

1. UA-SID: Un nuovo schema di tokenizzazione che unifica segnali semantici (video/prodotto) e non semantici (business logic) tramite un embedding LLM fine-tuned e quantizzazione ibrida.
2. LazyAR: Un'architettura di decodificatore che rompe le dipendenze sequenziali negli strati iniziali per abilitare il calcolo parallelo, risolvendo il collo di bottiglia dell'inferenza generativa in tempo reale.
3. RSPO & VSL: Un framework di apprendimento online continuo che combina supervisione orientata al valore e ottimizzazione preferenziale guidata dal ranking, adattandosi a mercati non stazionari.
4. Sistema di Servizio Adattivo: L'implementazione di DBS e TABS che permette di bilanciare dinamicamente qualità e costo computazionale in base al carico di rete.

5. Significato

GR4AD dimostra che i modelli generativi possono essere efficacemente adottati in scenari industriali ad alta intensità e bassa latenza come la pubblicità online, superando i limiti degli approcci DLRM tradizionali. Il lavoro stabilisce un nuovo standard per la progettazione "nativa della raccomandazione" (recommendation-native design), mostrando che è possibile scalare modelli generativi mantenendo l'efficienza operativa e massimizzando il valore commerciale attraverso un'ottimizzazione congiunta di tokenizzazione, architettura e algoritmi di apprendimento.