Variable-Length Semantic IDs for Recommender Systems

Probleemstelling

Generatieve modellen worden steeds vaker ingezet in aanbevelingssystemen, vaak door gebruikersgedrag te modelleren als sequenties van gebeurtenissen en Large Language Models (LLMs) te integreren. Een fundamentele uitdaging hierbij is de enorme omvang van de itemruimte (vaak miljoenen of miljarden items). Dit maakt het trainen van generatieve modellen moeilijk en creëert een "vocabulairekloof" tussen natuurlijke taal en item-identificatoren.

Om dit op te lossen, zijn semantische ID's (semantische identificatoren) ontwikkeld: items worden weergegeven als sequenties van tokens met een lage kardinaliteit. Echter, bestaande methoden genereren semantische ID's van vaste lengte. Dit betekent dat elk item, ongeacht zijn populariteit of complexiteit, evenveel tokens krijgt toegewezen. Dit is inefficiënt en staat haaks op de principes van natuurlijke taal (waarbij frequente concepten vaak kortere beschrijvingen krijgen, bekend als de wet van Zipf voor afkortingen). Daarnaast zijn bestaande methoden voor het leren van variabele lengtes vaak gebaseerd op instabiele REINFORCE-achtige trainingsmethoden uit het veld van emergente communicatie, die niet goed schalen naar grote aanbevelingsproblemen.

Methodologie

De auteurs introduceren een raamwerk voor het leren van variabele lengte semantische ID's (varlen) binnen een principieel probabilistisch kader.

1. Generatief Model:

   • Het model beschouwt een item als een discrete boodschap $z$ met een variabele lengte $L$.
   • Het gebruikt een Discrete Variational Autoencoder (dVAE) met Gumbel-Softmax reparameterisatie. Dit maakt het mogelijk om discrete latent variabelen differentieerbaar te maken, wat stabielere training mogelijk maakt dan REINFORCE.
   • De boodschap wordt autoregressief gegenereerd. In plaats van een expliciet "End-of-Sequence" (EOS) token, wordt de lengte bepaald door per-stap stop-kansen die door de encoder worden voorspeld.

2. Trainingsdoel (ELBO):
   De loss-functie bestaat uit drie componenten die een balans vinden tussen reconstructie en efficiëntie:

   • Reconstructieloss: De fout bij het reconstrueren van de item-embedding op basis van de gegenereerde token-sequentie.
   • Vocabulaire regularisatie: Moedigt het gebruik van het volledige gedeelde vocabulaire aan om te voorkomen dat het model in een klein subset van symbolen "vastloopt".
   • Lengte regularisatie: Een straffing voor de verwachte lengte van de boodschap. Dit zorgt ervoor dat populaire items kortere codes krijgen, terwijl zeldzame items langere, expressievere codes krijgen. Een entropie-term voorkomt dat alle boodschappen naar één vaste lengte instorten.

3. Residuale Encoder met Soft Relaxation:
   In tegenstelling tot klassieke residuale kwantisatie (zoals RQ-VAE of R-KMeans) die harde toewijzingen gebruiken, gebruikt deze methode een "soft assignment" via Gumbel-Softmax. De verwachte embedding wordt afgetrokken van de huidige residual, wat een differentieerbare analogie van residuale kwantisatie biedt.

Belangrijkste Bijdragen

• Variabele Lengte Semantische ID's: De eerste toepassing van variabele lengte identificatoren in aanbevelingssystemen, waarbij frequente items kortere codes krijgen en lange-staart/cold-start items langere codes.
• Stabiel Trainingskader: Het introduceren van een dVAE-gebaseerde aanpak met Gumbel-Softmax, die een stabiel alternatief biedt voor de vaak instabiele REINFORCE-methoden uit de emergente communicatie.
• Brug tussen Velden: Het verbinden van de concepten uit emergente communicatie (zoals Lewis-signaalspellen en efficiënte codering) met moderne architecturen voor aanbevelingssystemen.
• Efficiëntie-Kwaliteit Trade-off: Het aantonen dat variabele lengtes leiden tot een betere balans tussen token-efficiëntie en aanbevelingskwaliteit.

Resultaten

De methode is getest op drie grote datasets: Yambda (muziek), VK-LSVD (video's) en Amazon Toys & Games.

• Efficiëntie: Variabele lengte ID's verminderen de gemiddelde token-lengte aanzienlijk (bijv. van 5 tokens naar ~2.3 - 3.6 tokens) zonder significante verlies in reconstructiekwaliteit.
• Populariteit-Adaptatie: Er is een sterke correlatie gevonden tussen item-populariteit en code-lengte. Populaire items krijgen kortere codes, terwijl zeldzame items langere codes krijgen, wat overeenkomt met de wet van Zipf.
• Downstream Aanbevelingen: In sequentiële aanbevelingstaken (next-item prediction) presteerde de variabele lengte methode beter dan vaste lengte baselines en R-KMeans.
  • Recall: Verbeterde Recall@100 (tot +11.2% op Yambda).
  • Efficiëntie: Onder een vast token-budget (512 tokens) konden er aanzienlijk meer gebruikers-gebeurtenissen worden verwerkt (tot +52% meer events), wat leidt tot betere context voor de aanbeveling.
  • Diversiteit: De dekking (Coverage) van aanbevolen items nam toe.
• Stabiliteit: De dVAE-aanpak bleek veel stabieler te trainen dan REINFORCE-based methoden, die vaak instabiel waren of degradeerden in kwaliteit bij schaling.

Significantie

Dit werk positioneert variabele lengte semantische ID's als een praktische en theoretisch onderbouwde representatie voor schaalbare generatieve aanbevelingssystemen. Het lost het probleem op van de inefficiënte vaste lengte codering en biedt een robuust trainingskader dat beter aansluit bij de natuurlijke structuur van taal en de schuine verdeling van item-populariteit. Dit maakt het mogelijk om grotere catalogi efficiënter te verwerken en verbetert de kwaliteit van conversatieve en generatieve aanbevelingssystemen.