PinRec: Outcome-Conditioned, Multi-Token Generative Retrieval for Industry-Scale Recommendation Systems

Dit paper introduceert PinRec, een schaalbaar generatief ophaalmodel voor Pinterest dat uitkomstgeconditioneerde generatie en multi-token generatie combineert om de diversiteit, prestaties en bedrijfsdoelen van aanbevelingssystemen effectief in evenwicht te brengen.

De kern

Stel je voor dat Pinterest een gigantische, levendige bibliotheek is met miljarden afbeeldingen (Pins). De uitdaging voor Pinterest is: hoe vinden we precies het juiste plaatje voor jou, op het juiste moment, terwijl je door de bibliotheek loopt?

Vroeger werkten ze met een simpele "zoek- en vergelijk"-methode (zoals twee torens die naar elkaar kijken). Maar dat werkt niet meer goed genoeg voor zo'n enorme bibliotheek. Ze wilden een slimme, creatieve bibliothecaris die niet alleen zoekt, maar ook voorspelt wat je leuk zult vinden.

Dit artikel introduceert PinRec: een nieuwe, slimme "generatieve" bibliothecaris die door Pinterest is gebouwd. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. De Slimme Bibliothecaris (Generatieve Retrieval)

Stel je een oude bibliothecaris voor die een lijstje heeft met boeken die op elkaar lijken. Hij pakt er een paar en geeft die aan jou. Dat is de oude methode.

PinRec is echter een schrijvende bibliothecaris. In plaats van alleen te zoeken, schrijft hij een lijstje met suggesties voor je op. Hij leest je geschiedenis (wat je eerder hebt bekeken, bewaard of geklikt) en bedenkt dan: "Ah, deze persoon houdt van katten, maar vandaag is het regenachtig, dus misschien wil hij een knus interieur zien." Hij genereert een nieuwe, persoonlijke lijst van suggesties die nog niet eens in de database stonden voordat hij begon.

2. De "Wens-Knop" (Outcome-Conditioned Generation)

Dit is misschien wel het coolste deel. Vaak wil een bedrijf niet alleen dat je klikt, maar ook dat je iets opslaat (een "save"), deelt of koopt.
Stel je voor dat je een chef-kok bent. Soms wil je dat de gasten vooral proeven (klikken), soms dat ze het recept bewaren (opslaan) en soms dat ze het delen.

PinRec heeft een magische draaiknop (de "outcome-conditioning").

• Draai je de knop naar "Sla op"? Dan schrijft de bibliothecaris een lijstje met dingen die je waarschijnlijk wilt bewaren.
• Draai je hem naar "Klik"? Dan schrijft hij een lijstje met dingen die je waarschijnlijk snel wilt bekijken.

Dit geeft Pinterest de controle. Ze kunnen precies instellen wat ze willen bereiken op dat moment, zonder een heel nieuw systeem te bouwen. Het is alsof je tegen je navigatie zegt: "Ik wil de snelste route" of "Ik wil de mooiste route", en de auto past het pad direct aan.

3. Het "Toekomst-Voorspellen" (Multi-Token Generation)

Oude systemen waren traag. Ze moesten één voor één een suggestie bedenken, wachten, dan de volgende, dan de volgende. Dat was als een schildpad die één steen per seconde verplaatst.

PinRec gebruikt een trucje genaamd Multi-Token. Stel je voor dat je een schrijver bent die een verhaal schrijft. In plaats van één woord per seconde te typen, schrijft PinRec een heel zinnetje in één keer.

• Hij denkt: "Oké, nu is het 10 seconden later, wat wil de gebruiker dan?" en "En 1 minuut later?" en "En 5 minuten later?"
• Hij schrijft al deze suggesties gelijktijdig op.

Dit is als het verschil tussen een solist die langzaam een lied zingt, en een koor dat het hele refrein tegelijk zingt. Het is veel sneller en zorgt ervoor dat de lijst met suggesties diverser is (niet allemaal dezelfde soort dingen).

4. De Resultaten: Sneller, Slimmer en Diverser

Door deze nieuwe aanpak heeft Pinterest enorme winst geboekt:

• Meer klikken: Mensen klikken 2% vaker op de hele site.
• Meer opslaan: Mensen slaan 4% meer resultaten op in hun zoekresultaten.
• Meer variatie: Omdat het systeem meerdere dingen tegelijk bedenkt, krijg je niet alleen de "populairste" plaatjes, maar ook verrassende, nieuwe ideeën.

Samenvatting in één beeld

Vroeger was de aanbevelingssysteem van Pinterest als een supermarktmedewerker die je een mandje geeft met de 10 meest verkochte producten.

PinRec is als een persoonlijke stylist die je kent. Hij kijkt naar wat je gisteren droeg, weet dat je morgen een feestje hebt, en bedenkt direct een complete outfit (schoenen, jas, accessoire) die perfect bij je past. Hij kan zelfs kiezen: "Wil je eruitzien als een avonturier of als een chique gast?" en past zijn suggesties direct aan. En hij doet dit allemaal in een flits, terwijl hij tientallen opties tegelijk bedenkt.

Kortom: PinRec maakt Pinterest slimmer, sneller en persoonlijker, zonder dat het de gebruikers vertraagt.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "PinRec: Outcome-Conditioned, Multi-Token Generative Retrieval for Industry-Scale Recommendation Systems" in het Nederlands.

Probleemstelling

Traditionele aanbevelingssystemen (zoals die van Pinterest) maken vaak gebruik van een "two-tower" architectuur voor de retrieval-fase, waarbij query- en item-embeddings worden berekend om op basis van gelijkenis items te selecteren. Hoewel recente academische studies generatieve retrieval-methoden (gebaseerd op Transformers) hebben voorgesteld die beter presteren in benchmarks, zijn deze methoden tot nu toe niet schaalbaar of flexibel genoeg voor industriële systemen op web-schaal.

De specifieke uitdagingen die PinRec adresseert zijn:

1. Meerdere doelen: Bedrijfsdoelen veranderen voortdurend en vereisen het optimaliseren van verschillende engagement-metrics (bijv. "saves" vs. "clicks"). Bestaande generatieve modellen zijn vaak beperkt tot één doel.
2. Diversiteit: Het genereren van een reeks diverse items is essentieel voor gebruikersexploratie, maar traditionele modellen genereren vaak slechts één item per stap.
3. Efficiëntie: Generatieve modellen zijn computationeel duurder dan embedding-berekeningen. Voor web-schaal (honderden miljoenen gebruikers) moet de latency en kostprijs beheersbaar blijven.

Methodologie: PinRec Architectuur

PinRec is een generatieve retrieval-modellering die is gebouwd op een Transformer-decoder architectuur. Het model neemt de interactiegeschiedenis van een gebruiker als input en genereert direct item-representaties (embeddings) in plaats van alleen scores.

Kerncomponenten:

1. Outcome-Conditioned Generatie (Resultaat-geconditioneerd):

   • In tegenstelling tot standaard taalkundige modellen die één output hebben, kan PinRec worden "geconditioneerd" op specifieke bedrijfsdoelen (outcomes) zoals 'repin', 'click' of 'share'.
   • Het model gebruikt leerbare embeddings voor verschillende outcome-typen en oppervlakken (bijv. Homefeed, Search). Tijdens inferentie kan de gebruiker specificeren welk type engagement het meest gewenst is. Het model genereert dan de item-token die de kans op dat specifieke resultaat maximaliseert.
   • Dit stelt engineers in staat om de balans tussen verschillende metrics dynamisch te regelen via budgettoewijzing.

2. Multi-Token Generatie (Tijd-gebaseerd):

   • Om de inefficiëntie van sequentiële generatie (één item per stap) te overwinnen, introduceert PinRec een multi-token framework.
   • In plaats van alleen het volgende item te voorspellen, genereert het model meerdere items parallel voor verschillende tijdsintervallen (bijv. het item voor nu, +30 seconden, +1 minuut).
   • Dit wordt gedaan door de output-head te conditioneren op een temporale offset ($\delta$). Dit vermindert het aantal autoregressieve stappen aanzienlijk, wat leidt tot lagere latency en hogere diversiteit in de gegenereerde lijst.

3. Input Representatie:

   • Het model verwerkt heterogene data: Pins (afbeeldingen/tekst), zoekopdrachten, en interacties.
   • Het gebruikt dichte embeddings (dense embeddings) in plaats van semantische ID's (die in eerdere studies vaak leidden tot representatieve ineenstorting).
   • De input bestaat uit item-embeddings, temporale embeddings (absolute tijd en tijd sinds vorige actie) en oppervlakte-embeddings.

4. Training en Loss:

   • Het model wordt getraind met een "teacher forcing" aanpak voor next-item predictie.
   • Een belangrijke innovatie is de intra-feed relaxatie: in plaats van alleen het directe volgende item te voorspellen, wordt de loss berekend over alle items die een gebruiker binnen dezelfde sessie heeft geïnteracteerd. Dit past beter bij het willekeurige gedrag van gebruikers op sociale media dan strikte sequentiële afhankelijkheid.

5. Serving Infrastructuur:

   • PinRec draait op NVIDIA Triton Inference Server met GPU-acceleratie (L40S).
   • Er worden optimalisaties toegepast zoals CUDA Graphs en KV Cache om de latency te minimaliseren.
   • De gegenereerde embeddings worden via Faiss (IVF-HNSW index) op CPU gehost opgehaald via Approximate Nearest Neighbor (ANN) zoekopdrachten.
   • Een embedding compressie strategie zorgt ervoor dat te vergelijkbare embeddings worden samengevoegd om de diversiteit van de uiteindelijke kandidatenlijst te waarborgen.

Belangrijkste Bijdragen

1. Outcome-Conditioned Retrieval: De eerste implementatie van een generatief retrieval-systeem dat meerdere bedrijfsmetrics gelijktijdig kan optimaliseren door dynamische conditioning tijdens inferentie.
2. Efficiënte Multi-Token Generatie: Een nieuw framework dat de generatie van diverse itemreeksen versnelt door parallelle voorspelling over tijdsintervallen, wat de latency drastisch verlaagt.
3. Industrie-Schaal Implementatie: Dit is, voor zover bekend, het eerste rigoureuze onderzoek naar het implementeren van generatieve retrieval op de schaal van Pinterest (honderden miljoenen gebruikers), inclusief gedetailleerde inzichten in de infrastructuur-optimalisatie.

Resultaten

Offline Evaluatie:

• PinRec overtreft bestaande state-of-the-art modellen (zoals SASRec, PinnerFormer, TIGER en HTSU) significant.
• De variant met multi-token en outcome-conditioning (PinRec-{MT, OC}) toont een verbetering van meer dan 10% in Recall@10 voor de Homefeed en meer dan 20% voor Related Pins vergeleken met de unconditioned baseline.
• Multi-token generatie leidt tot een ~10x reductie in latency ten opzichte van traditionele stap-voor-stap generatie, terwijl de prestaties en diversiteit toenemen.

Online A/B Testen:
De tests werden uitgevoerd op de Homefeed, Zoekfunctie en Related Pins.

• Homefeed: De outcome-gestuurde varianten leidden tot een significante toename in "fulfilled sessions" (sessies met interactie). De PinRec-{MT, OC} variant resulteerde in:
  • +0.28% meer fulfilled sessies.
  • +0.55% meer tijd besteed aan de site.
  • +1.73% meer site-wide grid clicks.
• Zoekfunctie: PinRec-UC (unconditioned) verbeterde de zoekvervulling met +2.27% en zoek-herpins met +4.21%.
• Related Pins: Resulteerde in een toename van +0.63% in site-wide herpins.
• Controleerbaarheid: Er werd een duidelijke Pareto-front waargenomen; door het budget voor 'repins' te verhogen en 'grid clicks' te verlagen, verschoven de resultaten voorspelbaar in die richting, wat aantoont dat het model goed bestuurbaar is voor specifieke bedrijfsdoelen.

Betekenis en Conclusie

PinRec markeert een mijlpaal in de evolutie van aanbevelingssystemen. Het bewijst dat generatieve retrieval (vaak gezien als te traag of onpraktisch voor grote schaal) effectief kan worden ingezet in productieomgevingen. Door de combinatie van outcome-conditioning (flexibiliteit voor bedrijfsdoelen) en multi-token generatie (efficiëntie en diversiteit), slaagt PinRec erin om de prestaties van Pinterest te verbeteren zonder de kosten of latency onacceptabel te verhogen. Dit opent de deur voor het gebruik van generatieve AI in de eerste fase (retrieval) van complexe, multi-objectieve aanbevelingssystemen op web-schaal.