🤖 machine learning

UniPinRec: Unifying Generative Retrieval and Ranking at Pinterest Scale

UniPinRec is het eerste productiesysteem dat retrieval en ranking volledig verenigt in een enkele transformer-gebaseerde pipeline met gedeelde input-, trainings- en serving-infrastructuur, waarmee significante winst in engagement en efficiëntie wordt behaald op de schaal van Pinterest.

Oorspronkelijke auteurs: Hanyu Li, Yi-Ping Hsu, Aditya Mantha, Prabhat Agarwal, Laksh Bhasin, Jialu Wang, Hongtao Lin, Bella Huang, Yaxin Li, Xinyi Li, Chuxi Wang, Kousik Rajesh, Hooshmand Shokri Razaghi, Shunyao Li, Zongyue

Gepubliceerd 2026-06-02

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Hanyu Li, Yi-Ping Hsu, Aditya Mantha, Prabhat Agarwal, Laksh Bhasin, Jialu Wang, Hongtao Lin, Bella Huang, Yaxin Li, Xinyi Li, Chuxi Wang, Kousik Rajesh, Hooshmand Shokri Razaghi, Shunyao Li, Zongyue Qin, Jaewon Yang, James Li, Dhruvil Deven Badani, Jiajing Xu, Charles Rosenberg

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je Pinterest voor als een enorme, bruisende bibliotheek met miljarden boeken (Pins). Wanneer je binnenloopt, moet de bibliotheek twee dingen heel snel doen:

Retrieval (Ophalen): De hele bibliotheek scannen om een paar duizend boeken te vinden die jou misschien interesseren.
Ranking (Rangschikken): Die paar duizend boeken zorgvuldig lezen en ze in de perfecte volgorde zetten voor jou om te bekijken.

De Oude Manier: Twee Afzonderlijke Bibliothecarissen

Lange tijd gebruikte Pinterest twee verschillende "bibliothecarissen" (AI-modellen) om dit te doen.

Bibliothecaris A (Retrieval) was een snelheidswonder. Zij scande de hele bibliotheek razendsnel, maar las de boeken niet diepgaand. Ze pakte gewoon een grote stapel potentiële matches.
Bibliothecaris B (Ranking) was een zorgvuldige lezer. Zij nam die stapel, las elk boek in detail, en sorteerde ze perfect.

Het Probleem: Beiden lazen exact dezelfde aantekeningen over jouw eerdere gedrag (wat je hebt aangeklikt, opgeslagen of verborgen). Ze deden beide het zware werk van het "onthouden" van jouw geschiedenis afzonderlijk. Dit was alsolijk het inhuren van twee mensen om hetzelfde telefoonboek uit het hoofd te leren, alleen maar om twee verschillende lijstjes te maken. Het verspilde geld, computerkracht en tijd.

De Nieuwe Oplossing: UniPinRec (De Super-Bibliothecaris)

Het artikel introduceert UniPinRec, één enkele "Super-Bibliothecaris" die beide taken tegelijk uitvoert, met één brein, één set aantekeningen en één workflow.

Zo hebben ze het werkend gekregen, met drie slimme trucs:

1. De "Masked Action" Truc (MAM)

Normaal gesproken kijkt de "Retrieval"-bibliothecaris alleen naar een lijst met items die je leuk vond. De "Ranking"-bibliothecaris moet echter weten wat je deed met die items (heb je geklikt? opgeslagen? verborgen?).

Het Oude Probleem: Als je "wat je deed" mengt in de lijst, verstoort dit de snelheid van de Retrieval-bibliothecaris.
De UniPinRec Fix: Ze gebruiken een "Masking"-techniek. Stel je voor dat de bibliothecaris een lijst heeft van jouw geschiedenis. Ze dekken het deel dat zegt "wat je deed" af (maskeren) met een plaknotitie.
- De bibliothecaris leert te raden wat je deed op basis van het item.
- Dit stelt de bibliothecaris in staat om zowel te leren hoe je items vindt (Retrieval) als hoe je ze beoordeelt (Ranking), zonder dat de lijst te lang of verwarrend wordt. Het is als het tegelijkertijd leren autorijden en parkeren door te oefenen met de handrem erop.

2. De "Gedeelde Geheugen" Truc (KV Cache Reuse)

Dit is de grootste versneller.

Het Oude Probleem: Wanneer de Ranking-bibliothecaris aan het werk ging, moest hij je hele geschiedenis vanaf nul opnieuw lezen om te begrijpen wie je was.
De UniPinRec Fix: De Retrieval-bibliothecaris doet eerst het zware werk van het lezen van je geschiedenis. In plaats van die aantekeningen weg te gooien, geeft hij ze door aan de Ranking-bibliothecaris.
- De Ranking-bibliothecaris leest de geschiedenis niet opnieuw; hij kijkt gewoon naar de aantekeningen die de eerste bibliothecaris al heeft geschreven.
- Analogie: Het is als een chef-kok die alle groenten snijdt (Retrieval) en vervolgens de kom overhandigt aan een sous-chef die er alleen nog de kruiden aan toevoegt (Ranking). De sous-chef hoeft de groenten niet opnieuw te snijden. Dit bespaart een enorme hoeveelheid tijd.

3. De "Blended Training" Truc

In plaats van het model eerst te trainen als een "Vinder" en dan later als een "Sorterer", trainden ze het om beide taken gelijktijdig uit te voeren.

Ze voerden het model voorbeelden die zowel de "geschiedenis van wat je leuk vond" ALS de "lijst van wat je zag maar niet klikte" bevatten.
Dit leerde het model om een betere vinder te zijn omdat het wist hoe het items moest beoordelen, en een betere beoordelaar omdat het wist hoe het de juiste items moest vinden.

De Resultaten: Sneller, Slimmer, Goedkoper

Toen ze deze Super-Bibliothecaris aan het werk zetten in de echte Pinterest-app, waren de resultaten indrukwekkend:

Betere Aanbevelingen: Gebruikers sloegen meer Pins op en openden meer meldingen. Het systeem vond betere items omdat de "Vinder" en de "Sorterer" met elkaar communiceerden.
Snellere Snelheid: Omdat ze stopten met het opnieuw lezen van de geschiedenis van de gebruiker, werd het systeem in totaal 11% sneller.
Meer Capaciteit: Het systeem kon 63% meer gebruikers tegelijkertijd aan zonder te vertragen.

Samenvatting

UniPinRec is als het samenvoegen van twee aparte afdelingen tot één efficiënt team. Door hetzelfde "brein" (model), dezelfde "aantekeningen" (gebruikersgeschiedenis) en dezelfde "workflow" te delen, bespaart Pinterest geld op computers, maakt het de app sneller voor gebruikers en laat het mensen content zien die ze daadwerkelijk willen zien. Ze hebben niet het hele bibliotheeksysteem vervangen; ze hebben alleen de bestaande bibliothecarissen perfect laten samenwerken.

Technische Samenvatting: UniPinRec

Probleemstelling
Moderne industriële aanbevelingssystemen, zoals die van Pinterest, werken doorgaans met multi-stage trechters waarbij retrieval (opvraging) en ranking (rangschikking) als afzonderlijke modellen worden getraind. Ondanks het feit dat beide stadia steeds vaker gebruikmaken van grote transformer-backbones om dezelfde gebruikersgedragsdata te encoderen, creëert deze scheiding een aanzienlijke redundantie. Het huidige paradigma verdubbelt parameters, trainingsrekenkracht en serveerkosten omdat retrieval en ranking geen geleerde signalen of modelgewichten kunnen delen. Hoewel eerder werk heeft geprobeerd de modelarchitecturen te verenigen (bijv. HSTU, OnePiece), falen deze benaderingen vaak in het verenigen van de volledige pipeline. Ze blijven gefragmenteerd over inputformaten, trainingsprocedures en serving-stacks, of ze vertrouwen op end-to-end generatieve methoden die de gehele trechter vervangen, wat de integratie met bestaande kandidaatbronnen en operationele controle bemoeilijkt.

Methodologie
De auteurs stellen UniPinRec voor, een systeem dat de full-stack unificatie van retrieval en ranking bereikt. Deze aanpak integreert inputformaten, modelarchitectuur, training en serving-infrastructuur in één coherente pipeline die binnen de bestaande productieomgeving van Pinterest wordt ingezet. De methodologie steunt op drie kerninnovaties:

Masked Action Modeling (MAM):
Om een enkel model te laten dienen voor zowel retrieval (volgende item voorspelling) als ranking (actievoorspelling) zonder de contextlengte te verdubbelen of de compatibiliteit van de input te breken, introduceren de auteurs MAM.
- Architectuur: In plaats van actie-tokens tussen items te verweven (wat de sequentielengte opblaast), worden acties gecodeerd als dichte embeddings die langs de feature-dimensie worden geconcateneerd met item-representaties.
- Masking: Tijdens de training worden acties in de geschiedenis van de gebruiker willekeurig gemaskeerd met een waarschijnlijkheid $p_{mask}$ . Bij inferentie zijn toekomstige acties altijd gemaskeerd. Dit stelt het model in staat om actievoorspellingsdoelen (ranking) te leren op dezelfde niet-verweven sequentie die wordt gebruikt voor retrieval (volgende-item voorspelling).
- Attention Pattern: Het systeem gebruikt een aangepast causaal mask (M-FALCON patroon) waarbij kandidaat-posities alle voorgaande historie bekijken maar niet naar elkaar. Dit vermindert de attention-complexiteit van $O((n+k)^2)$ naar $O(n^2 + nk)$ en maakt efficiënt KV-cache delen mogelijk.
Blended Training en Joint Loss:
Het systeem construeert verenigde trainingsvoorbeelden die de recente interactiegeschiedenis van een gebruiker koppelen aan een toekomstige feedview impressie-slate (inclusief negatieve uitkomsten).
- Data-infrastructuur: Een Ray-gebaseerde in-trainer join voegt aparte Iceberg-tabellen samen van gebruikersgeschiedenis en feedview-impressies, waardoor dataduplicatie wordt voorkomen en flexibele sampling-ratio's mogelijk zijn.
- Objectief: Het model wordt getraind met een gezamenlijke loss-functie: $L = L_{item} + L_{action}$ $L = L_{i t e m} + L_{a c t i o n}$ .
  - $L_{item}$ : Een sampled softmax loss voor volgende-item voorspelling (retrieval).
  - $L_{action}$ : Een binary cross-entropy loss voor het voorspellen van specifieke actietypes (klikken, opslaan, verbergen) op gemaskeerde posities (ranking).
- Deze gezamenlijke optimalisatie zorgt ervoor dat de item-embedder van beide taken tegelijkertijd leert, wat leidt tot een betere generalisatie vergeleken met sequentiële pre-training en fine-tuning.
Cross-Stage KV-Cache Sharing:
Om de serving-efficiëntie aan te pakken, hergebruikt UniPinRec de berekening van de gebruikersgeschiedenis-encoding over de stadia heen.
- Mechanisme: De retrieval-fase encodeert de gebruikersgeschiedenis en slaat de resulterende Key-Value (KV) cache op in een vooraf toegewezen GPU-geheugenpool. De ranking-fase, die als een apart proces draait, mapt ditzelfde GPU-geheugen en hergebruikt de gecachte geschiedenis zonder deze opnieuw te encoderen.
- Efficiëntie: Dit transformeert de ranking-fase van een volledige forward pass ( $O(n^2)$ ) naar een incrementele decode-stap ($O(nk)$), waarbij $n$ de geschiedenislengte is en $k$ het aantal kandidaten.
- Implementatie: Het systeem gebruikt NVIDIA Triton voor serving, met Faiss voor ANN-lookup. De Faiss-index geeft zowel de kandidaat-ID's als hun vooraf berekende embeddings terug, waardoor een aparte embedding fetch tijdens de ranking niet nodig is.

Belangrijkste Bijdragen

Full-Stack Unificatie: UniPinRec is het eerste systeem dat retrieval en ranking unificeert over inputs, model, training en serving-infrastructuur in een productiesysteem voor aanbevelingen. Het vervangt de noodzaak voor twee onafhankelijke modellen door een enkele generatieve decoder.
Efficiënte Architectuur: Door MAM en niet-verweven sequenties te introduceren, bereikt het systeem volledige gewichtsdeling en parameterefficiëntie zonder de contextlengte op te blazen.
Serving Optimalisatie: Het cross-stage KV-cache sharing mechanisme vermindert de totale FLOPs en latentie aanzienlijk door dubbele encoding van de gebruikersgeschiedenis te voorkomen.
Operationele Compatibiliteit: Het ontwerp is een "drop-in" vervanging die componeert met bestaande kandidaat-generatoren (bijv. keywords, trending) en onafhankelijke A/B-testen en rollback van stadia mogelijk maakt.

Resultaten
Het systeem is uitgerold in de kernoppervlakken van Pinterest en leverde de volgende resultaten op:

Offline Prestaties: UniPinRec kwam overeen met de Recall@10 van het productiemodel voor retrieval, terwijl de ranking Hit@3 met +14,8% verbeterde ten opzichte van de toegewezen productieranker (TransAct V2 + DCNv2). Het presteerde ook beter dan HSTU en een fine-tuned PinRec baseline.
Serving Efficiëntie: De verenigde aanpak verminderde de end-to-end serving latentie met 11,1% en verhoogde de Queries Per Second (QPS) met 63,6% vergeleken met een naïeve aparte deployment. Het hergebruik van de KV-cache alleen al zorgde voor een ~2,4x versnelling van de ranking-pass.
Online Engagement: In A/B-testen op "Board More Ideas" en "Notifications":
- Board More Ideas: Behaalde een lift van +0,95% in surface saves en een lift van +0,08% in site-wide saves.
- Notifications: Behaalde een lift van +0,91% in push opens, +1,72% voor slapende gebruikers, en een lift van +0,09% in Weekly Active Users (WAU).

Betekenis
Het artikel beweert dat UniPinRec aantoont dat het "moeilijkere probleem" van het verenigen van inputformaten, training en serving-infrastructuur oplosbaar is in productie. Door verder te gaan dan architecturale unificatie naar full-stack unificatie, elimineert het systeem de redundantie van het tweemaal encoderen van de gebruikersgeschiedenis, verlaagt het de kosten en verbetert het de modelkwaliteit door signaaldeling. De auteurs positioneren dit als een praktisch, incrementeel pad voor industriële systemen om generatieve retrieval en ranking te adopteren zonder het verlies van operationele flexibiliteit of de noodzaak voor een volledige overhaul van de aanbevelingsfunnel. Toekomstig werk omvat het uitbreiden van deze unificatie naar de L2 ranking-stap en andere oppervlakken zoals Search en Ads.