Technische Samenvatting: Contrasteer niet het Onmogelijke

Probleemstelling

In grootschalige aanbevelingssystemen is contrastief leren de standaardparadigma voor het leren van gebruikersrepresentaties. Deze methoden behandelen doorgaans geobserveerde interacties tussen gebruiker en item als positieve voorbeelden en andere items binnen een mini-batch als negatieve voorbeelden. Een veelvoorkomende, vaak impliciete aanname die ten grondslag ligt aan willekeurige mini-batch sampling is universele blootstelling: het idee dat elke gebruiker theoretisch aan elk item blootgesteld zou kunnen worden.

Deze aanname faalt op lokale community-platforms zoals Karrot (Danggeun Market), waar blootstelling per ontwerp geografisch beperkt is. Op dergelijke platforms zijn de overgrote meerderheid van de gebruiker-item paren onmogelijk volgens het beleid; items die zich buiten de zichtbare regio van een gebruiker bevinden, worden die gebruiker nooit getoond. Gevolgelijk introduceert standaard willekeurige batching een hoog volume aan onmogelijke negatieven—items die een gebruiker nooit had kunnen zien vanwege geografische regels, niet vanwege een gebrek aan voorkeur.

Het paper maakt onderscheid tussen twee soorten negatieven:

1. Haalbare Negatieven (Feasible Negatives): Items waaraan een gebruiker wel degelijk blootgesteld had kunnen worden, maar waar hij niet mee heeft geïnteracteerd. Deze dragen een betekenisvol voorkeurssignaal bij.
2. Onmogelijke Negatieven (Impossible Negatives): Items waaraan een gebruiker nooit blootgesteld had kunnen worden vanwege platformbeperkingen. Deze dragen weinig tot geen voorkeurssignaal bij, aangezien het uitblijven van interactie wordt bepaald door het systeem in plaats van door de keuze van de gebruiker.

Wanneer onmogelijke negatieven de trainingsbatch domineren, verwateren zij het contrastieve leersignaal, wat leidt tot minder discriminerende gebruikersrepresentaties.

Methodologie: Regio-geconstreerde Batch Sampling (RCBS)

Om het probleem van de "onmogelijke negatieven" aan te pakken, stellen de auteurs Region-Constrained Batch Sampling (RCBS) voor. Dit is een correctie op dataniveau die de manier waarop mini-batches worden geconstrueerd wijzigt, zonder de onderliggende modelarchitectuur of de verliesfunctie aan te passen.

Kernmechanisme

RCBS construeert regio-homogene mini-batches. In plaats van gebruikers willekeurig te selecteren uit het gehele platform, samplet RCBS gebruikers uit een specifieke geografische regio $r$.

• Definitie van Haalbaarheid: Een gebruiker-item paar wordt gedefinieerd als haalbaar als de afstand tussen de regio van de gebruiker en de regio van het item binnen een gebruikersspecifieke blootstellingsstraal $\delta_u$ valt.
• Batch Constructie: Een batch $\mathcal{B}_r$ wordt gevormd door gebruikers uniform te samplen uit een specifieke regio-pool $U_r$. Omdat alle gebruikers in de batch vergelijkbare blootstellingsbeperkingen delen, zijn de items die geassocieerd zijn met andere gebruikers in de batch zeer waarschijnlijk haalbare negatieven voor de doelgebruiker.

Theoretische Impact

De auteurs leiden af dat onder willekeurige batching het verwachte deel onmogelijke negatieven ($\rho$) hoog is en schaalt met het aantal regio's. In contrast hiermee concentreert RCBS de waarschijnlijkheidsmassa op een enkele regio, waardoor $\rho$ dicht bij nul wordt gebracht.

• Hardere Negatieven: Door onmogelijke negatieven te vervangen door haalbare negatieven, introduceert RCBS van nature "hardere" negatieven. Haalbare negatieven vertegenwoordigen items die de gebruiker had kunnen zien maar niet heeft gezien, wat een sterker en informatiever signaal biedt voor het leren van gebruikersvoorkeuren.
• Complementariteit met IPS: Het paper merkt op dat RCBS complementair is aan Inverse Propensity Scoring (IPS). Terwijl IPS de blootstellingsbias corrigeert onder geobserveerde paren, kan het geen paren aanpakken met een blootstellingskans van nul (onmogelijke paren). RCBS zorgt ervoor dat de trainingsbatch voornamelijk bestaat uit haalbare paren, waarop IPS vervolgens kan opereren om resterende onbalansen te corrigeren.

Belangrijkste Bijdragen

1. Probleemidentificatie: Het paper identificeert het specifieke probleem van "onmogelijke negatieven" in regio-geconstreerde aanbevelingssystemen, waarbij een onderscheid wordt gemaakt tussen standaard voorkeursgebaseerde negatieven en deze onmogelijke negatieven.
2. Voorstel voor RCBS: Het introduceert Region-Constrained Batch Sampling, een eenvoudige maar effectieve methode om onmogelijke negatieven te verminderen door geografische homogeniteit in batches af te dwingen.
3. Empirische Validatie: Door middel van uitgebreide offline en online evaluaties demonstreren de auteurs dat RCBS de kwaliteit van gebruikersrepresentaties en de downstream prestaties verbetert.
4. Productie-implementatie: De resulterende gebruikersembeddings die via RCBS zijn geleerd, zijn succesvol ingezet in productie voor diverse toepassingen bij Karrot.

Experimentele Resultaten

Offline Evaluatie (User Modeling Pretraining)

• Metrieken: Recall@10 en Recall@100.
• Bevindingen: RCBS-getrainde modellen presteerden consequent beter dan de baselines met willekeurige batching.
  • Random-Train: Behaalde een R@10 van 0,100 met een ratio van onmogelijke negatieven ($\rho_{train}$) van 0,98.
  • RCBS-Train (fine): Behaalde een R@10 van 0,149 met een $\rho_{train}$ gereduceerd tot 0,30.
• Observatie: Een lagere ratio van onmogelijke negatieven correleerde sterk met betere recall-metrieken. Bovendien leverde het evalueren van RCBS-getrainde modellen met een RCBS-gebaseerde evaluatie (RCBS-Eval) lagere scores op dan Random-Eval, wat bevestigt dat haalbare negatieven fungeren als hardere, meer uitdagende negatieven dan onmogelijke negatieven.

Prestaties bij Downstream Taken

Wanneer toegepast op drie downstream taken, vertoonden RCBS-getrainde gebruikersembeddings consistente verbeteringen ten opzichte van de baselines met willekeurige batching:

• Home Feed Ranking: +1,18% verbetering in NDCG@10.
• Home Feed Retrieval: +7,56% verbetering in Recall@10 (de grootste winst, toe te schrijven aan de structurele gelijkenis tussen de retrieval en pretraining doelstellingen).
• Display Ads Ranking: +3,38% verbetering in PR-AUC.

Online A/B Tests

Het best presterende model (RCBS-Train fine) werd ingezet in productie A/B-tests:

• Home Feed (Ranking + Retrieval): +10,0% toename in clicks, +5,12% in impressies, en +1,91% in Daily Active Viewers (DAV).
• Display Ads: +6,01% toename in eCPM en +7,46% toename in Ad CTR.

Betekenis en Claims

Het paper claimt dat het probleem van "onmogelijke negatieven" een kritiek, vaak over het hoofd gezien probleem is in locatiebewuste diensten (bijv. voedselbezorging, datingapps, lokale marktplaatsen) waar blootstelling strikt begrensd is door geografie. Door simpelweg het batchingproces te beperken tot regio-homogeniteit, laten de auteurs zien dat:

1. Trainingssignalen worden versterkt: Het vervangen van onmogelijke negatieven door haalbare negatieven biedt een nauwkeuriger beeld van de gebruikersvoorkeur.
2. Prestaties zijn schaalbaar: De methode verbetert de retrieval en ranking metrieken breed, wat leidt tot een significante zakelijke impact in een productieomgeving.
3. Eenvoud is effectief: De oplossing vereist geen wijzigingen in de modelarchitectuur of de verliesfunctie, waardoor het een praktische vervanging is voor standaard willekeurige batching in geografisch beperkte systemen.

De auteurs concluderen dat hoewel RCBS effectief de structurele onmogelijkheid van bepaalde paren aanpakt, toekomstig werk adaptieve regio-groepering voor dynamische beperkingen en verdere integratie met propensity-gebaseerde debiasing methoden zou kunnen verkennen.