Quality-Constrained Preference Fading Model for Discrete Diffusion Recommendation

Technische Samenvatting: Kwaliteitsgeconstreind Preference Fading Model voor Discrete Diffusie-aanbevelingen

Probleemstelling

Discrete diffusiemodellen zijn een veelbelovend paradigma geworden voor aanbevelingssystemen, waarbij het aanbevelingsproces wordt geframed als een mechanisme van "preference fading and growing" (het vervagen en groeien van voorkeuren) binnen een discrete itemruimte. Echter, bestaande discrete diffusiemethoden vertrouwen doorgaans op een uniforme willekeurige bemonsteringsstrategie tijdens de voorwaartse fase van de preference fading. In massieve en ijle (sparse) aanbevelingsomgevingen genereert deze aanpak gecorrumpeerde voorkeurstoestanden die geen informatieve waarde bezitten. Bijgevolg ontvangt het omgekeerde denoising-proces onvoldoende discriminerende supervisie, wat het vermogen van het model om fijnmazige Top-K rangschikkingen uit te voeren, beperkt. Bovendien brengt standaard willekeurige vervanging het risico op "false negatives" (het vervangen van een doelitem door een item waar de gebruiker eigenlijk wel van houdt maar nog niet mee heeft geïnteracteerd) met zich mee, wat het trainingsproces kan misleiden.

Methodologie: Quality-Constrained Preference Fading (QCPF)

De auteurs stellen QCPF voor, een enkel voor de training bedoelde verbeteringsmodule die het voorwaartse preference fading-proces reconstrueert zonder de reverse generatieve backbone of de inferentie-architectuur te wijzigen. De kerninnovatie ligt in het vervangen van de uniforme distributie door een kwaliteitsbewuste gemengde distributie en het implementeren van een false-negative-bewust filtermechanisme.

1. Kwaliteitsbewuste Gemengde Vervangingsdistributie

In plaats van uniforme willekeurige bemonstering construeert QCPF een gewogen mengsel van drie bronnen van negatief bewijs om een uitdagender en informatiever degradatietraject te creëren:

• Simple Random Negatives ($q_e$): Uniform gesampled uit de globale itemcorpus om de ruimtelijke exploratie dekking te behouden en te voorkomen dat het degradatietraject instort naar lokale regio's.
• Batch-Level Hard Candidates ($q_h$): Afkomstig van de unieke items in de huidige trainingsmini-batch. Deze items reflecteren de werkelijke interesses van gelijktijdige gebruikers en fungeren als sterke "misleidende" signalen die zorgen voor een hoog-discriminerende rangschikkingssupervisie.
• Popularity-Based Exposure Proxies ($q_p$): Gesampled op basis van de itemfrequentie binnen de huidige batch (afgevlakt door een coëfficiënt $\alpha$). Deze component geeft prioriteit aan items met een hoge blootstelling (exposure) maar zonder interactie, waardoor de kloof tussen gegenereerde ruis en de ware exposure-distributies wordt verkleind om de risico's op false-negatives gerelateerd aan niet-geobserveerde interacties te mitigeren.

De initiële gemengde distributie wordt geformuleerd als:
$$q_{QCPF}(i | u, x_0) = \lambda_e q_e(i) + \lambda_h q_h(i | B) + \lambda_p q_p(i | B)$$
waarbij $\lambda$ de mengcoëfficiënten vertegenwoordigt.

2. False-Negative-Aware Filtering

Om te voorkomen dat hoogwaardige kandidaten (zoals populaire items of hard negatives) per ongeluk echte positieve items voor de gebruiker zijn, introduceert QCPF een lichtgewicht filtermechanisme. Een validiteitsindicatorfunctie $\phi(i, u, x_0)$ wordt toegepast op de gemengde distributie, waarbij twee restricties worden afgedwongen:

• Identity Filtering: Zorgt ervoor dat het vervangende item $i$ niet identiek is aan het doelpositieve item $x_0$.
• Historical Interaction Filtering: Zorgt ervoor dat $i$ niet aanwezig is in de historische interactiesequentie $H_u$ van de gebruiker.

De distributie wordt vervolgens opnieuw genormaliseerd over de geldige kandidaatenset. Deze filtering wordt geïmplementeerd via geparalleliseerde vectorgestuurde tensoroperaties om te garanderen dat er geen computationele overhead optreedt tijdens de training.

3. Voorwaarts en Omgekeerd Proces

• Voorwaartse Fase: Het positieve doelitem van de gebruiker $x_0$ vervaagt geleidelijk naar een gecorrumpeerde staat $x_t$ met behulp van de geconstrueerde hoogwaardige vervangingsdistributie.
• Omgekeerde Fase: Het denoising-netwerk (bijv. een self-attention model zoals SASRec) leert $x_0$ te herstellen uit $x_t$ door relatieve voorkeurratio's te schatten met behulp van Score Entropy Loss. Cruciaal is dat de architectuur van het reverse netwerk identiek blijft aan de baseline (bijv. PreferGrow); alleen de trainingsdata (de gecorrumpeerde toestanden) wordt verbeterd.

Belangrijkste Bijdragen

1. QCPF Mechanisme: Het ontwerp van een hybride fading-strategie die multi-source data (random, hard, en popularity-based negatives) integreert om de informatieve waarde van de voorkeursdegradatie-trajecten aanzienlijk te vergroten.
2. False-Negative Constraint: De introductie van een strikt, lichtgewicht filtermechanisme dat het risico op ruisige supervisie door ongeldige vervangingen vermindert, terwijl het een nul inferentie-belasting oplegt en de originele modelarchitectuur behoudt.
3. Empirische Validatie: Uitgebreide experimenten op vijf publieke benchmark-datasets uit de echte wereld (MovieLens, Steam, Beauty, Toys, Sports) die consistente verbeteringen laten zien in de Top-K Hit Ratio (HR) en Normalized Discounted Cumulative Gain (NDCG).

Experimentele Resultaten

De auteurs hebben QCPF geëvalueerd tegen traditionele discriminatieve aanbevelers (SASRec, Caser, GRU4Rec) en diverse diffusie-gebaseerde modellen (DreamRec, DiffRec, PreferDiff, PreferGrow).

• Prestaties: QCPF behaalde significante verbeteringen ten opzichte van de state-of-the-art discrete baseline PreferGrow over alle datasets en metrieken (HR@K en NDCG@K voor K=5, 10, 20). Zo verbeterde QCPF op MovieLens de HR@5 van 0.1413 (PreferGrow) naar 0.1476.
• Ablatieonderzoeken: Het verwijderen van een component uit de gemengde distributie (Batch Hard, Easy Proxy, of Pop Proxy) zorgde ervoor dat de prestaties degradeerden richting de uniforme fading-baseline. Het verwijderen van de Batch Hard kandidaten resulteerde in de meest significante daling, wat hun rol bij het leveren van discriminerende signalen benadrukt. Het uitschakelen van de False-Negative Filter leidde tot een marginale prestatiedaling, maar dient als een kritiek vangnet tegen trainingsinstorting.
• Efficiëntie: De methode introduceert geen extra parameters en geen extra inferentie-latentie, aangezien de complexe bemonstering en filtering strikt beperkt zijn tot de trainingsfase.

Betekenis en Claims

Het artikel claimt dat de kwaliteit van het voorwaartse voorkeursdegradatie-traject een cruciale bepalende factor is voor de bovengrens (upper bound) in discrete diffusie-aanbevelingen. Door het voorwaartse corruptieproces te optimaliseren zodat het "kwaliteitsgeconstreind" is, dwingt het model het reverse netwerk om robuustere en fijnmazigere rangschikkingssignalen te leren.

De auteurs benadrukken dat QCPF een uniek voordeel biedt: het verbetert de leerprestaties tijdens de training terwijl de exacte zelfde inferentie-efficiëntie behouden blijft als het basismodel. Deze "enkel voor de training bedoelde verbetering" maakt de aanpak zeer geschikt voor industriële implementatie, waarbij het gangbare compromis tussen modelprestaties en inferentie-latentie wordt aangepakt. De studie suggereert dat toekomstig werk dit verder kan verfijnen door semantische kenmerken te integreren (bijv. via LLM's) en adaptief curriculum learning voor menggewichten toe te passen.