PBiLoss: Popularity-Aware Regularization to Improve Fairness in Graph-Based Recommender Systems

1. Probleemstelling

Op grafieken gebaseerde aanbevelingssystemen, met name die welke Graph Neural Networks (GNN's) zoals LightGCN gebruiken, hebben state-of-the-art prestaties bereikt in het vastleggen van interacties tussen gebruikers en items. Ze lijden echter aanzienlijk onder populariteitsbias.

• Het probleem: Deze modellen hebben de neiging om populaire items (knooppunten met een hoge graad) overmatig aan te bevelen, terwijl ze langstaart-items (minder populaire items) onderaan bevelen.
• De oorzaak: In GNN's versterkt het doorgeven van berichten (message passing) inherent dominante interactiepatronen. Populaire items ontvangen vaker updates en sterkere signalen, waardoor een feedbacklus ontstaat die niche-inhoud marginaliseert.
• Beperkingen van bestaande oplossingen:
  • Pre-processing: Verstoort data-distributies.
  • Post-processing: Beperkt in het corrigeren van bias die al is ingebed in de geleerde representaties.
  • In-processing (op gradiënten gebaseerd): Compliceert vaak de optimalisatie, creëert instabiele verlieslandschappen of vereist gevoelige afstelling van hyperparameters.
  • Bestaande regularisatie: Veel methoden vertrouwen op gevoelige attributen of vereisen complexe architecturale wijzigingen.

De auteurs stellen de noodzaak vast van een methode die modelonafhankelijk is, direct in het trainingsdoel is geïntegreerd en in staat is om eerlijkheid te balanceren zonder aanbevelingsnauwkeurigheid op te offeren.

2. Methodologie: PBiLoss

De kernbijdrage is PBiLoss (Popularity Bias Loss), een nieuwe regularisatieterm die is ontworpen om toe te voegen aan standaard trainingsdoelen (specifiek Bayesian Personalized Ranking of BPR).

A. Kernconcept

PBiLoss straalt tijdens het trainen expliciet de neiging van het model naar populaire items af. Het beoogt:

1. De ranking van populaire items die irrelevant zijn voor een gebruiker te verlagen.
2. De ranking van onpopulaire items die relevant zijn voor een gebruiker te verhogen.

B. Onderscheid tussen populaire en onpopulaire items

Het paper stelt twee methoden voor om items te categoriseren op basis van populariteit (gekwantificeerd door knooppuntgraad):

1. Vaste drempel ($\alpha$): Items met een graad $\ge \alpha$ zijn "populair"; andere zijn "onpopulair".
2. Geen drempel (Probabilistisch): Steekproefkansen worden toegewezen op basis van graad. Populaire items worden gestoken met een kans evenredig aan hun graad; onpopulaire items worden gestoken met een kans evenredig aan het omgekeerde van hun graad.

C. Steekproefstrategieën

PBiLoss introduceert twee verschillende steekproefstrategieën om trainingsdrietallen $(u, i, j)$ te genereren, waarbij $u$ een gebruiker is, $i$ een positief item is en $j$ een negatief item is:

1. Populair Positief (PopPos):

   • Focus: Relevante (positieve) interacties.
   • Mechanisme: Steekproeven paren van relevante items waarbij één populair is en één onpopulair.
   • Doel: Moedigt het model aan om het onpopulaire relevante item hoger te rangschikken dan het populaire relevante item, waardoor de blootstelling aan de langstaart wordt vergroot.
   • Formulering: $T_{PBi} = \{(u, i, j) | u \in U, i \in I^+_{u, unpop}, j \in I^+_{u, pop}\}$

2. Populair Negatief (PopNeg):

   • Focus: Irrelevante (negatieve) interacties.
   • Mechanisme: Steekproeven paren waarbij het positieve item onpopulair is en het negatieve item populair.
   • Doel: Straalt het model expliciet af voor het te hoog rangschikken van populaire items (waar de gebruiker niet mee heeft geïnteracteerd). Dit is vaak effectiever omdat populariteitsbias in BPR vaak wordt gedreven door populaire items die als "gemakkelijke negatieven" optreden.
   • Formulering: $T_{PBi} = \{(u, i, j) | u \in U, i \in I^+_{u, unpop}, j \in I_{pop} \setminus I^+_{u, pop}\}$

D. Einddoelfunctie

De totale verliesfunctie combineert de standaard BPR-loss met de PBiLoss-term:
$$L_{total} = L_{BPR} + w \cdot L_{PBi}$$
Waarbij $w$ een hyperparameter is die de sterkte van de eerlijkheidsregularisatie regelt.

3. Belangrijkste Bijdragen

1. Nieuwe Verliesfunctie: PBiLoss integreert eerlijkheidsbeperkingen direct in het leerdoel, waardoor er geen behoefte is aan post-processing of complexe architecturale wijzigingen.
2. Innovatieve Steekproefstrategieën: Introductie van PopPos en PopNeg strategieën om verschillende aspecten van populariteitsbias aan te pakken (relevante versus irrelevante items).
3. Flexibele Populariteitsdefinitie: Biedt zowel een vaste drempel-benadering (deterministisch) als een geen-drempel-benadering (probabilistisch), wat aanpassing mogelijk maakt aan verschillende data-distributies.
4. Modelonafhankelijk Ontwerp: De methode is een modulaire verliescomponent die naadloos kan worden geïntegreerd in bestaande GNN-frameworks (bijv. LightGCN, r-AdjNorm, APDA, PopGo) zonder structurele wijzigingen.
5. Efficiëntie: De tijdscomplexiteit blijft asymptotisch equivalent aan het basismodel ($O(|E|Ld)$), aangezien de extra verliesberekening een constante factorverhoging is.

4. Experimentele Resultaten

De auteurs hebben PBiLoss geëvalueerd op drie real-world datasets: Epinions, iFashion en MovieLens, en het geïntegreerd met vier baseline-modellen: LightGCN, r-AdjNorm, APDA en PopGo.

Belangrijkste bevindingen:

• Verbetering van Eerlijkheid: PBiLoss verminderde populariteitsbias aanzienlijk.
  • PRU (Popularity-Rank Correlation for Users) en PRI (Popularity-Rank Correlation for Items) werden met maximaal 10% verlaagd ten opzichte van baselines. Lagere waarden duiden op betere eerlijkheid.
  • De variant PopNeg-FT (Popular Negative met Vaste Drempel) behaalde consistent de beste balans tussen eerlijkheid en nauwkeurigheid.
• Behoud van Nauwkeurigheid: Cruciaal verbeterde de methode de eerlijkheid zonder de standaard nauwkeurigheidsmetrieken (F1@10, NDCG@10, MAP@10) te verslechteren. In veel gevallen verbeterden de nauwkeurigheidsmetrieken licht of bleven ze stabiel.
• Statistische Significantie: Een Friedman niet-parametrische test bevestigde dat de verbeteringen in rangschikkingsmetrieken (NDCG) statistisch significant waren ($p < 0.05$).
• Gevoeligheid voor Hyperparameters:
  • Matige waarden van de regularisatiegewicht $w$ boden de beste afweging.
  • Het instellen van de populariteitsdrempel $\alpha$ op de top 20% van de items leverde optimale resultaten op.

5. Betekenis en Conclusie

• Praktische Impact: PBiLoss biedt een schaalbare, eenvoudig te implementeren oplossing voor industriële aanbevelingssystemen. Het adresseert het "Matthew-effect" (rijk worden rijker) in aanbevelingen, waardoor langstaart-inhoud eerlijke blootstelling krijgt.
• Theoretische Bijdrage: Het toont aan dat eerlijkheid kan worden bereikt door eenvoudige regularisatie van de verliesfunctie in plaats van complexe architecturale ingrepen of manipulatie van gevoelige attributen.
• Toekomstige Richtingen: De auteurs suggereren de definitie van populariteit uit te breiden voorbij de knooppuntgraad (bijv. temporele trends, op inhoud gebaseerde signalen) en de methode toe te passen op sequentiële of multimodale aanbevelingsscenario's.

Kortom, PBiLoss is een robuust, modelonafhankelijk raamwerk dat succesvol populariteitsbias in op grafieken gebaseerde aanbevelers mitigeert, waardoor diversiteit en eerlijkheid worden versterkt terwijl een hoge aanbevelingsnauwkeurigheid wordt behouden.