PBiLoss: Popularity-Aware Regularization to Improve Fairness in Graph-Based Recommender Systems

यहाँ शोध पत्र "PBiLoss: Popularity-Aware Regularization to Improve Fairness in Graph-Based Recommender Systems" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

ग्राफ-आधारित अनुशंसा प्रणालियाँ (Graph-based recommender systems), विशेष रूप से वे जो LightGCN जैसे ग्राफ न्यूरल नेटवर्क (GNNs) का उपयोग करती हैं, उपयोगकर्ता-आइटम इंटरैक्शन को कैप्चर करने में अत्याधुनिक प्रदर्शन हासिल कर चुकी हैं। हालाँकि, वे लोकप्रियता पूर्वाग्रह (popularity bias) से काफी ग्रस्त हैं।

• समस्या: ये मॉडल लोकप्रिय आइटम्स (उच्च-डिग्री वाले नोड्स) की अधिक अनुशंसा करने और लॉन्ग-टेल (कम लोकप्रिय) आइटम्स की कम अनुशंसा करने की प्रवृत्ति रखते हैं।
• कारण: GNNs में, मैसेज पासिंग स्वाभाविक रूप से प्रमुख इंटरैक्शन पैटर्न को बढ़ा देती है। लोकप्रिय आइटम्स को अधिक बार अपडेट और मजबूत सिग्नल प्राप्त होते हैं, जिससे एक फीडबैक लूप बनता है जो विशिष्ट (niche) कंटेंट को हाशिए पर धकेल देता है।
• मौजूदा समाधानों की सीमाएँ:
  • प्री-प्रोसेसिंग (Pre-processing): डेटा वितरण को विकृत करती है।
  • पोस्ट-प्रोसेसिंग (Post-processing): सीखी गई रिप्रेजेंटेशन में पहले से ही समाहित पूर्वाग्रह को सुधारने में सीमित है।
  • इन-प्रोसेसिंग (In-processing - ग्रेडिएंट-आधारित): अक्सर अनुकूलन (optimization) को जटिल बनाती है, अस्थिर लॉस लैंडस्केप बनाती है, या संवेदनशील हाइपरपैरामीटर ट्यूनिंग की आवश्यकता होती है।
  • मौजूदा रेगुलाइजेशन (Existing Regularization): कई विधियाँ संवेदनशील गुणों (sensitive attributes) पर निर्भर करती हैं या जटिल आर्किटेक्चरल परिवर्तनों की आवश्यकता होती है।

लेखक एक ऐसी विधि की आवश्यकता बताते हैं जो मॉडल-अग्नोस्टिक (model-agnostic) हो, सीधे प्रशिक्षण उद्देश्य (training objective) में एकीकृत हो, और सटीकता से समझौता किए बिना निष्पक्षता (fairness) को संतुलित करने में सक्षम हो।

2. कार्यप्रणाली: PBiLoss

मुख्य योगदान PBiLoss (Popularity Bias Loss) है, जो एक नया रेगुलाइजेशन टर्म है जिसे मानक प्रशिक्षण उद्देश्यों (विशेष रूप से Bayesian Personalized Ranking या BPR) में जोड़ा जाना डिज़ाइन किया गया है।

A. मुख्य अवधारणा (Core Concept)

PBiLoss स्पष्ट रूप से प्रशिक्षण के दौरान लोकप्रिय आइटम्स की ओर मॉडल के झुकाव को दंडित (penalize) करता है। इसका लक्ष्य है:

1. उन लोकप्रिय आइटम्स की रैंकिंग को कम करना जो उपयोगकर्ता के लिए अप्रासंगिक हैं।
2. उन अप्रासंगिक (unpopular) आइटम्स की रैंकिंग को बढ़ावा देना जो उपयोगकर्ता के लिए प्रासंगिक हैं।

B. लोकप्रिय बनाम अप्रासंगिक आइटम्स को अलग करना

शोध पत्र लोकप्रियता (नोड डिग्री द्वारा मात्रात्मक) के आधार पर आइटम्स को वर्गीकृत करने के लिए दो विधियाँ प्रस्तावित करता है:

1. निश्चित थ्रेशोल्ड ($\alpha$): वे आइटम्स जिनका डिग्री $\ge \alpha$ है, "लोकप्रिय" हैं; अन्य "अप्रासंगिक/कम लोकप्रिय" (unpopular) हैं।
2. कोई थ्रेशोल्ड नहीं (No Threshold - संभाव्यता आधारित): सैंपलिंग प्रोबेबिलिटी को डिग्री के आधार पर सौंपा जाता है। लोकप्रिय आइटम्स को उनकी डिग्री के समानुपाती संभावना के साथ सैंपल किया जाता है; अप्रासंगिक आइटम्स को उनकी डिग्री के व्युत्क्रम (inverse) के समानुपाती संभावना के साथ सैंपल किया जाता है।

C. सैंपलिंग रणनीतियाँ (Sampling Strategies)

PBiLoss प्रशिक्षण ट्रिपल्स $(u, i, j)$ उत्पन्न करने के लिए दो अलग-अलग सैंपलिंग रणनीतियों को पेश करता है, जहाँ $u$ एक उपयोगकर्ता है, $i$ एक पॉजिटिव आइटम है, और $j$ एक नेगेटिव आइटम है:

1. पॉपुलर पॉजिटिव (PopPos):

   • फोकस: प्रासंगिक (positive) इंटरैक्शन।
   • तंत्र: प्रासंगिक आइटम्स के जोड़े सैंपल करता है जहाँ एक लोकप्रिय है और दूसरा अप्रासंगिक।
   • लक्ष्य: मॉडल को लोकप्रिय प्रासंगिक आइटम की तुलना में अप्रासंगिक प्रासंगिक आइटम को उच्च रैंक देने के लिए प्रोत्साहित करना, जिससे लॉन्ग-टेल एक्सपोज़र बढ़ता है।
   • फॉर्मूलेशन: $T_{PBi} = \{(u, i, j) | u \in U, i \in I^+_{u, unpop}, j \in I^+_{u, pop}\}$

2. पॉपुलर नेगेटिव (PopNeg):

   • फोकस: अप्रासंगिक (negative) इंटरैक्शन।
   • तंत्र: ऐसे जोड़े सैंपल करता है जहाँ पॉजिटिव आइटम अप्रासंगिक है और नेगेटिव आइटम लोकप्रिय है।
   • लक्ष्य: मॉडल को लोकप्रिय आइटम्स (जिनके साथ उपयोगकर्ता ने इंटरैक्ट नहीं किया है) को बहुत अधिक रैंक देने के लिए स्पष्ट रूप से दंडित करना। यह अक्सर अधिक प्रभावी होता है क्योंकि BPR में लोकप्रियता पूर्वाग्रह अक्सर इसलिए प्रेरित होता है क्योंकि लोकप्रिय आइटम्स "आसान नेगेटिव्स" के रूप में दिखाई देते हैं।
   • फॉर्मूलेशन: $T_{PBi} = \{(u, i, j) | u \in U, i \in I^+_{u, unpop}, j \in I_{pop} \setminus I^+_{u, pop}\}$

D. अंतिम ऑब्जेक्टिव फंक्शन (Final Objective Function)

कुल लॉस फंक्शन मानक BPR लॉस के साथ PBiLoss टर्म को जोड़ता है:
$$L_{total} = L_{BPR} + w \cdot L_{PBi}$$
जहाँ $w$ एक हाइपरपैरामीटर है जो निष्पक्षता रेगुलाइजेशन की शक्ति को नियंत्रित करता है।

3. मुख्य योगदान (Key Contributions)

1. नवीन लॉस फंक्शन: PBiLoss निष्पक्षता बाधाओं को सीधे लर्निंग ऑब्जेक्टिव में एकीकृत करता है, जिससे पोस्ट-प्रोसेसिंग या जटिल आर्किटेक्चरल परिवर्तनों की आवश्यकता नहीं होती है।
2. अभिनव सैंपलिंग रणनीतियाँ: लोकप्रियता पूर्वाग्रह के विभिन्न पहलुओं (प्रासंगिक बनाम अप्रासंगिक आइटम्स) को लक्षित करने के लिए PopPos और PopNeg रणनीतियों का परिचय।
3. लचीली लोकप्रियता परिभाषा: यह फिक्स्ड थ्रेशोल्ड दृष्टिकोण (डिटरमिनिस्टिक) और नो-थ्रेशोल्ड दृष्टिकोण (प्रोबेबिलिस्टिक) दोनों प्रदान करता है, जिससे विभिन्न डेटा वितरणों के अनुकूल होने की क्षमता मिलती है।
4. मॉडल-अग्नोस्टिक डिज़ाइन: यह विधि एक मॉडुलर लॉस घटक है जिसे बिना किसी संरचनात्मक संशोधन के मौजूदा GNN फ्रेमवर्क (जैसे LightGCN, r-AdjNorm, APDA, PopGo) में सहजता से एकीकृत किया जा सकता है।
5. दक्षता (Efficiency): समय जटिलता (time complexity) मूल मॉडल के एसिम्टोटिक रूप से समकक्ष ($O(|E|Ld)$) रहती है, क्योंकि अतिरिक्त लॉस गणना एक कांस्टेंट फैक्टर की वृद्धि है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन वास्तविक दुनिया के डेटासेट्स: Epinions, iFashion, और MovieLens पर PBiLoss का मूल्यांकन किया, इसे चार बेसलाइन मॉडल्स: LightGCN, r-AdjNorm, APDA, और PopGo के साथ एकीकृत किया।

मुख्य निष्कर्ष:

• निष्पक्षता में सुधार (Fairness Improvement): PBiLoss ने लोकप्रियता पूर्वाग्रह को महत्वपूर्ण रूप से कम किया।
  • PRU (उपयोगकर्ताओं के लिए लोकप्रियता-रैंक सहसंबंध) और PRI (आइटम्स के लिए लोकप्रियता-रैंक सहसंबंध) बेसलाइन्स की तुलना में 10% तक कम हो गए। कम मान बेहतर निष्पक्षता दर्शाते हैं।
  • PopNeg-FT (फिक्स्ड थ्रेशोल्ड के साथ पॉपुलर नेगेटिव) वेरिएंट ने निरंतर निष्पक्षता और सटीकता के बीच सबसे अच्छा संतुलन हासिल किया।
• सटीकता का संरक्षण (Accuracy Preservation): महत्वपूर्ण रूप से, इस विधि ने मानक सटीकता मेट्रिक्स (F1@10, NDCG@10, MAP@10) को घटाए बिना निष्पक्षता में सुधार किया। कई मामलों में, सटीकता मेट्रिक्स में मामूली सुधार हुआ या वे स्थिर रहे।
• सांख्यिकीय महत्व (Statistical Significance): फ्रीमैन (Friedman) नॉन-पैरामीट्रिक टेस्ट ने पुष्टि की कि रैंकिंग मेट्रिक्स (NDCG) में सुधार सांख्यिकीय रूप से महत्वपूर्ण था ($p < 0.05$)।
• हाइपरपैरामीटर संवेदनशीलता (Hyperparameter Sensitivity):
  • रेगुलाइजेशन वेट $w$ के मध्यम मानों ने सर्वोत्तम ट्रेड-ऑफ प्रदान किया।
  • लोकप्रियता थ्रेशोल्ड $\alpha$ को शीर्ष 20% आइटम्स पर सेट करने से इष्टतम परिणाम मिले।

5. महत्व और निष्कर्ष (Significance and Conclusion)

• व्यावहारिक प्रभाव: PBiLoss औद्योगिक अनुशंसा प्रणालियों के लिए एक स्केलेबल, आसानी से लागू होने वाला समाधान प्रदान करता है। यह अनुशंसाओं में "मैथ्यू इफेक्ट" (अमीर और अमीर होता जाता है) को संबोधित करता है, यह सुनिश्चित करता है कि लॉन्ग-टेल कंटेंट को उचित एक्सपोज़र मिले।
• सैद्धांतिक योगदान: यह प्रदर्शित करता है कि जटिल आर्किटेक्चरल ओवरहाल या संवेदनशील गुणों के हेरफेर के बजाय सरल लॉस फंक्शन रेगुलाइजेशन के माध्यम से निष्पक्षता प्राप्त की जा सकती है।
• भविष्य की दिशाएं: लेखक लोकप्रियता की परिभाषा को नोड डिग्री से आगे (जैसे, टेम्पोरल ट्रेंड्स, कंटेंट-आधारित सिग्नल) विस्तारित करने और विधि को अनुक्रमिक (sequential) या मल्टी-मोडल अनुशंसा परिदृश्यों में लागू करने का सुझाव देते हैं।

संक्षेप में, PBiLoss एक मजबूत, मॉडल-अग्नोस्टिक फ्रेमवर्क है जो ग्राफ-आधारित रिकमेंडर्स में लोकप्रियता पूर्वाग्रह को सफलतापूर्वक कम करता है, जिससे उच्च अनुशंसा सटीकता बनाए रखते हुए विविधता और निष्पक्षता बढ़ती है।