Fairness Attacks on Recommender Systems

तकनीकी सारांश: अनुशंसा प्रणालियों (Recommender Systems) पर निष्पक्षता हमले (Fairness Attacks)

समस्या विवरण
अनुशंसा प्रणालियाँ (Recommender systems), हालांकि सूचना के अतिभार (information overload) को कम करने के लिए आवश्यक हैं, एक गंभीर चुनौती का सामना करती हैं जो कि अननिष्पक्षता (unfairness) से संबंधित है, जहाँ विशिष्ट उपयोगकर्ता समूहों (जैसे लिंग या नस्ल के आधार पर) के साथ व्यवस्थित रूप से भेदभाव किया जाता है। जबकि मौजूदा शोध ने अनुशंसा प्रदर्शन (जैसे प्रमोशन या डिमोशन हमलों) को हेरफेर करने के उद्देश्य से किए जाने वाले प्रतिकूल हमलों (adversarial attacks) का व्यापक अध्ययन किया है, अनुशंसा निष्पक्षता की ऐसी हमलों के प्रति संवेदनशीलता अभी भी काफी हद तक अनछुआ विषय है। यह शोध पत्र "निष्पक्षता हमलों" (fairness attacks) की समस्या को संबोधित करता है, जहाँ एक हमलावर का लक्ष्य लक्षित अनुशंसा प्रणाली की अंतर्निहित अननिष्पक्षता को बढ़ाना होता है। मुख्य चुनौती यह तथ्य है कि लक्षित प्रणालियाँ निष्पक्षता-जागरूक प्रशिक्षण (fairness-aware training) का उपयोग कर सकती हैं और संवेदनशील विशेषताओं (जैसे लिंग) का उपयोग कर सकती हैं। फलस्वरूप, एक प्रभावी हमलावर को न केवल नकली आइटमों को सम्मिलित करने के लिए चुनना होगा, बल्कि नकली उपयोगकर्ता प्रोफाइल के संवेदनशील गुण (लिंग) को भी निर्धारित करना होगा ताकि निष्पक्षता के क्षरण को अधिकतम किया जा सके।

कार्यप्रणाली: संरचना-जागरूक सुदृढीकरण शिक्षण-आधारित निष्पक्षता हमला (SRLFA)
लेखक एक नवीन विधि, SRLFA प्रस्तावित करते हैं, जो नकली उपयोगकर्ता प्रोफाइल के निर्माण को एक मार्कोव निर्णय प्रक्रिया (MDP) के रूप में मॉडल किए गए अनुक्रमिक निर्णय लेने की प्रक्रिया के रूप में फ्रेम करती है। यह ढांचा एक ब्लैक-बॉक्स सेटिंग के तहत कार्य करता है, जहाँ हमलावर को लक्षित मॉडल के पैरामीटर का ज्ञान नहीं होता है लेकिन उसके पास प्रशिक्षण डेटा तक पहुँच होती है। हमले को अनुकूलित करने के लिए, लेखक निष्पक्षता-जागरूक उद्देश्यों के साथ प्रशिक्षित एक स्थानीय सरोगेट (surrogate) अनुशंसा प्रणाली का उपयोग करते हैं ताकि रिवॉर्ड फीडबैक प्राप्त किया जा सके।

SRLFA ढांचे में पाँच प्रमुख मॉड्यूल शामिल हैं:

1. ग्राफ-आधारित संरचना एनकोडर (Graph-based Structure Encoder): यह पहचानते हुए कि उपयोगकर्ता-आइटम इंटरैक्शन एक द्विपक्षीय ग्राफ (bipartite graph) बनाते हैं, यह विधि सम्मिलित किए गए नकली उपयोगकर्ता-आइटम इंटरैक्शन और मूल इंटरैक्शन ग्राफ के बीच संरचनात्मक निर्भरता को मॉडल करने के लिए एक ग्राफ कनवल्शनल नेटवर्क (GCN) का उपयोग करती है। यह एनकोडर नकली उपयोगकर्ताओं और नकली आइटमों दोनों के लिए संरचना-जागरूक प्रतिनिधित्व सीखता है, जो यह पकड़ता है कि नए किनारे (edges) वैश्विक ग्राफ संरचना को कैसे बदलते हैं।
2. अनुक्रमिक एनकोडर (Sequential Encoder): चूंकि एक उपयोगकर्ता प्रोफाइल के भीतर नकली आइटम क्रमिक रूप से उत्पन्न किए जाते हैं, इसलिए एक रिकरेंट न्यूरल नेटवर्क (विशेष रूप से LSTM) का उपयोग उत्पन्न किए गए नकली आइटमों के बीच अनुक्रमिक निर्भरता को मॉडल करने और एक अनुक्रम-जागरूक प्रतिनिधित्व सीखने के लिए किया जाता है।
3. आइटम चयन नीति (Item Selection Policy): संयुक्त संरचना-जागरूक और अनुक्रम-जागरूक प्रतिनिधित्व के आधार पर, एक मास्कड अटेंशन मैकेनिज्म अगले नकली आइटम को सम्मिलित करने का निर्धारण करता है। यह नीति सुनिश्चित करती है कि एक ही नकली उपयोगकर्ता प्रोफाइल के भीतर आइटम भिन्न हों।
4. लिंग चयन नीति (Gender Selection Policy): संवेदनशील विशेषताओं को संबोधित करने के लिए, एक अलग नीति नेटवर्क प्रत्येक नकली उपयोगकर्ता प्रोफाइल के लिए लिंग (जैसे पुरुष या महिला) का निर्णय लेता है। यह निर्णय प्रोफाइल स्तर पर (प्रत्येक $M$ चरणों के बाद) प्रोफाइल के एकत्रित संरचनात्मक और अनुक्रमिक प्रतिनिधित्वों का उपयोग करके लिया जाता है।
5. सरोगेट अनुशंसा प्रणाली और प्रशिक्षण (Surrogate Recommender & Training): हमलावर एक सरोगेट मॉडल (बेयसियन पर्सनलाइज्ड रैंकिंग के साथ मैट्रिक्स फैक्टराइजेशन) का उपयोग करता है जो लक्षित प्रणाली में संभावित निष्पक्षता-जागरूक प्रशिक्षण को सिम्युलेट करने के लिए एक निष्पक्षता नियमितीकरण पद (fairness regularization term) को शामिल करता है। आइटम चयन और लिंग चयन दोनों नीतियों को अननिष्पक्षता मीट्रिक ($Unfair_F$) में वृद्धि के रूप में परिभाषित संचयी रिवॉर्ड को अधिकतम करने के लिए प्रॉक्सिमल पॉलिसी ऑप्टिमाइजेशन (PPO) का उपयोग करके संयुक्त रूप से प्रशिक्षित किया जाता है।

प्रमुख योगदान

• नवीन समस्या अन्वेषण: यह शोध पत्र विशेष रूप से अनुशंसा प्रणालियों की निष्पक्षता को लक्षित करने वाले प्रतिकूल हमलों के कम खोजे गए क्षेत्र की पहचान करता है और इसकी जांच करता है, जो ऐसी कमजोरियों के सामाजिक निहितार्थों को रेखांकित करता है।
• संरचना-जागरूक हमला विधि: पिछले RL-आधारित प्रदर्शन हमलों के विपरीत जो ग्राफ टोपोलॉजी की अनदेखी करते हैं, SRLFA एक ग्राफ एनकोडर का उपयोग करके सम्मिलित किए गए नकली इंटरैक्शन और मूल उपयोगकर्ता-आइटम ग्राफ के बीच संरचनात्मक निर्भरता को स्पष्ट रूप से मॉडल करता है।
• आइटम और विशेषताओं का संयुक्त शिक्षण: यह विधि एक पदानुक्रमित नीति पेश करती है जो एंड-टू-एंड तरीके से नकली आइटमों के चयन और संवेदनशील विशेषताओं (लिंग) के असाइनमेंट को संयुक्त रूप से सीखती है, जो निष्पक्षता हमलों की विशिष्ट आवश्यकताओं को संबोधित करती है।
• व्यापक मूल्यांकन: यह अध्ययन दो वास्तविक दुनिया के डेटासेट (MovieLens और Last.fm) पर चार लक्षित मॉडलों (NCF, LightGCN, और उनके निष्पक्षता-जागरूक वेरिएंट्स) के विरुद्ध विधि का मूल्यांकन करता है, जो विभिन्न मानक और निष्पक्षता-जागरूक परिदृश्यों में इसकी प्रभावकारिता को प्रदर्शित करता है।

प्रायोगिक परिणाम
व्यापक प्रयोगों से पता चलता है कि SRLFA अननिष्पक्षता को बढ़ाने में बेसलाइन विधियों (अनुकूलित प्रदर्शन हमलों और प्रभाव-आधारित निष्पक्षता हमलों सहित) से काफी बेहतर प्रदर्शन करता है:

• मानक अनुशंसा प्रणालियाँ: SRLFA ने विभिन्न मॉडलों और डेटासेट्स में अननिष्पक्षता मीट्रिक ($Unfair_{NDCG}$) को औसतन 297.24% तक बढ़ाया, जो बेसलाइनों से काफी बेहतर है। इसने वंचित समूहों (जैसे महिला उपयोगकर्ताओं) के लिए अनुशंसा प्रदर्शन को भी उल्लेखनीय रूप से कम किया, जिससे प्रदर्शन का अंतर बढ़ गया।
• निष्पक्षता-जागरूक अनुशंसा प्रणालियाँ: भले ही लक्षित प्रणाली निष्पक्षता-जागरूक प्रशिक्षण (नियमितीकरण) का उपयोग करती है, SRLFA सफलतापूर्वक अननिष्पक्षता को तीव्र करने में सफल रहा, जिससे निष्पक्षता-जागरूक मॉडलों पर $Unfair_{NDCG}$ में औसतन 1259.66% की वृद्धि हुई।
• मजबूती (Robustness): यह विधि तब भी प्रभावी रही जब हमलावर के पास केवल प्रशिक्षण डेटा का एक हिस्सा (जैसे 30%) उपलब्ध था।
• पैरामीटर संवेदनशीलता: हमला प्रदर्शन नकली प्रोफाइल की संख्या ($N$) और प्रति प्रोफाइल इंटरैक्शन ($M$) के प्रति संवेदनशील पाया गया, जिसमें मध्यम $N$ और $M$ के मानों पर इष्टतम परिणाम देखे गए जो औसत उपयोगकर्ता इंटरैक्शन गणना के करीब हैं।

महत्व और दावे
यह शोध पत्र तर्क देता है कि उन्नत निष्पक्षता हमले एल्गोरिदम का विकास अनुशंसा प्रणालियों के "रेड-टीमिंंग" (red-teaming) के लिए एक पूर्व शर्त है। लेखकों का कहना है कि आक्रामक हमले के सिमुलेशन के बिना, निष्पक्षता तंत्र की मजबूती को काफी कम करके आंका जा सकता है, जिससे सुरक्षा की झूठी भावना पैदा हो सकती है। यह प्रदर्शित करके कि निष्पक्षता-जागरूक प्रणालियाँ अभी भी संरचनात्मक और विशेषता-आधारित प्रतिकूल इंजेक्शन के प्रति संवेदनशील हैं, यह शोध पत्र सक्रिय भेद्यता पहचान और अधिक लचीली निष्पक्षता शमन रणनीतियों के विकास की महत्वपूर्ण आवश्यकता को रेखांकित करता है। यह कार्य अनुशंसा निष्पक्षता की विशिष्ट कमजोरियों को समझने की दिशा में एक आधारभूत कदम के रूप में कार्य करता है।