Fairness-in-the-Workflow: How Machine Learning Practitioners at Big Tech Companies Approach Fairness in Recommender Systems
बड़ी प्रौद्योगिकी कंपनियों के 11 विशेषज्ञों के साथ साक्षात्कार के माध्यम से, यह शोध पत्र अनुशंसा प्रणालियों (recommender systems) में निष्पक्षता को एकीकृत करने की कार्यप्रवाह (workflow) का मानचित्रण करता है, जो निष्पक्षता को परिभाषित करने, हितधारकों के हितों को संतुलित करने और क्रॉस-टीम सहयोग को सुगम बनाने जैसी प्रमुख तकनीकी और संगठनात्मक चुनौतियों की पहचान करता है, साथ ही समुदाय के लिए व्यावहारिक सिफारिशें भी प्रस्तुत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, हलचल भरे डिजिटल बाज़ार के माध्यम से घूम रहे हैं। यह केवल कोई साधारण बाज़ार नहीं है; इसे विशाल, अदृश्य दुकानदार (अनुशंसा प्रणाली/Recommender Systems) चलाते हैं जो यह तय करते हैं कि आपको क्या दिखाई देता है, आप क्या खरीदते हैं, और आप किन विचारों का सामना करते हैं। यही कारण है कि आप अमेज़न पर जूतों की एक विशिष्ट जोड़ी देखते हैं या सोशल मीडिया पर एक विशिष्ट राजनीतिक वीडियो देखते हैं।
समस्या क्या है? ये अदृश्य दुकानदार पक्षपाती हो सकते हैं। वे अनजाने में किसी एक समूह का दूसरे समूह पर अधिक पक्षपात कर सकते हैं, या कुछ विचारों को इतनी ज़ोर से बढ़ावा दे सकते हैं कि वे वास्तविकता को विकृत कर दें।
यह शोध पत्र एक पर्दे के पीछे का वृत्तचित्र (documentary) है जिसमें उन 11 वास्तविक इंजीनियरों और वैज्ञानिकों ("मैकेनिकों") को दिखाया गया है जो इन विशाल तकनीकी कंपनियों में इन डिजिटल बाज़ारों का निर्माण और रखरखाव करते हैं। शोधकर्ताओं ने उनसे पूछा: "आप यह सुनिश्चित करने की कोशिश कैसे करते हैं कि आपकी मशीनें निष्पक्ष हों, और यह इतना कठिन क्यों है?"
यहाँ उनके निष्कर्षों की कहानी है, जिसे सरल रूप में समझाया गया है:
1. काम: एक निष्पक्ष मशीन बनाना
एक अनुशंसा प्रणाली (recommender system) बनाने को एक विशाल, जटिल स्टू (stew) पकाने की तरह समझें।
- सामग्री (डेटा): आपको उपयोगकर्ताओं और उत्पादों के बारे में डेटा की आवश्यकता होती है।
- नुस्खा (मॉडल): आप उन्हें कैसे मिलाना है, यह तय करने के लिए कोड लिखते हैं।
- स्वाद परीक्षण (निष्पक्षता): आपको यह सुनिश्चित करना होगा कि स्टू सभी के लिए स्वादिष्ट हो, न कि केवल उन लोगों के लिए जो आमतौर पर इसे खाते हैं।
शोधकर्ताओं ने पाया कि इन मैकेनिकों का एक विशिष्ट वर्कफ़्लो होता है। इसकी शुरुआत एक शांत रसोई (ऑफलाइन डेवलपमेंट) से होती है जहाँ वे सामग्री इकट्ठा करते हैं और नुस्खे लिखते हैं। फिर, वे स्टू को जनता को परोसते हैं (ऑनलाइन डेवलपमेंट) और देखते हैं कि लोग इस पर कैसी प्रतिक्रिया देते हैं।
2. तीन बड़ी बाधाएं (तकनीकी चुनौतियाँ)
बाधा अ: "निष्पक्ष" को परिभाषित करना "स्वादिष्ट" को परिभाषित करने जैसा है
स्कूल में, आप सीखते हैं कि "निष्पक्ष" होने का अर्थ है कि सभी को केक का एक ही आकार का टुकड़ा मिले। लेकिन वास्तविक दुनिया में, यह अधिक जटिल है।
- समस्या: यदि आपके पास एक डेटिंग ऐप है, तो क्या यह निष्पक्ष है कि सभी को समान संख्या में प्रोफाइल दिखाए जाएं? या क्या यह निष्पक्ष है कि लोगों को वे प्रोफाइल दिखाए जाएं जिनसे उनके मिलने की वास्तव में संभावना है?
- रूपक: कल्पना कीजिए कि आप एक शेफ हैं। एक ग्राहक कहता है, "मुझे तीखा व्यंजन चाहिए।" दूसरा कहता है, "मुझे मीठा व्यंजन चाहिए।" यदि आप व्यंजन को "निष्पक्ष" बनाने के लिए उसे "हल्का" बना देते हैं, तो आप दोनों को परेशान कर सकते हैं। मैकेनिक इसलिए संघर्ष करते हैं क्योंकि हर स्थिति में "निष्पक्ष" होने का कोई एकल नियम नहीं है। उन्हें अक्सर चलते-फिरते अपने स्वयं के नियम बनाने पड़ते हैं।
बाधा ब: "बहुत अधिक रसोइयों" की समस्या
अनुशंसा प्रणालियाँ मुख्य रूप से दो समूहों की सेवा करती हैं: उपयोगकर्ता (स्क्रॉल करने वाले लोग) और प्रदाता (विक्रेता, निर्माता, विज्ञापनदाता)।
- समस्या: जो उपयोगकर्ता के लिए निष्पक्ष है, वह निर्माता के लिए अनुचित हो सकता है, और इसके विपरीत भी।
- रूपक: एक ट्रैफिक लाइट की कल्पना करें। यदि आप पैदल यात्रियों (उपयोगकर्ताओं) के लिए लाइट को लंबे समय तक हरा रखते हैं, तो कारें (निर्माताओं) फंस जाती हैं और अपना सामान नहीं पहुँचा पातीं। मैकेनिकों को इन प्रतिस्पर्धी हितों को लगातार संतुलित करना पड़ता है। कभी-कभी, उन्हें चुनना पड़ता है कि किसे "हरी बत्ती" मिलेगी, और यह निर्णय लेना वास्तव में एक कठिन कार्य है।
बाधा स: "बदलता लक्ष्य"
एक स्थिर पुल के विपरीत, एक अनुशंसा प्रणाली बदलती रहती है क्योंकि लोग इसका उपयोग कैसे करते हैं।
- समस्या: यदि सिस्टम आपको एक ऐसा वीडियो दिखाता है जो आपको पसंद है, तो आप उस पर क्लिक करते हैं। सिस्टम सोचता है, "ओह, उन्हें यह बहुत पसंद है!" और आपको अधिक ऐसा ही कंटेंट दिखाता है। जल्द ही, आप एक बुलबुले (bubble) में फंस जाते हैं, जहाँ आप केवल एक ही प्रकार की सामग्री देख पाते हैं। इसे फीडबैक लूप (Feedback Loop) कहा जाता है।
- रूपक: यह एक पहाड़ी से लुढ़कते हुए हिमखंड (snowball) की तरह है। यह छोटा शुरू होता है, लेकिन जैसे-जैसे यह लुढ़कता है, यह और अधिक बर्फ (डेटा) इकट्ठा करता है और विशाल हो जाता है। जब तक मैकेनिकों को पता चलता है कि हिमखंड बहुत बड़ा हो गया है और गलत दिशा में जा रहा है, तब तक इसे रोकना बहुत कठिन होता है। उन्हें अक्सर इन समस्याओं को देखने के लिए लाइव होने तक प्रतीक्षा करनी पड़ती है, जो कि 100 मील प्रति घंटे की रफ्तार से कार चलाते समय कार को ठीक करने की कोशिश करने जैसा है।
3. कार्यालय की राजनीति (संगठनात्मक चुनौतियाँ)
चुनौती अ: "समय की कमी" का संकट
मैकेनिकों पर सिस्टम को तेज़ और लाभदायक बनाए रखने का भारी दबाव होता है।
- रूपक: कल्पना कीजिए कि आप एक व्यस्त गैरेज में मैकेनिक हैं। बॉस कहता है, "इंजन को ठीक करो ताकि कार तेज़ चले!" आप भी कहना चाहते हैं, "अरे, आइए यह भी सुनिश्चित करें कि सभी के लिए ब्रेक सुरक्षित हों।" लेकिन बॉस कहता है, "आज सुरक्षा जाँच के लिए हमारे पास समय नहीं है; हमें कारों को बाहर निकालना है।"
- वास्तविकता: मैकेनिकों ने बताया कि वे निष्पक्षता पर अपना 10% से भी कम समय खर्च करते हैं। ऐसा नहीं है कि उन्हें परवाह नहीं है; बात यह है कि "निष्पक्षता" को आपात स्थिति के रूप में नहीं देखा जाता है, इसलिए इसे कार्यों की सूची में सबसे नीचे धकेल दिया जाता है।
चुनौती ब: "भाषा की बाधा"
मैकेनिक दो अन्य टीमों के साथ बात करते हैं: वकील और निष्पक्षता विशेषज्ञ (Fairness Experts)।
- वकील: वे एक स्पष्ट भाषा बोलते हैं: "आप इस डेटा का उपयोग नहीं कर सकते, अन्यथा आप पर मुकदमा चलाया जाएगा।" मैकेनिकों को यह पसंद है क्योंकि नियम स्पष्ट और काले-सफेद हैं।
- निष्पक्षता विशेषज्ञ: वे एक अलग भाषा बोलते हैं। वे "सामाजिक प्रभाव," "मनोवैज्ञानिक पूर्वाग्रह," और "नैतिक सूक्ष्मता" के बारे में बात करते हैं।
- रूपक: यह एक अनुवादक की तरह है जो कंप्यूटर को कविता समझाने की कोशिश कर रहा है। निष्निष्पक्षता विशेषज्ञ कहते हैं, "यह अनुचित लग रहा है।" मैकेनिक पूछते हैं, "ठीक है, लेकिन मुझे कोड की कौन सी लाइन बदलनी है?" दोनों टीमें अक्सर एक-दूसरे को समझने में संघर्ष करती हैं क्योंकि उनके पास एक समान शब्दकोश नहीं है।
4. हमें क्या करना चाहिए? (सिफारिशें)
यह शोध पत्र इसे ठीक करने के कुछ तरीके सुझाता है:
- लिखकर रखें (दस्तावेज़ीकरण): मैकेनिक अक्सर भूल जाते हैं कि उन्होंने पिछले साल क्या किया था। उन्हें बेहतर "नुस्खा पुस्तकों" की आवश्यकता है ताकि जब वे पूर्वाग्रह को ठीक करने की कोशिश करें, तो उन्हें बार- बर् बार शून्य से शुरुआत न करनी पड़े।
- जल्दी शुरुआत करें: कार बनने का इंतज़ार न करें जब तक कि ब्रेक की जाँच न हो जाए। जब रेसिपी लिखी जा रही हो, तभी रसोई में निष्पक्षता विशेषज्ञों को शामिल करें, न कि केवल भोजन परोसे जाने के समय।
- एक-दूसरे की भाषा सीखें: मैकेनिकों और निष्पक्षता विशेषज्ञों को एक-दूसरे की भाषा बोलने में सक्षम होना चाहिए। शायद निष्पक्षता विशेषज्ञों को थोड़ा कोड सीखना चाहिए, और मैकेनिकों को थोड़ा नैतिकता सीखनी चाहिए।
- उन्हें समय दें: कंपनियों को आधिकारिक रूप से मैकेनिकों को निष्पक्षता के बारे में सोचने के लिए समय देने के लिए भुगतान करना चाहिए, ठीक वैसे ही जैसे वे उन्हें सिस्टम को तेज़ बनाने के लिए भुगतान करते हैं।
निष्कर्ष
इन प्रणालियों को बनाने वाले लोग सही काम करना चाहते हैं। वे जानते हैं कि उनकी रचनाएँ समाज को आकार देती हैं। लेकिन वे एक कठिन स्थिति में फंसे हुए हैं: वे एक ऐसी दुनिया में एक पूरी तरह से निष्पक्ष मशीन बनाने की कोशिश कर रहे हैं जो अव्यवस्थित, तेज़-तर्रार और परस्पर विरोधी नियमों से भरी हुई है। उन्हें बेहतर उपकरणों, अधिक समय और एक-दूसरे से बात करने के बेहतर तरीके की आवश्यकता है ताकि डिजिटल दुनिया सभी के लिए निष्पक्ष बन सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।