Algorithmic Monocultures in Hiring
यह शोध पत्र एक ही एल्गोरिदम वेंडर द्वारा स्क्रीन किए गए 4 मिलियन जॉब एप्लिकेशन के एक नवीन डेटासेट का विश्लेषण करता है और पाता है कि ऐसे एल्गोरिद्मिक मोनोकल्चर (एकरूपता) समान प्रकार के अस्वीकृति परिणामों को जन्म देते हैं जो अश्वेत और एशियाई आवेदकों को असमान रूप से और प्रतिकूल रूप से प्रभावित करते हैं, जिससे अक्सर मानव समीक्षा सुरक्षित करने के लिए व्यापक आवेदन रणनीतियों की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Algorithmic Monocultures in Hiring" (भर्ती में एल्गोरिद्मिक मोनोकल्चर) शोध पत्र का सरल भाषा और रोजमर्रा के उदाहरणों के साथ अनुवाद दिया गया है।
मुख्य विचार: "एक ही आकार सबके लिए" वाला द्वारपाल
कल्पना कीजिए कि आप नौकरी की तलाश कर रहे हैं। अतीत में, आप शायद अपनी सीवी (resume) 20 अलग-अलग कंपनियों को भेजते। प्रत्येक कंपनी का अपना भर्ती प्रबंधक होता, अपना खुद का तरीका होता कि वह आपकी सीवी को कैसे पढ़ता है, और एक अच्छे कर्मचारी के बारे में उसकी अपनी अनूठी पसंद होती। यदि एक मैनेजर आपको पसंद नहीं करता, तो दूसरा आपको बहुत पसंद कर सकता था। आपके पास खटखटाने के लिए कई अलग-अलग दरवाजे होते थे।
हालाँकि, आज, कई कंपनियाँ अकेले भर्ती नहीं करती हैं। वे सभी एक ही "द्वारपाल" (gatekeeper) को नियुक्त करती हैं।
यह शोध पत्र pymetrics नामक एक विशिष्ट भर्ती कंपनी का अध्ययन करता है। वे ऐसा सॉफ़्टवेयर बनाते हैं जो नौकरी के आवेदकों का परीक्षण करने के लिए खेलों (games) का उपयोग करता है। सीवी पढ़ने के बजाय, यह सॉफ़्टवेयर देखता है कि आप इन खेलों को कैसे खेलते हैं और आपको एक स्कोर देता है। यदि स्कोर अधिक है, तो आप इंसान (human) के पास आगे बढ़ते हैं। यदि स्कोर कम है, तो आपको तुरंत अस्वीकार कर दिया जाता है।
समस्या क्या है? अमेरिका की 60% से अधिक बड़ी कंपनियाँ ठीक उसी एक ही द्वारपाल का उपयोग करती हैं।
लेखक इसे "एल्गोरिद्मिक मोनोकल्चर" (Algorithmic Monoculture) कहते हैं। इसे एक ऐसे बगीचे की तरह समझें जहाँ हर किसान एक ही प्रकार के बीज और एक ही तरह के पानी देने वाले बर्तन का उपयोग करता है। यदि वह बीज एक निश्चित प्रकार की मिट्टी के लिए बुरा है, तो हर किसान का बगीचा उसी तरह विफल होगा। भर्ती के मामले में, यदि एल्गोरिदम में कोई पक्षपात (bias) है, तो यह उन लोगों को हर उस कंपनी में खारिज कर देता है जहाँ वे आवेदन करते हैं।
अध्ययन: उन्होंने क्या पाया
शोधकर्ताओं को 4 मिलियन जॉब एप्लिकेशन और 156 कंपनियों के 3.3 मिलियन लोगों का एक विशाल, गुप्त डेटाबेस प्राप्त हुआ। उन्होंने देखा कि जब इन लोगों ने खेल खेले तो क्या हुआ।
यहाँ तीन मुख्य बातें दी गई हैं जो उन्होंने खोजीं:
1. नस्ल का "दुर्भाग्य" (Adverse Impact)
शोधकर्ताओं ने जाँच की कि क्या खेलों ने विभिन्न नस्लीय समूहों के साथ निष्पक्ष व्यवहार किया। उन्होंने केवल औसत देखने के बजाय, प्रत्येक नौकरी के पद के लिए अलग-अलग परिणाम देखे।
- निष्कर्ष: उन्होंने पाया कि अश्वेत (Black) आवेदकों के लिए, उनके द्वारा भेजे गए आवेदनों में से लगभग 26% ऐसी नौकरियों के लिए थे जहाँ एल्गोरिदम सांख्यिकीय रूप से उन्हें अनुचित रूप से खारिज करने की संभावना रखता था। एशियाई (Asian) आवेदकों के लिए, यह लगभग 15% था।
- उदाहरण: कल्पना कीजिए कि एक बास्केटबॉल हूप (hoop) थोड़ा झुका हुआ है। यदि आप लंबे हैं, तो भी आप शॉट लगा सकते हैं। लेकिन यदि आप एक विशिष्ट ऊंचाई के हैं, तो वह झुकाव शॉट लगाना असंभव बना देता है। शोधकर्ताओं ने पाया कि कुछ नस्लीय समूहों के लिए, एल्गोरिदम के इस "झुकाव" ने "पास" स्कोर पाना बहुत कठिन बना दिया, भले ही खेल में नस्ल के बारे में नहीं पूछा गया था।
2. "प्रणालीगत अस्वीकृति" (हर जगह ब्लैकलिस्ट होना)
यह सबसे आश्चर्यजनक हिस्सा है। लेखकों ने पूछा: क्या होता है यदि कोई व्यक्ति कई अलग-अलग नौकरियों के लिए आवेदन करता है?
एक सामान्य दुनिया में, यदि आप 10 नौकरियों के लिए आवेदन करते हैं, तो हो सकता है कि आपको 8 में अस्वीकार कर दिया जाए और 2 में स्वीकार कर लिया जाए। आपके पास एक मौका होता है। लेकिन क्योंकि इतनी सारी कंपनियाँ एक ही एल्गोरिदम का उपयोग करती हैं, इसलिए परिणाम बिल्कुल एक जैसे होते हैं।
- निष्कर्ष: यदि कोई आवेदक 10 अलग-अलग पदों के लिए आवेदन करता है, तो उनमें से 4% को सभी 10 में से अस्वीकार कर दिया जाता है।
- उदाहरण: कल्पना कीजिए कि आप एक संगीतकार हैं जो किसी बैंड में काम पाने की कोशिश कर रहे हैं। आप 10 अलग-अलग बैंड्स के लिए बजाते हैं।
- सामान्य दुनिया: बैंड A आपकी शैली को नापसंद करता है, लेकिन बैंड B उसे पसंद करता है। आपको नौकरी मिल जाती है।
- मोनोकल्चर दुनिया: सभी 10 बैंड एक ही "म्यूजिक जज" रोबोट का उपयोग करते हैं। रोबोट तय करता है कि आप फिट नहीं हैं। आपको तुरंत सभी 10 बैंड्स द्वारा अस्वीकार कर दिया जाता है। आप "प्रणालीगत रूप से अस्वीकृत" (systemically rejected) हैं। आप केवल बदकिस्मत नहीं हैं; सिस्टम ने आपके लिए एक ही समय में हर दरवाजा बंद कर दिया है।
शोधकर्ताओं ने पाया कि यह "सब या कुछ नहीं" वाली अस्वीकृति बहुत अधिक बार होती है, बजाय इसके कि यदि प्रत्येक कंपनी अपना स्वतंत्र निर्णय ले रही होती।
3. "सुपर-एप्लिकेंट" सिमुलेशन
शोधकर्ताओं ने जानना चाहा: क्या आवेदक अधिक नौकरियों के लिए आवेदन करके इस समस्या को ठीक कर सकते हैं?
उन्होंने "क्या-होगा" (what-if) परिदृश्यों को चलाने की कंप्यूटर की क्षमता का उपयोग किया। उन्होंने सिम्युलेट किया कि क्या होगा यदि कोई आवेदक डेटाबेस में उपलब्ध हर एक नौकरी के लिए आवेदन करता है।
- निष्कर्ष: इस चरम सिमुलेशन में भी, कोई भी व्यक्ति हर एक मॉडल द्वारा खारिज नहीं किया गया। हर किसी के पास कम से कम एक ऐसी नौकरी थी जहाँ उन्हें अनुशंसित (recommended) किया गया था।
- वास्तविकता की जाँच: हालाँकि, वास्तविक दुनिया में, लोग हर नौकरी के लिए आवेदन नहीं कर सकते। उन्हें चयनात्मक होना पड़ता है। सिमुलेशन ने दिखाया कि यदि किसी व्यक्ति को कम से कम एक सिफारिश पाने की 99.9% संभावना चाहिए, तो उसे 25 अलग-अलग पदों के लिए आवेदन करना होगा।
- उदाहरण: इस प्रणाली में एक एकल "हाँ" खोजने के लिए, आपको 25 दरवाजे खटखटाने होंगे। एक सामान्य प्रणाली में, आपको शायद केवल 10 दरवाजे खटखटाने की आवश्यकता होती। एल्गोरिद्मिक मोनोकल्चर एक व्यक्ति को केवल एक मौका पाने के लिए बहुत अधिक मेहनत करने के लिए मजबूर करता है।
यह क्यों मायने रखता है
यह शोध पत्र तर्क देता है कि जब कई कंपनियाँ भर्ती के लिए समान कुछ वेंडरों (vendors) पर निर्भर होती हैं, तो वे एक अवरोध (bottleneck) पैदा करती हैं।
- यह पक्षपात को छिपा देता है: यदि आप सभी कंपनियों के औसत को देखते हैं, तो संख्याएँ ठीक लग सकती हैं। लेकिन जब आप विशिष्ट नौकरियों को देखते हैं, तो पक्षपात स्पष्ट हो जाता है।
- यह "डेड एंड" (बंद रास्ता) बनाता है: यह केवल यह नहीं है कि आपको एक नौकरी नहीं मिल सकती; बल्कि यह है कि आप पूरे श्रम बाजार से बाहर हो सकते हैं क्योंकि एक ही एल्गोरिदम ने आपको हर जगह खारिज कर दिया है।
- इसे ठीक करना कठिन है: क्योंकि यह डेटा इन निजी कंपनियों के भीतर छिपा हुआ है, इसलिए शोधकर्ताओं या नियामकों के लिए यह देखना बहुत कठिन है कि यह कब हो रहा है।
लेखकों के सुझाव
पेपर इसे ठीक करने के कुछ तरीके सुझाता है:
- प्रत्येक नौकरी की जाँच करें, न कि केवल औसत की: नियामकों को यह देखना चाहिए कि एल्गोरिदम प्रत्येक विशिष्ट नौकरी के लिए लोगों के साथ कैसा व्यवहार करता है, न कि केवल पूरी कंपनी में कुल नियुक्तियों की संख्या।
- "मोनोकल्चर" पर नज़र रखें: एजेंसियों को यह निगरानी करनी चाहिए कि कितने अधिक कंपनियाँ एक ही वेंडर का उपयोग कर रही हैं। यदि बहुत अधिक कंपनियाँ एक ही टूल पर निर्भर हैं, तो यह पूरी अर्थव्यवस्था के लिए जोखिम पैदा करता है।
- शोधकर्ताओं को प्रवेश दें: यह जानने का एकमात्र तरीका कि ये सिस्टम निष्पक्ष हैं या नहीं, वह यह है कि स्वतंत्र वैज्ञानिकों को डेटा देखने की अनुमति दी जाए। लेखक सुझाव देते हैं कि कानूनों को इन कंपनियों को शोधकर्ताओं के साथ डेटा साझा करने के लिए मजबूर करना चाहिए, जैसा कि अब सोशल मीडिया प्लेटफॉर्म्स को वैज्ञानिकों के साथ डेटा साझा करने के लिए कहा जा रहा है।
सारांश
यह शोध पत्र प्रकट करता है कि एक ही "भर्ती रोबोट" का उपयोग करके, कंपनियों ने अनजाने में एक ऐसी प्रणाली बना दी है जहाँ एक ही लोग हर उस जगह से खारिज कर दिए जाते हैं जहाँ वे आवेदन करते हैं। यह शहर के हर क्लब में एक ही पक्षपाती बाउंसर होने जैसा है; यदि वह आपको अंदर जाने से रोकता है, तो आप किसी भी क्लब में नहीं जा सकते, चाहे आप कितने भी प्रयास क्यों न करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।