Human, Algorithm, or Both? Gender Bias in Human-Augmented Recruiting
यह अध्ययन अनुभवजन्य रूप से यह प्रदर्शित करता है कि जबकि मानव भर्तीकर्ता केवल एआई-आधारित प्रणालियों की तुलना में अधिक लिंग-तटस्थ होते हैं, एक हाइब्रिड दृष्टिकोण जहाँ मनुष्य मैन्युअल रूप से खोजने से पहले एआई-अनुशंसित उम्मीदवारों की समीक्षा करते हैं, समग्र रूप से सबसे निष्पक्ष भर्ती परिणाम उत्पन्न करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपनी कंपनी के लिए एक नया कर्मचारी रख रहे हैं। सही व्यक्ति को खोजने के आपके पास तीन तरीके हैं:
- पुराने स्कूल का जासूस (The Old School Detective): आप रेज़्यूमे के एक विशाल ढेर को मैन्युअल रूप से छानते हैं और हर एक को खुद पढ़ते हैं।
- रोबोट सहायक (The Robot Assistant): आप एक स्मार्ट कंप्यूटर प्रोग्राम से ढेर को स्कैन करने और उन शीर्ष 100 नामों को देने के लिए कहते हैं जिन्हें वह एकदम सही समझता है।
- ड्रीम टीम (The Dream Team): आप रोबोट सहायक को पहले एक शॉर्टलिस्ट देने देते हैं, और फिर आप उस सूची की समीक्षा करने और अपने दम पर कुछ और लोगों को खोजने के लिए अपने स्वयं के निर्णय का उपयोग करते हैं।
यह शोध पत्र यह देखने के लिए एक वास्तविक दुनिया का प्रयोग है कि इनमें से कौन सा तरीका लिंग (gender) के मामले में सबसे निष्पक्ष (fair) है: विशेष रूप से, क्या कोई तरीका अनजाने में पुरुषों या महिलाओं में से किसी एक का पक्ष लेता है?
यहाँ बताया गया है कि शोधकर्ताओं को क्या मिला, सरल उपमाओं (analogies) का उपयोग करते हुए।
सेटअप: एक विशाल रेज़्यूमे लाइब्रेरी
यह अध्ययन Jobindex में हुआ, जो डेनमार्क की सबसे बड़ी जॉब साइट है। उन्होंने दो वर्षों में 58,000 से अधिक जॉब पोस्टिंग और लगभग 1.3 मिलियन उम्मीदवारों को देखा।
- समस्या: वे निष्पक्षता बनाए रखने के लिए उम्मीदवारों के वास्तविक नाम या फोटो नहीं देख सके, इसलिए उन्हें उम्मीदवार के पहले नाम के आधार पर लिंग का अनुमान लगाना पड़ा। यह ऐसा है जैसे केवल बॉक्स पर लगे लेबल को देखकर यह अनुमान लगाना कि रहस्यमय बॉक्स में लाल या नीला बॉल है। उनकी अनुमान लगाने वाली मशीन 99% सटीक थी।
- लक्ष्य: यह देखना था कि जिन लोगों से रिक्रूटर्स ने वास्तव में संपर्क किया, उनकी सूची संतुलित मिश्रण (पुरुष और महिला) थी, या वह एक तरफ झुकी हुई थी।
तीन परिदृश्य और परिणाम
1. मानव जासूस (मैनुअल खोज)
उपमा: कल्पना कीजिए कि एक लाइब्रेरियन को बिना कंप्यूटर के एक विशाल लाइब्रेरी में किताबें ढूंढनी हैं। वे गलियारों में घूमते हैं, किताबें उठाते हैं, और तय करते हैं कि उन्हें किसकी सिफारिश करनी है।
परिणाम: जब रिक्रूटर्स ने मैन्युअल रूप से खोज की, तो उन्होंने अच्छा काम किया, लेकिन उनमें अभी भी थोड़ा पूर्वाग्रह (bias) था। वे पुरुषों को अधिक "क्लिक" करने और उनसे संपर्क करने की ओर झुके हुए थे। हालाँकि, जितना अधिक समय उन्होंने सोचने और समीक्षा करने में बिताया, उनकी सूची उतनी ही निष्पक्ष होती गई। यह एक शेफ द्वारा सूप को बार-बार चखने जैसा था; वे जितनी बार जांच करते, संतुलन उतना ही बेहतर होता जाता।
2. रोबोट सहायक (केवल AI)
उपमा: कल्पना कीजिए कि एक रोबोट ने लाइब्रेरी की हर किताब पढ़ ली है लेकिन अतीत से सीखा है। यदि अतीत पक्षपाती था (उदाहरण के लिए, अतीत में कुछ नौकरियों के लिए ज्यादातर पुरुषों को ही चुना जाता था), तो रोबोट सोच सकता है, "ओह, पुरुष सबसे अच्छे फिट हैं!" और पुरुषों का सुझाव देना जारी रख सकता है।
परिणाम: AI वास्तव में मानव से कम निष्पक्ष था। इसने लगातार महिलाओं के कम सुझाव दिए। ऐसा संभवतः इसलिए है क्योंकि AI को पुराने डेटा पर प्रशिक्षित किया गया था जहाँ मानव रिक्रूटर्स पहले से ही पक्षपाती थे। रोबोट बस अतीत की गलतियों की नकल कर रहा था।
3. ड्रीम टीम (मानव + AI)
उपमा: यही असली जादू है। कल्पना कीजिए कि रोबोट आपको 100 उम्मीदवारों की एक शॉर्टलिस्ट देता है। आप उसे देखते हैं, और फिर आप खुद कुछ और लोगों को खोजने के लिए वापस लाइब्रेरी में जाते हैं।
परिणाम: यह विजेता था। AI और मानव के संयोजन ने सबसे निष्पक्ष सूचियाँ बनाईं।
- क्यों? यह केवल "AI + मानव = अच्छा" नहीं था। यह अधिक "AI + मानव = बहुत अच्छा" जैसा था।
- "प्रेरणा" प्रभाव (The Inspiration Effect): जब रिक्रूटर्स ने पहले AI की सूची देखी, तो ऐसा लगा जैसे इसने उन्हें "जगा" दिया। भले ही AI की सूची पक्षपाती थी, उसे देखने से रिक्रूटर्स अधिक जागरूक हो गए। जब वे AI सूची देखने के बाद मैन्युअल रूप से खोज करने के लिए वापस गए, तो उन्होंने पुरुषों और महिलाओं का बहुत अधिक संतुलित मिश्रण पाया, जो कि मैन्युअल रूप से शुरू करने की तुलना में कहीं बेहतर था।
बड़ा निष्कर्ष: "अपने हिस्सों के योग से भी अधिक"
सबसे आश्चर्यजनक खोज यह है कि मानव + AI अकेले किसी के भी होने से बेहतर है।
इसे एक GPS और एक स्थानीय ड्राइवर की तरह सोचें।
- यदि आप केवल GPS (AI) का उपयोग करते हैं, तो आप ट्रैफिक जाम में फंस सकते हैं क्योंकि मैप पुराना है।
- यदि आप केवल स्थानीय ड्राइवर (मानव) का उपयोग करते हैं, तो वे उस शॉर्टकट का उपयोग कर सकते हैं जिसे वे जानते हैं, लेकिन वे एक बेहतर रास्ता मिस कर सकते हैं जिसे उन्होंने लंबे समय से नहीं देखा है।
- यदि आप दोनों का उपयोग करते हैं, तो GPS आपको बड़ा चित्र देता है, और ड्राइवर वर्तमान वास्तविकता के आधार पर समायोजन करता है। परिणाम एक सुचारू, अधिक निष्पक्ष यात्रा है।
इस अध्ययन में, AI ने रिक्रूटर्स को एक "धक्का" (nudge) दिया। भले ही AI के सुझाव पूर्ण नहीं थे, उन्हें देखने से इंसान अधिक विचारशील और सावधान हो गए, जिससे अंततः एक अधिक विविध समूह मिला।
अन्य दिलचस्प बातें
- नौकरी के प्रकार मायने रखते हैं: उन नौकरियों में जो आमतौर पर महिलाओं के वर्चस्व वाली होती हैं (जैसे चाइल्डकेयर), रिक्रूटर्स ने डेटाबेस के सुझाव से अधिक पुरुषों से संपर्क किया। उन नौकरियों में जो पुरुषों के वर्चस्व वाली होती हैं (जैसे प्लंबिंग), उन्होंने अधिक महिलाओं से संपर्क किया। ऐसा लगता है कि रिक्रूटर्स विशेष क्षेत्रों में लिंग असंतुलन को "ठीक" करने की कोशिश कर रहे हैं।
- निष्पक्षता गुणवत्ता को नुकसान नहीं पहुँचाती: शोधकर्ताओं ने जांचा कि क्या निष्पक्ष होने का मतलब "खराब" उम्मीदवारों को चुनना था। उन्होंने पाया कि निष्पक्ष होने से सफलता दर पर कोई बुरा असर नहीं पड़ा। लिंग संतुलन की परवाह किए बिना, जिन लोगों से संपर्क किया गया, उन्होंने नौकरी के प्रस्तावों पर समान दर से सकारात्मक प्रतिक्रिया दी।
निचोड़ (The Bottom Line)
यदि आप निष्पक्ष रूप से भर्ती करना चाहते हैं, तो केवल रोबोट पर भरोसा न करें, और केवल मानव पर भी भरोसा न करें। शुरुआत करने के लिए रोबोट का उपयोग करें, लेकिन अंतिम निर्णय लेने के लिए मानव को प्रक्रिया में शामिल रखें। यह संयोजन मशीन और मानव दोनों के पूर्वाग्रहों को पकड़ने के लिए एक सुरक्षा जाल बनाता है, जिससे बहुत अधिक निष्पक्ष भर्ती प्रक्रिया का निर्माण होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।