When Computational Fairness Is Not Enough: Explaining the Gap Between Algorithmic Fairness and Organizational Justice from a Business Ethics Perspective
यह वैचारिक अध्ययन एक व्यावसायिक नैतिकता ढांचे का प्रस्ताव करता है जो यह समझाने के लिए है कि तकनीकी रूप से निष्पक्ष एआई (AI) प्रणालियाँ संगठनात्मक न्याय की धारणाओं को बढ़ावा देने में विफल क्यों हो सकती हैं, और यह तर्क देता है कि एल्गोरिदम की निष्पक्षता और कर्मचारी विश्वास के बीच के अंतर को पाटने के लिए पारदर्शिता, मानवीय निरीक्षण और नैतिक शासन जैसे कारक आवश्यक हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक कार्यस्थल में, एक शांत क्रांति जारी है। कंपनियाँ भर्ती, पदोन्नति और प्रदर्शन समीक्षा के बारे में निर्णय लेने के लिए तेजी से आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) की ओर मुड़ रही हैं। इन प्रणालियों का वादा पूर्ण निरंतरता की एक ऐसी दुनिया है, जहाँ प्रत्येक कर्मचारी को समान सख्त नियमों के आधार पर आंका जाता है, जो उस थकान या पूर्वाग्रह से मुक्त होता है जो मानव प्रबंधकों को प्रभावित कर सकता है। यह सुनिश्चित करने के लिए कि ये मशीनें सही काम करें, कंप्यूटर वैज्ञानिकों ने वर्षों तक "एल्गोरिद्मिक निष्पक्षता" (algorithmic fairness) विकसित करने में बिताया है। यह एक तकनीकी अवधारणा है, गणित की जाँच करने का एक तरीका ताकि यह सुनिश्चित किया जा सके कि कंप्यूटर नस्ल, लिंग या आयु के आधार पर व्यवस्थित रूप से किसी एक समूह का पक्ष न ले। यह एक आवश्यक कदम है, लेकिन यह निष्पक्षता को विशुद्ध रूप से एक गणितीय समस्या के रूप में देखता है, जिसे बेहतर कोड और स्वच्छ डेटा द्वारा हल किया जा सकता है।
हालाँकि, जो लोग वास्तव में इन निर्णयों से गुजर रहे हैं, वे कंप्यूटर नहीं हैं। वे मनुष्य हैं जो निष्पक्षता का निर्णय केवल अंतिम संख्या से नहीं, बल्कि इस बात से करते हैं कि प्रक्रिया के दौरान उनके साथ कैसा व्यवहार किया गया। वे इस बात की परवाह करते हैं कि क्या वे समझ सकते हैं कि कोई निर्णय क्यों लिया गया, क्या उनके पास बोलने का अवसर है यदि कुछ गलत हो जाता है, और क्या परिणाम के लिए अंततः कोई वास्तविक व्यक्ति जिम्मेदार है। यह "संगठनात्मक न्याय" (organizational justice) का क्षेत्र है, जो व्यावसायिक नैतिकता से जुड़ी एक अवधारणा है जो निष्पक्षता के मानवीय अनुभव पर नज़र रखती है। लंबे समय तक, विशेषज्ञों ने माना कि यदि गणित निष्पक्ष था, तो लोग भी इसे निष्पक्ष महसूस करेंगे। लेकिन एक नया दृष्टिकोण सुझाव देता है कि यह धारणा खतरनाक रूप से अपूर्ण है।
ईरान के तकनीकी और व्यावसायिक प्रशिक्षण संगठन के एक प्रशिक्षक, सैयद जलालदीन होसेनी का एक हालिया वैचारिक अध्ययन इस विचार को चुनौती देता है कि एक गणितीय रूप से पूर्ण एल्गोरिदम स्वतः ही एक निष्पक्ष कार्यस्थल बना देता है। यह शोध पत्र किसी विशिष्ट कंपनी से नया डेटा या कोई नया सॉफ्टवेयर टूल प्रस्तुत नहीं करता है। इसके बजाय, यह कंप्यूटर विज्ञान, व्यावसायिक नैतिकता और संगठनात्मक मनोविज्ञान के मौजूदा शोध को बुनकर एक सैद्धांतिक ढांचा तैयार करता है। लेखक का तर्क है कि कंप्यूटर द्वारा गणना की गई निष्पक्षता और कर्मचारियों द्वारा वास्तव में महसूस की गई न्यायप्रियता के बीच एक महत्वपूर्ण अंतर है। यह अंतर, जिसे शोध पत्र "नैतिक अंतराल" (Ethical Gap) कहता है, इसलिए मौजूद है क्योंकि संगठन अक्सर एल्गोरिदम की तकनीकी गुणवत्ता पर पूरी तरह से ध्यान केंद्रित करते हैं और उन मानवीय प्रणालियों की उपेक्षा करते हैं जो इसके चारों ओर होती हैं।
अध्ययन बताता है कि एक एल्गोरिदम सांख्यिकीय रूप से निष्पक्ष हो सकता है और फिर भी उन लोगों के लिए गहरा अन्यायपूर्ण महसूस हो सकता है जो इससे प्रभावित होते हैं। कल्पना कीजिए कि एक भर्ती प्रणाली जो अपने डेटा में भेदभाव से पूरी तरह बचती है, लेकिन एक "ब्लैक बॉक्स" के रूप में कार्य करती है, जो यह कोई स्पष्टीकरण नहीं देती कि किसी उम्मीदवार को क्यों खारिज किया गया और उनके निर्णय के विरुद्ध अपील करने का कोई तरीका प्रदान नहीं करती है। इस परिदृश्य में, गणित साफ है, लेकिन अनुभव अलगाववादी है। लेखक का प्रस्ताव है कि एक संगठन को वास्तव में न्यायपूर्ण होने के लिए, केवल कोड को ठीक करना पर्याप्त नहीं है। उसे नैतिक शासन (ethical governance) का एक तंत्र बनाना चाहिए। इसमें पारदर्शिता सुनिश्चित करना शामिल है ताकि लोग जान सकें कि निर्णय कैसे लिए जाते हैं, स्पष्ट स्पष्टीकरण प्रदान करना, मानवीय निरीक्षण बनाए रखना ताकि कोई व्यक्ति हस्तक्षेप कर सके, और कर्मचारियों को अपनी चिंताओं को व्यक्त करने के वास्तविक अवसर प्रदान करना शामिल है।
यह पत्र यह समझाने के लिए एक विशिष्ट मॉडल पेश करता है कि ये कारक कैसे परस्पर क्रिया करते हैं। यह प्रतिपादित करता है कि नैतिक शासन एक सेतु, या एक अनुवाद तंत्र के रूप में कार्य करता है, जो एक तकनीकी रूप से निष्पक्ष आउटपुट को संगठनात्मक न्याय की भावना में बदल देता है। इस सेतु के बिना, सबसे उन्नत एआई भी विश्वास को कम कर सकता है। अध्ययन उदाहरणों को समझाने के लिए चार संभावित परिदृश्य रेखांकित करता है। सबसे अच्छा परिणाम "संरेखित वैधता" (Aligned Legitimacy) है, जहाँ गणित निष्पक्ष है और लोग इसे निष्पक्ष महसूस करते हैं। लेखक के अनुसार सबसे सामान्य विफलता "वैधता की कमी" (Legitimacy Deficit) है, जहाँ गणित निष्पक्ष है लेकिन लोग अन्यायपूर्ण महसूस करते हैं क्योंकि प्रक्रिया में पारदर्शिता या जवाबदेही की कमी है। एक खतरनाक परिदृश्य भी है जिसे "मिथ्या वैधता" (False Legitimacy) कहा जाता है, जहाँ लोग केवल इसलिए चीजों को निष्पक्ष महसूस करते हैं क्योंकि वे प्रणाली में छिपे हुए पूर्वाग्रह को नहीं समझते हैं। अंत में, "प्रकट अन्याय" (Manifest Injustice) है, जहाँ गणित और भावनाएं दोनों गलत हैं।
होसेनी का कार्य सुझाव देता है कि समाधान आर्टिफिशियल इंटेलिजेंस को छोड़ना नहीं है, बल्कि इसके शासन के तरीके को बदलना है। शोध पत्र का तर्क है कि संगठनों को केवल यह पूछना बंद कर देना चाहिए कि, "क्या एल्गोरिदम निष्पक्ष है?" और यह पूछना शुरू करना चाहिए कि, "क्या संगठन निष्पक्ष है जब वह एल्गोरिदम का शासन करता है?" यह बदलाव जिम्मेदारी को स्वयं कोड से हटाकर उसे प्रबंधित करने वाले लोगों और नीतियों पर ले आता है। अध्ययन इस बात पर प्रकाश डालता है कि जैसे-जैसे एआई उच्च-दांव वाले निर्णयों, जैसे कि किसी को नौकरी से निकालना या पदोन्नति से वंचित करना, अधिक संभाल रहा है, इन नैतिक सुरक्षा उपायों की आवश्यकता और भी महत्वपूर्ण हो जाती है। यदि कोई संगठन किसी जीवन-परिवर्तक निर्णय के लिए मशीन पर निर्भर रहता है और समीक्षा या स्पष्टीकरण के लिए मानवीय मार्ग प्रदान नहीं करता है, तो वह अपने कार्यबल के विश्वास और प्रतिबद्धता को खोने का जोखिम उठाता है, चाहे मशीन की गणना कितनी भी सटीक क्यों न हो।
अंततः, शोध पत्र निष्कर्ष निकालता है कि तकनीकी सटीकता निष्पक्षता के लिए एक आवश्यक शर्त है, लेकिन यह अपने आप में पर्याप्त नहीं है। वास्तविक संगठनात्मक न्याय एक अच्छी तरह से डिज़ाइन किए गए एल्गोरिदम और एक अच्छी तरह से डिज़ाइन की गई मानवीय प्रक्रिया के संयोजन से उभरता है। इसके लिए एक ऐसी संस्कृति की आवश्यकता है जहाँ कर्मचारी सम्मानित, सूचित और समर्थित महसूस करें। लेखक का सुझाव है कि भविष्य के शोध को इन विचारों को वास्तविक दुनिया के परिवेश में परीक्षण करना चाहिए ताकि यह देखा जा सके कि विभिन्न उद्योग और संस्कृतियाँ इन नैतिक अंतरालों के प्रति कैसी प्रतिक्रिया देते हैं। फिलहाल, संदेश स्पष्ट है: काम के निष्पक्ष भविष्य के निर्माण के लिए केवल बेहतर सॉफ्टवेयर की ही नहीं, बल्कि उन मानवीय मूल्यों के प्रति प्रतिबद्धता की भी आवश्यकता है जिन्हें सॉफ्टवेयर अपने आप नहीं निकाल सकता।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।