Fairness Across Fields: Comparing Software Engineering and Human Sciences Perspectives
यह शोध पत्र निष्पक्षता पर सॉफ्टवेयर इंजीनियरिंग और मानव विज्ञान के दृष्टिकोणों की तुलना करता है, जो यह प्रकट करता है कि जहाँ पूर्व औपचारिक सांख्यिकीय मेट्रिक्स पर निर्भर करता है, वहीं उत्तर संरचनात्मक असमानताओं की एक अधिक सूक्ष्म, ऐतिहासिक रूप से स्थित समझ प्रस्तुत करता है जो नैतिक तकनीकी विकास को महत्वपूर्ण रूप से बढ़ा सकती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "फेयरनेस अक्रॉस फील्ड्स" (Fairness Across Fields) पेपर का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
बड़ी तस्वीर: एक ही क्षेत्र के लिए दो अलग-अलग मानचित्र
कल्पना कीजिए कि निष्पक्षता (Fairness) एक विशाल, जटिल शहर है। हम इस शहर में लोगों को लाने-ले जाने के लिए एक नया परिवहन तंत्र (आर्टिफिशियल इंटेलिजेंस) बनाना चाहते हैं। लक्ष्य यह सुनिश्चित करना है कि हर किसी को एक निष्पक्ष सवारी मिले।
समस्या यह है कि दो अलग-अलग समूहों के विशेषज्ञ इस प्रणाली को डिजाइन करने की कोशिश कर रहे हैं, और वे इस शहर को पूरी तरह से अलग-अलग मानचित्रों के माध्यम से देख रहे हैं:
- सॉफ्टवेयर इंजीनियर शहर को एक गणितीय ब्लूप्रिंट (Mathematical Blueprint) के माध्यम से देख रहे हैं। उन्हें संख्याओं, ट्रैफिक के प्रवाह और बसों की दक्षता की परवाह है।
- मानव वैज्ञानिक (समाजशास्त्री, दार्शनिक, इतिहासकार) शहर को एक ऐतिहासिक और सामाजिक लेंस के माध्यम से देख रहे हैं। उन्हें इस बात की परवाह है कि कुछ मोहल्ले गरीब क्यों हैं, सड़कें किसने बनाईं, और कौन पीछे छूट गया है।
यह पेपर इन दो समूहों के बीच एक संवाद है। लेखकों ने पूछा: "ये दो समूह 'निष्पक्षता' को कैसे परिभाषित करते हैं, और यदि वे सहमत नहीं होते हैं तो यह क्यों मायने रखता है?"
1. सॉफ्टवेयर इंजीनियर का दृष्टिकोण: "स्कोरकार्ड" दृष्टिकोण
सॉफ्टवेयर इंजीनियरों के लिए, निष्पक्षता एक स्कोरकार्ड या संतुलन तराजू की तरह है।
- लक्ष्य: वे चाहते हैं कि AI अंतिम परिणाम में सभी के साथ समान व्यवहार करे। यदि समूह A के 50% लोगों को ऋण मिलता है, तो समूह B के 50% लोगों को भी ऋण मिलना चाहिए।
- विधि: वे इसे मापने के लिए गणित का उपयोग करते हैं। वे डेटा में "पूर्वाग्रह" (bias) को देखते हैं और एल्गोरिदम के साथ इसे ठीक करने की कोशिश करते हैं। वे पूछते हैं: "क्या आउटपुट सांख्यिकीय रूप से समान है?"
- उपमा: कल्पना कीजिए कि एक शिक्षक परीक्षा का ग्रेड दे रहा है। इंजीनियर चाहता है कि यदि दो छात्रों के अंक समान हैं, तो उन्हें समान ग्रेड मिले, चाहे उनका नाम कुछ भी हो। वे अंतिम ग्रेड पर ध्यान केंद्रित करते हैं।
- सीमा: पेपर का तर्क है कि यह दृष्टिकोण बहुत संकीर्ण है। यह निष्पक्षता को एक तकनीकी खराबी के रूप में देखता है जिसे कोड के साथ ठीक किया जा सकता है। यह इस तथ्य को अनदेखा करता है कि एक छात्र के पास ट्यूटर रहा होगा और दूसरे के पास नहीं, या वह परीक्षा स्वयं ऐसी भाषा में लिखी गई थी जिसे एक छात्र ठीक से नहीं समझ पाता। इंजीनियर ग्रेड को ठीक करता है, लेकिन उस असमानता को नहीं जिसने ग्रेड को कम होने का कारण बनाया।
2. मानव वैज्ञानिक का दृष्टिकोण: "कहानी" दृष्टिकोण
मानव वैज्ञानिकों के लिए, निष्पक्षता शक्ति, इतिहास और न्याय की एक कहानी है।
- लक्ष्य: वे संदर्भ (context) को समझना चाहते हैं। वे पूछते हैं: "इस प्रणाली को किसने बनाया? यह किसे नुकसान पहुँचाता है? क्या यह पुराने पूर्वाग्रहों को मजबूत करता है?"
- विधि: वे इतिहास, कानून और सामाजिक संरचनाओं को देखते हैं। उनका तर्क है कि आप एल्गोरिदम को केवल तभी "ठीक" नहीं कर सकते जब समाज ही अन्यायपूर्ण हो।
- उपमा: कल्पना कीजिए कि वही शिक्षक। मानव वैज्ञानिक पूछता है: "छात्रों ने वास्तव में परीक्षा दी ही क्यों? क्या परीक्षा निष्पक्ष थी? क्या स्कूल प्रणाली ने सभी छात्रों को समान संसाधन प्रदान किए? क्या उस छात्र को ग्रेड देना उचित है जो भूखा और थका हुआ था?" वे केवल अंतिम ग्रेड की नहीं, बल्कि पूरी यात्रा की परवाह करते हैं।
- सीमा: उनका दृष्टिकोण "कोड" करना कठिन है। आप सदियों के ऐतिहासिक अन्याय को आसानी से ठीक करने के लिए कंप्यूटर प्रोग्राम नहीं लिख सकते। इसके लिए कानून, संस्कृति और शक्ति के समीकरणों को बदलने की आवश्यकता होती है, न कि केवल एक फॉर्मूले में बदलाव करने की।
टकराव: एक वास्तविक उदाहरण
पेपर एक शक्तिशाली उदाहरण का उपयोग यह दिखाने के लिए करता है कि "कहानी" वाले दृष्टिकोण के बिना "स्कोरकार्ड" दृष्टिकोण क्यों विफल हो जाता है।
रियो डी जनेरियो में उबर ड्राइवर:
एक AI नेविगेशन ऐप की कल्पना करें जो उबर ड्राइवरों को "सबसे तेज़" मार्ग पर भेजता है।
- इंजीनियर का दृष्टिकोण: एल्गोरिदम "निष्पक्ष" है क्योंकि यह ट्रैफिक डेटा के आधार पर सभी को सबसे तेज़ रास्ता भेजता है। यह गणितीय रूप से प्रत्येक ड्राइवर के साथ समान व्यवहार करता है।
- मानव वैज्ञानिक का दृष्टिकोण: एल्गोरिदम ड्राइवरों को उन क्षेत्रों के माध्यम से भेजता है जहाँ हिंसक मिलिशिया (militias) का नियंत्रण है। ऐतिहासिक असमानता के कारण, ये क्षेत्र खतरनाक हैं। एल्गोरिदम को खतरे के बारे में "पता" नहीं था क्योंकि इसने केवल ट्रैफिक की गति को देखा, सुरक्षा या स्थानीय शक्ति के समीकरणों को नहीं।
- परिणाम: ड्राइवर मारे गए। सिस्टम गणितीय रूप से "निष्पक्ष" था (सभी के लिए समान गति) लेकिन सामाजिक रूप से "अनुचित" था (इसने हिंसा की वास्तविकता को अनदेखा कर दिया)।
सबक: यदि आप सामाजिक संदर्भ को नहीं समझते हैं, तो आप एक तकनीकी समाधान (तेज़ मार्ग) से सामाजिक समस्या (हिंसा) को ठीक नहीं कर सकते।
पेपर का निष्कर्ष क्या है?
लेखकों ने दोनों क्षेत्रों के बीच एक बड़ा अंतर पाया:
- सॉफ्टवेयर इंजीनियरिंग निष्पक्षता को मापने योग्य (measurable) बनाने की कोशिश करती है। वे एक बॉक्स चेक करना चाहते हैं: "क्या एल्गोरिदम निष्पक्ष है? हाँ/नहीं।"
- मानव विज्ञान का तर्क है कि निष्पक्षता स्थितिजन्य (situational) होती है। यह संस्कृति, इतिहास और शक्ति के समीकरणों पर निर्भर करती है। यह कोई चेकबॉक्स नहीं है; यह एक निरंतर चलने वाली बातचीत है।
समाधान:
हमें दोनों मानचित्रों को मिलाने की आवश्यकता है।
- गणित बनाए रखें: हमें अभी भी कोड में पूर्वाग्रह की जांच करने की आवश्यकता है।
- कहानी जोड़ें: हमें यह पूछने की आवश्यकता है कि पूर्वाग्रह क्यों मौजूद है। हमें डिजाइन प्रक्रिया में विभिन्न पृष्ठभूमियों के लोगों को शामिल करने की आवश्यकता है। हमें यह पूछने की आवश्यकता है कि क्या हमें उस तकनीक को बनाना ही चाहिए या नहीं।
अंतिम सीख
AI बनाने को घर बनाने की तरह समझें।
- इंजीनियर वे वास्तुकार (architects) हैं जो यह सुनिश्चित करते हैं कि दीवारें सीधी हों और छत से पानी न टपके (तकनीकी निष्पक्षता)।
- मानव वैज्ञानिक वे सामुदायिक योजनाकार (community planners) हैं जो पूछते हैं: "यहाँ कौन रहता है? क्या पड़ोस सुरक्षित है? क्या इस निर्माण के लिए किसी को विस्थापित किया गया है?" (सामाजिक निष्पक्षता)।
यदि आप केवल सीधी दीवारों के साथ घर बनाते हैं लेकिन समुदाय की अनदेखी करते हैं, तो आप एक सुंदर जेल बना सकते हैं। एक वास्तव में निष्पक्ष भविष्य बनाने के लिए, हमें सीधी दीवारों और सामुदायिक योजना दोनों की आवश्यकता है। यह पेपर सॉफ्टवेयर इंजीनियरों से आग्रह करता है कि वे निष्पक्षता को केवल एक गणितीय समस्या के रूप में देखना बंद करें और इसे एक मानवीय समस्या के रूप में देखना शुरू करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।