Algorithmic neutrality

समस्या
एल्गोरिदम तेजी से मानव जीवन के महत्वपूर्ण पहलुओं को नियंत्रित कर रहे हैं, जिससे एल्गोरिद्मिक निष्पक्षता (algorithmic fairness) पर व्यापक विमर्श उत्पन्न हुआ है। हालाँकि, एल्गोरिद्मिक तटस्थता (algorithmic neutrality) की अवधारणा काफी हद तक उपेक्षित रही है, जबकि यह तकनीक उद्योग, जनता और नीति निर्माताओं द्वारा डिजिटल दुनिया को समझने के लिए केंद्रीय है। दिग्गज टेक कंपनियाँ (जैसे गूगल, मेटा, ट्विटर) आलोचना के विरुद्ध एक ढाल के रूप में और एक आदर्श जिसे प्राप्त करने का लक्ष्य हो, के रूप में अक्सर तटस्थता का आह्वान करती हैं, जबकि आलोचकों का तर्क है कि कोई भी एल्गोरिदम नैतिक रूप से तटस्थ नहीं होता। यह शोध पत्र एल्गोरिद्मिक तटस्थता की परिभाषा, संभावना और इसके मानदण्डिक महत्व (normative significance) के संबंध में व्यवस्थित अध्ययन की कमी को पहचानता है। विशेष रूप से, लेखक पूछते हैं: एल्गोरिद्मिक तटस्थता क्या है? क्या यह संभव है? और इसका मानदण्डिक महत्व क्या है?

कार्यप्रणाली (Methodology)
यह शोध पत्र प्रौद्योगिकी के दर्शन और नैतिकता पर आधारित एक वैचारिक विश्लेषण का उपयोग करता है। लेखक निम्नलिखित कार्यप्रणालीगत चरणों के माध्यम से आगे बढ़ता है:

1. केस स्टडी दृष्टिकोण: विश्लेषण मुख्य रूप से खोज इंजन (search engines) को एक प्रतिमान केस स्टडी (paradigmatic case study) के रूप में लेता है और फिर व्यापक रूप से एल्गोरिद्मिक प्रणालियों पर सामान्यीकरण करता है।
2. वैचारिक परिभाषा: लेखक "विज्ञान में तटस्थता" के ढांचे को अनुकूलित करके तटस्थता को परिभाषित करता है। जिस प्रकार वैज्ञानिक तटस्थता के लिए यह आवश्यक है कि गैर-ज्ञानमीमांसीय (non-epistemic) मूल्यों (जैसे वित्तीय हित, राजनीतिक विचारधाराएं) की मुख्य वैज्ञानिक प्रथाओं (जो सत्य की खोज करती हैं) में कोई भूमिका न हो, उसी प्रकार एल्गोरिद्मिक तटस्थता को एक प्रणाली के लक्ष्य (aim) के संदर्भ में परिभाषित किया गया है।
3. बहुआयामीता के माध्यम से तर्क: लेखक तर्क देता है कि कई एल्गोरिद्मिक प्रणालियों के लक्ष्य (जैसे खोज में "प्रासंगिकता" या भर्ती में "योग्यता") बहुआयामी अवधारणाएं (multidimensional concepts) हैं। अतुलनीयता (incomparability) के साहित्य (जैसे सेन, पारफिट) का सहारा लेते हुए, लेखक का मानना है कि जब किसी अवधारणा के कई आयाम होते हैं और कोई विशेषाधिकार प्राप्त वेटिंग (weighting) नहीं होती, तो लक्ष्य प्रणाली के आउटपुट को अनिश्चित (underdetermine) कर देता है।
4. भूमिकाओं का अंतर: विश्लेषण बाहरी मूल्यों द्वारा निभाई जाने वाली दो भूमिकाओं के बीच अंतर करता है: लक्ष्य को अधिभावी (overriding) बनाना (एक कम प्रासंगिक परिणाम को उच्च रैंक देना) और लक्ष्य का पूरक (supplementing) बनना (टाई तोड़ने या आयामों को भार देने के लिए जब लक्ष्य स्वयं अपर्याप्त हो)।

प्रमुख योगदान

1. एल्गोरिद्मिक तटस्थता की परिभाषा: यह शोध पत्र एल्गोरिद्मिक तटस्थता को मूल्यों के अभाव के रूप में नहीं, बल्कि एक प्रणाली के लक्ष्य और बाहरी मूल्यों के बीच एक विशिष्ट संबंध के रूप में वर्णित करता है। एक एल्गोरिद्मिक प्रणाली तटस्थ केवल तभी होती है जब उसके लक्ष्य से बाहरी मूल्यों की उसके परिणामों को देने के तरीके में कोई भूमिका नहीं होती। खोज इंजनों के लिए, जहाँ लक्ष्य प्रासंगिकता है, तटस्थता के लिए यह आवश्यक है कि रैंकिंग को प्रभावित करने के लिए प्रासंगिकता के अलावा अन्य किसी मूल्य की भूमिका न हो।
2. असंभवता का सिद्धांत (The Impossibility Thesis): लेखक यह प्रदर्शित करता है कि खोज इंजनों और अधिकांश शक्तिशाली एल्गोरिद्मिक प्रणालियों के लिए एल्गोरिद्मिक तटस्थता असंभव है। क्योंकि "प्रासंगिकता" या "योग्यता" जैसे लक्ष्य बहुआयामी होते हैं, वे वस्तुओं को रैंक करने या वर्गीकृत करने के तरीके को अनिश्चित (underdetermine) कर देते हैं। अतुलनीयता के मामलों में (जहाँ दो विकल्प सभी आयामों में एक-दूसरे से बेहतर या बदतर नहीं होते), टाई तोड़ने के लिए बाहरी मूल्यों को भूमिका निभानी ही पड़ती है। इसलिए, बाहरी मूल्य अनिवार्य रूप से लक्ष्य का पूरक (supplement) बनते हैं।
3. मानदण्डिक पुनर्मूल्यांकन (Normative Re-evaluation): शोध पत्र का तर्क है कि तटस्थता एक मिथ्या आदर्श (false ideal) और एक दोषपूर्ण ढाल (faulty shield) है।
   • मिथ्या आदर्श: तटस्थता न तो स्वाभाविक रूप से अच्छी है और न ही बुरी। मानदण्डिक महत्व इस बात में नहीं है कि क्या एक प्रणाली तटस्थ है, बल्कि इसमें है कि कौन से बाहरी मूल्य भूमिका निभाते हैं और वे क्या भूमिका निभाते हैं (अधिभावी बनाम पूरक)।
   • दोषपूर्ण ढाल: कंपनियों के लिए तटस्थता को बचाव के रूप में दावा करना वैचारिक रूप से असंगत है, क्योंकि वास्तविक तटस्थता असंभव है। इसके अलावा, भले ही कोई प्रणाली "स्थानीय रूप से तटस्थ" (जैसे राजनीतिक मूल्यों के संबंध में तटस्थ) हो, वह बहुआयामी लक्ष्यों के आवश्यक भार (weighting) के कारण कुछ समूहों को नुकसान पहुँचा सकती है (जैसे "उल्लेखनीयता/salience" को भार देने से छोटी संस्थाओं को नुकसान हो सकता है)।
4. पूर्वाग्रह का परिशोधन (Refining Bias): शोध पत्र अधिभावी पूर्वाग्रह (overriding bias) (बाहरी मूल्य लक्ष्य को अधिभावी बनाते हैं) और पूरक पूर्वाग्रह (supplementing bias) (बाहरी मूल्य लक्ष्य का पूरक बनते हैं) के बीच अंतर करता है। जबकि अधिभावी पूर्वाग्रह से बचा जा सकता है और अक्सर आपत्तिजनक होता है, पूरक पूर्वाग्रह अपरिहार्य है। हालाँकि, इस संबंध में शिकायतें कि कौन से मूल्य लक्ष्य का पूरक बनते हैं, वैध और आवश्यक बनी रहती हैं।

परिणाम

• खोज तटस्थता असंभव है: प्रासंगिकता की बहुआयामी प्रकृति के कारण, खोज इंजन केवल प्रासंगिकता के आधार पर पृष्ठों को रैंक नहीं कर सकते। उन्हें पृष्ठों के अतुलनीय होने पर आयामों (जैसे उल्लेखनीयता, विषयगतता) को भार देने के लिए अनिवार्य रूप से बाहरी मूल्यों का उपयोग करना होगा।
• वैश्विक बनाम स्थानीय तटस्थता: "वैश्विक तटस्थता" (किसी भी प्रकार के बाहरी मूल्यों की कोई भूमिका न होना) असंभव है। "स्थानीय तटस्थता" (किसी विशिष्ट प्रकार के मूल्यों, जैसे राजनीतिक विचारधारा, की कोई भूमिका न होना) संभव है लेकिन अन्याय की सभी शिकायतों को संबोधित करने के लिए अपर्याप्त है, क्योंकि आवश्यक भार देने की प्रक्रिया अभी भी असमान प्रभाव पैदा कर सकती है।
• मानदण्डिक बदलाव: बहस को "क्या एल्गोरिदम तटस्थ है?" से बदलकर "कौन से मूल्य भूमिका निभाएंगे, और कैसे?" पर स्थानांतरित होना चाहिए। उदाहरण के लिए, बच्चों की सुरक्षा के लिए (बाल पोर्नोग्राफी को दबाने के लिए) प्रासंगिकता को अधिभावी बनाना या सामाजिक न्याय को बढ़ावा देने के लिए (टाई-ब्रेकिंग परिदृश्यों में अल्पसंख्यक स्वामित्व वाले व्यवसायों को उच्च रैंक देने के लिए) प्रासंगिकता को पूरक बनाना मानदण्डिक रूप से अच्छा हो सकता है। इसके विपरीत, यह अक्सर अनुचित है कि एक एकाधिकार (monopoly) वित्तीय हितों के साथ प्रासंगिकता को अधिभावी बना दे।

महत्व
शोध पत्र का दावा है कि एल्गोरिद्मिक तटस्थता एक मिथ्या आदर्श और एक दोषपूर्ण ढाल है।

• एक मिथ्या आदर्श के रूप में, तटस्थता के लिए प्रयास करना हितधारकों को वास्तविक मानदण्डिक प्रश्नों के प्रति अंधा बना देता है: यह निर्धारित करना कि कौन से मूल्य एल्गोरिद्मिक परिणामों को निर्देशित करने चाहिए और किसी प्रणाली का प्राथमिक लक्ष्य किस सीमा तक प्राप्त करने योग्य है।
• एक दोषपूर्ण ढाल के रूप में, गलत कार्यों के आरोप लगने पर टेक कंपनियों के लिए तटस्थता का दावा करना एक खोखला बचाव है, क्योंकि (1) इन प्रणालियों के लिए वास्तविक तटस्थता वैचारिक रूप से असंभव है, और (2) तटस्थता स्वयं स्वाभाविक रूप से गुणवान नहीं है। शोध पत्र निष्कर्ष निकालता है कि ध्यान तटस्थता/गैर-तटस्थता के द्विआधारी (binary) से हटकर उन विशिष्ट भूमिकाओं के सूक्ष्म विश्लेषण की ओर जाना चाहिए जो बाहरी मूल्य एल्गोरिद्मिक निर्णय लेने में निभाते हैं।