"Is This Not Enough?": Asymmetries in Institutional Accountability and Collective Sensemaking in the Case of Canada's Algorithmic Visa Triage System
यह शोध पत्र प्रकट करता है कि कनाडा की एल्गोरिद्मिक वीज़ा छँटनी प्रणाली संस्था के पारदर्शिता-केंद्रित डिज़ाइन और आवेदकों के अनिश्चितता के जीवंत अनुभवों के बीच जवाबदेही में महत्वपूर्ण विषमताओं—विशेष रूप से ज्ञानमीमांसीय (epistemic), क्षेत्राधिकार संबंधी (jurisdictional) और काल-संबंधी (temporal-relational) अंतराल—को उत्पन्न करती है, जो एल्गोरिद्मिक शासन के प्रभावों के असमान वितरण की ओर ध्यान केंद्रित करने की आवश्यकता को रेखांकित करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप कनाडा जाने के लिए वीज़ा प्राप्त करने की कोशिश कर रहे हैं। आप कागजी कार्रवाई का एक विशाल ढेर भरते हैं, इस उम्मीद में कि आपको "हाँ" मिलेगी। लेकिन इसके बजाय कि कोई मानव अधिकारी आपकी कहानी को ध्यान से पढ़े, आपकी अर्जी को पहले एक डिजिटल रोबोट द्वारा छाँटा जाता है। यह रोबट तय करता है कि आपकी फाइल पर कितनी तेजी से गौर किया जाएगा और क्या इसे त्वरित "हाँ" मिलेगी या इसके लिए अधिक मानवीय ध्यान की आवश्यकता है।
यह लेख इस बात पर आधारित है कि सरकार कैसे कहती है कि यह रोबोट कैसे काम करता है और लोग इसका उपयोग करते समय वास्तव में कैसा महसूस करते हैं, इनके बीच एक बड़ा अंतर है।
यहाँ उस अंतर की कहानी है, जिसे सरल भागों में विभाजित किया गया है।
1. दो अलग-अलग दुनियाएँ
शोधकर्ताओं ने इस प्रणाली को समझने के लिए सूचना के दो बहुत अलग स्रोतों का अध्ययन किया:
- सरकार की "नियम पुस्तिका" (संस्थागत आर्टिफैक्ट्स - Institutional Artifacts): उन्होंने आधिकारिक दस्तावेजों को पढ़ा, जैसे कि "अल्गोरिद्मिक इम्पैक्ट असेसमेंट" (AIA)। इसे इंजीनियरों और वकीलों द्वारा लिखा गया एक निर्देश मैनुअल समझें। यह कहता है, "हमारे पास सुरक्षा जाँच है! हमारे पास ऑडिट है! रोबोट पारदर्शी है! हमारे पास मानव पर्यवेक्षक हैं!" यह एक बहुत ही साफ, व्यवस्थित और आश्वस्त करने वाला दस्तावेज़ है।
- आवेदकों का "वॉटर कूलर" (Reddit चर्चाएँ): उन्होंने Reddit पर हजारों पोस्ट देखे जहाँ वीज़ा आवेदक आपस में बात करते हैं। इसे एक भीड़भाड़ वाले वेटिंग रूम की तरह समझें जहाँ लोग फुसफुसा रहे हैं, "क्या आपने सुना? यदि आपके पास अमेरिकी वीज़ा है, तो आपको तेज़ सेवा मिलती है," या "मुझे लगता है कि आपके बैंक खाते में ठीक 1,400।" यह अव्यवस्थित, चिंतित और अनुमानों से भरा है।
2. तीन बड़े अंतर (असमानताएं)
शोधकर्ताओं ने पाया कि "नियम पुस्तिका" की दुनिया और "वेटिंग रूम" की दुनिया के बीच तीन प्रमुख अंतर हैं। लेखक इन्हें असमानताएं (Asymmetries) कहते हैं।
A. "ब्लैक बॉक्स" का अनुमान लगाने वाला खेल (एपिस्टेमिक एसिमेट्री - Epistemic Asymmetry)
- सरकार कहती है: "हमारी प्रणाली पारदर्शी है। हमारे पास स्पष्ट नियम और ऑडिट ट्रेल हैं। आप देख सकते हैं कि यह कैसे काम करती है।"
- वास्तविकता: आवेदक वास्तव में नियमों को नहीं देख सकते। यह एक मैजिक 8-बॉल की तरह है। सरकार कहती है कि गेंद स्पष्ट है, लेकिन आवेदक के लिए, यह सिर्फ एक काला डिब्बा (ब्लैक बॉक्स) है।
- परिणाम: क्योंकि वे नियमों को नहीं देख सकते, इसलिए आवेदक जासूस की भूमिका निभाने लगते हैं। वे अपने स्वयं के "लोकप्रिय सिद्धांत" (folk theories) बनाने के लिए ऑनलाइन समूहों में इकट्ठा होते हैं। वे अनुमान लगाते हैं, "ओह, यदि मेरे पास घर है, तो मुझे मंजूरी मिल जाएगी," या "यदि मैं देश X से हूँ, तो मुझे अस्वीकार कर दिया जाएगा।" वे एक ऐसी प्रणाली को रिवर्स-इंजीनियर करने की कोशिश कर रहे हैं जिसे वे देख नहीं सकते, और केवल अफवाहों और अन्य लोगों की कहानियों का उपयोग कर रहे हैं। सरकार के पास "सत्य" है, लेकिन आवेदकों के पास केवल "अनुमान" हैं।
B. "भूगोल" का लॉटरी (ज्यूरिसडिक्शनल एसिमेट्री - Jurisdictional Asymmetry)
- सरकार कहती है: "हम सभी के साथ समान व्यवहार करते हैं। नियम सभी के लिए एक समान हैं, चाहे आप कहीं भी हों।"
- वास्तविकता: प्रणाली लोगों के साथ इस आधार पर अलग व्यवहार करती है कि वे कहाँ खड़े हैं।
- उपमा: एक हवाई अड्डे की सुरक्षा लाइन की कल्पना करें। साइन बोर्ड कहता है, "सभी एक ही स्कैनर से गुजरेंगे।" लेकिन वास्तव में, यदि आप VIP लाइन में खड़े हैं, तो आपको बिना रोक-टोक जाने दिया जाता है। यदि आप "उच्च जोखिम" वाली लाइन में खड़े हैं, तो एक घंटे तक आपकी तलाशी ली जाती है।
- परिणाम: अलग-अलग देशों के आवेदक (या अलग पासपोर्ट वाले लोग) प्रणाली का अलग अनुभव करते हैं। अमेरिकी पासपोर्ट वाले व्यक्ति को एक सप्ताह में वीज़ा मिल सकता है, जबकि दूसरे देश के व्यक्ति को महीनों इंतजार करना पड़ सकता है, भले ही "नियम" कथित रूप से एक समान हों। सरकार के दस्तावेज़ वास्तव में इस बारे में बात नहीं करते कि आपका स्थान आपकी किस्मत को कैसे बदल देता है।
C. "वेटिंग रूम" की प्रताड़ना (टेम्पोरल-रिलेशनल एसिमेट्री - Temporal-Relational Asymmetry)
- सरकार कहती है: "यह प्रणाली कुशल है। यदि कोई समस्या है, तो यह एक 'मध्यम' प्रभाव है। यह केवल एक देरी है, कुछ गंभीर नहीं।"
- वास्तविकता: प्रतीक्षा करना केवल "प्रतीक्षा" नहीं है। यह जीवन का रुक जाना है।
- उपमा: कल्पना कीजिए कि आप ट्रेन का इंतजार कर रहे हैं। ट्रेन कंपनी कहती है, "देरी केवल 20 मिनट की है।" लेकिन आपके लिए, वह 20 मिनट का मतलब है कि आप अपनी शादी में नहीं पहुँच पाए, आप अपनी नई नौकरी शुरू नहीं कर सकते, या आपकी गर्भवती पत्नी अपने माता-पिता से नहीं मिल सकती।
- परिणाम: सरकार "समय" को स्प्रेडशीट पर एक साधारण संख्या के रूप में गिनती है। लेकिन आवेदक के लिए, समय उनके परिवार, उनकी नौकरी और उनके दिल से जुड़ा होता है। सरकार की नज़र में एक "मध्यम देरी" आवेदक की नज़र में जीवन बर्बाद करने वाला संकट हो सकती है। सरकार की रिपोर्ट प्रतीक्षा के भावनात्मक और संबंधपरक भार को समझने में विफल रहती है।
3. बड़ा सबक: हमें एक नए मानचित्र की आवश्यकता है
शोधकर्ता तर्क देते हैं कि इन AI प्रणालियों की जाँच करने के लिए वर्तमान में उपयोग किए जाने वाले उपकरण (जैसे AIA) ऐसे मानचित्रों की तरह हैं जो केवल इमारत के अंदर का हिस्सा दिखाते हैं। वे गलियारों और सुरक्षा कैमरों को दिखाते हैं, लेकिन वे उन लोगों को नहीं दिखाते जो बाहर बारिश में खड़े हैं, यह सोचकर कि क्या वे कभी अंदर जा पाएंगे।
वे एक नया ढांचा प्रस्तावित करते हैं जिसे ADMATS (Algorithic Decision-Making for Administrative Transnational Systems) कहा जाता है।
- पुराना मानचित्र (ADMAPS): नौकरशाही, मनुष्यों और कोड को देखता है।
- नया मानचित्र (ADMATS): इसमें चौथा स्तर जोड़ता है: ट्रांसनेशनल एसिमेट्री (Transnational Asymmetry)। यह हमें यह देखने के लिए मजबूर करता है कि सीमा के दूसरी ओर के लोगों को यह प्रणाली कैसी महसूस होती है, यह स्वीकार करते हुए कि "निष्पक्षता" आपके पासपोर्ट, आपके बैंक खाते और इस बात पर निर्भर करती है कि आप कब से प्रतीक्षा कर रहे हैं।
सारांश
यह पत्र पूछता है: "क्या यह पर्याप्त है?"
सरकार कहती है, "हाँ, हमारे पास पारदर्शिता और सुरक्षा जाँच है।"
आवेदक कहते हैं, "नहीं, हम अभी भी अनुमान लगा रहे हैं, प्रतीक्षा कर रहे हैं और ऐसा महसूस कर रहे हैं जैसे नियम बदल जाते हैं कि हम कहाँ रहते हैं।"
यह पत्र निष्कर्ष निकालता है कि हम केवल यह कहने के लिए कि एक प्रणाली निष्पक्ष है, सरकारी फॉर्म पर बॉक्स टिक नहीं कर सकते। हमें उन लोगों की बात सुननी होगी जो इस प्रणाली से गुजर रहे हैं, क्योंकि जवाबदेही का उनका अनुभव सरकार की परिभाषा से बहुत अलग है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।