Co-constructing sociotechnical AI governance: participatory system mapping using algorithm registers
यह शोधपत्र सामाजिक-तकनीकी प्रणालियों की पूर्ण जटिलता को पकड़ने में वर्तमान एल्गोरिदम रजिस्टरों की सीमाओं की आलोचना करता है और यह प्रदर्शित करता है कि कैसे विविध हितधारकों के साथ सहभागी प्रणाली मानचित्रण (पार्टिसिपेटरी सिस्टम मैपिंग) एक डच नगरपालिका कल्याण उपकरण के केस स्टडी के माध्यम से पात्रता अस्वीकार और चुनौती देने संबंधी बाधाओं जैसे छिपे हुए खतरों को उजागर करके सुरक्षा विश्लेषण और जवाबदेही को बढ़ा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अभी-अभी एक नया, हाई-टेक रोबोट वैक्यूम खरीदा है। इसे आपके घर को पूरी तरह से साफ करने के लिए बनाया गया है, लेकिन कभी-कभी यह आपकी बिल्ली से टकरा जाता है या कालीन का एक पूरा कोना छोड़ देता है। आप जानना चाहते हैं: यह तय कैसे करता है कि कहाँ जाना है? क्या होता है अगर यह भ्रमित हो जाए? और अगर यह आपका पसंदीदा जूता खा जाए तो आप किसे फोन करेंगे? वास्तविक दुनिया में, सरकारें भी इसी तरह के "रोबोटों" का उपयोग करती हैं—लेकिन फर्श साफ करने के बजाय, वे यह तय करने के लिए जटिल कंप्यूटर प्रोग्राम (एल्गोरिदम) का उपयोग करती हैं कि किसे कल्याणकारी सहायता मिले, किसे ऋण मिले, या किसे कोई परमिट मिले। ये प्रोग्राम हैं अदृश्य हाथ जो हमारी सार्वजनिक सेवाओं को चला रहे हैं।
बड़ी समस्या यह है कि ये "रोबोट" अक्सर 'ब्लैक बॉक्स' होते हैं। हम उनके अंदर नहीं देख सकते, इसलिए हमें पता नहीं चलता कि वे जो निर्णय लेते हैं, वे क्यों लेते हैं। इसे ठीक करने के लिए, कुछ शहरों ने "एल्गोरिदम रजिस्टर" रखना शुरू कर दिया है। इन रजिस्टरों को एक सार्वजनिक मेनू या दीवार पर लगे यूजर मैनुअल की तरह समझें। इनका उद्देश्य यह सूचीबद्ध करना है कि किन एल्गोरिदम का उपयोग किया जा रहा है, वे किस डेटा को "खाते" हैं, और वे कैसे काम करते हैं, ताकि नागरिक सिस्टम पर भरोसा कर सकें। लेकिन यहाँ एक पेंच है: ठीक वैसे ही जैसे किसी गुप्त कोड में लिखा गया मेनू, एक रजिस्टर सामग्री तो बता सकता है लेकिन यह नहीं बता सकता कि क्या शेफ वास्तव में खाना सही तरीके से पका रहा है, या रसोई में आग लगी हुई है। यह शोध पत्र इस बात की जांच करता है कि क्या ये रजिस्टर वास्तव में सहायक हैं या केवल "हम पर भरोसा करें" कहने का एक शानदार तरीका मात्र हैं।
इस अध्ययन के शोधकर्ताओं ने इस विचार का परीक्षण करने का निर्णय लिया कि क्या ये रजिस्टर वास्तव में मददगार हैं। इसके लिए उन्होंने एक वास्तविक "रोबटेज" को देखा जिसका उपयोग एक डच शहर द्वारा यह तय करने के लिए किया जाता है कि किसे कल्याणकारी लाभ मिलेगा। उन्होंने केवल रजिस्टर को पढ़ा ही नहीं; बल्कि उन्होंने लोगों के एक समूह को "कनेक्ट द डॉट्स" (बिंदुओं को जोड़ने) का खेल खेलने के लिए आमंत्रित किया। वे शहर के कर्मचारियों, नागरिक अधिकार समूहों और सार्वजनिक मध्यस्थों (ओम्बड्समैन) को एक साथ लाए ताकि वे उस सिस्टम के वास्तविक कार्य करने के तरीके का एक नक्शा बना सकें, जैसा कि वे जानते थे और जैसा कि उन्हें संदेह था।
उन्होंने यह पाया: आधिकारिक रजिस्टर एक धुंधले, अधूरे स्केच की तरह था। इसने सिस्टम के मुख्य हिस्सों को तो सूचीबद्ध किया लेकिन उन मानवीय संबंधों को छोड़ दिया जो वास्तव में प्रक्रिया को सफल या विफल बनाते हैं। जब विविध विशेषज्ञों के समूह ने अपना स्वयं का नक्शा बनाया, तो उन्होंने उन छिपे हुए खतरों को उजागर किया जिन्हें रजिस्टर ने पूरी तरह से अनदेखा कर दिया था। उदाहरण के लिए, उन्होंने पाया कि भले ही सिस्टम को केवल मानव कर्मचारियों के लिए एक "सहायक" होना चाहिए था, फिर भी कर्मचारी रोबोट के सुझावों पर आंख मूंदकर भरोसा करने के लिए दबाव महसूस करते थे, जिससे लोगों को गलत तरीके से धन देने से मना कर दिया गया। उन्होंने यह भी पता लगाया कि यदि कोई गलती होती है, तो उसे सुधारने का रास्ता इतना भ्रमित करने वाला और कागजी कार्रवाई की कमी से भरा हुआ था कि एक सामान्य व्यक्ति के लिए सफलतापूर्वक शिकायत करना लगभग असंभव था।
अध्ययन सुझाव देता है कि हालांकि ये रजिस्टर एक अच्छा पहला कदम हैं, लेकिन वे अपने आप में पर्याप्त नहीं हैं। वे अक्सर वास्तविक जोखिमों को छिपा देते हैं क्योंकि वे तकनीकी विवरणों पर बहुत अधिक ध्यान केंद्रित करते हैं और मानवीय कहानी पर बहुत कम। शोधकर्ताओं ने पाया कि आपको विभिन्न प्रकार के लोगों को—विशेष रूप से उन लोगों को जो सिस्टम नहीं बना रहे हैं—नक्शा बनाने में मदद करने के लिए शामिल करने की आवश्यकता है। केवल शहर के तकनीकी डेटा को नागरिकों और वॉचडॉग्स (निगरानी निकायों) के वास्तविक दुनिया के अनुभवों के साथ जोड़कर ही हम पूरी तस्वीर देख सकते हैं और यह सुनिश्चित कर सकते हैं कि "रोबोट" वास्तव में सभी के लिए सुरक्षित और निष्पक्ष हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।