Negotiating Risk Boundaries in AI for Policing Through Mixed-Stakeholder Deliberation
यह शोध पत्र यूके में एक मिश्रित-हितधारक कार्यशाला के निष्कर्ष प्रस्तुत करता है जहाँ सामुदायिक प्रतिनिधियों, पुलिस अधिकारियों और शिक्षाविदों ने सहयोगात्मक रूप से एआई (AI) पुलिसिंग उपकरणों का आकलन किया, जिससे यह पता चला कि नस्लीय समानता को प्राथमिकता देने से अधिकांश उपयोग के मामलों पर व्यापक स्वीकृति प्राप्त हुई, जो पूर्ण अस्वीकृति के बजाय प्रभावकारिता और सार्वभौमिक लाभ पर एक साझा ध्यान पर आधारित थी।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप "सोसायटी" नामक एक विशाल, थोड़े डगमगाते हुए जहाज के कप्तान हैं। आपके पास एक नया, चमकदार नेविगेशन सिस्टम है: आर्टिफिशियल इंटेलिजेंस (AI)। यह सिर्फ एक दिशा-सूचक यंत्र नहीं है; यह एक सुपर-स्मार्ट रोबोट है जो तूफानों का पूर्वानुमान लगा सकता है, छिपी हुई चट्टानों का पता लगा सकता है, और यहाँ तक कि आपके गंतव्य तक पहुँचने के लिए सबसे तेज़ रास्ता भी सुझा सकता है। पुलिसिंग की दुनिया में, इस रोबोट से अपराधियों को पकड़ने, यह तय करने कि कौन फिर से कानून तोड़ सकता है, और यह निर्धारित करने के लिए कहा जा रहा है कि अधिकारियों को कहाँ भेजना है। लेकिन पेच यह है कि जहाज का एक इतिहास रहा है कि वह कुछ विशेष द्वीपों के बहुत करीब से गुजरता रहा है, जिससे वहाँ रहने वाले लोगों को नुकसान पहुँचा है, और हो सकता है कि रोबोट ने उन पुरानी नक्शों से वे बुरी आदतें सीखी हों।
यह शोध विज्ञान के एक बहुत ही विशिष्ट कोने में जाता है जहाँ तकनीक और मानवीय निष्पक्षता का मिलन होता है। यह इस बात की खोज करता है कि हम इन शक्तिशाली AI उपकरणों का उपयोग कैसे कर सकते हैं बिना अनजाने में पुराने अन्यायों को बदतर बनाए। मुख्य विचार "बायस" (पूर्वाग्रह) है—जो चश्मे की एक जोड़ी की तरह है जो आपको दुनिया को विकृत रूप में देखने पर मजबूर करती है। यदि रोबोट का चश्मा पिछली गलतियों से रंगा हुआ है, तो वह किसी निर्दोष व्यक्ति को केवल इसलिए खतरनाक मान सकता है क्योंकि वह कौन है या वह कहाँ रहता है। बड़ा सवाल केवल यह नहीं है कि "क्या रोबोट काम कर सकता है?" बल्कि यह है कि "क्या वह सबके लिए निष्पक्ष रूप से काम करेगा?" यह महत्वपूर्ण है क्योंकि यदि हम रोबोट को बिना उसकी दृष्टि की जाँच किए जहाज चलाने देते हैं, तो हम उन्हीं लोगों से टकरा सकते हैं जिनकी रक्षा करने की हम कोशिश कर रहे हैं।
तो, शोधकर्ताओं ने वास्तव में क्या किया? वे केवल एक लैब में बैठकर कंप्यूटर सिमुलेशन नहीं चला रहे थे। इसके बजाय, उन्होंने 30 लोगों के साथ एक विशाल, एक दिवसीय "जहाज की बैठक" आयोजित की। यह समूह पुलिस अधिकारियों, सामुदायिक नेताओं (वे लोग जो गलियों और अपने पड़ोसियों के संघर्षों को जानते हैं), और वैज्ञानिकों का मिश्रण था। वे एक साथ बैठे और पुलिस द्वारा AI के उपयोग के 13 अलग-अलग तरीकों को देखा। उन्होंने केवल यह नहीं पूछा, "क्या यह कूल तकनीक है?" उन्होंने पूछा, "क्या यह काम करती है? क्या यह मदद करती है? और क्या यह सबकी मदद करती है?"
परिणाम आश्चर्यजनक रूप से सूक्ष्म थे। समूह ने पूरे विचार को ही खारिज नहीं कर दिया। वास्तव में, वे इसके प्रति काफी खुले थे! उन्होंने केवल तीन विशिष्ट उपयोगों के लिए "नहीं, बिल्कुल नहीं" कहा। सबसे बड़ा "ना" उन उपकरणों के लिए गया जो यह अनुमान लगाने की कोशिश करते हैं कि क्या कोई व्यक्ति फिर से अपराध करेगा (जिसे "रेसिडिविज्म रिस्क" या पुनरावृत्ति जोखिम कहा जाता है)। प्रतिभागियों को लगा कि किसी के भविष्य के व्यवहार का अनुमान लगाने का विचार ही दोषपूर्ण है, न कि केवल उसका कोड। उन्होंने तर्क दिया कि यदि प्रणाली पिछले गिरफ्तारी रिकॉर्ड पर आधारित है, तो यह बस उन्हीं लोगों को बार-बार दंडित करती रहेगी, जैसे कि एक हैम्स्टर व्हील जो कभी रुकता ही नहीं।
हालाँकि, अन्य उपकरणों के लिए, जैसे कि अपराध के हॉटस्पॉट का पता लगाने या अधिकारियों को रिपोर्ट लिखने में मदद करने के लिए AI का उपयोग करने के लिए, समूह अधिक इच्छुक था। लेकिन उनके सख्त नियम थे। वे नहीं चाहते थे कि रोबोट कप्तान बने; वे चाहते थे कि वह एक सहायक सह-पायलट बने। उन्होंने जोर दिया कि अंतिम निर्णय लेने वाला हमेशा मानव अधिकारी ही होना चाहिए। उन्होंने यह भी मांग की कि AI पारदर्शी होना चाहिए—कोई जादुई ब्लैक बॉक्स नहीं। यदि उपकरण का उपयोग किया जाना है, तो उसे यह साबित करना होगा कि वह वास्तव में काम करता है और केवल दक्षता का झूठा अहसास पैदा नहीं करता है।
शोधकर्ताओं ने जो सबसे दिलचस्प बात पाई, वह उनके बात करने का तरीका था। भले ही बैठक को नस्लीय पूर्वाग्रह पर भारी ध्यान केंद्रित करने के लिए बनाया गया था, बातचीत स्वाभाविक रूप से कुछ बड़े विषय में बदल गई। प्रतिभागियों ने हर एक उपकरण के लिए एक ही तीन प्रश्न पूछना शुरू कर दिया: "क्या यह वास्तव में काम करता है? क्या इससे वास्तविक लाभ होगा? और क्या वे लाभ सभी तक पहुँचेंगे, न कि केवल भाग्यशाली कुछ लोगों तक?"
यह शहर के डिज़ाइन में "कर्ब-कट प्रभाव" (curb-cut effect) की तरह है। आप जानते हैं कि व्हीलचेयर उपयोगकर्ता के लिए बनाया गया रैंप कैसे स्ट्रोलर धकेलने वाले, कार्ट के साथ डिलीवरी करने वाले, या सूटकेस के साथ यात्री की भी मदद करता है? शोधकर्ताओं ने पाया कि हाशिए पर रहने वाले समुदायों को ध्यान में रखकर AI को डिजाइन करने से, वे बेहतर सवाल पूछने लगे जो उपकरणों को सभी के लिए सुरक्षित और अधिक उपयोगी बनाता है। उन्होंने महसूस किया कि यदि आप उस उपकरण को ठीक करते हैं जिसके कारण सबसे अधिक नुकसान होने की संभावना है, तो आप आमतौर पर इसे सभी के लिए ठीक कर देते हैं।
अंत में, यह शोध पत्र सुझाव देता है कि निष्पक्ष AI बनाने का सबसे अच्छा तरीका "क्या न करें" की चेकलिस्ट बनाना या केवल तकनीकी विशेषज्ञों को निर्णय लेने देना नहीं है। प्रतिभागियों ने दिखाया कि जब आप विभिन्न आवाजों को—पुलिस, सामुदायिक सदस्यों और वैज्ञानिकों को—एक साथ लाते हैं, तो आपको जोखिमों की एक स्पष्ट तस्वीर मिलती है। उन्होंने प्रगति को खारिज नहीं किया; उन्होंने बस मांग की कि प्रगति ईमानदार, सहायक और निष्पक्ष हो। उन्होंने साबित कर दिया कि यदि आप चाहते हैं कि रोबोट जहाज को सुरक्षित रूप से चलाने में मदद करे, तो आपको उन लोगों की बात सुननी होगी जो पानी को सबसे अच्छी तरह जानते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।