AI Governance - Social Contestability Framework-vFinal
यह शोध पत्र तर्क देता है कि वैध एआई गवर्नेंस (AI governance) के लिए आंतरिक अनुपालन आर्टिफ़ैक्ट्स (compliance artifacts) से ध्यान हटाकर "सामाजिक चुनौतीशीलता" (social contestability) पर केंद्रित करना आवश्यक है—अर्थात प्रभावित व्यक्तियों की एआई-संचालित निर्णयों को समझने, चुनौती देने और सुधारने की क्षमता—और यह प्रमुख गवर्नेंस उपकरणों एवं वास्तविक उपयोग के मामलों में इस ढांचे को क्रियान्वित करने के लिए पांच संस्थागत स्थितियों और एक जीवनचक्र परीक्षण का प्रस्ताव देता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ एक कंप्यूटर प्रोग्राम यह तय करता है कि आपको नौकरी मिलेगी या नहीं, ऋण मिलेगा या नहीं, या चिकित्सा उपचार मिलेगा या नहीं। हाल के वर्षों में, सरकारों और कंपनियों ने यह सुनिश्चित करने के लिए नियमों का एक विशाल तंत्र बनाया है कि ये प्रोग्राम सही ढंग से व्यवहार करें। वे चेकलिस्ट बनाते हैं, रिपोर्ट लिखते हैं और ऑडिट चलाते हैं ताकि यह साबित किया जा सके कि उनका सॉफ्टवेयर सुरक्षित और निष्पक्ष है। ये नियम महत्वपूर्ण हैं, लेकिन वे अक्सर इस बात पर ध्यान केंद्रित करते हैं कि कंपनी अपने कार्यालयों के भीतर क्या करती है। वे यह देखते हैं कि कागजी कार्रवाई पूरी है या नहीं, लेकिन वे शायद ही कभी यह पूछते हैं कि दूसरी ओर मौजूद व्यक्ति वास्तव में कुछ गलत होने पर आवाज उठाने में सक्षम है या नहीं। यह अंतराल बैंक सऊदी फ्रांसी के एक शोधकर्ता शिराज अज़लम के एक नए अध्ययन का केंद्र है, जो तर्क देते हैं कि यदि प्रभावित व्यक्ति निर्णय को चुनौती नहीं दे सकते, तो केवल एक नियम पुस्तिका होना पर्याप्त नहीं है।
लेख में जिस मूल विचार की खोज की गई है उसे "सामाजिक प्रतिवाद" (social contestability) कहा जाता है। सरल शब्दों में, इसका अर्थ यह है कि यदि कोई कंप्यूटर ऐसा निर्णय लेता है जो आपके जीवन को बदल देता है, तो आपके पास यह जानने का एक वास्तविक तरीका होना चाहिए कि ऐसा क्यों हुआ, यह क्यों हुआ, इसे समझने का कारण पता होना चाहिए, और यदि यह गलत है तो किसी ऐसे इंसान से पूछने का रास्ता होना चाहिए जिसके पास वास्तव में इसे ठीक करने की शक्ति हो। यह कहना पर्याप्त नहीं है कि "हमारे पास प्रक्रिया में मानव शामिल है" (human in the loop), यदि वह मानव केवल एक रबर स्टैंप की तरह है जो 'ना' नहीं कह सकता। अध्ययन सुझाव देता है कि वास्तविक निष्पक्षता के लिए पीड़ित व्यक्ति और उस संस्थान के बीच संचार का एक सीधा माध्यम होना चाहिए जो निर्णय को उलट सके। इसके बिना, एक कंपनी सभी कानूनों का पूरी तरह से पालन कर सकती है और फिर भी एक व्यक्ति को बिना किसी उपचार के छोड़ सकती है।
इस सुरक्षा जाल को बनाने के तरीके को समझने के लिए, शोधकर्ता ने दुनिया भर में उपयोग किए जाने वाले चार प्रमुख नियमों के सेटों का अध्ययन किया: यूरोपीय संघ का एआई एक्ट (AI Act), अमेरिकी नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी का जोखिम प्रबंधन मार्गदर्शिका, ऑर्गनाइजेशन फॉर इकोनॉमिक को-ऑपरेशन एंड डेवलपमेंट (OECD) के सिद्धांत, और अमेरिकी सरकार का एआई बिल ऑफ राइट्स का ब्लूप्रिंट। अध्ययन ने इन दस्तावेजों की तुलना यह देखने के लिए की कि वे वास्तव में एक सामान्य व्यक्ति को क्या करने की अनुमति देते हैं। विश्लेषण में एक आवर्ती समस्या पाई गई: ये रूपरेखाएँ कंपनियों को उनके अपने जोखिमों को प्रबंधित करने के बारे में बताने में उत्कृष्ट हैं, लेकिन वे अक्सर इस पर मौन रहती हैं कि एक व्यक्ति बुरे परिणाम के खिलाफ कैसे लड़ सकता है। एक कंपनी के पास अपना काम जाँचने का एक आदर्श ऑडिट ट्रेल हो सकता है, फिर भी ऋण से वंचित व्यक्ति के पास उस अधिकृत मानव तक पहुँचने का कोई स्पष्ट मार्ग नहीं होता जो उसका निर्णय बदल सके।
इसके बाद, शोधकर्ता ने पांच वास्तविक दुनिया के उदाहरणों का परीक्षण किया जहाँ स्वचालित प्रणालियों ने नुकसान पहुँचाया, ताकि यह देखा जा सके कि प्रणाली वास्तव में कहाँ विफल हुई। एक मामला एक ऐसे भर्ती उपकरण का था जिसने महिला आवेदकों को इसलिए खारिज कर दिया क्योंकि उसने पिछले पक्षपाती डेटा से सीखा था। एक अन्य मामले में एक स्वास्थ्य एल्गोरिदम शामिल था जिसने अश्वेत रोगियों के साथ भेदभाव किया क्योंकि उसने चिकित्सा आवश्यकता के बजाय चिकित्सा लागतों को एक शॉर्टकट के रूप में इस्तेमाल किया। यूके में एक ग्रेडिंग प्रणाली भी थी जिसने सांख्यिकीय सूत्र के साथ शिक्षकों के निर्णयों को दरकिनार कर दिया, और ऑस्ट्रेलिया में एक सरकारी ऋण योजना थी जिसने नागरिकों को उन त्रुटियों के लिए निर्दोष सिद्ध करने के लिए मजबूर किया जो उन्होंने नहीं की थीं। इन प्रत्येक मामले में, संस्थान के पास नियम और दस्तावेज़ थे, लेकिन प्रभावित लोग निर्णय पर प्रभावी ढंग से सवाल नहीं उठा सके। अध्ययन ने पाया कि प्रत्येक विफलता में, प्रणाली में उन विशिष्ट शर्तों का अभाव था जो व्यक्ति को परिणाम को चुनौती देने की अनुमति देतीं।
इन विफलताओं से, यह शोध पत्र पांच विशिष्ट शर्तों का प्रस्ताव करता है जो एक प्रणाली को वास्तव में प्रतिरोधी (contestable) बनाने के लिए आवश्यक हैं। पहला, उन निर्णयों के लिए नियम अधिक सख्त होने चाहिए जो अधिक नुकसान पहुँचाते हैं; एक साधारण चैटबॉट की गलती को स्वास्थ्य सेवा से इनकार करने वाले निर्णय की तुलना में कम सुरक्षा की आवश्यकता होती है। दूसरा, इन निर्णयों की समीक्षा करने वाले मनुष्यों के पास कंप्यूटर को 'ना' कहने के लिए वास्तविक शक्ति, समय और जानकारी होनी चाहिए। तीसरा, कंपनी को सरल भाषा में निर्णय समझाना चाहिए जो व्यक्ति को ठीक से बताए कि यदि वह असहमत है तो उसे क्या करना चाहिए। चौथा, यह स्पष्ट होना चाहिए कि गलती के लिए कौन जिम्मेदार है, ताकि व्यक्ति को अलग-अलग विभागों के बीच न भटकना पड़े। अंत में, यह सुनिश्चित करने के लिए जाँच की जानी चाहिए कि त्रुटियों को ठीक करने का बोझ अनुचित रूप से कमजोर समूहों पर न पड़े।
अध्ययन एक व्यावहारिक परीक्षण पेश करता है जिसे संगठन किसी भी परियोजना के हर चरण में उपयोग कर सकते हैं, प्रारंभिक विचार से लेकर अंतिम उत्पाद तक। यह परीक्षण विशिष्ट प्रश्न पूछता है जैसे, "क्या हमारे पास अपील करने की योजना है?" और "क्या हमारे समीक्षकों के पास सिस्टम को ओवरराइड करने का अधिकार है?" जब शोधकर्ता ने इस परीक्षण को ऑस्ट्रेलियाई ऋण घोटाले पर लागू किया, तो इसने खुलासा किया कि हालांकि सरकार ने कई आंतरिक नियमों का पालन किया था, लेकिन वे प्रतिवाद परीक्षण (contestability test) में विफल रहे थे। उन्होंने यह परीक्षण नहीं किया था कि क्या लोग नोटिस को समझ सकते हैं, उन्होंने मनुष्यों को ऋण नोटिस भेजने से पहले उन्हें रोकने की शक्ति नहीं दी थी, और जब सिस्टम विफल होने लगा तो उन्होंने स्पष्ट जिम्मेदारी भी तय नहीं की थी। परीक्षण ने दिखाया कि समस्या नियमों की कमी नहीं थी, बल्कि व्यक्ति और उस अधिकार के बीच एक कामकाजी संबंध की कमी थी जो समस्या को ठीक कर सके।
पत्र इस निष्कर्ष पर पहुँचता है कि एआई गवर्नेंस (AI governance) का लक्ष्य केवल यह साबित करना नहीं होना चाहिए कि एक प्रणाली कागज़ पर सुरक्षित है, बल्कि 'ना' कहने की मानवीय क्षमता को बनाए रखना होना चाहिए। यह तर्क देता है कि हमें अपना ध्यान कंपनी के आंतरिक दस्तावेजों से हटाकर संस्थान और नागरिक के बीच के संबंध पर केंद्रित करना चाहिए। यदि किसी प्रणाली को चुनौती नहीं दी जा सकती, सुधारा नहीं जा सकता, या रोका नहीं जा सकता, तो वह वास्तव में शासित नहीं है, चाहे कंपनी ने कितनी भी चेकलिस्ट क्यों न भर ली हों। अध्ययन यह दावा नहीं करता कि उसने आर्टिफिशियल इंटेलिजेंस की हर समस्या को हल कर दिया है, लेकिन यह जांचने का एक स्पष्ट, व्यावहारिक तरीका प्रदान करता है कि क्या स्क्रीन के दूसरी ओर मौजूद लोगों की आवाज़ सुनी जा रही है। यह सुझाव देता है कि एक निष्पक्ष प्रणाली का वास्तविक पैमाना यह नहीं है कि वह नियमों का पालन करती है या नहीं, बल्कि यह है कि क्या वह प्रभावित लोगों को उसे जवाबदेह ठहराने की अनुमति देती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।