Post-Deployment Accountability in AI Governance: A Cross-Regulatory Empirical Analysis of AI Incidents
यह अनुभवजन्य अध्ययन प्रमुख नियामक ढांचों के विरुद्ध 2020 से 2026 तक की एआई (AI) घटनाओं का विश्लेषण करता है ताकि पोस्ट-डिप्लॉयमेंट जवाबदेही के महत्वपूर्ण अंतराल, विशेष रूप से बाहरी पहचान और प्रभाव मूल्यांकन में, को उजागर किया जा सके, और इन प्रणालीगत विफलताओं को संबोधित करने के लिए प्रोएक्टिव एआई गवर्नेंस कंप्लायंस फ्रेमवर्क (PAGCF) का प्रस्ताव दिया जा सके।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ अस्पतालों में जीवन-मरण के निर्णय लेने वाले सॉफ़्टवेयर, ऋण (लोन) देने का निर्णय लेने वाले एल्गोरिदम, और नौकरी के आवेदनों को छाँटने वाली प्रणालियाँ लगातार निगरानी में हों। वर्षों से, आर्टिफिशियल इंटेलिजेंस (AI) के बारे में चर्चा इस बात पर केंद्रित रही है कि इन प्रणालियों को कैसे बनाया जाता है और क्या वे चालू होने से पहले निष्पक्ष हैं। लेकिन एक नया प्रश्न उभरा है जो उतना ही महत्वपूर्ण है: उनके तैनात (डिप्लॉय) होने के बाद क्या होता है? एक बार जब ये प्रणालियाँ वास्तविक दुनिया में काम करने लगती हैं, तो उन्हें देखने, यह पहचानने के लिए कि वे कब गलत हो रही हैं, और लोगों को नुकसान पहुँचाने से पहले उन्हें ठीक करने के लिए कौन जिम्मेदार है? यह 'पोस्ट-डिप्लॉयमेंट जवाबदेही' (तैनाती के बाद की जवाबदेही) का क्षेत्र है। यह केवल कोड के बारे में नहीं है, बल्कि उन मानवीय और संगठनात्मक दिनचर्या के बारे में है जो कोड को नियंत्रण में रखती हैं। यदि कोई प्रणाली खतरनाक गलतियाँ करने लगती है, तो क्या कंपनी को तुरंत पता चलता है? क्या उनके पास इसे रोकने की कोई योजना है? क्या वे प्रभावित लोगों को सूचित करते हैं? इन सुरक्षा जालों के बिना, यहाँ तक कि सावधानीपूर्वक डिज़ाइन की गई तकनीक भी अनियंत्रित नुकसान का स्रोत बन सकती है।
शोधकर्ताओं की एक टीम यह देखने के लिए निकली कि क्या वास्तव में ये सुरक्षा जाल मौजूद हैं। उन्होंने सैद्धांतिक नियमों या कंपनी के वादों को नहीं देखा; इसके बजाय, उन्होंने आर्टिफिशियल इंटेलिजेंस प्रणालियों की वास्तविक दुनिया की विफलताओं का परीक्षण किया। उन्होंने 2020 और 2026 के बीच AI प्रणालियों द्वारा नुकसान पहुँचाने वाली 480 विशिष्ट घटनाओं का डेटा एकत्र किया। ये घटनाएँ चिकित्सा त्रुटियों से लेकर पक्षपाती भर्ती निर्णयों तक फैली हुई थीं और इन्हें एक सार्वजनिक डेटाबेस से एकत्र किया गया था जो ऐसी घटनाओं को ट्रैक करता है। शोधकर्ताओं ने फिर इन घटनाओं को AI को नियंत्रित करने के लिए बनाए गए तीन प्रमुख नियमों के सेट के विरुद्ध मापा: यूरोपीय संघ का AI एक्ट, अमेरिकी नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी का एक स्वैच्छिक ढांचा, और जनरल डेटा प्रोटेक्शन रेगुलेशन (GDPR), जो गोपनीयता पर केंद्रित है। वे इस ठोस प्रमाण की तलाश कर रहे थे कि शामिल कंपनियाँ उन कार्यों को कर रही थीं जिनकी ये नियम 要求 करते हैं, जैसे कि अपनी प्रणालियों की निरंतर निगरानी करना, गंभीर दुर्घटनाओं की रिपोर्ट करना, या होने से पहले जोखिमों का आकलन करना।
परिणामों ने एक कठोर वास्तविकता को उजागर किया: सुरक्षा जाल काफी हद तक गायब हैं। जब शोधकर्ताओं ने यह प्रमाण खोजने की कोशिश की कि कंपनियाँ लॉन्च के बाद अपनी प्रणालियों की निगरानी कर रही थीं, तो उन्हें लगभग कुछ भी नहीं मिला। लगभग 80 प्रतिशत मामलों में, इस बात का कोई सबूत नहीं था कि आवश्यक निरंतर निगरानी की जासी रही थी। गोपनीयता और जोखिम मूल्यांकन से संबंधित नियमों के लिए, यह अंतर और भी अधिक था; 99 प्रतिशत से अधिक प्रासंगिक मामलों में, ऐसा कोई सार्वजनिक रिकॉर्ड नहीं था जो यह दर्शाता हो कि कोई औपचारिक जोखिम मूल्यांकन किया गया था। यह चित्र कंपनियों द्वारा विशिष्ट कानूनों को तोड़ने का नहीं था, बल्कि उन दस्तावेजों और प्रक्रियाओं की पूर्ण अनुपस्थिति का था जो यह सिद्ध कर सकें कि वे किसी भी नियम का पालन कर रहे थे। शोधकर्ताओं ने पाया कि जब ये प्रणालियाँ विफल हुईं, तो सार्वजनिक रिकॉर्ड में शायद ही कभी यह दिखाया गया कि कोई देख रहा था, किसी के पास प्रतिक्रिया देने की योजना थी, या किसी को जवाबदेह ठहराया गया था।
सबसे अधिक खुलासा करने वाली खोज यह थी कि ये विफलताएँ कैसे पाई गईं। अधिकांश मामलों में, समस्याएँ उन कंपनियों द्वारा नहीं पकड़ी गईं जो इन प्रणालियों को चला रही थीं। इसके बजाय, उन्हें पत्रकारों, शोधकर्ताओं या जनता द्वारा तब उजागर किया गया जब नुकसान पहले ही हो चुका था। अध्ययन में पाया गया कि जब किसी कंपनी के पास त्रुटियों को देखने और उन्हें सार्वजनिक होने से पहले पकड़ने के लिए एक आंतरिक प्रणाली थी, तो परिणाम नाटकीय रूप से अलग था। उन गिने-चुने मामलों में जहाँ कंपनी ने स्वयं समस्या को ढूँढा, वे नियमों का पालन करने, तेजी से प्रतिक्रिया देने और मुद्दे को ठीक करने में कहीं अधिक सक्षम थे। यह सुझाव देता है कि समस्या के फटने से पहले उसे देखने की क्षमता ही सबसे महत्वपूर्ण कारक है कि क्या कोई कंपनी अपनी तकनीक को प्रभावी ढंग से संचालित कर सकती है। केवल कागज़ पर नीति होना पर्याप्त नहीं है; संगठन के पास वास्तव में यह देखने की क्षमता होनी चाहिए कि चीजें कब गलत हो रही हैं।
शोधकर्ता तर्क देते हैं कि AI गवर्नेंस (शासन) का वर्तमान दृष्टिकोण बहुत अधिक 'रिएक्टिव' (प्रतिक्रियात्मक) है। यह एक आपदा होने का इंतज़ार करता है और फिर उसके परिणामों को संभालने की कोशिश करता है। वे सोचने के एक नए तरीके का प्रस्ताव करते जो ध्यान को सिस्टम के संचालन से पहले और उसके दौरान की ओर स्थानांतरित करता है। इस दृष्टिकोण में चार चरण शामिल हैं: लॉन्च से पहले सिस्टम की गहन जाँच करना, इसके प्रदर्शन पर निरंतर नज़र रखना, चीज़ें गलत होने पर एक स्पष्ट योजना तैयार रखना, और यह जाँच करना कि विभिन्न मानकों के तहत सभी नियमों का पालन किया जा रहा है। अध्ययन बताता है कि यदि कंपनियाँ इस योजना के एक हिस्से को भी लागू कर सकें—विशेष रूप से, अपनी प्रणालियों की आंतरिक रूप से निगरानी करने की क्षमता—तो वे AI जोखिमों को संभालने के तरीके में भारी सुधार देखेंगी। साक्ष्य बताते हैं कि इन प्रणालियों को प्रबंधित करने के उपकरण और नियम मौजूद हैं, लेकिन वे दैनिक आदतें और निगरानी दिनचर्या जो उन्हें काम करने के लिए आवश्यक हैं, गायब हैं। जब तक संगठन अपने स्वयं के निर्माणों की निगरानी करने की क्षमता विकसित नहीं करते, तब तक AI विफलताओं को ठीक करने की जिम्मेदारी उन लोगों पर नहीं, बल्कि जनता पर आती रहेगी जिन्होंने उन्हें बनाया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।