Post-Deployment Accountability in AI Governance: A Cross-Regulatory Empirical Analysis of AI Incidents
यह अध्ययन प्रमुख नियामक ढांचों के विरुद्ध एआई (AI) घटनाओं का अनुभवजन्य विश्लेषण करता है ताकि महत्वपूर्ण पोस्ट-डिप्लॉयमेंट जवाबदेही अंतराल को प्रकट किया जा सके, जो यह प्रदर्शित करता है कि अनुपालन के लिए आंतरिक निगरानी क्षमता अत्यंत महत्वपूर्ण है और इन प्रणालीगत कमियों को दूर करने के लिए प्रोएक्टिव एआई गवर्नेंस कंप्लायंस फ्रेमवर्क (PAGCF) का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया की कल्पना एक विशाल, हलचल भरे शहर के रूप में करें जहाँ रोबोटों को बीमारियों का निदान करने से लेकर ऋण (लोन) स्वीकृत करने तक सब कुछ करने के लिए काम पर रखा गया है। लंबे समय तक, बड़ी चिंता केवल इस बात को लेकर थी कि इन रोबोटों को कैसे बनाया जा रहा है—यह सुनिश्चित करना कि वे स्मार्ट, निष्पक्ष हों और उनके मस्तिष्क में कोई खराब कोड न हो। लेकिन हाल ही में, वैज्ञानिकों और वकीलों ने महसूस किया है कि एक रोबोट बनाना कहानी का केवल आधा हिस्सा है। असली चुनौती यह है कि रोबोट के काम शुरू करने के बाद क्या होता है। इस क्षेत्र को "पोस्ट-डिप्लॉयमेंट गवर्नेंस" (तैनाती के बाद का शासन) कहा जाता है। इसे एक कार बनाने और वास्तव में सड़क पर उसे चलाने के बीच के अंतर की तरह समझें। आप कारखाने में एक बेहतरीन कार बना सकते हैं, लेकिन यदि आपके पास हर दिन ब्रेक की जांच करने वाला मैकेनिक, एक ऐसा स्पीडोमीटर नहीं है जो वास्तव में काम करता हो, और इंजन में आग लगने पर क्या करना है इसकी स्पष्ट योजना नहीं है, तो वह कार सभी के लिए खतरा है।
यह शोध पत्र उस "कारखाने के बाद के" चरण की गहराई में जाता है। यह नियमों के तीन बड़े सेटों पर नज़र डालता है जिन्हें सरकारों और संगठनों ने AI को सुरक्षित रखने के लिए बनाया है: EU AI एक्ट (यूरोप से कड़े कानूनों का एक समूह), NIST AI रिस्क मैनेजमेंट फ्रेमवर्क (अमेरिका से एक स्वैच्छिक मार्गदर्शिका), और GDPR (व्यक्तिगत डेटा की सुरक्षा के लिए एक नियम पुस्तिका)। बड़ा सवाल केवल यह नहीं है कि "क्या ये नियम मौजूद हैं?" बल्कि यह है कि "जब चीजें गलत होती हैं, तो क्या वे वास्तव में काम करते हैं?" लेखक यह देखना चाहते थे कि जब कोई AI सिस्टम गड़बड़ी करता है, तो क्या प्रभारी लोग वास्तव में देख रहे हैं, समस्या की रिपोर्ट कर रहे हैं, और उसे ठीक कर रहे हैं, या वे केवल इस उम्मीद में हैं कि कोई ध्यान न दे।
द ग्रेट AI रियलिटी चेक (महान AI वास्तविकता जांच)
कल्पthought करें कि आप एक ऐसे शहर में जांच कर रहे हैं जहाँ 480 अलग-अलग रोबोटों ने 2020 और 2026 के बीच दुर्घटनाएं की हैं। कुछ रोबोटों ने गलत चिकित्सा सलाह दी, कुछ ने ऋण आवेदनों को अनुचित रूप से खारिज कर दिया, और कुछ ने ट्रैफिक जाम कर दिया। आपका काम पुलिस रिपोर्टों की जांच करना है और यह देखना है कि क्या रोबोट के मालिकों ने उन नियम पुस्तिकाओं का पालन किया जिनका उन्हें पालन करना चाहिए था।
इस शोध पत्र के लेखकों ने बिल्कुल यही किया। उन्होंने 480 वास्तविक दुनिया की AI आपदाओं को देखा और उनकी तुलना ऊपर बताए गए तीन प्रमुख नियम पुस्तिकाओं के नौ विशिष्ट नियमों से की। वे "साक्ष्य" (एविडेंस) की तलाश कर रहे थे—जैसे कि एक लॉगबुक जो दिखाती हो कि कोई रोबोट को देख रहा था, एक रिपोर्ट जो रोबोट के टूटने पर दर्ज की गई हो, या उसे बंद करने की कोई योजना।
बड़ा आश्चर्य: "घोस्ट" (भूतिया) नियम
परिणाम थोड़े डरावने थे। पता चला कि अधिकांश दुर्घटनाओं के लिए, सुरक्षा नियम मूल रूप रूप से "घोस्ट" (केवल कागजी) थे। वे कागज पर तो मौजूद थे, लेकिन आप वास्तविक दुनिया में उनका कोई निशान नहीं ढूंढ सके।
- EU AI एक्ट: यह नियम पुस्तिका कहती है कि उच्च-जोखिम वाले रोबोटों को एक "पोस्ट-मार्केट मॉनिटर" की आवश्यकता होती है—मूल रूप से एक सुरक्षा कैमरा जो लॉन्च होने के बाद 24/7 रोबोट को देखता रहे। अध्ययन में पाया गया कि 77.1% दुर्घटनाओं में, ऐसा कोई सबूत नहीं था कि कोई देख रहा था। यह बिना ब्रेक वाली कार चलाने जैसा था और डैशबोर्ड की जांच करने वाला भी कोई नहीं था।
- GDPR (डेटा संरक्षण): यह नियम कहता है कि यदि आप जोखिम भरे तरीके से व्यक्तिगत डेटा का उपयोग करते हैं, तो आपको "डेटा-प्रोटेक्शन इम्पैक्ट असेसमेंट" (काम शुरू करने से पहले एक सुरक्षा जांच) करना चाहिए। अध्ययन में पाया गया कि 99.6% घटनाओं में इस सुरक्षा जांच का कोई रिकॉर्ड कभी नहीं मिला।
- NIST फ्रेमवर्क: यह मार्गदर्शिका सुझाव देती है कि जब चीजें गलत होती हैं तो उन्हें ठीक करने के लिए आपके पास एक योजना होनी चाहिए। हालांकि कुछ कंपनियों ने अंततः खराब रोबोटों को बंद कर दिया (लगभग 57.5% बार), लेकिन वे आमतौर पर तभी ऐसा करती थीं जब नुकसान हो चुका होता और खबर टीवी पर आ चुकी होती थी। वे सक्रिय रूप से सुधार नहीं कर रहे थे; वे बस गंदगी साफ कर रहे थे।
"सिस्टमिक" ग्लिच (व्यवस्थागत खराबी)
लेखकों ने यह भी जांचा कि क्या ये विफलताएं केवल यादृच्छिक (रैंडम) गलतियां थीं या पूरा सिस्टम ही टूटा हुआ था। उन्होंने पाया कि 9.8% दुर्घटनाएं एक साथ दो या अधिक नियम पुस्तिकाओं के तहत विफलताएं थीं। यह सुझाव देता है कि समस्या केवल यह नहीं है कि एक नियम पुस्तिका खराब है; बल्कि यह है कि AI सुरक्षा को प्रबंधित करने का हमारा पूरा तरीका कुछ महत्वपूर्ण पुर्जों की कमी से जूझ रहा है। यह एक ऐसी कार की तरह है जिसमें एक साथ ब्रेक, स्टीयरिंग व्हील और सीटबेल्ट तीनों गायब हैं।
गुप्त हथियार: "इंटरनल डिटेक्टिव" (आंतरिक जासूस)
यहाँ कहानी का सबसे दिलचस्प हिस्सा है। शोधकर्ताओं ने कंपनी की अपनी टीम द्वारा खोजी गई दुर्घटनाओं और बाहरी दुनिया (जैसे पत्रकार, नाराज उपयोगकर्ता, या शोधकर्ता) द्वारा खोजी गई दुर्घटनाओं के बीच एक बड़ा अंतर देखा।
- आंतरिक पहचान (Internal Detection): जब किसी कंपनी ने समस्या को स्वयं खोजा, तो उनके नियमों का पालन करने की संभावना बहुत अधिक थी। EU AI एक्ट के लिए, इन स्वयं-खोजी गई दुर्घटनाओं में से 87.5% ने अनुपालन (compliance) दिखाया।
- बाहरी पहचान (External Detection): जब बाहरी दुनिया ने समस्या को खोजा, तो अनुपालन दर गिरकर मात्र 5.3% रह गई।
यह सुझाव देता है कि जिन कंपनियों के पास अपने कार्यालय में वास्तव में एक "जासूस" है, जो हर दिन रोबोट को देख रहा है, वे ही समस्याओं को जल्दी पकड़ते हैं और नियमों का पालन करते हैं। वे कंपनियां जो खबर आने तक इंतजार करती हैं कि समस्या कब सामने आए, वे ही सुरक्षा जांच में विफल होती हैं। लेखक सुझाव देते हैं कि एक आंतरिक निगरानी प्रणाली होना इस बात का एक बड़ा संकेत है कि एक कंपनी अच्छा काम कर रही है, हालांकि वे स्वीकार करते हैं कि वे यह साबित नहीं कर सकते कि यह अच्छे व्यवहार का कारण है (शायद अच्छी कंपनियों के पास पहले से ही दोनों चीजें होती हैं)।
प्रस्तावित समाधान: PAGCF
चूंकि वर्तमान प्रणाली मुख्य रूप से प्रतिक्रियात्मक (Reactive) है (चीजों के टूटने के बाद ठीक करना), लेखक एक नई योजना प्रस्तावित करते हैं जिसे प्रोजेक्टिव AI गवर्नेंस कंप्लायंस फ्रेमवर्क (PAGCF) कहा जाता है। कल्पना करें कि यह रोबोट ड्राइवरों के लिए एक नया प्रशिक्षण मैनुअल है। केवल दुर्घटनाओं पर प्रतिक्रिया देने के बजाय, इस योजना में चार चरण हैं:
- प्री-डिप्लॉयमेंट असेसमेंट (तैनाती-पूर्व मूल्यांकन): रोबोट के शुरू होने से पहले, उसके सुरक्षा उपकरणों की जांच करें और एक योजना बनाएं।
- निरंतर निगरानी (Continuous Monitoring): दुर्घटनाओं के रूप में बदलने से पहले समस्याओं को पकड़ने के लिए रोबोट पर 24/7 लाइव कैमरा रखें।
- इंसिडेंट प्रिपेयर्डनेस (घटना तैयारी): एक "फायर ड्रिल" तैयार रखें। यदि रोबोट गड़बड़ी करता है तो ठीक से जानें कि किसे कॉल करना है और क्या कहना है।
- क्रॉस-फ्रेमवर्क वेरिफिकेशन (क्रॉस-फ्रेमवर्क सत्यापन): सुनिश्चित करें कि आप केवल एक नहीं, बल्कि सभी नियम पुस्तिकाओं का एक साथ पालन कर रहे हैं।
हमारे लिए इसका क्या अर्थ है
शोध पत्र निष्कर्ष निकालता है कि हम केवल अधिक नियम लिखकर और यह उम्मीद करके काम नहीं चला सकते कि वे काम करेंगे। नियम पहले से ही मौजूद हैं, लेकिन कोई उनका उपयोग नहीं कर रहा है। सबसे बड़ा सबक यह है कि हमें AI के टूटने के लिए समाचारों का इंतजार करना बंद करना होगा। हमें ऐसे सिस्टम बनाने की आवश्यकता है जो AI को काम करते समय देखते रहें। लेखक सुझाव देते हैं कि यदि कंपनियां पहले इस "आंतरिक निगरानी" को शुरू कर दें, तो वे लगभग शून्य सुरक्षा अनुपालन से बढ़कर 85% से अधिक अनुपालन तक पहुंच सकती हैं।
यह कोई जादू की छड़ी नहीं है, और लेखक सावधानी बरतते हुए कहते हैं कि यह उनके द्वारा देखे गए डेटा पर आधारित है, न कि किसी गारंटीकृत समाधान पर। लेकिन संदेश स्पष्ट है: यदि हम चाहते हैं कि AI सुरक्षित रहे, तो हमें गंदगी साफ करने वाले व्यक्ति बनने के बजाय गंदगी को रोकने वाले व्यक्ति बनना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।