Comparative regulatory analysis and governance framework based on risk for liability and accountability in autonomous artificial intelligence systems

कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ आपका टोस्टर केवल ब्रेड को टोस्ट नहीं करता, बल्कि यह तय करता है कि आपको किस तरह की ब्रेड की ज़रूरत है—आपके मूड, आपकी डाइट और मौसम के आधार पर—और वह भी आपसे एक भी सवाल पूछे बिना। यह स्वायत्त आर्टिफिशियल इंटेलिजेंस (AI) का क्षेत्र है। पुराने ज़माने के रोबोटों के विपरीत, जो केवल निर्देशों की एक सख्त सूची (जैसे कि एक रेसिपी) का पालन करते थे, ये नई प्रणालियाँ सीखती हैं, अनुकूलन करती हैं और अपने स्वयं के निर्णय लेती हैं। वे डिजिटल शेफ की तरह हैं जो चलते-फिरते नई रेसिपी बना सकते हैं।

लेकिन यहाँ पेच यह है: जब एक डिजिटल शेफ रसोई में आग लगा देता है, तो दोषी किसे माना जाएगा? पुराने दिनों में, यदि कोई कार दुर्घटनाग्रस्त होती थी, तो हमें पता होता था कि गाड़ी कौन चला रहा था। यदि किसी टोस्टर ने किसी को बिजली का झटका दिया, तो हमें पता होता था कि इसे किसने बनाया। लेकिन स्वायत्त AI के साथ, जो अपने आप सोच सकता है, "ड्राइवर" वह व्यक्ति हो सकता है जिसने कोड लिखा, वह कंपनी जिसने इसे बेचा, वह व्यक्ति जिसने इसे चालू किया, या स्वयं AI भी हो सकता है। यह एक विशाल कानूनी पहेली पैदा करता है जिसे दायित्व (liability) (कौन जिम्मेदार है) और शासन (governance) (हम चीजों को सुरक्षित कैसे रखें) कहा जाता है। यदि हम इसे हल नहीं करते हैं, तो हम नई तकनीक का उपयोग करने से डर सकते हैं, या इससे भी बुरा, लोग बिना किसी जवाबदेही के चोटिल हो सकते हैं। यह वह बड़ा सवाल है जिसे वैज्ञानिक और वकील हल करने की कोशिश कर रहे हैं: हम यह कैसे सुनिश्चित करें कि ये स्मार्ट मशीनें सुरक्षित और निष्पक्ष हों, और यदि वे गलती करते हैं तो कीमत कौन चुकाएगा?

---

महान AI जवाबदेही रहस्य

यह शोध पत्र एक जासूसी कहानी की तरह है जहाँ अन्वेषक (लेखक) तीन अलग-अलग "कानूनी शहरों"—यूरोपीय संघ (EU), संयुक्त राज्य अमेरिका (US), और चीन—की यात्रा करते हैं ताकि यह देख सकें कि प्रत्येक क्षेत्र AI जिम्मेदारी के रहस्य को कैसे सुलझाने की कोशिश कर रहा है। वे केवल कानूनों को नहीं देख रहे हैं; वे यह देख रहे हैं कि वे कानून इस तथ्य को कैसे संभालते हैं कि AI हर दिन अधिक स्मार्ट और स्वतंत्र होता जा रहा है।

शोधकर्ताओं ने पाया कि पुराने नियम संघर्ष कर रहे हैं। कल्पना कीजिए कि आप 1950 के नक्शे का उपयोग करके एक ऐसे शहर में नेविगेट करने की कोशिश कर रहे हैं जो अचानक गगनचुंबी इमारतों, उड़ने वाली कारों और अदृश्य सुरंगों से भर गया है। जब हम नए AI के लिए पुराने कानूनों का उपयोग करते हैं, तो ऐसा ही होता है। पुराने कानून पूछते हैं, "बटन किसने दबाया?" लेकिन स्वायत्त AI के साथ, कभी-कभी किसी ने बटन नहीं दबाया; मशीन ने बस कार्य करने का निर्णय लिया। यह यह साबित करना कठिन बना देता है कि किसने समस्या पैदा की, जिसे कारणता (causation) की अवधारणा कहा जाता है। यह पता लगाने जैसा है कि दूध किसने गिराया जब दूध खुद एक ऐसे कार्टन से बाहर गिर गया जो खुद भरने के बारे में सीख रहा था।

तीन अलग-अलग दृष्टिकोण

यह पत्र तुलना करता है कि ये तीन क्षेत्र इस अराजकता को कैसे संभाल रहे हैं:

1. यूरोपीय संघ (नियम बनाने वाले): यूरोपीय संघ एक सख्त शिक्षक की तरह है जो खेल शुरू होने से पहले ही एक विशाल, विस्तृत नियम पुस्तिका लिख देता है। वे एक जोखिम-आधारित दृष्टिकोण (risk-based approach) का उपयोग करते हैं। इसका मतलब है कि यदि कोई AI सिस्टम एक खतरनाक खेल खेल रहा है (जैसे कार चलाना या बीमारी का निदान करना), तो उसे काम करने की अनुमति मिलने से पहले सुरक्षा नियमों, पारदर्शिता जाँचों और मानवीय पर्यवेक्षण की एक बड़ी सूची का पालन करना होगा। यदि यह एक कम जोखिम वाला खेल है (जैसे फिल्म की सिफारिश करना), तो नियम बहुत हल्के होते हैं। वे दुर्घटना होने से पहले उसे रोकने में विश्वास करते हैं।
2. संयुक्त राज्य अमेरिका (लचीले खिलाड़ी): अमेरिका एक कोच की तरह है जो खिलाड़ियों को अपनी मर्जी से चीजें सीखने देता है, और कारों तथा उत्पादों के मौजूदा नियमों पर भरोसा करता है। उनके पास अभी तक कोई एक विशाल AI नियम पुस्तिका नहीं है। इसके बजाय, वे लापरवाही और उत्पाद दोषों के पुराने कानूनों का उपयोग करते हैं। यदि कोई AI किसी को नुकसान पहुँचाता है, तो आप उन पर अदालत में मुकदमा चलाते हैं, और एक न्यायाधीश तय करता है कि क्या वे लापरवाह थे। उनके पास कुछ स्वैच्छिक दिशानिर्देश भी हैं (जैसे NIST फ्रेमवर्क) जिनका पालन कंपनियाँ चुन सकती हैं। यह लचीला है और नवाचार को बढ़ावा देता है, लेकिन यह भ्रमित करने वाला हो सकता है क्योंकि नियम हर जगह एक समान नहीं हैं।
3. चीन (पर्यवेक्षक): चीन एक रेफरी की तरह है जो खेल को किनारे से बहुत करीब से देखता है और जल्दी हस्तक्षेप करता है। उनका दृष्टिकोण राज्य-केंद्रित (state-centered) और सक्रिय है। वे उन कंपनियों पर भारी ध्यान केंद्रित करते हैं जो AI बनाती हैं और चलाती हैं, यह सुनिश्चित करते हुए कि उनके पास सख्त आंतरिक नियंत्रण और रिपोर्टिंग प्रणाली हो। वे निरंतर निगरानी और सरकारी निरीक्षण के माध्यम through समस्याओं को होने से पहले ही पकड़ना चाहते हैं।

"AI जवाबदेही सूचकांक" स्कोरकार्ड

यह देखने के लिए कि कौन सा शहर सबसे अच्छा काम कर रहा है, लेखकों ने एक विशेष स्कोरकार्ड बनाया जिसे आर्टिफिशियल इंटेलिजेंस जवाबदेही सूचकांक (AAI) कहा जाता है। इसे एक रिपोर्ट कार्ड की तरह समझें कि किसी देश के कानून छह प्रमुख क्षेत्रों में कितनी अच्छी तरह कवर करते हैं:

• पारदर्शिता (Transparency): क्या हम देख सकते हैं कि AI क्या कर रहा है? (ग्रेड का 20%)
• व्याख्यात्मकता (Explainability): क्या AI हमें बता सकता है कि उसने एक विकल्प क्यों चुना? (15%)
• दस्तावेजीकरण (Documentation): क्या उन्होंने सब कुछ लिख दिया? (15%)
• मानवीय पर्यवेक्षण (Human Oversight): क्या कोई इंसान AI को देख रहा है? (20%)
• ऑडिटिंग (Auditing): क्या कोई AI के काम की जाँच कर रहा है? (15%)
• जोखिम प्रबंधन (Risk Management): क्या वे चीजों के गलत होने की योजना बना रहे हैं? (15%)

यहाँ तीन शहरों का 100 में से स्कोर है:

• यूरोपीय संघ: 96। उन्हें A+ मिला क्योंकि उनके पास एक पूर्ण, एकीकृत प्रणाली है जो इन सभी क्षेत्रों को कवर करती है।
• चीन: 78। उन्हें B+ मिला क्योंकि उनके पास कंपनियों के लिए मजबूत नियम और सरकारी निरीक्षण है, लेकिन यह यूरोपीय संघ की शैली से थोड़ा अलग है।
• संयुक्त राज्य अमेरिका: 57। उन्हें C मिला क्योंकि उनके नियम बिखरे हुए हैं। वे पुराने कानूनों और स्वैच्छिक दिशानिर्देशों पर निर्भर हैं, इसलिए कवरेज में अंतराल हैं।

नया समाधान: एक "जोखिम-आधारित" ढांचा

पत्र सुझाव देता है कि केवल दुर्घटना के बाद दोष मढ़ने के बजाय, हमें एक ऐसी नई प्रणाली की आवश्यकता है जो जोखिम के स्तर को नियंत्रण के स्तर से मेल खाती हो।

लेखक एक जोखिम-आधारित शासन ढांचे (Risk-Based Governance Framework) का प्रस्ताव करते हैं। AI के लिए एक ट्रैफिक लाइट सिस्टम की कल्पना करें:

• हरी बत्ती (कम जोखिम/कम स्वायत्तता): यदि कोई AI केवल गाना सुझा रहा है, तो उसे बहुत कम पर्यवेक्षण की आवश्यकता है। यहाँ पुराने नियम ठीक काम करते हैं।
• पीली बत्ती (मध्यम जोखिम): यदि कोई AI डॉक्टर की मदद कर रहा है या बैंक खाता प्रबंधित कर रहा है, तो उसे अधिक जाँच की आवश्यकता है, जैसे कि उसके काम की समीक्षा करने के लिए एक मानव और उसके निर्णयों का लॉग रखना।
• लाल बत्ती (उच्च जोखिम/उच्च स्वायत्तता): यदि कोई AI कार चला रहा है या पावर ग्रिड को नियंत्रित कर रहा है, तो उसे एक पूरी सुरक्षा टीम की आवश्यकता है। इसे काम शुरू करने से पहले अनिवार्य मानवीय पर्यवेक्षण, निरंतर ऑडिटिंग और सख्त प्रमाणन की आवश्यकता होती है।

पत्र एक चतुर विचार पेश करता जिसे कार्यात्मक नियंत्रण (Functional Control) कहा जाता है। "किसकी गलती है?" पूछने के बजाय, यह पूछता है "किसके पास परिणाम को बदलने की शक्ति थी?"

• डेवलपर (जिसने मस्तिष्क बनाया): डिज़ाइन के लिए जिम्मेदार है।
• प्रदाता (जो इसे बेचता है): यह सुनिश्चित करने के लिए जिम्मेदार है कि इसका उपयोग सुरक्षित है।
• ऑपरेटर (जो इसका उपयोग करता है): काम करते समय इसकी निगरानी करने के लिए जिम्मेदार है।
• नियामक (सरकार): यह सुनिश्चित करने के लिए जिम्मेदार है कि सभी नियमों का पालन करें।

इस प्रकार, जिम्मेदारी उस आधार पर साझा की जाती है जिसके पास वास्तव में प्रणाली को प्रभावित करने की शक्ति है, न कि केवल आपदा होने का इंतजार करने और फिर किसी एक व्यक्ति को दोषी ठहराने के बजाय।

पेपर क्या कहता है (और क्या नहीं कहता)

लेखक सुझाव देते हैं कि यह नया ढांचा भविष्य को संभालने का एक बेहतर तरीका है, लेकिन वे सावधान रहते हुए कहते हैं कि यह एक वैचारिक मॉडल (conceptual model) है, न कि एक पूर्ण कानून जिसका हर स्थिति में परीक्षण किया गया हो। वे स्वीकार करते हैं कि उनके अध्ययन में केवल तीन देशों को देखा गया, इसलिए अन्य तरीके भी हो सकते हैं जिन्हें उन्होंने नहीं देखा। वे यह भी नोट करते हैं कि एक जटिल AI सिस्टम में प्रत्येक व्यक्ति के पास कितना "नियंत्रण" है, यह निर्धारित करना कठिन हो सकता है।

हालाँकि, मुख्य निष्कर्ष स्पष्ट है: स्मार्ट, स्वतंत्र मशीनों के लिए केवल एक व्यक्ति को दोष देने का पुराना तरीका काम नहीं कर रहा है। हमें एक ऐसी प्रणाली की आवश्यकता है जो यह देखे कि AI कितना जोखिम भरा है, वह अपने आप में कितने निर्णय लेता है, और किसके पास इसे चलाने की शक्ति है, जिससे एक सुरक्षा जाल बने जो इसके निर्माण से लेकर उपयोग तक के पूरे सफर को कवर करे। यह एक ऐसी दुनिया बनाने के बारे में है जहाँ हम AI द्वारा की जाने वाली अद्भुत चीजों का आनंद ले सकें बिना इस डर के कि जब चीजें गलत होंगी तो जिम्मेदार कौन होगा।