Mind The Gap: How The Technical Mechanism Of Agentic AI Outpace Global Legal Frameworks
यह शोध पत्र तर्क देता है कि वर्तमान वैश्विक कानूनी ढांचे एजेंटिक एआई (agentic AI) को नियंत्रित करने में विफल रहते हैं क्योंकि वे मॉडल की क्षमता (model capability) को पुनरावृत्ति निष्पादन लूप (iterative execution loops) के साथ भ्रमित करके इसकी तकनीकी वास्तुकला को मौलिक रूप से गलत समझते हैं, जिससे ऐसे नियम बनते हैं जो स्वायत्तता के वास्तविक तंत्रों को संबोधित करने में संरचनात्मक रूप से अक्षम हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: "माइंड द गैप" (खाई का ध्यान रखें) की समस्या
कल्पना कीजिए कि आप एक नया तरह का कार बना रहे हैं। यह सिर्फ एक ऐसी कार नहीं है जो खुद चलती है; यह एक ऐसी कार है जो तय कर सकती है कि किराने के सामान के लिए जाना है, गैस स्टेशन पर रुकना है, ईंधन के लिए भुगतान करना है, और फिर आपको घर छोड़ना है, वह भी बिना आपके स्टीयरिंग को छुए।
अब, कल्पना कीजिए कि सरकार इस कार के लिए यातायात नियम लिखने की कोशिश करती है। लेकिन कानून बनाने वाले इस कार को देख रहे हैं और सोच रहे हैं, "यह तो बस एक बहुत ही शानदार साइकिल है।" वे इस बारे में नियम लिख रहे हैं कि हैंडल कैसे पकड़ना है और घंटी कैसे बजानी है।
यह पेपर बिल्कुल यही कह रहा है जो AI के साथ हो रहा है।
लेखक, मार्सेल ऑस्मोंड और थॉमस जेगो का तर्क है कि दुनिया के शीर्ष कानूनी विशेषज्ञ और सरकारें "एजेंटिक AI" (वह AI जो अपने आप काम करता है) को विनियमित करने की कोशिश कर रही हैं, लेकिन वे वास्तव में इसे समझते नहीं हैं। वे पुराने परिभाषाओं और मानवीय रूपकों (metaphors) का उपयोग कर रहे हैं जो इस तकनीक पर फिट नहीं बैठते। इस कारण से, कानून वास्तविक खतरों को समझने में चूक रहे हैं।
"एजेंटिक AI" क्या है? (वास्तविक चीज़)
समस्या को समझने के लिए, हमें पहले यह जानना होगा कि यह तकनीक वास्तव में क्या है।
- पुराना तरीका (स्टैंडर्ड AI): एक बोतल में बंद जिन्न के बारे में सोचें। आप बोतल को रगड़ते हैं (प्रॉम्प्ट देते हैं), और जिन्न आपको एक इच्छा (एक उत्तर) देता है। वह एक काम करता है और रुक जाता है। वह बाहर जाकर आपके लिए सैंडविच नहीं खरीदता।
- नया तरीका (एजेंटिक AI): एक चाबियों के छल्ले वाले पर्सनल असिस्टेंट के बारे में सोचें। आप उसे कहते हैं, "एक डिनर पार्टी की योजना बनाओ।" वह सिर्फ इसके बारे में बात नहीं करता। वह यह करता है:
- आपका कैलेंडर चेक करता है।
- रेसिपी खोजने के लिए ऑनलाइन जाता है।
- स्टोर से सामग्री का ऑर्डर देता है।
- आपके दोस्तों को निमंत्रण भेजता है।
- रेस्टोरेंट में टेबल बुक करता है।
यह काम पूरा करने के लिए यह एक लूप (loop) में चलता है, और टूल्स (APIs, डेटाबेस, वेब) का उपयोग करता है। इसे हर कदम के बाद आपसे "हाँ" कहने की ज़रूरत नहीं होती।
कानून में चार बड़ी गलतियाँ
यह पेपर यूरोपीय संघ (EU), अमेरिका, यूके और सिंगापुर जैसी जगहों के 11 अलग-अलग कानूनों और दिशानिर्देशों की समीक्षा करता है। यह पाता है कि वे सभी एक ही चार गलतियाँ करते हैं।
1. "मानव मस्तिष्क" की गलती (मानवीकरण/Anthropomorphism)
गलती: कानून कहते हैं कि AI "सोचता" है, "तर्क करता है", "निर्णय लेता है" और "सीखता" है।
वास्तविकता: AI एक विशाल ऑटो-कम्प्लीट (Giant Autocomplete) है। यह सोच नहीं रहा है; यह गणित के आधार पर वाक्य में अगले शब्द की भविष्यवाणी कर रहा है। इसका कोई दिमाग या विवेक नहीं है।
- उपमा: कल्पना कीजिए कि एक तोता है जिसने दुनिया की हर कानून की किताब पढ़ ली है। यदि आप उससे पूछते हैं, "क्या यह कानूनी है?" तो वह कह सकता है, "हाँ, क्योंकि टेक्स्ट ऐसा ही कहता है।" वह यह निर्णय नहीं ले रहा है कि यह कानूनी है; वह बस उन पैटर्न्स को दोहरा रहा है जो उसने पहले देखे थे।
- यह क्यों मायने रखता है: यदि कानून सोचते हैं कि AI "निर्णय" ले रहा है, तो वे बुरे निर्णयों के लिए AI को दंडित करने की कोशिश करते हैं। लेकिन AI को दंडित नहीं किया जा सकता। वह इंसान जिसने तोते को किताबें दीं और उसे बोलने के लिए कहा, वही जिम्मेदार होना चाहिए।
2. "टीम का आकार" वाली गलती (आर्किटेक्चरल कन्फ़्लेशन)
गलती: कुछ कानून (जैसे EU के) कहते हैं कि एक AI तभी "एजेंटिक" है जब वह कई AI की एक टीम हो जो आपस में बात कर रहे हों।
वास्तविकता: आपको टीम की ज़रूरत नहीं है। एक एकल (single) AI जो टूल्स का उपयोग कर सकता है, वह पहले से ही खतरनाक है।
- उपमा: कल्पना कीजिए कि एक बैंक लुटेरा है। कानून कहता है, "हम केवल तभी डकैती की चिंता करते हैं जब 10 लोगों का गिरोह घुस आए।" लेकिन एक अकेला व्यक्ति जिसके पास कीकार्ड और ड्रिल है, वह भी बैंक लूट सकता है। खतरा लोगों की संख्या में नहीं है; खतरा उन टूल्स में है जो उनके पास हैं।
- यह क्यों मायने रखता है: यदि कानून केवल "टीमों" पर नज़र रखते हैं, तो वे उस अकेले AI को अनदेखा कर देते है जिसका उपयोग वर्तमान में डेटा चोरी करने या सिस्टम क्रैश करने के लिए किया जा रहा है।
3. "वॉल्यूम नॉब" वाली गलती (स्वायत्तता के स्तरों का भ्रम)
गलती: कानून स्वायत्तता (autonomy) को एक वॉल्यूम नॉब की तरह मानते हैं। उन्हें लगता है कि एक AI या तो "थोड़ा स्वायत्त" है या "बहुत स्वायत" है, जैसे रेडियो की आवाज़ बढ़ाना।
वास्तविकता: स्वायत्तता एक लाइट स्विच है। या तो "इंसान नियंत्रण में है" या "मशीन कोड चलाने के एक लूप में है।"
- उपमा: एक सेल्फ-ड्राइविंग कार के बारे में सोचें।
- लेवल 1: आप गाड़ी चलाते हैं, कार थोड़ा स्टीयर करती है।
- लेवल 5: आप सो जाते हैं, कार चलती है।
- कानून को लगता है कि यह एक स्मूथ स्लाइड (धीमी गति) है। लेकिन तकनीकी रूप से, जिस क्षण कार आपके हर मोड़ की जांच किए बिना खुद गाड़ी चलाना शुरू करती है, कार का आर्किटेक्चर पूरी तरह से बदल जाता है। यह सिर्फ "अधिक" ड्राइविंग नहीं है; यह एक पूरी तरह से अलग मशीन है।
- यह क्यों मायने रखता है: इसे एक "स्तर" (level) के रूप में मानकर, नियामक इस तथ्य को मिस कर देते हैं कि एक बार जब AI टूल्स का उपयोग करना शुरू कर देता है, तो खेल के नियम पूरी तरह से बदल जाते हैं।
4. "मेमोरी" की गलती (सीखने का मिथक)
गलती: कानून कहते हैं कि AI समय के साथ बेहतर होने के लिए चीजें "सीखता" है और "याद रखता" है।
वास्तविकता: AI का दिमाग जमा हुआ (frozen) है। वह काम करते समय नहीं सीखता है।
- उपमा: एक छात्र की कल्पना करें जो परीक्षा दे रहा है। छात्र के पास इंडेक्स कार्डों का एक ढेर (डेटाबेस) है। हर बार जब उसे कोई सवाल मिलता है, तो वह कार्ड देखता है, उत्तर पढ़ता है, और उसे लिख देता है। वह उत्तर सीख नहीं रहा है; वह बस कार्ड पढ़ रहा है।
- यह क्यों मायने रखता है: यदि कानून सोचते हैं कि AI "सीख" रहा है, तो वे मांग कर सकते हैं कि हर बार कुछ नया "सीखने" पर AI का पुन: परीक्षण किया जाए। लेकिन चूंकि वह सिर्फ कार्ड पढ़ रहा है, वह वास्तव में कभी बदलता नहीं है। असली जोखिम यह है: इंडेक्स कार्ड किसने लिखे? कानून को छात्र (AI) की जांच करने के बजाय कार्डों (डेटा और अनुमतियों) की जांच करनी चाहिए।
ऐसा क्यों होता है?
लेखक कहते हैं कि ऐसा इसलिए नहीं है कि वकील मूर्ख हैं। बल्कि इसलिए है क्योंकि:
- वे इंजीनियर नहीं हैं: कानून बनाने वाले लोग कानूनी विशेषज्ञ हैं, कोडर नहीं। वे नहीं जानते कि मशीन अंदर से कैसे काम करती है।
- वे मानवीय शब्दों का उपयोग करते हैं: एक जटिल कंप्यूटर लूप को समझाना कठिन है, इसलिए वे "तर्क करना" और "योजना बनाना" जैसे शब्दों का उपयोग करते हैं क्योंकि हमारे पास यही शब्द उपलब्ध हैं।
- वे पुराने नक्शों का उपयोग कर रहे हैं: वे एक नई दुनिया (एजेंटिक AI) में नेविगेट करने के लिए पुराने विश्व (स्टैंडर्ड AI) के नक्शे का उपयोग करने की कोशिश कर रहे हैं।
निष्कर्ष: क्या बदलने की ज़रूरत है?
पेपर का तर्क है कि हमें AI को एक "रोबोट इंसान" के रूप में देखना बंद करना चाहिए और इसे एक चाबियों के छल्ले वाली मशीन के रूप में देखना शुरू करना चाहिए।
यह पूछने के बजाय कि, "क्या AI सोच रहा है?" हमें पूछना चाहिए:
- "AI को किन टूल्स को छूने की अनुमति है?"
- "निर्देश (प्रॉम्प्ट) किसने लिखे?"
- "मशीन के चारों ओर सुरक्षा घेरे (sandboxing) क्या हैं?"
मुख्य बात:
यदि हम AI के "व्यक्तित्व" को विनियमित करते रहेंगे, तो हम वास्तविक खतरों को मिस कर देंगे। हमें मैकेनिक्स (mechanics) को विनियमित करने की आवश्यकता है: कोड, अनुमतियाँ और टूल्स। जब तक कानून वास्तविक तकनीक के साथ तालमेल नहीं बिठा लेते, तब तक एक खतरनाक अंतराल बना रहेगा जहाँ बुरी चीजें हो सकती हैं, और किसी को पता नहीं चलेगा कि जिम्मेदार कौन है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।