Sovereign Agentic Loops: Decoupling AI Reasoning from Execution in Real-World Systems
यह शोध पत्र सोवरेन एजेंटिक लूप्स (SAL) को प्रस्तुत करता है, जो एक कंट्रोल-प्लेन आर्किटेक्चर है जो तर्क (reasoning) को निष्पादन (execution) से अलग करके एआई सुरक्षा को बढ़ाता है, जिसमें एक सत्यापन परत (validation layer) होती है जो मॉडल के इरादों को उनके किए जाने से पहले सिस्टम नीतियों और स्थिति के विरुद्ध सत्यापित करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक अत्यंत बुद्धिमान, अविश्वसनीय रूप से तेज़, लेकिन कभी-कभी "भुलक्कड़" स्वभाव वाला इंटर्न है जिसका नाम AI है।
यह इंटर्न योजना बनाने में तो माहिर है, लेकिन इसे वास्तव में यह नहीं पता कि आपके कार्यालय में चीज़ें कहाँ रखी हैं, और कभी-कभी यह भ्रमित भी हो जाता है। आज के अधिकांश कंपनियों में, इंटर्न को इमारत की चाबियाँ दे दी जाती हैं और कहा जाता है, "यह मास्टर की (master key) है; अगर तुम्हें लगे कि किसी बल्ब को बदलने की ज़रूरत है, तो बस आगे बढ़ जाओ और कर दो।"
समस्या यह है कि यदि इंटर्न किसी मेमो (memo) का गलत अर्थ निकाल लेता है और सोच लेता है कि "सर्वर ओवरहीट हो रहा है" का अर्थ है "सर्वर को कूड़ेदान में फेंक देना चाहिए," तो वह इसे तुरंत कर देगा। उन्हें रोकने के लिए वहां कोई नहीं है क्योंकि उनके पास प्रत्यक्ष निष्पादन अधिकार (direct execution authority) है।
यह शोध पत्र, "सोवरेन एजेंटिक लूप्स" (Sovereign Agentic Loops), इन "भुलक्कड़" दिग्गजों के साथ काम करने का एक नया तरीका प्रस्तावित करता है।
मूल विचार: "स्मार्ट बफ़र" (The Smart Buffer)
इंटर्न को चाबियाँ देने के बजाय, लेखक एक मध्यस्थ का सुझाव देते हैं—एक सोवरेन कंट्रोल प्लेन (Sovereign Control Plane)।
इसे एक अत्यधिक अनुशासित कार्यकारी सहायक (Executive Assistant) की तरह समझें जो इंटर्न और वास्तविक कार्यालय उपकरणों के बीच बैठता है। यह प्रक्रिया तीन चतुर चरणों में काम करती है:
1. "धुंधले चश्मे" (The Obfuscation Membrane)
जब इंटर्न यह तय करने के लिए आपके कार्यालय को देखता है कि उसे क्या करना चाहिए, तो आप नहीं चाहते कि वह संवेदनशील चीज़ें देखे—जैसे आपके बैंक स्टेटमेंट या निजी पासवर्ड।
शोध पत्र सुझाव देता है कि इंटर्न को "धुंधले चश्मे" दिए जाएं। वे कमरे की संरचना देख सकते हैं (जैसे, "वहाँ एक डेस्क है, और उस पर एक कंप्यूटर है"), लेकिन वे चीज़ों की पहचान नहीं देख सकते (जैसे, "वह सीईओ का निजी लैपटॉप है जिसमें गुप्त फाइलें हैं" )। इस तरह, इंटर्न बिना कभी रहस्य जाने, लेआउट के बारे में तर्क कर सकता है।
2. "आदेश नहीं, प्रस्ताव" (Decoupling Reasoning from Execution)
पुराने तरीके में, इंटर्न कहता है: "डेटाबेस डिलीट कर दो!" और कंप्यूटर इसे कर देता है।
SAL (Sovereign Agentic Loop) के तरीके में, इंटर्न को किसी भी चीज़ को छूने की अनुमति नहीं है। इसके बजाय, उन्हें कार्यकारी सहायक के पास एक औपचारिक प्रस्ताव (formal proposal) जमा करना होगा। प्रस्ताव में यह स्पष्ट होना चाहिए:
- वे क्या करना चाहते हैं ("एक नोड को डिलीट करना")
- वे क्यों करना चाहते हैं ("क्योंकि यह बहुत अधिक बिजली का उपयोग कर रहा है")
3. "वास्तविकता की जाँच" (The Evaluation Engine)
अब, कार्यकारी सहायक (कंट्रोल प्लेन) उस प्रस्ताव को लेता है और दो परीक्षण करता है:
- नियम परीक्षण (The Rule Test): क्या यह कंपनी की नीति का उल्लंघन करता है? (जैसे, "आपको मंगलवार को कभी भी डेटाबेस डिलीट करने की अनुमति नहीं है।")
- सत्य परीक्षण (The Truth Test): क्या इंटर्न का "क्यों" वास्तव में वास्तविकता से मेल खाता है? यदि इंटर्न कहता है, "मैं एसी (AC) बंद करना चाहता हूँ क्योंकि बहुत ठंड है," लेकिन थर्मामीटर कहता है कि तापमान वास्तव में 90 डिग्री है, तो सहायक उस झूठ को पकड़ लेता है और कहता है, "अच्छा प्रयास, लेकिन नहीं।"
"ब्लैक बॉक्स" रिकॉर्डर (The Evidence Chain)
अंत में, शोध पत्र एक "ब्लैक बॉक्स" (जैसे हवाई जहाज में होता है) पेश करता है। प्रत्येक प्रस्ताव, दिया गया प्रत्येक कारण, जांचा गया प्रत्येक नियम और की गई प्रत्येक कार्रवाई को एक डिजिटल लेज़र (ledger) में लिखा जाता है जिसे मिटाया या बदला नहीं जा सकता। यदि कुछ गलत हो जाता है, तो आपको अनुमान लगाने की ज़रूरत नहीं है कि क्या हुआ; आप निर्णय लेने की पूरी प्रक्रिया को "रीप्ले" कर सकते हैं ताकि देख सकें कि तर्क कहाँ विफल हुआ।
क्या यह काम करता है? (परिणाम)
शोधकर्ताओं ने क्लाउड इंफ्रास्ट्रक्चर (इंटरनेट चलाने वाले डिजिटल "इंजन") पर OpenKedge नामक एक प्रोटोटाइप का उपयोग करके इसका परीक्षण किया।
- यह एक बेहतरीन बॉडीगार्ड है: इसने उनके परीक्षण में 100% "असुरक्षित" प्रयासों को रोका। इसने स्पष्ट नियम तोड़ने वालों और उन "झूठ बोलने वालों" को पकड़ा जिन्होंने गलत औचित्य दिया था।
- यह तेज़ है: इस "कार्यकारी सहायक" को जोड़ने से केवल लगभग 12 मिलीसेकंड का विलंब हुआ। एक इंसान के लिए, यह पलक झपकने से भी तेज़ है।
निचोड़ (The Bottom Line)
शोध पत्र का तर्क है कि हमें AI को "पूर्ण" बनाने की कोशिश नहीं करनी चाहिए (क्योंकि यह गणितीय रूप से गारंटी देना असंभव है कि AI कभी गलती नहीं करेगा)। इसके बजाय, हमें बेहतर पिंजरे बनाने चाहिए।
"सोचने" (जो अव्यवस्थित और अप्रत्याशित है) को "करने" (जो सख्त और सुरक्षित होना चाहिए) से अलग करके, हम AI एजेंटों को बिना इस डर के दुनिया चलाने दे सकते हैं कि वे गलती से इंटरनेट को ही डिलीट न कर दें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।