Verifiable Agentic Infrastructure: Proof-Derived Authorization for Sovereign AI Systems
यह शोध पत्र डिस्ट्रीब्यूटेड ट्रस्ट फ्रेमवर्क (DTF) को प्रस्तुत करता है, जो एक सत्यापन आर्किटेक्चर है जो स्थिर पहचान-आधारित प्राधिकरण के स्थान पर एक गतिशील, सर्वसम्मति-संचालित मॉडल द्वारा संप्रभु एआई (AI) प्रणालियों को सुरक्षित करता है, जहाँ निष्पादन अधिकार सख्ती से क्रिप्टोग्राफ़िक रूप से सत्यापन योग्य जस्टिफिकेशन प्रूफ और एक अपरिवर्तनीय एविडेंस चेन से प्राप्त होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, उच्च-सुरक्षा वाले बैंक का संचालन कर रहे हैं। पुराने दिनों में, आप अपने सुरक्षा गार्डों (AI एजेंटों) को एक मास्टर कुंजी देते थे जो हर दरवाजा खोल सकती थी। आप उन पर भरोसा करते थे क्योंकि उनके पास सही आईडी कार्ड था। लेकिन समस्या यह है: ये गार्ड अब AI हैं। वे तेज़ हैं, बुद्धिमान हैं, लेकिन कभी-कभी भ्रमित हो जाते हैं, मतिभ्रम (hallucinate) का शिकार हो जाते हैं, या उन्हें चकमा दिया जा सकता है। वे तब भी तिजोरी का दरवाजा खोलने की कोशिश कर सकते हैं जब उन्हें उसकी ज़रूरत नहीं होती, या वे वह पैसा हिलाने की कोशिश कर सकते हैं जिसे उन्हें छूना भी नहीं चाहिए, और यह सब करते समय उनके पास एक बिल्कुल वैध आईडी कार्ड होता है।
पुराना सिस्टम कहता था, "यदि आपके पास बैज है, तो आप जा सकते हैं।" नया सिस्टम, जैसा कि इस पेपर में वर्णित है, कहता है, "बैज होना ही काफी नहीं है। आपको इस एक विशिष्ट काम के लिए एक विशेष, हस्ताक्षरित अनुमति पर्ची (permission slip) की आवश्यकता है, जिसे न्यायाधीशों के एक पैनल द्वारा अनुमोदित किया गया हो, इससे पहले कि आप एक इंच भी हिल सकें।"
यह पेपर इस समस्या को ठीक करने के लिए DTF (डिस्ट्रीब्यूटेड ट्रस्ट फ्रेमवर्क) नामक एक प्रणाली पेश करता है। यह कैसे काम करता है, इसे सरल भागों में यहाँ समझाया गया है:
1. समस्या: "स्टैंडिंग प्रिविलेज" (स्थायी विशेषाधिकार) का जाल
वर्तमान में, यदि कोई AI एजेंट किसी सर्वर को डिलीट करना चाहता है या किसी वित्तीय सेटिंग को बदलना चाहता है, तो वह बस अपने स्थायी लॉगिन क्रेडेंशियल्स का उपयोग करता है। यदि वे क्रेडेंशियल वैध हैं, तो सिस्टम "हाँ" कहता है।
- जोखिम: एक AI गलती कर सकता है (जैसे यह सोचना कि एक सर्वर खाली है जबकि वास्तव में वह कंपनी की वेबसाइट चला रहा है) और उसे डिलीट कर सकता है। सिस्टम इसे होने देता है क्योंकि AI के पास "सही" आईडी थी।
2. समाधान: "अनुमति पर्ची" प्रणाली
AI एजेंट को अपने स्थायी आईडी के आधार पर कार्य करने देने के बजाय, DTF प्रणाली एक नई प्रक्रिया लागू करती है। इसे एक उच्च-दांव वाली निर्माण परियोजना (high-stakes construction project) की तरह समझें:
- चरण 1: इरादा (ब्लूप्रिंट)
AI एजेंट केवल कार्य "करता" नहीं है। वह पहले एक प्रस्ताव प्रस्तुत करता है: "मैं सर्वर X को बंद करना चाहता हूँ।" - चरण 2: औचित्य प्रमाण (सुरक्षा रिपोर्ट)
इसकी मंजूरी मिलने से पहले, सिस्टम स्वचालित रूप से एक औचित्य प्रमाण (Justification Proof) तैयार करता है। यह AI के सोचने का चैट लॉग नहीं है। यह एक संरचित, मशीन-पठनीय दस्तावेज़ है जो कहता है:- हम क्या कर रहे हैं? (सर्वर X को बंद करना)
- यह क्यों सुरक्षित है? (सर्वर X में कोई ट्रैफिक नहीं है, यह टीम B के स्वामित्व में है, और यह किसी महत्वपूर्ण निर्भरता का हिस्सा नहीं है)।
- सीमाएँ क्या हैं? (केवल यह सर्वर, केवल 5 मिनट के लिए)।
- चरण 3: आम सहमति (न्यायाधीशों का पैनल)
यह प्रमाण एक व्यक्ति या एक कंप्यूटर द्वारा अनुमोदित नहीं किया जाता है। इसे मूल्यांकियों के झुंड (Swarm of Evaluators) को भेजा जाता है। विभिन्न विशेषज्ञों के एक पैनल की कल्पना करें:- एक नियमों की जाँच करता है (पॉलिसी)।
- एक जाँचता है कि क्या सर्वर वास्तव में खाली है (स्टेट)।
- एक जोखिम की जाँच करता है (रिस्क)।
- एक बड़े निर्णयों के लिए मानव भी हो सकता है।
वे सभी एक ही प्रमाण को देखते हैं। यदि वे सभी सहमत होते हैं (या एक विशिष्ट आम सहमति तक पहुँचते हैं), तो कार्य को मंजूरी दी जाती है। यदि एक कहता है, "रुको, वह सर्वर वास्तव में महत्वपूर्ण है," तो पूरी प्रक्रिया रुक जाती है।
- चरण 4: निष्पादन पहचान (अस्थायी पास)
एक बार जब पैनल प्रमाण को मंजूरी दे देता है, तो सिस्टम एक अस्थायी, एक-बार उपयोग होने वाला पास बनाता है। यह पास सख्त सीमाओं में बंधा होता है। यह कहता है, "आप केवल सर्वर X को बंद कर सकते हैं, और केवल अगले 5 मिनट के लिए।" यह किसी और चीज़ को छू नहीं सकता। - चरण 5: साक्ष्य श्रृंखला (ब्लैक बॉक्स)
प्रत्येक चरण—प्रस्ताव, प्रमाण, न्यायाधीशों के वोट, अस्थायी पास और अंतिम परिणाम—को एक अपरिवर्तनीय, स्थायी लेज़र में रिकॉर्ड किया जाता है। यदि बाद में कुछ गलत हो जाता है, तो ऑडिटर्स पूरी कहानी को फिर से देख सकते हैं कि निर्णय क्यों लिया गया था।
3. यह क्यों महत्वपूर्ण है
पेपर का दावा है कि यह प्रणाली विश्वास के नियमों को बदल देती है:
- पुराना तरीका: एजेंट पर भरोसा करें (वह व्यक्ति जिसके पास बैज है)।
- नया तरीका: प्रक्रिया पर भरोसा करें (प्रमाण, न्यायाधीश और रिकॉर्ड)।
भले ही AI एजेंट भ्रमित हो या हैक हो गया हो, वह नुकसान नहीं पहुँचा सकता क्योंकि वह पैनल की मंजूरी के बिना "अनुमति पर्ची" प्राप्त नहीं कर सकता। और भले ही उसे पर्ची मिल जाए, वह केवल उसी एक विशिष्ट कार्य को कर सकता है जो उसमें सूचीबद्ध है।
4. परिणाम (पेपर ने क्या पाया)
लेखकों ने एक सिम्युलेटेड क्लाउड वातावरण में 10,000 कार्यों के साथ इस प्रणाली का परीक्षण किया।
- सुरक्षा: इसने सभी "असुरक्षित" कार्यों (जैसे कि उस सर्वर को डिलीट करने की कोशिश करना जो वास्तव में उपयोग में था) को रोका (100%)। पुराने सिस्टम इन खतरनाक गलतियों में से लगभग 14% को होने देते थे।
- नियंत्रण (Containment): इसने "ब्लास्ट रेडियस" (नुकसान का दायरा) को कम कर दिया। इसके बजाय कि एक AI की पहुंच 450 सर्वरों तक हो, उसे केवल उसी एक सर्वर तक पहुंच मिली जिसे उसे छूने की अनुमति दी गई थी।
- गति: पूरी प्रक्रिया (प्रमाण की जाँच करना, न्यायाधीशों के वोट प्राप्त करना और पास जारी करना) औसतन लगभग 58 मिलीसेकंड में पूरी हो गई। यह इतना तेज़ है कि यह व्यवसाय को धीमा नहीं करता है।
- ऑडिट क्षमता: वे रिकॉर्ड को देखकर 99.9% निर्णयों को पूरी तरह से फिर से दोहरा सके, जबकि पुराने सिस्टमों में कहानी में बड़े अंतराल रह जाते थे।
सारांश रूपक
एक बैंक वॉल्ट की कल्पना करें।
- पुराना सिस्टम: गार्ड के पास एक मास्टर कुंजी है। यदि वह कहता है, "मुझे तिजोरी खोलने की ज़रूरत है," तो वह उसे खोल देता है। यदि उसका दिन खराब चल रहा हो या उसे चकमा दिया गया हो, तो तिजोरी खुल जाती है।
- DTF सिस्टम: गार्ड को एक फॉर्म भरना पड़ता है। तीन अलग-अलग मैनेजरों की एक टीम फॉर्म की समीक्षा करती है ताकि यह सुनिश्चित किया जा सके कि तिजोरी खोलने की ज़रूरत है और यह सुरक्षित है। यदि वे सहमत होते हैं, तो एक मशीन एक एकल-उपयोग, लेजर-कट कुंजी प्रिंट करती है जो केवल उस विशिष्ट वॉल्ट के दरवाजे के लिए 5 मिनट के लिए फिट होती है। गार्ड उस कुंजी का उपयोग करता है, और एक कैमरा पूरी प्रक्रिया के हर सेकंड को रिकॉर्ड करता है। यदि गार्ड उस कुंजी का उपयोग किसी अन्य दरवाजे पर करने की कोशिश करता है, तो लॉक बस नहीं घूमेगा।
पेपर का तर्क है कि हमारे महत्वपूर्ण सिस्टमों (जैसे बैंक, पावर ग्रिड या क्लाउड सर्वर) को चलाने वाले AI एजेंटों के लिए, हमें "गार्ड" पर भरोसा करना बंद करना होगा और "प्रक्रिया" पर भरोसा करना शुरू करना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।