← नवीनतम पेपर
🤖 AI

Sovereign Assurance Boundary: Certificate-Bound Admission for Agentic Infrastructure

यह शोध पत्र सॉवरेन एश्योरेंस बाउंड्री (SAB) प्रस्तुत करता है, जो एक सर्टिफिकेट-बाउंड रनटाइम एडमिशन लेयर है जो एजेंटिक इंफ्रास्ट्रक्चर के गैर-निश्चित जोखिमों को कम करने के लिए एजेंट प्रस्तावों को बीच में रोकता है, उन्हें क्रिप्टोग्राफिक साक्ष्य और नीतियों से बांधता है, और यह सुनिश्चित करने के लिए एक सॉवरेन ब्रोकर के माध्यम से सख्त प्री-एग्जीक्यूशन सत्यापन लागू करता है कि स्वायत्त कार्य क्रिप्टोग्राफिक रूप से सत्यापन योग्य, प्रतिसंहरणीय (revocable) और पुनरावृत्ति योग्य (replayable) हों।

मूल लेखक: Jun He, Deying Yu

प्रकाशित 2026-06-11
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Jun He, Deying Yu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही स्मार्ट, तेज़, लेकिन कभी-कभी अप्रत्याशित (unpredictable) रोबोट सहायक है। यह रोबोट आपके कंप्यूटर सिस्टम को देख सकता है और कह सकता है, "मुझे लगता है कि हमें यह फ़ायरवॉल बदलना चाहिए," या "चलो उस डेटाबेस को डिलीट कर देते हैं," या "मैं ये पासवर्ड बदल देता हूँ।"

अतीत में, यदि आपने इस रोबोट को 'चाबियों का अधिकार' (keys to the kingdom) दे दिया होता, तो यह अनजाने में आपको आपके अपने घर से बाहर लॉक कर सकता था या बल्ब ठीक करने के प्रयास में आपकी पारिवारिक तस्वीरें डिलीट कर सकता था। इसे अपने आप चीज़ें करने की अनुमति देना बहुत जोखिम भरा है।

यह पेपर एक नया सिस्टम पेश करता है जिसे सॉवरेन एश्योरेंस बाउंड्री (Sovereign Assurance Boundary - SAB) कहा जाता है। इसे एक हाई-टेक सुरक्षा चेकपॉइंट और "अनुमति पत्र" (permission slip) प्रणाली के रूप में समझें जो रोबोट के विचारों और आपके सिस्टम को बदलने वाले वास्तविक कार्य के बीच स्थित है।

यह कैसे काम करता है, इसके लिए सरल उपमाओं (analogies) का उपयोग किया गया है:

1. समस्या: रोबोट के पास "स्टॉप" बटन नहीं है

वर्तमान में, यदि कोई रोबोट (AI एजेंट) कुछ बदलने का निर्णय लेता है, तो वह अक्सर उसे बस कर देता है। यदि रोबोट भ्रमित हो जाता है या उसे धोखा दिया जाता है, तो वह बड़ी गलती कर सकता है। मौजूदा सुरक्षा प्रणालियाँ एक क्लब के बाउंसर की तरह हैं जो आपकी आईडी (आपका नाम) तो चेक करता है, लेकिन यह नहीं देखता कि आप क्या करने की कोशिश कर रहे हैं। वे कहते हैं, "हाँ, आप एक कर्मचारी हैं, इसलिए आप कोई भी दरवाज़ा खोल सकते हैं," भले ही वह दरवाज़ा खोलने से इमारत में बाढ़ आ जाए।

2. समाधान: "एयरलॉक" और "ब्रोकर"

यह पेपर रोबोट के काम को दो भागों में विभाजित करने का प्रस्ताव देता है:

  • प्रस्तावक (The Proposer - रोबोट): यह वह AI है जो विचार लाता है। इसके पास कोई चाबियाँ नहीं हैं और न ही इसमें कोई शक्ति है कि यह कुछ बदल सके। यह केवल एक प्रस्ताव लिख सकता है।
  • ब्रोकर (The Broker - मानव-समान गेटकीपर): यह एक भरोसेमंद सिस्टम है जिसके पास वास्तविक चाबियाँ होती हैं। यह सीधे रोबोट की बात नहीं सुनता। यह केवल एक विशेष "अनुमति पत्र" (permission slip) को सुनता है।

3. प्रक्रिया: "अनुमति पत्र" कैसे बनाया जाता है

जब रोबोट कुछ बदलना चाहता है, तो उसके विचार की यात्रा इस प्रकार होती है:

  • चरण 1: अनुबंध (The Contract - औपचारिक अनुरोध)
    रोबोट का अव्यवस्थित विचार एक सख्त, टाइप किए गए "अनुबंध" में अनुवादित किया जाता है। "इंटरनेट ठीक करो" कहने के बजाय, यह कहता है, "फ़ायरवॉल Y में नियम X जोड़ें, जिसमें विफल होने पर इसे वापस लेने की योजना शामिल हो।"
  • चरण 2: साक्ष्य बैग (The Evidence Bag - रसीद)
    सिस्टम इस बात का प्रमाण एकत्र करता है कि इस बदलाव की आवश्यकता अभी क्यों है। यह वर्तमान स्थिति का एक स्नैपशॉट (जैसे ट्रैफिक जाम की फोटो) लेता है और इसका एक डिजिटल फिंगरप्रिंट बनाता है। यह सुनिश्चित करता है कि रोबोट ऐसी समस्या को ठीक करने की कोशिश नहीं कर रहा है जो पहले ही खत्म हो चुकी है।
  • चरण 3: जोखिम स्कोर (The Risk Score - खतरा मीटर)
    एक कंप्यूटर गणना करता है कि यह विचार कितना खतरनाक है।
    • कम जोखिम: "एक गैर-महत्वपूर्ण सर्वर को रीस्टार्ट करना।" -> फास्ट ट्रैक।
    • उच्च जोखिम: "पूरे इंटरनेट के लिए एक फ़ायरवॉल खोलना।" -> यह एक रेड अलर्ट (खतरे की चेतावनी) को ट्रिगर करता है।
  • चरण 4: प्रमाणन पथ (The Certification Path - समीक्षा बोर्ड)
    जोखिम के आधार पर, विचार अलग-अलग समीक्षकों के पास जाता है:
    • कम जोखिम: केवल एक त्वरित कंप्यूटर चेक।
    • उच्च जोखिम: इसे एक "कोरम" (अन्य AI वैलिडेटर्स का एक समूह जो सहमत हो) और एक मानव के हस्ताक्षर की आवश्यकता होती है।
  • चरण 5: प्रमाणपत्र (The Certificate - गोल्डन टिकट)
    यदि सब कुछ पास हो जाता है, तो सिस्टम एक सॉवरेन एश्योरेंस सर्टिफिकेट जारी करता है। यह एक डिजिटल, हस्ताक्षरित टिकट है जो कहता है: "यह विशिष्ट कार्य, इस विशिष्ट साक्ष्य के आधार पर, इस विशिष्ट समय पर, और केवल इस विशिष्ट व्यक्ति द्वारा करने की अनुमति है।"

4. निष्पादन (The Execution): अंतिम जाँच

रोबोट इस सर्टिफिकेट को ब्रोकर के पास ले जाता है। ब्रोकर जाँचता है:

  • क्या हस्ताक्षर असली हैं?
  • क्या सर्टिफिकेट एक्सपायर हो गया है? (हो सकता है कि 10 सेकंड पहले एक नई पॉलिसी लिखी गई हो?)
  • क्या सर्टिफिकेट बनने के बाद से स्थिति बदल गई है? (क्या ट्रैफिक जाम खत्म हो गया है?)

यदि ब्रोकर खुश है, तो वह कार्य करने के लिए अपनी चाबियों का उपयोग करता है। यदि सर्टिफिकेट पुराना है या स्थिति बदल गई है, तो ब्रोकर "ना" कहता है और क्रिया को रोक देता है।

5. यह "सॉवरेन" क्यों है

पेपर इसे "सॉवरेन" कहता है क्योंकि यह शक्ति वापस संगठन (the Sovereign) के हाथों में डाल देता है। भले ही AI स्मार्ट हो, संगठन तय करता है:

  • कौन से नियम लागू होंगे।
  • टिकटों पर हस्ताक्षर कौन करेगा।
  • कुछ गलत होने पर टिकट को कब रद्द (cancel) करना है।

6. "ब्लैक बॉक्स" रिकॉर्ड

अंत में, सिस्टम सब कुछ एक अपरिवर्तनीय लॉग (unchangeable log) में लिख देता है। यदि बाद में कुछ गलत होता है, तो आप पूरी कहानी को फिर से चला सकते हैं: "यहाँ विचार था, यहाँ साक्ष्य था, यहाँ अनुमोदन था, और यहाँ परिणाम था।" आप इसे नकली नहीं बना सकते क्योंकि सब कुछ क्रिप्टोग्राफिक रूप से हस्ताक्षरित है।

सारांश

यह पेपर तर्क देता है कि हमें AI एजेंटों को बस चीज़ें "करने" की अनुमति नहीं देनी चाहिए। इसके बजाय, हमें उनके विचारों को प्रस्तावों के रूप में मानना चाहिए जिन्हें एक सुरक्षा एयरलॉक से गुजरना होगा, एक हस्ताक्षरित सर्टिफिकेट प्राप्त करना होगा, और किसी भी वास्तविक बदलाव से पहले एक भरोसेमंद ब्रोकर द्वारा सत्यापित किया जाना होगा। यह "स्वचालित अनुमति" को "अस्थायी, साक्ष्य-आधारित अनुमति" में बदल देता है जिसे किसी भी क्षण रद्द किया जा सकता है।

यह पेपर क्या दावा नहीं करता है:

  • यह दावा नहीं करता कि यह AI को सामान्य अर्थों में "सुरक्षित" बनाता है (AI अभी भी गलत हो सकता है)।
  • यह दावा नहीं करता कि यह मानव कर्मचारियों की जगह लेता है (उच्च-जोखिम वाले अनुमोदनों के लिए मनुष्यों की अभी भी आवश्यकता है)।
  • यह दावा नहीं करता कि यह हर स्थिति में पूरी तरह से काम करता है (पेपर स्वीकार करता है कि यह अच्छे साक्ष्य और अच्छी नीतियों पर निर्भर करता है)।
  • यह कोई चिकित्सा या नैदानिक उपकरण नहीं है; यह विशेष रूप से कंप्यूटर इंफ्रास्ट्रक्चर और आईटी ऑपरेशंस के लिए है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →