तकनीकी सारांश: एजेंटबाउंड (AgentBound) – स्वायत्त एआई एजेंटों के लिए सत्यापन योग्य व्यवहार संबंधी शासन

1. समस्या विवरण

स्वायत्त एआई एजेंटों को तेजी से महत्वपूर्ण कार्यों (जैसे, वित्तीय लेनदेन, एंटरप्राइज वर्कफ़्लो) के लिए बिना निरंतर मानवीय पर्यवेक्षण के भरोसेमंद बनाया जा रहा है। जबकि वर्तमान बुनियादी ढांचा पहचान संघोन्मुखीकरण (एजेंट कौन है) और प्रत्यायोजित प्राधिकरण (एजेंट किन संसाधनों तक पहुंच सकता है) को प्रभावी ढंग से संभालता है, यह एक महत्वपूर्ण "व्यवहार संबंधी शासन अंतराल" (behavioral governance gap) से ग्रस्त है।

मौजूदा प्रणालियाँ संदर्भगत उपयुक्तता (contextual suitability) के प्रति मौलिक रूप से अंधी हैं: वे यह निर्धारित करने में असमर्थ हैं कि विशिष्ट, बदलते रनटाइम परिस्थितियों के तहत एक अधिकृत कार्य को निष्पादित किया जाना चाहिए या नहीं। एक एजेंट पूरी तरह से प्रमाणित और अपने OAuth स्कोप के भीतर हो सकता है, फिर भी वह मानवीय प्रधान (human principal) के इरादे का उल्लंघन करने वाले निर्णय ले सकता है (जैसे, ब्लैकआउट अवधि के दौरान रिफंड निष्पादित करना, अनपेक्षित सामग्री प्रकाशित करना, या कम-आत्मविश्वास वाले अनुमानों पर कार्य करना)। ये विफलताएं पहचान या प्राधिकरण की खामियों के कारण नहीं हैं, बल्कि व्यवहार संबंधी शासन की विफलता का प्रतिनिधित्व करती हैं। वर्तमान समाधानों में सूक्ष्म स्वामी इरादे (owner intent) को व्यक्त करने, निष्पादन के समय व्यवहार संबंधी सीमाओं को लागू करने, या नीति अनुपालन के गैर-प्रतिसंहरणीय (non-repudiable) साक्ष्य उत्पन्न करने के लिए औपचारिक तंत्रों का अभाव है।

2. कार्यप्रणाली: एजेंटबाउंड फ्रेमवर्क

एजेंटबाउंड एक रनटाइम शासन फ्रेमवर्क है जिसे प्राधिकरण और निष्पादन के बीच के अंतर को पाटने के लिए डिज़ाइन किया गया है। यह एक नियत (deterministic) जवाबदेही परत के रूप में कार्य करता है जो मॉडल-संरेखण तंत्र को प्रतिस्थापित करने के बजाय उन्हें पूरक बनाता है।

2.1 मुख्य वास्तुकला

यह फ्रेमवर्क एक स्पष्ट शासन परत पेश करता है जो प्रस्तावित एजेंट कार्यों को बाधित करता है। यह कार्यों का मूल्यांकन अधिकार के तीन स्वतंत्र स्तंभों के माध्यम से करता है, जिनके निर्णयों को एक औपचारिक निर्णय बीजगणित (formal decision algebra) के माध्यम से संयोजित किया जाता है:

1. प्रत्यायोजित प्राधिकरण (Delegated Authorization): संरचनात्मक पात्रता (संसाधन परिधि, खर्च की सीमाएं, API स्कोप) को सत्यापित करता है।
2. स्वामी-हस्ताक्षरित व्यवहारिक संविधान (Owner-Signed Behavioral Constitutions): एक प्रधान-केंद्रित अधिकार जो स्वामी द्वारा रचित नियमों, आत्मविश्वास मेट्रिक्स और एस्केलेशन मानदंडों को वर्तमान परिवेशी स्थितियों (ambient conditions) के साथ मैप करता है।
3. साइट एक्शन कॉन्ट्रैक्ट्स (Site Action Contracts): एक इंटरफ़ेस-केंद्रित अधिकार जो रिमोट जोखिम वर्गीकरण, दृश्यता वेक्टर और लक्षित प्रणाली की संरचनात्मक प्रतिवर्तीता (structural reversibility) को मान्य करता है।

2.2 निर्णय संयोजन (Decision Composition)

फ्रेमवर्क तीन अधिकारियों से प्राप्त निर्णयों को संश्लेषित करने के लिए एक रूढ़िवादी निर्णय बीजगणित का उपयोग करता है। निर्णय स्थान को सख्त तार्किक प्रतिबंधात्मकता के क्रम में व्यवस्थित किया गया है:
$$\text{Deny (अस्वीकार)} < \text{Review (समीक्षा)} < \text{Permit (अनुमति)}$$

• मोनोटोनिक इनवैरिएंट्स (Monotonic Invariants): सबसे प्रतिबंधात्मक निर्णय प्रभावी होता है; बाधाएं संयुग्मी (conjunctively) रूप से एकत्रित होती हैं; दायित्व संचयी रूप से जमा होते हैं।
• निष्पादन क्लीयरेंस (Execution Clearance): एक कार्य केवल तभी भौतिक निष्पादन के लिए स्वीकृत किया जाता है जब अंतिम संयोजित निर्णय Permit हो और सभी संचित रनटाइम दायित्व (जैसे, मानव अनुमोदन) संतुष्ट हों। किसी भी एक अधिकारी द्वारा दिया गया निषेध (denial) दूसरों द्वारा ओवरराइड नहीं किया जा सकता है।

2.3 क्रिप्टोग्राफिक गवर्नेंस रसीदें

कठोर जवाबदेही सुनिश्चित करने के लिए, एजेंटबाउंड प्रत्येक निष्पादित कार्य के लिए गवर्नेंस रसीदें (governance receipts) उत्पन्न करता है। ये क्रिप्टोग्राफिक रूप से सत्यापन योग्य आर्टिफैक्ट्स हैं जो कार्य को निम्नलिखित के सटीक स्नैपशॉट से बांधते हैं:

• शासी नीति आर्टिफैक्ट्स (संविधान संस्करण, साइट अनुबंध)।
• संरचनात्मक प्रत्यायोजन।
• मध्यवर्ती निर्णय और अंतिम निर्णय (verdict)।
• एजेंट और प्रवर्तन सेवा दोनों के हस्ताक्षर।

ये रसीदें स्वतंत्र, आउट-ऑफ-बैंड रीप्ले सत्यापन को सक्षम बनाती हैं, जिससे तीसरे पक्ष के ऑडिटर्स एजेंट की आंतरिक स्थिति या रनटाइम वातावरण पर भरोसा किए बिना नीति अनुपालन को पुनर्गठित और मान्य कर सकते हैं।

2.4 निरंतर एजेंटों के लिए स्थायी प्रत्यायोजन (Standing Delegation)

लंबे समय तक चलने वाले एजेंटों के सत्र-आधारित टोकन की सीमाओं को संबोधित करने के लिए, एजेंटबाउंड एक दो-स्तरीय प्रत्यायोजन मॉडल पेश करता है:

1. स्थायी प्रत्यायोजन (Standing Delegation): मानव स्वामी से एक दीर्घकालिक, क्रिप्टोग्राफिक रूप से हस्ताक्षरित प्राधिकरण जो अधिकतम दायरे और समाप्ति को परिभाषित करता है। यह प्रत्यक्ष निष्पादन की अनुमति नहीं देता है।
2. कार्य प्रत्यायोजन (Task Delegation): अल्पकालिक, अल्पकालिक टोकन जो प्रत्येक निष्पादन चक्र के प्रारंभ में भौतिक होते हैं। ये स्थायी प्रत्यायोजन से सख्ती से व्युत्पन्न होते हैं और इसमें नवीनतम सक्रिय संविधान का संदर्भ शामिल होता है। यह नीति की नवीनता (freshness) सुनिश्चित करता है और स्वामियों को एजेंट को पुनः अधिकृत किए बिना नीतियों को रद्द या अपडेट करने की अनुमति देता है।

3. प्रमुख योगदान

यह शोध पत्र चार प्राथमिक योगदान प्रस्तुत करता है:

1. तीन-अधिकार शासन मॉडल: प्रासंगिक वैधता का मूल्यांकन करने के लिए प्रत्यायोजित प्राधिकरण, व्यवहारिक संविधान और साइट एक्शन कॉन्ट्रैक्ट्स को एकीकृत करने वाला एक औपचारिक मॉडल।
2. स्थायी प्रत्यायोजन वास्तुकला: आवधिक एजेंटों के लिए एक सुरक्षित तंत्र जो नीति की नवीनता और सूक्ष्म प्रतिसंहरणीयता (revocability) को बनाए रखता है।
3. औपचारिक रनटाइम प्रवर्तन: एक नियत पाइपलाइन जहाँ निष्पादन से पहले स्वतंत्र निर्णयों को एक रूढ़िवादी निर्णय बीजगणित के माध्यम से संश्लेषित किया जाता है।
4. क्रिप्टोग्राफिक गवर्नेंस रसीदें: स्वतंत्र पोस्ट-हॉक ऑडिटेबिलिटी के लिए रीप्ले-सत्यापन योग्य प्रोवेनेंस (provenance) उत्पन्न करने वाला एक सत्यापन योग्य जवाबदेही तंत्र।

4. मूल्यांकन ढांचा (AgentBound-Bench)

यह पेपर AgentBound-Bench पेश करता है, जो एक मानकीकृत मूल्यांकन ढांचा है जिसे शासन प्रवर्तन सटीकता, अधिकार संयोजन व्यवहार और नीति प्रोवेनेंस को मापने के लिए डिज़ाइन किया गया है।

• कार्यप्रणाली: यह शासन बुनियादी ढांचे के मूल्यांकन को अंतर्निहित भाषा मॉडल की संज्ञानात्मक क्षमताओं से अलग करता है।
• संरचना: परिदृश्यों को कैनोनिकल कार्यों, प्रत्यायोजन संदर्भों, हस्ताक्षरित संविधानों और साइट अनुबंधों के टुपल्स (tuples) के रूप में परिभाषित किया गया है।
• मेट्रिक्स: फ्रेमवर्क शासन सटीकता (ग्राउंड ट्रुथ के साथ निर्णय का संरेखण), उल्लंघन पलायन दर (नीति उल्लंघन का अंश जो प्रवर्तन को बायपास कर जाता है), रसीद सत्यापन सफलता दर, और शासन विलंबता (latency) को मापता है।
• नोट: पेपर में कहा गया है कि बड़े पैमाने के डेटासेट पर व्यापक अनुभवजन्य परिणाम भविष्य के रिलीज में रिपोर्ट किए जाएंगे; यह कार्य औपचारिक आधार और बेंचमार्क डिजाइन पर केंद्रित है।

5. महत्व और दावे

पेपर का दावा है कि एजेंटबाउंड एजेंट शासन को एक ऐसी प्रक्रिया में बदल देता है जिसके लिए विश्वास की आवश्यकता होती है, बल्कि इसे स्वतंत्र रूप से सत्यापित किया जा सकता है। इसका मौलिक नियम है: "स्कोप ने इसकी अनुमति दी, संविधान ने इसे रोका, और रसीद इसे सिद्ध करती है।"

प्रमुख महत्व के बिंदु शामिल हैं:

• संरचनात्मक अंतराल को संबोधित करना: यह उस विशिष्ट विफलता मोड को हल करता है जहाँ अधिकृत एजेंट मानवीय निरीक्षण की कमी के कारण स्वामी के इरादे के विरुद्ध कार्य करते हैं।
• गैर-प्रतिसंहरणीय जवाबदेही: विश्वास से हटकर क्रिप्टोग्राफिक रसीदों की ओर बढ़कर, यह ऑडिटर्स को निर्णय पाइपलाइनों को नियत रूप से पुनर्गठित करने में सक्षम बनाता है।
• पूरकता: इसे पहचान प्रणालियों, प्राधिकरण ढांचों और मॉडल संरेखण तकनीकों को बदलने के बजाय उनके साथ काम करने के लिए डिज़ाइन किया गया है। यह मॉडल संज्ञा (cognition) (जैसे, जेलब्रेक) को ठीक करने का प्रयास नहीं करता है, बल्कि सिस्टम उत्परिवर्तन (mutation) से पहले आउटपुट पर बाधाएं लागू करता है।
• स्केलेबिलिटी: स्थायी प्रत्यायोजन मॉडल विशेष रूप से एंटरप्राइज वातावरण में निरंतर, लंबे समय तक चलने वाले स्वायत्त एजेंटों की परिचालन वास्तविकताओं को संबोधित करता है।

लेखक एजेंटबाउंड को स्वायत्त एआई के भविष्य के लिए एक आवश्यक मौलिक वास्तुशिल्प आवश्यकता के रूप में देखते हैं, यह सुनिश्चित करते हुए कि जैसे-जैसे एजेंट परिचालन स्वायत्तता प्राप्त करते हैं, वे संरचनात्मक रूप से शासन योग्य और जवाबदेह बने रहें।