💻 computer science

Agent Contracts: A Formal Framework for Resource-Bounded Autonomous AI Systems

यह शोध पत्र "एजेंट कॉन्ट्रैक्ट्स" (Agent Contracts) प्रस्तुत करता है, जो एक औपचारिक ढांचा है जो टास्क स्पेसिफिकेशन को सख्त संसाधन, टेम्पोरल और सफलता संबंधी बाधाओं के साथ एकीकृत करके मल्टी-एजेंट सिस्टम को नियंत्रित करने के लिए कॉन्ट्रैक्ट नेट प्रोटोकॉल का विस्तार करता है, जिससे प्रदर्शित दक्षता और शून्य संरक्षण उल्लंघन के साथ पूर्वानुमानित, ऑडिट योग्य और संसाधन-बद्ध स्वायत्त एआई परिनियोजन सक्षम होता है।

मूल लेखक: Qing Ye, Jing Tan

प्रकाशित 2026-03-26

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Qing Ye, Jing Tan

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपने अपने लिए एक काम करने के लिए एक प्रतिभाशाली, अति-ऊर्जावान सहायक को काम पर रखा है। आप उन्हें एक कार्य देते हैं, और वे काम में जुट जाते हैं। लेकिन यहाँ एक पेंच है: आपने उन्हें कभी यह नहीं बताया कि उन्हें कब रुकना है, वे कितने पैसे खर्च कर सकते हैं, या "काम पूरा होने" का वास्तव में क्या मतलब है।

वास्तविक दुनिया में, यह सहायक आपको 11 दिनों तक लगातार काम करते हुए, आपके पूरे क्रेडिट कार्ड की सीमा को खत्म करते हुए, और अधिक पैसे मांगते हुए, "मुझे बस एक और चीज़ चेक करने की ज़रूरत है" के लूप में फंसे हुए देख सकता है। यह बिल्कुल वही हुआ जो 2025 के अंत में एक इंजीनियरिंग टीम के साथ हुआ, जिसके परिणामस्वरूप एक ऐसे AI सिस्टम का $47,000 का बिल आया जो बस रुकने का नाम ही नहीं ले रहा था।

यह पेपर एजेंट कॉन्ट्रैक्ट्स (Agent Contracts) नामक एक समाधान पेश करता है। इसे एक कानूनी और तकनीकी "नियम पुस्तिका" के रूप में समझें जो आप अपने AI को काम शुरू करने से पहले देते हैं। यह एक अनियंत्रित, अप्रत्याशित रोबोट को एक अनुशासित कर्मचारी में बदल देता है जिसे पता होता है कि उसे कितना खर्च करना है और उसे कब काम बंद करना है।

यहाँ सरल उपमाओं का उपयोग करके इसका विवरण दिया गया है:

1. मुख्य समस्या: "भागता हुआ रोबोट" (The Runaway Robot)

वर्तमान AI एजेंट असीमित क्रेडिट कार्ड की तरह हैं। आप उन्हें जितना चाहें उतना स्वाइप कर सकते हैं, लेकिन बिल अंत में आता है। यदि AI भ्रमित हो जाता है या किसी लूप में फंस जाता है, तो वह तब तक स्वाइप करता रहता है जब तक आपका बैंक खाता खाली न हो जाए। मौजूदा उपकरण AI को यह तो बता सकते हैं कि क्या करना है, लेकिन उनके पास औपचारिक रूप से यह कहने का तरीका नहीं है कि, "यदि आप $5 से अधिक खर्च करते हैं तो रुक जाएं" या "यदि आप 1 घंटे तक काम करते हैं तो रुक जाएं।"

2. समाधान: "एजेंट कॉन्ट्रैक्ट" (The Agent Contract)

लेखक एक औपचारिक दस्तावेज़ (डेटा का एक टुपल) प्रस्तावित करते हैं जो आपके और AI के बीच एक सख्त अनुबंध (Contract) की तरह कार्य करता है। इसके सात मुख्य भाग हैं, जिन्हें हम खेल के नियमों के रूपas देख सकते हैं:

कार्य विवरण (इनपुट/आउटपुट): "यह वह कच्चा माल है जो आपको मिलता है, और यह वह तैयार उत्पाद है जो आपको वापस करना है।"
टूलकिट (कौशल): "आपको कैलकुलेटर और वेब ब्राउज़र का उपयोग करने की अनुमति है, लेकिन आपको अपने स्वयं के बैंक खाते तक पहुँचने की अनुमति नहीं है।"
वॉलेट (संसाधन बाधाएं): यह सबसे महत्वपूर्ण हिस्सा है। यह कहता है: "आपके पास खर्च करने के लिए $5.00 हैं। आपके पास सोचने के लिए 100,000 शब्द हैं। आप केवल 10 वेब खोजें कर सकते हैं।"
स्टॉपवॉच (समय सीमा): "आपके पास खत्म करने के लिए 30 मिनट हैं। यदि घड़ी 30:01 पर पहुँचती है, तो आपको तुरंत रुकना होगा।"
लक्ष्य पोस्ट (सफलता का मानदंड): "आप जीतते हैं यदि आप 90% सटीकता के साथ उत्तर ढूंढ लेते हैं। यदि नहीं, तो आप हार जाते हैं।"
"किल स्विच" (समाप्ति): "यदि आपके पास पैसा खत्म हो जाता है, समय समाप्त हो जाता है, या आप फंस जाते हैं, तो अनुबंध स्वतः समाप्त हो जाता है।"

3. "पारिवारिक बजट" (मल्टी-एजेंट समन्वय)

क्या होगा यदि आपको AI की एक टीम की आवश्यकता है? एक रिसर्च करने के लिए, एक लिखने के लिए, और एक एडिट करने के लिए?
बिना कॉन्ट्रैक्ट के, "रिसर्चर" सारा पैसा खर्च कर सकता है, जिससे "राइटर" के लिए कुछ नहीं बचेगा।
पेपर संरक्षण नियमों (Conservation Laws) को पेश करता है। इसे एक पारिवारिक बजट के रूप में सोचें:

माता-पिता परिवार को $100 देते हैं।
माता-पिता रिसर्चर को $40** और राइटर को **$ 40 देते हैं, और $20 सुरक्षा बफर के रूप में रखते हैं।
भले ही रिसर्चर $50 खर्च करने की कोशिश करे, सिस्टम **उन्हें रोक देता है** क्योंकि कॉन्ट्रैक्ट कहता है, "आपके पास केवल$ 40 हैं।"
यदि रिसर्चर जल्दी समाप्त कर देता है और केवल $30 खर्च करता है, तो वह अतिरिक्त$ 10 वापस पारिवारिक पॉट में चला जाता है जिसे राइटर उपयोग कर सकता है।

यह सुनिश्चित करता है कि पूरी टीम मूल बजट से अधिक खर्च न करे, चाहे वे कितने भी सब-टीम्स क्यों न बना लें।

4. वास्तविक जीवन में यह कैसे काम करता है (प्रयोग)

लेखकों ने चार अलग-अलग परिदृश्यों के साथ इसका परीक्षण किया, और परिणाम जादू की तरह थे:

"कोड रिव्यू" टेस्ट: उन्होंने AI को कोड ठीक करने दिया। बिना कॉन्ट्रैक्ट के, वह पागल हो गया और बहुत पैसा खर्च किया। कॉन्ट्रैक्ट के साथ, उसने 90% कम पैसा खर्च किया और कोड को ठीक करने में उतना ही अच्छा रहा। उसने उन चीजों को ठीक करने की कोशिश करना बंद कर दिया जो पहले से ही परफेक्ट थीं।
"रिसर्च टीम" टेस्ट: उन्होंने तीन AI को मिलकर काम करने के लिए कहा। बिना कॉन्ट्रैक्ट के, एक एजेंट कभी-कभी अनियंत्रित होकर पैसा बर्बाद कर देता था। कॉन्ट्रैक्ट के साथ, शून्य एजेंटों ने कभी भी बजट नियमों को तोड़ा।
"गति बनाम गुणवत्ता" टेस्ट: उन्होंने दिखाया कि आप AI को बता सकते हैं, "मुझे यह जल्दी चाहिए, भले ही यह थोड़ा कम परफेक्ट हो" (अर्जेंट मोड) या "मुझे यह परफेक्ट चाहिए, अपना समय लें" (बैलेंस्ड मोड)। AI ने ठीक वैसे ही व्यवहार किया जैसा अनुरोध किया गया था।

5. पकड़ (द "पोस्ट-कॉल" प्रॉब्लम)

एक छोटी सी सीमा है। AI को यह ठीक से पता नहीं चलता कि वह सोचते समय कितना खर्च कर रहा है। उसे वाक्य समाप्त करने के बाद ही लागत का पता चलता है।

उपमा: यह पिज्जा ऑर्डर करने जैसा है। आपको डिलीवरी मैन के रसीद देने तक सटीक कीमत का पता नहीं चलता।
समाधान: सिस्टम वर्तमान पिज्जा ऑर्डर को नहीं रोक सकता यदि वह बहुत महंगा है, लेकिन यह तुरंत अगला ऑर्डर रद्द कर सकता है। यह उस "रनवे" परिदृश्य को रोकता है जहाँ AI 11 दिनों तक पिज्जा ऑर्डर करता रहता है।

यह क्यों मायने रखता है

यह केवल पैसा बचाने के बारे में नहीं है। यह सुरक्षा और विश्वास के बारे में है।

अनुमान लगाने की क्षमता (Predictability): आप शुरू करने से पहले जानते हैं कि एक AI कार्य की लागत कितनी होगी।
जवाबदेही (Accountability): यदि कोई AI विफल होता है, तो आप जानते हैं कि क्यों (उसका समय समाप्त हो गया, या वह गुणवत्ता सीमा तक पहुँच गया)।
स्केलेबिलिटी (Scalability): अब आप बिना इस चिंता के AI एजेंटों की बड़ी टीमें बना सकते हैं कि उनमें से एक गलती से आपकी कंपनी को दिवालिया कर देगा।

संक्षेप में: एजेंट कॉन्ट्रैक्ट्स AI को एक "वाइल्ड कार्ड" से बदलकर एक "विश्वसनीय कर्मचारी" में बदल देते हैं जो सख्त नियम पुस्तिका का पालन करता है, बजट का सम्मान करता है, और समय पर काम खत्म करता है। यह एक ऐसे जीनियस को काम पर रखने और एक पेशेवर को काम पर रखने के बीच का अंतर है जो घर जला सकता है बनाम वह जो सुरक्षित रूप से काम पूरा करता है।

यहाँ शोध पत्र "एजेंट कॉन्ट्रैक्ट्स: रिसोर्स-बाउंड ऑटोनॉमस एआई सिस्टम्स के लिए एक औपचारिक ढांचा" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र स्वायत्त (autonomous) AI एजेंटों की तैनाती में एक महत्वपूर्ण अंतर को संबोधित करता है: औपचारिक संसाधन शासन (formal resource governance) का अभाव। जबकि आधुनिक प्रोटोकॉल (जैसे, कॉन्ट्रैक्ट नेट प्रोटोकॉल) कनेक्टिविटी और कार्य आवंटन को मानकीकृत करते हैं, वे यह नियंत्रित नहीं करते कि एक एजेंट कितना उपभोग करेगा (टोकन, API कॉल, समय) या वह कितनी देर तक संचालित होगा।

"रनवे" घटना (The "Runaway" Phenomenon): लेखक एक वास्तविक घटना का उल्लेख करते हैं जहाँ एक मल्टी-एजेंट सिस्टम बिना किसी स्टॉप कंडीशन या बजट सीमा के, एक रिकर्सिव लूप में फंस गया और 11 दिनों तक चलता रहा, जिससे $47,000 का API बिल आया।
प्रणालीगत जोखिम (Systemic Risk): वर्तमान विफलताएं केवल कार्यान्वयन संबंधी बग नहीं हैं, बल्कि प्रणालीगत कमियां हैं। गार्टनर (Gartner) का अनुमान है कि बढ़ती लागत और अपर्याप्त जोखिम नियंत्रणों के कारण 2027 तक 40% एजेंटिक AI प्रोजेक्ट विफल हो जाएंगे।
मूल प्रश्न: मौजूदा सिस्टम पूछते हैं "यह कार्य किसे करना चाहिए?" (कार्य आवंटन), लेकिन यह पूछने में विफल रहते हैं कि "यह कार्य किन सीमाओं के भीतर किया जा सकता है?" (संसाधन शासन)।

2. कार्यप्रणाली: एजेंट कॉन्ट्रैक्ट फ्रेमवर्क (Methodology: The Agent Contract Framework)

लेखक एजेंट कॉन्ट्रैक्ट्स का प्रस्ताव करते हैं, जो अर्थशास्त्र और वितरित प्रणालियों (distributed systems) से अनुबंध के रूपक को रिसोर्स-बाउंड AI निष्पादन तक विस्तारित करता है।

अ. औपचारिक परिभाषा (Formal Definition)

एक एजेंट कॉन्ट्रैक्ट $C$ को सात-टुपल (seven-tuple) के रूप में परिभाषित किया गया है:
$C = (I, O, S, R, T, \Phi, \Psi)$

$I$ (इनपुट): स्वीकार्य इनपुट के लिए स्कीमा और बाधाएं।
$O$ (आउटपुट): स्कीमा, फॉर्मेटिंग और न्यूनतम गुणवत्ता थ्रेसहोल्ड ( $Q_{min}$ )।
$S$ (कौशल/Skills): एजेंट के पास उपलब्ध सक्षमताओं (टूल्स, ज्ञान डोमेन) की सूची।
$R$ (संसाधन बाधाएं/Resource Constraints): बहु-आयामी बजट (जैसे, टोकन, API कॉल, इटरेशन, कंप्यूट समय, लागत)।
$T$ (टेम्पोरल/Temporal): सक्रियण समय और अवधि (Time-to-Live)।
$\Phi$ (सफलता मानदंड/Success Criteria): पूर्ति के लिए भारित मापने योग्य स्थितियाँ (जैसे, सटीकता > 0.95)।
$\Psi$ (समाप्ति/Termination): तत्काल समाप्ति की स्थितियाँ (जैसे, संसाधन समाप्ति, स्पष्ट रद्दीकरण)।

ब. जीवनचक्र प्रबंधन (Lifecycle Management)

अनुबंध अवस्थाओं (states) से गुजरते हैं: DRAFTED $\to$ ACTIVE $\to$ {FULFILLED, VIOLATED, EXPIRED, TERMINATED}।

गार्ड कंडीशंस (Guard Conditions): संक्रमण सख्त तर्क द्वारा शासित होते हैं (जैसे, यदि $\exists r_i: c_i \ge b_i$ तो VIOLATED की ओर जाना)।
जवाबदेही (Accountability): प्रत्येक अनुबंध ठीक एक टर्मिनल अवस्था तक पहुँचता है, जिससे स्पष्ट ऑडिट लॉगिंग और संसाधन रिलीज संभव होता है।

स. मल्टी-एजेंट समन्वय और संरक्षण नियम (Multi-Agent Coordination & Conservation Laws)

पदानुक्रमित (hierarchical) प्रणालियों के लिए, यह ढांचा बजट अनुशासन सुनिश्चित करने के लिए संरक्षण नियमों (Conservation Laws) को पेश करता है:
$\sum_{j \in agents} c(r)_j \le B(r)$

डेलीगेशन (Delegation): एक ऑर्केस्ट्रेटर वर्कर्स को सब-कॉन्ट्रैक्ट जारी कर सकता है। सब-कॉन्ट्रैक्ट बजटों का योग पैरेंट कॉन्ट्रैक्ट के बजट से अधिक नहीं होना चाहिए।
डायनेमिक रीअलकेशन (Dynamic Reallocation): पूर्ण हुए एजेंटों से बचा हुआ बजट एक साझा पूल में वापस आ जाता है, जिससे कुशल एजेंट जटिल कार्यों को सब्सिडी दे सकते हैं जबकि कुल सिस्टम अनुशासन बना रहता है।

द. प्रवर्तन तंत्र (Enforcement Mechanisms)

पेपर दो प्रवर्तन स्तरों के बीच अंतर करता है:

सॉफ्ट एनफोर्समेंट (Soft Enforcement): बजट-जागरूक प्रॉम्प्टिंग (बचे हुए बजट को कॉन्टेक्स्ट में डालना)। यह एजेंट के सहयोग पर निर्भर करता है लेकिन "टोकन इलास्टिसिटी" से ग्रस्त हो सकता है (एजेंट अक्सर सीमाओं से अधिक हो जाते हैं)।
हार्ड एनफोर्समेंट (Hard Enforcement): एक बाहरी स्ट्रक्चरल मॉनिटर जो हर एक्शन के बाद खपत को ट्रैक करता है। यदि कोई बाधा टूटती है, तो सिस्टम एजेंट की आंतरिक स्थिति की परवाह किए बिना निष्पादन को तुरंत रोक देता है। यह रनवे लागत को रोकने के लिए प्राथमिक तंत्र है।

3. मुख्य योगदान (Key Contributions)

औपचारिक ढांचा (Formal Framework): एक एकीकृत टुपल परिभाषा ( $C$ ) जो इनपुट/आउटपुट, संसाधनों, समय और सफलता मानदंडों को एक एकल शासन तंत्र में एकीकृत करती है।
संरक्षण नियम (Conservation Laws): गणितीय गारंटी जो यह सुनिश्चित करती है कि मल्टी-एजेंट पदानुक्रमों में डेलीगेटेड बजट कभी भी पैरेंट बाधाओं से अधिक नहीं होता है, जिससे कंपोजेबल समन्वय पैटर्न सक्षम होते हैं।
ऑपरेशनल सैटिस्फाइसिंग (Operational Satisficing): बाउंडेड रैशनैलिटी के साइमन के सिद्धांत को AI पर लागू करना, जिससे एजेंटों को "कॉन्ट्रैक्ट मोड्स" (जैसे, अर्जेंट बनाम इकोनॉमिकल) के माध्यम से गुणवत्ता और संसाधन दक्षता के बीच ट्रेड-ऑफ करने की अनुमति मिलती है।
स्ट्रक्चरल एनफोर्समेंट (Structural Enforcement): एजेंट के स्व-नियमन पर भरोसा करने के बजाय बाहरी, स्ट्रक्चरल हॉल्टिंग मैकेनिज्म की ओर बदलाव, जो संसाधन सीमाओं की गारंटी देता है।

4. अनुभवजन्य परिणाम (Empirical Results)

ढांचे को Google ADK और Gemini मॉडल्स के साथ चार प्रयोगों के माध्यम से मान्य किया गया था:

प्रयोग	लक्ष्य	मुख्य परिणाम
कोड रिव्यू (इटरेटिव वर्कफ्लो)	रनवे लूप को रोकना	90% टोकन की कमी; टोकन उपयोग में 525× कम वेरिएंस; 43% कम इटरेशन। सफलता दर सांख्यिकीय रूप से समान रही।
रिसर्च पाइपलाइन (मल्टी-एजेंट)	संरक्षण नियमों को मान्य करना	50 परीक्षणों में शून्य संरक्षण उल्लंघन। एक ऐसे रनवे एजेंट का पता लगाया और रोका जिसने अपने बजट से 40% अधिक खर्च किया। क्वालिटी वेरिएंस 26.7× कम हुआ।
क्राइसिस कम्युनिकेशन (विफलता रोकथाम)	विफलता को रोकना	समान गुणवत्ता के साथ 23% टोकन की कमी। एजेंटों को मूल्यांकन लूप में फंसने से रोका (अनकन्स्ट्रेंड में विफलता के मुकाबले 100% सफलता)।
स्ट्रेटेजी मोड्स (लॉजिक पजल्स)	क्वालिटी-रिसोर्स ट्रेडऑफ	नियंत्रित ट्रेड-ऑफ प्रदर्शित किए: URGENT (70% सफलता) बनाम BALANCED (86% सफलता)। उपयोगकर्ता स्पष्ट रूप से गति बनाम सटीकता चुन सकते हैं।

5. महत्व और भविष्य का दृष्टिकोण (Significance and Future Outlook)

अनुमान लगाने की क्षमता (Predictability): एजेंट कॉन्ट्रैक्ट्स अप्रत्याशित, "ब्लैक बॉक्स" एजेंट व्यवहार को बाउंडेड, ऑडिटेबल ऑपरेशन्स में बदल देते हैं।
स्केलेबिलिटी (Scalability): संरक्षण नियमों को लागू करके, यह ढांचा जटिल, पदानुक्रमित मल्टी-एजेंट सिस्टम को घातीय लागत विस्फोट के जोखिम के बिना सुरक्षित रूप से स्केल करने की अनुमति देता है।
उद्योग प्रभाव (Industry Impact): यह लागत/जोखिम नियंत्रण के माध्यम से उद्यम अपनाने (enterprise adoption) के प्राथमिक अवरोध को संबोधित करता है। यह उद्योग को "विश्वसनीयता के लिए पुनरावृत्ति परिशोधन" से "सुरक्षा के लिए औपचारिक शासन" की ओर ले जाता है।
भविष्य का कार्य (Future Work): लेखक नोट करते हैं कि वास्तविक इंट्रा-कॉल रियल-टाइम प्रवर्तन (जेनरेशन को बीच में रोकना) के लिए मॉडल प्रदाताओं (जैसे, इंटरप्टिबल जेनरेशन, टोकन रिजर्वेशन) से API-स्तरीय समर्थन की आवश्यकता है। जब तक, यह ढांचा मजबूत इंटर-कॉल प्रवर्तन प्रदान करता है।

निष्कर्ष: एजेंट कॉन्ट्रैक्ट्स एजेंट निष्पादन के "कितना" और "कितनी देर" को स्पष्ट रूप से शासित करके स्वायत्त AI को प्रयोगात्मक प्रोटोटाइप से विश्वसनीय, प्रोडक्शन-ग्रेड सिस्टम में ले जाने के लिए आवश्यक औपचारिक आधार प्रदान करते हैं।