तकनीकी सारांश: जब एजेंट ऑटोमेशन लाभदायक हो जाता है

समस्या का निरूपण (Problem Formulation)

यह शोध पत्र परिचालन प्रणालियों (operational systems) में स्वायत्त AI एजेंटों को तैनात करने की आर्थिक व्यवहार्यता को संबोधित करता है। जबकि एजेंट अब अपरिवर्तनीय कार्य (जैसे, कोड संपादित करना, डेटाबेस संशोधित करना, वित्तीय वर्कफ़्लो निष्पादित करना) करने में सक्षम हैं, उनके विफलता जोखिम (failure risk) के प्रबंधन के लिए आर्थिक ढांचा अनुपस्थित है। वर्तमान प्रथाएं या तो परिणामी-क्षति के डिस्क्लेमर (consequential-damage disclaimers) पर निर्भर करती हैं या अनिवार्य मानव समीक्षा पर, जो या तो उपयोगकर्ताओं को नुकसान के लिए बिना मुआवजे के छोड़ देती हैं या ऑटोमेशन के दक्षता लाभों को समाप्त कर देती हैं।

मुख्य समस्या यह है कि एजेंट देयता (liability) को उत्पाद स्तर (जैसे, मॉडल पहचान द्वारा) पर निर्धारित नहीं किया जा सकता क्योंकि एक ही मॉडल ग्राहक संदर्भ, कार्य श्रेणी और विशिष्ट निष्पादन ट्रेस (execution trace) के आधार पर बहुत अलग नुकसान उत्पन्न कर सकता है। शोध पत्र यह प्रतिपादित करता है कि स्वायत्त AI के आर्थिक रूप से स्वीकार्य होने के लिए, इसके जोखिम को तैनाती से पहले बीमा के माध्यम से मात्रात्मक, मूल्यवान और स्थानांतरित किया जाना चाहिए, लेकिन केवल तभी जब अपेक्षित लाभ प्रीमियम, नियंत्रण लागत और शेष जोखिम से अधिक हो।

कार्यप्रणाली: ट्रेस-इकोनॉमिक अंडरराइटिंग (Trace-Economic Underwriting)

लेखक ट्रेस-इकोनॉमिक अंडरराइटिंग का प्रस्ताव करते हैं, जो एक ढांचा है जो बीमा की इकाई को एक स्थिर उत्पाद पूल से बदलकर एक गतिशील, निगरानी योग्य ग्राहक-कार्य-ट्रेस एपिसोड (customer-task-trace episode) में स्थानांतरित कर देता है। यह दृष्टिकोण तीन मुख्य घटकों से बना है:

1. बीमा योग्य इकाई: निगरानी योग्य एपिसोड (Monitored Episodes)

एक बीमा योग्य एपिसोड $e_i$ को एक टुपल $(u_i, c_i, \tau_i, V_i, A_i, K_i, L_i)$ के रूप में परिभाषित किया गया है, जहाँ:

• $u_i$: ग्राहक प्रोफ़ाइल (कार्य श्रेणी, अनुमतियाँ और संपत्ति जोखिम को परिभाषित करता है)।
• $c_i$: कार्य श्रेणी।
• $\tau_i$: निष्पादन ट्रेस (टूल कॉल और संदेशों का क्रम)।
• $V_i, A_i$: कार्य मूल्य और उजागर संपत्ति का मूल्य।
• $K_i$: पूर्व-हानि नियंत्रण लागत (जैसे, मानव समीक्षा या सैंडबॉक्सिंग)।
• $L_i$: अनुबंध $h$ के तहत अपेक्षित दावा योग्य हानि।

ढांचा एक परिभाषित भूमिका (defined role) (सीमित अनुमतियाँ और कार्य श्रेणियाँ) की मांग करता है ताकि ट्रेस तुलना योग्य हों। सामान्य-उद्देश्य वाले, अप्रतिबंधित एजेंटों को इस शासन के तहत बीमा योग्य नहीं माना जाता है क्योंकि उनमें बंधित फीचर स्पेस (bounded feature spaces) का अभाव होता है।

2. नियत ट्रेस-टू-लॉस निर्माण (Deterministic Trace-to-Loss Construction)

यह प्रणाली LLM जजों के बजाय नियत नियमों (deterministic rules) का उपयोग करके कच्चे एजेंट लॉग को आर्थिक हानि लेबल में परिवर्तित करती है। इस प्रक्रिया में तीन परतें शामिल हैं:

• परत 1 (पार्सिंग): कार्यों को प्रकारों (रीड, राइट, एक्जीक्यूट, डिलीट, फाइनेंशियल, आदि) में वर्गीकृत करना।
• परत 2 (व्यवहार संबंधी एनोटेशन): प्रत्येक क्रिया को पांच निरीक्षण योग्य आयामों को सौंपना:
  • $\alpha_t$: अपरिवर्तनीयता (Irreversibility) (एक मल्टीप्लिकेटिव गेट; परिवर्तनीय क्रियाएं शून्य दावा योग्य हानि उत्पन्न करती हैं)।
  • $\beta_t$: ब्लास्ट रेडियस (Blast radius) (प्रभावित संपत्तियों का दायरा)।
  • $\gamma_t$: एपिस्टेमिक अनिश्चितता (Epistemic uncertainty)।
  • $\delta_t$: टेम्पोरल पोजीशन (समय के भीतर स्थिति)।
  • $\epsilon_t$: कारण संबंधी एट्रिब्यूशन (Causal attribution) (हानि में एजेंट की भूमिका की सत्यापन क्षमता)।
  • इन आयामों को एक भारित माध्य (weighted mean) और कंडीशनल वैल्यू एट रिस्क (CVaR) का उपयोग करके एक ट्रेस जोखिम स्कोर $R(\tau)$ में एकत्रित किया जाता है।
• परत 3 (आर्थिक मैपिंग): $R(\tau)$, ग्राहक प्रोफ़ाइल और अनुबंध शर्तों (डिडक्टिबल $D$, लिमिट $C$, को-इंश्योरेंस $\rho$) को दावा संभाव्यता $\hat{p}$, सशर्त गंभीरता $S$, और सत्यापन क्षमता $v$ में मैप करना। अंतिम दावा योग्य हानि की गणना इस प्रकार की जाती है:
  $$L_i = p_i v_i E[\min(\max(S_i - D, 0), C)]$$

3. मूल्य निर्धारण और नियंत्रण ऑपरेटर (Pricing and Control Operators)

यह ढांचा हानि हस्तांतरण (मूल्य निर्धारण) और हानि रोकथाम (नियंत्रण) के बीच अंतर करता है:

• मूल्य निर्धारण (Pricing): प्रीमियम की गणना अपेक्षित हानि और टेल रिस्क (CVaR) के आधार पर की जाती है। शोध पत्र प्रदर्शित करता है कि ट्रेस-कंडीशन्ड प्राइसिंग, प्रोडक्ट-फ्लैट या उपयोग-आधारित मॉडलों की तुलना में मूल्य निर्धारण त्रुटि को काफी कम कर देती है।
• नियंत्रण (Control): हस्तक्षेप (अनुमति दें, समीक्षा करें, सैंडबॉक्स, रोकें) केवल तभी ट्रिगर किए जाते हैं जब अपेक्षित बचा हुआ दावा (avoided claim) हस्तक्षेप की लागत से अधिक होता है। यह गतिशील नियंत्रण स्थिर टूल ब्लैकलिस्ट की तुलना में टेल रिस्क (CVaR) को अधिक कुशलता से कम करता है।

प्रमुख योगदान

1. समस्या का निरूपण: शोध पत्र एजेंट देयता को एक ट्रेस-कंडीशन्ड एक्टुरियल समस्या के रूप में स्वरूपित करता है, जो लायबिलिटी और प्राइसिंग के लिए आवश्यक इकाई के रूप में निगरानी योग्य ग्राहक-कार्य-ट्रेस एपिसोड की पहचान करता है।
2. विधि: यह ट्रेस-इकोनॉमिक अंडरराइटिंग पेश करता है, जो एक ऑडिट योग्य प्रतिनिधित्व है जो निर्णय के लिए LLM पर भरोसा किए बिना टूल-यूज़ ट्रेसेस को आर्थिक हानि ऑब्जेक्ट्स में मैप करता है। यह स्पष्ट रूप से हानि हस्तांतरण (बीमा) को हानि रोकथाम (नियंत्रण) से अलग करता है।
3. अनुभवजन्य सत्यापन: ढांचे को सिंथेटिक पोर्टफोलिपियो और 1,000 वास्तविक SWE-smith ट्रेसेस पर सत्यापित किया गया है।
   • मूल्य निर्धारण सटीकता: ट्रेस-इकोनॉमिक प्राइसिंग सिंथेटिक डेटा पर मीन एब्सोल्यूट एरर (MAE) को $17.7K से घटाकर$569 कर देती है।
   • जोखिम में कमी: वास्तविक ट्रेसेस पर, ट्रेस-कंडीशन्ड कंट्रोल्स स्थिर कंट्रोल्स की तुलना में CVaR95 को 72% कम करते हैं, जबकि कम हस्तक्षेप (18.8% बनाम 51.3%) की आवश्यकता होती है।
   • ऑडिटेबिलिटी: एक 300-ट्रेस विशेषज्ञ ऑडिट ने 300 में से 295 आर्थिक लेबल को बिना किसी बदलाव के स्वीकार किया, जो नियत नियम सेट की पुष्टि करता है।
   • सैद्धांतिक दायरा: थ्योरम 1 स्थापित करता है कि ट्रेस प्राइसिंग केवल तभी सीमित-नमूना पहचान योग्य (finite-sample identifiable) है जब एक परिभाषित भूमिका ट्रेस फीचर स्पेस को बांधती है; अप्रतिबंधित एजेंट इस दायरे से बाहर हैं।

परिणाम और निष्कर्ष

• क्रॉस-सब्सिडी का उन्मूलन: प्रोडक्ट-फ्लैट प्राइसिंग एक प्रतिगामी क्रॉस-सब्सिडी पैदा करती है जहाँ कम जोखिम वाले ग्राहक (जैसे, दस्तावेज़ प्रसंस्करण) प्रति एपिसोड $17K–$20K अधिक भुगतान करते हैं, जिससे उच्च-जोखिम वाले वित्तीय डिप्लॉयमेंट को सब्सिडी मिलती है। ट्रेस-कंडीशन्ड प्राइसिंग इस अक्षमता को दूर करती है।
• सॉल्वेंसी और टेल रिस्क: सटीक मूल्य निर्धारण अकेले हानि को स्थानांतरित करता है लेकिन इसे रोकता नहीं है। बीमाकर्ताओं के लिए सॉल्वेंसी के लिए स्पष्ट टेल कैपिटल लोडिंग (CVaR) की आवश्यकता होती है। टेल लोडिंग के बिना, सटीक ट्रेस प्राइसिंग भी व्यवस्थित झटकों (systemic shocks) के तहत दिवालियापन की ओर ले जा सकती है।
• व्यवहार्यता सीमा: नियंत्रण एक मार्केट-डिज़ाइन ऑपरेटर के रूप में कार्य करता है। समीक्षा की लागत से अधिक अपेक्षित दावों और टेल कैपिटल को कम करके, नियंत्रण डिप्लॉयमेंट को "बीमा योग्य नहीं" से "व्यवहार्य" की ओर ले जा सकता है।
• स्थानांतरणीयता (Transferability): मॉडल ग्राहक प्रोफाइल के बीच सामान्यीकृत होता है। जब एक को छोड़कर सभी प्रोफाइल पर कैलिब्रेट किया गया, तब भी ट्रेस-इकोनॉमिक प्राइसिंग MAE को महत्वपूर्ण रूप से कम करती है (उदाहरण के लिए, होल्ड-आउट वित्तीय प्रोफाइल के लिए 68.9% की कमी), जो यह सिद्ध करता है कि सिग्नल जॉइंट स्ट्रक्चर में है, न कि मेमोराइज्ड लेबल में।

महत्व और दावे

शोध पत्र का दावा है कि यह जोखिम को मात्रात्मक और बीमा योग्य बनाकर लाभदायक स्वायत्त AI परिनियोजन (deployment) के लिए एक सुलभ मार्ग प्रदान करता है। इसका प्राथमिक महत्व व्यापक क्षतिपूर्ति वादों (जो सामान्य एजेंटों के लिए आर्थिक रूप से अव्यवहार्य हैं) से सीमित देयता (जो विशिष्ट भूमिकाओं और ट्रेसेस से जुड़ी है) की ओर बदलाव करने में निहित है।

लेखक विनम्रतापूर्वक कहते हैं कि उनका कार्य अंतिम बीमा दरें (actuarial rates) प्रदान नहीं करता है, क्योंकि क्लोज्ड-एजेंट क्लेम हिस्ट्री अभी मौजूद नहीं है। इसके बजाय, ढांचा एक पॉलिसी-ऑर्डरिंग और मार्केट-डिज़ाइन साक्ष्य आधार प्रदान करता है। यह प्रदर्शित करता है कि:

1. एजेंट देयता केवल मॉडल की नहीं, बल्कि ग्राहक, कार्य, संपत्ति और ट्रेस का एक संयुक्त गुण है।
2. बीमा योग्यता के लिए तुलनीय इतिहास बनाने के लिए बंडेड परमिशन्स के साथ परिभाषित भूमिकाओं की आवश्यकता है।
3. डिफॉल्ट मानव समीक्षा पर निर्भर रहने के बजाय एजेंट ऑटोमेशन को आर्थिक रूप से व्यवहार्य बनाने के लिए ट्रेस-कंडीशन्ड प्राइसिंग (सटीक जोखिम हस्तांतरण के लिए) और डायनेमिक कंट्रोल (हानि रोकथाम के लिए) का संयोजन आवश्यक है।

कार्य का निष्कर्ष है कि विफलता को उपयोग से पहले समाप्त करने की आवश्यकता नहीं है; बल्कि, इसे मात्रात्मक, बीमा योग्य और बंडेड लायबिलिटी तंत्र से जोड़ा जाना चाहिए।