From Human Approval to Current Authority: Adaptive Runtime Governance at the Execution Boundary of AI-Enabled Organizational Workflows

तकनीकी सारांश: निष्पादन सीमा पर अनुकूली रनटाइम गवर्नेंस (Adaptive Runtime Governance - ARG)

समस्या विवरण
यह शोध पत्र AI-सक्षम संगठनात्मक वर्कफ़्लो में एक महत्वपूर्ण अंतराल को संबोधित करता है: मानव अनुमोदन और किसी कार्य के वास्तविक निष्पादन के बीच का अस्थायी अंतर (temporal disconnect)। वर्तमान गवर्नेंस अक्सर ऐतिहासिक अनुमोदन रिकॉर्ड पर निर्भर करती है, यह मानकर कि समय $T_1$ पर दर्ज किया गया अनुमोदन निष्पादन समय $T_2$ पर भी वैध रहेगा। लेखक तर्क देते हैं कि प्राधिकरण (authorization) अस्थायी रूप से आकस्मिक (temporally contingent) होता है। अनुमोदन के क्षण और निष्पादन के क्षण के बीच, एक अनुमोदक अपनी भूमिका खो सकता है, निष्क्रिय हो सकता है, या गलत तरीके से कार्य सौंप (delegate) सकता है; नीतियां बदल सकती हैं; या डेलिगेशन समाप्त हो सकते हैं। इन परिदृश्यों में, ऐतिहासिक मानव अनुमोदन तो मौजूद होता है, लेकिन वर्तमान संगठनात्मक अधिकार नहीं होता है, जिससे यदि सिस्टम पुराने डेटा के आधार पर आगे बढ़ता है, तो "सार्थक मानव निरीक्षण" (meaningful human oversight) नैतिक रूप से केवल नाममात्र रह जाता है।

कार्यप्रणाली (Methodology)
यह अध्ययन एडेप्टिव रनटाइम गवर्नेंस (ARG) नामक एक व्यापक प्रस्तावित ढांचे के एक विशिष्ट घटक का मूल्यांकन करता है: एक नियतात्मक (deterministic), नियम-आधारित निष्पादन गेट (execution gate)।

• कार्यान्वयन: प्रोटोटाइप पायथन (Python), फास्टएपीआई (FastAPI) और SQLAlchemy का उपयोग करके बनाया गया है, जिसमें नियंत्रित परीक्षण के लिए एक अलग SQLite डेटाबेस का उपयोग किया गया है। यह एक बैकएंड प्रवर्तन परत (enforcement layer) के रूप में कार्य करता है जो बाहरी प्रभावों को ट्रिगर करने से पहले निष्पादन अनुरोधों को रोकता है।
• गवर्नेंस ऑब्जेक्ट: सिस्टम एक प्रस्तावित कार्रवाई को एक स्थायी "निर्णय ऑब्जेक्ट" (decision object) के रूप में मानता है जिसमें स्थिति (state), उत्पत्ति (provenance), जोखिम इनपुट, अनुमोदन मेटाडेटा, नीति संस्करण और डेलिगेशन संदर्भ शामिल होते हैं।
• मूल्यांकन डिजाइन:
  • पूर्वव्यापी विश्लेषण (Retrospective Analysis): 101 ऐतिहासिक निर्णनों के एक अनाम स्नैपशॉट का विश्लेषण किया गया ताकि विरासत दोषों (जैसे, लुप्त अधिकार साक्ष्य, असंगत काउंटर) की पहचान की जा सके।
  • नियंत्रित सत्यापन (Controlled Validation): एक नए, संशोधित कोडबेस का परीक्षण 223 सिंथेटिक API मामलों के साथ किया गया। इन मामलों में सकारात्मक निष्पादन पथ, नकारात्मक अनुमोदन पथ, नकारात्मक निष्पादन पथ (अस्वीकार), इनपुट सत्यापन, डेलिगेशन परिदृश्य और ऑडिट अखंडता जांच शामिल थे।
  • मेट्रिक्स: अध्ययन ने स्थानीय परीक्षण वातावरण के भीतर HTTP स्टेटस कोड, रिस्पॉन्स विवरण और विलंबता (औसत ~7.3ms) को मापा। इसने स्पष्ट रूप से उत्पादन मापनीयता (production scalability), नेटवर्क सुरक्षा या बाहरी पहचान प्रदाता एकीकरण का परीक्षण नहीं किया।

प्रमुख योगदान

1. वैचारिक अंतर: शोध पत्र ऐतिहासिक मानव अनुमोदन (एक बीता हुआ घटनाक्रम) और वर्तमान निष्पादन अधिकार (एक वर्तमान स्थिति) के बीच एक स्पष्ट अलगाव स्थापित करता है। यह प्रतिपादित करता है कि वैध अधिकार को निष्पादन से ठीक पहले पुन: सत्यापित किया जाना चाहिए।
2. ARG आर्किटेक्चर: यह एक गवर्नेंस लाइफसाइकिल का प्रस्ताव देता है जहाँ निष्पादन एक विशिष्ट संक्रमण बिंदु (transition point) है। आर्किटेक्चर में प्रस्ताव इंटरफेस, निर्णय दृढ़ता (decision persistence), प्राधिकरण, निष्पादन पुन: सत्यापन, अस्वीकृति तंत्र और ऑडिट साक्ष्य की परतें शामिल हैं।
3. कार्यान्वित निष्पादन गेट: अध्ययन एक कार्यात्मक पैटर्न प्रदान करता है जो निष्पादन सीमा पर विशिष्ट गवर्नेंस इनवेरिएंट्स (invariants) को लागू करता है। इन इनवेरिएंट्स में शामिल हैं:
   • उच्च जोखिम वाले पथों के लिए स्व-अनुमोदन का अभाव (No self-approval)।
   • अभिनेता विशिष्टता (Actor uniqueness) और भूमिका विविधता (एक ही व्यक्ति या भूमिका द्वारा डुप्लिकेट अनुमोदनों को रोकना)।
   • अनुमोदन की नवीनता (Approval freshness) (24 घंटे से पुराने अनुमोदनों को खारिज कर दिया जाता है)।
   • प्राधिकरण निरंतरता (Authority continuity) (अनुमोदकों को निष्पादन के समय सक्रिय होना चाहिए और सही भूमिका रखनी चाहिए)।
   • नीति निरंतरता (Policy continuity) (यदि शासी नीति संस्करण बदल गया है तो निष्पादन बाधित हो जाता है)।
   • डेलिगेशन वैधता (Delegation validity) (सक्रिय, वैध डेलिगेशन संबंधों को सुनिश्चित करना)।
   • अवस्था स्वीकार्यता (State admissibility) (लंबित, अस्वीकृत, या पहले निष्पादित जैसी अमान्य अवस्थाओं से निष्पादन को रोकना)।
4. गवर्नेंस के रूप में अस्वीकृति (Refusal as Governance): सिस्टम अस्वीकृति को एक 'पोस्ट-हॉक' ऑडिट निष्कर्ष के रूप में नहीं, बल्कि एक अनिवार्य, वास्तविक समय के परिणाम के रूप में मानता है जब एन्कोडेड स्थितियाँ विफल हो जाती हैं।

परिणाम
नियंत्रित मूल्यांकन ने 223 परीक्षण मामलों में निम्नलिखित परिणाम दिए:

• 100% पास दर: सभी 223 मामले अपने पूर्व-निर्धारित परिणामों से मेल खा गए।
• सकारात्मक निष्पादन (30 मामले): वैध परिदृश्यों के लिए सफलतापूर्वक HTTP 200 लौटाया, जिसमें एकल-अनुमोदन उच्च-जोखिम वाली कार्रवाइयां, भूमिका-विविध बहु-अनुमोदन और वैध डेलिगेशन शामिल हैं।
• नकारात्मक निष्पादन (108 मामले): पुराने अनुमोदन, निष्क्रिय अनुमोदक, नीति संस्करण बेमेल, लुप्त डेलिगेशन, और अमान्य अवस्था संक्रमणों वाले परिदृश्यों के लिए सही ढंग से अस्वीकृति स्थिति (HTTP 403) लौटाई।
• नकारात्मक अनुमोदन (42 मामले): अनधिकृत या संरचनात्मक रूप से अमान्य अनुमोदन प्रयासों (जैसे, स्व-अनुमोदन, डुप्लिकेट अभिनेता) को सही ढंग से रोका।
• ऑडिट अखंडता: अंतिम सत्यापन ने पुष्टि की कि 492 ऑडिट घटनाओं के माध्यम से एक वैध लिंक्ड चेन मौजूद थी और कोई भी घटना विच्छेदित नहीं थी।
• पूर्वव्यापी निष्कर्ष: 101 ऐतिहासिक रिकॉर्ड के विश्लेषण ने महत्वपूर्ण दोषों (जैसे, निष्पादित रिकॉर्ड जिनमें नामित अधिकार का अभाव था) को प्रकट किया, जिससे नियंत्रित मूल्यांकन से पहले प्रोटोटाइप में सुधार करने में मदद मिली।

महत्व और दावे
शोध पत्र एक सीमित, मध्यम दावा (bounded, modest claim) करता है: यह प्रदर्शित करता है कि मानव प्राधिकरण और संगठनात्मक गवर्नेंस की चुनिंदा शर्तों को निर्णय-विशिष्ट साक्ष्य के रूप में तकनीकी रूप से प्रस्तुत किया जा सकता है, निष्पादन के समय पुन: सत्यापित किया जा सकता है, और बैकएंड रिफ्यूजल के माध्यम से लागू किया जा सकता है।

• क्या प्रदर्शित किया गया है: अध्ययन सिद्ध करता है कि एक नियतात्मक गेट तब निष्पादन को रोक सकता है जब वर्तमान अधिकार, नीति, या स्थिति की शर्तें पूरी नहीं होती हैं। यह दिखाता है कि "ऐतिहासिक अनुमोदन" और "वर्तमान अधिकार" समान नहीं हैं और इस अंतर को तकनीकी रूप से पाटा जा सकता है।
• क्या प्रदर्शित नहीं किया गया है: अध्ययन स्पष्ट रूप से कहता है कि यह मॉडल सुरक्षा, कानूनी अनुपालन, उत्पादन सुरक्षा, संगठनात्मक प्रभावशीलता, या अनुकूली व्यवहार (जैसे, मशीन लर्निंग-आधारित जोखिम वर्गीकरण) को स्थापित नहीं करता है। यह यह दावा नहीं करता है कि सिस्टम सभी डोमेन के लिए नैतिक रूप से पर्याप्त है, न ही यह प्रस्ताव उत्पन्न करने वाले AI मॉडल की निष्पक्षता या सटीकता का मूल्यांकन करता है।
• परिचालन भूमिका: इसका महत्व गवर्नेंस को एक पूर्वव्यापी चेकलिस्ट से बदलकर एक परिचालन बाधा (operational constraint) बनाने में निहित है। वर्तमान प्राधिकरण की अनुपस्थिति को किसी कार्रवाई को रोकने का कारण बनाकर, सिस्टम यह सुनिश्चित करता है कि जवाबदेही कार्रवाई के क्षण में क्रियात्मक रूप से जुड़ी रहे।

व्यापक ARG आर्किटेक्चर, जिसमें एडेप्टिव क्रिटिकैलिटी, इमरजेंसी गवर्नेंस और निरंतर निगरानी शामिल है, को एक पूर्ण विकसित प्रणाली के बजाय एक अनुसंधान एजेंडा के रूप में प्रस्तुत किया गया है जिसे भविष्य के कार्यान्वयन और स्वतंत्र सत्यापन की आवश्यकता है।