A Policy Algebra for Trust-Preserving Agentic AI Execution
यह शोध पत्र एक पॉलिसी अलजेब्रा (policy algebra) प्रस्तुत करता है जो सुरक्षा बाधाओं और रनटाइम दायित्वों को औपचारिक रूप से संयोजित करके एजेंटिक एआई (agentic AI) के लिए एक विश्वास-संरक्षण विश्वसनीयता लिफाफा (trust-preserving reliability envelope) को परिभाषित करता है, जिससे उच्च कार्य पूर्णता दरों को बनाए रखते हुए और ऑडिट पूर्णता सुनिश्चित करते हुए लगभग सभी नीति उल्लंघनों पर हस्तक्षेप करना सक्षम होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की आधुनिक दुनिया में, एक महत्वपूर्ण बदलाव आ रहा है। वर्षों तक, ध्यान ऐसे सिस्टम बनाने पर था जो टेक्स्ट जेनरेट कर सकें, सवालों के जवाब दे सकें या दस्तावेज़ों का सारांश बना सकें। ये सिस्टम बहुत ज्ञानी पुस्तकालयाध्यक्षों (लाइब्रेरियन) की तरह थे जो कुछ भी पढ़ सकते थे लेकिन उन्हें किताबों को छूने या फर्नीचर हिलाने से मना किया गया था। आज, सॉफ्टवेयर की एक नई पीढ़ी, जिसे अक्सर "एजेंट्स" कहा जाता है, को इमारत की चाबियाँ सौंप दी गई हैं। ये एजेंट केवल बात नहीं करते; वे कार्य करते हैं। वे निजी कंपनी फाइलों को खोज सकते हैं, ईमेल भेज सकते हैं, डेटाबेस अपडेट कर सकते हैं, बाहरी सेवाओं को कॉल कर सकते हैं, और यहाँ तक कि काम का हिस्सा दूसरे सॉफ्टवेयर प्रोग्रामों को सौंप भी सकते हैं। सोचने से करने की ओर बढ़ने की यह क्षमता उन्हें व्यवसायों के लिए अविश्वसनीय रूप से शक्तिशाली बनाती है, लेकिन यह एक नए प्रकार का खतरा भी पैदा करती है। एक गलती अब केवल एक गलत वाक्य नहीं है; यह एक डिलीट की गई फाइल, लीक हुआ रहस्य, या एक ऐसा बजट है जो उस कार्य पर खर्च हो गया जो कभी पूरा ही नहीं हुआ।
मूल समस्या यह है कि एक एजेंट अपने लक्ष्य में सफल हो सकता है जबकि वहां तक पहुँचने के लिए नियमों को तोड़ देता है। कल्पना कीजिए कि एक कर्मचारी सफलतापूर्वक एक पैकेज डिलीवर करता है लेकिन वह ऐसा उस कमरे में घुसकर करता है जिसमें जाने की उसे अनुमति नहीं थी। अतीत में, सुरक्षा प्रणालियाँ मुख्य रूप से यह जाँचती थीं कि क्या किसी व्यक्ति के पास इमारत में प्रवेश करने के लिए बैज है। लेकिन इन बुद्धिमान एजेंटों के लिए, सुरक्षा जांच यात्रा के हर एक कदम पर होनी चाहिए, न कि केवल प्रवेश द्वार पर। यदि किसी एजेंट को निर्णय लेने की अनुमति दी जाती है, तो उस निर्णय की जाँच इस आधार पर की जानी चाहिए कि पूछने वाला कौन है, वे किन उपकरणों का उपयोग कर रहे हैं, उनके पास कितना पैसा बचा है, और क्या किसी इंसान ने उस कार्य को मंजूरी दी है। निरंतर पर्यवेक्षण के बिना, एक शक्तिशाली उपकरण आसानी से नुकसान पहुँचा सकता है, भले ही उस प्रक्रिया को शुरू करने वाले व्यक्ति के इरादे नेक हों।
फॉक्सवैगन डिजिटल सर्विसेज (Volkswagen Digital Services) और स्कैनिया सीवी एबी (Scania CV AB) के शोधकर्ताओं ने इस जोखिम को प्रबंधित करने का एक नया तरीका विकसित किया है, जिसे वे "पॉलिसी अलजेब्रा" (policy algebra) कहते हैं। इसे केवल नियमों की सूची के रूप में नहीं, बल्कि विभिन्न सुरक्षा आवश्यकताओं को एक एकल, अटूट निर्णय में संयोजित करने वाली एक गणितीय प्रणाली के रूप में समझें। शोधकर्ताओं ने महसूस किया कि एक एजेंट पर भरोसा करने के लिए, आप केवल उसके द्वारा दिए गए अंतिम उत्तर को नहीं देख सकते। आपको उस पूरे रास्ते को देखना होगा जिससे वह वहां पहुँचा है। उनकी प्रणाली एजेंट द्वारा किए जाने वाले प्रत्येक कार्य को एक 'ट्रांजिशन' (transition) के रूप में मानती है जिसे श्रृंखला रूप से कई द्वारों (gates) से गुजरना होगा। ये द्वार एजेंट की पहचान, उसकी भूमिका, उसके द्वारा छुई जा रही डेटा की संवेदनशीलता, उसके द्वारा उपयोग किए जा रहे उपकरण, उसके शेष बजट, और क्या किसी मनुष्य ने उस कदम पर हस्ताक्षर किए हैं, इसकी जाँच करते हैं। यदि कोई भी एक द्वार विफल होता है, तो कार्य को रोक दिया जाता है।
इस दृष्टिकोण की श्रेष्ठता इस बात में निहित है कि यह जटिलता को कैसे संभालता है, विशेष रूप से तब जब एक एजेंट दूसरे एजेंट को कार्य करने के लिए कहता है। कई वर्तमान प्रणालियों में, जब कोई कार्य नीचे भेजा जाता है, तो सुरक्षा नियम अनजाने में कमजोर हो सकते हैं, जिससे एक उप-एजेंट (sub-agent) वे चीजें कर सकता है करने के लिए मूल एजेंट को अनुमति नहीं थी। यह नई प्रणाली यह सुनिश्चित करके इसे रोकती है कि अधिकार श्रृंखला में नीचे जाते समय कभी भी विस्तारित न हों। इसके बजाय, सुरक्षा प्रोफाइल अधिक सख्त या समान रहती है। यदि एक उच्च-स्तरीय प्रबंधक एक कनिष्ठ कर्मचारी को मदद करने के लिए कहता है, तो कनिष्ठ कर्मचारी अचानक प्रबंधक की निजी फाइलों तक पहुंच प्राप्त नहीं कर सकता। यह प्रणाली पैसे का भी सावधानी से प्रबंधन करती है। यह सुनिश्चित करती है कि यदि कोई एजेंट कंप्यूटिंग पावर या धन खर्च करता है, तो उसे एक मूर्त परिणाम, जैसे कि सहेजी गई दस्तावेज़ या पूर्ण रिकॉर्ड, देना ही होगा। यदि कोई एजेंट बिना किसी उपयोगी आउटपुट के बजट समाप्त कर देता है, तो सिस्टम उसे रोक देता है, जिससे कंपनी को ऐसे कार्य पर संसाधन बर्बाद करने से बचाया जा सके जो कहीं नहीं पहुँचा।
यह परीक्षण करने के लिए कि यह कैसे काम करता है, शोधकर्ताओं ने एजेंटों द्वारा विभिन्न कार्य पूरे करने के हजारों सिम्युलेटेड परिदृश्यों को चलाया। उन्होंने अपनी नई प्रणाली की तुलना पुराने तरीकों से की जो केवल अनुमत उपकरणों और उपयोगकर्ता भूमिकाओं की सरल सूचियों पर निर्भर थे। परिणामों ने सुरक्षा में स्पष्ट अंतर दिखाया। नई प्रणाली ने उन असुरक्षित कार्यों को 94.8% रोका जिन्हें पुराना सिस्टम छोड़ देता था। इसमें एजेंटों को उस डेटा तक पहुँचने से रोकना शामिल था जिसे उन्हें नहीं देखना चाहिए था, उन उपकरणों का उपयोग करना जिन्हें छूने की उन्हें अनुमति नहीं थी, या सुरक्षा नियमों को दरकिनार करने के तरीके से अन्य एजेंटों को कार्य सौंपना शामिल था। प्रणाली ने एक विशिष्ट प्रकार की विफलता को भी समाप्त कर दिया जहाँ एक एजेंट अपना सारा पैसा खर्च कर देता था लेकिन पीछे कोई उपयोगी परिणाम नहीं छोड़ता था। ट्रैकिंग के मामले में, नए सिस्टम ने ऑडिट के लिए आवश्यक विवरणों का 98.6% रिकॉर्ड किया, जबकि पुराने तरीके के लिए यह 71.9% था, जिससे यह समझना बहुत आसान हो गया कि यदि कुछ गलत हुआ तो क्या हुआ था।
इस अतिरिक्त सुरक्षा की एक लागत है। नया सिस्टम निर्णय लेने में थोड़ा धीमा है, जो औसतन 71 मिलीसेकंड लेता है जबकि पुराने तरीके के लिए यह 38 मिलीसेकंड है। यह कभी-कभी गलती से एक सुरक्षित कार्य को लगभग 4.2% बार रोकता है, जबकि पुराने सिस्टम के लिए यह 2.1% है। इन अतिरिक्त जाँचों के कारण, एजेंटों द्वारा अपने कार्यों को सफलतापूर्वक पूरा करने की समग्र दर थोड़ी गिर गई, जो 90.7% से घटकर 86.9% हो गई। हालाँकि, शोधकर्ता तर्क देते हैं कि यह ट्रेड-ऑफ (समझौता) आवश्यक है। लक्ष्य सबसे तेज़ या सबसे सक्षम एजेंट बनाना नहीं है, बल्कि सबसे विश्वसनीय एजेंट बनाना है। एक कार्य जो तेजी से पूरा होता है लेकिन जिसमें अनधिकृत डेटा एक्सेस या बर्बाद धन शामिल है, वह सफलता नहीं है।
अध्ययन इस बात की पुष्टि करता है कि बुद्धिमान एजेंटों के लिए सुरक्षा पूरी यात्रा का गुण होना चाहिए, न कि केवल गंतव्य का। नियमों को संयोजित करने के इस नए तरीके का उपयोग करके, कंपनियाँ अपने सॉफ़्टवेयर को अधिक स्वतंत्रता के साथ कार्य करने की अनुमति दे सकती हैं, जबकि यह सुनिश्चित करती हैं कि प्रत्येक कदम अधिकृत, पता लगाने योग्य और आर्थिक रूप से सुदृढ़ बना रहे। यह प्रणाली यह अनुमान लगाने की कोशिश नहीं करती कि एक एजेंट क्या गलत कर सकता है; इसके बजाय, यह एक ऐसा ढांचा बनाती है जहाँ एक एजेंट केवल वही कर सकता है जो हर क्षण स्पष्ट रूप से अनुमत है। यह दृष्टिकोण आर्टिफिशियल इंटेलिजेंस की कच्ची शक्ति को एक ऐसे उपकरण में बदल देता है जिस पर उद्यम वास्तव में वास्तविक दुनिया में संचालन करने के लिए भरोसा कर सकते हैं, जहाँ गलतियों के वास्तविक परिणाम होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।