Autonomy and Agency in Agentic AI: Architectural Tactics for Regulated Contexts
यह शोध पत्र स्वायत्तता (autonomy) और एजेंसी (agency) के एक युग्मित द्वि-आयामी डिज़ाइन स्पेस को पेश करके, छह वास्तुशिल्प युक्तियों (architectural tactics) और प्रमुख परिनियोजन मापदंडों द्वारा समर्थित, विनियमित संदर्भों में एजेंटिक एआई (agentic AI) को तैनात करने के लिए एक सिद्धांत-आधारित ढांचे का प्रस्ताव करता है ताकि यह सुनिश्चित किया जा सके कि उत्तरदायित्व, ऑडिटेबिलिटी और प्रतिवर्तीता (reversibility) सिस्टम डिज़ाइन के अंतर्निहित गुण हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपने कार्यालय को चलाने में मदद करने के लिए एक बहुत ही स्मार्ट, बहुत तेज़ रोबोट सहायक को काम पर रख रहे हैं। यह रोबोट दस्तावेज़ पढ़ सकता है, ईमेल लिख सकता है, और यहाँ तक कि आधिकारिक रिकॉर्ड भी अपडेट कर सकता है। लेकिन क्योंकि यह बहुत शक्तिशाली है, आपको दो बड़ी चिंताएँ हैं:
- यह अपने आप कितना कुछ कर सकता है? (यदि यह कोई गलती करता है, तो क्या आप इसे रोक सकते हैं?)
- इसके पास वास्तव में कितनी शक्ति है? (क्या यह सिर्फ एक फ़ाइल पढ़ सकता है, या यह पूरे डेटाबेस को डिलीट कर सकता है?)
सफ़िन और बाल्टा का शोध पत्र तर्क देता है कि हम इन दोनों चिंताओं को अलग-अलग नहीं सोच सकते। वे एक सी-सॉ (seesaw) की तरह एक दूसरे से जुड़े हुए हैं। यदि आप रोबोट को पूरी तरह से अकेले काम करने देते हैं (उच्च "स्वायत्तता" या autonomy), तो आपको इस बात का बहुत ध्यान रखना होगा कि उसे किन उपकरणों को छूने की अनुमति है (कम "एजेंसी" या agency)। यदि आप इसे खतरनाक उपकरणों तक पहुँच देते हैं (उच्च "एजेंसी"), तो आपको पहिए पर मानव का हाथ रखने की आवश्यकता है (कम "स्वायत्तता")।
यहाँ उनके समाधान का सरल विवरण दिया गया है, जिसमें रोजमर्रा के उपमाओं (analogies) का उपयोग किया गया है।
1. दो लीवर: "स्वतंत्रता" बनाम "शक्ति"
लेखकों ने एक मानचित्र बनाया है जिसमें दो अक्ष (axes) हैं ताकि डिज़ाइनर यह पता लगा सकें कि उनका रोबोट कहाँ फिट बैठता है।
- "स्वतंत्रता" का लीवर (स्वायत्तता/Autonomy): यह मापता है कि मानव बॉस कितना शामिल है।
- स्तर 1: मानव एक आदेश देता है, और रोबोट एक छोटा सा काम करता है।
- स्तर 5: रोबोट पूरा खेल चलाता है, और मानव केवल किनारे से देखता रहता है।
- "शक्ति" का लीवर (एजेंसी/Agency): यह मापता है कि रोबोट वास्तव में क्या छू सकता है या बदल सकता है।
- स्तर 1: रोबोट केवल आपके द्वारा दिए गए डेटा के आधार पर सोच सकता है और टेक्स्ट का ड्राफ्ट तैयार कर सकता है।
- स्तर 5: रोबोट फ़ाइलें स्थायी रूप से डिलीट कर सकता है, आधिकारिक भुगतान भेज सकता है, या कानूनी रिकॉर्ड बदल सकता है।
बड़ा नियम: आप ऐसा रोबोट नहीं रख सकते जो 100% स्वतंत्र और 100% शक्तिशाली दोनों हो। यदि आप इसे बेधड़क दौड़ने देते हैं, तो आपको इसे सुरक्षित कार्यों तक सीमित रखना होगा। यदि आप इसे साम्राज्य की चाबियाँ देते हैं, तो आपको हर कदम पर मानव की स्वीकृति लेनी होगी।
2. छह "सुरक्षा गैजेट्स" (आर्किटेक्चरल टैक्टिक्स)
आप एक ऐसा रोबोट कैसे बनाते हैं जो उपयोगी भी हो और सुरक्षित भी? पेपर छह विशिष्ट "गैजेट्स" या ट्रिक्स का सुझाव देता है जिनका उपयोग आप रोबोट की सेटिंग्स को एडजस्ट करने के लिए कर सकते हैं।
स्वतंत्रता को नियंत्रित करने के लिए (स्वायत्तता टैक्टिक्स):
- "रेड लाइट" (चेकपॉइंट्स): कल्पना कीजिए कि हाईवे पर एक स्टॉप साइन है। रोबोट चाहे कितनी भी तेज़ी से गाड़ी चला रहा हो, उसे इस विशिष्ट स्थान पर रुकना ही होगा और मानव के "जाओ" कहने का इंतज़ार करना होगा। इसका उपयोग तब किया जाता है जब कोई कार्य हमेशा जोखिम भरा होता है, चाहे रोबोट कितना भी अच्छा प्रदर्शन क्यों न कर रहा हो।
- "पैनिक बटन" (एस्केलेशन/Escalation): यह कार के ऑटोमैटिक इमरजेंसी ब्रेकिंग सिस्टम की तरह है। रोबोट अपने आप गाड़ी चलाता है, लेकिन यदि वह भ्रमित हो जाता है या कुछ ऐसा देखता है जिसे वह समझ नहीं पाता, तो वह पैनिक बटन दबाता है और कहता है, "मैं फंस गया हूँ, इंसान, अब आप संभालें।" इसका उपयोग तब किया जाता है जब रोबोट आमतौर पर ठीक रहता है लेकिन कभी-कभी मुसीबत में पड़ जाता है।
- "विशेषज्ञ टीम" (मल्टी-एजेंट डेलीगेशन): एक रोबोट को सब कुछ करने देने के बजाय, आपके पास एक "मैनेजर" रोबोट है जो एक बड़े काम को छोटे टुकड़ों में तोड़ता है और उन्हें अन्य विशेषज्ञ रोबोटों को सौंप देता है। यदि एक छोटा रोबोट गलती करता है, तो मुख्य रोबोट के पूरे प्रोजेक्ट को खराब करने की तुलना में उसे ठीक करना आसान होता है।
शक्ति को नियंत्रित करने के लिए (एजेंसी टैक्टिक्स):
- "टूलबॉक्स" (टूल प्रोविजनिंग): यह केवल यह तय करना है कि आप रोबोट को कौन से उपकरण सौंपते हैं। यदि रोबोट को केवल ईमेल पढ़ने की आवश्यकता है, तो आप उसे हथौड़ा नहीं देते। यदि उसे ईमेल लिखने की आवश्यकता है, तो आप उसे पेन देते हैं।
- "फेंस" (टूल फेंसिंग): कल्पना कीजिए कि आपने रोबोट को एक हथौड़ा दिया है, लेकिन उसे एक पिंजरे में रखा है जहाँ वह केवल एक विशिष्ट कील पर ही प्रहार कर सकता है। रोबलेट के पास उपकरण है, लेकिन वह घेरे में है ताकि वह गलत चीज़ को न तोड़ सके। वह उपकरण का उपयोग कर सकता है, लेकिन सख्त सीमाओं के भीतर।
- "ड्राफ्ट मोड" (राइट स्टेजिंग/Write Staging): यह "Send" बटन दबाने से पहले पत्र को "Draft" में लिखने जैसा है। रोबोट अंतिम दस्तावेज़ लिखता है, लेकिन वह एक प्रतीक्षा कक्ष में रहता है। मानव को इसे आधिकारिक बनाने के लिए "Approve" पर क्लिक करना होगा। यदि रोबोट ने गलती की है, तो आप बस ड्राफ्ट को हटा सकते हैं। अभी तक कुछ भी स्थायी नहीं हुआ है।
3. वास्तविक दुनिया के उदाहरण
पेपर ने इन विचारों का दो वास्तविक परिदृश्यों में परीक्षण किया:
परिदृश्य A: मेल सॉर्टिंग (दस्तावेज़ वर्गीकरण)
- लक्ष्य: हजारों ईमेल और फ़ाइलों को स्वचालित रूप से छाँटना।
- सेटअप: उन्होंने रोबोट को ईमेल भेजने की शक्ति दी (उच्च शक्ति), लेकिन उन्होंने उसके चारों ओर एक "फेंस" (घेरा) लगाया ताकि वह केवल विशिष्ट लोगों को ही ईमेल भेज सके। उन्होंने एक "पैनिक बटन" (एस्केलेशन) का भी उपयोग किया: यदि रोबोट सुनिश्चित नहीं था कि ईमेल किसे भेजना है, तो वह रुक जाएगा और मानव से पूछेगा।
- परिणाम: रोबोट ज्यादातर अकेले काम कर सका, लेकिन वह सुरक्षित था।
परिदृश्य B: लोगों को ग्रांट (अनुदान) से मिलाना (फंडिंग प्रोग्राम मैचिंग)
- लक्ष्य: लोगों को वह सरकारी धन खोजने में मदद करना जिसके वे योग्य हैं।
- सेटअप: रोबोट को पात्रता की जांच करने के लिए नियम लिखने थे। यह खतरनाक है क्योंकि गलत नियम लोगों को नुकसान पहुँचा सकते हैं। इसलिए, उन्होंने एक "रेड लाइट" (चेकपॉइंट) का उपयोग किया: इससे पहले कि रोबोट उपयोगकर्ता को परिणाम दिखाए, एक मानव को पहले प्रोफाइल की समीक्षा करनी थी। उन्होंने एक "फेंस" का भी उपयोग किया ताकि रोबोट गलती से सरकार के मुख्य डेटाबेस को बदल न सके।
- परिणाम: रोबोट ने लोगों को ग्रांट खोजने में मदद की, लेकिन अंतिम निर्णय पर नियंत्रण मानव के पास रहा।
4. "सीलिंग" (डिप्लॉयमेंट पैरामीटर्स)
अंत में, पेपर नोट करता है कि भले ही आपके पास सही सुरक्षा गैजेट्स हों, फिर भी कुछ अन्य चीजें हैं जो आपके रोबोट की क्षमता को सीमित करती हैं। इन्हें आप अपने प्रोजेक्ट की "सीलिंग" (छत) मान सकते हैं:
- रोबोट का दिमाग (मॉडल कैपेबिलिटी): यदि रोबोट पर्याप्त स्मार्ट नहीं है, तो आप कितने भी घेरे क्यों न बना लें, वह गलतियाँ करेगा।
- रोबोट की याददाश्त (एजेंट आर्किटेक्चर): यदि रोबोट पाँच मिनट पहले जो किया था उसे भूल जाता है, तो वह लंबे कार्यों को नहीं संभाल सकता।
- उपकरणों की गुणवत्ता (टूल फिडेलिटी): यदि रोबोट का "मानचित्र" (डेटाबेस) पुराना या गलत है, तो रोबोट भटक जाएगा।
- बाधा (द बॉटलनेक): यदि रोबोट तेज़ है, लेकिन एक मानव को बाद में हर एक फ़ाइल को मैन्युअल रूप से जांचना पड़ता है, तो रोबोट वास्तव में काम को तेज़ नहीं कर रहा है।
- परीक्षण (इवैल्यूएशन): आपके पास मापने का एक तरीका होना चाहिए कि क्या आपका रोबोट वास्तव में अच्छा काम कर रहा है। यदि आप माप नहीं लेंगे, तो आपको पता नहीं चलेगा कि वह सुरक्षित है या नहीं।
निचोड़
यह पेपर उन AI को बनाने के लिए एक मार्गदर्शिका है जो सख्त, विनियमित वातावरण (जैसे सरकार या कानून) में काम करते हैं। यह कहता है: सिर्फ अनुमान न लगाएं। यह तय करने के लिए कि आपकी AI को कितनी स्वतंत्रता मिलती है और उसकी कितनी शक्ति है, इस मानचित्र का उपयोग करें। फिर, इन दोनों को संतुलित करने के लिए छह सुरक्षा गैजेट्स का उपयोग करें। इस तरह, आप आपदा का कारण बने बिना AI की गति प्राप्त कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।