Specifying the Delegated-Autonomy Boundary: Requirements Engineering for Agentic AI
यह शोध पत्र "डेलीगेटेड-ऑटोनॉमी बाउंड्री" (delegated-autonomy boundary) की अवधारणा को पेश करते हुए और दो पूरक आर्टिफैक्ट्स—एजेंसी जस्टिफिकेशन रिकॉर्ड (AJR) और टियर्ड एजेंटिक डेलीगेशन पॉलिसी (ADP)—का प्रस्ताव देते हुए एजेंटिक एआई (Agentic AI) की अनूठी रिक्वायरमेंट्स इंजीनियरिंग चुनौतियों को संबोधित करता है, ताकि स्वायत्त प्रणालियों को सौंपे गए निर्णयों के दायरे को व्यवस्थित रूप से परिभाषित, न्यायसंगत और शासित किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अंतरिक्ष यान के कप्तान हैं। मानव इतिहास के अधिकांश समय में, एक जहाज बनाने का अर्थ था एक सख्त निर्देश पुस्तिका लिखना: "यदि आप लाल बत्ती देखें, तो बाईं ओर मुड़ें। यदि आप नीली बत्ती देखें, तो दाईं ओर मुड़ें।" वह जहाज एक रोबोट था जो आदेशों का पूरी तरह से पालन करता था, लेकिन वह अपने आप से सोच नहीं सकता था। फिर, हमने "स्मार्ट" कंप्यूटरों का आविष्कार किया जो डेटा से सीख सकते थे, जैसे कि एक छात्र जो किताबों के पुस्तकालय को पढ़ता है और उत्तर का अनुमान लगाता है। लेकिन वे स्मार्ट कंप्यूटर भी ज्यादातर केवल अनुमान लगाने वाले ही थे; वे आपके पूछने का इंतज़ार करते थे और फिर एक उत्तर देते थे। वे वास्तव में अपने आप कुछ नहीं करते थे।
अब, हम "एजेंटिक एआई" (Agentic AI) के एक नए युग में प्रवेश कर रहे हैं। इसे एक अनुमान लगाने वाले के रूप में नहीं, बल्कि एक नए प्रकार के चालक दल के सदस्य के रूप में सोचें। यह चालक दल का सदस्य केवल आदेशों का इंतज़ार नहीं करता है; यह एक नक्शा देख सकता है, एक रिंच उठाने का निर्णय ले सकता है, एक दरवाजा खोल सकता है, दूसरे चालक दल के सदस्य से बात कर सकता है, और एक लीक को ठीक कर सकता है—और वह यह सब बिना आपके उसे हर एक कदम बताने के कर सकता है। इसका अपना थोड़ा सा दिमाग है। यह रोमांचक है, लेकिन यह थोड़ा डरावना भी है। यदि आप चालक दल के सदस्य को इंजन रूम की चाबियाँ दे देते हैं, तो आपको कैसे पता चलेगा कि वे गलती से जहाज को क्रैश नहीं कर देंगे? आप यह कैसे तय करेंगे कि उन्हें क्या छूने की अनुमति है, और आपको कब हस्तक्षेप करने की आवश्यकता है? यह बड़ा सवाल है: हम एक ऐसे रोबोट के लिए नियम कैसे तय करें जो अपने आप कार्य कर सकता है?
यह शोध पत्र ठीक इसी समस्या पर चर्चा करता है। लेखक, चेतन अरोड़ा, एंड्रियास वोगल्सैंग और अब्बी शर्मा का तर्क है कि हम वर्तमान में इन "कार्य करने वाले" रोबोटों को उनकी स्वतंत्रता के नियमों को लिखे बिना बना रहे हैं। स्पष्ट नियमों के बजाय, हम निर्देशों को अव्यवस्थित कंप्यूटर कोड और अस्पष्ट प्रॉम्प्ट्स के भीतर छिपा रहे हैं। वे इन प्रणालियों को डिजाइन करने के लिए दो विशेष उपकरणों का उपयोग करके एक नया तरीका प्रस्तावित करते हैं: एक "जस्टिफिकेशन रिकॉर्ड" (Justification Record) और एक "डेलीगेशन पॉलिसी" (Delegation Policy)।
सबसे पहले, एजेंसी जस्टिफिकेशन रिकॉर्ड (AJR)। कल्पना कीजिए कि आप एक नए इंटर्न को काम पर रख रहे हैं। इससे पहले कि आप उन्हें कार्यालय की चाबियाँ दें, आपको यह पूछना होगा: "क्या हमें वास्तव में एक इंटर्न की आवश्यकता है, या हम बस एक वेंडिंग मशीन का उपयोग कर सकते हैं?" AJR एक चेकलिस्ट है जो टीमों को इस प्रश्न का उत्तर देने के लिए मजबूर करती है। यह पूछता है: क्या यह कार्य एक साधारण स्क्रिप्ट के लिए बहुत जटिल है? क्या इसे विभिन्न प्रणालियों से बात करने की आवश्यकता है? क्या हम गलती होने पर इंटर्न को रोक सकते हैं? पेपर सुझाव देता है कि यदि आप इस सूची के सभी बॉक्सों को चेक नहीं कर सकते हैं, तो आपको "एजेंट" नहीं बनाना चाहिए। आपको बस एक सरल, सुरक्षित उपकरण का उपयोग करना चाहिए। उदाहरण के लिए, उन्होंने इसे एक "कोड रिव्यू" के विचार पर परखा। उन्होंने पाया कि कोड की समीक्षा करना वास्तव में एक बहुत ही संरचित कार्य है जिसमें स्पष्ट नियम हैं, इसलिए एक फैंसी, सोचने वाले रोबोट की आवश्यकता नहीं थी; एक साधारण स्क्रिप्ट काम को बेहतर और सुरक्षित तरीके से करेगी। AJJ कहता है, "रोबोट न बनाएं यदि कैलकुलेटर काम आ सकता है।"
लेकिन क्या होगा यदि आपको वास्तव में एक रोबोट की आवश्यकता है? वहीं दूसरा उपकरण काम आता है: एजेंटिक डेलीगेशन पॉलिसी (ADP)। यह आपके रोबोट चालक दल के सदस्य के लिए एक "स्वतंत्रता की नियम पुस्तिका" की तरह है। केवल यह कहने के बजाय कि "जाओ जहाज को ठीक करो," ADP विस्तार से बताता है कि रोबोट क्या कर सकता है और क्या नहीं कर सकता है, जो अधिकार के एक स्तरित तंत्र का उपयोग करता है।
ADP को आपके रोबोट चालक दल के कार्यों के लिए एक ट्रैफिक लाइट सिस्टम के रूप में सोचें:
- ग्रीन लाइट (स्वायत्त स्तर - Autonomous Tier): रोबोट ये चीजें अकेले कर सकता है, जैसे नक्शा पढ़ना या तापमान की जांच करना। किसी इंसान को निगरानी करने की आवश्यकता नहीं है।
- येलो लाइट (सलाहकार स्तर - Advisory Tier): रोबोट सुझाव दे सकता है, जैसे "मुझे लगता है कि हमें इंजन ऑयल बदलना चाहिए," लेकिन वास्तव में करने से पहले उसे इंसान के "हाँ, आगे बढ़ो" कहने का इंतज़ार करना होगा।
- रेड लाइट (निषिद्ध स्तर - Prohibited Tier): ये "छूना मना है" वाले क्षेत्र हैं। रोबोट को जहाज को क्रैश करने या महत्वपूर्ण फाइलों को हटाने जैसे काम करने से सख्ती से रोका गया है, चाहे कुछ भी हो।
ADP अन्य महत्वपूर्ण नियमों को भी कवर करता है, जैसे:
- मेमोरी (स्मểmory): रोबोट क्या याद रख सकता है? क्या वह मरीजों या कोड के बारे में रहस्य रख सकता है, या उसे काम के बाद उन्हें भूलना होगा?
- टीमवर्क: यदि रोबोट भ्रमित हो जाता है या दो रोबोटों के बीच असहमति होती है, तो वे किसे बुलाते हैं? ADP कहता है, "यदि आप दो कोशिशों में इसे हल नहीं कर सकते, तो रुकें और इंसान से पूछें।"
- सुरक्षा: हमें कैसे पता चलेगा कि रोबोट सच बोल रहा है? नीति यह आवश्यक बनाती है कि रोबोट जो कुछ भी करता है उसका लॉग रखे ताकि इंसान बाद में जांच कर सकें।
लेखकों ने इन विचारों का परीक्षण दो बहुत अलग उदाहरणों के साथ किया। पहला एक "हॉस्पिटल डिस्चार्ज एजेंट" था, जिसे अस्पताल से मरीजों को घर भेजने में मदद करने के लिए डिज़ाइन किया गया था। यह काम जटिल है, इसमें बीमा कंपनियों और डॉक्टरों से बात करना शामिल है, और यदि चीजें गलत होती हैं तो इसमें जोखिम बहुत अधिक है। AJR ने कहा, "हाँ, यह रोबोट के लिए एक आदर्श काम है," और ADP ने इसे सख्त नियम दिए: यह मरीज के चार्ट पढ़ सकता है (ग्रीन), लेकिन यह डॉक्टर की मंजूरी के बिना डिस्चार्ज ऑर्डर पर हस्ताक्षर कभी नहीं कर सकता (रेड)। दूसरा उदाहरण "कोड रिव्यू एजेंट" है जिसका उल्लेख ऊपर किया गया था। AJR ने इसे देखा और कहा, "नहीं, यह बहुत सरल और संरचित है। यहाँ रोबोट का उपयोग न करें; एक स्क्रिप्ट का उपयोग करें।"
पेपर यह दावा नहीं करता है कि उसने सब कुछ हल कर दिया है। यह स्वीकार करता है कि हमें अभी भी इन लिखित नियमों को वास्तविक कंप्यूटर कोड में बदलने की आवश्यकता है जिसे रोबट समझ सकें, और उन्हें ठीक से टेस्ट करने की आवश्यकता है। लेकिन मुख्य विचार स्पष्ट है: हम इन शक्तिशाली रोबोटों को बेतहाशा नहीं छोड़ सकते। हमें नियमों को कोड के भीतर छिपाना बंद करना होगा और उन्हें स्पष्ट रूप से लिखना शुरू करना होगा, यह तय करना होगा कि कितनी स्वतंत्रता देनी है, और कब उसे वापस लेना है। AJR का उपयोग यह तय करने के लिए कि क्या हमें एक रोबोट की आवश्यकता है, और ADP का उपयोग यह तय करने के लिए कि उसे कैसे कार्य करने देना है, करके हम एक ऐसा भविष्य बना सकते हैं जहाँ ये डिजिटल चालक दल के सदस्य मददगार सहायक हों, न कि खतरनाक अनिश्चित तत्व।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।