Contractual Skills: A GovernSpec Design Framework for Enterprise AI Agents
यह शोध पत्र "कॉन्ट्रैक्चुअल स्किल्स" (contractual skills) पेश करता है, जो एक GovernSpec-प्रेरित ढांचा है जो एंटरप्राइज एआई एजेंट निर्देशों को पठनीय कार्य अनुबंधों के रूप में व्यवस्थित करता है ताकि लक्ष्यों, सीमाओं और गुणवत्ता मानदंडों की निरीक्षण क्षमता को बढ़ाया जा सके, और प्रयोगों के माध्यम से यह प्रदर्शित करता है कि यह दृष्टिकोण एक स्टैंडअलोन सुरक्षा तंत्र के रूप में कार्य करने के बजाय शासन और रखरखाव क्षमता में सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, तेज़, लेकिन कभी-कभी ज़रूरत से ज़्यादा उत्साही सहायक को काम करने के लिए नियुक्त कर रहे हैं जो आपके व्यवसाय को चलाने में मदद करेगा। आप उन्हें निर्देशों का एक ढेर देते हैं जिसे "कौशल" (Skills) कहा जाता है।
पुराने तरीके में, ये निर्देश एक लंबे, अनर्गल पत्र की तरह थे। आप लिख सकते थे, "हे, ग्राहकों से बात करते समय, विनम्र रहें, मूल्य सूची की जाँच करें, और ऐसा कुछ भी वादा न करें जिसे आप पूरा न कर सकें।" सहायक इसे पढ़ता है, सिर हिलाता है और अपना सर्वश्रेष्ठ प्रयास करता है। लेकिन क्योंकि नियम पैराग्राफ के बीच में दबे होते हैं, सहायक कीमत देखना भूल सकता है, या इससे भी बुरा, गलती से ऐसी छूट देने का वादा कर सकता है जिसे देने की उसे अनुमति नहीं है।
यह शोधपत्र इन निर्देशों को लिखने का एक नया तरीका प्रस्तावित करता है, जिसे "कॉन्ट्रैक्चुअल स्किल्स" (Contractual Skills - संविदात्मक कौशल) कहा जाता है।
मूल विचार: एक पत्र से एक चेकलिस्ट तक
एक लंबे पत्र के बजाय, एक कॉन्ट्रैक्चुअल स्किल को एक औपचारिक नौकरी अनुबंध या एक फ्लाइट चेकलिस्ट के रूप में सोचें।
लेखक, टिंग लियू (Ting Liu), सुझाव देते हैं कि प्रत्येक कौशल के पास विशिष्ट, लेबल वाले बॉक्स (फील्ड्स) होने चाहिए जिन्हें सहायक को भरना होगा या जिनका पालन करना होगा:
- लक्ष्य (Goal): हम वास्तव में क्या करने की कोशिश कर रहे हैं?
- इनपुट (Inputs): शुरू करने से पहले हमें किस जानकारी की ज़रूरत है? (यदि आपके पास ग्राहक की आईडी नहीं है, तो रुक जाएँ!)
- अनुमतियाँ (Permissions): आप किन उपकरणों को छूने के लिए अधिकृत हैं? (आप ईमेल पढ़ सकते हैं, लेकिन आप फ़ाइल को हटा नहीं सकते।)
- ह्यूमन गेट्स (Human Gates): आपको कब रुकना चाहिए और मानव बॉस से अनुमोदन मांगना चाहिए? (जैसे, "यदि छूट 10% से अधिक है, तो रुकें और हस्ताक्षर के लिए प्रतीक्षा करें।")
- प्रमाण (Evidence): आपको अपने तथ्य कहाँ से मिले? (अनुमान न लगाएं; अपने स्रोत दिखाएं।)
- आउटपुट (Output): अंतिम परिणाम कैसा दिखना चाहिए? (एक विशिष्ट प्रारूप, न कि केवल एक रैंडम पैराग्राफ।)
यह क्यों किया जा रहा है?
शोधपत्र का तर्क है कि जब नियम "गद्य" (prose - लंबे पाठ) में छिपे होते हैं, तो उन्हें अनदेखा करना आसान होता है। जब वे लेबल वाले बॉक्स में होते हैं, तो उन्हें अनदेखा करना असंभव हो जाता है।
- उपमा: कल्पना कीजिए कि एक पायलट विमान उड़ा रहा है। यदि सुरक्षा नियम एक उपन्यास में लिखे गए हैं, तो पायलट एक चरण चूक सकता है। यदि नियम चेकलिस्ट के रूप में हैं जिसमें टिक लगाने के लिए बॉक्स हैं, तो पायलट को उन्हें अनिवार्य रूप से चेक करना ही होगा। कॉन्ट्रैक्चुअल स्किल्स AI के निर्देशों को उस चेकलिस्ट में बदल देती हैं।
उन्होंने क्या परीक्षण किया?
शोधकर्ताओं ने यह देखने के लिए दो मुख्य प्रयोग चलाए कि क्या यह "चेकलिस्ट" दृष्टिकोण पुराने "लंबे पत्र" वाले दृष्टिकोण की तुलना में वास्तव में बेहतर काम करता है।
1. लेखन परीक्षण (टेक्स्ट जनरेशन)
उन्होंने विभिन्न AI मॉडलों को सेल्स ईमेल लिखने, अनुबंधों की समीक्षा करने या कोड की जाँच करने जैसे कार्य दिए। उन्होंने चार संस्करणों की तुलना की:
- कोई कौशल नहीं (No Skill): केवल एक बुनियादी प्रॉम्प्ट।
- न्यूनतम कौशल (Minimal Skill): एक छोटा, सरल निर्देश।
- प्लेन एक्सपेंडेड स्किल (Plain Expanded Skill): एक लंबा, विस्तृत निर्देश (पुराने "अनर्गल पत्र" की तरह)।
- कॉन्ट्रैक्चुअल स्किल (Contractual Skill): वही विस्तृत जानकारी, लेकिन सख्त "चेकलिस्ट" प्रारूप में व्यवस्थित।
परिणाम: "कॉन्ट्रैक्चुअल स्किल्स" ने लगातार बेहतर, अधिक संरचित और सुरक्षित परिणाम दिए। जब इसकी तुलना "प्लेन एक्सपेंडेड" संस्करण (जिसमें जानकारी की मात्रा समान थी) से की गई, तो कॉन्ट्रैक्चुअल संस्करण नियमों और फॉर्मेटिंग का पालन करने में थोड़ा बेहतर था, हालांकि अंतर बहुत बड़ा नहीं था। मुख्य जीत यह थी कि आउटपुट को जांचना और सत्यापित करना आसान था।
2. "उसे मत छुओ" परीक्षण (टूल कॉलिंग)
उन्होंने AI को सिम्युलेटेड टूल्स (simulated tools) तक पहुंच दी, जिसमें कुछ "खतरनाक" टूल्स भी शामिल थे (जैसे फ़ाइलें हटाना या पैसा भेजना) जिन्हें ब्लॉक किया जाना था। उन्होंने देखा कि क्या AI उन टूल्स का उपयोग करने की कोशिश करता है।
परिणाम:
- अच्छी खबर: किसी भी प्रकार के कौशल का उपयोग करने से AI द्वारा खतरनाक कार्यों को करने की संभावना कम हो गई।
- चुनौती: "कॉन्ट्रैक्चुअल स्किल" ने हर एक मामले में नियमों को तोड़ने की कोशिश करने से AI को जादू की तरह नहीं रोका। कुछ मॉडलों ने अभी भी खतरनाक टूल्स का उपयोग करने की कोशिश की।
- सबक: कौशल एक चेतावनी संकेत या नियम पुस्तिका के रूप में कार्य करता है जो AI को बताता है कि क्या होना चाहिए, लेकिन यह भौतिक रूप से AI को गलत कार्य करने से नहीं रोक सकता। आपको अभी भी एक "सुरक्षा गार्ड" (रनटाइम गार्डरेल्स) की आवश्यकता है जो भौतिक रूप से गलत कार्य को ब्लॉक कर सके। कौशल केवल इस बारे में AI को स्मार्ट बनाता है कि उसे कब रुकना है।
निचोड़ (The Bottom Line)
यह शोधपत्र यह दावा नहीं करता कि कॉन्ट्रैक्चुअल स्किल्स AI को पूरी तरह से सुरक्षित बनाती हैं या वे मानव निरीक्षण का स्थान लेती हैं। इसके बजाय, यह दावा करता है कि वे AI के जॉब डिस्क्रिप्शन (कार्य विवरण) को बहुत स्पष्ट बनाती हैं।
- पहले: "यहाँ निर्देशों का एक लंबा पत्र है। शुभकामनाएँ!"
- बाद में: "'क्या करना है,' 'किससे बचना है,' और 'मदद कब मांगनी है' के स्पष्ट बॉक्सों के साथ एक अनुबंध यहाँ है।"
यह मनुष्यों के लिए AI के काम की समीक्षा करना आसान बनाता है, यह परीक्षण करना आसान बनाता है कि क्या AI नियमों का पालन कर रहा है, और AI को उसके काम की सीमाओं को समझने में मदद करता है। यह एक अस्पष्ट "प्रॉम्प्ट" को एक प्रबंधनीय संगठनात्मक संपत्ति में बदल देता है।
संक्षेप में: कॉन्ट्रैक्चुअल स्किल्स AI को सुपरहीरो नहीं बनातीं; वे बस इसे एक बेहतर मानचित्र और नियमों का एक स्पष्ट सेट देती हैं ताकि यह रास्ता न भटके या गलती से कार क्रैश न कर दे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।