Language-Based Agent Control
यह शोध पत्र लैंग्वेज-बेस्ड एजेंट कंट्रोल (LBAC) को प्रस्तुत करता है, जो एक ऐसा प्रोग्रामिंग मॉडल है जो एजेंटिक अनुप्रयोगों के लिए यह सुनिश्चित करता है कि वे उपयोगकर्ता द्वारा निर्दिष्ट सुरक्षा नीतियों का पालन करें, जिसके लिए एजेंटों को निष्पादन से पहले स्टैटिकली वेरिफाइड (statically verified) सुव्यवस्थित प्रोग्राम उत्पन्न करने की आवश्यकता होती है, जिससे कंप्यूटेशनल एक्सप्रेसिवनेस (computational expressiveness) को संरक्षित करते हुए डेवलपर-लिखित स्कैफोल्डिंग और एजेंट-जनरेटेड व्यवहार दोनों में सुरक्षा गारंटी को एकीकृत किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक बहुत ही प्रतिभाशाली लेकिन अप्रत्याशित सहायक (एक AI एजेंट) को कोई काम करने के लिए काम पर रखा है, जैसे कि आपके शोध पत्रों (research papers) को व्यवस्थित करना। आप चाहते हैं कि वे रचनात्मक और बुद्धिमान हों, लेकिन आप यह भी सुनिश्चित करना चाहते हैं कि वे अनजाने में (या दुर्भावनापूर्ण रूप से) आपकी फ़ाइलों को डिलीट न कर दें, आपके रहस्य न चुरा लें, या फर्जी डेटा न बना दें।
वर्तमान में, अधिकांश सिस्टम आपको सुरक्षा (safety) और स्वतंत्रता (freedom) के बीच किसी एक को चुनने के लिए मजबूर करते हैं:
- "खिलौने का डिब्बा" दृष्टिकोण (सीमित उपकरण): आप सहायक को पूर्व-अनुमोदित उपकरणों का एक छोटा सा डिब्बा देते हैं। वे उस डिब्बे से बाहर नहीं जा सकते। यह बहुत सुरक्षित है, लेकिन वे कुछ भी चतुर या जटिल कार्य नहीं कर सकते। यदि उन्हें एक सूची को क्रमबद्ध करने की आवश्यकता है, तो उन्हें एक-एक करके आपसे पूछना होगा।
- "खुली रसोई" दृष्टिकोण (कोड इंटरप्रेटर): आप सहायक को रसोई तक पूरी पहुँच दे देते हैं। वे कुछ भी पका सकते हैं जो वे चाहें! लेकिन यदि वे भ्रमित हो जाते हैं या उन्हें चकमा दिया जाता है, तो वे घर को जला सकते हैं या आपको ज़हर परोस सकते हैं।
यह पेपर लैंग्वेज-बेस्ड एजेंट कंट्रोल (LBAC) नामक एक नया तरीका पेश करता है। इसे ऐसे समझें कि आप सहायक को एक जादुई रसोई दे रहे हैं जहाँ भौतिकी के नियम (ब्रह्मांड के नियम) एक ऐसी भाषा में लिखे गए हैं जिसे उन्हें बोलना ही होगा।
मूल विचार: "जादुई भाषा"
केवल सहायक को "क्या करें और क्या न करें" की सूची देने के बजाय, प्रोग्रामर पूरे सिस्टम को एक विशेष, सख्त भाषा (जैसे Haskell नामक एक सुपर-स्ट्रिक्ट प्रोग्रामिंग भाषा) के भीतर बनाते हैं।
इस जादुई भाषा में, टाइप्स (types) (डेटा पर लगे लेबल) सुरक्षा गार्डों के रूप में कार्य करते हैं।
- यदि डेटा के किसी टुकड़े को "विश्वसनीय" (Trusted) लेबल किया गया है, तो इसका मतलब है कि यह एक सुरक्षित स्रोत (जैसे सत्यापित डेटाबेस) से आया है।
- यदि इसे "अविश्वसनीय" (Untrusted) लेबल किया गया है, तो इसका मतलब है कि यह इंटरनेट या किसी उपयोगकर्ता से आया है।
- इस भाषा में एक नियम है: आप "अविश्वसनीय" सामग्री को "विश्वसनीय" व्यंजन में नहीं मिला सकते।
व्यवहार में यह कैसे काम करता है
आइए शोध पत्र वाले उदाहरण पर वापस चलते हैं। आप एजेंट से कहते हैं: "डिफरेंशियल प्राइवेसी पर सबसे पुराना पेपर खोजें और उसे मेरी बिब्लियोग्राफी में जोड़ें।"
- पुराना तरीका (कोड इंटरप्रेटर): एजेंट एक प्रोग्राम लिखता है। वह शायद बस एक फर्जी पेपर का शीर्षक बना सकता है, उसे आपकी फ़ाइल में लिख सकता है, और कह सकता है, "यह लीजिए!" सिस्टम केवल यह जाँचता है कि कोड चलता है या नहीं, यह नहीं कि उसकी सामग्री वास्तविक है या नहीं।
- पुराना तरीका (सीमित उपकरण): आप एजेंट को केवल एक "फेच एंड सेव" (लाओ और सहेजें) बटन देते हैं। वे अपने आप परिणामों को सॉर्ट या फ़िल्टर नहीं कर सकते। वे तब तक फंसे रहते हैं जब तक आप उन्हें यह नहीं बताते कि उन्हें किसे चुनना है।
- LBAC का तरीका (TYPEGUARD):
- एजेंट जादुई भाषा में एक प्रोग्राम लिखता है।
- एक पेपर प्राप्त करने के लिए, उन्हें एक विशेष फंक्शन का उपयोग करना होगा जो केवल "विश्वसनीय" लेबल लौटाता है।
- आपकी फ़ाइल में लिखने के लिए, फंक्शन को "विश्वसनीय" लेबल की आवश्यकता होती है।
- जादुई जाँच: एजेंट का प्रोग्राम चलने से पहले ही, एक "टाइप-चेकर" (एक सख्त लाइब्रेरियन) कोड की जाँच करता है।
- यदि एजेंट आपकी फ़ाइल में एक फर्जी पेपर लिखने की कोशिश करता है (जिसमें कोई "विश्वसनीय" लेबल नहीं है), तो लाइब्रेरियन कहता है, "त्रुटि! यह कोड नियमों में फिट नहीं बैठता। फिर से प्रयास करें।"
- एजेंट को त्रुटि संदेश मिलता है, वे अपनी गलती समझते हैं, और कोड को फिर से लिखते हैं ताकि पहले डेटाबेस से एक वास्तविक पेपर लाया जा सके।
- एक बार जब कोड जाँच पास कर लेता है, तो यह चलता है।
यह एक बड़ी बात क्यों है
पेपर का दावा है कि यह दृष्टिकोण "सुरक्षा बनाम स्वतंत्रता" की समस्या को हल करता है:
- स्वतंत्रता: एजेंट अभी भी जटिल प्रोग्राम लिख सकता है, सूचियों को क्रमबद्ध कर सकता है और गणित कर सकता है। वे उपकरणों के छोटे डिब्बे में नहीं फंसे हैं।
- सुरक्षा: क्योंकि एजेंट को कोड लिखना ही होगा जो भाषा के सख्त नियमों के अनुकूल हो, इसलिए वे भौतिक रूप से ऐसे कार्य नहीं कर सकते जो नियमों को तोड़ते हों (जैसे गुप्त डेटा लीक करना या फर्जी फ़ाइलें लिखना)। यदि कोड "टाइप चेक" पास नहीं करता है, तो वह कभी चलता ही नहीं है।
"नेस्टेड" एजेंट ट्रिक
पेपर यह भी दिखाता है कि यह तब भी काम करता है जब एजेंट मदद के लिए एक "सब-एजेंट" (उप-एजेंट) को काम पर रखता है।
- कल्पना कीजिए कि मुख्य एजेंट एक संदिग्ध ईमेल को देखने के लिए एक सब-एजेंट को कहता है।
- सब-एजेंट ईमेल को पढ़ता है (जो "गंदा" या अविश्वसनीय है)।
- जादुई भाषा के नियमों के कारण, सब-एजेंट को स्वचालित रूप से एक "क्वारंटाइन ज़ोन" में डाल दिया जाता है। वे ईमेल पढ़ सकते हैं, लेकिन वे उस "गंदे" डेटा को मुख्य एजेंट के टूल्स को नहीं दे सकते, जब तक कि वे इसे एक विशेष कंटेनर में न लपेट दें जिसे मुख्य एजेंट खोलने के लिए अधिकृत हो।
- यह सब स्वचालित रूप से भाषा के नियमों के कारण होता है, न कि किसी अलग सुरक्षा प्रणाली के कारण।
सारांश
पेपर का तर्क है कि AI एजेंटों के चारों ओर दीवारें बनाने के बजाय, हमें AI की दुनिया को एक सख्त, नियम-आधारित भाषा के भीतर बनाना चाहिए। इस दुनिया में, सुरक्षा एक अलग परत नहीं है जिसे आप ऊपर से जोड़ते हैं; यह उस भाषा के ताने-बाने में बुनी गई है जिसके माध्यम से एजेंट सोचता है और कोड लिखता है। यदि एजेंट नियमों को तोड़ने की कोशिश करता है, तो भाषा स्वयं कहती है "नहीं," और क्रिया को होने से पहले ही रोक दिया जाता है।
लेखकों ने तीन परिदृश्यों के साथ इसका परीक्षण किया:
- डेटा प्रोवेनेंस (Data Provenance): यह सुनिश्चित करना कि बिब्लियोग्राफी में केवल वास्तविक, डेटाबेस-स्रोत वाले पेपर ही जोड़े जाएं।
- फ़ाइल सिस्टम सैंडबॉक्सिंग (File System Sandboxing): यह सुनिश्चित करना कि एजेंट केवल विशिष्ट फोल्डरों (जैसे कि एक "कैपेबिलिटी" टोकन) को ही छू सकता है।
- सूचना प्रवाह (Information Flow): यह सुनिश्चित करना कि गुप्त डेटा गलती से सार्वजनिक इंटरनेट पर लीक न हो जाए।
इन सभी मामलों में, सिस्टम ने एजेंट को स्मार्ट और लचीला बनाए रखते हुए यह गारंटी दी कि वह नियमों को नहीं तोड़ पाएगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।