ALARA for Agents: Least-Privilege Context Engineering Through Portable Composable Multi-Agent Teams
यह शोधपत्र ALARA को प्रस्तुत करता है, जो एक डिक्लेरेटिव कॉन्टेक्स्ट-एजेंट-टूल (CAT) डेटा लेयर और \texttt{npcsh} कमांड-लाइन शेल है, जो संरचनात्मक रूप से पार्स की गई कॉन्फ़िगरेशन फाइलों के माध्यम से मल्टी-एजेंट सिस्टम के लिए लीस्ट-प्रिविलेज एक्सेस (न्यूनतम विशेषाधिकार पहुंच) को लागू करता है, जिससे व्यवहारगत परिवर्तनों की गारंटी सुनिश्चित होती है और विविध मॉडलों एवं कार्यों में एजेंट क्षमताओं के स्केलेबल, सहयोगात्मक प्रबंधन को सक्षम बनाया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बड़ी समस्या: "अत्यधिक विशेषाधिकार प्राप्त इंटर्न" (The Over-Privileged Intern)
कल्पना कीजिए कि आपने अपने व्यवसाय को चलाने में मदद करने के लिए एक बहुत ही बुद्धिमान इंटर्न (एक AI एजेंट) को काम पर रखा है। आप चाहते हैं कि वे मददगार हों, लेकिन आप यह भी चाहते हैं कि वे सुरक्षित रहें।
वर्तमान में, अधिकांश कंपनियाँ अपने इंटर्न को कहती हैं: "यह नियमों की एक विशाल बाइंडर है जो सरल अंग्रेजी में लिखा गया है। कृपया इसे पढ़ें और अपनी पूरी कोशिश करें कि आप केवल उन्हीं टूल्स का उपयोग करें जिनकी आपको आवश्यकता है। यदि आप कोई लाल बटन देखते हैं, तो उसे न दबाएं, जब तक कि आपको न लगे कि यह एक अच्छा विचार है।"
समस्या क्या है? इंटर्न बुद्धिमान है, लेकिन वे आसानी से विचलित भी हो जाते हैं। यदि बाइंडर बहुत लंबा है, तो वे नियम भूल जाते हैं। यदि वे भ्रमित हो जाते हैं, तो वे गलती से लाल बटन दबा सकते हैं (आपका डेटाबेस डिलीट कर सकते हैं) या किसी ऐसे टूल का उपयोग करने की कोशिश कर सकते हैं जिसे उनके पास नहीं होना चाहिए (जैसे कंपनी का क्रेडिट कार्ड) क्योंकि निर्देश अस्पष्ट थे।
इसके अलावा, ये नियम हर जगह बिखरे हुए हैं: कुछ एक टेक्स्ट फाइल में हैं, कुछ कंप्यूटर कोड में हैं, और कुछ एक अलग सर्वर पर हैं। इसे अपडेट करना एक झंझट है, और यदि आप किसी सहकर्मी के साथ टीम के इंटर्न साझा करना चाहते हैं, तो आपको बहुत सारी भ्रमित करने वाली फाइलों को कॉपी-पेस्ट करना पड़ता है।
समाधान: "ALARA" सिद्धांत
इस शोध पत्र के लेखकों ने परमाणु भौतिकी (nuclear physics) के एक सुरक्षा नियम को लागू करने का निर्णय लिया जिसे ALARA कहा जाता है (As Low As Reasonably Achievable - जितना संभव हो उतना कम)। परमाणु संयंत्रों में, आप श्रमिकों को काम करने के लिए आवश्यक विकिरण (radiation) की बिल्कुल न्यूनतम मात्रा के संपर्क में लाते हैं।
उन्होंने इसे AI पर लागू किया: AI एजेंट को उसके विशिष्ट कार्य को करने के लिए केवल उतने ही न्यूनतम टूल्स और जानकारी दें जितनी उसे आवश्यकता है, और इसके अलावा कुछ भी नहीं।
यदि किसी एजेंट का काम "कविता लिखना" है, तो उसके पास केवल एक वर्ड प्रोसेसर तक पहुंच होनी चाहिए। उसे यह भी पता नहीं होना चाहिए कि "डेटाबेस डिलीट करें" का बटन मौजूद है। यदि वह टूल उसके टूलबॉक्स में नहीं है, तो वह उसका उपयोग भौतिक रूप से नहीं कर सकता, चाहे आप उससे कितना भी कहें।
उन्होंने इसे कैसे बनाया: "Lego" सिस्टम
इसे साकार करने के लिए, उन्होंने npcsh नामक एक नया सिस्टम बनाया जिसमें तीन मुख्य भाग हैं, जिन्हें वे CAT लेयर (Context-Agent-Tool) कहते हैं:
Context Files (टीम मैनेजर):
इसे संगठनात्मक चार्ट (organizational chart) के रूप में सोचें। यह कहता है, "हमारे पास एक मार्केटिंग टीम है और एक कोडिंग टीम है।" यह तय करता है कि बॉस (ऑर्केस्ट्रेटर) कौन है और कौन किसे रिपोर्ट करता है।NPC Files (कर्मचारी आईडी कार्ड):
"NPC" का अर्थ है "नॉन-प्लेयर कैरेक्टर" (जैसे वीडियो गेम में होता है)। प्रत्येक एजेंट को एक आईडी कार्ड मिलता है। इस कार्ड में सूचीबद्ध है:- वे कौन हैं।
- वे किस 'ब्रेन' (AI मॉडल) का उपयोग करते हैं।
- महत्वपूर्ण रूप से: उन टूल्स की एक सख्त सूची जिनका वे उपयोग करने के लिए अधिकृत हैं।
- जादू: यदि कोई टूल इस सूची में नहीं है, तो वह उस एजेंट के लिए अस्तित्व में ही नहीं है। यह कोई सुझाव नहीं है; यह एक कठोर दीवार है।
Jinxes (टूल्स):
"Jinxes" वास्तविक टूल्स हैं (जैसे "वेब सर्च करना" या "कोड लिखना")। इन्हें एक सरल, संरचित प्रारूप (YAML) में लिखा जाता है।- उपमा (Analogy): कल्पना कीजिए कि एक Jinx एक पहले से बनी रेसिपी कार्ड है। आप शेफ को केवल यह नहीं बताते कि "कुछ स्वादिष्ट बनाएं।" आप उन्हें एक कार्ड देते हैं जिसमें लिखा होता है: "चरण 1: प्याज काटें। चरण 2: उन्हें भूनें।"
- क्योंकि ये संरचित कार्ड हैं, इसलिए कंप्यूटर AI के शुरू होने से पहले ही इनकी जांच कर सकता है। यदि रेसिपी कहती है "ब्लेंडर का उपयोग करें," तो AI अचानक हथौड़े का उपयोग करने का निर्णय नहीं ले सकता।
यह सिर्फ "बात करने" से बेहतर क्यों है
पुराने तरीके में, आप AI को कहते हैं, "कृपया फाइलें डिलीट न करें।" AI उस वाक्य की व्याख्या (interpret) करता है। कभी-कभी वे इसे सही समझते हैं; कभी-कभी वे भ्रमित या थके होने के कारण गलत कर देते हैं।
इस नए तरीके में, "फाइल डिलीट करें" वाला टूल AI के मेनू से गायब है। यह एक ऐसे रेस्टोरेंट से पिज्जा ऑर्डर करने जैसा है जिसके पास पिज्जा का मेनू ही नहीं है। आप उसे ऑर्डर नहीं कर सकते, भले ही आप कितनी भी भीख मांग लें। यह सिस्टम को केवल "विनम्रता से सुरक्षित रहने के लिए कहने" के बजाय संरचनात्मक रूप से सुरक्षित (structurally safe) बनाता है।
"टेस्ट टेस्ट" (प्रयोग)
लेखकों ने 22 अलग-अलग AI मॉडल्स (छोटे से लेकर बहुत बड़े मॉडल्स तक) के साथ 115 विभिन्न कार्यों पर इस सिस्टम का परीक्षण किया, जैसे:
- वेब खोजना।
- कोड लिखना।
- फाइलों का प्रबंधन करना।
- अलग-अलग एजेंटों को मिलकर काम करने देना (डेलीगेशन)।
उन्होंने क्या पाया:
- बड़ा होना हमेशा बेहतर नहीं होता: एक छोटा, विशिष्ट AI (4 बिलियन पैरामीटर्स) जिसे विशेष रूप से टूल्स का उपयोग करने के लिए प्रशिक्षित किया गया था, अक्सर एक विशाल, सामान्य AI (27 बिलियन पैरामीटर्स) से बेहतर काम करता था जो प्रशिक्षित नहीं था। यह एक सामान्य डॉक्टर की तुलना में एक विशेषज्ञ मैकेनिक द्वारा कार ठीक करने जैसा है।
- "डेलीगेशन" का संघर्ष: एक AI से दूसरे AI को कार्य सौंपना (hand-off) सबसे कठिन काम था। यह अक्सर विफल रहा। यह सुझाव देता है कि समस्या AI की बुद्धिमत्ता की नहीं है, बल्कि हम हैंड-ऑफ निर्देशों को कैसे सेट करते हैं, इसकी है।
- Retry Logic (पुनः प्रयास तर्क): यदि कोई AI किसी कार्य में विफल रहता है, तो फिर से प्रयास करने से सरल चीजों (जैसे वेब सर्च) के लिए बहुत मदद मिलती है, लेकिन जटिल कार्यों (जैसे डेलीगेशन) के लिए यह वास्तव में चीजों को और खराब कर देता है क्योंकि AI अपनी पिछली गलतियों से भ्रमित हो जाता है।
मुख्य निष्कर्ष (The Takeaway)
यह शोध पत्र AI टीमों को बनाने का एक तरीका पेश करता है जो अधिक सुरक्षित, प्रबंधित करने में आसान और अधिक विश्वसनीय हैं।
AI को नियमों के लंबे, भ्रमित करने वाले पैराग्राफ लिखने के बजाय, जो शायद वे अनदेखा कर दें, वे एक फाइल-आधारित, लेगो-जैसे सिस्टम का उपयोग करते हैं जहाँ आप भौतिक रूप से एजेंट की क्षमताओं का निर्माण करते हैं। आप उन्हें केवल वही टूल्स देते हैं जिनकी उन्हें आवश्यकता है, और सिस्टम गारंटी देता है कि वे किसी और चीज़ का उपयोग नहीं कर सकते।
यह AI सुरक्षा को "उम्मीद करने कि वे सुनेंगे" के खेल से बदलकर "यह सुनिश्चित करने के कि वे भौतिक रूप से चीजें खराब नहीं कर सकते" के खेल में बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।