ATC: Agent Trajectory Control for Role-Contract Enforcement in Black-Box Multi-Agent Systems
यह शोध पत्र एजेंट ट्राजेक्टरी कंट्रोल (ATC) को प्रस्तुत करता है, जो एक ब्लैक-बॉक्स प्रवर्तन तंत्र है जो संदेश स्तर पर स्पष्ट भूमिका अनुबंधों के विरुद्ध एजेंट आउटपुट को स्कोर और बाधित करके मल्टी-एजेंट एलएलएम (LLM) प्रणालियों में रोल ड्रिफ्ट (भूमिका विचलन) को रोकता है, जिससे आंतरिक मॉडल प्रतिनिधित्व तक पहुंच की आवश्यकता के बिना कार्य प्रदर्शन और भूमिका निरंतरता में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के तेजी से बदलते परिदृश्य में, समस्या समाधान का एक नया दृष्टिकोण उभरा है जहाँ कई कंप्यूटर प्रोग्राम, जिन्हें 'एजेंट्स' कहा जाता है, जटिल कार्यों को निपटाने के लिए मिलकर काम करते हैं। एक एकल, सर्वज्ञ प्रोग्राम पर निर्भर रहने के बजाय, ये सिस्टम काम को विभाजित करते हैं: एक एजेंट रणनीति की योजना बनाता है, दूसरा जानकारी एकत्र करता है, तीसरा तथ्यों की जाँच करता है, और चौथा कार्यों को निष्पादित करता है। श्रम का यह विभाजन मानव टीमों की नकल करने के लिए डिज़ाइन किया गया है, जहाँ एक डॉक्टर निदान करता है, एक नर्स देखभाल प्रदान करती है, और एक सर्जन ऑपरेशन करता है, और प्रत्येक व्यक्ति अपने विशिष्ट विशेषज्ञता क्षेत्र के भीतर रहता है। ऐसी टीम की सफलता न केवल व्यक्तिगत कार्य की गुणवत्ता पर निर्भर करती है, बल्कि इस पर भी कि क्या प्रत्येक सदस्य अपने सौंपे गए कार्य की सीमाओं का सम्मान करता है। जब कोई टीम सदस्य अपनी सीमा से बाहर कदम रखता है, तो पूरी कोशिश विफल हो सकती है, भले ही वह व्यक्तिगत कार्य अपने आप में तर्कसंगत क्यों न लगे।
शोधकर्ता लंबे समय से इन मल्टी-एजेंट सिस्टम में एक विशिष्ट समस्या से जूझ रहे हैं: समय के साथ, एक एजेंट अनजाने में अपने निर्धारित दायरे से भटक सकता है। एक तथ्य-जांचकर्ता (fact-checker) योजना बनाना शुरू कर सकता है, या एक डेटा एकत्र करने वाला ऐसे निष्कर्ष निकाल सकता है जिनका वह समर्थन नहीं कर सकता। यह घटना, जिसे शोधकर्ता 'रोल ड्रिफ्ट' (role drift) कहते हैं, इसलिए होती है क्योंकि एजेंट लगातार एक ही साझा बातचीत को पढ़ रहे होते हैं। जैसे-जैसे चर्चा बढ़ती है, एक एजेंट अपने पड़ोसियों के कार्यों की नकल करना शुरू कर सकता है, जिससे अधिकार की रेखाएं धुंधली हो जाती हैं। जबकि पिछले तरीकों ने एजेंटों को बेहतर निर्देश देकर या कंप्यूटर मॉडल के आंतरिक कामकाज को संपादित करके इसे ठीक करने की कोशिश की, लेकिन वे ड्रिफ्ट को नुकसान पहुँचाने से पहले पकड़ने में अक्सर विफल रहे। मुख्य चुनौती यह थी कि एक तरीका ढूँढा जाए जो यह सत्यापित कर सके कि क्या एक एजेंट अभी भी अपना काम कर रहा है, इससे पहले कि उसका संदेश टीम के बाकी सदस्यों के साथ साझा किया जाए।
इसे हल करने के लिए, शोधकर्ताओं की एक टीम ने 'एजेंट ट्राजेक्टरी कंट्रोल' (Agent Trajectory Control) नामक एक नई प्रणाली पेश की। एजेंटों के आंतरिक कोड को फिर से लिखने के बजाय, यह प्रणाली उस क्षण में एक द्वारपाल (gatekeeper) के रूप में कार्य करती है जब एक एजेंट अपना संदेश लिखना समाप्त करता है। इससे पहले कि वह संदेश साझा बातचीत में प्रवेश करे, सिस्टम उसका विश्लेषण करता है कि क्या वह एजेंट के सौंपे गए जॉब डिस्क्रिप्शन (कार्य विवरण) के अनुरूप है। यह चार विशिष्ट चीजों की जाँच करता है: क्या संदेश एजेंट की भूमिका से भटक रहा है, क्या यह अनजाने में दूसरे एजेंट के कार्यों को उधार ले रहा है, क्या यह ऐसी भाषा का उपयोग कर रहा है जिसे उपयोग करने की एजेंट को अनुमति नहीं है, और क्या यह अपने पद के तार्किक नियमों का उल्लंघन करता है। यदि संदेश इन जाँचों को पास कर लेता है, तो इसे जारी कर दिया जाता है। यदि यह विफल होता है, तो सिस्टम एक सुधारात्मक संस्करण की गणना करता है जो एजेंट की सीमाओं के भीतर रहता है और एजेंट को इसे फिर से लिखने के लिए कहता है। यह प्रक्रिया हर बार होती है जब कोई एजेंट बोलता है, जिससे यह सुनिश्चित होता है कि पूरी बातचीत के दौरान टीम की संरचना बरकरार रहे।
शोधकर्ताओं ने विविध परिदृश्यों में इस प्रणाली का परीक्षण किया, जिसमें समान एजेंटों की टीमें और विभिन्न शक्तियों वाले अलग-अलग प्रकार के मॉडलों से बनी टीमें शामिल थीं। उन्होंने पाया कि नए नियंत्रण सिस्टम ने प्रत्येक सदस्य को उसकी उचित भूमिका में रखते हुए कार्यों को पूरा करने की टीम की क्षमता में उल्लेखनीय सुधार किया। दस एजेंटों के मिलकर काम करने वाले परीक्षणों में, इस प्रणाली ने जटिल कार्यों की सफलता दर को मौजूदा सर्वोत्तम तरीकों की तुलना में छह अंकों से अधिक बढ़ा दिया। यह सुधार बड़ी, विविध टीमों में और भी नाटकीय था, जहाँ भ्रम का जोखिम सबसे अधिक होता है। इन चुनौतीपूर्ण सेटिंग्स में, सिस्टम ने कार्य सफलता को लगभग दस अंकों तक बढ़ा दिया, जो यह सिद्ध करता है कि टीमें बढ़ने के साथ यह प्रभावी ढंग से स्केल करता है। डेटा ने दिखाया कि इस प्रणाली ने "रोल ड्रिफ्ट एनर्जी" (role drift energy)—जो कि एजेंटों के मर्यादा से बाहर भटकने का एक माप है—को पिछले दृष्टिकोणों की तुलना में आधे से अधिक कम कर दिया।
इस दृष्टिकोण को जो चीज़ विशेष रूप से शक्तिशाली बनाती है, वह यह है कि यह कंप्यूटर मॉडल्स के अंदर देखे बिना काम करता है। कई पिछले तरीकों के लिए व्यवहार को नियंत्रित करने के लिए AI के आंतरिक मस्तिष्क तक पहुँच की आवश्यकता होती थी, जो आज के सबसे उन्नत सिस्टम के साथ असंभव है। जनरेटर के बजाय स्वयं संदेश पर कार्य करके, यह नई विधि एजेंटों की किसी भी टीम पर लागू की जा सकती है, चाहे उन्हें कैसे भी बनाया गया हो। शोधकर्ताओं ने यह भी पाया कि यह प्रणाली तब सबसे अधिक मूल्यवान थी जब टीमों को उनकी सीमाओं तक धकेला गया, जैसे कि जब किसी एजेंट को स्पष्ट रूप से ऐसा कार्य करने के लिए कहा गया जो किसी और का था। इन स्ट्रेस टेस्ट (stress tests) में, नए सिस्टम ने उच्च प्रदर्शन बनाए रखा जबकि अन्य तरीके विफल हो गए, जो यह दर्शाता है कि यह दबाव में भी टीम के नियमों को लागू कर सकता है।
अध्ययन पुष्टि करता है कि एजेंटों को केवल यह बताना पर्याप्त नहीं है कि उन्हें क्या करना है; उनके कार्यों को उनके अनुबंधों के विरुद्ध निरंतर सत्यापित किया जाना चाहिए। परिणाम बताते हैं कि मल्टी-एजेंट सिस्टम के विश्वसनीय होने के लिए, एक ऐसी व्यवस्था होनी चाहिए जो प्रत्येक योगदान को स्वीकार करने से पहले उसकी जाँच करे। इसका मतलब यह नहीं है कि एजेंट कम रचनात्मक या सक्षम हैं; बल्कि इसका अर्थ यह है कि वे अधिक अनुशासित हैं। टीम की संरचना को स्पष्ट रखकर, यह प्रणाली एजेंटों को समूह के शोर में खो जाने के बजाय अपने विशिष्ट कौशल पर ध्यान केंद्रित करने की अनुमति देती है। शोधकर्ताओं ने अपने टूल्स और डेटा को जनता के लिए उपलब्ध कराया है, जिससे अन्य लोग इस कार्य को आगे बढ़ा सकें। जैसे-जैसे सॉफ्टवेयर विकास और व्यावसायिक योजना जैसे क्षेत्रों में आर्टिफिशियल इंटेलिजेंस टीमों का उपयोग आम होता जा रहा है, इस तरह का रोल एनफोर्समेंट (भूमिका प्रवर्तन) डिजिटल टीमों को मानव समकक्षों की तरह सुचारू और प्रभावी ढंग से कार्य करने के लिए एक मानक आवश्यकता बन सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।