A Governed Shared-Kernel Architecture for Persistent, Auditable Multi-Agent Societies Beyond the LLM Session
यह शोध पत्र "वर्ल्ड 8" का मूल्यांकन करता है, जो एक प्रयोगात्मक साझा-कर्नेल (shared-kernel) आर्किटेक्चर है जो निरंतर, ऑडिट योग्य और सुधारात्मक बहु-एजेंट शासन को लागू करने के लिए तार्किक एक्टर पहचान को क्षणिक सत्रों से अलग करता है, और व्यापक परीक्षणों के माध्यम से यह प्रदर्शित करता है कि जहाँ सामान्य सुदृढ़ीकरण सामान्य दोषों को संबोधित करता है, वहीं जटिल प्राधिकरण और छेड़छाड़ संबंधी कमजोरियों को रोकने के लिए विशिष्ट शासन रैपर (governance wrapper) अद्वितीय रूप से आवश्यक है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, एक नए प्रकार के सिस्टम का उदय हो रहा है जहाँ कई कंप्यूटर प्रोग्राम, जिन्हें अक्सर 'एजेंट्स' कहा जाता है, समस्याओं को हल करने के लिए मिलकर काम करते हैं। ये एजेंट एक-दूसरे से बात कर सकते हैं, टूल्स का उपयोग कर सकते हैं और वास्तविक दुनिया को प्रभावित करने वाले निर्णय ले सकते हैं, जैसे कि आपूर्ति का ऑर्डर देना या वित्तीय व्यापार (फिनेंशियल ट्रेड्स) करना। हालाँकि, जैसे-जैसे ये सिस्टम अधिक स्थायी होते जा रहे हैं—कुछ मिनटों के बजाय दिनों या हफ्तों तक चलते हैं—एक मौलिक प्रश्न उठता है: हमें कैसे पता चलेगा कि वास्तव में प्रभारी कौन है? जब कोई कंप्यूटर प्रोग्राम रीस्टार्ट होता है, या जब इंटरनेट कनेक्शन बदल जाता है, तो एजेंट की डिजिटल "पहचान" खो सकती है या भ्रमित हो सकती है। यदि कोई सिस्टम एक अस्थायी सत्र (सेशन) और उस स्थायी इकाई के बीच स्पष्ट अंतर नहीं कर पाता जिसका वह प्रतिनिधित्व करता है, तो यह गलत कार्यों को होने देने का जोखिम उठाता है, या इससे भी बुरा, एक खराब या हाईजैक किए गए प्रोसेस को अधिकार के साथ कार्य करने देने का जोखिम उठाता है। यह केवल एक तकनीकी गड़बड़ी नहीं है; यह एक गवर्नेंस (शासन) संबंधी समस्या है। यह सुनिश्चित करने के बारे में है कि कौन क्या कर सकता है, इसके नियम स्पष्ट और अटूट बने रहें, भले ही अंतर्निहित मशीनरी बदल जाए।
तेहरान विश्वविद्यालय के एक शोधकर्ता, सईद फारोखी ने एक नए अध्ययन में इस विशिष्ट चुनौती का अन्वेषण किया है जो 'वर्ल्ड 8' नामक एक सिस्टम पर केंद्रित है। लक्ष्य एक स्मार्ट रोबोट या अधिक लाभदायक ट्रेडिंग एल्गोरिदम बनाना नहीं था, बल्कि एक विशिष्ट आर्किटेक्चरल विचार का परीक्षण करना था: क्या नियमों का एक सेट एक मल्टी-एजेंट समाज को सुरक्षित और जवाबदेह रख सकता है, चाहे किसी भी समय कौन सा कंप्यूटर या सॉफ्टवेयर सेशन काम कर रहा हो? यह अध्ययन "लॉजिकल एक्टर" (तार्किक अभिनेता)—जो निर्णय के लिए जिम्मेदार स्थायी पहचान है—को "रनटाइम" (वह अस्थायी वातावरण जहाँ वास्तव में काम होता है) से अलग मानता है। जिस तरह एक व्यक्ति वही रहता है चाहे वह कॉफी शॉप में बात कर रहा हो या बोर्डरूम में, यह सिस्टम एजेंट के अधिकार को बरकरार रखने का लक्ष्य रखता है, भले ही सॉफ्टवेयर सेशन क्रैश हो जाए और रीस्टार्ट हो जाए। शोध एक "गवर्नड शेयर्ड-कर्नेल" (शासित साझा-कर्नेल) पर केंद्रित है, जो एजेंटों और बाहरी दुनिया के बीच नियमों का एक केंद्रीय सेट है ताकि यह सत्यापित किया जा सके कि प्रत्येक कार्य अधिकृत है, कोई किसी और का ढोंग नहीं कर रहा है, और निर्णयों का इतिहास गुप्त रूप से बदला नहीं जा सकता है।
इसका परीक्षण करने के लिए, शोधकर्ताओं ने केवल सैद्धांतिक तर्कों या छोटे पैमाने के उदाहरणों पर भरोसा नहीं किया। उन्होंने अपने स्वयं के सिस्टम को तोड़ने के लिए डिज़ाइन किए गए जाँचों का एक कठोर कार्यक्रम बनाया, जिसे 'फाल्सिफिकेशन' (असत्यन) की विधि कहा जाता है। उन्होंने एक "हार्डनड बेसलाइन" (मजबूत आधार रेखा) के साथ शुरुआत की, जो सिस्टम का एक मानक संस्करण है जिसमें पहले से ही सामान्य सुरक्षा सुविधाएँ शामिल थीं, जैसे कि यह जांचना कि क्या किसी उपयोगकर्ता की अनुमति वापस ले ली गई थी या यह सुनिश्चित करना कि कोई निर्णय गलती से दो बार न लिया गया हो। उन्होंने अपने नए वर्ल्ड 8 आर्किटेक्चर के विरुद्ध इस बेसलाइन को 98,000 सिम्युलेटेड परीक्षणों में चलाया। परिणाम उल्लेखनीय थे: कई मानक सुरक्षा जाँचों के लिए, नया सिस्टम हार्डनड बेसलाइन की तुलना में बेहतर प्रदर्शन नहीं कर रहा था। यह एक जानबूझकर और ईमानदार खोज थी, जो दिखाती है कि नया आर्किटेक्चर बुनियादी सुरक्षा सुविधाओं को शून्य से आविष्कार नहीं करता है, बल्कि उन्हें एक विशिष्ट तरीके से जोड़ता है। अध्ययन में पाया गया कि सिस्टम का वास्तविक मूल्य इस बात में निहित है कि यह उन जटिल, एज-केस विफलताओं को कैसे संभालता है जहाँ एजेंट की पहचान भ्रमित हो जाती है या निष्पादन वातावरण (एग्जीक्यूशन एनवायरनमेंट) पुराना या अमान्य हो जाता है।
इसके बाद शोधकर्ताओं ने इसी नियमों के सेट को दो बहुत ही अलग प्रकार के सिम्युलेटेड समाजों पर लागू किया: एक कंपनी जो अपनी आपूर्ति श्रृंखला (सप्लाई चेन) का प्रबंधन करती है और एक ट्रेडिंग समाज जो वित्तीय निर्णय लेता है। प्रत्येक समाज के लिए 1,000 परीक्षणों में, सिस्टम ने आचरण के समान नियमों को सफलतापूर्वक बनाए रखा। इसने सुनिश्चित किया कि कुछ खरीदने का प्रस्ताव, कुछ खरीदने की अंतिम स्वीकृति के समान नहीं है, और अंतिम आदेश को अधिकार की ताज़ा, सत्यापित जाँच के बिना निष्पादित नहीं किया जा सकता है। महत्वपूर्ण रूप से, सिस्टम ने "स्टेल" (पुराने/अमान्य) अभिनेताओं को—सॉफ्टवेयर के वे उदाहरण जिन्हें बदल दिया गया था या रीस्टार्ट किया गया था—ऐसे कार्य जारी रखने से रोका कि वे अभी भी प्रभारी हैं। इसने एक "टैम्पर-एविडेंट" (छेड़छाड़ का पता लगाने योग्य) रिकॉर्ड भी बनाया, जो प्रत्येक निर्णय की एक डिजिटल रसीद है जो दिखाएगी कि यदि किसी ने बाद में इतिहास को बदलने की कोशिश की है। सिस्टम प्रत्येक समाज में हर एक परीक्षण में पास हुआ, जिससे सिद्ध हुआ कि नियमों को प्रत्येक विशिष्ट कार्य के लिए पुनर्गठित किए बिना विभिन्न प्रकार के कार्यों में लगातार लागू किया जा सकता है।
यह सुनिश्चित करने के लिए कि ये परिणाम केवल सिमुलेशन कोड का परिणाम नहीं हैं, शोधकर्ताओं ने इस सिस्टम का परीक्षण 'ऑटोजेन' (AutoGen) नामक एक वास्तविक, मौजूदा सॉफ्टवेयर प्लेटफॉर्म पर किया, जो मल्टी-एजेंट एप्लिकेशन बनाने के लिए व्यापक रूप रूप से उपयोग किया जाता है। उन्होंने इस लाइव वातावरण पर 2,000 अतिरिक्त मामले चलाए। परिणामों ने दिखाया कि वर्ल्ड 8 के नियमों को इस स्वतंत्र सिस्टम के ऊपर लगाया जा सकता है ताकि उन विशिष्ट विफलताओं को पकड़ा जा सके जो मानक प्लेटफॉर्म से छूट गई थीं। उदाहरण के लिए, सिस्टम ने उन मामलों को सफलतापूर्वक रोका जहाँ एक पुरानी, समाप्त हो चुकी अनुमति का उपयोग अनुमोदन चुराने के लिए किया गया था, या जहाँ सिस्टम के पूरी तरह से रिकवर होने से पहले ही निर्णय ले लिया गया था। इन विशिष्ट परिदृश्यों में, मानक सिस्टम विफल हो गया, लेकिन वर्ल्ड 8 गवर्नेंस रैपर ने प्रक्रिया को सुरक्षित रखा। अध्ययन में यह भी परीक्षण किया गया कि क्या होगा यदि शोधकर्ता जानबूझकर सिस्टम के कुछ हिस्सों को तोड़ देते हैं ताकि यह देखा जा सके कि सुरक्षा नियम त्रुटि को पकड़ पाएंगे या नहीं। हर मामले में, सिस्टम ने टूट-फूट का पता लगाया और कार्रवाई को रोक दिया, जिससे एक दोषपूर्ण प्रक्रिया को नुकसान पहुँचाने से रोका जा सका।
इस पेपर के निष्कर्ष बहुत सावधानीपूर्वक और संतुलित हैं। लेखक स्पष्ट रूप से कहते हैं कि यह दावा नहीं है कि वर्ल्ड 8 सिस्टम सभी आर्टिफिशियल इंटेलिजेंस के लिए अंतिम समाधान है या यह हर संभावित स्थिति में पूर्ण सुरक्षा की गारंटी देता है। अध्ययन यह सिद्ध नहीं करता कि सिस्टम लाइव स्टॉक मार्केट में व्यावसायिक उपयोग के लिए तैयार है या यह हर प्रकार के साइबर हमले को रोक सकता है। इसके बजाय, यह प्रदर्शित करता है कि नियमों का एक विशिष्ट संयोजन—पहचान को निष्पादन वातावरण से अलग करना, कार्रवाई के सटीक क्षण पर अधिकार की जाँच करना, और निर्णयों का अपरिवर्तनीय रिकॉर्ड रखना—एक अधिक मजबूत और जवाबदेह मल्टी-एजेंट समाज बनाने के लिए मिलकर काम कर सकता है। शोध दिखाता है कि एजेंटों की केवल बुद्धिमत्ता के बजाय उनके प्रभावों के शासन (गवर्नेंस) पर ध्यान केंद्रित करके, ऐसे सिस्टम बनाए जा सकते हैं जो विश्वसनीय बने रहते हैं, भले ही अंतर्निहित तकनीक बदल जाए या विफल हो जाए। यह कार्य यह निर्माण करने के लिए एक ब्लूप्रिंट प्रदान करता है कि डिजिटल समाज कैसे बनाए जाएं जहाँ अधिकार स्पष्ट हो, साक्ष्य स्थायी हों, और नियम दृढ़ रहें, चाहे बैकग्राउंड में कितना भी बिखराव क्यों न हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।