Beyond Memory: A Transactional Continuity Kernel for Long-Lived AI Agents
यह शोध पत्र कॉन्टिन्युटी कर्नेल (CK) को प्रस्तुत करता है, जो एक ट्रांसेक्शनल कंट्रोल प्लेन है जो अनट्रस्टेड स्टेट प्रपोजल्स को एटॉमिक एक्टिवेशन से अलग करके दीर्घकालिक एआई एजेंटों के सुरक्षित और अधिकृत विकास को सुनिश्चित करता है, जिससे एक औपचारिक रूप से सत्यापित प्रोटोकॉल के माध्यम से स्टेट परिवर्तनों की एक अटूट, ऑडिट योग्य वंशावली की गारंटी देते हुए स्टेल ओवरराइट्स और प्रिविलेज एस्केलेशन को रोका जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
महान स्मृति अराजकता: AI एजेंटों को एक बाउंसर की आवश्यकता क्यों है
कल्पना कीजिए कि एक ऐसी दुनिया जहाँ आपका पसंदीदा वीडियो गेम पात्र न केवल पिछले पाँच मिनट के मिशन को याद रखता है, बल्कि उसने अब तक लड़े गए हर राक्षस, खरीदी गई हर वस्तु और सीखे गए हर रहस्य का एक सटीक डायरी रखता है। यह "लंबे समय तक जीवित रहने वाले AI एजेंटों" (long-lived AI agents) का सपना है—स्मार्ट कंप्यूटर प्रोग्राम जो सालों तक टिके रहते हैं, वास्तविक लोगों की तरह सीखते और बढ़ते हैं। लेकिन यहाँ समस्या है: यदि आपके पास उस पात्र की एक हज़ार अलग-अलग डायरियाँ हैं, जो अलग-अलग लेखकों द्वारा एक ही समय में लिखी गई हैं, तो उनमें से असली कहानी कौन सी है?
कंप्यूटर विज्ञान की दुनिया में, यह स्टोरेज (भंडारण) और अथॉरिटी (प्राधिकार) के बीच का अंतर है। स्टोरेज बस एक विशाल गोदाम है जहाँ आप हर एक ड्राफ्ट, नोट और गलती को रख सकते हैं। अथॉरिटी यह निर्णय लेने की प्रक्रिया है कि कौन सा संस्करण आधिकारिक है जिसे हर कोई मानने के लिए सहमत है। एक सख्त नियम पुस्तिका के बिना, एक AI एजेंट अनजाने में अपनी यादों को किसी नकली याद से ओवरराइट कर सकता है, या एक त्रुटिपूर्ण टूल एजेंट को यह विश्वास दिला सकता है कि उसके पास ऐसी महाशक्तियाँ हैं जो वास्तव में उसके पास नहीं हैं। यह एक अराजक ग्रुप प्रोजेक्ट की तरह है जहाँ हर कोई एक ही गूगल डॉक को एडिट करता रहता है, और किसी को नहीं पता कि अंतिम निर्णय किसका है। यह शोध पत्र उस अराजकता को संबोधित करता है, और एक सरल लेकिन महत्वपूर्ण प्रश्न पूछता है: हम एक ऐसी प्रणाली कैसे बना सकते हैं जो यह सुनिश्चित करे कि AI का "आधिकारिक" इतिहास हमेशा सत्य, सुरक्षित और अटूट रहे, भले ही चीजें गलत हो जाएं?
द कंटीन्यूटी कर्नेल: AI का अंतिम बाउंसर
यहाँ कंटीन्यूटी कर्नेल (Continuity Kernel - CK) आता है, जो शोधकर्ता जुन हे और डेइंग यू की कल्पना है। एक AI एजेंट की स्मृति को केवल एक नोटबुक के रूप में नहीं, बल्कि संभावनाओं के एक विशाल, शाखाओं वाले पेड़ के रूप में सोचें। हर बार जब AI कुछ नया सीखता है, कोई टूल किसी सेटिंग को अपडेट करता है, या कोई इंसान कोई आदेश देता है, तो एक नई शाखा फूटती है। समस्या यह है कि बिना एक बाउंसर के, कोई भी (या कोई त्रुटिपूर्ण रोबोट) पेड़ में घुसकर यह घोषित कर सकता है, "मैं नया आधिकारिक तना हूँ!" कंटीन्यूटी कर्नेल वही बाउनर है। यह कहानी नहीं लिखता; यह बस यह तय करता है कि कौन सी कहानी आधिकारिक बनने के योग्य है।
लेखक चीजों को सुरक्षित रखने के लिए एक चतुर दो-चरणीय प्रक्रिया का प्रस्ताव देते हैं। सबसे पहले, AI के "अविश्वसनीय" हिस्से (जैसे रचनात्मक भाषा मॉडल या वेब-सर्च टूल) सारा भारी काम करते हैं। वे साक्ष्य एकत्र करते हैं, नई स्मृति का एक ड्राफ्ट लिखते हैं, और उसे एक पैकेज में सील कर देते हैं। यह ऑफ-कमिट (off-commit) होता है, जिसका अर्थ है कि यह केवल एक प्रस्ताव है, तथ्य नहीं। फिर, कंटीनटी कर्नेल हस्तक्षेप करता है। यह एक सख्त, नियतात्मक (deterministic) न्यायाधीश के रूप में कार्य करता है। इसे AI के रचनात्मक विचारों की परवाह नहीं है; इसे केवल नियमों की परवाह है। यह जाँचता है: "क्या यह प्रस्ताव सही व्यक्ति से आया है? क्या पिछला मेमोरी वर्शन बिल्कुल वैसा ही है जैसा हमें अपेक्षित था? क्या साक्ष्य समय पर पहुँचे?"
यदि प्रस्ताव हर एक परीक्षण में पास हो जाता है, तो कर्नेल एक "कमिट (Commit)" करता है। यह एक जादुई क्षण है जहाँ नई स्मृति तुरंत आधिकारिक इतिहास बन जाती है, और पुराना संस्करण लॉक कर दिया जाता है। यदि यह विफल हो जाता है, तो प्रस्ताव को खारिज कर दिया जाता है, क्वारंटाइन कर दिया जाता है, या रोक दिया जाता है। पेपर तर्क देता है कि यह अलगाव अत्यंत महत्वपूर्ण है। आप AI को अपने स्वयं के अपग्रेड को अधिकृत करने की अनुमति नहीं दे सकते, क्योंकि यह एक बैंक टेलर को खुद को दस लाख डॉलर के निकासी को अप्रूव करने की अनुमति देने जैसा होगा। कर्नेल यह सुनिश्चित करता है कि केवल एक सत्यापित, पूर्व-अनुमोदित परिवर्तन ही कभी "ब्रांच हेड" (शाखा का मुख्य भाग)—यानी AI की वास्तविकता का एकमात्र सत्य संस्करण—बन सके।
खेल के नियम
इसे काम करने के योग्य बनाने के लिए, लेखकों ने "एक्टिवेशन कॉन्ट्रैक्ट" नामक सख्त नियमों का एक सेट डिज़ाइन किया है। एक उच्च-दांव वाले शतरंज के खेल की कल्पना करें जहाँ हर चाल को गिनती में आने से पहले एक रेफरी द्वारा सत्यापित किया जाना चाहिए। कर्नेल प्रत्येक प्रस्ताव के लिए 17 अलग-अलग चरणों की जाँच करता है। यह ऐसी चीजों को देखता है जैसे "क्या लेखक की आईडी बदली?" या "क्या स्मृति ताज़ा है?" या "क्या किसी ने फर्जी अनुमति पत्र चुराने की कोशिश की?"
पेपर स्पष्ट रूप रूप से इस विचार को खारिज करता है कि केवल हार्ड ड्राइव में डेटा सहेजना उसे सत्य बनाता है। सिर्फ इसलिए कि कोई स्मृति स्टोरेज में मौजूद है, इसका मतलब यह नहीं है कि AI को उस पर विश्वास करना चाहिए। लेखक इस बात के भी खिलाफ तर्क देते हैं कि AI मॉडल खुद को अधिकृत करने दें। उनके सिस्टम में, एक मॉडल बदलाव का प्रस्ताव तो दे सकता है, लेकिन वह कभी भी अपने स्वयं के अनुमति पत्र पर हस्ताक्षर नहीं कर सकता। कर्नेल ही एकमात्र चीज़ है जो "हाँ" कह सकता है।
शोधकर्ताओं ने इस विचार का परीक्षण एक कंप्यूटर सिमुलेशन का उपयोग करके किया, न कि किसी वास्तविक भौतिक शरीर वाले AI का। उन्होंने कर्नेल का एक डिजिटल मॉडल बनाया और इसे 2.8 मिलियन से अधिक विभिन्न संभावित परिदृश्यों के माध्यम से चलने दिया, जिसमें वे समय भी शामिल थे जब AI ने नियमों को दरकिनार करने का प्रयास किया, जब डेटा गायब था, या जब दो लोगों ने एक ही समय में स्मृति को अपडेट करने की कोशिश की। उन सभी 5.5 मिलियन अवस्था-परिवर्तनकारी (state-changing) गतिविधियों में, कर्नेल ने अपनी मर्यादा बनाए रखी। इसने सुरक्षा नियमों के शून्य उल्लंघन पाए। इसने स्वयं-अधिकृत (self-authorizing) चालों को सफलतापूर्वक रोका, डुप्लिकेट अपडेट को रोका, और यह सुनिश्चित किया कि केवल एक ही सत्य का संस्करण पेड़ के शीर्ष पर अस्तित्व में रह सके।
निर्णय: एक सुरक्षित मार्ग
कंटीन्यूटी कर्नेल हर समस्या को हल नहीं करता है। यह AI को स्मार्ट नहीं बनाता, और न ही यह किसी टूटे हुए रोबोटिक हाथ या खराब इंटरनेट कनेक्शन को ठीक कर सकता है। यह यह भी वादा नहीं करता कि AI दुनिया के बारे में हमेशा सही होगा; यह केवल यह गारंटी देता है कि AI की स्मृति सुसंगत है और कोई भी इतिहास को चुपके से दोबारा नहीं लिख सकता। लेखक सावधानी बरतते हुए कहते हैं कि हालांकि उनका सिमुलेशन अविश्वसनीय रूप से गहन है, फिर भी यह एक सिमुलेशन ही है। वास्तविक दुनिया के कंप्यूटर क्रैश हो सकते हैं, या स्टोरेज सिस्टम उन तरीकों से विफल हो सकते हैं जिनकी भविष्यवाणी मॉडल ने नहीं की थी।
हालाँकि, यह पेपर AI सुरक्षा के बारे में सोचने का एक शक्तिशाली नया तरीका प्रदान करता है। AI को पूर्ण बनाने की कोशिश करने के बजाय, हम एक "बाउंसर" बना सकते हैं जो यह सुनिश्चित करता है कि AI का इतिहास हमेशा स्वच्छ, अधिकृत और अटूट रहे। प्रस्ताव बनाने के अस्त-व्यस्त, रचनात्मक कार्य को उन्हें जाँचने के सख्त, उबाऊ कार्य से अलग करके, कंटीन्यूटी कर्नेल उन AI एजेंटों के लिए एक ब्लूप्रिंट प्रदान करता है जो अपनी पहचान और अपनी यादों को खोए बिना लंबे समय तक जीवित रह सकते हैं। यह ऐसे AI बनाने की दिशा में एक छोटा लेकिन महत्वपूर्ण कदम है जिस पर हम भरोसा कर सकें कि वे हज़ारों वर्षों के बाद भी जानते हैं कि वे कौन हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।