Towards Reversible Forgetting: Managing Obsolete Knowledge in Continual Enterprise AI Agents
यह शोध पत्र "रिवर्सिबल फॉरगेटिंग" (reversible forgetting) का प्रस्ताव करता है, जो एक वैचारिक ढांचा और हिस्टेरेटिक रिवर्सिबल मेमोरी कंट्रोलर (Hysteretic Reversible Memory Controller) है, जो निरंतर एंटरप्राइज एआई एजेंटों में अप्रचलित ज्ञान को प्रबंधित करने के लिए स्मृति को सक्रिय, सुप्त और सेवानिवृत्त अवस्थाओं में व्यवस्थित करता है ताकि नकारात्मक स्थानांतरण को रोका जा सके और पर्यावरणीय स्थितियाँ पुनरावर्तित होने पर पहले से दमित ज्ञान के सुरक्षित पुनर्सक्रियन को सक्षम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, एक लंबे समय से चली आ रही धारणा है कि एक स्मार्ट सिस्टम को कभी भूलना नहीं चाहिए। 'कंटीन्यूअल लर्निंग' (निरंतर सीखने) के रूप में जानी जाने वाली यह अवधारणा बताती है कि जैसे ही एक एआई एजेंट नई जानकारी का सामना करता है, उसे अपने मौजूदा ज्ञान आधार में इसे सावधानीपूर्वक बुनना चाहिए, जिससे अतीत के हर उपयोगी सबक को सुरक्षित रखा जा सके। डर हमेशा यह रहा है कि यदि कोई सिस्टम कुछ नया सीखता है, तो वह अनजाने में अपने पुराने, मूल्यवान कौशल को ओवरराइट या खो सकता है। यह उन मशीनों के लिए एक गंभीर समस्या है जिन्हें लंबे समय तक काम करने की आवश्यकता होती है, लेकिन यह मान लेता है कि सारा पुराना ज्ञान समान रूप से मूल्यवान है। अब जो जटिल एआई एजेंट व्यवसायों को चला रहे हैं, उनके लिए यह धारणा त्रुटिपूर्ण है। वित्त, कानून और लॉजिस्टिक्स की वास्तविक दुनिया में, वातावरण स्थिर नहीं है; ग्राहक अपनी राय बदलते हैं, नियम फिर से लिखे जाते हैं, उपकरण अपडेट किए जाते हैं, और बाजार की स्थितियां बदलती हैं। ऐसे परिवर्तनशील परिदृश्य में, हर पिछले अनुभव को थामे रखना एक दायित्व बन सकता है। एक एआई जो शांत बाजार की रणनीति को याद रखता है, वह संकट के दौरान उसे विनाशकारी रूप से लागू कर सकता है, या एक सिस्टम जो एक पुरानी नीति को याद करता है, वह ऐसे निर्णय ले सकता है जो वर्तमान कानूनों का उल्लंघन करते हों। इसलिए, चुनौती केवल अधिक याद रखने के बारे में नहीं है, बल्कि यह जानने के बारे में भी है कि कब उस चीज़ का उपयोग करना बंद कर देना चाहिए जो कभी सत्य थी।
एक नया शोध पत्र इस दुविधा का समाधान प्रस्तुत करने के लिए इस बात को पुनर्परिभाषित करता है कि एआई अपने मेमोरी (स्मृति) को कैसे संभालता है। शोधकर्ताओं का तर्क है कि एंटरप्राइज एजेंटों के लिए, लक्ष्य प्रतिधारण (रिटेंशन) को अधिकतम करना नहीं, बल्कि एक ज्ञान जीवनचक्र का प्रबंधन करना होना चाहिए जहाँ जानकारी को मिटाए बिना अस्थायी रूप से अलग रखा जा सके। वे "रिवर्सिबल फॉरगेटिंग" (प्रतिवर्ती विस्मरण) नामक एक अवधारणा पेश करते हैं। विस्मरण को विफलता या स्थायी विलोपन के रूप में देखने के बजाय, वे इसे एक नियंत्रित प्रक्रिया के रूप में देखते हैं जहाँ अप्रचलित जानकारी को सामान्य उपयोग से दबा दिया जाता है, लेकिन सुरक्षित रखा जाता है, ताकि यदि दुनिया किसी ऐसे तरीके से बदले जिससे वह फिर से प्रासंगिक हो जाए, तो उसे वापस लाया जा सके। यह दृष्टिकोण इस बात के बीच अंतर करता है कि कौन सा ज्ञान वास्तव में चला गया है और कौन सा ज्ञान केवल सही क्षण की प्रतीक्षा कर रहा है।
इस विचार को सफल बनाने के लिए, लेखकों ने तीन विशिष्ट अवस्थाओं वाली एक फ्रेमवर्क डिज़ाइन की: सक्रिय (active), सुप्त (dormant), और सेवानिवृत्त (retired)। सक्रिय ज्ञान वह है जिसका उपयोग एआई वर्तमान में निर्णय लेने के लिए करता है। सुप्त ज्ञान वह जानकारी है जो वर्तमान में अप्रासंगिक या संभावित रूप से हानिकारक है, इसलिए सिस्टम इसे दबा देता है, लेकिन यह संग्रहीत और पुनः प्राप्त करने योग्य रहती है। सेवानिवृत्त ज्ञान वह जानकारी है जिसे आधिकारिक तौर पर हटाने के लिए चिह्नित किया गया है, हालांकि यह भी स्थायी विलोपन से अलग है, जिसके लिए एक अलग, सख्त कानूनी प्रक्रिया की आवश्यकता होगी। मुख्य नवाचार साक्ष्य के आधार पर जानकारी को इन अवस्थाओं के बीच ले जाने की क्षमता है। यदि ज्ञान का कोई हिस्सा उपयोगी रहना बंद कर देता है, तो वह सुप्त अवस्था में चला जाता है। यदि वातावरण वापस ऐसी स्थिति में बदल जाता है जहाँ वह ज्ञान एक बार फिर सहायक हो जाता है, तो सिस्टम उसे पुन: सक्रिय कर सकता है। यह एआई को पुराने डेटा के आधार पर गलतियाँ करने से रोकता है, जबकि यह भी सुनिश्चित करता है कि जब पुराने पैटर्न फिर से प्रकट हों, तो वह अनुकूलन करने की क्षमता न खो दे।
शोधकर्ताओं ने इस अवधारणा का परीक्षण करने के लिए एक विशिष्ट कंट्रोलर बनाया, जिसे वे "हिस्टेरेटिक रिवर्सिबल मेमोरी कंट्रोलर" कहते हैं। यह सिस्टम एक सतर्क द्वारपाल की तरह कार्य करता है। यह एक बुरे दिन या एक अच्छे दिन के आधार पर मेमोरी स्टेट को नहीं बदलता है। इसके बजाय, यह समय के साथ साक्ष्य एकत्र करता है। जानकारी को सक्रिय से सुप्त अवस्था में ले जाने के लिए, सिस्टम को कम प्रासंगिकता के एक निरंतर पैटर्न की आवश्यकता होती है, जिससे यह सुनिश्चित होता है कि एक अस्थायी गड़बड़ी के कारण एआई किसी महत्वपूर्ण चीज़ को त्याग न दे। इसके विपरीत, सुप्त ज्ञान को पुनर्जीवित करने के लिए, सिस्टम को यह साबित करने के लिए मजबूत प्रमाण चाहिए कि वह ज्ञान फिर से उपयोगी है, और यह देखने के लिए कि क्या स्मृति को पुन: सक्रिय करने से वास्तव में प्रदर्शन में सुधार होगा, यह एक "शैडो टेस्ट" भी चलाता है। इस डिज़ाइन में "हिस्टेरेसिस" जैसी सुरक्षा विशेषताएं शामिल हैं, जो एक तंत्र है जो सिस्टम को अनिश्चित स्थितियों में अवस्थाओं के बीच पागलों की तरह झूलने से रोकता है। यह प्रत्येक परिवर्तन का एक विस्तृत लेजर (बहीखाता) भी रखता है, जिसमें यह दर्ज होता है कि क्यों किसी जानकारी को दबाया गया या पुन: सक्रिय किया गया, जो व्यावसायिक सेटिंग में ऑडिटिंग और जवाबदेही के लिए महत्वपूर्ण है।
शोध पत्र इसे वित्तीय क्षेत्र के एक परिदृश्य के साथ स्पष्ट करता है, जहाँ स्थितियां तेजी से बदलती हैं। कल्पना कीजिए कि एक एआई एजेंट कम अस्थिरता वाले बाजार में जोखिम का प्रबंधन कर रहा है। वह विशिष्ट थ्रेशोल्ड और वर्कफ़्लो सीखता है जो इस शांत वातावरण में अच्छा काम करते हैं। अचानक, एक संकट आता है, और बाजार अत्यधिक अस्थिर हो जाता है। यदि एआई अपनी पुरानी, शांत-बाजार की रणनीतियों का उपयोग करता रहता, तो वह वास्तविक खतरों का पता लगाने या गलत अलार्म बजाने में विफल रहता। नए ढांचे के तहत, कंट्रोलर यह पहचान लेगा कि पुरानी रणनीतियां अब उपयुक्त नहीं हैं और उन्हें सुप्त अवस्था में भेज देगा, जिससे नई, संकट-उपयुक्त रणनीतियों को कार्यभार संभालने की अनुमति मिलेगी। यदि बाजार अंततः स्थिर हो जाता है और पहले जैसा कम अस्थिरता वाला राज्य वापस आ जाता है, तो सिस्टम उस मूल रणनीतियों को पुन: सक्रिय करने के लिए बदलाव का पता लगा लेगा, यह जानते हुए कि वे एक बार फिर काम के लिए सबसे अच्छे उपकरण हैं। दमन और रिकवरी का यह चक्र एजेंट को अपने इतिहास को खोए बिना या हानिकारक गलतियाँ किए बिना बदलते शासन (रेजीम) के बीच नेविगेट करने की अनुमति देता है।
लेखक सावधानीपूर्वक नोट करते हैं कि यह एक प्रस्तावित ढांचा और डिजाइन परिकल्पनाओं का एक सेट है, न कि पूरी तरह से हल की गई समस्या। वे सुझाव देते हैं कि यह दृष्टिकोण वर्तमान उपयोगिता की आवश्यकता और पुराने सूचना के हस्तक्षेप के जोखिम के बीच संतुलन बनाने का एक तरीका प्रदान करता है। वे भविष्य के अनुसंधान के लिए एक मार्ग भी रेखांकित करते हैं, जिसमें यह शामिल है कि विभिन्न प्रकार के कार्यों में यह तरीका कैसे काम करता है यह देखने के लिए बेहतर परीक्षण कैसे बनाए जाएं, और उन नियमों को कैसे नियंत्रित किया जाए जो यह तय करते हैं कि ज्ञान को कब सेवानिवत्त किया जाना चाहिए। शोध पत्र का निष्कर्ष है कि विस्मरण को स्थायी नुकसान के बजाय एक प्रतिवर्ती, प्रबंधित प्रक्रिया के रूप में मानकर, एंटरप्राइज एआई अधिक मजबूत, सुरक्षित और वास्तविक दुनिया की अप्रत्याशित प्रकृति के लिए बेहतर ढंग से सुसज्जित हो सकता है। दृष्टिकोण में यह बदलाव केवल सब कुछ संरक्षित करने से ध्यान हटाकर बुद्धिमानी से इस बात पर केंद्रित करता है कि किसी भी दिए गए क्षण में क्या महत्वपूर्ण है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।