🤖 AI

The Past Is Prologue: A Plug-in Controller for Selective Updates in Sequentially Evolving LLM Memory

यह शोधपत्र जानस (Janus) को प्रस्तुत करता है, जो एक विधि-अज्ञेय (method-agnostic) प्लग-इन नियंत्रक है जो संदिग्ध विचलन का पता लगाकर और एक संक्षिप्त हाइब्रिड कार्य सेट पर उम्मीदवारों का मूल्यांकन करके क्रमिक रूप से विकसित होने वाली एलएलएम (LLM) मेमोरी को चुनिंदा रूप से अपडेट करता है, जिससे उपयोगी ज्ञान के अधिलेखन (overwriting) को रोका जा सके और विविध डेटासेटों में समग्र सटीकता में सुधार किया जा सके।

मूल लेखक: Zihan Chen, Songwei Dong, Chengshuai Shi, Peng Wang, Song Wang, Cong Shen, Jundong Li

प्रकाशित 2026-07-01

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Zihan Chen, Songwei Dong, Chengshuai Shi, Peng Wang, Song Wang, Cong Shen, Jundong Li

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ शोध पत्र "The Past Is Prologue: A Plug-in Controller for Selective Updates in Sequentially Evolving LLM Memory" का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।

समस्या: "बहुत अधिक जानकारी" का जाल

कल्पना कीजिए कि आप एक जासूस हैं जो विभिन्न अपराधों की एक श्रृंखला को सुलझाने की कोशिश कर रहे हैं। हर बार जब आप कोई केस सुलझाते हैं, तो आप अपनी नोटबुक में एक नोट लिखते हैं कि क्या काम आया और क्या नहीं।

AI की दुनिया में, लार्ज लैंग्वेज मॉडल्स (LLMs) इन जासूसों की तरह काम करते हैं। वे कार्यों को हल करते हैं, फीडबैक प्राप्त करते हैं, और फिर अपनी आंतरिक स्मृति (memory) को अपडेट करके उस सबक को "याद रखने" की कोशिश करते हैं।

वर्तमान समस्या: अधिकांश AI सिस्टम उन जासूसों की तरह हैं जो कभी अपनी नोटबुक को एडिट नहीं करते। यदि वे एक नया केस सुलझाते हैं, तो वे तुरंत नोटबुक में एक नया नियम लिख देते हैं, भले ही वह नियम उस नियम का खंडन करता हो जिसने पिछले 50 मामलों को सुलझाने में मदद की थी।

जोखिम: कभी-कभी, एक नया नियम वर्तमान कार्य के लिए तो बहुत अच्छा होता है लेकिन भविष्य के लिए बहुत बुरा होता है। यह एक उपयोगी सामान्य टिप को एक बहुत ही विशिष्ट, अजीब विवरण के साथ बदल सकता है जो केवल आज की पहेली पर लागू होता है।
परिणाम: जासूस की नोटबुक विरोधाभासी सलाहों का एक अस्त-व्यस्त मिश्रण बन जाती है, जिससे वे भविष्य के अपराधों को सुलझाने में और भी खराब हो जाते हैं, भले ही वे लगातार "सीख" रहे हों।

समाधान: "Janus" से मिलें

लेखकों ने Janus नामक एक नया सिस्टम प्रस्तावित किया है। Janus को एक नए जासूस के रूप में नहीं, बल्कि एक सख्त संपादक (editor) या एक क्वालिटी कंट्रोल मैनेजर के रूप में सोचें जो जासूस और नोटबुक के बीच बैठता है।

Janus खुद नियम नहीं लिखता है। इसके बजाय, यह हर बार नज़र रखता है जब जासूस नोटबुक में एक नया पेज जोड़ना चाहता है। यह एक सरल प्रश्न पूछता है: "क्या यह नया पेज वास्तव में हमें भविष्य के मामले सुलझाने में मदद करेगा, या यह सिर्फ कचरा है?"

यदि उत्तर "शायद यह बुरा है" है, तो Janus कहता है, "नहीं, पुराना पेज ही रहने दो।" यदि उत्तर "हाँ, यह एक अपग्रेड है" है, तो Janus कहता है, "जाओ, इसे बदल दो।"

Janus निर्णय कैसे लेता है (दो तरकीबें)

Janus को तेज़ होना चाहिए। यह जाँचने के लिए कि क्या नया नियम काम करता है, यह हर एक पुराने अपराध को फिर से हल करने के लिए रुक नहीं सकता (इसमें बहुत समय लगेगा)। इसके बजाय, यह दो चतुर शॉर्टकट का उपयोग करता है:

1. "मोमेंटम ट्रिगर" (दिशा सूचक की जाँच)

कल्पना कीजिए कि जासूस की स्मृति एक झील में तैरती हुई नाव है। आमतौर पर, नाव एक सुचारू, स्थिर दिशा में चलती है (छोटी, सहायक टिप्स जोड़ना)।

तरकीब: Janus नाव की दिशा पर नज़र रखता है। यदि जासूस अचानक नाव को पूरी तरह से अलग, तीखी दिशा में मोड़ने की कोशिश करता है, तो Janus को संदेह हो जाता है।
कार्रवाई: यह तीखा मोड़ एक "विचलन" (deviation) कहलाता है। इसका मतलब यह हो सकता है कि जासूस ने एक शानदार नया शॉर्टकट खोज लिया है, या इसका मतलब यह हो सकता है कि वे एक चट्टान से टकराने वाले हैं (एक बुरा नियम पेश कर रहे हैं)।
निर्णय: Janus केवल तभी गहन जाँच करने के लिए रुकता है जब नाव तेजी से मुड़ती है। यदि नाव बस शांति से तैर रही है, तो Janus बिना जाँच किए अपडेट को जाने देता है, जिससे समय बचता है।

2. "हाइब्रिड टेस्ट ड्राइव" (मिनी-टेस्ट)

जब Janus वास्तव में एक मेमोरी अपडेट की जाँच करने का निर्णय लेता है, तो यह जासूस को उनके द्वारा सुलझाए गए हर अपराध पर फिर से टेस्ट नहीं करता है। यह बहुत धीमा होगा। इसके बजाय, यह तीन विशिष्ट प्रकार के प्रश्नों से बना एक मिनी-टेस्ट बनाता है:

कवरेज प्रश्न (Coverage Questions): अतीत के कुछ रैंडम सैंपल ताकि यह सुनिश्चित हो सके कि नया नियम पुराने, सामान्य ज्ञान को तोड़ता नहीं है।
बाउंड्री प्रश्न (Boundary Questions): वे "कठिन" प्रश्न जहाँ जासूस पहले गलत था लेकिन अब सही हो गया (या इसके विपरीत), जो इस बात पर निर्भर करता है कि उन्हें क्या याद था। ये सबसे संवेदनशील टेस्ट हैं।
ताज़ा प्रश्न (Fresh Questions): जासूस ने अभी-अभी देखे गए बिल्कुल नए समस्याएं, यह सुनिश्चित करने के लिए कि नया नियम नवीनतम चीज़ों पर काम करता है, न कि केवल पुराने उदाहरणों पर।

Janus जासूस के "पुराने नोटबुक" और "नए नोटबुक" को इस मिनी-टेस्ट पर अगल-बगल चलाता है। जिस नोटबुक में अधिक उत्तर सही होते हैं, वही जीतता है, और उसी संस्करण को रखा जाता है।

परिणाम: स्मार्ट, न कि केवल कठिन

शोध पत्र ने दो अलग-अलग AI मॉडल का उपयोग करके छह अलग-अलग प्रकार की चुनौतियों (गणित, विज्ञान, कोडिंग, आदि) पर इस सिस्टम का परीक्षण किया।

निष्कर्ष: केवल अधिक मेमोरी अपडेट जोड़ने से AI हमेशा स्मार्ट नहीं बनता है। वास्तव में, अंधाधुंध अपडेट जोड़ने से समय के साथ AI की क्षमता कम हो सकती है।
जीत: बुरे अपडेट को फ़िल्टर करने और अच्छे अपडेट को रखने के लिए Janus का उपयोग करके, AI का प्रदर्शन काफी बढ़ गया (औसतन लगभग 3 से 5 प्रतिशत अंक)।
दक्षता: Janus ने यह सब किए बिना कि हर बार पूरे इतिहास को फिर से पढ़ना पड़े, यह हासिल किया। यह इस बारे में स्मार्ट था कि कब जाँच करनी है और क्या जाँच करना है।

सारांश उपमा

AI की स्मृति को एक माली की रेसिपी बुक की तरह समझें।

पुराना तरीका: हर बार जब माली एक नया उर्वरक (fertilizer) आज़माता है, तो वह उसे तुरंत लिख देता है, भले ही वह टमाटरों को मार दे। समय के साथ, किताब विरोधाभासी सलाहों से भर जाती है, और बगीचा खराब होने लगता है।
Janus का तरीका: Janus मुख्य माली है। जब एक नया उर्वरक प्रस्तावित किया जाता है, तो Janus जाँचता है: "क्या यह टमाटरों और गुलाबों दोनों पर काम करता है?" यदि यह केवल गुलाबों पर काम करता है लेकिन टमाटरों को मार देता है, तो Janus उस नोट को फेंक देता है। यदि यह सब पर मदद करता है, तो वह इसे किताब में जोड़ देता है।

परिणाम एक ऐसी रेसिपी बुक है जो वास्तव में बगीचे को बढ़ने में मदद करती है, न कि नोट्स का एक अराजक ढेर जो माली को भ्रमित करता है।

तकनीकी सारांश: Janus – क्रमिक रूप से विकसित होने वाली LLM मेमोरी में चयनात्मक अपडेट के लिए एक प्लग-इन कंट्रोलर

1. समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) को तेजी से बाहरी मेमोरी के माध्यम से पिछले इंटरैक्शन से सीखने वाले अनुक्रमिक एजेंटों (sequential agents) के रूप में तैनात किया जा रहा है। इस सेटिंग में, एजेंट मेमोरी को पुनः प्राप्त करते हैं, कार्यों को हल करते हैं, फीडबैक प्राप्त करते हैं, और भविष्य के उपयोग के लिए अपनी मेमोरी को अपडेट करते हैं। हालांकि यह "रिट्रीव-सॉल्व-अपडेट" (retrieve–solve–update) लूप सहज है, मौजूदा अनुक्रमिक मेमोरी सिस्टम एक मौलिक सीमा से ग्रस्त हैं: वे आमतौर पर वैश्विक उपयोगिता (global utility) को सत्यापित किए बिना प्रत्येक स्थानीय रूप से उत्पन्न मेमोरी अपडेट को तैनात कर देते हैं।

पेपर यह पहचानता है कि तत्काल कार्य के लिए अनुकूलित अपडेट अंतिम मेमोरी अवस्था के लिए हानिकारक हो सकते हैं। विशेष रूप से, वे:

पूर्व में उपयोगी रहे ज्ञान को ओवरराइट कर सकते हैं।
शोर युक्त (noisy), अत्यधिक विशिष्ट नियम पेश कर सकते हैं।
मेमोरी को हाल के उदाहरणों की ओर पक्षपाती बना सकते हैं, जिससे भविष्य के अनदेखे कार्यों पर प्रदर्शन गिर जाता है।

यह एक मेमोरी सत्यापन समस्या (memory validation problem) पैदा करता है: यह निर्धारित करना कि एक कैंडिडेट मेमोरी की वर्तमान मेमोरी के साथ तुलना कब करनी है, और उस तुलना के लिए किन कार्यों का उपयोग करना है, बिना पूरे टास्क इतिहास को फिर से चलाने की अत्यधिक कम्प्यूटेशनल लागत उठाए।

2. कार्यप्रणाली: Janus

लेखक Janus का प्रस्ताव करते हैं, जो एक मेथड-अग्नोस्टिक (method-agnostic), प्लग-इन मेमोरी कंट्रोलर है जो मौजूदा मेमोरी अपडर्स को रैप करता है। Janus अंतर्निहित अपडेट नियमों को नहीं बदलता है; इसके बजाय, यह एक गेटकीपर के रूप में कार्य करता है, जो यह निर्णय लेता है कि एक कैंडिडेट मेमोरी अपडेट ( $\hat{M}_t$ ) को स्वीकार करना है या पिछली मेमोरी ( $M_{t-1}$ ) को बनाए रखना है।

Janus सत्यापन समस्या को दो मुख्य तंत्रों के माध्यम से संबोधित करता है:

A. मेमोरी मोमेंटम ट्रिगर (Memory Momentum Trigger - MMT)
हर कार्य के बाद मेमोरी की तुलना करने की उच्च विलंबता (latency) से बचने के लिए, Janus मेमोरी अपडेट को एक प्रक्षेपवक्र (trajectory) के रूप में मानता है। यह मेमोरी अवस्थाओं को वेक्टर स्पेस में मैप करने के लिए एक टेक्स्ट एनकोडर $\phi(\cdot)$ का उपयोग करता है।

अपडेट दिशा (Update Direction): एक कैंडिडेट अपडेट की दिशा को $z_t = \phi(\hat{M}_t) - \phi(M_{t-1})$ के रूप में परिभाषित किया गया है।
मोमेंटम ट्रैकिंग (Momentum Tracking): Janus पिछले अपडेट दिशाओं के एक्सपोनेंशियल मूविंग एवरेज को बनाए रखता है: $m_t = \beta m_{t-1} + (1-\beta)z_t$ ।
ट्रिगर स्थिति (Trigger Condition): एक तुलना तभी ट्रिगर होती है जब कैंडिडेट अपडेट हाल के मोमेंटम प्रक्षेपवक्र से महत्वपूर्ण रूप से विचलित होता है, जिसे $\cos(z_t, m_{t-1}) < \tau$ द्वारा दर्शाया जाता है।
तर्क (Rationale): मोमेंटम के साथ संरेखित छोटे, वृद्धिशील अपडेट सीधे स्वीकार किए जाते हैं। तीव्र विचलन, जो मूल्यवान नए ज्ञान या हानिकारक विरूपण (distortion) दोनों का संकेत दे सकते हैं, एक स्पष्ट सत्यापन चरण को ट्रिगर करते हैं।

B. हाइब्रिड ट्रिगर-टाइम इवैल्यूएशन सेट (Hybrid Trigger-Time Evaluation Set)
जब एक ट्रिगर फायर होता है, तो Janus पूरे इतिहास के बजाय एक कॉम्पैक्ट हाइब्रिड सेट $E_t$ पर $M_{t-1}$ और $\hat{M}_t$ का मूल्यांकन करता है। इस सेट में तीन घटक शामिल हैं:

कवरेज सेट ( $S^{cov}_t$ ): देखे गए सभी कार्यों के वैश्विक वितरण का सारांश देने वाला प्रतिनिधि कार्यों का एक क्लस्टर।
बाउंड्री सेट ( $S^{bdry}_t$ ): "फ्लिप" कार्यों का एक संग्रह जहाँ मेमोरी अवस्था के चयन ने एजेंट की शुद्धता को पहले बदल दिया था (अर्थात, ऐसे कार्य जहाँ $1_{corr}(x; M_{t-1}) \neq 1_{corr}(x; \hat{M}_t)$ )। ये मेमोरी परिवर्तनों के प्रति अत्यधिक संवेदनशील हैं।
फ्रेश सेट ( $F_t$ ): पिछले ट्रिगर के बाद से सामना किए गए कार्यों का एक नमूना, ताकि एक स्थिर सपोर्ट सेट पर ओवरफिटिंग को रोका जा सके और नए खोजे गए क्षेत्रों पर प्रदर्शन का परीक्षण किया जा सके।

अंतिम मेमोरी $M_t$ को उस मेमोरी के रूप में चुना जाता है जो $E_t$ पर उच्च प्रदर्शन देती है।

3. प्रमुख योगदान

एक परिनियोजन चुनौती की पहचान: पेपर इस बात पर प्रकाश डालता है कि अनुक्रमिक मेमोरी सिस्टम अक्सर इसलिए विफल होते हैं क्योंकि स्थानीय रूप से उत्पन्न अपडेट वैश्विक रूप से उपयोगी नहीं होते हैं। अंधाधुंध अपडेट स्वीकार करने से अंतिम मेमोरी शोर युक्त, कार्य-विशिष्ट जानकारी की ओर पक्षपाती हो सकती है।
कुशल प्लग-इन नियंत्रण: Janus एक मेथड-अग्नोस्टिक कंट्रोलर है जो मौजूदा अपडर्स को रैप करता है। यह मेमोरी मोमेंटम ट्रिगर को कॉम्पैक्ट हाइब्रिड इवैल्यूएशन सेट के साथ जोड़ता है, जिससे बेस अपडेटर या पूरे इतिहास को फिर से चलाए बिना चयनात्मक परिनियोजन सक्षम होता है।
अनुभवजन्य सत्यापन (Empirical Validation): दृष्टिकोण को छह डेटासेट्स, दो बैकबोन LLMs और दो अलग-अलग मेमोरी अपडेटर आर्किटेक्चर पर सत्यापित किया गया है।

4. प्रयोगात्मक परिणाम

लेखकों ने गणितीय तर्क (MATH500), वैज्ञानिक तर्क (GPQA), प्रोफेशनल STEM (MMLU-Pro), कोड जनरेशन (HumanEval), और टूल उपयोग (APIBench) को कवर करने वाले छह डेटासेट्स पर Janus का मूल्यांकन किया। प्रयोगों में Qwen3-8B और DeepSeek-V4-Flash को बैकबोन के रूप में उपयोग किया गया, जिन्हें DC-RS और ExpeL जैसे बेस अपडर्स के साथ जोड़ा गया।

प्रदर्शन लाभ: Janus ने बेस अपडर्स की तुलना में औसत सटीकता में +2.7 से +4.6 प्रतिशत अंक की निरंतर सुधार की।
- Qwen3-8B पर, DC-RS + Janus ने औसत सटीकता को 79.5% से बढ़ाकर 83.2% कर दिया।
- DeepSeek-V4-Flash पर, ExpeL + Janus ने 79.6% से 82.3% औसत सटीकता में सुधार किया।
एब्लेशन स्टडीज (Ablation Studies):
- ट्रिगर टाइमिंग: MMT ट्रिगर ने रैंडम और पीरियोडिक ट्रिगरिंग रणनीतियों से बेहतर प्रदर्शन किया, और "ऑलवेज-ट्रिगर" पॉलिसी की तुलना में काफी कम तुलनाओं के साथ तुलनीय या बेहतर सटीकता प्राप्त की।
- इवैल्यूएशन सेट संरचना: हाइब्रिड सेट के किसी भी घटक (कवरेज, बाउंड्री, या फ्रेश) को हटाने से प्रदर्शन में गिरावट आई। स्टेटिक सपोर्ट सेट के प्रति ओवरफिटिंग को रोकने के लिए "फ्रेश" सेट विशेष रूप से महत्वपूर्ण था।
- परिनियोजन निर्णय: इंटरमीडिएट मेमोरी चेकपॉइंट्स ने दिखाया कि Janus सटीकता में एक स्थिर ऊपर की ओर रुझान बनाए रखता है, जबकि बेस अपडर्स अक्सर टास्क स्ट्रीम के बढ़ने के साथ स्थिर हो जाते हैं या गिरावट का शिकार होते हैं, जो पुष्टि करता है कि नई मेमोरी हमेशा बेहतर नहीं होती है।

5. महत्व और दावे

पेपर का दावा है कि अनुक्रमिक LLM मेमोरी में प्राथमिक बाधा केवल यह नहीं है कि अपडेट कैसे उत्पन्न किए जाएं, बल्कि यह है कि उन्हें क्या तैनात किया जाए। Janus यह प्रदर्शित करता है कि मेमोरी अपडेटिंग को एक परिनियोजन निर्णय (deployment decision) के रूप में मानकर—उन स्थानीय रूप से अनुकूलित अपडेट को फ़िल्टर करके जो वैश्विक सामान्यीकरण (global generalization) को नुकसान पहुँचा सकते हैं—अंतिम मेमोरी की उपयोगिता को महत्वपूर्ण रूप से बढ़ाया जा सकता है।

लेखक Janus को एक हल्के, कुशल समाधान के रूप में देखते हैं जिसे बेस मॉडल को पुन: प्रशिक्षित किए बिना या कोर अपडेट लॉजिक को बदले बिना मौजूदा अनुक्रमिक मेमोरी फ्रेमवर्क में एकीकृत किया जा सकता है। परिणाम बताते हैं कि रीजनिंग असिस्टेंट और इंटरैक्टिव निर्णय लेने वाली प्रणालियों के लिए, सभी उत्पन्न अनुभवों को संचित करने के बजाय एक क्यूरेटेड, वैलिडेटेड मेमोरी बनाए रखना अधिक प्रभावी है।