🤖 AI

$\delta$ -mem: Efficient Online Memory for Large Language Models

यह शोध पत्र $\delta$ -mem को प्रस्तुत करता है, जो एक हल्का तंत्र है जो फ्रोजन लार्ज लैंग्वेज मॉडल्स को एक कॉम्पैक्ट, डेल्टा-रूल-आधारित ऑनलाइन मेमोरी स्टेट के साथ उन्नत करता है ताकि ऐतिहासिक जानकारी को कुशलतापूर्वक संकुचित और पुन: उपयोग किया जा सके, जिससे बिना पूर्ण फाइन-ट्यूनिंग या कॉन्टेक्स्ट विंडो विस्तार के मेमोरी-इंटेंसिव कार्यों पर प्रदर्शन में महत्वपूर्ण सुधार होता है।

मूल लेखक: Jingdi Lei, Di Zhang, Junxian Li, Weida Wang, Kaixuan Fan, Xiang Liu, Qihan Liu, Xiaoteng Ma, Baian Chen, Soujanya Poria

प्रकाशित 2026-05-13

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jingdi Lei, Di Zhang, Junxian Li, Weida Wang, Kaixuan Fan, Xiang Liu, Qihan Liu, Xiaoteng Ma, Baian Chen, Soujanya Poria

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान मित्र (AI) से बात कर रहे हैं जिसके पास तथ्यों की अद्भुत स्मृति है, लेकिन यदि आप उसे एक ही सांस में अपनी पूरी जीवन कहानी सुनाने की कोशिश करते हैं, तो वह घबरा जाता है।

समस्या: "बहुत अधिक जानकारी" की बाधा (The "Too Much Info" Bottleneck)
वर्तमान में, यदि आप चाहते हैं कि एक AI लंबी बातचीत को याद रखे, तो सामान्य तरीका यह है कि आप पूरी चैट हिस्ट्री को वापस प्रॉम्प्ट में पेस्ट करते रहते हैं।

उपमा: कल्पना कीजिए कि आप एक विशिष्ट वाक्य खोजने के लिए 1,000 पन्नों की किताब पढ़ने की कोशिश कर रहे हैं। इसमें बहुत समय लगता है (यह गणनात्मक रूप से महंगा है), और जब तक आप अंत तक पहुँचते हैं, तब तक आप शुरुआत के बारे में भूल सकते हैं (इसे "कॉन्टेक्स्ट रॉट" या संदर्भ का क्षय कहा जाता है)।
पेपर का दृष्टिकोण: केवल "किताब" को बड़ा करने से समस्या हल नहीं होती। AI अभी भी घास के ढेर में सही सुई खोजने के लिए संघर्ष करता है।

समाधान: $\delta$ -mem (डेल्टा-मेम)
लेखक $\delta$ -mem नामक एक नया तरीका प्रस्तावित करते हैं जिससे मेमोरी को संभाला जा सके। AI के मुँह में पिछले टेक्स्ट के पन्ने ठूँसने के बजाय, वे इसे एक छोटा, अत्यंत कुशल "स्टिकी नोट" (चिपकने वाला नोट) सिस्टम देते हैं जो वास्तविक समय में खुद को अपडेट करता है।

यह कैसे काम करता है, इसे सरल रूपकों में विभाजित किया गया है:

1. जमा हुआ मस्तिष्क और स्टिकी नोट (The Frozen Brain and the Sticky Note)

AI के मुख्य मस्तिष्क (बैकबोन) को एक जमी हुई मूर्ति के रूप में सोचें। यह अविश्वसनीय रूप से स्मार्ट है, लेकिन आप इसके आंतरिक वायरिंग को बदल नहीं सकते या इसे फिर से प्रशिक्षित नहीं कर सकते।

नवाचार: $\delta$ -mem इस मूर्ति से एक छोटा, 8x8 ग्रिड (कल्पना कीजिए कि यह एक बहुत छोटा, उच्च-तकनीकी स्टिकी नोट पैड है) जोड़ता है।
यह कैसे अपडेट होता है: हर बार जब आप कुछ नया कहते हैं, तो सिस्टम पूरे पैराग्राफ को फिर से नहीं लिखता है। इसके बजाय, यह उस अंतर (डेल्टा) की गणना करता है जो आपने क्या कहने की उम्मीद की थी और आपने वास्तव में क्या कहा, और यह केवल उस छोटे से सुधार के साथ स्टिकी नोट को अपडेट करता है।
उपमा: यह एक GPS की तरह है जो हर बार जब आप मोड़ लेते हैं, तो पूरे विश्व का पुन: मानचित्रण नहीं करता है। यह बस आपके वर्तमान स्थान को एक सेकंड पहले आप जहाँ थे, उसके सापेक्ष अपडेट करता है।

2. "स्टीयरिंग व्हील" (लो-रैंक करेक्शन)

जब AI आपको उत्तर देने वाला होता है, तो वह केवल कहानी "पढ़ने" के लिए स्टिकी नोट को नहीं देखता है। इसके बजाय, स्टिकी नोट एक स्टीयरिंग व्हील की तरह कार्य करता है।

तंत्र: AI स्टिकी नोट को देखता है और कहता है, "ओह, हमारे इतिहास के आधार पर, मुझे अपना ध्यान थोड़ा बाईं ओर बदलने की आवश्यकता है।" यह आपके वर्तमान प्रश्न को प्रोसेस करने के तरीके में एक सूक्ष्म, लो-रैंक समायोजन करता है।
परिणाम: AI को पूरी हिस्ट्री को फिर से पढ़ने की आवश्यकता नहीं है। "स्टीयरिंग" तुरंत होती है, जो जमी हुई मूर्ति को भ्रमित हुए बिना सही संदर्भ को याद रखने के लिए निर्देशित करती है।

3. नोट लिखने के तीन तरीके

पेपर ने इस स्टिकी नोट को अपडेट करने के तीन अलग-अलग तरीकों का परीक्षण किया:

टोकन-स्टेट (TSW): आपके द्वारा टाइप किए गए हर एक शब्द के बाद नोट को अपडेट करना। (बहुत विस्तृत, लेकिन शोर भरा हो सकता है)।
सीक्वेंस-स्टेट (SSW): हर वाक्य या संदेश के बाद नोट को अपडेट करना। (अधिक सहज, जैसे लिखने से पहले एक पैराग्राफ का सारांश बनाना)।
मल्टी-स्टेट (MSW): एक साथ तीन अलग-अलग स्टिकी नोट्स का उपयोग करना। एक तथ्यों के लिए, एक आपकी प्राथमिकताओं के लिए, और एक वर्तमान कार्य के लिए। यह नोट्स को आपस में मिलने से रोकता है।

उन्होंने क्या पाया?

शोधकर्ताओं ने विभिन्न AI मॉडलों पर इनका परीक्षण किया और प्रभावशाली परिणाम पाए:

छोटा लेकिन शक्तिशाली: भले ही उनके पास एक छोटा 8x8 ग्रिड था (जो कंप्यूटर की दुनिया में अविश्वसनीय रूप से छोटा है), AI ने मेमोरी-भारी कार्यों पर काफी बेहतर प्रदर्शन किया।
"जादुई रिकवरी": एक परीक्षण में, उन्होंने पूरी चैट हिस्ट्री हटा दी और केवल AI को छोटा स्टिकी नोट दिया। AI अभी भी सवालों के सही उत्तर देने के लिए पर्याप्त याद रख सका, जिससे यह साबित हुआ कि नोट ने शब्दों को नहीं, बल्कि बातचीत के सार को पकड़ लिया था।
प्रतिस्पर्धा को पछाड़ना: इसने अन्य तरीकों को पछाड़ दिया जो प्रॉम्प्ट में अधिक टेक्स्ट भरने या बाहरी डेटाबेस का उपयोग करने की कोशिश करते थे। यह तेज़, सस्ता और अधिक सटीक था।

मुख्य निष्कर्ष (The Bottom Line)

$\delta$ -mem एक सुपर-स्मार्ट लेकिन भूलक्कड़ रोबोट को एक गतिशील, स्वयं-अपडेट होने वाले चीट शीट देने जैसा है। रोबोट को बातचीत याद रखने के लिए लाइब्रेरी की किताबें पढ़ने के लिए मजबूर करने के बजाय, यह बस एक छोटे, लगातार अपडेट होने वाले नोट पर एक नज़र डालता है जो उसे ठीक से बताता है कि अपना ध्यान कैसे केंद्रित करना है। यह AI को बिना पुन: प्रशिक्षित किए या भारी मात्रा में कंप्यूटर पावर के बिना, लंबे समय तक चलने वाली बातचीत को कुशलतापूर्वक याद रखने की अनुमति देता है।

$\delta$ -mem का तकनीकी सारांश: बड़े भाषा मॉडलों (LLMs) के लिए कुशल ऑनलाइन मेमोरी

1. समस्या विवरण

जैसे-जैसे लार्ज लैंग्वेज मॉडल्स (LLMs) को दीर्घकालिक सहायकों (long-term assistants) और एजेंट सिस्टम में तैनात किया जा रहा है, वे एक गंभीर चुनौती का सामना कर रहे हैं: विस्तारित अंतःक्रियाओं (extended interactions) के दौरान ऐतिहासिक जानकारी को संचित करने, अपडेट करने और पुन: उपयोग करने की आवश्यकता। वर्तमान रणनीतियाँ अक्सर केवल इनपुट कॉन्टेक्स्ट विंडो को विस्तारित करने पर निर्भर करती हैं। हालाँकि, मानक अटेंशन की कॉन्टेक्स्ट लंबाई के सापेक्ष द्विघाती लागत (quadratic cost) के कारण यह दृष्टिकोण कम्प्यूटेशनल रूप से महंगा है। इसके अलावा, केवल विंडो का आकार बढ़ाने से प्रभावी उपयोग की गारंटी नहीं मिलती; मॉडल बहुत लंबी अनुक्रमों (sequences) को संभालते समय "कॉन्टेक्स्ट डिग्रेडेशन" या "कॉन्टेक्स्ट रोट" (context rot) से ग्रस्त हो जाते हैं, जो यह दर्शाता है कि मिलियन-टोकन विंडो भी मौलिक रूप से मेमोरी की समस्या को हल नहीं करती है।

मौजूदा मेमोरी तंत्र तीन प्रतिमानों (paradigms) में आते हैं, जिनमें से प्रत्येक की अपनी सीमाएँ हैं:

टेक्स्टुअल मेमोरी मैकेनिज्म (TMMs): मेमोरी को टेक्स्ट के रूप में संग्रहीत करते हैं जिसे इनपुट कॉन्टेक्स्ट में इंजेक्ट किया जाता है। हालांकि यह लचीला है, लेकिन यह कॉन्टेक्स्ट-विंडो सीमाओं, रिट्रीवल नॉइज़ और संपीड़न हानि (compaction loss) से ग्रस्त है।
आउटसाइड-चैनल मेमोरी मैकेनिज्म (OMMs): मेमोरी को बाहरी मॉड्यूल में रखते हैं जिसे रिट्रीवल के माध्यम से एक्सेस किया जाता है। यह ओवरहेड, एकीकरण जटिलता और बैकबोन के साथ संभावित मिसअलाइनमेंट पेश करता है।
पैरामीट्रिक मेमोरी मैकेनिज्म (PMMs): मेमोरी को प्रीफिक्स या एडेप्टर में एनकोड करते हैं। फ्रोजन बैकबोन के लिए कुशल होने के बावजूद, इनकी स्थिर प्रकृति गतिशील रूप से विकसित होने वाली जानकारी के अनुकूल होने की क्षमता को सीमित करती है।

एक ऐसे तंत्र की आवश्यकता है जो एक संक्षिप्त, गतिशील रूप से विकसित होने वाली मेमोरी अवस्था (state) बनाए रखे और बैकबोन को एक ऐसे पथ के माध्यम से निर्देशित करे जो इसकी आंतरिक अटेंशन गणना के साथ निकटता से संरेखित हो, बिना पूर्ण फाइन-ट्यूनिंग या स्पष्ट कॉन्टेक्स्ट विस्तार की आवश्यकता के।

2. कार्यप्रणाली: $\delta$ -mem

लेखक $\delta$ -mem का प्रस्ताव करते हैं, जो एक हल्का मेमोरी तंत्र है जो एक फ्रोजन फुल-अटेंशन बैकबोन को एक संक्षिप्त ऑनलाइन स्टेट ऑफ एसोसिएटिव मेमोरी (OSAM) के साथ संवर्धित करता है। मुख्य डिज़ाइन प्रत्येक स्थिति (position) पर एक "रीड-स्टीयर-राइट" (Read-Steer-Write) चक्र का पालन करता है, जिससे बैकबोन पैरामीटर्स फ्रोजन रहते हैं।

A. ऑनलाइन स्टेट ऑफ एसोसिएटिव मेमोरी (OSAM)
सभी ऐतिहासिक टोकन को संग्रहीत करने के बजाय, $\delta$ -mem पिछले सूचना को एक निश्चित आकार के स्टेट मैट्रिक्स $S \in \mathbb{R}^{r \times r}$ (विशेष रूप से प्रयोगों में $8 \times 8$ मैट्रिक्स) में संकुचित करता है। यह स्टेट ऐतिहासिक कॉन्टेक्स्ट से की-वैल्यू एसोसिएशन ( $k \to v$ ) को संग्रहीत करता है।

अपडेट नियम: स्टेट को ऑनलाइन रिग्रेशन से प्रेरित डेल्टा-रूल लर्निंग दृष्टिकोण का उपयोग करके क्रमिक रूप से अपडेट किया जाता है। एक मेमोरी की $k_t$ और वैल्यू $v_t$ को देखते हुए, स्टेट अनुमानित $\hat{v}_t = S_{t-1}k_t$ लगाता है। अपडेट रेसिडुअल एरर (residual error) को कम करता है:
$S_t = \lambda_t S_{t-1} + \beta_t (v_t - S_{t-1}k_t)k_t^\top$
यहाँ, $\lambda_t$ (फॉरगेट गेट) पिछले मेमोरी के प्रति प्रतिधारण (retention) को नियंत्रित करता है, और $\beta_t$ (राइट गेट) रेसिडुअल अपडेट की शक्ति को नियंत्रित करता है। यह स्टेट को स्थिर ऐतिहासिक जानकारी को बनाए रखते हुए गतिशील रूप से भविष्यवाणात्मक विसंगतियों को ठीक करने की अनुमति देता है।

B. मेमोरी प्रोजेक्शन
फ्रोजन बैकबोन से हिडन स्टेट $x_t$ को लो-डायमेंशनल मेमोरी स्पेस ( $r$ डायमेंशन) में प्रोजेक्ट किया जाता है ताकि मेमोरी स्टेट के लिए क्वेरी ( $q^m_t$ ), की ( $k^m_t$ ), और वैल्यू ( $v^m_t$ ) वेक्टर्स उत्पन्न किए जा सकें। लॉन्ग-सीक्वेंस रिकरेंस के दौरान अस्थिरता को कम करने के लिए $q^m_t$ और $k^m_t$ पर नॉर्मलाइजेशन लागू किया जाता है।

C. लो-रैंक करेक्शन के माध्यम से स्टीयरिंग
जेनरेशन के दौरान, $\delta$ -mem वर्तमान क्वेरी $q^m_t$ का उपयोग करके पिछले स्टेट $S_{t-1}$ से रीड करता है ताकि रीड वेक्टर $r_t = S_{t-1}q^m_t$ उत्पन्न किया जा सके। यह वेक्टर कॉन्टेक्स्ट-प्रासंगिक सिग्नल प्रदान करता है जो टेक्स्ट टोकन को रिट्रीव किए बिना बैकबोन के अटेंशन को निर्देशित (steer) करता है।

रीड सिग्नल को अटेंशन मैकेनिज्म के क्वेरी ( $\Delta q_t$ ) और आउटपुट ( $\Delta o_t$ ) पक्षों के लिए लो-रैंक करेक्शन में बदल दिया जाता है:
$\tilde{q}_t = q^0_t + \alpha \Delta q_t, \quad \tilde{y}_t = a_t + \alpha \Delta o_t$
जहाँ $q^0_t$ मूल क्वेरी है और $a_t$ मानक अटेंशन आउटपुट है। ये करेक्शन एसोसिएटिव मेमोरी को सीधे फॉरवर्ड कम्प्यूटेशन में भाग लेने की अनुमति देते हैं।

D. राइटिंग ग्रेनुलैरिटी रणनीतियाँ
पेपर स्टेट को अपडेट करने के लिए तीन रणनीतियों की जांच करता है:

टोकन-स्टेट राइट (TSW): हर टोकन पर स्टेट को अपडेट करता है। यह सूक्ष्म विवरणों को सुरक्षित रखता है लेकिन शोर (noise) के प्रति संवेदनशील है।
सीक्वेंस-स्टेट राइट (SSW): अपडेट करने से पहले एक संदेश/सेगमेंट के भीतर हिडन स्टेट्स का औसत निकालता है। यह रेडंडेंसी को कम करता है और विकास को सुचारू बनाता है।
मल्टी-स्टेट राइट (MSW): हस्तक्षेप (interference) को कम करने के लिए कई समानांतर सब-स्टेट्स (जैसे तथ्यों, प्राथमिकताओं, कार्य प्रगति के लिए) बनाए रखता है और उनके रीडआउट को एकत्रित करता है।

E. ट्रेनिंग
$\delta$ -mem को मानक सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) लॉस का उपयोग करके प्रशिक्षित किया जाता है। कॉन्टेक्स्ट टोकन्स को ऑनलाइन स्टेट में लिखा जाता है, लेकिन रिस्पॉन्स की भविष्यवाणी के दौरान स्टेट ही (न कि कच्चे कॉन्टेक्स्ट टोकन्स) फ्रोजन बैकबोन को निर्देशित करता है।

3. प्रमुख योगदान

नवाचारपूर्ण तंत्र: $\delta$ -mem का प्रस्ताव करता है, जो एक कॉम्पैक्ट, गतिशील रूप से अपडेट की गई ऑनलाइन स्टेट को सीधे फ्रोजन बैकबोन के अटेंशन कम्प्यूटेशन के साथ जोड़ता है, जिससे पूर्ण फाइन-ट्यूनिंग या बैकबोन रिप्लेसमेंट से बचा जा सकता है।
कॉम्पैक्ट दक्षता: यह प्रदर्शित करता है कि उपयोगी ऐतिहासिक सिग्नल को बनाए रखने और स्पष्ट इतिहास हटा दिए जाने पर भी कॉन्टेक्स्ट-प्रासंगिक जानकारी को पुनः प्राप्त करने के लिए एक अत्यंत छोटा मेमोरी स्टेट ( $8 \times 8$ मैट्रिक्स) पर्याप्त है।
प्रदर्शन लाभ: यह स्पष्ट कॉन्टेक्स्ट विस्तार या भारी बाहरी रिट्रीवल मॉड्यूल पर निर्भर किए बिना, मेमोरी-हैवी बेंचमार्क पर महत्वपूर्ण सुधार दिखाता है।

4. प्रयोगात्मक परिणाम

विधि का मूल्यांकन Qwen3-4B-Instruct, Qwen3-8B, और SmolLM3-3B बैकबोन का उपयोग करके सामान्य क्षमता बेंचमार्क (IFEval, GPQA-Diamond, HotpotQA) और मेमोरी-हैवी बेंचमार्क (LoCoMo, MemoryAgentBench) पर किया गया।

कुल प्रदर्शन: $\delta$ -mem ने फ्रोजन बैकबोन पर औसतन 1.10 $\times$ और सबसे मजबूत नॉन- $\delta$ -मेम मेमोरी बेसलाइन (Context2LoRA) पर 1.15 $\times$ का सुधार दिखाया।
मेमोरी-हैवी कार्य:
- MemoryAgentBench: औसतन 1.31 $\times$ का सुधार (29.54% से 38.85%) प्राप्त किया।
- LoCoMo: औसतन 1.20 $\times$ का सुधार (40.79% से 49.12%) प्राप्त किया।
- TTL सबटास्क: स्कोर लगभग दोगुना होकर 26.14 से 50.50 हो गया।
बैकबोन विविधताएं:
- Qwen3-4B पर, TSW वेरिएंट ने सर्वश्रेष्ठ औसत (51.66%) प्राप्त किया।
- Qwen3-8B पर, SSW ने सर्वश्रेष्ठ प्रदर्शन (50.86%) किया, जो सुझाव देता है कि मजबूत मॉडलों के लिए सेगमेंट-लेवल राइटिंग शोर को कम करता है।
- SmolLM3-3B पर, MSW ने एक बड़ी छलांग (26.08% से 36.96%) लगाई, जो दर्शाता है कि छोटे मॉडल हस्तक्षेप को कम करने के लिए मेमोरी प्रकारों को अलग करने से लाभान्वित होते हैं।
कॉन्टेक्स्ट रिकवरी: "नो कॉन्टेक्स्ट" सेटिंग्स (जहाँ स्पष्ट इतिहास हटा दिया गया था) में, $\delta$ -mem ने महत्वपूर्ण प्रदर्शन हासिल किया, जिससे HotpotQA EM 0.08% से बढ़कर 6.48% और LoCoMo औसत 3.49% से बढ़कर 8.05% हो गया, जो सिद्ध करता है कि स्टेट पुन: प्रयोज्य सिग्नल संग्रहीत करता है।
एब्लेशन स्टडीज:
- हेड्स (Heads): क्वेरी और आउटपुट दोनों शाखाओं में करेक्शन इंजेक्ट करने ($qo$) से प्रदर्शन और पैरामीटर्स के बीच सबसे अच्छा संतुलन मिला।
- डेप्थ (Depth): सभी लेयर्स में करेक्शन लागू करने से सर्वोत्तम परिणाम मिले, जो इंगित करता है कि मेमोरी सिग्नल पूर्ण रिप्रेजेंटेशन पदानुक्रम (hierarchy) को लाभान्वित करते हैं।

5. महत्व और दावे

यह पेपर दावा करता है कि LLMs के लिए प्रभावी मेमोरी को अटेंशन कम्प्यूटेशन के साथ सीधे जुड़े एक कॉम्पैक्ट ऑनलाइन स्टेट के माध्यम से प्राप्त किया जा सकता है। $\delta$ -mem का महत्व निम्नलिखित में निहित है:

प्रॉम्प्ट री-इंसर्शन से मेमोरी रखरखाव को अलग करना: टेक्स्टुअल मेमोरी के विपरीत, यह संकुचित इतिहास को टोकन स्पेस के माध्यम से वापस नहीं भेजता है, जिससे कॉन्टेक्स्ट विंडो की सीमाएं और रिट्रीवल नॉइज़ से बचा जा जा सकता है।
गतिशील विकास को सक्षम करना: पैरामीट्रिक मेमोरी के विपरीत, स्टेट डेल्टा-रूल लर्निंग के माध्यम से अनुक्रम के साथ निरंतर विकसित होता है, जो डिस्क्रीट एडिटिंग स्टेप्स के बिना नई अंतःक्रियाओं के अनुकूल होता है।
दक्षता बनाए रखना: यह एक निश्चित, बहुत छोटे स्टेट ( $8 \times 8$ ) के साथ ये लाभ प्राप्त करता है और बैकबोन आर्किटेक्चर को संशोधित किए बिना, फ्रोजन ट्रांसफॉर्मर्स में टेस्ट-टाइम मेमोरी के लिए एक स्केलेबल इंटरफेस प्रदान करता है।

लेखक निष्कर्ष निकालते हैं कि यह दृष्टिकोण कॉन्टेक्स्ट विस्तार के लिए एक मजबूत विकल्प प्रदान करता है, जिससे मॉडल लंबे-कॉन्टेक्स्ट प्रोसेसिंग के कम्प्यूटेशनल बोझ या बाहरी रिट्रीवल सिस्टम की जटिलता के बिना ऐतिहासिक जानकारी का प्रभावी ढंग से लाभ उठा सकते हैं।