🤖 machine learning

MemDecay: Region-Aware KV Cache Eviction for Efficient LLM Agent Inference

MemDecay एक प्रशिक्षण-मुक्त (training-free), क्षेत्र-जागरूक (region-aware) KV कैश इविक्शन पॉलिसी है जो LLM एजेंट संदर्भों की सिमेंटिक संरचना का लाभ उठाकर विभिन्न टोकन क्षेत्रों को विशिष्ट प्रतिधारण प्राथमिकताएं (retention priorities) और क्षय दरें (decay rates) आवंटित करती है, जो महत्वपूर्ण जानकारी को संरक्षित करने और मेमोरी बाधाओं के तहत इन्फरेंस सटीकता बनाए रखने में मौजूदा रिसेंसी- या अटेंशन-आधारित बेसलाइनों की तुलना में काफी बेहतर प्रदर्शन करती है।

मूल लेखक: Venkatesha Matam, Keon Kim

प्रकाशित 2026-07-14

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Venkatesha Matam, Keon Kim

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट सहायक (एक LLM एजेंट) चला रहे हैं जो एक विशाल, बहु-चरणीय रहस्य को सुलझाने की कोशिश कर रहा है। इसे खेल के नियमों, मिलने वाले सुरागों, उपयोग किए जाने वाले उपकरणों और अपने स्वयं के बिखरे हुए स्क्रैचपैड नोट्स को याद रखना होगा। जैसे-जैसे रहस्य लंबा होता जाता है, रोबोट का "दिमाग" (उसका मेमोरी कैश) ओवरफ्लो होने लगता है। यदि यह जगह खाली नहीं करता है, तो यह क्रैश हो जाएगा या धीमा हो जाएगा।

बड़ी समस्या यह है कि अधिकांश रोबोट स्मृति के हर टुकड़े के साथ एक जैसा व्यवहार करते हैं। वे कह सकते हैं, "ओह, मैंने काफी समय से इस सुराग को नहीं देखा है, इसलिए मैं इसे बाहर फेंक दूँगा," या "यह आखिरी चीज़ थी जो मैंने अभी पढ़ी है, इसलिए मैं इसे रखूँगा।" लेकिन यह एक नक्शा फेंक देने जैसा है क्योंकि आपने कल उसे देखा था, जबकि एक रैंडम डूडल को रखना जिसे आपने अभी बनाया है।

यहाँ MemDecay आता है, जो एक रणनीति है जो रोबोट के दिमाग के लिए एक स्मार्ट, व्यवस्थित लाइब्रेरियन (पुस्तकालयाध्यक्ष) की तरह काम करती है। यहाँ बताया गया है कि यह कैसे काम करता है, इसने क्या पाया, और इसने क्या बिल्कुल भी नहीं पाया।

स्मार्ट लाइब्रेरियन रणनीति

सभी स्मृतियों को समान मानने के बजाय, MemDecay रोबोट के मैनेजर से पूछता है: "यह किस प्रकार की स्मृति है?"

क्या यह एक सिस्टम निर्देश (System Instruction) है? (रोबोट के मूल नियम, जैसे "हमेशा विनम्र रहें।")
क्या यह एक योजना (Plan) है? (रहस्य को सुलझाने के चरण।)
क्या यह स्क्रैचपैड (Scratchpad) है? (अस्थायी गणित या नोट्स जिन पर रोबोट अभी काम कर रहा है।)
क्या यह टूल आउटपुट (Tool Output) है? (कैलकुलेटर या सर्च इंजन से प्राप्त डेटा।)

MemDecay प्रत्येक प्रकार की स्मृति को एक अलग "एक्सपायरी डेट" (समाप्ति तिथि) और एक अलग "महत्व स्कोर" देता है।

सिस्टम निर्देशों (System Instructions) को "पिन्ड" (Pinned) बैज मिलता है। वे शेल्फ से चिपके रहते हैं और कभी भी फेंके नहीं जाते, चाहे लाइब्रेरी कितनी भी भर जाए।
स्क्रैचपैड नोट्स (Scratchpad notes) का शेल्फ-लाइफ बहुत छोटा होता है। यदि रोबोट कुछ सेकंड के लिए उनका उपयोग करना बंद कर देता है, तो वे गायब हो जाते हैं।
योजनाएं (Plans) और टूल्स (Tools) को मध्यम शेल्फ-लाइफ मिलता है, लेकिन यदि रोबोट उन्हें फिर से देखता है, तो उनकी "एक्सपायरी घड़ी" रीसेट हो जाती है, जिससे वे सुरक्षित रहते हैं।

यह सिस्टम प्रत्येक मेमोरी टोकन के लिए एक स्कोर की गणना करता है जो उसके प्रकार और हाल ही में उपयोग किए जाने के आधार पर होता है। जब लाइब्रेरी भर जाती है, तो यह उन पेजों को बाहर निकाल देता है जिनका स्कोर सबसे कम होता है।

प्रयोगों ने वास्तव में क्या दिखाया

शोधकर्ताओं ने दो रोबोट आकारों (1.5 बिलियन और 3 बिलियन पैरामीटर्स) और दो मेमोरी आकारों (लगभग 450 टोकन और 1,700 टोकन) पर इसका परीक्षण किया। उन्होंने विभिन्न हिस्सों में विशिष्ट तथ्य रोबोट की स्मृति में बोए और फिर रोबोट को अपनी स्मृति का आधा हिस्सा हटाने के लिए मजबूर करने के बाद उनसे उन तथ्यों को याद करने के लिए कहा।

1. "पिन्ड" (Pinned) की जीत
सबसे बड़ी जीत "सिस्टम" निर्देशों की रही। जब मेमोरी को उसके आकार के 25% या 50% तक सिकोड़ा गया, तो MemDecay ने सिस्टम नियमों को हर बार सुरक्षित रखा (छोटे परीक्षण में 24 में से 24 बार, लंबे परीक्षण में 24 में से 21 बार)।

विपरीत स्थिति: अन्य तरीके जो केवल "सबसे हालिया" स्मृतियों को रखते हैं (जैसे कि एक रोबोट जो केवल पिछली कुछ पंक्तियों को याद रखता है), पूरी तरह से विफल रहे। लंबे परीक्षणों पर, वे सिस्टम निर्देशों को लगभग शून्य याद रख पाए। "हालिया-मात्र" (recent-only) दृष्टिकोण जैसे-जैसे कहानी लंबी होती जाती है, पूरी तरह से ध्वस्त हो जाता है।

2. "स्क्रैचपैड" की वास्तविकता
प्रयोगों ने मापा कि विभिन्न स्मृतियाँ वास्तव में कितनी देर तक उपयोगी रहीं।

सिस्टम निर्देश लंबे समय तक रहे: लगभग 148 से 189 डिकोड स्टेप्स (वह समय जो रोबोट को उतने शब्द उत्पन्न करने में लगता है)।
स्क्रैचपैड नोट्स अविश्वसनीय रूप से तेज़ी से गायब हो गए: केवल 14 से 16 स्टेप्स।
प्राप्त दस्तावेज़ (Retrieved documents) (जैसे खोज परिणाम) आश्चर्यजनक रूप से लंबे समय तक जीवित रहे, भले ही शोधकर्ताओं को शुरू में लगा था कि वे टूल आउटपुट या यूजर मैसेज की तुलना में जल्दी गायब हो जाएंगे।

3. "पुराना तथ्य" की समस्या (हानि)
यहाँ MemDecay लड़खड़ा गया। जब रोबोट को किसी पुराने यूजर मैसेज या बातचीत की शुरुआत के किसी तथ्य को याद करना था जो पिन्ड नहीं था, तो MemDecay अक्सर विफल रहा।

छोटे परीक्षण में, इसने पुराने यूजर तथ्यों में से 0 में से 24 को याद किया।
लंबे परीक्षण में, इसने 24 में से केवल 5 से 7 को याद किया।
इस बीच, एक प्रतिस्पर्धी तरीका जो केवल "सबसे अधिक अटेंड-टू" (most attended-to) टोकन को रखता है (जिसे H2O-स्टाइल कहा जाता है), वह बहुत बेहतर प्रदर्शन कर गया, जिसने इनमें से 11 से 20 को याद किया।

क्यों हुआ यह फेल? पेपर बताता है कि रोबोट के अटेंशन (ध्यान) से मिलने वाला "महत्व" स्कोर उन पुराने तथ्यों को बचाने के लिए बहुत कमजोर था। "डिके" (क्षय/decay - एक्सपायरी क्लॉक) उन अनपिन्ड आइटम्स के लिए बहुत तेज़ी से चल रहा था, जिससे अटेंशन सिग्नल भी घड़ी को रोक नहीं सका। शोधकर्ता सुझाव देते हैं कि केवल अटेंशन सिग्नल की आवाज़ (volume) बढ़ाना ही काफी नहीं है; गणित को एडजस्ट करने की आवश्यकता है ताकि अटेंशन सिग्नल डिके के साथ प्रतिस्पर्धा करने के लिए पर्याप्त मजबूत हो सके।

MemDecay क्या नहीं है

यह जानना महत्वपूर्ण है कि यह पेपर क्या दावा नहीं करता है:

यह हर चीज़ के लिए जादुई समाधान नहीं है। इसने स्पष्ट रूप से इस विचार को खारिज कर दिया कि "रिसेंसी" (नई चीजों को रखना) लंबे एजेंट कार्यों के लिए काम करती है। डेटा दिखाता है कि "अभी क्या कहा गया" पर निर्भर रहना जैसे-जैसे बातचीत बढ़ती है, बुरी तरह विफल हो जाता है।
यह पुराने तथ्यों के लिए रिकॉल की समस्या को हल करने वाला कोई "ब्रेकथrugh" नहीं है। पेपर स्वीकार करता है कि अनपिन्ड, पुराने तथ्यों के लिए, MemDecay ने इन विशिष्ट परीक्षणों में मौजूदा अटेंशन-आधारित तरीकों की तुलना में वास्तव में खराब प्रदर्शन किया।
यह नए वेट्स (weights) को "सीखता" नहीं है। यह "ट्रेनिंग-फ्री" है, जिसका अर्थ है कि यह रोबोट के दिमाग को फिर से प्रशिक्षित नहीं करता है। यह बस नियमों के एक स्मार्ट सेट और माप के थोड़े से उपयोग से एक्सपायरी क्लॉक्स को ट्यून करता है।

निचोड़ (The Bottom Line)

MemDecay एक चतुर, नियम-आधारित प्रणाली है जो रोबोट की स्मृति को केवल आयु के बजाय प्रकार के आधार पर व्यवस्थित करती है।

यह रोबोट के मुख्य नियमों और निर्देशों की रक्षा करने में बड़ी जीत हासिल करता है, यह सुनिश्चित करता है कि जब मेमोरी कम हो तब भी वे कभी खो न जाएं।
यह पुराने, अनपिन्ड तथ्यों को याद करने में हार जाता है, जहाँ यह केवल अटेंशन का पालन करने वाले तरीकों से पीछे रह जाता है।

शोधकर्ताओं ने हजारों टेस्ट केस में इन परिणामों को मापा और पाया कि जबकि "टाइप-बेस्ड" दृष्टिकोण संरचना के लिए महान है, इसे पुराने, उपयोगी चीजों को भूलने से रोकने के लिए गणितीय सुधार की आवश्यकता है। यह लंबे समय तक चलने वाले रोबोट एजेंटों को अधिक विश्वसनीय बनाने की दिशा में एक ठोस कदम है, लेकिन काम अभी पूरा नहीं हुआ है।

तकनीकी सारांश: MemDecay

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) को तेजी से उन एजेंटों के रूप में तैनात किया जा रहा है जो लंबी अवधि के वर्कफ़्लो (long-horizon workflows) निष्पादित करते हैं, जिसमें मल्टी-टर्न इंटरैक्शन, टूल का उपयोग और इटरेटिव प्लानिंग शामिल है। इन एजेंट ट्रेसेस (agent traces) में विषम घटक (heterogeneous components) संचित होते हैं: सिस्टम निर्देश, सुरक्षा बाधाएं, विकसित होती योजनाएं, यूजर टर्न्स, रिट्रीव किए गए दस्तावेज़, टूल आउटपुट और मध्यवर्ती रीजनिंग स्टेट्स।

ऑटोरिग्रेसिव डिकोडिंग के लिए आवश्यक की-वैल्यू (KV) कैश, इस ट्रेस के साथ रैखिक रूप से बढ़ता है, जिससे महत्वपूर्ण मेमोरी ओवरहेड, बैंडविड्थ की मांग और लेटेंसी उत्पन्न होती है। मौजूदा KV-कैश इविक्शन (eviction) नीतियां आमतौर पर मॉडल-केंद्रित संकेतों (जैसे, संचित अटेंशन, रिसेंसी विंडोज़, या अटेंशन सिंक्स) पर निर्भर करती हैं और पूरे अनुक्रम (sequence) पर समान प्रतिधारण (retention) नियम लागू करती हैं। यह दृष्टिकोण ऑर्केस्ट्रेटेड एजेंट प्रॉम्प्ट्स की अंतर्निहित सिमेंटिक संरचना का लाभ उठाने में विफल रहता है। एजेंट वर्कलोड में, विभिन्न घटकों की कार्यात्मक भूमिकाएं और अपेक्षित जीवनकाल बहुत भिन्न होते हैं; उदाहरण के लिए, सिस्टम निर्देशों को एक एपिसोड के दौरान बने रहना चाहिए, जबकि स्क्रैचपैड रीजनिंग या पुराने टूल आउटपुट केवल कम समय के लिए प्रासंगिक हो सकते हैं। सभी टोकन को समान अपेक्षित जीवनकाल के साथ व्यवहार करना इस संरचना की अनदेखी करता है, जिससे सब-ऑप्टिमल मेमोरी मैनेजमेंट होता है।

कार्यप्रणाली: MemDecay

लेखक MemDecay का प्रस्ताव करते हैं, जो एक ट्रेनिंग-फ्री, रीजन-अवेयर KV-कैश इविक्शन फ्रेमवर्क है जिसे लॉन्ग-होरिजन LLM एजेंटों के लिए डिज़ाइन किया गया है। यह विधि एक निश्चित कैश बजट के तहत कार्य करती है और ऑर्केस्ट्रेशन लेयर से स्ट्रक्चरल प्रायर्स (structural priors) को अटेंशन-व्युत्पन्न महत्व के साथ एकीकृत करती है।

मुख्य घटक

रीजन लेबल्स (Region Labels): ऑर्केस्ट्रेशन लेयर निरंतर प्रॉम्प्ट स्पैन के लिए रीजन लेबल प्रदान करती है (जैसे, system, plan, user, tool_in, tool_out, retrieval, scratchpad)।
रिटेंशन स्कोर (Retention Score): प्रत्येक टोकन $i$ $i$ को समय $t$ $t$ पर एक रिटेंशन स्कोर $s_i(t)$ $s_{i} (t)$ दिया जाता है, जिसकी गणना इस प्रकार की जाती है:
$s_i(t) = b_{r(i)} \exp(-\lambda_{r(i)} \Delta t_i(t)) + \alpha a_i(t)$
- स्ट्रक्चरल प्रायर (Structural Prior): $b_{r(i)}$ टोकन के रीजन के विशिष्ट आधारभूत प्राथमिकता (base priority) है।
- टेम्पोरल डिके (Temporal Decay): $\lambda_{r(i)}$ एक रीजन-विशिष्ट डिके रेट है। $\Delta t_i(t)$ शब्द टोकन के अंतिम बार "रिफ्रेश" होने के बाद का समय दर्शाता है।
- अटेंशन इम्पॉर्टेंस (Attention Importance): $a_i(t)$ उस अटेंशन मास का एक्सपोनेंशियलली वेटेड मूविंग एवरेज (EWMA) है जो टोकन को प्राप्त हुआ है।
- रिफ्रेश मैकेनिज्म (Refresh Mechanism): यदि किसी टोकन पर अटेंशन एक थ्रेशोल्ड $\tau$ से अधिक हो जाता है, तो उसका डिके क्लॉक रीसेट हो जाता है ( $\Delta t_i$ शून्य हो जाता है), जो निरंतर उपयोग के आधार पर उसके जीवन को प्रभावी रूप से बढ़ाता है।
पिनिंग (Pinning): सिस्टम रीजन्स (और वैकल्पिक रूप से प्लान सेग्मेंट्स) को "पिन" किया जा सकता है, जिसका अर्थ है कि उन्हें स्कोर के बावजूद कभी भी इवािक्ट (evict) नहीं किया जाएगा।
इविक्शन पॉलिसी (Eviction Policy): कैश का प्रबंधन पेज ग्रैनुलैरिटी (जैसे, 16 टोकन प्रति पेज) पर किया जाता है। जब बजट सीमा से अधिक हो जाता है, तो पेजों को उनके घटक टोकनों के औसत रिटेंशन स्कोर द्वारा स्कोर किया जाता है। जिन पेजों का स्कोर सबसे कम होता है, उन्हें पहले इवािक्ट किया जाता है।

कैलिब्रेशन (Calibration)

MemDecay मॉडल वेट्स के संबंध में ट्रेनिंग-फ्री है, लेकिन यह डिके रेट्स ( $\lambda_r$ ) को प्रत्येक रीजन के लिए फिट करने हेतु एक लाइटवेट स्टैटिस्टिकल कैलिब्रेशन का उपयोग करता है। यह प्रक्रिया एजेंट ट्रेसेस से रीजन-कंडीशन्ड अटेंशन लाइफटाइम्स का अनुमान लगाती है, जिससे सिस्टम बिना LLM को रिट्रेन किए विशिष्ट वर्कलोड विशेषताओं के अनुकूल हो जाता है।

मुख्य योगदान

फॉर्मूलेशन (Formulation): पेपर रीजन-अवेयर सिलेक्टिव फॉरगेटिंग को LLM एजेंटों के लिए एक मेमोरी मैनेजमेंट समस्या के रूप में फॉर्म्युलेट करता है, जो समाधान को ऑर्केस्ट्रेटेड प्रॉम्प्ट्स की सिमेंटिक संरचना में स्थापित करता है।
एल्गोरिदम (Algorithm): यह MemDecay पेश करता है, जो एक ऐसी पॉलिसी है जो रीजन-विशिष्ट बेस प्रायोरिटीज, टेम्पोरल डिके और अटेंशन-ट्रिगर्ड रिफ्रेश को एक एकल व्याख्या योग्य रिटेंशन स्कोर में जोड़ती है। यह मौजूदा सर्विंग स्टैक्स (जैसे, PagedAttention) के साथ संगत पेज-ग्रैनुलर लेआउट पर कार्य करता है।
मेजरमेंट प्रोटोकॉल (Measurement Protocol): लेखक रीजन-कंडीशन्ड अटेंशन लाइफटाइम्स का अनुमान लगाने और डिके रेट्स को कैलिब्रेट करने के लिए एक प्रोटोकॉल निर्दिष्ट करते हैं। वे इसे दो कॉन्टेक्स्ट लेंथ्स (~450 और ~1,700 टोकन) और दो मॉडल साइज़ (Qwen2.5-1.5B और 3B) में निष्पादित करते हैं, जिसमें कुल 4,320 स्कोर किए गए इविक्शन प्रोब्स शामिल हैं।

प्रयोगात्मक परिणाम

अध्ययन MemDecay का रैंडम इविक्शन, रिसेंसी-आधारित (स्ट्रीमिंग) रिटेंशन, और एक्यूमुलेटेड अटेंशन रिटेंशन (H2O-स्टाइल) सहित बेसलाइन्स के विरुद्ध मूल्यांकन करता है।

मुख्य निष्कर्ष

रीजन लाइफटाइम पदानुक्रम (Region Lifetime Hierarchy): मापे गए अटेंशन लाइफटाइम्स विभिन्न रीजन्स के बीच एक ऑर्डर ऑफ मैग्नीट्यूड तक भिन्न होते हैं। सभी सेटिंग्स में, system टोकन्स का हाफ-लाइफ 148–189 डिकोड स्टेप्स है, जबकि scratchpad टोकन्स तेजी से डिके होते हैं (14–16 स्टेप्स)। Retrieval टोकन्स को सबसे लंबे समय तक चलने वाले मूवेबल रीजन के रूप में पाया गया, जो इस डिफ़ॉल्ट धारणा का खंडन करता है कि वे तेजी से डिके होते हैं।
पिनिंग की प्रभावशीलता (Pinning Effectiveness): सिस्टम रीजन्स को पिन करना इंस्ट्रक्शन सर्वाइवल की गारंटी देता है। MemDecay ने फुल-कैश सीलिंग पर सभी सेटिंग्स में 24 में से 21–24 सिस्टम प्रोब्स को संरक्षित किया, जबकि रिसेंसी-आधारित बेसलाइन्स ने 0–2 को संरक्षित किया।
रिसेंसी बनाम स्ट्रक्चर (Recency vs. Structure): रिसेंसी-आधारित रिटेंशन (स्ट्रीमिंग) कॉन्टेक्स्ट लेंथ बढ़ने के साथ कोलैप्स हो जाता है, और लॉन्ग टियर्स पर लगभग शून्य प्रदर्शन करता है। इसके विपरीत, MemDecay में स्ट्रक्चरल प्रायर प्रभावी रहता है।
एक्यूमुलेटेड अटेंशन (Accumulated Attention): अनपिन्ड कंटेंट पर, एक्यूमुलेटेड अटेंशन (H2O-स्टाइल) मॉडल स्केल के साथ मजबूत होता है, जो 3B मॉडल सेटिंग में अनपिन्ड रिकॉल पर MemDecay से बेहतर प्रदर्शन करता है।
MemDecay की सीमा (MemDecay's Limitation): अटेंशन-आधारित बेसलाइन्स की तुलना में MemDecay ने पुराने तथ्यों (जैसे, ओपनिंग टर्न में यूजर-रीजन फैक्ट्स) के लिए अनपिन्ड रिकॉल में विशिष्ट कमी दिखाई। एक एब्लेशन स्टडी ने खुलासा किया कि अटेंशन टर्म ( $\alpha a_i$ ) इन टोकन के लिए स्ट्रक्चरल डिके का मुकाबला करने के लिए पर्याप्त परिमाण (magnitude) में छोटा था। लेखक पहचानते हैं कि अटेंशन टर्म को प्रभावी बनाने के लिए केवल वेट ट्यूनिंग के बजाय मैग्नीट्यूड नॉर्मलाइजेशन (जैसे, यूनिफॉर्म अटेंशन लेवल्स के सापेक्ष) की आवश्यकता है।

महत्व और दावे

पेपर MemDecay को एक व्यावहारिक, ट्रेनिंग-फ्री समाधान के रूप में प्रस्तुत करता है जो कैश रिटेंशन को एजेंट वर्कफ़्लो की सिमेंटिक संरचना के साथ संरेखित करता है। इसका महत्व निम्नलिखित में निहित है:

व्याख्यात्मकता (Interpretability): पॉलिसी स्पष्ट रीजन लेबल्स और डिके रेट्स द्वारा संचालित है, जो रिटेंशन निर्णयों को पारदर्शी बनाती है।
अनुकूलता (Compatibility): यह मॉडल रिट्रेनिंग या सहायक मॉड्यूल की आवश्यकता के बिना पेज-ग्रैनुलर कैश पर कार्य करता है, जो मौजूदा सर्विंग स्टैक्स में फिट बैठता है।
गारंटीकृत स्थिरता (Guaranteed Stability): क्रिटिकल रीजन्स को पिन करके, यह सुनिश्चित करता है कि सिस्टम इंस्ट्रक्शन्स और सुरक्षा बाधाएं मेमोरी प्रेशर के कारण कभी भी नष्ट न हों, जो कि अटेंशन या रिसेंसी-आधारित तरीकों द्वारा प्रदान नहीं की जाने वाली गारंटी है।
अनुकूलन क्षमता (Adaptability): कैलिब्रेशन प्रोटोकॉल यह प्रदर्शित करता है कि रीजन लाइफटाइम्स वर्कलोड-डिपेंडेंट होते हैं और डिके रेट्स को ऑप्टिमाइज़ करने के लिए उन्हें मापा जा सकता है, जो स्टैटिक, वन-साइज़-फिट्स-ऑल इविक्शन नीतियों के उपयोग को चुनौती देता है।

लेखक निष्कर्ष निकालते हैं कि हालांकि MemDecay सफलतापूर्वक स्ट्रक्चरल प्रायर्स और पिन्ड इंस्ट्रक्शन्स को सुरक्षित करता है, भविष्य के कार्यों को अनपिन्ड रिकॉल को सुधारने के लिए अटेंशन टर्म के मैग्नीट्यूड नॉर्मलाइजेशन को संबोधित करना चाहिए और इरिवर्सिबल इविक्शन (irreversible eviction) को संभालने के लिए टियर्ड एक्सटेंशन (जैसे, होस्ट मेमोरी में ऑफलोडिंग) का पता लगाना चाहिए।