💬 NLP

Evo-Memory: Benchmarking LLM Agent Test-time Learning with Self-Evolving Memory

यह शोध पत्र Evo-Memory प्रस्तुत करता है, जो एक व्यापक स्ट्रीमिंग बेंचमार्क और फ्रेमवर्क है जिसे निरंतर, गतिशील कार्य परिवेशों में LLM एजेंटों की स्व-विकसित होने वाली मेमोरी क्षमताओं का मूल्यांकन करने और उन्हें बढ़ाने के लिए डिज़ाइन किया गया है, जिसमें प्रस्तावित ReMem पाइपलाइन शामिल है जो निरंतर सुधार के लिए तर्क (reasoning), क्रियाओं (actions) और मेमोरी अपडेट को एकीकृत करती है।

मूल लेखक: Tianxin Wei, Noveen Sachdeva, Benjamin Coleman, Zhankui He, Yuanchen Bei, Xuying Ning, Mengting Ai, Yunzhe Li, Jingrui He, Ed H. Chi, Chi Wang, Shuo Chen, Fernando Pereira, Wang-Cheng Kang, Derek Zhiy

प्रकाशित 2026-05-19

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tianxin Wei, Noveen Sachdeva, Benjamin Coleman, Zhankui He, Yuanchen Bei, Xuying Ning, Mengting Ai, Yunzhe Li, Jingrui He, Ed H. Chi, Chi Wang, Shuo Chen, Fernando Pereira, Wang-Cheng Kang, Derek Zhiyuan Cheng

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक प्रतिभाशाली सहायक है जो जटिल पहेलियों को हल कर सकता है, कोड लिख सकता है, या एक आभासी घर में नेविगेट कर सकता है। अभी, अधिकांश AI सहायक "स्मृतिभ्रंश वाले जीनियस" (amnesiac geniuses) की तरह हैं। वे उस क्षण में अविश्वसनीय रूप से बुद्धिमान होते हैं, लेकिन जैसे ही कोई बातचीत समाप्त होती है या कोई कार्य पूरा होता है, वे जो कुछ भी सीखा था उसे भूल जाते हैं। यदि आप उनसे अगले दिन एक समान समस्या को हल करने के लिए कहते हैं, तो उन्हें शून्य से शुरुआत करनी पड़ती है, वही गलतियाँ दोहरानी पड़ती हैं और उन्हीं समाधानों को फिर से खोजना पड़ता है।

"Evo-Memory" नामक शोध पत्र इस समस्या को ठीक करने का एक तरीका प्रस्तावित करता है, जो इन सहायकों को एक विकसित होता हुआ स्मृति तंत्र (evolving memory) प्रदान करता है।

यहाँ सरल उपमाओं का उपयोग करके शोध पत्र के मुख्य विचारों का विवरण दिया गया है:

1. समस्या: "गोल्डफिश" बनाम "शिक्षु" (The "Goldfish" vs. The "Apprentice")

वर्तमान में, अधिकांश AI मेमोरी एक लाइब्रेरी आर्काइव की तरह काम करती है। यदि आप कोई प्रश्न पूछते हैं, तो AI पहले से संग्रहीत किसी विशिष्ट तथ्य को खोजता है (जैसे "फ्रांस की राजधानी क्या है?") और उसे वापस पढ़ देता है। इसे कन्वर्सेशनल रिकॉल (Conversational Recall) कहा जाता है।

लेकिन लेखक तर्क देते हैं कि यह पर्याप्त नहीं है। वास्तविक बुद्धिमत्ता के लिए अनुभव के पुन: उपयोग (Experience Reuse) की आवश्यकता होती है।

गोल्डफिश (Goldfish): याद रखती है कि क्या हुआ (जैसे, "मैंने दरवाजा खोलने की कोशिश की और वह बंद था")।
शिक्षु (Apprentice): याद रखता है कि अगली बार इसे कैसे संभालना है (जैसे, "अगली बार जब मैं बंद दरवाजा देखूँ, तो मुझे चाबी ढूँढनी चाहिए या पहले हैंडल को चेक करना चाहिए")।

शोध पत्र कहता है कि वर्तमान AI सिस्टम गोल्डफिश बने रहने के लिए मजबूर हैं। वे तथ्यों को याद रखते हैं लेकिन अपने पिछले असफलताओं और सफलताओं से रणनीतियों को नहीं सीखते हैं।

2. समाधान: एक "स्वयं-विकसित" नोटबुक (A "Self-Evolving" Notebook)

लेखक Evo-Memory पेश करते हैं, जो AI एजेंटों को एक शिक्षु (Apprentice) की तरह व्यवहार करने के लिए परीक्षण करने और बनाने का एक नया तरीका है।

कल्पना कीजिए कि एक AI एजेंट के पास एक नोटबुक है।

पुराना तरीका: हर कार्य के बाद, AI पूरी बातचीत को नोटबुक में पेस्ट कर देता है। नोटबुक विशाल, अव्यवस्थित और पढ़ने में कठिन हो जाती है।
Evo-Memory का तरीका: हर कार्य के बाद, AI तीन चीजें करता है:
1. सोचना (Think): "मैंने अभी क्या किया? क्या यह काम आया?"
2. कार्य करना (Act): वर्तमान कार्य को पूरा करना।
3. परिष्कृत करना (Refine): "ठीक है, यह समाधान काम कर गया। मैं अपनी नोटबुक में इस बारे में एक छोटा, स्पष्ट नियम लिखूँगा कि मैंने इसे कैसे हल किया, और उन अव्यवस्थित हिस्सों को हटा दूँगा जो महत्वपूर्ण नहीं थे।"

समय के साथ, यह नोटबुक केवल बड़ी नहीं होती; यह अधिक स्मार्ट और व्यवस्थित होती जाती है। यह कच्चे अनुभवों को पुन: प्रयोज्य रणनीतियों में बदल देती है।

3. परीक्षण: "स्ट्रीमिंग" परीक्षा (The "Streaming" Exam)

इसे सिद्ध करने के लिए, शोधकर्ताओं ने एक नया बेंचमार्क बनाया जिसे Evo-Memory कहा जाता है।

इसे एक स्प्रिंट के बजाय एक मैराथन की तरह समझें।

पुराने परीक्षण: आप AI को एक गणित की समस्या देते हैं, फिर एक नई, फिर एक और। वे असंबद्ध हैं। AI बस उन्हें एक-एक करके हल करता है।
Evo-Memory परीक्षण: आप AI को कार्यों का एक निरंतर प्रवाह (stream) देते हैं, जैसे कि एक वीडियो गेम लेवल जो लगातार कठिन होता जा रहा है।
- कार्य 1: एक सरल समीकरण हल करें।
- कार्य 2: उसी तर्क का उपयोग करके थोड़ा कठिन समीकरण हल करें।
- कार्य 3: एक रोबोट को टमाटर खोजने और फिर उसे माइक्रोवेव में रखने के लिए नेविगेट करें।
- कार्य 4: एक रोबोट को कप खोजने और फिर उसे काउंटर पर रखने के लिए नेविगेट करें।

यह परीक्षण जाँचता है: क्या AI कार्य 4 को बेहतर और तेज़ी से कर पाता है क्योंकि उसने कार्य 3 से सीखा है? यदि AI वास्तव में "विकसित" हो रहा है, तो उसे समस्याओं को कुशलतापूर्वक हल करने और चरणों को छोड़ने के लिए अपनी मेमोरी का उपयोग करना चाहिए।

4. परिणाम: "ReMem" एजेंट (The "ReMem" Agent)

शोध पत्र ने कई प्रकार के मेमोरी सिस्टम का परीक्षण किया। उन्होंने पाया कि:

स्टैटिक मेमोरी (Static Memory): वे एजेंट जो केवल पिछली बातचीत को स्टोर करते हैं (एक मानक चैटबॉट की तरह), समय के साथ बहुत अधिक सुधार नहीं करते हैं। वे बार-बार एक ही गलती करते रहते हैं।
"ReMem" एजेंट: यह शोध पत्र की नई विधि है। यह अपनी मेमोरी के बारे में सक्रिय रूप से सोचता है। यह पूछता है, "क्या यह पुरानी याद उपयोगी है? क्या मुझे खराब चीजों को हटा देना चाहिए? मैं इस नए प्रश्न को हल करने के लिए इसका उपयोग कैसे कर सकता हूँ?"

उपमा:

पुराने एजेंट उस छात्र की तरह हैं जो एक परीक्षा देता है, खराब ग्रेड पाता है, और फिर तुरंत परीक्षा भूल जाता है, अगली परीक्षा के साथ भी उसी भ्रम में रहता है।
ReMem उस छात्र की तरह है जो परीक्षा देता है, अपनी गलतियों की समीक्षा करता है, सही सूत्रों की एक "चीट शीट" लिखता है, और अगली परीक्षा में महारत हासिल करने के लिए उस चीट शीट का उपयोग करता है।

5. मुख्य निष्कर्ष

विफलता से सीखना: सर्वश्रेष्ठ एजेंटों ने केवल सफलता को ही नहीं याद रखा; उन्होंने विफलता से भी सीखा। यदि एक एजेंट ने दरवाजा खोलने की कोशिश की और वह लॉक था, तो "ReMem" एजेंट अपनी मेमोरी को अपडेट करेगा कि "पहले चाबियाँ चेक करें," बजाय इसके कि वह केवल यह याद रखे कि "मैंने दरवाजा खोलने की कोशिश की थी।"
दक्षता (Efficiency): विकसित मेमोरी वाले एजेंटों ने समस्याओं को हल करने में कम कदम लिए। उन्होंने पहिये का पुन: आविष्कार करने में समय बर्बाद नहीं किया।
यह हर जगह काम करता है: यह सुधार तब भी हुआ जब AI गणित कर रहा था, कोड लिख रहा था, या एक आभासी घर में नेविगेट कर रहा था।

सारांश

शोध पत्र का तर्क है कि AI के लिए वास्तव में वास्तविक दुनिया में (जहाँ कार्य निरंतर और जटिल होते हैं) उपयोगी होने के लिए, उन्हें केवल तथ्यों को स्टोर करने के लिए हार्ड ड्राइव की आवश्यकता नहीं है। उन्हें एक गतिशील मेमोरी सिस्टम (dynamic memory system) की आवश्यकता है जो लगातार अपनी जानकारी की समीक्षा, संगठन और अपग्रेड करता रहे, जिससे "क्या हुआ" को "अगली बार इसे बेहतर कैसे करना है" में बदला जा सके।

उन्होंने इसे मापने के लिए एक नया परीक्षण (Evo-Memory) बनाया और दिखाया कि उनका नया तरीका (ReMem) पहला है जो सफलतापूर्वक AI एजेंटों को काम करते दौरान सीखने और सुधार करने में सक्षम बनाता है, न कि केवल बाद में मनुष्यों द्वारा रिट्रेन होने की प्रतीक्षा करने के लिए।

तकनीकी सारांश: Evo-Memory

समस्या विवरण

वर्तमान लार्ज लैंग्वेज मॉडल (LLM) एजेंटों में तर्क (reasoning), योजना (planning) और टूल उपयोग की महत्वपूर्ण क्षमताएं हैं, फिर भी उनकी स्थिति बनाए रखने (maintain state) और बातचीत के माध्यम से विकसित होने की क्षमता अभी भी कम खोजी गई है। मौजूदा मेमोरी सिस्टम मुख्य रूप से स्थिर संवादात्मक रिकॉल (static conversational recall) के लिए निष्क्रिय भंडारण के रूप में कार्य करते हैं, जो भविष्य के निर्णय लेने में सुधार के लिए संचित अनुभवों से सीखने के बजाय केवल प्रश्नों के उत्तर देने के लिए पिछले तथ्यों को पुनः प्राप्त करते हैं। जबकि हालिया बेंचमार्क ने अनुक्रमिक शिक्षण (sequential learning) या दीर्घकालिक निरंतरता को संबोधित किया है, वे अक्सर यह मूल्यांकन करने में विफल रहते हैं कि क्या एजेंट वास्तविक दुनिया के परिनियोजन परिदृश्यों में विकसित होते कार्य प्रवाह (task streams) के माध्यम से तर्क रणनीतियों का पुन: उपयोग (reuse reasoning strategies) और मेमोरी संरचनाओं को अनुकूलित (adapt memory structures) कर सकते हैं। एक एकीकृत ढांचे में महत्वपूर्ण कमी है जो यह परीक्षण कर सके कि क्या LLMs परिनियोजन के दौरान निरंतर जानकारी पुनः प्राप्त कर सकते हैं, एकीकृत कर सकते हैं और अपडेट कर सकते हैं—एक प्रक्रिया जिसे टेस्ट-टाइम इवोल्यूशन (test-time evolution) कहा जाता है।

कार्यप्रणाली

Evo-Memory बेंचमार्क

इस कमी को दूर करने के लिए, लेखक Evo-Memory पेश करते हैं, जो एक व्यापक स्ट्रीमिंग बेंचमार्क और फ्रेमवर्क है जिसे LLM एजेंटों के स्व-विकसित (self-evolving) मेमोरी का मूल्यांकन करने के लिए डिज़ाइन किया गया है।

टास्क स्ट्रीम पुनर्गठन (Task Stream Restructuring): स्थिर बेंचमार्क के विपरीत, Evo-Memory डेटासेट्स को अनुक्रमिक टास्क स्ट्रीम्स में पुनर्गठित करता है। एजेंट इनपुट $\{x_1, \dots, x_T\}$ को प्रोसेस करते हैं जहाँ प्रत्येक इंटरैक्शन के बाद मेमोरी स्टेट $M_t$ विकसित होता है।
एकीकृत सूत्रीकरण (Unified Formulation): फ्रेमवर्क एक मेमोरी-ऑगमेंटेड एजेंट को टुपल $(F, U, R, C)$ $(F, U, R, C)$ के रूप में मॉडल करता है, जहाँ $F$ $F$ बेस LLM है, $U$ $U$ अपडेट पाइपलाइन है, $R$ $R$ रिट्रीवल मॉड्यूल है, और $C$ $C$ कॉन्टेक्स्ट का निर्माण करता है। एजेंट एक चक्र में कार्य करता है:
1. खोज (Search): वर्तमान इनपुट $x_t$ के आधार पर प्रासंगिक मेमोरी प्रविष्टियों $R_t$ को पुनः प्राप्त करना।
2. संश्लेषण (Synthesis): पुनः प्राप्त मदों से एक वर्किंग कॉन्टेक्स्ट $\tilde{C}_t$ का निर्माण करना।
3. विकास (Evolve): आउटपुट $\hat{y}_t$ उत्पन्न करना, फीडबैक $f_t$ प्राप्त करना, और मेमोरी स्टेट $M_{t+1} = U(M_t, m_t)$ को अपडेट करना, जहाँ $m_t$ नए अनुभव को कैप्चर करता है।
डेटासेट का दायरा: बेंचमार्क तथ्यात्मक ज्ञान (MMLU-Pro, GPQA-Diamond), गणितीय तर्क (AIME-24/25), टूल उपयोग (ToolBench), और मल्टी-टर्न एम्बोडीड इंटरैक्शन (AlfWorld, BabyAI, ScienceWorld, PDDL) सहित विविध डोमेन में फैला हुआ है।

प्रस्तावित फ्रेमवर्क

पेपर कई मेमोरी आर्किटेक्चर को लागू और मूल्यांकित करता है, जो स्टैटिक रिकॉल और एक्टिव इवोल्यूशन के बीच के अंतर को पाटने के लिए दो विशिष्ट विधियों को पेश करता है:

ExpRAG (Experience Retrieval and Aggregation): एक बेसलाइन विधि जो मेमोरी को रिट्रीवल-ऑगमेंटेड कॉन्टेक्स्ट के रूप में मानती है। यह पिछले कार्यों को संरचित अनुभवों के रूप में एनकोड करती है और मॉडल को कंडीशन करने के लिए टॉप- $k$ समान उदाहरणों को पुनः प्राप्त करती है, जो प्रभावी रूप से इन-कॉन्टेक्स्ट लर्निंग के माध्यम से वन-शॉट एक्सपीरियंस रियूज करती है।
ReMem (Refine Memory): एक उन्नत फ्रेमवर्क जो तर्क, क्रिया और मेमोरी रिफाइनमेंट को एक एकल निर्णय लूप में एकीकृत करता है। मानक ReAct एजेंटों के विपरीत, ReMem "Think" और "Act" के साथ एक "Refine" ऑपरेशन पेश करता है। यह एजेंट को अपनी स्वयं की मेमोरी पर मेटा-रीजनिंग करने की अनुमति देता है—सक्रिय रूप से शोर (noise) का मूल्यांकन, छंटनी (pruning) और संग्रहीत अनुभवों को पुनर्गठित करना ताकि भविष्य के कार्यों को बेहतर समर्थन मिल सके। यह एक मार्कोव निर्णय प्रक्रिया (Markov decision process) बनाता है जहाँ स्टेट में वर्तमान इनपुट, मेमोरी स्टेट और रीजनिंग ट्रेसेस शामिल होते हैं।

मुख्य परिणाम

लेखकों ने Gemini-2.5 और Claude मॉडल परिवारों में दस से अधिक प्रतिनिधि मेमोरी मॉड्यूल (SelfRAG, Mem0, Dynamic Cheatsheets, और Agent Workflow Memory सहित) का मूल्यांकन किया।

प्रदर्शन लाभ (Performance Gains): स्व-विकसित मेमोरी आर्किटेक्चर ने लगातार स्टैटिक बेसलाइन्स को पछाड़ दिया। सिंगल-टर्न रीजनिंग और QA कार्यों में, ReMem ने Gemini-2.5 Flash पर औसतन 0.65 का एग्जैक्ट मैच और 0.85/0.71 की API सटीकता प्राप्त की। मल्टी-टर्न एम्बोडीड वातावरण में, ReMem ने BabyAI पर 0.92/0.96 और ScienceWorld (Claude 3.7 Sonnet) पर 0.78/0.91 की सफलता दर हासिल की, जो नॉन-इवॉल्विंग बेसलाइन्स से काफी बेहतर है।
दक्षता (Efficiency): इवॉल्विंग-मेमोरी विधियों ने बेहतर स्टेप एफिशिएंसी प्रदर्शित की। ReMem ने कार्यों को पूरा करने के लिए आवश्यक औसत चरणों की संख्या को कम कर दिया (उदाहरण के लिए, AlfWorld पर 22.6 से 11.5 चरणों तक), जो दर्शाता है कि मेमोरी रिफाइनमेंट अधिक केंद्रित तर्क की ओर ले जाता है।
टास्क समानता और ट्रांसफर (Task Similarity and Transfer): प्रदर्शन लाभ डेटासेट के भीतर टास्क समानता के साथ मजबूती से सह-संबंधित थे (पियर्सन $r=0.717$ )। एजेंटों को उच्च संरचनात्मक सुसंगतता (जैसे PDDL, AlfWorld) वाले वातावरण में सबसे अधिक लाभ हुआ, जो सुझाव देता है कि आवर्ती टास्क स्ट्रक्चर प्रभावी मेमोरी रियूज की सुविधा प्रदान करते हैं।
कठिनाई और विफलता के प्रति मजबूती (Robustness to Difficulty and Failure):
- अनुक्रम क्रम (Sequence Order): ReMem ने कार्य की कठिनाई के क्रम (आसान $\rightarrow$ कठिन बनाम कठिन $\rightarrow$ आसान) के बावजूद मजबूत प्रदर्शन बनाए रखा, जबकि बेसलाइन विधियों ने महत्वपूर्ण भिन्नता दिखाई।
- शोर हैंडलिंग (Noise Handling): सफल और असफल दोनों अनुभवों के संपर्क में आने पर, ReMem ने संग्रहीत मेमोरी को सक्रिय रूप से रिफाइन करके मजबूती बनाए रखी, जबकि विफलताओं का सीधा संचय (naive accumulation) बेसलाइन प्रदर्शन को खराब कर देता है।
मॉडल एग्नोस्टिसिज्म (Model Agnosticism): इवॉल्विंग मेमोरी के लाभ बड़े (Sonnet, Pro) और छोटे (Haiku, Flash-Lite) दोनों मॉडलों में देखे गए, जिसमें छोटे मॉडलों ने विशेष रूप से महत्वपूर्ण सापेक्ष सुधार दिखाए।

महत्व और दावे

पेपर का दावा है कि Evo-Memory LLM एजेंटों की "लाइफलॉन्ग इंटेलिजेंस" के मूल्यांकन के लिए एक एकीकृत मंच स्थापित करता है, जो ध्यान को निष्क्रिय संवादात्मक रिकॉल से सक्रिय अनुभव पुन: उपयोग (experience reuse) की ओर स्थानांतरित करता है।

अंतराल को पाटना: यह कार्य इस बात पर प्रकाश डालता है कि जबकि एजेंट यह याद रख सकते हैं कि क्या कहा गया था, वे अक्सर यह सीखने में विफल रहते हैं कि क्या सीखा गया था। Evo-Memory यह मापने के लिए पहला व्यवस्थित ढांचा प्रदान करता है कि एजेंट टास्क स्ट्रीम्स के माध्यम से रणनीतियों को कैसे संचित और परिष्कृत करते हैं।
डिज़ाइन अंतर्दृष्टि: परिणाम सुझाव देते हैं कि अनुकूलन क्षमता के लिए स्पष्ट टास्क-लेवल उपयोगिता और मेमोरी का निरंतर पुनर्गठन महत्वपूर्ण है। ReMem की सफलता यह संकेत देती है कि रीजनिंग और एक्शन के साथ मेमोरी रिफाइनमेंट को इंटरलीव करना स्व-सुधार करने वाले एजेंट बनाने के लिए एक आशाजनक प्रतिमान है।
भविष्य की दिशा: लेखक इस कार्य को विश्वसनीय, निरंतर सुधारने वाली मेमोरी वाले LLMs विकसित करने के लिए एक आधार के रूप में देखते हैं, यह नोट करते हुए कि जबकि वर्तमान विधियां आशाजनक हैं, स्थिरता और प्रक्रियात्मक पुन: उपयोग (procedural reuse) आगे और जांच के विषय हैं।

पेपर कोड और कॉन्फ़िगरेशन को रिलीज़ करके इसकी पुनरावृत्ति (reproducibility) को बढ़ावा देने के लिए समाप्त होता है, जिसका लक्ष्य व्यापक अनुसंधान समुदाय में टेस्ट-टाइम लर्निंग और स्व-विकसित मेमोरी के मूल्यांकन को मानकीकृत करना है।