💻 computer science

ERSkill: Evolving for Skill-Guided Adaptive Memory Retrieval

यह शोध पत्र ERSkill पेश करता है, जो एक रिट्रीवल-केंद्रित फ्रेमवर्क है जो LLM एजेंटों को उनके रिट्रीवल व्यवहारों को निष्पादन योग्य कौशल (executable skills) के रूप में प्रदर्शित करके अपनी मेमोरी एक्सेस रणनीतियों को निरंतर विकसित करने में सक्षम बनाता है और एक स्किल राउटर और स्किल सेट को सह-अनुकूलित (co-optimize) करता है ताकि विषम मेमोरी क्वेरी कार्यों में मौजूदा बेसलाइनों से काफी बेहतर प्रदर्शन किया जा सके।

मूल लेखक: Haolong Chen, Liang Zhang, Zhuo Li, Lei Xue, Guanrxu Zhu

प्रकाशित 2026-08-14

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Haolong Chen, Liang Zhang, Zhuo Li, Lei Xue, Guanrxu Zhu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक अत्यंत बुद्धिमान रोबोट मित्र से बात कर रहे हैं जो आपकी कही हुई हर बात को याद रखता है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, ये "लार्ज लैंग्वेज मॉडल्स" केवल एक बार के मददगार नहीं, बल्कि दीर्घकालिक सहयोगियों की तरह बनते जा रहे हैं। ऐसा करने के लिए, उन्हें एक मेमोरी बैंक की आवश्यकता है—तथ्यों, प्राथमिकताओं और पिछली बातचीत को संग्रहीत करने के लिए एक स्थान। लेकिन यहाँ पेचीदा हिस्सा यह है: यादों का एक विशाल पुस्तकालय होना बेकार है यदि आपको सही किताब ढूँढना न आता हो। आज के अधिकांश रोबोट अपनी यादों को खोजने के लिए एक स्थिर, 'एक ही आकार सबके लिए' (one-size-fits-all) विधि का उपयोग करते हैं, जैसे कि हर प्रश्न के लिए एक ही सरल कीवर्ड सर्च का उपयोग करना। यदि आप पूछते हैं, "मैंने नाश्ते में क्या खाया था?" तो रोबलेट शायद सिर्फ "नाश्ता" शब्द को खोजेगा। लेकिन यदि आप पूछते हैं, "उस तूफान के बाद मैंने समुद्र तट पर जाना क्यों बंद कर दिया?" तो रोबोट को एक तूफान की घटना को बाद के निर्णय से जोड़ने की आवश्यकता होगी, जिसके लिए बहुत अधिक जटिल खोज रणनीति की आवश्यकता होती है। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं वह यह है: क्या एक रोबोट यह सीख सकता है कि पूछे जाने वाले प्रश्न के आधार पर अपनी स्मृति को कैसे खोजा जाए?

यहीं पर ERSkill नामक एक नया फ्रेमवर्क आता है। ERSkill को एक ऐसे रोबोट के रूप में समझें जिसके पास न केवल एक स्मृति है; बल्कि उसके पास विभिन्न "सर्च स्किल्स" (खोज कौशल) का एक टूलबॉक्स है जिसे वह समय के साथ सीख और अपग्रेड कर सकता है। एक एकल, कठोर खोज विधि का उपयोग करने के बजाय, ERSkill मेमोरी रिट्रीवल (स्मृति पुनर्प्राप्ति) को निष्पादन योग्य रेसिपीज़ (recipes) के एक सेट की तरह मानता है। कुछ रेसिपी सरल हो सकती हैं, जैसे "किसी विशिष्ट नाम को खोजें।" अन्य जटिल हो सकती हैं, जैसे "एक नाम खोजें, फिर देखें कि उसके बाद क्या हुआ, फिर पिछले वर्ष की समान घटनाओं को खोजें।" रोबोट एक स्मार्ट "राउटर" (एक ट्रैफिक डायरेक्टर की तरह) का उपयोग यह तय करने के लिए करता है कि प्रत्येक प्रश्न के लिए किस रेसिपी का उपयोग किया जाए।

जो चीज़ ERSkill को खास बनाती है वह यह है कि यह विकसित (evolve) होता है। यह केवल उन रेसिपीज़ तक सीमित नहीं रहता जो इसके पास शुरुआत में थीं। जैसे-जैसे यह प्रश्नों के उत्तर देने का अभ्यास करता है, इसे एहसास होता है, "हे, यह रेसिपी तथ्यों को खोजने के लिए तो बहुत अच्छी है, लेकिन यह कारण खोजने के लिए बहुत खराब है कि चीजें क्यों हुईं।" इसलिए, यह नई रेसिपी बनाना और पुरानीओं को परिष्कृत करना शुरू कर देता है। यह हर उस खोज पथ (search path) का हिसाब रखने के लिए एक चतुर प्रणाली का उपयोग करता है जिसे इसने कभी आजमाया है (एक "एक्सपीरियंस ट्राई" (experience trie), जो उन सभी सड़कों का एक मानचित्र है जिन पर इसने गाड़ी चलाई है) ताकि यह गोल-गोल घूमने में समय बर्बाद न करे। यह एक "डबल फ्रंटियर" सुरक्षा जाल का भी उपयोग करता है: कौशलों का एक समूह यह परीक्षण करने के लिए टेस्ट किया जाता है कि क्या वे महान होने के योग्य हैं, और दूसरा समूह केवल तभी अंतिम लाइनअप में आने की अनुमति पाता है जब रोबोट का ट्रैफिक डायरेक्टर सही समय पर उन्हें विश्वसनीय रूप से चुन सके।

परिणाम प्रभावशाली हैं। कठिन मेमोरी क्विज़ पर परीक्षण किए जाने पर, ERSkill ने न केवल थोड़ा बेहतर प्रदर्शन किया; बल्कि इसने प्रतियोगिता को पछाड़ दिया। एक शक्तिशाली AI मॉडल, Qwen3-Next-80B-A3B-Instruct का उपयोग करते हुए, ERSkill ने सर्वश्रेष्ठ गैर-विकसित (non-evolving) विधियों की तुलना में अपने समग्र स्कोर में 31.3% का सुधार किया। एक छोटे, तेज़ मॉडल GPT-5.4-nano के साथ भी, इसने प्रदर्शन को 28.1% तक बढ़ाया। यह पेपर दिखाता है कि रोबोट को यह बताने के बजाय कि क्या खोजना है, उसे यह सिखाने से कि कैसे खोजना है, वह एक बहुत अधिक प्रभावी और अनुकूलन योग्य साथी बन जाता है। यह केवल अधिक याद नहीं रख रहा है; यह अधिक समझदारी से याद रख रहा है।

तकनीकी सारांश: ERSkill - कौशल-निर्देशित अनुकूलनशील स्मृति पुनर्प्राप्ति के लिए विकसित होना

समस्या विवरण

जबकि लार्ज लैंग्वेज मॉडल (LLM) एजेंट निरंतर बातचीत के लिए दीर्घकालिक स्मृति (long-term memory) पर तेजी से निर्भर हो रहे हैं, इस स्मृति को नियंत्रित करने वाली पुनर्प्राप्ति तंत्र (retrieval mechanisms) आमतौर पर स्थिर होती है। मौजूदा स्व-विकसित (self-evolving) विधियाँ स्मृति सामग्री को परिष्कृत करने (जैसे, रीजनिंग ट्रेसेस का आसवन या स्मृति मदों को अपडेट करना) पर ध्यान केंद्रित करती हैं, लेकिन वे अक्सर क्वेरी के समय पूर्वनिर्धारित, निश्चित पुनर्प्राप्ति रणनीतियों (जैसे, डेंस रिट्रीवल या BM25) पर निर्भर रहती हैं। यह स्थिर दृष्टिकोण विषम स्मृति प्रश्नों (heterogeneous memory queries) पर प्रदर्शन को सीमित करता है, जिनमें विविध साक्ष्य निर्माण रणनीतियों की आवश्यकता होती है। उदाहरण के लिए, एक विशिष्ट घटना की खोज के लिए आवश्यक क्वेरी, कई घटनाओं के बीच कारण संबंधी तर्क (causal reasoning) की आवश्यकता वाली क्वेरी से मौलिक रूप से भिन्न होती है। केंद्रीय समस्या यह है कि कैसे एक LLM एजेंट जटिल पुनर्प्राप्ति कार्यों को संयोजित करने के लिए विकसित और सीख सकता है ताकि उसकी पुनर्प्राप्ति व्यवहार विभिन्न क्वेरीओं की विविध सूचना मांगों के अनुकूल हो सके।

कार्यप्रणाली: ERSkill फ्रेमवर्क

लेखक ERSkill (Evolving Retrieval Skill) प्रस्तावित करते हैं, जो एक पुनर्प्राप्ति-केंद्रित फ्रेमवर्क है जो एजेंट मेमोरी एक्सेस को कौशल-निर्देशित साक्ष्य निर्माण (skill-guided evidence construction) के रूप में मॉडल करता है। सिस्टम के तीन मुख्य घटक हैं:

1. संरचित स्मृति और प्रिमिटिव लाइब्रेरी (Structured Memory and Primitive Library)

ERSkill इंटरेक्शन इतिहास को एक संरचित स्मृति स्टोर $M(D) = (A, I, G)$ में संकलित करता है, जिसमें परमाणु-स्तर के रिकॉर्ड ( $A$ ), इंडेक्स ( $I$ ), और ग्राफ ( $G$ ) शामिल हैं। स्मृति को केवल एक निष्क्रिय स्टोर के रूप में मानने के बजाय, ERSkill इसे पुनर्प्राप्ति प्रिमिटिव्स ( $P$ ) की एक निश्चित लाइब्रेरी के माध्यम से प्रदर्शित करता है। ये प्रिमिटिव्स स्टेट ट्रांजिशन ( $p: (q, s, M(D)) \to s'$ ) के रूप में कार्य करते हैं और इनमें शामिल हैं:

सर्च प्रिमिटिव्स: entity_search (एंटिटी-आधारित), lexical_search (BM25), और dense_search (सिमेंटिक समानता)।
एक्सपेंशन प्रिमिटिव्स: temporal_focus_expand, similarity_expand, और relation_expand ताकि ग्राफ किनारों (edges) के माध्यम से साक्ष्य का विस्तार किया जा सके।
प्रोसेस प्रिमिटिव्स: क्वेरी रीराइटिंग, फ़िल्टरिंग और डायनेमिक कंट्रोल के लिए llm_process।

2. रिट्रीवल स्किल और राउटर (Retrieval Skills and Router)

एक रिट्रीवल स्किल ( $\kappa$ ) को प्रिमिटिव्स के एक अनुक्रम से बना एक निष्पादन योग्य प्रोग्राम के रूप में परिभाषित किया गया है। यह एब्स्ट्रैक्शन पुनर्प्राप्ति व्यवहारों को पुन: प्रयोज्य, व्याख्या योग्य और परिष्करणीय बनाता है।

स्किल राउटर: एक प्रशिक्षित मॉडल $R_\theta$ एक क्वेरी $q$ को वर्तमान सेट $K$ से इष्टतम स्किल $\kappa$ के साथ गतिशील रूप से मेल खाता है। राउटर उत्तर जनरेशन के लिए आवश्यक साक्ष्य दृश्य (evidence view) के निर्माण हेतु क्वेरी और स्किल विवरण दोनों को वेक्टर रिप्रेजेंटेशन में एनकोड करता है और कम्पैटिबिलिटी स्कोर की गणना करता है।

3. स्किल-राउटर को-इवोल्यूशन (Skill-Router Co-Evolution)

स्थिर स्किल सेट की सीमाओं को दूर करने के लिए, ERSkill एक को-इवोल्यूशन प्रक्रिया का उपयोग करता है जो स्किल सेट और राउटर दोनों को संयुक्त रूप से अपडेट करता है। यह प्रक्रिया दो प्रमुख तंत्रों द्वारा निर्देशित है:

एक्सपीरियंस ट्राइ (Experience Trie): एक कुशल डेटा स्ट्रक्चर जो खोजे गए प्रिमिटिव पाथ्स को रिकॉर्ड करता है। यह स्किल जनरेटर को पिछले रोलआउट अनुभवों का पुन: उपयोग करने, डुप्लिकेट उम्मीदवारों का पता लगाने और अनावश्यक अन्वेषण से बचने में सक्षम बनाता है।
डबल-फ्रंटियर मैकेनिज्म (Double-Frontier Mechanism): यह क्षमता विस्तार (capability expansion) को परिनियोजन स्थिरता (deployment stability) से अलग करता है:
- कैपेबिलिटी फ्रंटियर ( $C_t$ ): सर्वोत्तम "ओरेकल-साइड" मूल्य वाले स्किल्स का एक संक्षिप्त सेट बनाए रखता है (अर्थात, यदि इष्टतम स्किल हमेशा चुना जाता तो सर्वोत्तम संभव प्रदर्शन क्या होता)। यह खोज की गई अधिकतम पुनर्प्राप्ति क्षमता को ट्रैक करता है।
- डिप्लॉय फ्रंटियर ( $B_t$ ): वास्तव में इन्फरेंस के समय उपयोग किए जाने वाले स्किल सेट को बनाए रखता है। इसमें केवल वे स्किल्स होते हैं जिन्हें राउटर विश्वसनीय रूप से चुन सकता है।
- इवोल्यूशन प्रक्रिया: नए स्किल उम्मीदवार क्षमता फ्रंटियर से पाथ्स को एडिट करके उत्पन्न किए जाते हैं। उम्मीदवारों का मूल्यांकन ट्रेनिंग और वैलिडेशन बैचों पर किया जाता है। क्षमता फ्रंटियर को ओरेकल प्रदर्शन को संरक्षित करने के लिए अपडेट किया जाता है, जबकि डिप्लॉय फ्रंटियर को केवल तभी अपडेट किया जाता है जब नया सेट रूटेड प्रदर्शन में सुधार करता है या एक टॉलरेंस थ्रेशोल्ड के भीतर सघनता (compactness) बनाए रखता है। यह सुनिश्चित करता है कि सिस्टम नए क्षमताओं का पता लगा सके बिना तैनात एजेंट को अस्थिर किए।

मुख्य योगदान

पुनर्प्राप्ति-केंद्रित फ्रेमवर्क: यह पेपर एक नया प्रतिमान पेश करता है जहाँ मेमोरी एक्सेस को एक निश्चित पुनर्प्राप्ति रणनीति के बजाय एक क्वेरी-अनुकूल साक्ष्य निर्माण के रूप में माना जाता है।
ERSkill आर्किटेक्चर: एक स्किल-निर्देशित फ्रेमवर्क जो अनुभव ट्राइ और डबल-फ्रंटियर डिज़ाइन का उपयोग करके पुनर्प्राप्ति कौशल और राउटर को सह-विकसित (co-evolve) करता है।
अनुभवजन्य प्रदर्शन: व्यापक प्रयोग दर्शाते हैं कि ERSkill मजबूत नॉन-इवॉल्विंग और सेल्फ-इवॉल्विंग बेसलाइन्स से काफी बेहतर प्रदर्शन करता है।

प्रयोगात्मक परिणाम

लेखकों ने दो बैकबोन LLMs: Qwen3-Next-80B-A3B-Instruct और GPT-5.4-nano का उपयोग करते हुए तीन एजेंट मेमोरी बेंचमार्क: LoCoMo, LongMemEval, और PerLTQA पर ERSkill का मूल्यांकन किया।

प्रदर्शन लाभ: ERSkill ने F1, BLEU-1, और LLM-as-a-Judge स्कोर के समग्र औसत में सर्वश्रेष्ठ प्रदर्शन किया।
- Qwen3-Next-80B-A3B-Instruct के साथ, इसने सबसे मजबूत बेसलाइन पर समग्र औसत में 31.3% का सुधार किया।
- GPT-5.4-nano के साथ, इसने समग्र औसत में 28.1% का सुधार किया।
ट्रांसफरेबिलिटी: LoCoMo पर प्रशिक्षित स्किल्स बिना किसी अतिरिक्त प्रशिक्षण के LongMemEval पर प्रभावी ढंग से स्थानांतरित हुए, और श्रेष्ठ प्रदर्शन बनाए रखा।
लागत-प्रदर्शन ट्रेड-ऑफ: ERSkill ने एक अनुकूल ट्रेड-ऑफ प्रदर्शित किया, उच्चतम L-J स्कोर प्राप्त करते हुए अन्य LLM-आधारित मेमोरी कंस्ट्रक्शन विधियों की तुलना में मेमोरी कंस्ट्रक्शन टोकन और इन्फरेंस टोकन दोनों में हल्का रहा।
एब्लेशन स्टडीज: मुख्य घटकों (स्किल इवोल्यूशन, राउटर, डबल फ्रंटियर, या एक्सपीरियंस ट्राइ) को हटाने से प्रदर्शन में महत्वपूर्ण गिरावट आई, जिससे प्रत्येक डिज़ाइन तत्व की आवश्यकता की पुष्टि हुई।

महत्व और दावे

यह पेपर दावा करता है कि ERSkill रिट्रीवल-साइड इवोल्यूशन को दीर्घकालिक LLM एजेंटों के लिए एक आशाजनक दिशा के रूप में उजागर करता है। लेखकों का तर्क है कि जबकि मेमोरी कंटेंट और रीजनिंग गाइडेंस तेजी से अनुकूलनशील हो गए हैं, पुनर्प्राप्ति व्यवहार स्वयं काफी हद तक पूर्व-निर्धारित रहा है। पुनर्प्राप्ति को एक कौशल-निर्देशित, विकसित होने वाली प्रक्रिया के रूप में मॉडल करके, ERSkill एजेंटों को विषम क्वेरीओं के लिए अनुकूलित साक्ष्य बनाने में सक्षम बनाता है।

इसका महत्व इस बात के प्रदर्शन में निहित है कि:

अनुकूलनशील पुनर्प्राप्ति महत्वपूर्ण है: केवल मेमोरी सारांश या रीजनिंग ट्रेसेस को अपडेट करना अपर्याप्त है यदि पुनर्प्राप्ति तंत्र स्थिर रहता है।
स्थिर विकास संभव है: डबल-फ्रंटियर मैकेनिज्म पुनर्प्राप्ति क्षमताओं के विस्तार की अनुमति देता है और यह भी सुनिश्चित करता है कि तैनात एजेंट स्थिर और विश्वसनीय बना रहे।
दक्षता: फ्रेमवर्क अधिक सामग्री पुनर्प्राप्त करने के बजाय लक्षित साक्ष्य निर्माण के माध्यम से उच्च प्रदर्शन प्राप्त करता है।

लेखक एक मध्यम रुख बनाए रखते हैं, यह नोट करते हुए कि वर्तमान सिस्टम एक निश्चित प्रिमिटिव लाइब्रेरी और रोलआउट-आधारित मूल्यांकन पर निर्भर करता है, जिसमें प्रशिक्षण लागत आती है। वे भविष्य के कार्य दिशाओं की पहचान करते हैं जैसे कि सस्ते इवैल्यूएटर्स के साथ दक्षता में सुधार करना, प्रिमिटिव डिस्कवरी का समर्थन करना, और प्लानिंग एवं टूल उपयोग तक एडेप्टिव रिट्रीवल का विस्तार करना।