कल्पना कीजिए कि आप एक बुद्धिमान लेकिन भुलक्कड़ रोबोट को एक जटिल वीडियो गेम खेलना सिखा रहे हैं। उस रोबोट के पास एक विशाल मस्तिष्क (एक Large Language Model) है जो बात करना और सोचना जानता है, लेकिन वह एक बार में बहुत कम जानकारी ही अपनी "वर्किंग मेमोरी" में रख सकता है—जैसे कि एक पहेली को हल करने की कोशिश करना जबकि आप केवल पिछले तीन टुकड़ों को ही देख पा रहे हों। लंबे समय तक अच्छा खेलने के लिए, रोबोट को अपने पिछले अनुभवों की एक लाइब्रेरी की आवश्यकता होगी जिससे वह जानकारी खोज सके। यहीं पर Retrieval-Augmented Generation (RAG) काम आता है: यह ऐसा है जैसे रोबोट लाइब्रेरियन से पूछ रहा हो, "हे, क्या हमने पहले कभी इस तरह की पहेली देखी है?"

लेकिन यहाँ एक पेचीदा बात है: रोबोट को पूरी तरह से काम करने के लिए दो चीजों की आवश्यकता है। पहला, उसे एक Librarian (रिट्रीवल पॉलिसी) चाहिए जो वर्तमान प्रश्न के लिए सही पुराने नोट्स खोजने में वास्तव में कुशल हो। दूसरा, उसे एक Note-Taker (मेमोरी बैंक) चाहिए जो उन नोट्स को व्यवस्थित करने, यह तय करने में कुशल हो कि वास्तव में कौन से उपयोगी हैं, और खेल कठिन होने पर उन्हें अपडेट करने में सक्षम हो। लंबे समय तक वैज्ञानिकों ने लाइब्रेरियन को स्मार्ट बनाने की कोशिश की जबकि नोट-टेकर को स्थिर रखा, या उन्होंने नोट-टेकर को बेहतर बनाया जबकि लाइब्रेरियन को वैसा ही रहने दिया। लेकिन क्या होगा अगर लाइब्रेरियन को यह जानने की आवश्यकता हो कि नोट्स कैसे व्यवस्थित हैं ताकि वह उन्हें ढूंढ सके, और नोट-टेकर को यह जानने की आवश्यकता हो कि लाइब्रेरियन क्या खोज रहा है ताकि वह उन्हें बेहतर ढंग से व्यवस्थित कर सके? उन्हें एक लूप में एक साथ सीखना होगा।

यही वह चीज़ है जिसे CoEvo-Mem पेपर एक्सप्लोर करता है। लेखक एक ऐसा सिस्टम प्रस्तावित करते हैं जहाँ "Librarian" और "Note-Taker" एक साथ विकसित होते हैं, लगातार एक-दूसरे को अपना काम बेहतर करने का तरीका सिखाते हैं। उन्होंने इस विचार का परीक्षण सात अलग-अलग प्रकार के चुनौतीपूर्ण कार्यों पर किया, जिनमें कंप्यूटर कोड लिखना और विज्ञान के प्रश्नों को हल करने से लेकर कंप्यूटर के ऑपरेटिंग सिस्टम को नियंत्रित करना शामिल है। परिणाम बताते हैं कि जब ये दोनों हिस्से तालमेल में सीखते हैं, तो रोबोट अलग-अलग सीखने वाले तरीकों की तुलना में लंबी, जटिल समस्याओं को हल करने में काफी बेहतर हो जाता है।

समस्या: टूटा हुआ फीडबैक लूप

कल्पना कीजिए कि आप इतिहास की एक बड़ी परीक्षा के लिए पढ़ाई कर रहे हैं। आपके पास फ्लैशकार्ड्स का एक ढेर (आपकी मेमोरी) है और एक स्टडी गाइड (आपकी रिट्रीवल पॉलिसी) है। यदि आपकी स्टडी गाइड खराब है, तो आप समीक्षा के लिए गलत फ्लैशकार्ड चुन सकते हैं। लेकिन यदि आपके फ्लैशकार्ड अव्यवस्थित और बिखरे हुए हैं, तो एक अच्छी स्टडी गाइड भी सही कार्ड खोजने में संघर्ष कर सकती है।

AI एजेंटों की दुनिया में, मौजूदा तरीके समस्या के एक पक्ष को ठीक करते हैं जबकि दूसरे को अनदेखा कर देते हैं। कुछ तरीके AI को यादों को मांगने (रिट्रीवल) में बेहतर बनाने की कोशिश करते हैं, जबकि अन्य AI को यादों को संग्रहित और व्यवस्थित करने (इवोल्यूशन) में बेहतर बनाने की कोशिश करते हैं। इस पेपर के लेखक तर्क देते हैं कि यह अलगाव एक गलती है। वे एक "मौलिक फीडबैक लूप" की ओर इशारा करते हैं जिसे अनदेखा किया जा रहा था:

1. रिट्रीवल तय करता है कि क्या उपयोग किया जाएगा: यदि AI गलत यादों को चुनता है, तो उन यादों को कार्य में मदद करने (या नुकसान पहुँचाने) के लिए कोई "क्रेडिट" नहीं मिलता है।
2. मेमोरी अपडेट भविष्य को बदल देता है: यदि AI अपनी यादों को अपडेट करता है, तो उनके संगठन का तरीका बदल जाता है, जिससे अगली बार उन्हें खोजना कठिन या आसान हो जाता है।

यदि आप मेमोरी को बदले बिना केवल रिट्रीवल विधि को ठीक करते हैं, या इसके विपरीत, तो आप उन्हें मिलकर बेहतर होने के अवसर को खो देते हैं। यह एक गिटार को ट्यून करने जैसा है जबकि तार लगातार अपनी मोटाई बदल रहे हों; आप तब तक सटीक ध्वनि प्राप्त नहीं कर सकते जब तक आप दोनों को एक साथ एडजस्ट न करें।

समाधान: CoEvo-Mem

लेखकों ने CoEvo-Mem (Co-Evolving Memory) नामक एक फ्रेमवर्क बनाया है। इसे दो साथियों के बीच एक नृत्य के रूप में सोचें: Router (Librarian) और Memory Bank (Note-Taker)।

यह नृत्य कैसे काम करता है, यहाँ दिया गया है:

1. फ्रोजन ब्रेन और स्मार्ट राउटर
AI का मुख्य "मस्तिष्क" (Large Language Model) स्थिर (frozen) रहता है—वह कुछ भी नया नहीं सीखता है। इसके बजाय, सिस्टम यह तय करने के लिए एक छोटा, हल्का "Router" उपयोग करता है कि मदद कैसे मांगी जाए।

• जब कोई प्रश्न आता है, तो स्थिर मस्तिष्क प्रश्न को फिर से लिखने के कुछ तरीके सुझाता है (कुछ अर्थ पर केंद्रित होते हैं, अन्य विशिष्ट कीवर्ड्स पर)।
• राउटर फिर इन सुझावों को इस आधार पर बदलने के लिए सीखता है कि AI को उत्तर सही मिला या गलत। यह एक कोच की तरह है जो फुसफुसाता है, "अगली बार इसे इस तरह से पूछने की कोशिश करो," खेल के परिणाम के आधार पर।

2. एक जीवित मानचित्र के रूप में मेमोरी बैंक
यादें केवल नोट्स की एक सूची नहीं हैं; वे एक Relational Graph हैं। एक ऐसे मानचित्र की कल्पना करें जहाँ प्रत्येक स्मृति एक शहर है, और उनके बीच की सड़कें दिखाती हैं कि वे कैसे संबंधित हैं।

• घनी सड़कें (Dense roads) उन स्मृतियों को जोड़ती हैं जिनका अर्थ समान है (semantic)।
• विरल सड़कें (Sparse roads) उन स्मृतियों को जोड़ती हैं जिनमें विशिष्ट शब्द या नाम साझा होते हैं (lexical)।
• समय की सड़कें (Time roads) उन स्मृतियों को जोड़ती हैं जो एक क्रम में हुईं (temporal)।

जब AI किसी कार्य को हल करता है, तो वह केवल उत्तर को सहेजता नहीं है। वह उन "शहरों" के "मूल्य" (value) को अपडेट करता है जहाँ से वह गुजरा था। यदि किसी स्मृति ने AI को जीतने में मदद की, तो उस शहर का स्कोर बढ़ जाता है। यदि उसने थोड़ी मदद की, तो स्कोर थोड़ा बढ़ जाता है। महत्वपूर्ण रूप से, यह क्रेडिट केवल उस एक स्मृति तक सीमित नहीं रहता है; यह पड़ोसी शहरों तक यात्रा करता है, जिससे पूरा पड़ोस स्मार्ट बनता है।

3. वैकल्पिक नृत्य (असली सीक्रेट)
आप सोच सकते हैं, "क्यों न राउटर और मेमोरी को एक ही समय में अपडेट किया जाए?" लेखकों ने पाया कि इससे अराजकता फैलती है। यदि दोनों एक साथ बदलते हैं, तो यह साइकिल चलाने सीखने जैसा है जबकि साइकिल भी अपना आकार बदल रही है। सिस्टम भ्रमित और अस्थिर हो जाता है।

इसके बजाय, CoEiv-Mem एक अल्टरनेटिंग शेड्यूल (alternating schedule) का उपयोग करता है:

• चरण 1: मेमोरी बैंक फ्रीज (लॉक) है। राउटर इस निश्चित मानचित्र का उपयोग करके सर्वोत्तम स्मृतियों को खोजने का अभ्यास करता है।
• चरण 2: राउटर फ्रीज (लॉक) है। मेमोरी बैंक राउटर द्वारा अभी जो खोजा गया है, उसके आधार पर अपने संगठन और मूल्यों को अपडेट करता है।
• वे बारी-बारी से यह प्रक्रिया करते हैं। यह प्रत्येक साथी को दूसरे की वर्तमान स्थिति से सीखने की अनुमति देता है बिना इस भ्रम के कि दोनों एक साथ बदल रहे हैं।

उन्हें क्या मिला

टीम ने सात बहुत अलग चुनौतियों पर CoEvo-Mem का परीक्षण किया:

• ऑपरेटिंग सिस्टम इंटरेक्शन: कार्यों को करने के लिए कंप्यूटर को नियंत्रित करना।
• कोड जनरेशन: काम करने वाले कंप्यूटर प्रोग्राम लिखना।
• मल्टीमॉडल रीजनिंग: ऐसी पहेलियों को हल करना जिनमें टेक्स्ट और इमेज दोनों शामिल हों।
• वैज्ञानिक प्रश्न: भौतिकी, रसायन विज्ञान और जीव विज्ञान के कठिन प्रश्नों के उत्तर देना।
• फंक्शन कॉलिंग: AI को टूल्स और APIs का सही उपयोग करना सिखाना।
• लॉन्ग-टर्म कन्वर्सेशन: लंबी बातचीत से विवरण याद रखना।

इन सभी सात परीक्षणों में, CoEvo-Mem ने सबसे अच्छे मौजूदा तरीकों से बेहतर प्रदर्शन किया।

• GPQA Diamond (कठिन विज्ञान प्रश्न) पर, इसने सबसे मजबूत बेसलाइन से 7.50 प्रतिशत अंक का सुधार किया।
• LiveCodeBench (कोडिंग) पर, इसमें 3.81 प्रतिशत अंक का सुधार हुआ।
• Long-term Conversational Memory (LoCoMo) पर, इसने 81.71 का स्कोर प्राप्त किया, जो अगले सबसे अच्छे तरीके से लगभग 5 अंक अधिक है।

लेखकों ने "एब्लेशन स्टडीज" (ऐसे प्रयोग जहाँ उन्होंने सिस्टम के हिस्सों को हटा दिया) भी चलाईं ताकि यह साबित किया जा सके कि यह क्यों काम करता है।

• जब उन्होंने क्वेरी रीराइटिंग (वह हिस्सा जो प्रश्न पूछने के तरीके को बदलता है) को हटाया, तो प्रदर्शन में काफी गिरावट आई।
• जब उन्होंने मेमोरी इवोल्यूशन (वह हिस्सा जो ग्राफ और मूल्यों को अपडेट करता है) को हटाया, तो प्रदर्शन भी गिर गया, विशेष रूप से कोडिंग और विज्ञान जैसे जटिल कार्यों में।
• जब उन्होंने राउटर और मेमोरी दोनों को एक ही समय में अपडेट करने की कोशिश की (अल्टरनेटिंग के बजाय), तो सिस्टम ने अल्टरनेटिंग पद्धति की तुलना में खराब प्रदर्शन किया।

निष्कर्ष

यह पेपर सुझाव देता है कि AI एजेंटों के लिए वास्तव में दीर्घकालिक कार्यों में महारत हासिल करने के लिए, हम केवल एक बेहतर सर्च इंजन या बेहतर डेटाबेस नहीं बना सकते। हमें एक ऐसा सिस्टम बनाना होगा जहाँ सर्च इंजन और डेटाबेस एक-दूसरे के अनुकूल होने के लिए एक-दूसरे को सिखा सकें। "Librarian" और "Note-Taker" को एक-दूसरे के स्थिर रहने के दौरान बारी-बारी से सीखने देकर, CoEvo-Mem एक स्थिर, सुधरता हुआ लूप बनाता है जो AI एजेंटों को बेहतर याद रखने, स्पष्ट रूप से सोचने और कठिन समस्याओं को हल करने में मदद करता है।

लेखक सावधानी बरतते हुए कहते हैं कि हालांकि इन सात बेंचमार्क पर परिणाम मजबूत हैं, लेकिन यह सह-विकास (co-evolution) के लिए एक विशिष्ट फ्रेमवर्क है। वे यह दावा नहीं करते कि यह AI की हर समस्या को हल करता है, लेकिन वे दिखाते हैं कि रिट्रीवल और मेमोरी को जोड़ने का यह विशिष्ट तरीका, एजेंटों को समय के साथ सीखने और अनुकूल होने में मदद करने के लिए एक शक्तिशाली कदम है।