Mnemis: Dual-Route Retrieval on Hierarchical Graphs for Long-Term LLM Memory
म्नेमिसिस (Mnemis) एक नवीन मेमोरी फ्रेमवर्क है जो पदानुक्रमित ग्राफों (hierarchical graphs) पर तेज़, समानता-आधारित सिस्टम-1 सर्च को एक विचारशील, टॉप-डाउन सिस्टम-2 ग्लोबल सिलेक्शन मैकेनिज्म के साथ एकीकृत करके लॉन्ग-टर्म एलएलएम रिट्रीवल को बढ़ाता है, जिससे लॉन्ग-टर्म मेमोरी बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक साल पहले अपने दोस्त को सुनाई गई एक कहानी याद करने की कोशिश कर रहे हैं।
यदि आप केवल उसे याद करने (recall) की कोशिश करते हैं, तो आपको बड़ी तस्वीर याद आ सकती है ("हम समुद्र तट पर गए थे"), लेकिन आप विशिष्ट विवरण भूल सकते हैं ("ओह, सही कहा, उस दिन डेव की नाक पर सनबर्न हुआ था")। वर्तमान के अधिकांश AI मेमोरी सिस्टम इसी तरह काम करते हैं। वे तेज़ होते हैं और उन चीज़ों को खोजने में अच्छे होते हैं जो आपके प्रश्न के समान लगती हैं, लेकिन वे अक्सर गहरे संबंधों या पूरी कहानी को मिस कर देते हैं।
यह पेपर Mnemis (उच्चारण: निमेमिस) पेश करता है, जो AI के याद रखने का एक नया तरीका है। यह इस विचार पर आधारित है कि मानव मस्तिष्क दो अलग-अलग सोचने के तरीकों का उपयोग करता है, और Mnemis दोनों का उपयोग करता है।
दो मस्तिष्क: सिस्टम 1 बनाम सिस्टम 2
लेखक AI की स्मृति की तुलना दो प्रकार की सोच से करते हैं:
सिस्टम 1 (त्वरित रिफ्लेक्स): यह आपकी "सहज भावना" (gut feeling) है। यदि कोई पूछता है, "हमने दोपहर के भोजन में क्या खाया था?" तो आपका मस्तिष्क तुरंत "पिज्जा" पर कूद जाता है। यह तेज़ है, लेकिन यह सतही समानता पर आधारित है।
- AI के संदर्भ में: यह समानता खोज (Similarity Search) है। यह उन शब्दों को खोजता है जो आपके प्रश्न से मेल खाते हैं। यदि आप "डेव" के बारे में पूछते हैं, तो यह "डेव" का उल्लेख करने वाले हर टेक्स्ट को ढूंढ लेता है।
- समस्या: यदि आप पूछते हैं, "डेव ने 2023 में किन शहरों का दौरा किया था?" और उत्तर डेट्रॉइट में एक कॉन्फ्रेंस के बारे में एक लंबे पैराग्राफ में दबा हुआ है, तो एक साधारण खोज इसे मिस कर सकती है क्योंकि "डेट्रॉइट" शब्द वाक्य का मुख्य केंद्र नहीं है।
सिस्टम 2 (विचारशील विचारक): यह आपकी "धीमी सोच" है। यदि आप पूछते हैं, "डेव ने अब तक जितने भी शहर देखे हैं, उनकी सूची बनाएं," तो आप केवल अनुमान नहीं लगाते। आप मानसिक रूप से अपनी स्मृति के माध्यम से चलते हैं: "ठीक है, वह बोस्टन गया था... फिर वह सैन फ्रांसिस्को गया... ओह, और उसने डेट्रॉइट की यात्रा का ज़िक्र किया था।" आप अपनी स्मृति संरचना का परिक्रमण (traversing) कर रहे हैं।
- AI के संदर्भ में: यह ग्लोबल सिलेक्शन (Global Selection) है। यह केवल कीवर्ड्स नहीं देखता; यह याद रखने के लिए संरचना को देखता है ताकि वह सब कुछ ढूंढ सके जो प्रासंगिक है, भले ही शब्द पूरी तरह से मेल न खाते हों।
Mnemis लाइब्रेरी उपमा
कल्पना कीजिए कि AI की स्मृति एक विशाल लाइब्रेरी है।
पुराने सिस्टम ("कीवर्ड" लाइब्रेरियन):
आप लाइब्रेरियन से पूछते हैं, "मुझे कुत्तों (Dogs) के बारे में एक किताब चाहिए।"
लाइब्रेरियन "कुत्तों" वाले सेक्शन में दौड़ता है, पहली तीन किताबें उठाता है, और उन्हें आपको थमा देता है।
- परिणाम: आपको कुत्तों के बारे में किताबें तो मिल जाती हैं, लेकिन आप "पेट केयर" वाली किताब मिस कर देते हैं जिसमें कुत्तों पर एक पूरा अध्याय है, या किसी प्रसिद्ध डॉग ट्रेनर की जीवनी मिस कर देते हैं। आपको केवल वही मिलता है जो आपने स्पष्ट रूप से मांगा था।
Mnemis ("मास्टर लाइब्रेरियन"):
Mnemis के पास मिलकर काम करने वाले दो लाइब्रेरियन हैं:
- लाइब्रेरियन A (सिस्टम 1): "कुत्तों" वाले सेक्शन में दौड़ता है और सबसे स्पष्ट किताबें उठाता है।
- लाइब्रेरियन B (सिस्टम 2): लाइब्रेरी के मानचित्र (Map) को देखता है।
- लाइब्रेरियन B एक बड़ा साइन देखता है: "जानवर (Animals)"।
- "जानवरों" के नीचे, "पालतू जानवर (Pets)" का एक साइन है।
- "पालतू जानवरों" के नीचे, "कुत्तों" का एक साइन है।
- लेकिन रुकिए! वहां "स्वास्थ्य (Health)" का भी एक साइन है जो "कुत्तों" से जुड़ा है (क्योंकि वे वेट विज़िट से संबंधित हैं)।
- लाइब्रेरियन B मानचित्र पर चलता है, हर उस शाखा की जाँच करता है जो प्रासंगिक हो सकती है। वह "पेट केयर" वाली किताब और "डॉग ट्रेनर" की जीवनी भी ढूंढ लेता है जिसे लाइब्रेरियन A मिस कर गया था।
जादू:
Mnemis दोनों लाइब्रेरियन की सूचियों को जोड़ता है। यह आपको तेज़, स्पष्ट उत्तरों साथ ही गहरे, संरचनात्मक उत्तर भी देता है।
यह मानचित्र कैसे बनाता है (पदानुक्रम/Hierarchy)
सिस्टम 2 को काम करने के लिए, Mnemis एक विशेष पदानुक्रमित ग्राफ (Hierarchical Graph) बनाता है। इसे एक बिखरी हुई अलमारी को व्यवस्थित करने जैसा समझें:
- लेयर 0 (कपड़े): व्यक्तिगत वस्तुएं (एक लाल शर्ट, नीली जींस, एक टोपी)।
- लेयर 1 (हैंगर): वस्तुओं के समूह (शर्ट, पैंट, एक्सेसरीज)।
- लेयर 2 (ड्रॉर/दराज): बड़े वर्ग (गर्मी के कपड़े, सर्दियों के कपड़े)।
- लेयर 3 (कमरा): पूरी अवधारणा (कपड़े)।
खास बात यह है कि एक वस्तु कई समूहों में हो सकती है। एक "लाल टोपी" "लाल चीजों" वाली दराज में और "टोपी" वाली दराज में भी हो सकती है। इसे Many-to-Many Mapping कहा जाता है। यह सुनिश्चित करता है कि आप चाहे जिस भी तरह से सवाल पूछें, AI किसी अन्य पथ के माध्यम से वस्तु को ढूंढ सके।
यह क्यों मायने रखता है?
पेपर ने बहुत कठिन मेमोरी पहेलियों (जैसे 6 महीने लंबी बातचीत को याद रखना) पर Mnemis का परीक्षण किया।
- पुराना तरीका: यदि आप पूछते, "किस स्वास्थ्य समस्या ने सैम की जीवनशैली बदल दी?", तो पुराना AI एक टेक्स्ट ढूंढ सकता है जिसमें लिखा हो "सैम को गैस्ट्राइटिस था" और वहीं रुक सकता है।
- Mnemis का तरीका: यह मानचित्र के "स्वास्थ्य" (Health) ब्रांच को देखने के लिए सिस्टम 2 का उपयोग करता है। यह देखता है कि "गैस्ट्राइटिस" "स्वास्थ्य घटनाओं" के अंतर्गत आता है, जो "शारीरिक स्वास्थ्य" के अंतर्गत आता है, जो "वजन की समस्याओं" से जुड़ा है। यह महसूस करता है कि वास्तविक मूल कारण उसका वजन था, न कि केवल पेट दर्द। यह गहरे सच को खोज निकालता है।
परिणाम
दोनों त्वरित रिफ्लेक्स (समान शब्दों को ढूंढना) और विचारशील विचारक (स्मृति के मानचित्र पर चलना) का उपयोग करके, Mnemis दुनिया के बेहतरीन मेमोरी सिस्टम बन गया, जिसने अपने परीक्षणों में अन्य सभी AI मेमोरी सिस्टम को पीछे छोड़ दिया।
संक्षेप में: Mnemis केवल कीवर्ड्स को नहीं खोजता; यह स्मृति के कथानक और संरचना को समझता है, जिससे यह घास के ढेर में सुई को ढूंढने में सक्षम होता है, भले ही आपको ठीक से पता न हो कि वह सुई कैसी दिखती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।