Beyond Similarity Search: Tenure and the Case for Structured Belief State in LLM Memory
यह शोधपत्र Tenure को पेश करता है, जो एक लोकल-फर्स्ट प्रॉक्सी है जो सिमेंटिक सिमिलैरिटी सर्च को एक स्ट्रक्चर्ड, टाइप्ड बिलीफ स्टेट मैनेजमेंट सिस्टम से बदल देता है ताकि मेमोरी को सर्च समस्या के बजाय स्टेट मैनेजमेंट समस्या मानकर क्रॉस-सेशन LLM मेमोरी रिट्रीवल में पूर्ण सटीकता प्राप्त की जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य समस्या: "भूलने का टैक्स" (The Amnesia Tax)
कल्पना कीजिए कि आपने एक बहुत ही बुद्धिमान लेकिन अविश्वसनीय रूप से भुलक्कड़ सहायक को काम पर रखा है। हर बार जब आप एक नई बातचीत शुरू करते हैं, तो वह आपको एक अजनबी की तरह देखता है। आपको शुरुआती दस मिनट सब कुछ फिर से समझाने में बिताने पड़ते हैं: "वैसे, मैं TypeScript का उपयोग करता हूँ, JavaScript का नहीं," "मुझे अपवाद (exceptions) पसंद नहीं हैं, मैं चाहता हूँ कि एरर साफ़ तौर पर रिटर्न हों," और "मेरा प्रोजेक्ट MongoDB का उपयोग करता है।"
पेपर इसे "री-ओरिएंटेशन टैक्स" (Re-Orientation Tax) कहता है। यह वह बर्बाद हुआ समय और मानसिक ऊर्जा है जो उन चीजों को फिर से सिखाने में खर्च होता है जो AI को पहले से पता होनी चाहिए थीं।
पुराना तरीका: "धुंधली लाइब्रेरी" (The Fuzzy Library)
वर्तमान AI मेमोरी सिस्टम इस समस्या को हल करने के लिए एक धुंधली लाइब्रेरी की तरह काम करने की कोशिश करते हैं। वे आपकी पिछली बातचीत को सहेजते हैं और, जब आप नया सवाल पूछते हैं, तो वे पिछले नोट्स में "समान" (similar) चीज़ों को खोजते हैं।
- खामी: पेपर का तर्क है कि यह गलत टूल है। यदि आप "Redis" (एक डेटाबेस) के बारे में पूछते हैं, तो धुंधली लाइब्रेरी "Redis" के बारे में नोट्स ढूँढती है, लेकिन यह "MongoDB," "Kubernetes," और "Fastify" के बारे में भी नोट्स ढूँढ लेती है क्योंकि वे सभी "टेक चीज़ें" हैं।
- परिणाम: AI समान सुनाई देने वाली लेकिन अप्रासंगिक चीज़ों के ढेर से भ्रमित हो जाता है। यह एक लाइब्रेरियन से "सेब" पर एक विशिष्ट पुस्तक माँगने जैसा है, और वह आपको सेब, नाशपाती, संतरे और फल के बारे में एक शब्दकोश का टोकरा थमा देता है, इस उम्मीद में कि आप सही चीज़ चुन लेंगे।
नया समाधान: टेन्योर (Tenure - "व्यवस्थित फाइलिंग कैबिनेट")
लेखक Tenure पेश करते हैं, जो एक ऐसा सिस्टम है जो मेमोरी को "सर्च समस्या" के रूप में नहीं, बल्कि एक "स्टेट मैनेजमेंट समस्या" के रूप में देखता है। एक धुंधली लाइब्रेरी के बजाय, Tenure एक सख्त, व्यवस्थित फाइलिंग कैबिनेट है जिसके विशिष्ट नियम हैं।
यहाँ इस नए कैबिनेट की चार मुख्य विशेषताएं दी गई हैं:
1. "क्यों ज़रूरी है" वाला नोट (Imperative vs. Declarative)
- पुराना तरीका: AI एक नोट सहेजता है कि "हम TypeScript का उपयोग करते हैं।" (यह केवल एक तथ्य है)।
- Tenure का तरीका: AI एक नोट सहेजता है कि "चूंकि हम TypeScript का उपयोग करते हैं, इसलिए आपको सभी कोड उदाहरण सख्त मोड (strict mode) में लिखने होंगे और कभी भी 'any' का उपयोग नहीं करना होगा।"
- उपमा: सहायक को केवल एक कच्चा घटक (तथ्य) देने के बजाय, Tenure उन्हें एक पहले से तैयार रेसिपी निर्देश देता है। AI को यह अनुमान लगाने की ज़रूरत नहीं है कि तथ्य का उपयोग कैसे किया जाए; उसे बताया गया है कि उस तथ्य के साथ क्या करना है।
2. "स्कोप" लॉक (The Bouncer)
- समस्या: आपके पास एक "वर्क" प्रोजेक्ट और एक "पर्सनल" प्रोजेक्ट हो सकता है। आप नहीं चाहते कि AI गलती से आपके पर्सनल ब्लॉग के लिए आपके वर्क के डेटाबेस सेटिंग्स का उपयोग करे।
- Tenure का समाधान: हर तथ्य का एक स्कोप लॉक (Scope Lock) होता है।
- यदि आप "प्रोजेक्ट A" के बारे में बात कर रहे हैं, तो AI भौतिक रूप से "प्रोजेक्ट B" के तथ्यों को नहीं देख सकता, भले ही वे समान क्यों न हों।
- उपमा: यह एक क्लब में बाउंसर की तरह है। भले ही आप पासवर्ड जानते हों, यदि आपके पास इस विशिष्ट कमरे के लिए वीआईपी रिस्टबैंड नहीं है, तो आप अंदर नहीं जा सकते। यह "कॉन्टेक्स्ट रॉट" (जहाँ पुरानी, गलत जानकारी घुस आती है) को रोकता है।
3. "एलियास" फ्लाईव्हील (आपकी बोलचाल सीखना)
- समस्या: आप एक चैट में अपने डेटाबेस को "Redis" कह सकते हैं और दूसरी चैट में "k8s"। एक धुंधली खोज इस संबंध को मिस कर सकती है।
- Tenure का समाधान: Tenure आपके लिए एक व्यक्तिगत शब्दकोश बनाता है। यदि आप किसी उपनाम या संक्षिप्त रूप (जैसे "k8s" जो "Kubernetes" के लिए है) का उपयोग करते हैं, तो Tenure इसे सीख लेता है और इसे फ़ाइल की "एलियास" सूची में जोड़ देता है।
- उपमा: यह एक ऐसे सचिव की तरह है जो आपके विशिष्ट उपनामों को सीखता है। यदि आप कहते हैं "द बिग रेड मशीन," तो वे जानते हैं कि आपका मतलब "द सर्वर" से है। आप जितनी अधिक बात करते हैं, वे आपकी विशिष्ट शब्दावली को समझने में उतने ही बेहतर होते जाते हैं, जिससे वे समय के साथ तेज़ और अधिक सटीक बनते हैं।
4. "सुपरसेडेशन" चेन (वर्जन हिस्ट्री)
- समस्या: आप अपना विचार बदल देते हैं। आप पहले टूल A पसंद करते थे, लेकिन अब आप टूल B का उपयोग करते हैं। पुराने सिस्टम दोनों को लेकर भ्रमित हो सकते हैं।
- Tenure का समाधान: Tenure एक वर्जन हिस्ट्री रखता है। जब आप टूल B पर स्विच करते हैं, तो यह टूल A को "सुपरसेड" (अतिरेक/पुराना) के रूप में चिह्नित करता है। AI जानता है कि टूल A को पूरी तरह से अनदेखा करना है, लेकिन यह भी रिकॉर्ड रखता है कि आपने बदलाव क्यों किया।
- उपमा: यह आपके गैरेज में एक पुराने टूल पर "उपयोग न करें" के साइन की तरह है। आप पुराने टूल को फेंकते नहीं हैं (हो सकता है कि आपको यह जानने की ज़रूरत हो कि आपने इसका उपयोग क्यों बंद किया), लेकिन आप उस पर एक बड़ा लाल निशान लगा देते हैं ताकि आप गलती से उसे दोबारा न उठा लें।
प्रमाण: "प्रिसिजन" टेस्ट
पेपर ने 72 विशिष्ट टेस्ट केस का उपयोग करके "फजी लाइब्रेरी" (वेक्टर सर्च) के मुकाबले Tenure का परीक्षण किया।
- फजी लाइब्रेरी: 72 में से केवल 8 बार सही उत्तर दे पाई। यह समान सुनाई देने वाली लेकिन गलत जानकारी से विचलित होती रही।
- Tenure: 72 में से 72 बार सही उत्तर दे पाया।
- ड्रिफ्ट टेस्ट: भले ही बातचीत कुछ समय के लिए विषय से भटक गई और फिर वापस आई, Tenure केंद्रित रहा। फजी लाइब्रेरी विषय से भटकने वाली बातचीत के कारण "नशे में" हो गई और मूल विषय को भूल गई।
निचोड़ (The Bottom Line)
पेपर का तर्क है कि एक एकल उपयोगकर्ता (या साझा शब्दावली वाले एक टीम) के लिए, हमें एक ऐसे AI की आवश्यकता नहीं है जो अस्पष्ट समानताओं के आधार पर आपके अर्थ का "अनुमान" लगाने में अच्छा हो। हमें एक ऐसे AI की आवश्यकता है जो एक कठोर, व्यवस्थित सहायक की तरह कार्य करे जो:
- जानता है कि आपकी प्राथमिकताएं क्या हैं।
- केवल सही प्रोजेक्ट के लिए सही फोल्डर में देखता है।
- आपके विशिष्ट उपनामों को याद रखता है।
- जानता है कि आपने अपना विचार कब बदला और पुराने विचारों का उपयोग करना बंद कर देता है।
Tenure वह सिस्टम है जो इस व्यवस्थित सहायक का निर्माण करता है, यह सुनिश्चित करता है कि AI सही चीज़ों को, सही तरीके से याद रखे, बिना शोर (noise) से भ्रमित हुए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।