LCM: Lossless Context Management
यह शोध पत्र लॉसलेस कॉन्टेक्स्ट मैनेजमेंट (LCM) को प्रस्तुत करता है, जो एक नियतात्मक आर्किटेक्चर है जो रिकर्सिव कॉन्टेक्स्ट कंप्रेशन और टास्क पार्टीशनिंग के माध्यम से LLM मेमोरी को बढ़ाता है, जिससे वोल्ट एजेंट को 1 मिलियन टोकन तक के लॉन्ग-कॉन्टेक्स्ट कोडिंग कार्यों पर क्लॉड कोड (Claude Code) से बेहतर प्रदर्शन करने में सक्षम बनाया जा सके, साथ ही लॉसलेस स्टेट रिट्रीवल और टर्मिनेशन की गारंटी भी दी जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, कई दिनों तक चलने वाली गुत्थी को सुलझाने की कोशिश कर रहे हैं। आपके पास एक प्रतिभाशाली जासूस (AI) है, लेकिन उसकी याददाश्त बहुत कम समय के लिए होती है। यदि आप उसे 1,000 सुरागों का ढेर देते हैं, तो वह आखिरी सुराग तक पहुँचते-पहुँचते पहले के कुछ सुराग भूल जाएगा।
लंबे समय तक, समाधान केवल जासूस को एक बड़ी नोटबुक (एक बड़ा "कॉन्टेक्स्ट विंडो") देना था। लेकिन अंततः, भले ही नोटबुक कितनी भी बड़ी क्यों न हो, वे बहुत भारी हो जाती हैं और जासूस कागज़ की भारी मात्रा से भ्रमित होने लगता है।
यह शोध पत्र इस बात पर चर्चा करता है कि जासूस की मदद करने का एक नया तरीका क्या है: लॉसलेस कॉन्टेक्स्ट मैनेजमेंट (LCM)। इसे ऐसे समझें जैसे आप जासूस को अपना खुद का फाइलिंग सिस्टम बनाने के बजाय, एक सुपर-इंटेलिजेंट, स्वचालित लाइब्रेरियन (पुस्तकालयाध्यक्ष) दे रहे हैं जो उनके लिए नोट्स का प्रबंधन करता है।
यह कैसे काम करता है, इसके सरल उदाहरण यहाँ दिए गए हैं:
1. समस्या: "GOTO" बनाम "स्ट्रक्चर्ड" की बहस
यह शोध पत्र मेमोरी को संभालने के दो तरीकों की तुलना करता है:
- पुराना तरीका (RLM): कल्पना कीजिए कि आप जासूस को कोड में अपना खुद का फाइलिंग सिस्टम लिखने के लिए कह रहे हैं। उन्हें यह तय करना होगा कि नोट्स को कैसे व्यवस्थित किया जाए, उन्हें कब फेंक दिया जाए, और बाद में उन्हें कैसे खोजा जाए। यह एक प्रोग्रामर को कोड में कहीं भी कूदने (
GOTOस्टेटमेंट्स का उपयोग करने) की असीमित स्वतंत्रता देने जैसा है। यह शक्तिशाली है, लेकिन यदि जासूस अपने फाइलिंग स्क्रिप्ट में गलती करता है, तो पूरा सिस्टम क्रैश हो जाता है या अव्यवस्थित हो जाता है। - नया तरीका (LCM): जासूस को अपना फाइलिंग सिस्टम लिखने के लिए कहने के बजाय, इंजन (वह कंप्यूटर जो जासूस को चला रहा है) एक पहले से बना हुआ, सटीक फाइलिंग कैबिनेट प्रदान करता है। जासूस बस कहता है, "यहाँ एक नया सुराग है," और इंजन स्वचालित रूप से तय करता है कि पुराने सुरागों का सारांश कब बनाना है और उन्हें कहाँ संग्रहीत करना है। यह स्ट्रक्चक्ड प्रोग्रामिंग (लूप्स और इफ-स्टेटमेंट्स) का उपयोग करने जैसा है: यह कम लचीला है, लेकिन इसमें गलत लॉजिक के कारण कभी क्रैश नहीं होता।
2. LCM के दो जादुई उपकरण
शोध पत्र कहता है कि LCM जासूस को केंद्रित रखने के लिए दो मुख्य तरकीबों का उपयोग करता है:
A. "लॉसलेस" फाइलिंग कैबिनेट (Hierarchical DAG)
- यह कैसे काम करता है: इंजन एक सुरक्षित तिजोरी (Immutable Store) में हर एक नोट का "मास्टर कॉपी", शब्द-दर-शब्द, रखता है।
- सारांश (The Summary): जासूस के सक्रिय कार्यक्षेत्र (workspace) में जगह बचाने के लिए, इंजन पुराने नोट्स के लिए एक "समरी कार्ड" बनाता है। इंजन उस सारांश कार्ड को कार्यक्षेत्र में रखता है और पूर्ण नोट को तिजोरी में छिपा देता है।
- जादू: यदि जासूस को बाद में मूल नोट देखने की आवश्यकता होती है, तो वह इसके लिए पूछ सकता है, और इंजन तुरंत सारांश कार्ड को पूर्ण नोट से बदल देता है। कुछ भी वास्तव में खोता नहीं है; यह बस जरूरत पड़ने तक संकुचित (compressed) रहता है।
- उदाहरण: कल्पना कीजिए कि आप 500 पन्नों की किताब पढ़ रहे हैं। पूरी किताब ले जाने के बजाय, आप प्रत्येक अध्याय का एक-वाक्य का सारांश वाला बुकमार्क साथ रखते हैं। यदि आपको किसी विवरण की जांच करने की आवश्यकता है, तो आप किताब के विशिष्ट पृष्ठ पर वापस जा सकते हैं। आप मूल पाठ को कभी नहीं खोते।
B. "पैरेलल" टीम (LLM-Map)
- समस्या: यदि जासूस को एक-एक करके 1,000 फाइलें पढ़नी पड़ती हैं, तो वे थक जाएंगे और आखिरी फाइल तक पहुँचते-पहुँचते पहली फाइल भूल जाएंगे।
- समाधान: जासूस द्वारा फाइलों को स्वयं पढ़ने के बजाय, इंजन एक बॉस की तरह काम करता है जो 16 सहायकों को काम पर रखता है। जासूस बॉस को एक एकल निर्देश देता है: "इन 1,000 फाइलों को पढ़ें और मुझे प्रत्येक का मुख्य बिंदु बताएं।" इंजन उन सभी 1,000 फाइलों को एक साथ (simultaneously) सहायकों को भेज देता है।
- परिणाम: सहायक समानांतर (parallel) में भारी काम करते हैं। जासूस केवल परिणामों की अंतिम, व्यवस्थित सूची देखता है। जासूस को एक बार में 1,000 फाइलें अपने दिमाग में रखने की आवश्यकता नहीं होती।
3. "जीरो-कॉस्ट" का वादा
शोध पत्र का एक बड़ा दावा यह है कि छोटे कार्यों के लिए यह सिस्टम धीमा नहीं होता है।
- उदाहरण: यदि आपके पास फाइल करने के लिए केवल 5 नोट्स हैं, तो इंजन जटिल फाइलिंग सिस्टम बनाने की जहमत नहीं उठाता है। यह बस जासूस को उन्हें सीधे पढ़ने देता है। "फाइलिंग कैबिनेट" तभी सक्रिय होता है जब फाइलों का ढेर बहुत बड़ा हो जाता है। इसका मतलब है कि सामान्य, छोटी बातचीत के लिए, यह सिस्टम एक मानक AI की तरह ही तेज़ महसूस होता है।
4. परिणाम: प्रतिस्पर्धा को हराना
लेखकों ने अपने सिस्टम (Volt) का परीक्षण Claude Code के विरुद्ध किया, जो वर्तमान में दुनिया के सर्वश्रेष्ठ AI कोडिंग सहायकों में से एक है।
- परीक्षण: उन्होंने दोनों सिस्टम को 1 मिलियन शब्दों के सुरागों के साथ एक विशाल "गुत्थी" दी।
- परिणाम:
- छोटे सुरागों (32,000 शब्दों से कम) के लिए, दोनों सिस्टम लगभग समान प्रदर्शन करते हैं।
- विशाल सुरागों (32,000 से 1 मिलियन शब्दों तक) के लिए, Volt हर बार जीता।
- शोध पत्र का दावा है कि बड़े डेटासेट में सही उत्तर खोजने में Volt काफी बेहतर था क्योंकि यह टेक्स्ट की मात्रा से "भ्रमित" नहीं हुआ, जबकि Claude Code टेक्स्ट लंबा होने पर संघर्ष करने लगा।
5. यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
शोध पत्र तर्क देता है कि AI को अपनी मेमोरी प्रबंधित करने के लिए कहना (जैसे "पुराना तरीका") जोखिम भरा है क्योंकि AI अपने स्वयं के कोड में गलतियाँ कर सकता है। मेमोरी प्रबंधन को कंप्यूटर इंजन में स्थानांतरित करके, सिस्टम अधिक:
- विश्वसनीय (Reliable) बनता है: यह इसलिए क्रैश नहीं होता क्योंकि AI ने एक खराब स्क्रिप्ट लिखी है।
- कुशल (Efficient) बनता है: यह डेटा की विशाल मात्रा को बिना अभिभूत हुए संभालता है।
- लॉसलेस (Lossless) होता है: यह गारंटी देता है कि कोई भी जानकारी वास्तव में हटाई नहीं जाती, केवल संक्षिप्त की जाती है।
संक्षेप में, शोध पत्र सुझाव देता है कि बहुत लंबे, जटिल कार्यों के लिए, AI को खुद लाइब्रेरियन बनने देने के बजाय, उसे मेमोरी संभालने के लिए एक स्ट्रक्चर्ड, स्वचालित सहायक देना बेहतर है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।