PEEK: Context Map as an Orientation Cache for Long-Context LLM Agents
PEEK एक ऐसी प्रणाली है जो एक छोटे, निरंतर "कॉन्टेक्स्ट मैप" में बार-बार आने वाले बाहरी संदर्भों के बारे में पुन: प्रयोज्य ओरिएंटेशन ज्ञान को कैश करके लॉन्ग-कॉन्टेक्स्ट LLM एजेंटों को बेहतर बनाती है, जो मौजूदा बेसलाइन की तुलना में कंप्यूटेशनल लागत को कम करते हुए तर्क की सटीकता और दक्षता में महत्वपूर्ण सुधार करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस के रूप में काम पर रखे गए हैं जिसे अलग-अलग मामलों को सुलझाने के लिए नियुक्त किया गया है, लेकिन हर एक मामला एक ही विशाल, 50,000 पन्नों वाली फाइलिंग कैबिनेट की जांच करने से जुड़ा है जो एक बेसमेंट में रखी है।
अतीत में, जब AI एजेंटों (स्मार्ट कंप्यूटर प्रोग्राम) ने इन समस्याओं को हल करने की कोशिश की, तो उनके पास इस फाइलिंग कैबिनेट को संभालने के दो मुख्य तरीके थे:
"मेमोरी लेन" (Memory Lane) दृष्टिकोण: उन्होंने हर पिछले मामले के पूरे बातचीत इतिहास को अपने दिमाग में रखा। लेकिन कुछ ही मामलों के बाद, उनका दिमाग पुराने शोर-शराबे से इतना भर गया कि वे नए सुरागों पर ध्यान केंद्रित नहीं कर पा रहे थे। यह बिल्कुल वैसा ही था जैसे किसी घास के ढेर में सुई ढूंढने की कोशिश करना, जो खुद भी आपकी अब तक की हर बातचीत से भरा हुआ हो।
"सर्च इंजन" (Search Engine) दृष्टिकोण: हर बार जब कोई नया सवाल आता, तो वे फाइलिंग कैबिनेट की ओर दौड़ते, कुछ प्रासंगिक पन्ने खोजते और उन्हें वापस ले आते। यह तेज़ था, लेकिन वे यह भूल जाते थे कि कैबिनेट का संगठन (organization) कैसे था। उन्हें हर बार लेआउट को फिर से सीखना पड़ता था।
समस्या:
यह शोध पत्र तर्क देता है कि एक ही बड़े संदर्भ (context) पर बार-बार काम करने के लिए, AI के पास एक महत्वपूर्ण उपकरण की कमी है: ओरिएंटेशन नॉलेज (Orientation Knowledge - दिशा-ज्ञान/परिचय ज्ञान)।
इसे एक मानव विश्लेषक की तरह सोचें जिसने उस बेसमेंट में एक महीने तक काम किया है। उन्हें हर बार पूरी कैबिनेट को फिर से पढ़ने की आवश्यकता नहीं होती। उनके पास एक मानसिक मानचित्र होता है: "ओह, स्पोर्ट्स स्टैट्स बाईं ओर लाल बाइंडरों में हैं, वित्तीय डेटा दाईं ओर नीले वाले में है, और तारीखों को कैसे लिखा जाता है इसके बारे में एक अजीब नियम है जो मुझे पहले दिन पता चला था।"
यह शोध पत्र इस गायब उपकरण को एक कॉन्टेक्स्ट मैप (Context Map) कहता है।
पेश है PEEK: कैबिनेट में एक "झलक" (Peek)
लेखकों ने PEEK नामक एक प्रणाली बनाई है (जिसका अर्थ है Context Map as an Orientation Cache)।
PEEK को एक स्टिकी नोट की तरह समझें जो स्थायी रूप से AI की मेज पर (उसके प्रॉम्प्ट के अंदर) रहता है। यह स्टिकी नोट छोटा है और इसमें आकार की एक सख्त सीमा है, इसलिए यह पूरी फाइलिंग कैबिनेट को नहीं रख सकता। इसके बजाय, इसमें कैबिनेट का एक सारांश मानचित्र (summary map) होता है।
PEEK इस प्रकार काम करता है, एक लाइब्रेरी इंटर्न के रचनात्मक उदाहरण का उपयोग करते हुए:
1. द डिस्टिलर (The Distiller - "सूंघने वाला")
एक समस्या को हल करने के बाद, डिस्टिलर AI के अस्त-व्यस्त कार्य लॉग (work log) को देखता है। वह पूछता है: "एजेंट ने वास्तव में लाइब्रेरी के लेआउट के बारे में क्या सीखा?"
- यह सवाल के विशिष्ट उत्तर (जैसे, "उत्तर 42 है") को अनदेखा कर देता है।
- यह ओरिएंटेशन (जैसे, "स्पोर्ट्स सेक्शन हमेशा पीछे होता है," या "तारीखें एक अजीब फॉर्मेट में लिखी जाती हैं") पर ध्यान केंद्रित करता है।
- यह शोर को छान देता है और केवल पुन: प्रयोज्य (reusable) "मैप" ज्ञान को रखता है।
2. द कार्टोग्राफर (The Cartographer - "मानचित्र बनाने वाला")
कार्टोग्राफर उन नोट्स को लेता है और उन्हें स्टिकी नोट के लिए एक साफ, संरचित अपडेट में बदल देता है।
- यदि AI ने सीखा कि "स्पोर्ट्स" लाल बाइंडरों में है, तो कार्टोग्राफर उसे स्पष्ट रूप से लिख देता है।
- यदि उसे तारीखों के बारे में कोई विशिष्ट नियम पता चला, तो वह उसे "कॉन्स्टेंट्स" (Constants) अनुभाग में जोड़ देता है।
- वह यह सुनिश्चित करता है कि मानचित्र उन तथ्यों से न भरे जो केवल एक विशिष्ट प्रश्न पर लागू होते हैं।
3. द इविक्टर (The Evictor - "सफाई कर्मचारी")
स्टिकी नोट की एक सीमित क्षमता (टोकन बजट) होती है। यदि AI कुछ नया सीखता है, तो इविक्टर को यह तय करना होता कि जगह बनाने के लिए किसे बाहर फेंकना है।
- यह एक प्राथमिकता प्रणाली का उपयोग करता है। यह सबसे महत्वपूर्ण "मैप" जानकारी (जैसे, इमारत का लेआउट) को रखता है और कम महत्वपूर्ण विवरणों (जैसे, एक विशिष्ट तारीख का फॉर्मेट जो केवल एक प्रश्न के लिए उपयोगी था) को हटा देता है।
- यह सुनिश्चित करता है कि नोट छोटा, तेज़ और हमेशा प्रासंगिक बना रहे।
यह एक बड़ी बात क्यों है?
पेपर ने दो प्रकार के कठिन कार्यों पर PEEK का परीक्षण किया:
- रीजनिंग (Reasoning): विशाल दस्तावेज़ में बिखरे हुए सुरागों को खोजना और उन्हें एक साथ जोड़ना।
- लर्निंग (Learning): दस्तावेज़ के नियमों को समझना और उन्हें नए सवालों पर लागू करना।
परिणाम:
- स्मार्टर (Smarter): PEEK ने पुराने तरीकों की तुलना में बहुत अधिक सटीकता के साथ समस्याओं को हल किया (स्कोर में 6% से 34% का सुधार)।
- फास्टर (Faster): क्योंकि AI को हर बार फाइलिंग कैबिनेट के लेआउट को फिर से सीखने की आवश्यकता नहीं थी, इसलिए उसे सही उत्तर पाने के लिए बहुत कम प्रयासों (iterations) की आवश्यकता पड़ी।
- चीपर (Cheaper): कम प्रयासों का मतलब था कि सिस्टम को चलाने में काफी कम पैसा लगा (पिछले सर्वश्रेष्ठ तरीके की तुलना में 5.8 गुना तक सस्ता)।
निष्कर्ष
शोध पत्र का दावा है कि एक ही बड़े डेटासेट पर बार-बार काम करने वाले AI एजेंटों के लिए, रहस्य केवल "अधिक याद रखने" या "तेजी से खोजने" का नहीं है। यह उनके सामने ही दुनिया का एक छोटा, क्यूरेटेड मानचित्र रखने के बारे में है।
PEEK AI को संदर्भ (context) की एक ऐसी "झलक" देता है जो उसके साथ रहती है, जिससे वह विशाल बाहरी दुनिया में कुशलतापूर्वक नेविगेट कर पाता है, ठीक उसी अनुभवी लाइब्रेरियन की तरह जो बिना हर दिन कैटलॉग को फिर से पढ़े, जानता है कि हर किताब कहाँ है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।