PReM: Learning What to Preserve and When to Refresh for Context Compression
PReM एक नवीन संदर्भ-संपीड़न (context-compression) ढांचा है जो एक समर्पित मेमोरी लेयर और विशेष टोकन के माध्यम से आंतरिक लेयर-वार KV मेमोरी को संरक्षित और रिफ्रेश करना गतिशील रूप से सीखता है, जिससे बाहरी संपीड़कों पर निर्भर किए बिना या समयपूर्व प्रतिधारण निर्णय लिए बिना कुशल दीर्घ-संदर्भ अनुमान (long-context inference) सक्षम होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, जटिल रहस्य को सुलझाने की कोशिश कर रहे हैं, लेकिन एक एकल सुराग के बजाय, आपको 32,000 पृष्ठों के दस्तावेजों वाली एक लाइब्रेरी थमा दी गई है। आपके मस्तिष्क (या इस मामले में, एक लार्ज लैंग्वेज मॉडल नामक कंप्यूटर प्रोग्राम) को उस विशिष्ट तथ्य को खोजने के लिए सारा दस्तावेज़ पढ़ना होगा जिसकी आवश्यकता प्रश्न का उत्तर देने के लिए है। समस्या यह है कि उस पूरी लाइब्रेरी को एक साथ अपने "वर्किंग मेमोरी" में रखना अविश्वसनीय रूप से भारी और धीमा है। यह एक दौड़ के दौरान बैकपैक में लाइब्रेरी ले जाने जैसा है; अंततः, आप थक जाएंगे, और आप वह किताब भी गिरा सकते हैं जिसकी आपको आवश्यकता थी।
इसे ठीक करने के लिए, वैज्ञानिकों ने अब तक दो मुख्य तरकीबें आजमाई हैं। पहली है "कंप्रेशन" (compression), जहाँ वे इससे पहले कि आप पढ़ना शुरू करें, लाइब्रेरी को एक छोटे से संक्षिप्त सारांश में सिकोड़ने की कोशिश करते हैं। दूसरी है "कैशिंग" (caching), जहाँ वे पूरी लाइब्रेरी रखते हैं लेकिन केवल सबसे लोकप्रिय पृष्ठों को ही देखने की कोशिश करते हैं। लेकिन दोनों में एक दोष है: वे पहेली को हल करना शुरू करने से पहले ही यह निर्णय ले लेते हैं कि क्या रखना है। यदि पहेली बीच में ही बदल जाती है और आपको अचानक उस पृष्ठ की आवश्यकता होती है जिसे फेंक दिया गया था, तो आप फंस जाते हैं। आप वापस जाकर उसे नहीं उठा सकते क्योंकि निर्णय बहुत पहले लिया जा चुका है। यह शोध पत्र इस तरह से निपटने का एक नया तरीका पेश करता है, यह सुझाव देते हुए कि एक स्थिर सारांश के बजाय, हमें एक ऐसा मेमोरी सिस्टम चाहिए जो कहानी के आगे बढ़ने के साथ खुद को अपडेट कर सके।
यहाँ PReM (Preserve and Refresh Memory) आता है, जो एक चतुर नया फ्रेमवर्क है जो मॉडल की मेमोरी को एक स्थिर फाइलिंग कैबिनेट के बजाय एक गतिशील, जीवित नोटबुक की तरह मानता है। इसका मूल विचार सरल लेकिन शक्तिशाली है: केवल एक बार यह तय न करें कि क्या रखना है; बल्कि यह तय करें कि अभी क्या रखना है, और जैसे ही कहानी की मांग हो, चीजों को बदलने के लिए तैयार रहें।
PReM कैसे काम करता है, इसे एक मजेदार उपमा के माध्यम से समझते हैं। कल्पना कीजिए कि आप सहायकों की एक टीम (AI के विभिन्न परतें/layers) के साथ एक केस सुलझाने वाले जासूस हैं। पुराने तरीकों में, टीम पूरा केस फाइल पढ़ती है, अपने पसंदीदा 10 पृष्ठ चुनती है, और बाकी को एक तिजोरी में बंद कर देती है। यदि बाद में आपको तिजोरी से किसी पृष्ठ की आवश्यकता होती है, तो बहुत देर हो चुकी है।
PReM नियमों को बदल देता है। यह पूरे केस फाइल को रखता है, लेकिन इसे छोटे "चंक्स" (जैसे अध्याय) में व्यवस्थित करता है। जैसे ही जासूस समाधान लिखना शुरू करता है, एक विशेष "मेमोरी टोकन" (मान लीजिए कि यह एक जादुмयी बुकमार्क है, जिसे ⟨m⟩ के रूप में लिखा जाता है) एक संकेत के रूप में कार्य करता है। जब जासूस यह बुकमार्क लिखता है, तो यह कहने जैसा है, "रुको! मुझे अपनी मेज पर क्या है, इस पर फिर से सोचने की जरूरत है।"
ठीक उसी क्षण, एक समर्पित "मेमोरी मैनेजर" (AI में एक विशेष परत) जाग उठता है। वह वर्तमान प्रश्न और जादुमयी बुकमार्क को देखता है, फिर तेजी से सभी अध्यायों को स्कैन करता है। वह निर्णय लेता है: "ठीक है, कहानी के अगले चरण के लिए, हमें निश्चित रूप से अध्याय 3 और अध्याय 12 की आवश्यकता है। हम बाकी को अभी के लिए भूल सकते हैं।" फिर वह मेज पर मौजूद पुराने अध्यायों को नए अध्यायों के साथ बदल देता है, अनावश्यक विवरणों को एक छोटे सारांश में संकुचित करते हुए महत्वपूर्ण विवरणों को स्पष्ट और सटीक बनाए रखता है। यह लेखन प्रक्रिया के दौरान होता है, उससे पहले नहीं।
शोध पत्र दिखाता है कि यह "रिफ्रेश" तंत्र गेम-चेंजर है। 32,000-टोकन संदर्भों (वह बहुत सारा टेक्स्ट!) का उपयोग करके किए गए परीक्षणों में, PReM ने मेमोरी को 16 गुना और 32 गुना तक कंप्रेस किया। इतनी कम जानकारी "मेज पर" होने के बावजूद, इसने वास्तव में उन मॉडलों की तुलना में बेहतर उत्तर दिए जिन्होंने पूरी लाइब्रेरी को खुला रखने की कोशिश की थी। उदाहरण के लिए, एक 7-बिलियन-पैरामीटर मॉडल पर, PReM ने मौजूदा सर्वोत्तम तरीकों की तुलना में सटीकता में 12.55 अंक तक सुधार किया।
शोधकर्ताओं ने यह भी पाया कि "मेमोरी मैनेजर" को कहाँ रहना चाहिए। उन्होंने परीक्षण किया कि मेमोरी मैनेजर को AI के मस्तिष्क के शुरुआती, मध्य या अंतिम भागों में रखा जाए। उन्होंने पाया कि मध्य और अंतिम परतें यह तय करने में बहुत बेहतर थीं कि क्या रखना है, जबकि शुरुआती परतें इस कौशल को सीखने में बहुत धीमी थीं। यह एक वरिष्ठ जासूस (मध्य परतें) द्वारा यह तय करने जैसा है कि कौन सा सबूत प्रासंगिक है, बजाय एक नौसिखिए (शुरुआती परतें) के।
उनकी एक और आश्चर्यजनक खोज यह है कि PReM इतना अच्छा "लर्नड" (learned) मेमोरी प्रबंधन करता है कि एक छोटा मॉडल (3 बिलियन पैरामीटर्स) PReM का उपयोग करके, बड़े मॉडलों (7 बिलियन पैरामीटर्स) को पछाड़ सकता है जो अन्य कंप्रेशन तकनीकों का उपयोग कर रहे थे। यह सुझाव देता है कि अपनी मेमोरी को कब रिफ्रेश करना है, यह जानना उतना ही महत्वपूर्ण है जितना कि आपका दिमाग कितना बड़ा है।
यह शोध पत्र कुछ विचारों को खारिज भी करता है। यह दिखाता है कि केवल AI के प्राकृतिक अटेंशन (कि वह वर्तमान में किस पर ध्यान दे रहा है) का उपयोग करना यह तय करने के लिए पर्याप्त नहीं है कि क्या रखना है; आपको चयन करने के लिए एक विशिष्ट, प्रशिक्षित प्रणाली की आवश्यकता है। यह यह भी दिखाता है कि आप केवल शुरुआत में टेक्स्ट को एक बार कंप्रेस नहीं कर सकते और उम्मीद नहीं कर सकते कि सब ठीक रहेगा; "स्थिर" दृष्टिकोण जो पूरे उत्तर के दौरान एक ही संकुचित सारांश को रखता है, खराब परिणाम देता है, विशेष रूप से जटिल, बहु-चरणीय प्रश्नों के लिए।
संक्षेप में, PReM सुझाव देता है कि कुशल AI का भविष्य केवल डेटा को सिकोड़ने के बारे में नहीं है, बल्कि एक ऐसी मेमोरी बनाने के बारे में है जो सांस लेती है। यह सीखता है कि बातचीत के वर्तमान चरण के लिए आवश्यक साक्ष्य को कैसे सुरक्षित रखा जाए और यह भी जानता है कि अगले चरण के लिए नए साक्ष्य लाने के लिए "रिफ्रेश" बटन कब दबाना है। ऐसा करके, यह AI को तेज और कुशल बनाए रखता है बिना उस सुराग को भुलाए जिसकी उसे रहस्य सुलझाने के लिए आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।