Unlocking the Working Memory of Large Language Models for Latent Reasoning
यह शोध पत्र रीजनिंग इन मेमोरी (RiM) का परिचय देता है, जो एक कंप्यूट-कुशल लेटेंट रीजनिंग विधि है जो ऑटोरेग्रेसिव थॉट जनरेशन को फिक्स्ड मेमोरी ब्लॉक्स से बदल देती है, जिससे लार्ज लैंग्वेज मॉडल्स को मध्यवर्ती चरणों को बाहरी रूप से प्रस्तुत किए बिना आंतरिक तर्क के लिए वर्किंग मेमोरी का उपयोग करने में सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ पेपर "Unlocking the Working Memory of Large Language Models for Latent Reasoning" (RiM) का सरल, रोजमर्रा की भाषा और रचनात्मक उपमाओं (analogies) के साथ अनुवाद दिया गया है।
मुख्य समस्या: "ज़ोर से सोचना" धीमा है
कल्पना कीजिए कि आप एक जटिल गणित की समस्या हल करने की कोशिश कर रहे हैं। वर्तमान में, अधिकांश AI मॉडल (Large Language Models) को "ज़ोर से सोचने" के लिए मजबूर किया जाता है। किसी समस्या को हल करने के लिए, उन्हें अंतिम उत्तर देने से पहले अपने विचार प्रक्रिया के हर चरण को पूर्ण वाक्यों में लिखना पड़ता है।
- उपमा: यह उस छात्र की तरह है जिसे परीक्षा देते समय अंतिम संख्या लिखने से पहले अपने द्वारा किए गए हर एक कैलकुलेशन को समझाने के लिए एक पूरा निबंध लिखने की आवश्यकता होती है।
- समस्या: यह अक्षम है। AI तर्क तक पहुँचने के लिए शब्दों (व्याकरण, विराम चिह्न, जोड़ने वाले वाक्यांश) को उत्पन्न करने में बहुत अधिक समय और कंप्यूटिंग शक्ति खर्च करता है। यह एक ऐसी कार चलाने जैसा है जहाँ आपको आगे बढ़ने से पहले लाल रंग के बारे में एक कविता लिखने के लिए हर रेड लाइट पर रुकना पड़ता है।
मानवीय समाधान: "आंतरिक स्क्रैचपैड" (Internal Scratchpad)
इंसान आमतौर पर ऐसा नहीं करते हैं। जब हम कठिन समस्याओं को हल करते हैं, तो हम वर्किंग मेमोरी (working memory) का उपयोग करते हैं। हम संख्याओं और तर्क को अपने दिमाग में रखते हैं, आंतरिक रूप से उन्हें प्रोसेस करते हैं, और केवल अंतिम परिणाम बोलते हैं। हमें गणित करने के लिए हर चरण को ज़ोर से बोलने की आवश्यकता नहीं होती।
यह पेपर तर्क देता है कि AI को भी ऐसा ही करने में सक्षम होना चाहिए: एक आंतरिक कार्यक्षेत्र (internal workspace) होना चाहिए जहाँ वह बिना "बोलना" शुरू किए भारी काम कर सके।
नई विधि: रीजनिंग इन मेमोरी (Reasoning in Memory - RiM)
लेखक रीजनिंग इन मेमोरी (RiM) नामक एक विधि पेश करते हैं। अपने विचारों के लिए टेक्स्ट जेनरेट करने के बजाय, वे इसे निश्चित "मेमोरी ब्लॉक्स" (memory blocks) का एक सेट देते हैं।
- उपमा: कल्पना कीजिए कि AI को सवाल के ठीक बगल में रखे गए खाली, जादुई स्टिकी नोट्स (मेमोरी ब्लॉक्स) दिए गए हैं।
- पुराना तरीका: AI समस्या हल करने के लिए कागज पर एक लंबी कहानी लिखता है।
- RiM तरीका: AI अपने विचार सीधे उन स्टिकी नोट्स पर लिखता है। ये नोट्स विशेष हैं; ये ऐसे शब्द नहीं हैं जिन्हें आप पढ़ें, बल्कि ये विचारों के अर्थ को थामे रखते हैं।
- जादू: क्योंकि ये नोट्स पहले से रखे गए और निश्चित हैं, AI उन सभी को एक साथ देख सकता है और जानकारी को एक ही बार में (एक सिंगल "फॉरवर्ड पास" में) प्रोसेस कर सकता है, बजाय इसके कि वह उन्हें एक-एक करके लिखे।
उन्होंने AI को इसका उपयोग करना कैसे सिखाया (दो-चरणीय प्रशिक्षण)
आप सिर्फ एक AI को खाली नोटबुक देकर यह उम्मीद नहीं कर सकते कि वह जानना जाएगा कि इसका उपयोग कैसे करना है। लेखकों ने दो-चरणीय प्रशिक्षण पाठ्यक्रम का उपयोग किया, जैसे कि एक बच्चे को साइकिल चलाना सिखाने के लिए पहले ट्रेनिंग व्हील्स लगाना, फिर उन्हें हटा देना।
चरण 1: "ट्रेनिंग व्हील्स" चरण
- लक्ष्य: AI को यह सिखाना कि मेमोरी ब्लॉक्स सोचने के लिए हैं।
- यह कैसे काम करता है: AI को एक सवाल और मेमोरी ब्लॉक्स दिखाए जाते हैं। हर ब्लॉक के बाद, शिक्षक पूछता है, "अगला कदम क्या है?" AI को मेमोरी ब्लॉक्स के भीतर दी गई जानकारी का उपयोग करके अगले लिखित चरण की भविष्यवाणी करनी होती है।
- परिणाम: AI मेमोरी ब्लॉक्स के अंदर "विचारों" को स्टोर करना सीख जाता है क्योंकि उसे पता है कि तुरंत बाद उसका परीक्षण किया जाएगा। वह ब्लॉक्स को एक वर्किंग वर्कस्पेस में बदलना सीख जाता है।
चरण 2: "वास्तविक दुनिया" चरण
- लक्ष्य: AI को केवल ब्लॉक्स का उपयोग करके पूरी समस्या को हल करना सिखाना।
- यह कैसे काम करता है: शिक्षक मध्यवर्ती चरणों (intermediate steps) के बारे में पूछना बंद कर देता है। अब, हर मेमोरी ब्लॉक के बाद, AI से पूछा जाता है, "अंतिम उत्तर क्या है?"
- परिणाम: AI अपने उत्तर को रिफाइन करना सीख जाता है क्योंकि वह अधिक मेमोरी ब्लॉक्स भरता जाता है। वह "ज़ोर से सोचना" बंद कर देता है और "मेमोरी में सोचना" शुरू कर देता है, जिससे वह हर चरण के साथ सही उत्तर के करीब पहुँचता जाता है।
परिणाम: तेज़ और स्मार्ट
पेपर ने गणित की समस्याओं (GSM8K और GSM-Hard) पर विभिन्न आकार के AI मॉडल्स का परीक्षण किया।
- गति: क्योंकि AI अपने विचारों के लिए शब्द जेनरेट नहीं करता है, इसलिए यह बहुत तेज़ है। यह मेमोरी ब्लॉक्स को एक ही बार में प्रोसेस करता है। पेपर नोट करता है कि RiM पिछले सर्वश्रेष्ठ "साइलेंट थिंकिंग" तरीकों की तुलना में लगभग 7 गुना तेज़ है और पूर्ण रीजनिंग चेन लिखने वाले तरीकों की तुलना में 27 गुना तेज़ है।
- सटीकता: तेज़ होने के बावजूद, AI ने अपने विचारों को लिखने वाले तरीकों की तुलना में बेहतर या समान स्कोर प्राप्त किया। इसने साबित किया कि AI सफलतापूर्वक मेमोरी ब्लॉक्स को एक वास्तविक वर्कस्पेस के रूप में उपयोग करना सीख गया है।
- दक्षता (Efficiency): यह कम कंप्यूटिंग पावर का उपयोग करता है क्योंकि यह "टाइपिंग" वाले हिस्से को छोड़ देता है।
सारांश
यह पेपर एक तरीका पेश करता है जिससे AI को "मौन रूप से सोचने" के लिए प्रेरित किया जा सके, जिसमें उसे अपने विचारों को लिखने के लिए मजबूर करने के बजाय निश्चित मेमोरी ब्लॉक्स दिए जाते हैं। दो चरणों में AI को प्रशिक्षित करके (पहले चरणों के लिए ब्लॉक्स का उपयोग करना सिखाना, फिर अंतिम उत्तर के लिए), उन्होंने एक ऐसा सिस्टम बनाया जो वर्तमान मॉडल्स जितना स्मार्ट है लेकिन काफी तेज़ और अधिक कुशल है, जो इस बात की नकल करता है कि इंसान बिना हर विचार को ज़ोर से बोले समस्याओं को हल करने के लिए अपनी वर्किंग मेमोरी का उपयोग कैसे करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।