From Growing to Looping: A Unified View of Iterative Computation in LLMs
यह शोध पत्र डेप्थ ग्रोथ (depth growth) और लेयर लूपिंग (layer looping) को एलएलएम (LLMs) में पुनरावृत्ति गणना (iterative computation) को प्रेरित करने के लिए पूरक विधियों के रूप में एकीकृत करता है, जो यह प्रदर्शित करता है कि वे अभिसारी यांत्रिक हस्ताक्षरों (convergent mechanistic signatures) को साझा करते हैं और तर्क क्षमताओं को महत्वपूर्ण रूप से बढ़ाने के लिए प्रभावी ढंग से संयोजित किए जा सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को जटिल गणितीय समस्या या तर्क संबंधी पहेली हल करना सिखाने की कोशिश कर रहे हैं। आप इसे स्मार्ट बनाने के दो मुख्य तरीके अपना सकते हैं: या तो आप इसे एक बड़ा दिमाग दे सकते हैं (अधिक अद्वितीय भाग) या इसे लंबा सोचने के लिए सिखा सकते हैं (उसी भाग का बार-बार उपयोग करना)।
यह शोध पत्र बड़े भाषा मॉडल (LLMs) को बेहतर बनाने के दो विशिष्ट तरीकों की खोज करता है, और यह पाता है कि वे वास्तव में एक ही सिक्के के दो पहलू हैं।
यहाँ सरल उपमाओं का उपयोग करके इसका विवरण दिया गया है:
1. दो रणनीतियाँ: "लूपिंग" बनाम "ग्रोइंग"
एक न्यूरल नेटवर्क को एक फैक्ट्री असेंबली लाइन के रूप में सोचें जहाँ एक उत्पाद (उत्तर) एक स्टेशन से दूसरे स्टेशन की ओर बढ़ता है।
रणनीति A: लूपिंग (द "रियूजिंग" मेथड)
कल्पना कीजिए कि आपके पास केवल 4 स्टेशन हैं, लेकिन आप उत्पाद को उन समान 4 स्टेशनों से 6 बार लगातार गुजरने के लिए कहते हैं।- यह कैसे काम करता है: मॉडल बार-बार उन्हीं सटीक "मस्तिष्क कोशिकाओं" (वेट्स) का उपयोग करता है। यह एक छात्र की तरह है जो किसी विषय को वास्तव में समझने के लिए एक ही पाठ्यपुस्तक के अध्याय को बार-बार पढ़ता है।
- लाभ: आपको एक बहुत ही गहरा विचारक मिलता है जिसके लिए आपको एक विशाल फैक्ट्री बनाने की आवश्यकता नहीं है। यह फैक्ट्री (पैरामीटर्स) बनाने में पैसा बचाता है लेकिन कन्वेयर बेल्ट को अधिक समय तक चलाने के लिए अधिक बिजली (कंप्यूट) का उपयोग करता है।
रणनीति B: डेप्थ ग्रोइंग (द "एक्सपैंडिंग" मेथड)
कल्पना कीजिए कि आप 4 स्टेशनों वाली एक छोटी फैक्ट्री से शुरू करते हैं। जैसे-जैसे उत्पाद लाइन में आगे बढ़ता है, आप अचानक लाइन को लंबा करने के लिए बीच के स्टेशनों को कॉपी और पेस्ट कर देते हैं।- यह कैसे काम करता है: आप एक छोटे मॉडल के साथ प्रशिक्षण शुरू करते हैं, और प्रक्रिया के बीच में, आप मॉडल को गहरा बनाने के लिए उसके मध्य परतों को डुप्लिकेट कर देते हैं।
- लाभ: क्योंकि आपने छोटा शुरू किया और फिर बढ़े, इसलिए आपको पूरी विशाल फैक्ट्री शून्य से बनाने की आवश्यकता नहीं पड़ी। यह एक गहरा कारखाना बनने के बावजूद, बहुत अधिक बिजली (ट्रेनिंग कंप्यूट) बचाता है।
2. बड़ी खोज: वे चचेरे भाई हैं
लंबे समय तक, वैज्ञानिकों ने सोचा कि ये दोनों तरीके केवल अलग-अलग तरकीबें हैं। लेकिन यह शोध पत्र कहता है: "रुको जरा, वे आंतरिक रूप से बिल्कुल एक ही चीज़ कर रहे हैं।"
जब शोधकर्ताओं ने दोनों मॉडलों के "मस्तिष्क" के अंदर देखा, तो उन्हें एक साझा हस्ताक्षर मिला:
- "लेट ब्लूमर्स" (देर से खिलने वाले): दोनों मॉडलों में, सबसे महत्वपूर्ण सोच लाइन के बिल्कुल अंत में होती है। शुरुआती स्टेशन केवल बुनियादी तैयारी का काम करते हैं; अंतिम स्टेशन भारी काम करते हैं।
- "रिदम" (लय): दोनों मॉडल एक दोहराव वाला पैटर्न विकसित करते हैं। ठीक वैसे ही जैसे एक गाना जिसमें एक कोरस बार-बार आता है, इन मॉडलों में एक विशिष्ट लय होती है जहाँ वे चक्रों में अपने उत्तर को परिष्कृत करते हैं।
उपमा:
एक पहेली सुलझाने के बारे में सोचें।
- लूप वाला (Looped) मॉडल एक ऐसे जासूस की तरह है जो सुरागों को पढ़ता है, उन पर विचार करता है, फिर से पढ़ता है, और भी गहराई से सोचता है, और तीसरी बार उन्हें पढ़ता है।
- ग्रोन (Grown) वाला मॉडल एक ऐसे जासूस की तरह है जो एक छोटी नोटबुक से शुरू करता है, फिर काम करते समय वह जादुई रूप से अपनी नोटबुक के बीच में और पन्ने जोड़ देता है, जिससे उसे प्रक्रिया के बीच में अधिक विचार लिखने की अनुमति मिलती है।
- शोध पत्र का निष्कर्ष: भले ही वे बाहर से अलग दिखते हों, दोनों जासूस पहेली सुलझाने के लिए एक ही "सोचने की लय" का उपयोग करते हैं। वे दोनों केवल इटरेटिव (चरण-दर-चरण) विचारक हैं।
3. सुपरपावर: मिश्रण और मिलान
इस शोध पत्र का सबसे रोमांचक हिस्सा यह है कि क्योंकि ये दोनों तरीके इतने समान हैं, आप सर्वश्रेष्ठ परिणाम प्राप्त करने के लिए उन्हें मिला (mix) सकते हैं।
- "पहले बढ़ो, फिर लूप करो":
शोधकर्ताओं ने एक ऐसा मॉडल लिया जो "ग्रोन" (प्रशिक्षण के दौरान विस्तारित) था और, प्रशिक्षण समाप्त होने के बाद, उन्होंने इसे वास्तविक परीक्षण के दौरान अपने मध्य भाग को लूप (दोहराने) के लिए कहा।- परिणाम: मॉडल तर्क संबंधी पहेलियों को हल करने में दोगुना स्मार्ट हो गया, भले ही उसे ऐसा करने के लिए कभी प्रशिक्षित नहीं किया गया था! यह एक छात्र को एक अध्याय पढ़ने के लिए सिखाने जैसा है, और फिर उनसे कहना, "हे, टेस्ट में, उत्तर लिखने से पहले उसी अध्याय को एक बार फिर से पढ़ लो।"
4. यह क्यों मायने रखता है?
यह दक्षता के लिए एक गेम-चेंजर है:
- सस्ता प्रशिक्षण: "ग्रोइंग" मॉडल को प्रशिक्षित करना सस्ता है क्योंकि आपको पहले दिन से ही पूरा बड़ा मॉडल बनाने की आवश्यकता नहीं होती है।
- स्मार्ट रीजनिंग: "लूपिंग" मेमोरी की आवश्यकता के बिना मॉडलों को तर्क में बेहतर बनाता है।
- दोनों का सर्वश्रेष्ठ: एक मॉडल को पहले बढ़ाकर और फिर परीक्षण के दौरान एक विशिष्ट भाग को लूप करने की अनुमति देकर, आप एक ऐसा मॉडल प्राप्त करते हैं जो प्रशिक्षित होने में अत्यधिक कुशल है लेकिन तर्क करने में अविश्वसनीय रूप से शक्तिशाली है।
एक वाक्य में सारांश
यह शोध पत्र सिद्ध करता है कि अपने चरणों को दोहराकर (लूपिंग) या अपने चरणों को बढ़ाकर (डेप्थ-ग्रोइंग) मॉडल को सोचने के लिए प्रेरित करने से एक ही शक्तिशाली "सोचने की लय" पैदा होती है, और इन तरकीबों को मिलाने से हमें ऐसा स्मार्ट AI बनाने में मदद मिलती है जिसे प्रशिक्षित करना सस्ता है और कठिन समस्याओं को हल करने में बेहतर है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।