Batch-wise Adaptive Pruning: Periodic Neuron Activation-Aware Weight Pruning for Language Reasoning Model
यह शोधपत्र लार्ज रीजनिंग मॉडल्स के लिए एक ट्रेनिंग-फ्री, बैच-वाइज एडेप्टिव प्रूनिंग विधि प्रस्तावित करता है जो बैच-वाइज इन्फरेंस में मौजूदा विधियों की सटीकता में होने वाली गिरावट को दूर करने के लिए आवधिक टॉप-के चयन और एक एक्टिवेशन मेमोरी तंत्र का उपयोग करता है, जिससे उच्च रीजनिंग प्रदर्शन बनाए रखते हुए महत्वपूर्ण गति प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत कठिन पहेली को हल करने की कोशिश कर रहे हैं, जैसे कि कोई जटिल गणितीय समस्या या कोई पेचीदा तर्क वाला सवाल। आपके पास एक प्रतिभाशाली लेकिन बहुत भूखा सहायक (एक लार्ज रीजनिंग मॉडल) है जो उत्तर खोजने के लिए चरणों के माध्यम से सोच सकता है। पेच यह है कि यह सहायक इतना विस्तृत है कि वह अपने विचारों की एक विशाल, चरण-दर-चरण डायरी लिखता है। हालांकि यह "चेन ऑफ थॉट" (सोचने की प्रक्रिया) इस सहायक को अविश्वसनीय रूप से स्मार्ट बनाती है, लेकिन यह इसे चलाने के लिए धीमा और महंगा भी बना देती है, जैसे कि एक सुपरकंप्यूटर को एक सिंगल AA बैटरी से चलाने की कोशिश करना।
इस सहायक को तेज़ बनाने के लिए, वैज्ञानिक अक्सर इसे "प्रून" (छंटनी) करने की कोशिश करते हैं—बेसिकली, वे सहायक को उसके मस्तिष्क के कुछ हिस्सों (न्यूरॉन्स) को अनदेखा करने के लिए कहते हैं जिन्हें उस समय उसकी आवश्यकता नहीं है। इसे एक शेफ की तरह समझें जो एक विशाल दावत तैयार कर रहा है, और फिर वह उन व्यंजनों के लिए सब्जियां काटना बंद करने का निर्णय लेता है जिनके लिए अभी तक ऑर्डर नहीं आया है। समस्या यह है कि जब आप एक साथ पूरे भीड़ के लिए खाना बनाते हैं (बैट्च इन्फरेंस), तो पुराने तरीके जो यह तय करते हैं कि क्या काटना है, विफल हो जाते हैं। वे एक निश्चित नियम का उपयोग करते हैं जो एक व्यक्ति के लिए तो काम करता है लेकिन एक समूह पर लागू होने पर भ्रमित हो जाता है। यह नियम सोचने की क्षमता को खो देता है और दोहराव वाली निरर्थक बातें करने लगता है। यह शोध पत्र इस नए, स्मार्ट तरीके को पेश करता है, जो यह सुनिश्चित करता है कि सहायक भीड़ की सेवा करते समय भी चौकस रहे।
समस्या: "एक-आकार-सभी-के-लिए-फिट" वाली गलती
कल्पना कीजिए कि आप एक ऑर्केस्ट्रा का संचालन करने वाले कंडक्टर हैं। यदि आपके पास केवल एक वायलिन वादक है, तो आप आसानी से उन्हें कह सकते हैं, "अब ज़ोर से बजाएं, फिर बाद में धीरे बजाएं।" लेकिन यदि आपके पास वायलिन वादकों का एक पूरा समूह (एक बैच) एक साथ खेल रहा है, और आप उन्हें सभी के लिए एक ही निर्देश देते हैं जो एक वायलिन वादक के सामान्य व्यवहार पर आधारित है, तो संगीत एक गड़बड़ी में बदल सकता है।
यह बिल्कुल वैसा ही है जैसा वर्तमान AI मॉडल के साथ होता है जब वे एक साथ कई अनुरोधों को प्रोसेस करने की कोशिश करते हैं। मौजूदा तरीके जो इन मॉडलों को तेज़ बनाने के लिए उपयोग किए जाते हैं, एक "थ्रेशोल्ड" (सीमा) नियम का उपयोग करते हैं। यह ऐसा है जैसे कहना, "यदि न्यूरॉन की गतिविधि 5 से ऊपर है, तो इसे रखें; यदि 5 से नीचे है, तो इसे बंद कर दें।" यह तब ठीक काम करता है जब AI अकेला सोच रहा होता है। लेकिन जब आप उसे अलग-अलग सवालों का एक बैच देते हैं, तो न्यूरॉन्स की "गतिविधि का स्तर" आपस में मिल जाता है, जिससे औसत बदल जाता है। पुराना नियम (थ्रेशोल्ड 5) अब नई वास्तविकता से मेल नहीं खाता। परिणाम यह होता है कि AI गलती से गलत न्यूरॉन्स को बंद कर देता है, उसका "मस्तिष्क" धुंधला हो जाता है, और वह तर्क करने के कार्यों में विफल होने लगता है। शोध पत्र दिखाता है कि जब आप इन मॉडलों को 4 अनुरोधों के बैच पर चलाने की कोशिश करते हैं, तो मौजूदा सर्वोत्तम तरीके अपनी लगभग सारी बुद्धिमत्ता खो देते हैं, जिससे उनकी सटीकता में भारी गिरावट आती है (कभी-कभी 50 अंक से भी अधिक)।
समाधान: एक मेमोरी के साथ आवधिक "टॉप-के" रणनीति
लेखक एक नया तरीका प्रस्तावित करते हैं जिसे बैट्च-वाइज एडेप्टिव प्रूनिंग (Batch-wise Adaptive Pruning) कहा जाता है। एक कठोर "पास/फेल" रेखा (थ्रेशोल्ड) का उपयोग करने के बजाय, वे एक स्मार्ट और अधिक लचीले दृष्टिकोण का उपयोग करते हैं जिसमें दो मुख्य तरकीबें हैं।
पहला, वे एक निश्चित रेखा का उपयोग करना बंद कर देते हैं और "टॉप-के" (Top-K) चयन का उपयोग करना शुरू करते हैं। कल्पना कीजिए कि आपके पास 100 धावक (न्यूरॉन्स) हैं और आपके पास बस में केवल 50 लोगों के लिए जगह है। यह कहने के बजाय कि, "केवल तभी दौड़ें जब आप 10 सेकंड से तेज़ हों," आप बस यह कहते हैं, "50 सबसे तेज़ धावक बस में चढ़ेंगे।" इससे कोई फर्क नहीं पड़ता कि धावक आज सामान्य रूप से तेज़ हैं या धीमे; आप हमेशा सर्वश्रेष्ठ 50 को चुनते हैं। यह उस "शिफ्टिंग डिस्ट्रीब्यूशन" की समस्या को हल करता है जिसने पुराने तरीकों को तोड़ दिया था।
दूसरा, उन्होंने महसूस किया कि महत्वपूर्ण न्यूरॉन्स केवल एक बार सक्रिय होकर गायब नहीं होते; उनका एक लय (रिदम) होता है। शोध पत्र ने देखा कि लंबे तर्क कार्यों के दौरान, सबसे महत्वपूर्ण न्यूरॉन्स एक नियमित पैटर्न में "री-फायर" (फिर से सक्रिय होना) करते हैं, जो लगभग हर 22.8 टोकन (टेक्स्ट के हिस्से) में होता है। इस लय को पकड़ने के लिए, नया तरीका अपने प्रूनिंग मास्क को केवल आवधिक रूप से (हर 20 स्टेप्स पर) अपडेट करता है, न कि हर एक शब्द के साथ। इससे समय बचता है क्योंकि कंप्यूटर को हर छोटे क्षण में यह पुनर्गणना करने के लिए नहीं रुकना पड़ता कि किन न्यूरॉन्स को रखना है।
लेकिन सबसे चतुर हिस्सा यह है: उन्होंने एक एक्टिवेशन मेमोरी (Activation Memory) जोड़ी है। इसे एक "हाइलाइट रील" या एक स्टिकी नोट की तरह समझें। यदि कोई न्यूरॉन पहले बैच के विचारों में बहुत महत्वपूर्ण था, तो मेमोरी उसका रिकॉर्ड रखती है। भले ही वह न्यूरॉन कुछ स्टेप्स के लिए शांत रहे, मेमोरी यह सुनिश्चित करती है कि उसे बस इसलिए बाहर न निकाला जाए क्योंकि उसने एक छोटी सी झपकी ली थी। इस तरह, AI उन न्यूरॉन्स को बनाए रखता है जो समय के साथ लगातार महत्वपूर्ण होते हैं, जिससे वह उस तर्क को भूलने से बच जाता है जिसे उसने शुरू किया था।
परिणाम: तेज़, स्मार्ट और भीड़ के लिए तैयार
शोध पत्र ने शक्तिशाली रीजनिंग मॉडल्स (विशेष रूप से DeepSeek-R1-Distill-Qwen-7B और DeepSeek-R1-Distill-Llama-8B) पर कठिन गणित और विज्ञान बेंचमार्क का परीक्षण किया। परिणाम चौंकाने वाले थे।
जब बैच साइज 4 (चार प्रश्न एक साथ प्रोसेस करना) के साथ चल रहा हो और मॉडल के आकार को 50% कम करने का लक्ष्य हो:
- पुराने सर्वोत्तम तरीके (TEAL) विफल हो गए, और औसतन केवल 14.3% सटीकता प्राप्त की।
- नया तरीका 54.0% की मजबूत औसत सटीकता बनाए रखने में सफल रहा।
- यह 39.7 प्रतिशत अंक का एक बड़ा सुधार है।
इसके अलावा, नए तरीके ने मॉडल्स को वास्तव में तेज़ भी बनाया। अनावश्यक काम को हटाकर, इसने पूर्ण, अन-प्रून्ड (unpruned) मॉडल की तुलना में 1.40x की गति वृद्धि (speedup) हासिल की। शोध पत्र नोट करता है कि यह स्पीडअप विशेष रूप से तब मददगार होता है जब कंप्यूटर व्यस्त (compute-bound) होता है, जो तब होता है जब आप एक साथ कई अनुरोधों को प्रोसेस कर रहे होते हैं।
इसका क्या अर्थ है
लेखक सावधानी से नोट करते हैं कि यह तरीका "ट्रेनिंग-फ्री" है, जिसका अर्थ है कि इसके लिए मॉडल को दोबारा सिखाने की आवश्यकता नहीं है; यह बस वास्तविक समय में मॉडल के चलने के तरीके को बदल देता है। वे यह भी बताते हैं कि जबकि अन्य तरीके सरल कार्यों के लिए काम कर सकते हैं, वे जटिल तर्क (reasoning) पर बैच में चलते समय बुरी तरह विफल हो जाते हैं। यह नया दृष्टिकोण, आवधिक अपडेट और महत्वपूर्ण चीजों की मेमोरी का उपयोग करके, AI की तर्क क्षमता को तेज रखते हुए इसे कुशल बनाता है ताकि यह वास्तविक दुनिया के वर्कलोड को संभाल सके जहाँ कई उपयोगकर्ता एक ही समय में प्रश्न पूछ रहे होते हैं। यह एक व्यावहारिक समाधान है जो इन विशाल, स्मार्ट मॉडल्स को गहराई से सोचने की अपनी क्षमता खोए बिना तेज़ी से चलाने की अनुमति देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।