Reasoning Models Can be Accurately Pruned Via Chain-of-Thought Reconstruction
यह शोध पत्र रीजनिंग-अवेयर कम्प्रेशन (RAC) का प्रस्ताव करता है, जो एक प्रूनिंग तकनीक है जो इनपुट एक्टिवेशन्स और ऑन-पॉलिसी चेन-ऑफ-थॉट ट्रेसेस को संयुक्त रूप से पुनर्गठित करती है ताकि मानक प्रूनिंग विधियों के कारण होने वाले प्रदर्शन ह्रास और बढ़ी हुई लेटेंसी से बचते हुए रीजनिंग मॉडल्स की परिनियोजन लागत को प्रभावी ढंग से कम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास "रीज़निंग एआई" (Reasoning AI) नाम का एक बेहद प्रतिभाशाली, असाधारण छात्र है। यह छात्र जटिल गणितीय समस्याओं को हल करने और कोड लिखने में माहिर है, लेकिन इसकी एक अजीब आदत है: अंतिम उत्तर देने से पहले, यह अपनी विचार प्रक्रिया की एक विशाल, विस्तृत डायरी लिखता है। वे केवल यह नहीं कहते कि "उत्तर 42 है"; वे उत्तर तक पहुँचने से पहले "देखते हैं, अगर मैं यह कोशिश करूँ, तो वह होगा, लेकिन रुकिए, शायद नहीं..." जैसे 50 पन्नों का विवरण लिखते हैं।
हालाँकि यह उन्हें बहुत सटीक बनाता है, लेकिन यह चलाने के लिए बहुत धीमा और महंगा भी है। आप इस बड़े एआई मॉडल का एक छोटा, सस्ता संस्करण (एक "प्रून्ड" या छँटाई किया गया मॉडल) काम करने के लिए किराए पर लेना चाहते हैं।
समस्या: "गलत होमवर्क" वाली गलती
आमतौर पर, जब इंजीनियर इन बड़े एआई मॉडलों को छोटा करने की कोशिश करते हैं, तो वे प्रूनिंग (Pruning) नामक विधि का उपयोग करते हैं। इसे प्रूनिंग की तरह समझें जैसे आप किसी किताब को छोटा करने के लिए उन शब्दों को काट देते हैं जो आपको ज़रूरी नहीं लगते।
किन शब्दों को काटना है, यह तय करने के लिए, संपादक (प्रूनिंग एल्गोरिदम) छात्र को दिए जाने वाले इनपुट (प्रश्नों) के एक नमूने को देखते हैं। वे मानते हैं, "ठीक है, छात्र इन सवालों के जवाब देने में अच्छा है, इसलिए यदि हम उनके मस्तिष्क के उन हिस्सों को रखते हैं जो सवालों को संभालते हैं, तो हम ठीक रहेंगे।"
यह तर्क देने वाले मॉडलों के लिए एक बड़ी गलती है। यह एक मैराथन धावक को केवल उसके जूते बाँधने की प्रक्रिया देखकर प्रशिक्षित करने जैसा है। आप उस हिस्से को अनदेखा कर रहे हैं जहाँ वह वास्तव में दौड़ता है।
रीज़निंग मॉडलों के लिए, "दौड़ने" वाला हिस्सा उनकी लंबी विचार श्रृंखला (CoT - Chain of Thought) है। यदि आप केवल प्रश्नों (इनपुट) पर अपने प्रूनिंग एल्गोरिदम को प्रशिक्षित करते हैं और उनकी लंबी विचार प्रक्रिया को अनदेखा करते हैं, तो छोटा किया गया मॉडल भ्रमित हो जाता है। वह पहले से भी अधिक बड़बड़ाने लगता है, 50 पन्नों के बजाय 100 पन्नों के भ्रमित विचार लिखने लगता है, और फिर भी गलत उत्तर देता है। वह एक ही समय में धीमा और कम बुद्धिमान हो जाता है।
समाधान: "रीज़निंग-अवेयर कम्प्रेशन" (RAC)
लेखक एक सरल समाधान प्रस्तावित करते हैं जिसे रीज़निंग-अवेयर कम्प्रेशन (RAC) कहा जाता है।
केवल प्रश्नों को दिखाने के बजाय, वे कहते हैं: "आइए मॉडल को पहले सवालों के जवाब देने दें, अपनी पूरी विचार प्रक्रिया लिखने दें, और फिर उस पूरी प्रक्रिया का उपयोग यह तय करने के लिए करें कि क्या काटना है।"
उपमा: रिहर्सल (अभ्यास)
कल्पना कीजिए कि आप एक नाटक को संपादित कर रहे हैं।
- पुरानी विधि: आप स्क्रिप्ट की शुरुआती पंक्तियाँ पढ़ते हैं और यह तय करते हैं कि किन अभिनेताओं को पहले दृश्य के आधार पर हटाना है।
- RAC विधि: आप पूरा रिहर्सल देखते हैं, जिसमें वे लंबे, उलझे हुए बीच के दृश्य भी शामिल हैं जहाँ अभिनेता कथानक को समझने की कोशिश कर रहे होते हैं। आप केवल उन अभिनेताओं को हटाते हैं जो वास्तविक प्रदर्शन के दौरान गलती करते हैं।
मॉडल को अपनी विचार प्रक्रिया को "रिहर्सल" करने देकर, प्रूनिंग एल्गोरिदम ठीक से सीख जाता है कि लंबी, जटिल तर्क प्रक्रियाओं के लिए मस्तिष्क के किन हिस्सों की आवश्यकता है।
जब उन्होंने इसे आज़माया तो क्या हुआ?
टीम ने गणित और कोडिंग परीक्षणों का उपयोग करके कई शक्तिशाली एआई मॉडलों (जैसे DeepSeek-R1 और Qwen) पर इसका परीक्षण किया।
- सटीकता (Accuracy): जब उन्होंने पुरानी विधि का उपयोग किया, तो मॉडल के 50% मस्तिष्क को काटने से वह लगभग सब कुछ करने में विफल रहा। RAC के साथ, छोटा किया गया मॉडल अपनी लगभग सारी बुद्धिमत्ता बनाए रखता है, भले ही उसके 50% वेट्स (weights) हटा दिए गए हों।
- गति (Speed): पुरानी विधि ने मॉडलों को इतना भ्रमित कर दिया कि वे घंटों तक बड़बड़ाते रहे, जिससे उत्तर देने में बहुत समय लगा। RAC ने मॉडलों को केंद्रित रखा। वे बड़े मॉडलों की तरह ही तेज़ी से उत्तर देते हैं, या वास्तव में तेज़ भी, क्योंकि वे भ्रमित विचारों के लूप में नहीं फंसते।
- बहुमुखी प्रतिभा (Versatility): यह तकनीक तब भी काम करती थी जब वे मॉडल को बेतरतीब ढंग से या विशिष्ट पैटर्न में काट रहे थे, और यह विभिन्न प्रकार के मॉडलों पर भी प्रभावी रही।
निष्कर्ष
यदि आप एक स्मार्ट, रीज़निंग एआई को छोटा और सस्ता बनाना चाहते हैं, तो आप केवल उन प्रश्नों को नहीं देख सकते जो उससे पूछे जाते हैं। आपको यह देखना होगा कि वह उत्तर देते समय कैसे सोचता है। प्रूनिंग प्रक्रिया के दौरान मॉडल की अपनी "विचार डायरी" को शामिल करके, आप मॉडल की बुद्धिमत्ता खोए बिना या उसे धीमा किए बिना उसे छोटा कर सकते हैं। यह एक सरल बदलाव है जो मॉडल को उसके अपने विचारों में खो जाने से रोकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।