LLMs can Compress LLMs: Adaptive Pruning by Agents
यह शोध पत्र एक एजेंट-निर्देशित प्रूनिंग फ्रेमवर्क प्रस्तुत करता है जहाँ एक फाउंडेशन मॉडल संवेदनशीलता प्रोफाइल (sensitivity profiles) और आत्म-चिंतन (self-reflection) का उपयोग करके परतों के अनुसार स्पर्सिटी अनुपात (sparsity ratios) को अनुकूल रूप से निर्धारित करता है, जिससे बिना पुनरप्रशिक्षण (retraining) के मौजूदा विधियों की तुलना में तथ्यात्मक ज्ञान प्रतिधारण और परप्लेक्सिटी (perplexity) में महत्वपूर्ण सुधार प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बड़ी समस्या: बहुत अधिक भार
कल्पना कीजिए कि आपके पास एक विशाल, अविश्वसनीय रूप से बुद्धिमान पुस्तकालय (एक लार्ज लैंग्वेज मॉडल, या LLM) है। इसे लगभग सब कुछ पता है, लेकिन यह इतना बड़ा है कि यह एक पूरे गोदाम को घेर लेता है और इसे इधर-उधर ले जाने के लिए ट्रकों के एक बेड़े की आवश्यकता होती है। आप इसे एक बैकपैक में फिट करने के लिए छोटा करना चाहते हैं ताकि यह सामान्य कंप्यूटरों पर चल सके, लेकिन आप बस यूँ ही कोई भी किताबें फेंक नहीं सकते। यदि आप ऐसा करते हैं, तो पुस्तकालय शायद समय बताना भूल जाएगा या इतिहास के बारे में सरल प्रश्नों के उत्तर देने की अपनी क्षमता खो देगा।
इन पुस्तकालयों को छोटा करने के तरीके वर्तमान में एक कुकी कटर (cookie cutter) का उपयोग करने जैसे हैं। वे हर शेल्फ से समान मात्रा में "सामान" काट देते हैं, चाहे उस शेल्फ पर महत्वपूर्ण इतिहास की किताबें हों या केवल पुराने कैटलॉग। इससे अक्सर एक ऐसा पुस्तकालय बनता है जो देखने में तो छोटा लगता है लेकिन उसने अपना सबसे महत्वपूर्ण ज्ञान खो दिया होता है।
समाधान: एक स्मार्ट लाइब्रेरियन एजेंट
इस शोध पत्र के लेखक इन मॉडलों को छोटा करने का एक नया तरीका प्रस्तावित करते हैं। कुकी कटर का उपयोग करने के बजाय, वे एक स्मार्ट लाइब्रेरियन (एक AI एजेंट) का उपयोग करते हैं जो यह तय करता है कि वास्तव में क्या फेंकना है।
यहाँ उनका "एजेंट-गाइडेड प्रूनिंग" (Agent-Guided Pruning) कैसे काम करता है:
1. निरीक्षण (सेंसिटिविटी प्रोफाइलिंग)
लाइब्रेरियन द्वारा चीजें फेंकना शुरू करने से पहले, वे प्रत्येक शेल्फ का विस्तृत निरीक्षण करते हैं। वे दो चीजों को देखते हैं:
- किताब का कितनी बार उपयोग किया जाता है: (वेट-एक्टिवेशन मेट्रिक्स)।
- यदि किताब को हटा दिया जाए तो पुस्तकालय की "आवाज" कितनी बदल जाती है: (ग्रेडिएंट इम्पोर्टेंस)।
वे इन अवलोकनों को एक सरल स्कोर ("z-score") में बदल देते हैं। कम स्कोर का अर्थ है, "यह किताब शायद ही कभी उपयोग की जाती है और इसकी कमी महसूस नहीं होगी।" उच्च स्कोर का अर्थ है, "यह किताब महत्वपूर्ण है; इसे हाथ न लगाएं।"
2. निर्णय लेने वाला (LLM एजेंट)
यही असली जादू है। एक कंप्यूटर प्रोग्राम के रूप में जो "हर शेल्फ से 10% काटें" जैसे नियम का आँख मूंदकर पालन करता है, इसके बजाय एक दूसरा AI (एजेंट) उन स्कोर्स को देखता है।
- एजेंट एक रणनीतिक संपादक (strategic editor) की तरह कार्य करता है। वह निरीक्षण रिपोर्ट पढ़ता है और कहता है, "ठीक है, इतिहास अनुभाग बहुत संवेदनशील है, इसलिए हम केवल किनारों को काटेंगे। लेकिन 'रैंडम फैक्ट्स' वाला अनुभाग मजबूत है; हम वहां से बहुत कुछ काट सकते हैं।"
- एजेंट ये निर्णय बार-बार (iteratively) लेता है, जिसका अर्थ है कि वह थोड़ा काटता है, परिणाम की जांच करता है, और फिर तय करता है कि आगे क्या काटना है।
3. सुरक्षा जाल (सेल्फ-रिफ्लेक्शन और रोलबैक)
एजेंट भी पूर्ण नहीं है। कभी-कभी वह बहुत लालची हो सकता है और बहुत अधिक काट सकता है, जिससे पुस्तकालय की "आवाज" अस्पष्ट (perplexity में उछाल, जो मॉडल के भ्रमित होने का एक माप है) हो सकती है।
- सुरक्षा जाल (The Safety Net): सिस्टम के पास हर कट से पहले एक चेकपॉइंट सेव किया जाता है। यदि मॉडल बहुत अधिक भ्रमित होने लगता है, तो सिस्टम तुरंत पिछले अच्छे संस्करण पर वापस (rollback) चला जाता है।
- आत्म-चिंतन (Self-Reflection): एजेंट को बताया जाता है, "आपने गलती की, आपने बहुत अधिक काट दिया।" एजेंट इस फीडबैक से सीखता है, अपनी रणनीति को समायोजित करता है, और अगले दौर के लिए अधिक सावधान हो जाता है।
परिणाम: एक छोटा, स्मार्ट पुस्तकालय
शोधकर्ताओं ने Qwen3 मॉडल के दो संस्करणों (4 बिलियन और 8 बिलियन पैरामीटर्स) पर इसका परीक्षण किया। वे इन्हें लगभग 45% तक छोटा करना चाहते थे (इन्हें अपने मूल आकार के आधे से भी कम बनाना)।
यहाँ पुराने "कुकी कटर" तरीकों की तुलना में क्या हुआ:
- सामान्य ज्ञान (MMLU): पुराने तरीकों ने मॉडलों को सामान्य प्रश्नों के उत्तर देने के लिए भूलने पर मजबूर कर दिया। नया एजेंट-गाइडेड तरीका मॉडलों को पुराने सर्वोत्तम तरीके की तुलना में 56% अधिक सटीक बनाए रखता है।
- तथ्यात्मक स्मृति (FreebaseQA): यह सबसे बड़ी जीत थी। पुराने तरीकों के कारण मॉडल लगभग अपनी सारी तथ्यात्मक स्मृति खो देते थे (जैसे राष्ट्रपति कौन हैं, यह भूल जाना)। नया तरीका पुराने तरीकों की तुलना में 19 गुना अधिक तथ्यात्मक ज्ञान बनाए रखता है।
- भ्रम का स्तर (Perplexity): नया तरीका मॉडलों को पुराने तरीकों की तुलना में बहुत कम भ्रमित रखता है।
मुख्य निष्कर्ष
यह शोध पत्र प्रदर्शित करता है कि एक AI प्रभावी रूप से दूसरे AI को खुद को छोटा करने के तरीके सिखा सकता है।
एक स्मार्ट, आत्म-चिंतन करने वाले एजेंट का उपयोग करके यह तय करने के लिए कि मस्तिष्क के किन हिस्सों को छाँटना है, न कि केवल यादृच्छिक या समान रूप से काटने के लिए, वे एक बहुत छोटा मॉडल बनाने में सक्षम रहे जो अभी भी तथ्यों को याद रखता है और प्रश्नों के सही उत्तर देता है। एजेंट ने अपने स्वयं के गलतियों से (रोलबैक तंत्र के माध्यम से) सीखा ताकि वह मॉडल को छोटा रखने और उसे स्मार्ट बनाए रखने के बीच सही संतुलन पा सके।
संक्षेप में: उन्होंने एक अंधे कुकी कटर को एक विचारशील संपादक से बदल दिया जो जानता है कि किताब को पढ़ने योग्य बनाए रखने के लिए कौन से पन्ने फाड़ने हैं, बस वह अब छोटी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।