Beyond KV Reconstruction: Functional Reconstruction for MLA Draft Models in Speculative Decoding
यह शोध पत्र स्पेक्युलेटिव डिकोडिंग के लिए एक "फंक्शनल रिकंस्ट्रक्शन" विधि प्रस्तावित करता है जो रूपांतरित मल्टी-हेड लेटेंट अटेंशन (MLA) ड्राफ्ट मॉडल्स को उनके मूल MHA/GQA समकक्षों के पोस्ट-आउटपुट-प्रोजेक्शन व्यवहार को पुनरुत्पादित करने के लिए अनुकूलित करता है, जिससे बिना किसी रिट्रेनिंग या वेरीफायर सुपरविजन के टोकन स्वीकृति दरों में उल्लेखनीय सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक भीड़भाड़ वाले कमरे में एक गुप्त संदेश भेजने की कोशिश कर रहे हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, लार्ज लैंग्वेज मॉडल्स (LLMs) प्रतिभाशाली लेकिन भारी कदमों वाले दिग्गजों की तरह हैं। जब वे कोई कहानी लिखते हैं या गणित की समस्या हल करते हैं, तो उन्हें यह याद रखना पड़ता है कि उन्होंने अब तक क्या कहा है। इस स्मृति को "की-वैल्यू (KV) कैश" कहा जाता है। इसे एक विशाल, लगातार बढ़ते हुए बैकपैक के रूप में सोचें जिसे दिग्गज अपने साथ लेकर चलता है। जैसे-जैसे कहानी लंबी होती जाती है, बैकपैक भारी होता जाता है, जिससे दिग्गज धीमा हो जाता है क्योंकि उसे बस उसे ढोने में ही बहुत ऊर्जा लगानी पड़ती है।
इसे ठीक करने के लिए, वैज्ञानिकों ने एक नई तरकीब खोजी जिसे "मल्टी-हेड लेटेंट अटेंशन (MLA)" कहा जाता है। पूरे भारी बैकपैक को ढोने के बजाय, दिग्गज अब एक छोटा, संकुचित "सारांश नोट" (एक लेटेंट स्टेट) ले जाता है जो उसी जानकारी को रखता है लेकिन बहुत कम जगह लेता है। यह कपड़ों से भरे सूटकेस को एक एकल, स्मार्ट पोस्टकार्ड से बदलने जैसा है जो आपको ठीक से बताता है कि क्या पहनना है। यह दिग्गज को बहुत तेज़ और हल्का बनाता है।
हालाँकि, इसमें एक पेंच है। आज हमारे पास जो सबसे बुद्धिमान दिग्गज हैं, उनमें से अधिकांश को भारी बैकपैक ढोने के लिए प्रशिक्षित किया गया था। उन्हें नए पोस्टकार्ड का उपयोग करने के लिए, हमें उन्हें "परिवर्तित" करना होगा। लेकिन कभी-कभी, यह रूपांतरण एक किताब को दूसरी भाषा में अनुवाद करने और अनजाने में कुछ मुख्य शब्दों का अर्थ बदल देने जैसा होता है। दिग्गज अभी भी चल सकता है, लेकिन यदि आप उससे वाक्य में अगला शब्द पहचानने के लिए कहते हैं, तो वह गलत अनुमान लगा सकता है। यह शोध पत्र एक विशिष्ट समस्या की जांच करता है: जब हम इन परिवर्तित दिग्गजों का उपयोग आगे का अनुमान लगाने (एक तकनीक जिसे "स्पेक्टिवल डिकोडिंग" कहा जाता है) के लिए गति बढ़ाने के लिए करते हैं, तो रूपांतरण की त्रुटियां अनुमानों को विफल कर देती हैं, जिससे सब कुछ फिर से धीमा हो जाता है। शोधकर्ताओं ने एक तरीका खोजा है जिससे वे रूपांतरण को फिर से "री-ट्यून" कर सकें ताकि दिग्गज फिर से सही अनुमान लगा सके, बिना पूरी चीज़ को शुरू से फिर से प्रशिक्षित किए।
समस्या: एक "काफी हद तक ठीक" अनुवाद
मान लीजिए कि आपके पास एक मास्टर शेफ (मूल AI मॉडल) है जो जानता है कि एक आदर्श व्यंजन कैसे पकाया जाता है। आप एक sous-chef (एक "ड्राफ्ट" मॉडल) को नियुक्त करना चाहते हैं जो अगले घटक का अनुमान लगाए ताकि मास्टर शेफ तेज़ी से खाना पका सके। यदि sous-chef सही अनुमान लगाता है, तो मास्टर शेफ बस सिर हिलाता है और आगे बढ़ता रहता है। यदि sous-chef गलत अनुमान लगाता है, तो मास्टर शेफ को रुकना पड़ता है, उन्हें सुधारना पड़ता है और फिर से शुरू करना पड़ता है, जिससे समय बर्बाद होता है।
अब, कल्पना कीजिए कि आप एक मास्टर शेफ को लेते हैं जो केवल एक विशाल, भारी कड़ाही (पुराना "KV कैश" तरीका) के साथ खाना पकाने के लिए जाना जाता है और उन्हें एक छोटे, हल्के पैन (नया "MLA" तरीका) का उपयोग करने के लिए मजबूर करते हैं। आप एक नया शेफ खरीदे बिना उन्हें इस रूपांतरण के माध्यम से बदल सकते हैं, लेकिन नया पैन खाने पर गर्मी के प्रभाव को बदल देता है। शेफ अभी भी खाना बना सकता है, लेकिन अगले घटक के लिए उनकी "स्वाद" की समझ थोड़ी गलत हो सकती है।
शोधकर्ताओं ने पाया कि जब उन्होंने इन परिवर्तित शेफों को "sous-chefs" के रूप में उपयोग किया, तो वे बहुत अधिक गलत अनुमान लगा रहे थे। रूपांतरण प्रक्रिया ने सूचना को प्रोसेस करने के तरीके में सूक्ष्म त्रुटियां पैदा कर दीं। एक सामान्य खाना पकाने के परिदृश्य में, ये त्रुटियां अदृश्य हो सकती हैं। लेकिन "अगले शब्द का अनुमान लगाने" के हाई-स्पीड खेल में, स्वाद में मामूली अंतर भी मास्टर शेफ द्वारा अनुमान को खारिज करने का कारण बनता है, जिससे गति-वृद्धि (speed-up) वास्तव में मंदी में बदल जाती है।
समाधान: फंक्शनल रिकंस्ट्रक्शन (कार्यात्मक पुनर्निर्माण)
शोध पत्र एक चतुर समाधान प्रस्तावित करता है जिसे फंक्शनल रिकंस्ट्रक्शन कहा जाता है। रूपांतरित शेफ को पूरी तरह से फिर से बनाने के बजाय (जिसमें बहुत समय और पैसा लगेगा), शोधकर्ता परिवर्तित शेफ के साथ एक ऐसे संगीत वाद्ययंत्र की तरह व्यवहार करते हैं जो थोड़ा बेसुरा है।
वे इसे इस प्रकार करते हैं:
- सेटअप: वे परिवर्तित शेफ (MLA मॉडल) और मूल मास्टर शेफ (फ्रोजन GQA मॉडल) को लेते हैं।
- परीक्षण: वे दोनों शेफ को बिल्कुल समान सामग्री (कैलिब्रेशन डेटा) देते हैं और उन्हें एक ही व्यंजन पकाने के लिए कहते हैं।
- ट्यूनिंग: वे दोनों शेफ से प्राप्त अंतिम प्लेट (आउटपुट) को देखते हैं। यदि परिवर्तित शेफ की प्लेट का स्वाद थोड़ा भी अलग है, तो वे परिवर्तित शेफ के पैन के विशिष्ट नॉब्स (क्वेरी और की प्रोजेक्शन) को तब तक टवीक करते हैं जब जब तक कि स्वाद मास्टर शेफ की प्लेट से पूरी तरह मेल न खा जाए।
महत्वपूर्ण रूप से, वे ऐसा मास्टर शेफ को रेसिपी बुक के विरुद्ध अंतिम व्यंजन का मूल्यांकन करने के लिए कहे बिना करते हैं। वे बस यह चाहते हैं कि परिवर्तित शेफ मास्टर शेफ की प्रक्रिया की हूबहू नकल करे। इसे "फंक्शनल रिकंस्ट्रक्शन" कहा जाता है क्योंकि वे संरचना (पैन का आकार) के बजाय फंक्शन (आउटपुट व्यवहार) को ठीक कर रहे हैं।
उन्होंने क्या पाया
शोधकर्ताओं ने 192 विभिन्न परिदृश्यों पर इसका परीक्षण किया, जिसमें विभिन्न प्रकार के शेफ (Llama और Qwen मॉडल्स), विभिन्न रूपांतरण उपकरण और कोडिंग, प्रश्नों के उत्तर देना या समाचारों का सारांश निकालना जैसे विभिन्न कार्य शामिल थे।
- अच्छी खबर: 64 में से 37 समान स्थितियों में, इस "ट्यूनिंग" ने बड़ा अंतर पैदा किया। परिवर्तित शेफ अब अगला शब्द सही ढंग से पहचानने लगे, जिसका अर्थ है कि पूरा सिस्टम तेज़ी से लिख सकता था। कुछ मामलों में, गति-वृद्धि महत्वपूर्ण थी, जहाँ स्वीकृति दर (acceptance rates) में 4 प्रतिशत अंक से अधिक की वृद्धि हुई।
- तटस्थ खबर: 26 मामलों में, ट्यूनिंग से बहुत अधिक बदलाव नहीं हुआ। शेफ पहले से ही ठीक काम कर रहे थे, या त्रुटियां इतनी छोटी थीं कि उनका कोई महत्व नहीं था।
- बुरी खबर: केवल एक मामले में, ट्यूनिंग ने चीजों को थोड़ा और खराब कर दिया। यह बताता है कि हालांकि यह विधि शक्तिशाली है, यह जादुई नहीं है; यह हर समस्या को ठीक नहीं कर सकती, खासकर यदि प्रारंभिक रूपांतरण बहुत खराब रहा हो।
यह क्यों मायने रखता है
इस शोध पत्र का सबसे महत्वपूर्ण निष्कर्ष यह है कि एक मॉडल को बदलना और उसे एक अच्छा "अनुमान लगाने वाला" मॉडल बनाना दो अलग-अलग काम हैं। केवल इसलिए कि एक मॉडल मेमोरी बचाने के लिए परिवर्तित किया जा सकता है, इसका मतलब यह नहीं है कि वह अन्य मॉडलों को तेज़ी से काम करने में मदद करने के लिए अच्छा होगा।
शोधकर्ताओं ने दिखाया है कि आपको पूरे मॉडल को फिर से प्रशिक्षित करने या बहुत जटिल सत्यापन प्रणाली का उपयोग करने की आवश्यकता नहीं है। आपको बस परिवर्तित मॉडल को मूल मॉडल के व्यवहार से मेल खाने के लिए "री-ट्यून" करने की आवश्यकता है। यह पुराने, सिद्ध मॉडलों की सटीकता और नई तकनीक की मेमोरी बचत का सर्वोत्तम संयोजन प्राप्त करने का एक तेज़ और कुशल तरीका है।
हालाँकि, लेखक सावधानी बरतते हुए कहते हैं कि यह कोई जादुई छड़ी नहीं है जो सब कुछ हल कर दे। यदि प्रारंभिक रूपांतरण बहुत टूटा हुआ है, या यदि मॉडल चलाने वाला कंप्यूटर सिस्टम (बैकएंड) असंगत है, तो यह ट्यूनिंग इसे ठीक नहीं कर सकती। लेकिन कई सामान्य मामलों के लिए, यह AI को तेज़ और स्मार्ट बनाने का एक सरल और प्रभावी उपकरण है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।