💬 NLP

Multi-Bitwidth Quantization for LLMs Using Additive Codebooks

यह शोध पत्र Drop-by-Drop को पेश करता है, जो एक अभिनव पोस्ट-ट्रेनिंग क्वांटाइजेशन फ्रेमवर्क है जो एडिटिव कोडबुक्स और मैट्रोस्का-शैली के पर्यवेक्षण (Matryoshka-style supervision) का लाभ उठाता है ताकि एक एकल LLM चेकपॉइंट न्यूनतम स्टोरेज ओवरहेड के साथ विभिन्न मॉडल आर्किटेक्चरों में प्रतिस्पर्धी सटीकता बनाए रखते हुए अनुकूल, मल्टी-बिटविड्थ इन्फरेंस (multi-bitwidth inference) का समर्थन कर सके।

मूल लेखक: Liza Babaoglu, Shuangyi Chen, Ashish Khisti

प्रकाशित 2026-06-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Liza Babaoglu, Shuangyi Chen, Ashish Khisti

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Multi-Bitwidth Quantization for LLMs Using Additive Codebooks" (जिसे Drop-by-Drop के नाम से जाना जाता है) के पेपर की सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करते हुए व्याख्या दी गई है।

बड़ी समस्या: एक आकार सबके लिए सही नहीं होता (One Size Doesn't Fit All)

कल्पना कीजिए कि आपके पास ज्ञान का एक विशाल, अविश्वसनीय रूप से विस्तृत पुस्तकालय है (एक लार्ज लैंग्वेज मॉडल या LLM)। यह पुस्तकालय इतना बड़ा है कि इसे स्टोर करने के लिए एक विशाल गोदाम की आवश्यकता है।

द क्लाउड (The Cloud): यदि आप इस पुस्तकालय को क्लाउड में एक विशाल सुपरकंप्यूटर पर चलाते हैं, तो आपके पास पर्याप्त जगह है। आप हर एक किताब को खुला रख सकते हैं और बारीक से बारीक विवरण पढ़ सकते हैं।
द फोन (The Phone): यदि आप इसी पुस्तकालय को एक स्मार्टफोन या किसी छोटे एज डिवाइस पर चलाने की कोशिश करते हैं, तो वह गोदाम बहुत बड़ा हो जाता है। फोन की मेमोरी (RAM) और बैटरी पूरे आकार को नहीं संभाल सकती।

वर्तमान समाधान ("Static" दृष्टिकोण):
अभी, यदि आप इस पुस्तकालय को विभिन्न उपकरणों पर उपयोग करना चाहते हैं, तो आपको इस पुस्तकालय की अलग-अलग प्रतियां बनानी पड़ती हैं:

सुपरकंप्यूटर के लिए एक "डीलक्स एडिशन" (उच्च गुणवत्ता, विशाल आकार)।
फोन के लिए एक "पॉकेट एडिशन" (संपीड़ित/compressed, कम गुणवत्ता)।
टैबलेट के लिए एक "ट्रैवल एडिशन" (मध्यम आकार)।

यह अक्षम है। आपको एक ही पुस्तकालय के तीन अलग-अलग संस्करणों को प्रशिक्षित (train), स्टोर और बनाए रखना पड़ता है। यदि आप फोन से टैबलेट पर स्विच करना चाहते हैं, तो आपको पूरी फाइल बदलनी पड़ती है।

नया समाधान: "Drop-by-Drop"

लेखक Drop-by-Drop नामक एक नया तरीका प्रस्तावित करते हैं। अलग-अलग तीन पुस्तकालय बनाने के बजाय, वे एक ही पुस्तकालय बनाते हैं जो डिवाइस के आधार पर जादुई रूप से छोटा या बड़ा हो सकता है, बिना पुन: प्रशिक्षित (retrain) किए या बदले गए।

इस पुस्तकालय को किताबों के ढेर के रूप में नहीं, बल्कि एक रशियन नेस्टिंग डॉल (Matryoshka doll) के रूप में सोचें।

बाहरी खोल (The Outer Shell): सबसे छोटा, सबसे बुनियादी संस्करण। यह आपकी जेब में फिट हो जाता है लेकिन इसमें केवल सबसे महत्वपूर्ण तथ्य ही होते हैं।
मध्य परत (The Middle Layer): यदि आप खोल को खोलते हैं, तो आपको थोड़ा बड़ा डॉल मिलता है जिसमें अधिक विवरण होते हैं।
आंतरिक कोर (The Inner Core): पूर्ण आकार का डॉल जिसमें हर एक बारीक विवरण है।

Drop-by-Drop के साथ, आपको तीन अलग-अलग डॉल ले जाने की आवश्यकता नहीं है। आप एक ही ले जाते हैं।

फोन पर, आप केवल बाहरी खोल का उपयोग करते हैं।
टैबलेट पर, आप खोल को खोलकर मध्य परत का उपयोग करते हैं।
सुपरकंप्यूटर पर, आप इसे पूरा खोलकर पूर्ण कोर का उपयोग करते हैं।

यह कैसे काम करता है: "Additive Codebook" की रेसिपी

इस नेस्टिंग डॉल को बनाने के लिए, लेखक Additive Quantization नामक तकनीक का उपयोग करते हैं।

कल्पना कीजिए कि आप किसी को फोन कॉल पर एक जटिल पेंटिंग का वर्णन करने की कोशिश कर रहे हैं।

मानक विधि (Standard Method): आप फोन के लिए एक लो-रेज़ोल्यूशन फोटो (धुंधली) भेजते हैं, और कंप्यूटर के लिए एक हाई-रेज़ोल्यूशन फोटो। ये दो अलग-अलग फाइलें हैं।
Drop-by-Drop विधि: आप पहले एक बेस स्केच (आधार रेखाचित्र) भेजते हैं।
- यदि सुनने वाले के पास छोटी स्क्रीन है, तो वे वहीं रुक जाते हैं। उनके पास पेंटिंग का एक मोटा अंदाज़ा होता है।
- यदि उनके पास बड़ी स्क्रीन है, तो आप लेयर 2 (Layer 2) भेजते हैं: आकृतियों को परिभाषित करने के लिए कुछ और रेखाएं।
- यदि उनके पास बहुत बड़ी स्क्रीन है, तो आप लेयर 3 (Layer 3) भेजते हैं: अंतिम रंग और विवरण।

जादू यह है कि लेयर 2 और लेयर 3, लेयर 1 के बिना बेकार हैं, लेकिन लेयर 1 अपने आप में पूर्ण है। ये परतें "additive" (योगात्मक) हैं—वे एक स्पष्ट तस्वीर बनाने के लिए एक के ऊपर एक चढ़ती हैं।

असली मंत्र: "Matryoshka" ट्रेनिंग

आमतौर पर, जब आप डेटा को कंप्रेस करने के लिए एक AI को प्रशिक्षित करते हैं, तो वह सबसे अच्छी संभव अंतिम तस्वीर बनाने के लिए सीखता है। उसे इस बात से फर्क नहीं पड़ता कि शुरुआती कुछ परतें कैसी दिखती हैं। यदि आप जल्दी रुक जाते हैं, तो तस्वीर खराब हो जाएगी।

लेखकों ने Matryoshka Supervision नामक एक विशेष प्रशिक्षण नियम पेश किया है।

उपमा (The Analogy): कल्पना कीजिए कि एक शिक्षक छात्र के निबंध को ग्रेड दे रहा है।
- पुराना तरीका: शिक्षक केवल अंतिम, 10-पेज के निबंध को ग्रेड देता है। यदि छात्र 1 पेज पर ही रुक जाता है, तो शिक्षक कहता है, "यह कचरा है, मैं इसे ग्रेड नहीं दे सकता।"
- Drop-by-Drop तरीका: शिक्षक हर चरण पर छात्र को ग्रेड देता है। "ठीक है, पेज 1 एक अच्छा सारांश है। पेज 3 अच्छे विवरण जोड़ता है। पेज 10 एकदम परफेक्ट है।"
परिणाम: क्योंकि AI को यह सुनिश्चित करने के लिए प्रशिक्षित किया गया था कि हर आंशिक संस्करण (1 लेयर, 2 लेयर, 3 लेयर) सटीक हो, इसलिए आप आसानी से छोटे डिवाइस पर अतिरिक्त परतों को "ड्रॉप" (हटा) सकते हैं, और बची हुई परतें अभी भी पूरी तरह से काम करेंगी।

यह क्यों महत्वपूर्ण है (पेपर के अनुसार)

एक मॉडल, कई डिवाइस: आपको केवल एक फाइल स्टोर और डाउनलोड करनी होती है। डिवाइस तय करता है कि अपनी मेमोरी के आधार पर फाइल के कितने हिस्से को "अनपैक" करना है।
कोई पुन: प्रशिक्षण नहीं (No Retraining): आपको हर फोन या टैबलेट के लिए एक नया मॉडल प्रशिक्षित करने की आवश्यकता नहीं है। एकल मॉडल स्वचालित रूप से अनुकूलित हो जाता है।
सुचारू संक्रमण (Smooth Transition): जैसे-जैसे आप कम शक्ति वाले डिवाइस से उच्च शक्ति वाले डिवाइस पर जाते हैं, गुणवत्ता सुचारू रूप से सुधरती है, न कि अलग-अलग, असंगत मॉडलों के बीच कूदती है।
सिद्ध सिद्धांत: पेपर सूचना सिद्धांत (Information Theory) का उपयोग करके यह सिद्ध करता है कि यह "नेस्टिंग" दृष्टिकोण उन प्रकार के डेटा के लिए सैद्धांतिक रूप से संभव है जिसका LLM उपयोग करते हैं, जिससे यह सुनिश्चित होता है कि इन परतों को जोड़ने से आप दक्षता नहीं खोते हैं।

सारांश

Drop-by-Drop एक कठोर, 'एक-आकार-सबके-लिए' वाले AI मॉडल को एक लचीले, "स्मार्ट" मॉडल में बदल देता है जो आपकी जेब में फिट होने के लिए सिकुड़ सकता है या सुपरकंप्यूटर को भरने के लिए फैल सकता है, और यह सब एक ही फाइल से संभव है। यह ऐसा इसलिए करता है क्योंकि इसे केवल अंतिम, सबसे विस्तृत संस्करण के लिए ही नहीं, बल्कि विवरण के हर स्तर पर अच्छा होने के लिए प्रशिक्षित किया गया है।

तकनीकी सारांश: LLMs के मल्टी-बिटविड्थ क्वांटाइजेशन के लिए ड्रॉप-बाय-ड्रॉप (Drop-by-Drop)

समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) को उनके अरबों पैरामीटर्स द्वारा आवश्यक विशाल मेमोरी और कम्प्यूटेशनल संसाधनों के कारण तैनाती में महत्वपूर्ण चुनौतियों का सामना करना पड़ता है। जबकि क्वांटाइजेशन इन मॉडल्स को सीमित-परिशुद्धता (finite-precision) वाले रूपों में संकुचित करता है, पारंपरिक विधियाँ आमतौर पर एक निश्चित संपीड़न स्तर (जैसे, एक स्थिर 4-बिट या 8-बिट मॉडल) पर मॉडल तैयार करती हैं। यह कठोरता क्लाउड सर्वर से लेकर संसाधन-सीमित एज डिवाइसेस तक के विषम हार्डवेयर वातावरणों के लिए उप-इष्टतम (suboptimal) है। विभिन्न बिटविड्थ के लिए कई अलग-अलग क्वांटाइज्ड मॉडल वेरिएंट बनाए रखना अत्यधिक स्टोरेज और रखरखाव ओवरहेड का कारण बनता है। इसके अलावा, मौजूदा अनुकूली (adaptive) विधियाँ अक्सर रिट्रेनिंग पर निर्भर करती हैं या घटकों को हटाने पर प्रदर्शन में भारी गिरावट के बिना परिशुद्धता और दक्षता के बीच एक सुचारू संतुलन प्रदान करने में विफल रहती हैं।

कार्यप्रणाली: ड्रॉप-बाय-ड्रॉप (Drop-by-Drop)

लेखक ड्रॉप-बाय-ड्रॉप (DbyD) प्रस्तावित करते हैं, जो एक नवीन पोस्ट-ट्रेनिंग क्वांटाइजेशन (PTQ) फ्रेमवर्क है जो एक एकल प्रशिक्षित मॉडल को बिना रिट्रेनिंग के कई परिशुद्धता स्तरों पर संचालित करने में सक्षम बनाता है। यह विधि सूचना सिद्धांत (information theory) पर आधारित है और एडिटिव क्वांटाइजेशन (AQLM) का विस्तार करती है।

सैद्धांतिक आधार (Theoretical Foundation)

यह दृष्टिकोण सक्सेसिव सोर्स रिफाइनमेंट (successive source refinement) की अवधारणा से प्रेरित है। पेपर यह स्थापित करता है कि गॉसियन स्रोत (Gaussian sources), जो LLM वेट्स (weights) अनुभवजन्य रूप से अनुमान लगाते हैं, एक वेटेड मीन स्क्वेयर्ड एरर (WMSE) डिस्टॉर्शन मेजर के तहत क्रमिक रूप से रिफाइन करने योग्य (successively refinable) होते हैं। यह डिस्टॉर्शन मेजर LLM लॉस फंक्शन्स से प्राप्त होता है, जहाँ त्रुटि (error) को इनपुट डेटा मैट्रिक्स $X$ द्वारा भारित (weighted) किया जाता है। यह प्रमेय सिद्ध करता है कि एक स्रोत को इस तरह से एनकोड किया जा सकता है कि बिट्स को क्रमिक रूप से जोड़ने से लक्षित डिस्टॉर्शन स्तर पर सीधे एनकोड करने की तुलना में बिना किसी रेट पेनल्टी के क्रमिक रूप से सटीक पुनर्निर्माण (reconstructions) प्राप्त होते हैं।

एल्गोरिद्मिक कार्यान्वयन (Algorithmic Implementation)

ड्रॉप-बाय-ड्रॉप AQLM फ्रेमवर्क को अनुकूलित करता है, जो वेट्स को कई सीखे गए कोडबुक्स (codebooks) से वेक्टर्स के योग के रूप में प्रदर्शित करता है।

एडिटिव कोडबुक्स (Additive Codebooks): एकल क्वांटाइजेशन चरण के बजाय, वेट्स को $M$ विशिष्ट कोडबुक्स से चुने गए वेक्टर्स के योग के रूप में पुनर्गठित किया जाता है।
मैट्रियोस्का-शैली पर्यवेक्षण (Matryoshka-style Supervision): यह सुनिश्चित करने के लिए कि इन कोडबुक्स के उपसमुच्चय (subsets) सटीक आंशिक पुनर्निर्माण प्रदान करें, लेखक प्रशिक्षण के दौरान एक विशेष लॉस फंक्शन पेश करते हैं। यह लॉस पहले $k$ $k$ कोडबुक्स का उपयोग करके आंशिक पुनर्निर्माण के WMSE डिस्टॉर्शन को एकत्रित करता है।
- $L_{DbyD} = \sum_{k=1}^{K} \lambda_k D^{(k)}$ , जहाँ $D^{(k)}$ पहले $k$ कोडबुक्स का उपयोग करने वाला डिस्टॉर्शन है।
- यह "मैट्रियोस्का" पर्यवेक्षण स्पष्ट रूप से प्रोत्साहित करता है कि पहले कुछ कोडबुक्स मोटे, मौलिक फीचर्स को कैप्चर करें, जबकि बाद के कोडबुक्स सूक्ष्म सुधार (finer refinements) प्रदान करें।
इन्फरेंस-टाइम लचीलापन (Inference-Time Flexibility): इन्फरेंस के समय, मॉडल कोडबुक्स को हटाकर (dropping) अपनी परिशुद्धता को गतिशील रूप से समायोजित कर सकता है। सख्त बाधाओं वाला डिवाइस केवल पहले कुछ कोडबुक्स (जैसे, $k=3$ ) का उपयोग कर सकता है, जबकि संसाधन-समृद्ध डिवाइस सभी $M$ कोडबुक्स का उपयोग कर सकता है। यह एक एकल चेकपॉइंट को कई बिटविड्थ की सेवा करने की अनुमति देता है।

मुख्य योगदान (Key Contributions)

सैद्धांतिक प्रमाण: पेपर सिद्ध करता है कि गॉसियन स्रोत LLM के लिए प्रासंगिक WMSE डिस्टॉर्शन मेजर के तहत क्रमिक रूप से रिफाइन करने योग्य हैं, जो बिना रेट लॉस के प्रगतिशील क्वांटाइजेशन के लिए एक सैद्धांतिक आधार प्रदान करता है।
ड्रॉप-बाय-ड्रॉप फ्रेमवर्क: एक व्यावहारिक PTQ फ्रेमवर्क जो एडिटिव कोडबुक ट्रेनिंग में मैट्रियोस्का पर्यवेक्षण को एकीकृत करता है, जिससे कोडबुक ड्रॉपिंग के माध्यम से एक एकल मॉडल कई परिशुद्धता स्तरों को सपोर्ट करने में सक्षम होता है।
अनुभवजन्य सत्यापन: विविध आर्किटेक्चर (Qwen, LLaMA, Gemma, Mistral) पर व्यापक प्रयोग यह प्रदर्शित करते हैं कि ड्रॉप-बाय-ड्रॉप प्रतिस्पर्धी परप्लेक्सिटी (perplexity) और टास्क एक्यूरेसी को पूरे समर्थित बिटविड्थ रेंज में बनाए रखता है, और कोडबुक्स को हटाने पर मानक AQLM की तुलना में बेहतर प्रदर्शन (graceful degradation) दिखाता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने 0.5B से 32B पैरामीटर्स वाले मॉडल्स पर WikiText-2, C4 और पांच ज़ीरो-शॉट रीजनिंग बेंचमार्क (ARC, HellaSwag, Winogrande, PIQA) पर ड्रॉप-बाय-ड्रॉप का मूल्यांकन किया।

परप्लेक्सिटी (Perplexity): ड्रॉप-बाय-ड्रप वेरिएंट्स ने बेसलाइन "AQLM (Drop)" विधि की तुलना में लगातार बेहतर प्रदर्शन किया, जो एक मानक AQLM मॉडल को प्रशिक्षित करता है और इन्फरेंस के समय कोडबुक्स को हटा देता है। उदाहरण के लिए, Mistral-7B पर 3-बिट परिशुद्धता पर, मानक AQLM (Drop) में भारी परप्लेक्सिटी वृद्धि (112.75) हुई, जबकि ड्रॉप-बाय-ड्रॉप (Weighted) ने 6.19 की परप्लेक्सिटी बनाए रखी, जो व्यक्तिगत रूप से प्रशिक्षित मॉडल्स के प्रदर्शन के करीब है।
सटीकता (Accuracy): ज़ीरो-शॉट कार्यों में, ड्रॉप-बाय-ड्रॉप (Weighted) ने सभी बिटविड्थ में व्यक्तिगत रूप से प्रशिक्षित मॉडल्स (AQLM Ind.) के समान एक्यूरेसी स्कोर प्राप्त किया।
दक्षता (Efficiency): यह विधि विभिन्न बिटविड्थ के लिए अलग-अलग मॉडल्स को प्रशिक्षित करने और संग्रहीत करने की आवश्यकता को समाप्त करती है। चित्र 8 दर्शाता है कि जहाँ पारंपरिक विधियों के लिए तीन अलग-अलग मॉडल्स (3-bit, 4-bit, 5-bit) के लिए संचयी प्रशिक्षण समय और डिस्क स्पेस की आवश्यकता होती है, वहीं ड्रॉप-बाय-ड्रॉप को समान प्रदर्शन बनाए रखते हुए केवल एक ही ट्रेनिंग रन और स्टोरेज इंस्टेंस की आवश्यकता होती है।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि ड्रॉप-बाय-ड्रॉप, सूचना-सैद्धांतिक क्रमिक परिशोधन (successive refinement) सिद्धांत और व्यावहारिक LLM क्वांटाइजेशन के बीच के अंतर को पाटता है। इसका प्राथमिक महत्व इन्फरेंस के समय अनुकूली परिशुद्धता नियंत्रण (adaptive precision control) को सक्षम करने में निहित है, जिसके लिए रिट्रेनिंग या रीकैलिब्रेशन की आवश्यकता नहीं है। एक एकल मॉडल को अपने डिवाइस की क्षमताओं के अनुरूप अपने प्रभावी संसाधन उपयोग को अनुकूलित करने की अनुमति देकर, यह विधि विषम हार्डवेयर पर LLMs को तैनात करने की व्यावहारिक चुनौतियों का समाधान करती है। लेखक इसे मल्टी-बिटविड्थ PTQ और क्रमिक परिशोधन (successive refinement) के बीच एक नवीन संबंध के रूप में प्रस्तुत करते हैं, जो वास्तविक दुनिया के परिदृश्यों में रन-टाइम हार्डवेयर-अवेयर डायनेमिक लोडिंग और मिक्स-प्रिसिजन क्वांटाइजेशन के लिए एक समाधान प्रदान करता है।