Jacobian-guided Noise Injection for Quantization Robustness in Large Language Models

आधुनिक आर्टिफिशियल इंटेलिजेंस उस बिंदु पर पहुँच गया है जहाँ इसकी सबसे शक्तिशाली रचनाएँ, जिन्हें लार्ज लैंग्वेज मॉडल्स (large language models) के रूप में जाना जाता है, कविता लिख सकती हैं, जटिल समस्याओं को हल कर सकती हैं और ऐसी बातचीत कर सकती हैं जो उल्लेखनीय रूप से मानवीय महसूस होती है। फिर भी, इन डिजिटल दिमागों की एक भारी कीमत है: इन्हें चलाने के लिए भारी मात्रा में कंप्यूटर मेमोरी और ऊर्जा की आवश्यकता होती है। इन मॉडल्स को स्मार्टफोन या लैपटॉप जैसे रोजमर्रा के उपकरणों पर उपयोगी बनाने के लिए, इंजीनियर लंबे समय से उन्हें बिना तोड़े छोटा करने का तरीका खोज रहे हैं। इसका मानक समाधान 'क्वांटाइजेशन' (quantization) नामक एक प्रक्रिया है, जो मॉडल के भीतर के नंबरों को सरल बनाती है। कल्पना कीजिए कि आप एक उच्च-रिज़ॉल्यूशन वाली तस्वीर को एक छोटी फ़ाइल में कंप्रेस कर रहे हैं; आप कुछ विवरण खो देते हैं, लेकिन छवि फिर भी पहचानने योग्य रहती है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इसका अर्थ है मॉडल के आंतरिक नंबरों को एक सटीक, भारी प्रारूप से एक हल्के, मोटे प्रारूप में बदलना। यह कमी मॉडल के आकार को चार गुना तक कम कर सकती है और इसे तीन गुना तेज़ बना सकती है, जिससे संभावित रूप से एक सुपरकंप्यूटर-आकार का मस्तिष्क एक मोबाइल चिप पर फिट हो सकता है।

हालाँकि, यह संपीड़न जोखिम के बिना नहीं है। जब नंबर बहुत अधिक मोटे हो जाते हैं, तो मॉडल लड़खड़ाना शुरू कर सकता है, विशेष रूप से मस्तिष्क के उन हिस्सों में जो संदर्भ और संबंधों को समझने के लिए जिम्मेदार हैं। इस अध्ययन के पीछे के शोधकर्ताओं ने इन मॉडल्स में एक विशिष्ट बाधा (bottleneck) पर ध्यान केंद्रित किया: एक तंत्र जिसे 'सेल्फ-अटेंशन' (self-attention) कहा जाता है, जो मॉडल को यह तय करने में मदद करता है कि एक वाक्य में कौन से शब्द एक-दूसरे के लिए सबसे महत्वपूर्ण हैं। इस तंत्र के भीतर, 'सॉफ्टमैक्स' (softmax) नामक एक गणितीय चरण एक द्वारपाल (gatekeeper) के रूप में कार्य करता है, जो कच्चे स्कोर को संभावनाओं (probabilities) में बदल देता है। टीम ने पाया कि यह द्वारपाल अविश्वसनीय रूप से नाजुक है। जब इसमें जाने वाले नंबर संपीड़न द्वारा थोड़े से भी विकृत होते हैं, तो द्वारपाल अति-प्रतिक्रिया दे सकता है, जिससे छोटी त्रुटियाँ भी बड़ी गलतियों में बदल जाती हैं जो मॉडल के आउटपुट को खराब कर देती हैं। यह संवेदनशीलता विशेष रूप से तब खतरनाक होती है जब मॉडल असामान्य या चरम मानों (extreme values) का सामना करता है, जिससे पूरा सिस्टम अपने इच्छित व्यवहार से भटक जाता है।

इसे हल करने के लिए, शोधकर्ताओं ने एक नई प्रशिक्षण रणनीति विकसित की है जो मॉडल के लिए एक सौम्य, लक्षित 'स्ट्रेस टेस्ट' की तरह काम करती है। मॉडल को पूर्ण होने के लिए मजबूर करने के बजाय, उन्होंने जानबूझकर सॉफ्टमैक्स द्वार तक पहुँचने से ठीक पहले नंबरों में छोटे, यादृच्छिक उतार-चढ़ाव (fluctuations) पेश किए। मुख्य नवाचार यह था कि उन्होंने इन उतार-चढ़ाव के आकार का निर्णय कैसे लिया। मॉडल के हर हिस्से के लिए एक निश्चित मात्रा में शोर (noise) का उपयोग करने के बजाय, उन्होंने प्रत्येक विशिष्ट स्थान के लिए संवेदनशीलता का एक माप निकाला। यदि मॉडल का कोई हिस्सा त्रुटियों के प्रति अत्यधिक संवेदनशील था, तो शोधकर्ताओं ने उसे अधिक मजबूत बनाने के लिए शोर की एक बड़ी खुराक डाली। यदि कोई हिस्सा पहले से ही स्थिर था, तो उन्होंने बहुत कम शोर डाला। यह दृष्टिकोण, जिसे वे 'जैकोबियन-गाइडेड नॉइज़ इंजेक्शन' (Jacobian-guided noise injection) कहते हैं, मॉडल को यह सिखाता है कि जब उसके आंतरिक नंबर थोड़े असंतुलित हों, तब भी वह स्थिर रहे। यह वैसा ही है जैसे एक नाविक शांत पानी में अभ्यास करने के बजाय, लहरों के बीच नाव चलाने का अभ्यास करके नाव को स्थिर रखना सीखता है।

इस पद्धति के परिणाम आश्चर्यजनक थे। जब शोधकर्ताओं ने अपने दृष्टिकोण का परीक्षण कई अत्याधुनिक भाषा मॉडल्स पर किया, तो वे मॉडल्स जो इस विशिष्ट प्रशिक्षण से गुजरे थे, भारी संपीड़न के बाद भी अपनी बुद्धिमत्ता का एक बड़ा हिस्सा बनाए रखने में सक्षम रहे। कुछ मामलों में, इस पद्धति ने लो-बिट सेटिंग्स में भाषा मॉडल्स के लिए WikiText पर सापेक्ष परप्लेक्सिटी (relative perplexity) में 40% तक सुधार किया। विज़न मॉडल्स के लिए, विशेष रूप से SigLIP आर्किटेक्चर पर RepQViT विधि का उपयोग करते समय, इस दृष्टिकोण ने समान बिट-चौड़ाई पर टॉप-1 सटीकता (Top-1 accuracy) में 37% तक सापेक्ष लाभ दिया। महत्वपूर्ण रूप से, इस प्रशिक्षण ने मॉडल्स को उनके मूल, असंपीड़ित रूप में चलते समय बदतर नहीं बनाया। मॉडल्स ने अपनी आधारभूत प्रदर्शन (baseline performance) का त्याग किए बिना मजबूत होना सीखा, और इस तकनीक के लिए मॉडल्स के वास्तविक उपयोग के दौरान किसी अतिरिक्त कंप्यूटिंग शक्ति की आवश्यकता नहीं पड़ी।

मॉडल के अटेंशन मैकेनिज्म के विशिष्ट गणितीय व्यवहार पर ध्यान केंद्रित करके, टीम ने इन शक्तिशाली उपकरणों को वास्तविक दुनिया के उपयोग के लिए अधिक व्यावहारिक बनाने का एक तरीका खोजा है। उनका कार्य बताता है कि यह समझकर कि मॉडल कहाँ असुरक्षित है, इंजीनियर इसे सीमित हार्डवेयर पर चलने की अपरिहार्य खामियों के विरुद्ध सुदृढ़ करने के लिए सटीक, अनुकूलित प्रशिक्षण लागू कर सकते हैं। यह न केवल मॉडल्स को छोटा बनाता है; यह उन्हें उन वातावरणों में तैनात करने के लिए विश्वसनीय बनाता है जहाँ मेमोरी और ऊर्जा की कमी होती है, जिससे उन्नत आर्टिफिशियल इंटेलिजेंस की क्षमताएं विशाल डेटा केंद्रों की आवश्यकता के बिना रोजमर्रा के उपकरणों के करीब पहुँच जाती हैं।