HQ-DM: Single Hadamard Transformation-Based Quantization-Aware Training for Low-Bit Diffusion Models
यह शोध पत्र HQ-DM को प्रस्तुत करता है, जो एक नवीन क्वांटाइजेशन-अवेयर ट्रेनिंग फ्रेमवर्क है जो एक्टिवेशन आउटलेर्स को प्रभावी ढंग से कम करने और वेट आउटलेर्स के प्रवर्धन को रोकने के लिए एक सिंगल हैडामार्ड ट्रांसफॉर्मेशन का उपयोग करता है, जिससे डिफ्यूजन मॉडल्स के लिए उच्च-प्रदर्शन वाली लो-बिट क्वांटाइजेशन (W4A4 और W4A3) सक्षम होती है, जो मौजूदा अत्याधुनिक तरीकों की तुलना में इमेज जनरेशन की गुणवत्ता में महत्वपूर्ण सुधार करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक डिजिटल कलाकार को एक उत्कृष्ट कृति (मास्टरपीस) पेंट करना सिखाने की कोशिश कर रहे हैं, लेकिन उन्हें एक पूर्ण स्टूडियो और हाई-डेफिनिशन ब्रश देने के बजाय, आप उन्हें एक छोटी, लो-रिज़ॉल्यूशन वाली स्केचबुक थमा देते हैं। यह "डिफ्यूजन मॉडल्स" (diffusion models) के सामने मौजूद चुनौती है, जो एक प्रकार का आर्टिफिशियल इंटेलिजेंस है जो रैंडम स्टैटिक नॉइज़ को धीरे-धीरे स्पष्ट चित्रों में बदलकर शानदार चित्र बनाता है। इसे ऐसे समझें जैसे कोई मूर्तिकार एक संगमरमर के विशाल ब्लॉक से शुरुआत करता है और बार-बार छोटे-छोटे टुकड़े काटता रहता है जब तक कि एक मूर्ति उभर कर सामने न आ जाए। समस्या यह है कि यह प्रक्रिया अविश्वसनीय रूप से भारी है; इसके लिए विशाल कंप्यूटरों और बहुत अधिक मेमोरी की आवश्यकता होती है, जिससे इसे फोन या लैपटॉप जैसे रोजमर्रा के उपकरणों पर चलाना कठिन हो जाता है।
इसे ठीक करने के लिए, वैज्ञानिक "क्वांटाइजेशन" (quantization) नामक एक तरकीब का उपयोग करते हैं। कल्पना कीजिए कि आप एक हाई-डेफिन्यूशन फोटो को लेकर उसे एक पिक्सेलेटेड संस्करण में छोटा कर रहे हैं ताकि वह कम जगह घेरे। एआई की दुनिया में, इसका अर्थ है मॉडल के अत्यंत सटीक नंबरों (जो बहुत अधिक मेमोरी का उपयोग करते हैं) को छोटे, सरल नंबरों (कम बिट्स का उपयोग करके) में बदलना। हालाँकि, इसमें एक पेंच है: जब आप इन नंबरों को बहुत अधिक छोटा कर देते हैं, तो एआई "आउटलेयर्स" (outliers) के कारण भ्रमित हो जाता है। ये डेटा में दुर्लभ, चरम मान (values) होते हैं जो अंधेरे आकाश में एक अकेले, चकाचौंध भरे तारे की तरह व्यवहार करते हैं। यदि आप उस तारे को एक छोटे, लो-रिज़ॉल्यूशन ग्रिड में फिट करने की कोशिश करते हैं, तो यह पूरे चित्र को विकृत कर देता है, जिससे एआई धुंधली या अजीब छवियां बनाने लगता है। बड़ा सवाल यह है कि हम मॉडल को बिना उस विवरण को खोए कैसे छोटा करें जो कला को सुंदर बनाता है?
यहीं पर HQ-DM नामक एक नया अध्ययन एक चतुर समाधान के साथ आता है। शोधकर्ताओं ने पाया कि डिफ्यूजन मॉडल्स में परेशानी पैदा करने वाले "आउटलेयर्स" पार्टी में आए उन जिद्दी मेहमानों की तरह हैं जो दरवाजे पर खड़े होकर रास्ता रोक रहे हैं। पिछले तरीकों ने इन मेहमानों को अंदर दबाने या फर्नीचर को इधर-उधर करने की कोशिश की, लेकिन इससे अक्सर कमरा और भी अस्त-व्यस्त हो गया। HQ-DM टीम ने एक बेहतर तरीका खोजा: वे एक गणितीय उपकरण जिसे सिंगल हैडामार्ड ट्रांसफॉर्मेशन (Single Hadamard Transformation) कहा जाता है, का उपयोग करते हैं। आप इसे एक जादुई "शफलिंग" (shuffling) तकनीक के रूप में देख सकते हैं। उस चमकीले तारे को एक छोटे बॉक्स में जबरदस्ती फिट करने के बजाय, वे पूरे आकाश को चारों ओर घुमा देते हैं ताकि तारे की रोशनी पूरे कैनवास पर समान रूप से फैल जाए। अचानक, कोई भी बिंदु इतना उज्ज्वल नहीं रह जाता जिसे संभालना मुश्किल हो, और एआई बिना इमेज की गुणवत्ता खोए नंबरों को आसानी से छोटा कर सकता है।
यह दृष्टिकोण क्या विशेष बनाता है, यह इस बात पर निर्भर करता है कि यह "वेट्स" (weights - मॉडल की मेमोरी) बनाम "एक्टिवेशन्स" (activations - मॉडल के माध्यम से गुजरने वाला डेटा) को कैसे संभालता है। पुराने तरीकों ने दोनों को शफल करने की कोशिश की, लेकिन इससे अक्सर मेमोरी में नए चमकीले बिंदु बन जाते थे, जिससे स्थिति और खराब हो जाती थी। HQ-DM अधिक स्मार्ट है: यह केवल डेटा को छोटा करने से ठीक पहले चलते हुए डेटा (एक्टिवेशन्स) को शफल करता है, जिससे मेमोरी को अछूता छोड़ दिया जाता है। यह हॉलवे में खड़े मेहमानों को व्यवस्थित करने जैसा है बिना लिविंग रूम का फर्नीचर हिलाए। इस कारण से, यह विधि मानक कंप्यूटर चिप्स के साथ पूरी तरह से काम करती है जो तेज़, सरल गणित के लिए डिज़ाइन किए गए हैं, जिससे एआई बहुत तेज़ी से चल पाता है।
इस "शफलिंग" की तरकीब के परिणाम प्रभावशाली हैं। जब शोधकर्ताओं ने LDM-4 नामक एक लोकप्रिय इमेज जनरेटर पर ImageNet डेटासेट (256×256 पिक्सेल छवियों का एक संग्रह) का उपयोग करके अपने तरीके का परीक्षण किया, तो उन्होंने पाया कि उनका मॉडल कलात्मक स्पर्श खोए बिना बहुत छोटे आकार में सिमट सकता है। विशेष रूप से, जब उन्होंने एक बहुत ही आक्रामक सेटिंग का उपयोग किया जहाँ मेमोरी और डेटा दोनों को केवल 4 बिट्स (W4A4) तक छोटा कर दिया गया, तो उनके मॉडल ने पिछले सर्वोत्तम तरीके की तुलना में इमेज क्वालिटी स्कोर (Inception Score) में 12.8% का सुधार किया। और भी नाटकीय रूप से, जब उन्होंने डेटा को केवल 3 बिट्स (W4A3) तक धकेल दिया—एक ऐसा स्तर जहाँ अधिकांश अन्य तरीके पूरी तरह विफल हो जाते हैं—तो उनके मॉडल ने स्कोर में 467.73% का जबरदस्त सुधार किया।
यह पेपर यह भी दिखाता है कि यह विधि कुशल है। इसे मॉडल को प्रशिक्षित करने में बहुत अधिक समय नहीं लगता है, और क्योंकि यह मानक कंप्यूटर हार्डवेयर के साथ तालमेल बिठाता है, यह समान लो-बिट क्वांटाइजेशन के पिछले प्रयासों की तुलना में लगभग 1.10 से 1.14 गुना तेज़ चल सकता है। शोधकर्ताओं ने "ट्रांसफॉर्मर्स" (AI का एक अलग आर्किटेक्चर) पर आधारित मॉडलों सहित विभिन्न प्रकार के मॉडलों पर इसका परीक्षण किया, और पाया कि "शफलिंग" की यह तकनीक वहां भी उतनी ही अच्छी तरह काम करती है। संक्षेप में, HQ-DM सुझाव देता है कि डेटा को छोटा करने से पहले उसे बस पुनर्व्यवस्थित करके, हम शक्तिशाली AI आर्ट जनरेटर्स को हमारे रोजमर्रा के उपकरणों पर चलाने के लिए पर्याप्त छोटा बना सकते हैं, बिना उनके द्वारा बनाई गई छवियों की सुंदरता से समझौता किए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।