Improved denoising diffusion probabilistic models with efficient non-diagonal covariance modeling
यह शोध पत्र क्रोनेकर-डीसीटी (K-DCT) मॉडल का परिचय देता है, जो एक नवीन गैर-विकर्ण सहप्रसरण सन्निकटन (non-diagonal covariance approximation) है जो प्राकृतिक छवि सहसंबंधों को कुशलतापूर्वक कैप्चर करने के लिए क्रोनेकर गुणनखंडन और डिस्क्रीट कोसाइन ट्रांसफॉर्म का लाभ उठाता है, जिससे नगण्य कम्प्यूटेशनल ओवरहेड बनाए रखते हुए कम सैंपलिंग स्टेप्स के साथ डिनोइजिंग डिफ्यूजन प्रोबेबिलिस्टिक मॉडल्स (DDPMs) की गुणवत्ता और संभावना में महत्वपूर्ण सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी मशीन की कल्पना करें जो कला बनाना इसलिए सीखती है क्योंकि वह शून्य से पेंटिंग नहीं करती, बल्कि स्टैटिक (static) से ढके हुए एक कैनवास से शुरुआत करती है और धीरे-धीरे, सावधानी से शोर को हटाती है जब तक कि एक स्पष्ट चित्र उभर न आए। यह 'डिनोइजिंग डिफ्यूजन मॉडल्स' (denoising diffusion models) नामक आर्टिफिशियल इंटेलिजेंस मॉडल्स के एक परिवार के पीछे का मूल विचार है। वे उच्च-गुणवत्ता वाली छवियां बनाने के लिए एक मानक उपकरण बन गए हैं, चाहे वह वास्तविक चेहरे हों या परिदृश्य, क्योंकि वे ऐसे परिणाम देते हैं जो स्पष्ट और विविध दोनों होते हैं। हालाँकि, इसमें एक पेंच है: शोर को हटाने की प्रक्रिया स्वाभाविक रूप से धीमी है। एक अच्छी तस्वीर पाने के लिए, कंप्यूटर को हजारों छोटे, सतर्क कदम उठाने होते हैं, जिसमें वह एक बार में थोड़ा सा स्टैटिक हटाता है। यदि वह गति बढ़ाने के लिए बड़े कदम उठाने की कोशिश करता है, तो छवि अक्सर धुंधली या विकृत हो जाती है क्योंकि मशीन इस बात का ट्रैक खो देती है कि चित्र के विभिन्न हिस्से एक-दूसरे से कैसे संबंधित हैं।
लंबे समय तक, शोधकर्ताओं ने इस गति की समस्या को हल करने के लिए एक सरलीकृत धारणा बनाने की कोशिश की: उन्होंने यह माना कि किसी भी क्षण छवि में अनिश्चितता को प्रत्येक पिक्सेल को स्वतंत्र रूप से देखकर वर्णित किया जा सकता है। यह कुछ ऐसा ही है जैसे किसी विशिष्ट स्थान के तापमान को देखकर मौसम का वर्णन करने की कोशिश करना, यह नजरअंदाज करते हुए कि उस स्थान की हवा अगले स्थान पर बारिश को कैसे प्रभावित करती है। हालांकि यह दृष्टिकोण बहुत छोटे कदम उठाते समय पर्याप्त रूप से काम करता है, लेकिन यह तब विफल हो जाता है जब शोधकर्ता व्यावहारिक उपयोग के लिए आवश्यक बड़े, तेज़ कदम उठाने की कोशिश करते हैं। प्राकृतिक छवियों की वास्तविकता बहुत अधिक जटिल है; एक पिक्सेल का रंग उसके पड़ोसियों से गहराई से जुड़ा होता है, और एक छवि के लाल, हरे और नीले चैनल आपस में जटिल तरीकों से एक-दूसरे को प्रभावित करते हैं। 'ट्रांजेक्शन ऑन मशीन लर्निंग रिसर्च' में प्रकाशित एक नया अध्ययन सुझाव देता है कि इन जटिल संबंधों को स्वीकार करके, हम गुणवत्ता से समझौता किए बिना इन इमेज जनरेटरों को काफी तेज बना सकते हैं।
शोधकर्ताओं की टीम, जो कैम्ब्रिज विश्वविद्यालय और किंग्स कॉलेज लंदन सहित संस्थानों से है, इन संबंधों का एक बेहतर मानचित्र बनाने के उद्देश्य से काम कर रही थी। उन्होंने "पोस्टीरियर कोवेरिएंस" (posterior covariance) पर ध्यान केंद्रित किया, जो एक तकनीकी शब्द है जो अनिवार्य रूप से यह बताता है कि छवि के एक हिस्से की अनिश्चितता दूसरे हिस्से की अनिश्चितता पर कैसे निर्भर करती है। पुराने, सरल मॉडलों में, यह मानचित्र एक ग्रिड के रूप में बनाया गया था जहाँ केवल विकर्ण रेखाएं (diagonal lines) मायने रखती थीं, जिसका अर्थ था कि एक पिक्सेल का भविष्य उसके पड़ोसियों से स्वतंत्र है। नई टीम ने तर्क दिया कि यह एक अत्यधिक सरलीकरण था जिसने प्राकृतिक छवियों की वास्तविक संरचना की अनदेखी की, जो पिक्सेल और रंग चैनलों के बीच मजबूत, गैर-विकर्ण सहसंबंध प्रदर्शित करती है। उन्होंने यह भी नोट किया कि इन छवियों में एक विशिष्ट आवृत्ति पैटर्न (frequency pattern) होता है, जहाँ विवरण एक अनुमानित तरीके से कम होते जाते हैं, ठीक वैसे ही जैसे एक संगीत कॉर्ड में स्वरों की एक विशिष्ट संरचना होती है।
इस जटिलता को कंप्यूटर को धीमा किए बिना पकड़ने के लिए, टीम ने एक नया गणितीय मॉडल विकसित किया जिसे वे K-DCT कहते हैं। इसका नाम दो प्रमुख विचारों के संयोजन से आया है। पहला, उन्होंने पहचान की कि रंगों के बीच का संबंध (जैसे लाल, हरा और नीला) और स्थानिक स्थानों (बाएं, दाएं, ऊपर, नीचे) के बीच का संबंध एक-दूसरे से लगभग अलग हैं। इसने उन्हें इस विशाल, जटिल समस्या को दो छोटे, प्रबंधनीय टुकड़ों में तोड़ने की अनुमति दी। दूसरा, उन्होंने महसूस किया कि एक छवि में स्थानिक संबंधों को सीधे पिक्सेल को देखकर नहीं, बल्कि छवि को तरंगों के एक संग्रह के रूप में देखकर सबसे अच्छी तरह समझा जा सकता है, जिसके लिए 'डिस्क्रीट कोसाइन ट्रांसफॉर्म' (Discrete Cosine Transform) नामक तकनीक का उपयोग किया जाता है। यह एक ऐसी विधि है जो छवि को उसके मौलिक आवृत्तियों में तोड़ देती है, ठीक वैसे ही जैसे एक प्रिज्म सफेद प्रकाश को इंद्रधनुष के रंगों में तोड़ देता है। इस फ्रीक्वेंसी डोमेन में काम करके, शोधकर्ता पिक्सेल के बीच के जटिल संबंधों के जाल को संख्याओं के एक बहुत ही संक्षिप्त सेट का उपयोग करके वर्णित कर सके।
परिणाम एक ऐसा मॉडल है जो अत्यधिक अभिव्यंजक और अविश्वसनीय रूप से कुशल है। जबकि उच्च-रिज़ॉल्यूशन वाली छवि में कनेक्शनों का पूर्ण विवरण करने के लिए भारी मात्रा में मेमोरी और कंप्यूटिंग पावर की आवश्यकता होगी, K-DCT मॉडल वही काम स्वयं की छवि से बहुत थोड़े बड़े फुटप्रिंट के साथ करने में सक्षम है। शोधकर्ताओं ने CIFAR-10 (जिसमें रोजमर्रा की वस्तुओं की छोटी छवियां हैं) और CelebA (जिसमें मशहूर हस्तियों के चित्र हैं) सहित कई प्रसिद्ध इमेज डेटासेट्स पर इस दृष्टिकोण का परीक्षण किया। उन्होंने ImageNet और LSUN जैसे बड़े और अधिक जटिल डेटासेट्स पर भी इसका परीक्षण किया। हर मामले में, उन्होंने मौजूदा सर्वोत्तम तकनीकों के मुकाबले अपने नए तरीके की तुलना की, जो सरल, विकर्ण धारणाओं पर आधारित थीं।
निष्कर्ष स्पष्ट और सुसंगत थे। जब शोधकर्ताओं ने मॉडलों को कम चरणों में छवियां उत्पन्न करने के लिए मजबूर किया—जो एक ऐसे परिदृश्य का अनुकरण करता है जहाँ गति महत्वपूर्ण है—तो नए K-DCT मॉडल ने काफी बेहतर परिणाम दिए। छवियां अधिक स्पष्ट, विस्तृत और वास्तविक डेटा के सांख्यिकीय रूप से करीब थीं जिस पर उन्हें प्रशिक्षित किया गया था। तकनीकी शब्दों में, मॉडलों ने कम त्रुटि दर और बेहतर संभावना स्कोर (likelihood scores) प्राप्त किए, जिसका अर्थ है कि कंप्यूटर अपनी रचनाओं के प्रति अधिक आश्वस्त था। शायद सबसे महत्वपूर्ण बात यह है कि पीढ़ी की प्रक्रिया की गति पर कोई प्रतिकूल प्रभाव नहीं पड़ा। नए मॉडल द्वारा आवश्यक अतिरिक्त गणनाएं इतनी कुशल थीं कि उन्होंने प्रक्रिया में लगभग कोई समय नहीं जोड़ा, यहाँ तक कि उच्च-रिज़ॉल्यूशन वाली छवियों पर भी। यह सुझाव देता है कि छवियों को तेजी से उत्पन्न करने में बाधा कंप्यूटर की कच्ची शक्ति नहीं थी, बल्कि अनिश्चितता को मॉडल करने का तरीका था।
टीम ने यह भी पता लगाया कि यह दृष्टिकोण इतना अच्छा क्यों काम करता है। उन्होंने पाया कि एक डिनोइजिंग छवि में पिक्सेल के बीच के संबंध जल्दी खत्म नहीं होते हैं; इसके बजाय, वे कई ऑर्डर्स ऑफ मैग्नीट्यूड तक फैले हुए एक धीमे, अनुमानित क्षय (decay) का पालन करते हैं। सरल मॉडल जो इन दीर्घकालिक कनेक्शनों को अनदेखा करने या उन्हें कुछ बुनियादी पैटर्न के साथ अनुमानित करने की कोशिश करते हैं, वे इस सूक्ष्मता को पकड़ने में विफल रहते हैं। इसके विपरीत, K-DCT मॉडल स्वाभाविक रूप से इस संरचना को समाहित करता है। दिलचस्प बात यह है कि मॉडल ने CelebA जैसे डेटासेट्स पर भी असाधारण रूप से अच्छा प्रदर्शन किया, जहाँ छवियां मानव चेहरों की हैं और उनमें वह पूर्ण समरूपता या ट्रांसलेशन इनवेरिएंस (translation invariance) नहीं है जो गणितीय सिद्धांत मानता है। यह सुझाव देता है कि मॉडल वास्तविक दुनिया की खामियों को संभालने के लिए पर्याप्त मजबूत है, जो डेटा के आवश्यक "पूर्ण" ढांचे को पकड़ लेता है, भले ही अंतर्निहित पैटर्न पूरी तरह से नियमित न हों।
हालांकि यह अध्ययन यह दावा नहीं करता है कि उसने आर्टिफिशियल इंटेलिजेंस की हर समस्या को हल कर दिया है, लेकिन यह छवि निर्माण के एक विशिष्ट और निरंतर बाधा के लिए एक सम्मोहक समाधान प्रदान करता है: छवि निर्माण में गति और गुणवत्ता के बीच का समझौता। पिक्सेल अकेले कार्य करते हैं, इस धारणा से दूर हटकर और यह स्वीकार करके कि वे गहराई से परस्पर जुड़े हुए हैं, शोधकर्ताओं ने दिखाया है कि हम इन मशीनों की रचनात्मक प्रक्रिया को तेज कर सकते हैं। यह कार्य संकेत देता है कि कुशल छवि निर्माण का भविष्य बड़े कंप्यूटर बनाने में नहीं, बल्कि ऐसे स्मार्ट मॉडल बनाने में है जो उन छवियों की वास्तविक, जटिल प्रकृति को समझते हैं जिन्हें वे बनाने की कोशिश कर रहे हैं। K-DCT मॉडल इस बात का प्रमाण है कि सांख्यिकीय संरचना की अधिक सटीक समझ से प्रदर्शन में ठोस सुधार हो सकता है, जिससे उच्च-गुणवत्ता वाला इमेज जनरेशन हार्डवेयर क्षमताओं में बड़ी छलांग की आवश्यकता के बिना तेज़ और अधिक सुलभ हो जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।