SQuad: Sub-Quadratic Attention Distillation for Efficient Video Generation
SQuad एक सब-क्वाड्रेटिक अटेंशन डिस्टिलेशन फ्रेमवर्क है जो प्री-ट्रेन्ड वीडियो डिफ्यूजन ट्रांसफॉर्मर्स को जटिलता के साथ संकुचित करता है, जिससे काफी कम कम्प्यूटेशनल लागत और तेज़ इन्फरेंस स्पीड के साथ क्वाड्रेटिक-लेवल वीडियो जनरेशन गुणवत्ता प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के साथ चलते-फिरते चित्र बनाना आधुनिक कंप्यूटिंग के सबसे रोमांचक मोर्चों में से एक बन गया है। ये सिस्टम, जिन्हें वीडियो डिफ्यूजन मॉडल कहा जाता है, एक टेक्स्ट विवरण के आधार पर शोर (static noise) के एक अराजक बादल से शुरू होकर, धीरे-धीरे उसे फ्रेम-दर-फ्रेम एक सुसंगत दृश्य में परिष्कृत करके काम करते हैं। यह समझने के लिए कि वे यह कैसे करते हैं, एक विशाल डिजिटल पिक्सेल ग्रिड की कल्पना करें, जहाँ प्रत्येक पिक्सेल एक टोकन है जो रंग, आकार और समय के बारे में जानकारी ले जाता है। इन मॉडलों को चलाने वाला इंजन 'सेल्फ-अटेंशन' (self-attention) नामक एक तंत्र है। यह तंत्र वीडियो के हर एक टोकन को दूसरे हर टोकन को देखने की अनुमति देता है ताकि वे तय कर सकें कि उन्हें एक-दूसरे से कैसे संबंधित होना चाहिए। यही निरंतर, सर्वव्यापी जुड़ाव वीडियो को जीवंत गुणवत्ता प्रदान करता है और यह सुनिश्चित करता है कि पहले सेकंड में चरित्र की गति उसके अंतिम रूप से मेल खाती है। हालाँकि, इस शक्ति की एक भारी कीमत है। जैसे-जैसे वीडियो लंबा या अधिक विस्तृत होता जाता है, सिस्टम को गणना करने वाले कनेक्शनों की संख्या विस्फोट की तरह बढ़ जाती है, जिससे प्रक्रिया अविश्वसनीय रूप से धीमी और महंगी हो जाती है, जो अक्सर रचनाकारों को केवल कुछ सेकंड के फुटेज तक ही सीमित कर देती है।
क्वालकॉम एआई रिसर्च (Qualcomm AI Research) के शोधकर्ताओं ने वीडियो की गुणवत्ता से समझौता किए बिना इस समस्या को हल करने के लिए 'SQuad' नामक एक नया दृष्टिकोण विकसित किया है। जटिल कनेक्शनों को सरल बनाने या मूल तंत्र को किसी सस्ते, कमजोर विकल्प से बदलने के बजाय, उन्होंने डेटा को देखने के तरीके को पुनर्गठित करने का एक तरीका खोजा है। मानक पद्धति में, प्रत्येक टोकन को प्रत्येक अन्य टोकन की जांच करनी पड़ती है, एक ऐसी प्रक्रिया जो वीडियो का आकार बढ़ने पर अनियंत्रित हो जाती है। टीम ने महसूस किया कि वीडियो निर्माण में, इनमें से अधिकांश कनेक्शन वास्तव में बहुत कमजोर होते हैं; केवल टोकन का एक छोटा, महत्वपूर्ण समूह ही किसी भी दिए गए क्षण में एक-दूसरे पर ध्यान देने की वास्तविक आवश्यकता रखता है। इस अवलोकन पर आधारित, उन्होंने एक दो-चरणीय प्रक्रिया डिजाइन की। पहले, सिस्टम पास के टोकनों को छोटे विंडोज़ (windows) में समूहित करता है और उन्हें स्थानीय स्तर पर जानकारी मिलाने देता है। फिर, यह दूसरे चरण में इन विंडोज़ को पूरे वीडियो में एक-दूसरे के साथ संवाद करने देता है। यह संरचना मॉडल को दृश्य का पूर्ण दृश्य बनाए रखने की अनुमति देती है और आवश्यक गणनाओं की संख्या को भारी रूप से कम कर देती है।
एक बड़े वीडियो जनरेशन मॉडल, जिसे 'Wan 2.2' कहा जाता है, पर इस पद्धति को लागू करने के परिणाम आश्चर्यजनक हैं। शोधकर्ताओं ने एक शक्तिशाली, प्री-ट्रेंड मॉडल लिया और उसे 'डिस्टिलेशन' (distillation) की एक प्रक्रिया के माध्यम से इस नई, सुव्यवस्थित अटेंशन पद्धति का उपयोग करना सिखाया, जहाँ नया सिस्टम मूल के व्यवहार की नकल करना सीखता है। परिणाम एक ऐसा मॉडल है जो मूल के लगभग समान दृश्य गुणवत्ता वाले वीडियो बनाता है, कठोर गुणवत्ता परीक्षणों पर लगभग समान स्कोर करता है, लेकिन लागत में भारी कमी लाता है। जहाँ मूल मॉडल को एक वीडियो बनाने के लिए 100 चरणों की आवश्यकता थी, वहीं नया संस्करण केवल छह चरणों में समान परिणाम प्राप्त करता है। गति के मामले में, वीडियो जनरेशन के एक एकल चरण को प्रोसेस करने में लगने वाला समय लगभग 47 मिलीसेकंड से घटकर मात्र 4 मिलीसेकंड रह गया। इन चरणों के लिए आवश्यक कंप्यूटिंग पावर लगभग 67 के कारक से गिर गई।
यह दक्षता लाभ केवल एक सैद्धांतिक सुधार नहीं है; यह सीधे तौर पर उस अनुभव में बदल जाता है जो एक उपयोगकर्ता अनुभव करता है। एक मानक हाई-डेफिनिशन वीडियो जनरेशन कार्य पर परीक्षण करते समय, नई पद्धति ने पूरे जनरेशन पाइपलाइन को ध्यान में रखते हुए, मूल सिस्टम की तुलना में लगभग आधे कुल समय में वीडियो तैयार किया। शोधकर्ताओं ने अपनी पद्धति की तुलना वीडियो जनरेशन को तेज करने के अन्य प्रयासों से की, जिनमें से कुछ जटिल, हाइब्रिड आर्किटेक्चर पर निर्भर करते हैं जो मॉडल में लाखों अतिरिक्त पैरामीटर जोड़ देते हैं। इसके विपरीत, SQuad दृष्टिकोण के लिए कोई अतिरिक्त मेमोरी या विशेष हार्डवेयर की आवश्यकता नहीं है, जो मौजूदा प्रणालियों में सहजता से फिट बैठता है। उपयोगकर्ता अध्ययनों ने पुष्टि की कि लोग मूल, भारी मॉडल द्वारा बनाए गए वीडियो और नए, कुशल संस्करण द्वारा बनाए गए वीडियो के बीच अंतर को विश्वसनीय रूप से नहीं पहचान सके। वास्तव में, आमने-सामने की तुलना में, दर्शकों के एक बड़े हिस्से ने वास्तव में नए तरीके द्वारा बनाए गए वीडियो को प्राथमिकता दी।
इस कार्य का महत्व इसके संतुलन में निहित है। इन मॉडलों को तेज़ बनाने के पिछले प्रयासों में अक्सर शक्तिशाली अटेंशन मैकेनिज्म को सरल, लीनियर अनुमानों (linear approximations) से बदलना शामिल था, जिसके परिणामस्वरूप अक्सर वीडियो की गुणवत्ता में स्पष्ट गिरावट आती थी। SQuad विधि इस जाल से बचती है क्योंकि यह मूल गणितीय ऑपरेशन को बरकरार रखते हुए इसे लागू करने के क्रम को बदल देती है। यह सिद्ध करती है कि उच्च-गुणवत्ता वाले परिणाम प्राप्त करने के लिए प्रत्येक टोकन की दूसरे के विरुद्ध जांच करने की पूर्ण, क्वाड्रेटिक जटिलता (quadratic complexity) अनिवार्य रूप से आवश्यक नहीं है। सूचना के प्रवाह को सावधानीपूर्वक व्यवस्थित करके, शोधकर्ताओं ने दिखाया है कि गणना लागत के एक अंश के साथ लंबे, उच्च-रिज़ॉल्यूशन वाले वीडियो बनाना संभव है। यह लंबी, जटिल दृश्य बनाने के लिए मानक हार्डवेयर के द्वार खोलता है, जिससे यह क्षेत्र समय और ऊर्जा की वर्तमान बाधाओं के बिना असीमित, उच्च-गुणवत्ता वाली वीडियो सामग्री बनाने के लक्ष्य के करीब पहुँच जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।