← नवीनतम पेपर
💻 computer science

QuantSparse: Comprehensively Compressing Video Diffusion Transformer with Model Quantization and Attention Sparsification

क्वांटस्पार्स (QuantSparse) एक एकीकृत ढांचा है जो सूचना की हानि को कम करने के लिए मल्टी-स्केल सेलियंट अटेंशन डिस्टिलेशन (Multi-Scale Salient Attention Distillation) और सेकंड-ऑर्डर स्पार्स अटेंशन रीपैरामीट्राइजेशन (Second-Order Sparse Attention Reparameterization) को पेश करते हुए वीडियो डिफ्यूजन ट्रांसफॉर्मर के लिए मॉडल क्वांटाइजेशन और अटेंशन स्पारसिफिकेशन को प्रभावी ढंग से संयोजित करता है, जिससे जनरेशन गुणवत्ता में मौजूदा बेसलाइन से काफी बेहतर प्रदर्शन करते हुए महत्वपूर्ण स्टोरेज कमी और इन्फरेंस त्वरण प्राप्त होता है।

मूल लेखक: Weilun Feng, Chuanguang Yang, Haotong Qin, Mingqiang Wu, Yuqi Li, Xiangqi Li, Zhulin An, Libo Huang, Yulun Zhang, Michele Magno, Yongjun Xu

प्रकाशित 2026-03-10
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Weilun Feng, Chuanguang Yang, Haotong Qin, Mingqiang Wu, Yuqi Li, Xiangqi Li, Zhulin An, Libo Huang, Yulun Zhang, Michele Magno, Yongjun Xu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

🎬 समस्या: वह "हॉलीवुड ब्लॉकबस्टर" जो आपकी जेब में नहीं समा सकता

कल्पना कीजिए कि आपके पास एक हॉलीवुड ब्लॉकबस्टर फिल्म है (जैसे HunyuanVideo या Wan2.1 जैसा एक उच्च-गुणवत्ता वाला AI वीडियो जनरेटर)। यह फिल्म अद्भुत है, लेकिन यह इतनी विशाल और भारी है कि:

  1. इसे स्टोर करने के लिए एक विशाल गोदाम चाहिए (इसे 20GB+ कंप्यूटर मेमोरी की आवश्यकता होती है)।
  2. एक सिंगल सीन दिखाने के लिए पूरा दिन लग जाता है (एक वीडियो बनाने में लगभग एक घंटा लगता है)।

इस कारण से, आप इन फिल्मों को सामान्य लैपटॉप या फोन पर नहीं चला सकते। ये वास्तविक जीवन के लिए बहुत महंगी और धीमी हैं।

वैज्ञानिकों ने इन फिल्मों को छोटा और तेज़ बनाने के लिए दो तरकीबें आजमाई हैं:

  • तरकीब A (क्वांटाइजेशन - Quantization): फिल्म रील को कंप्रेस करना। हाई-डेफिनिशन 4K कलर का उपयोग करने के बजाय, वे एक सरल, कम-गुणवत्ता वाले पैलेट का उपयोग करते हैं (जैसे 16-बिट रंग वाली इमेज को 4-बिट स्केच में बदलना)। इससे जगह तो बचती है लेकिन तस्वीर दानेदार या अजीब दिख सकती है।
  • तरकीब B (स्पारसिफिकेशन - Sparsification): फिल्म के हिस्सों को अनदेखा करना। वे तय करते हैं कि 85% पिक्सल "बोरिंग" हैं और उन्हें बस हटा देते हैं, केवल महत्वपूर्ण हिस्सों को ही रखते हैं। इससे यह तेज़ तो होता है, लेकिन यदि आप बहुत अधिक चीज़ें हटा देते हैं, तो फिल्म के टुकड़े गायब होने लगते हैं।

पेंच (The Catch): यदि आप एक ही समय में दोनों चीजें करने की कोशिश करते हैं (रंगों को कंप्रेस करना और पिक्सल को हटाना), तो फिल्म बिखर जाती है। कंप्रेशन से होने वाली दानेदार बनावट (graininess) गायब हुए हिस्सों को और भी बदतर बना देती है। यह वैसा ही है जैसे आप एक ऐसा रेडियो स्टेशन सुनने की कोशिश कर रहे हों जो शोर (static) से भरा हो और जिसका आधा प्रसारण भी गायब हो।

🚀 समाधान: QuantSparse (एक "स्मार्ट एडिटर")

इस पेपर के लेखकों ने QuantSparse नामक एक नया टूल बनाया है। इसे एक सुपर-स्मार्ट फिल्म एडिटर के रूपके रूप में सोचें, जो जानता है कि कहानी को खराब किए बिना फिल्म को कैसे कंप्रेस और कट करना है। यह समस्याओं को ठीक करने के लिए दो विशेष तकनीकों का उपयोग करता है।

1. "मैप और हाईलाइट" वाली तरकीब (मल्टी-स्केल सैलिएंट अटेंशन डिस्टिलेशन)

समस्या: जब आप फिल्म को कंप्रेस करते हैं (तरकीब A), तो कैमरा कहाँ देखना चाहिए, इसका "मैप" धुंधला हो जाता है। AI भ्रमित हो जाता है कि क्या महत्वपूर्ण है।

समाधान: एडिटर AI को सही रास्ते पर रखने के लिए दो-चरणीय मार्गदर्शिका का उपयोग करता है:

  • ग्लोबल मैप (लो-रेज़ोल्यूशन): एडिटर पहले पूरी फिल्म के एक छोटे, धुंधले थंबनेल को देखता है। यह AI को बड़े चित्र को समझने में मदद करता है (जैसे, "यह एक समुद्र तट का दृश्य है")। इसे प्रोसेस करना सस्ता है और यह संरचना को सही रखता है।
  • हाइलाइटर (हाई-रेज़ोल्यूशन): इसके बाद एडिटर फिल्म के सबसे महत्वपूर्ण हिस्सों पर ज़ूम करता है (जैसे एक समुद्री कछुआ तैर रहा है या चट्टान का किनारा)। यह AI को बताता है, "बोरिंग पानी को अनदेखा करो, लेकिन कछुए पर अत्यधिक ध्यान दो।"

उपमा (Analogy): कल्पना कीजिए कि आप एक शहर के नक्शे को याद करने की कोशिश कर रहे हैं।

  • पुराना तरीका: आप फुटपाथ की हर एक दरार को याद करने की कोशिश करते हैं (बहुत अधिक जानकारी) या सिर्फ एक धुंधली फोटो देखते हैं (अपर्याप्त जानकारी)।
  • QuantSparse तरीका: आप मुख्य सड़कों को देखने के लिए एक छोटे नक्शे को देखते हैं (ग्लोबल), और फिर विशिष्ट कॉफी शॉपों को मार्क करने के लिए हाइलाइटर का उपयोग करते हैं (लोकल)। आपको पूरे शहर को याद किए बिना दोनों का सर्वश्रेष्ठ लाभ मिलता है।

2. "टाइम-ट्रैवलिंग ग्लू" (सेकंड-ऑर्डर स्पार्स अटेंशन रीपैरामीट्राइजेशन)

समस्या: वीडियो फ्रेम्स से बने होते हैं जो एक के बाद एक चलते हैं। यदि आप पिक्सल हटाते हैं (स्पारसिफिकेशन), तो आप वह "ग्लू" (गोंद) खो देते हैं जो मूवमेंट को एक साथ जोड़ता है। आमतौर पर, AI पिछले फ्रेम को देखकर गायब गोंद का अनुमान लगाने की कोशिश करता है। लेकिन क्योंकि फिल्म पहले से ही कंप्रेस (क्वांटाइजेशन) की गई है, इसलिए वह "गोंद" हर सेकंड थोड़ा बदल जाता है, जिससे अनुमान गलत हो जाता है।

समाधान: एडिटर को एहसास होता है कि भले ही "गोंद" बदलता है, लेकिन उसके बदलने का तरीका वास्तव में बहुत स्थिर होता है।

  • फर्स्ट-ऑर्डर (पुराना तरीका): "गोंद कल यहाँ था, इसलिए यह आज भी शायद यहीं होगा।" (कंप्रेशन नॉइज़ के कारण अक्सर गलत)।
  • सेकंड-ऑर्डर (नया तरीका): "गोंद कल इस विशिष्ट दिशा में चला था, और उस मूवमेंट में जो बदलाव आया, वह बहुत अनुमान योग्य है।"

उपमा: कल्पना कीजिए कि आप एक गलियारे में चल रहे हैं।

  • फर्स्ट-ऑर्डर: आप अपने अगले कदम का अनुमान वर्तमान स्थिति के आधार पर लगाते हैं। यदि फर्श फिसलन भरा है (कंप्रेशन नॉइज़), तो आप फिसल सकते हैं।
  • सेकंड-ऑर्डर: आप ध्यान देते हैं कि भले ही फर्श फिसलन भरा है, लेकिन आपके बाईं ओर फिसलने की प्रवृत्ति बहुत सुसंगत (consistent) है। इसलिए, आप उस सुसंगत पैटर्न के आधार पर अपनी चाल को एडजस्ट करते हैं। आप केवल अपनी स्थिति का अनुमान नहीं लगा रहे हैं; आप अपनी स्थिति में होने वाले बदलाव की भविष्यवाणी कर रहे हैं, जो बहुत अधिक स्थिर है।

इस "टाइम-ट्रैवलिंग ग्लू" का उपयोग करके, QuantSparse वीडियो के गायब हिस्सों को इतनी सटीकता से भर सकता है कि अंतिम परिणाम मूल, विशाल फिल्म के लगभग समान दिखता है।

🏆 परिणाम: जादुई नंबर

जब उन्होंने सबसे बड़े वीडियो मॉडल्स (जैसे HunyuanVideo और Wan2.1) पर इसका परीक्षण किया:

  • स्टोरेज: उन्होंने मॉडल के आकार को 3.8 गुना कम कर दिया (जैसे 50GB की हार्ड ड्राइव को 13GB में बदलना)।
  • गति: उन्होंने वीडियो जेनरेशन को 1.8 गुना तेज़ बना दिया।
  • गुणवत्ता: वीडियो की गुणवत्ता लग तक लगभग परफेक्ट रही। वास्तव में, कुछ टेस्ट में, यह अन्य कंप्रेस्ड तरीकों से बेहतर दिखा क्योंकि इसने महत्वपूर्ण विवरणों पर बहुत अच्छा ध्यान केंद्रित किया।

🎯 निष्कर्ष

QuantSparse एक मास्टर शेफ की तरह है जो एक विशाल, महंगे और धीरे पकने वाले भोज को बिना स्वाद खोए एक त्वरित, पोर्टेबल भोजन में बदल सकता है।

  • पहले: आपको AI वीडियो देखने के लिए सुपरकंप्यूटर की आवश्यकता थी।
  • अब: QuantSparse के साथ, हम इन उच्च-गुणवत्ता वाले वीडियो जनरेटर्स को बहुत छोटे, सस्ते उपकरणों पर चला सकते हैं, जिससे वे वास्तविक दुनिया के उपयोग (जैसे आपके फोन या वेब ब्राउज़र पर) के लिए तैयार हो जाते हैं।

यह AI के "असंभव त्रिकोण" को हल करता है: तेज़ + छोटा + उच्च गुणवत्ता। आमतौर पर, आप केवल दो ही चुन सकते हैं। QuantSparse साबित करता है कि आप तीनों पा सकते हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💻 cs →