← नवीनतम पेपर
💻 computer science

NABLA: Neighborhood Adaptive Block-Level Attention

यह शोध पत्र NABLA को प्रस्तुत करता है, जो वीडियो डिफ्यूजन ट्रांसफॉर्मर के लिए एक नवीन नेबरहुड एडेप्टिव ब्लॉक-लेवल अटेंशन मैकेनिज्म है, जो कस्टम ऑपरेटर डिज़ाइन की आवश्यकता के बिना उच्च जनरेटिव गुणवत्ता बनाए रखते हुए डायनेमिक स्पैरसिटी अडैप्टेशन के माध्यम से प्रशिक्षण और अनुमान को 2.7x तक महत्वपूर्ण रूप से तेज करता है।

मूल लेखक: Dmitrii Mikhailov, Aleksey Letunovskiy, Maria Kovaleva, Vladimir Arkhipkin, Vladimir Korviakov, Vladimir Polovnikov, Viacheslav Vasilev, Evelina Sidorova, Denis Dimitrov

प्रकाशित 2026-07-07
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Dmitrii Mikhailov, Aleksey Letunovskiy, Maria Kovaleva, Vladimir Arkhipkin, Vladimir Korviakov, Vladimir Polovnikov, Viacheslav Vasilev, Evelina Sidorova, Denis Dimitrov

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

बड़ी समस्या: "अति-सतर्क" शेफ (The Over-Attentive Chef)

कल्पना कीजिए कि आप एक विशाल दावत (एक उच्च-गुणवत्ता वाला वीडियो) के लिए एक जटिल, बहु-कोर्स भोजन बनाने की कोशिश कर रहे हैं। वर्तमान वीडियो जनरेशन में, "शेफ" (AI मॉडल) का एक बहुत सख्त नियम है: किसी भी एक व्यंजन को पकाने के लिए, उन्हें यह तय करने से पहले कि क्या मिलाना है, पूरी रसोई के हर एक घटक (ingredient) को एक-एक करके चखना होगा।

यदि रसोई में 1,000 सामग्रियां हैं, तो शेफ को 1,000 × 1,000 संयोजनों की जांच करनी होगी। इसे "फुल अटेंशन" (Full Attention) कहा जाता है।

  • परिणाम: रसोई में भीड़ हो जाती है, शेफ थक जाता है, और खाना परोसने में बहुत समय लगता है। हाई-डेफिनिशन वीडियो बनाना एक 100-कोर्स की दावत पकाने जैसा है; शेफ सामग्रियों को चखने में इतना समय बिता देता है कि वह कुछ पका ही नहीं पाता।

पुराना समाधान: "ग्रिड" का नियम (स्लाइडिंग टाइल अटेंशन)

चीजों को तेज करने के लिए, इंजीनियरों ने स्लाइडिंग टाइल अटेंशन (STA) नामक एक सरल नियम आजमाया।

  • उपमा: सब कुछ चखने के बजाय, शेफ रसोई को छोटे टाइल्स के एक ग्रिड में विभाजित करता है। वे केवल उसी टाइल के सामग्रियों को चखते हैं जिसमें वे खड़े हैं और उसके ठीक बगल वाले टाइल्स को।
  • समस्या: यह तेज़ तो है, लेकिन बहुत कठोर है। कभी-कभी, सबसे महत्वपूर्ण सामग्री दूसरे कमरे में हो सकती है (एक लंबी दूरी का कनेक्शन), लेकिन ग्रिड नियम कहता है, "नहीं, आप केवल उसी कमरे को देख सकते हैं जिसमें आप हैं।" इससे अजीब गलतियाँ होती हैं, जैसे कि शेफ सूप में नमक डालना भूल जाता है क्योंकि नमक की डिब्बी दूसरे टाइल में थी।

नया समाधान: NABLA (द "स्मार्ट स्काउट")

लेखक NABLA (नेबरहुड-एडेप्टिव ब्लॉक-लेवल अटेंशन) पेश करते हैं। NABLA को एक कठोर ग्रिड के रूप में नहीं, बल्कि एक स्मार्ट स्काउट (चतुर खोजकर्ता) के रूप में सोचें जो रसोई के ऊपर उड़ रहा है।

यहाँ बताया गया है कि NABLA तीन सरल चरणों में कैसे काम करता है:

  1. आकाशीय दृश्य (पूलिंग - Pooling): हर एक सामग्री को व्यक्तिगत रूप से देखने के बजाय, स्काउट रसोई को बड़े ब्लॉक्स (जैसे पड़ोस के मानचित्र को देखना) में देखता है। वे पूछते हैं, "अभी इस समय किस पड़ोस में सबसे महत्वपूर्ण सामग्रियां हैं?"
  2. स्मार्ट फ़िल्टर (CDF थ्रेशोल्ड): स्काउट इन पड़ोसों की एक सूची बनाता है और उन्हें महत्व के आधार पर रैंक करता है। वे एक "कट-ऑफ लाइन" (गणितीय थ्रेशोल्ड) का उपयोग करके निर्णय लेते हैं: "हम केवल उन शीर्ष 20% पड़ोसों पर ध्यान देंगे जो सबसे अधिक मायने रखते हैं।"
    • यह क्यों शानदार है: यदि वीडियो एक शांत परिदृश्य (landscape) है, तो स्काउट आकाश पर ध्यान केंद्रित करता है। यदि यह एक अराजक एक्शन सीन है, तो स्काउट चलती हुई कारों पर ध्यान केंद्रित करता है। यह स्वचालित रूप से कंटेंट के अनुसार खुद को ढाल लेता है।
  3. सुरक्षा जाल (STA के साथ यूनियन): यह सुनिश्चित करने के लिए कि स्काउट पड़ोस के किनारों पर कुछ भी महत्वपूर्ण न छोड़ दे (जिससे धुंधली रेखाएं आ सकती हैं), NABLA अपने स्मार्ट लिस्ट को पुराने "ग्रिड" नियम के साथ जोड़ता है। यह कहता है, "हम उन शीर्ष पड़ोसों को देखेंगे जिन्हें स्काउट ने पाया है, साथ ही उनके तुरंत बगल वाले पड़ोस को भी, ताकि सुरक्षित रहा जा सके।"

यह क्यों मायने रखता है (परिणाम)

पेपर का दावा है कि यह नया "स्मार्ट स्काउट" दृष्टिकोण दो कारणों से गेम-चेंजर है:

  • यह बहुत तेज़ है:

    • इन्फरेंस (वीडियो देखना): जब एक उच्च-गुणवत्ता वाला 720p वीडियो बनाया जाता है, तो NABLA पुराने तरीके की तुलना में 2.7 गुना तेज़ होता है। यह ऐसा है जैसे शेफ बिना खाने का स्वाद खराब किए, आधे समय में दावत परोस देता है।
    • ट्रेनिंग (रेसिपी सीखना): जब शुरू से एक नया AI मॉडल सिखाया जाता है, तो NABLA सीखने की प्रक्रिया को 1.46 गुना तेज़ बना देता है। शेफ नई रेसिपी बहुत जल्दी सीख जाता है।

  • यह गुणवत्ता से समझौता नहीं करता:

    • आमतौर पर, जब आप चीजों को तेज़ करते हैं, तो गुणवत्ता गिर जाती है (सूप बेस्वाद हो जाता है)। लेकिन लेखकों ने सख्त जजों (CLIP, VBench और FVD जैसे मेट्रिक्स) का उपयोग करके NABLA का परीक्षण धीमे, पूर्ण तरीके के विरुद्ध किया।
    • फैसला: NABLA द्वारा बनाए गए वीडियो धीमे, पूर्ण वीडियो के लगभग समान थे। "स्मार्ट स्काउट" ने कोई भी महत्वपूर्ण सामग्री नहीं छोड़ी।
    • मानवीय परीक्षण: वास्तविक लोगों ने वीडियो को अगल-बगल देखा और वे "फास्ट NABLA" वीडियो और "स्लो परफेक्ट" वीडियो के बीच अंतर नहीं कर सके।

निचोड़ (The Bottom Line)

NABLA एक तरीका है जिससे AI वीडियो जनरेशन को तेज़ बनाया जा सकता है बिना उसे मूर्ख बनाए। यह AI को वीडियो के अप्रासंगिक हिस्सों को देखने में समय बर्बाद करने से रोकता है और अपनी ऊर्जा केवल वहीं केंद्रित करता है जहाँ इसकी आवश्यकता है, जबकि एक सुरक्षा जाल भी बनाए रखता है ताकि अंतिम चित्र स्पष्ट और जुड़ा हुआ दिखे।

मुख्य बात: अब आपको गति और गुणवत्ता के बीच किसी एक को चुनने की ज़रूरत नहीं है। NABLA आपको दोनों देता है क्योंकि यह AI को एक कठोर, अत्यधिक काम करने वाले के बजाय एक स्मार्ट, अनुकूलन योग्य पर्यवेक्षक बनने देता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💻 cs →