🤖 machine learning

Adaptive Block Diffusion: Resolving Training-Inference Mismatch in Diffusion Language Models

यह शोध पत्र एडेप्टिव ब्लॉक डिफ्यूजन (ABD) प्रस्तुत करता है, जो एक ऐसी विधि है जो प्रीफिक्स-विंडो कॉन्फ़िगरेशन के वितरण पर डिनोइजिंग को अनुकूलित करके डिफ्यूजन लैंग्वेज मॉडल्स में ट्रेनिंग-इन्फरेंस मिसमैच को हल करती है, जिससे एक एकल मॉडल बिना किसी आर्किटेक्चरल बदलाव के मनमाने डिकोडिंग स्ट्रैटेजीज पर मजबूती से सामान्यीकरण करने में सक्षम हो जाता है।

मूल लेखक: Gagan Jain

प्रकाशित 2026-06-30

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Gagan Jain

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Adaptive Block Diffusion" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।

समस्या: "कठोर ब्लूप्रिंट" बनाम "वास्तविक दुनिया"

कल्पना कीजिए कि आप एक रोबोट को कहानी लिखना सिखा रहे हैं।

Autoregressive मॉडल्स (पुराना तरीका) उस छात्र की तरह हैं जो एक बार में एक शब्द लिखता है, और अगला शब्द लिखने के लिए पिछले शब्द के पूरा होने का इंतज़ार करता है। यह बहुत सटीक है, लेकिन धीमा है।
Diffusion मॉडल्स (नया तरीका) उस छात्र की तरह हैं जो एक ऐसे पन्ने से शुरुआत करता है जो बड़बड़ाहट (gibberish) से भरा है और फिर धीरे-धीरे खराब हिस्सों को मिटाकर कहानी को प्रकट करता है। यह बहुत तेज़ है क्योंकि वे एक साथ कई शब्दों को ठीक कर सकते हैं।

विशिष्ट समस्या:
हालिया "Block Diffusion" मॉडल्स ने दोनों दुनियाओं का सर्वश्रेष्ठ पाने की कोशिश की। उन्होंने कहानी को ब्लॉक्स (शब्दों के समूह) में ठीक करने का निर्णय लिया। उदाहरण के लिए, वे कह सकते हैं, "हम केवल शब्द 1–10 को ठीक करेंगे, फिर 11–20 को, फिर 21–30 को।"

चुनौती:
शोधकर्ताओं ने पाया कि ये मॉडल्स केवल उसी विशिष्ट कठोर पैटर्न (1–10, 11–20) पर प्रशिक्षित (train) किए गए थे।

उदाहरण: कल्पना कीजिए कि आपने केवल एक सीधी, खाली हाईवे पर गाड़ी चलाना सीखा जहाँ लेन बिल्कुल समान दूरी पर हैं। आप उस विशिष्ट ट्रैक के विशेषज्ञ बन जाते हैं। लेकिन फिर, परीक्षा के दिन, आपसे एक घुमावदार पहाड़ी सड़क पर गाड़ी चलाने के लिए कहा जाता है जिसमें गड्ढे और अलग-अलग चौड़ाई वाली लेन हैं। क्योंकि आपने केवल "सीधी हाईवे" वाले पैटर्न का अभ्यास किया था, आप दुर्घटनाग्रस्त हो जाते हैं।
पेपर में: जब इन मॉडल्स ने अलग ब्लॉक साइज (जैसे कि 10 के बजाय 5 शब्द एक बार में ठीक करना) का उपयोग करके टेक्स्ट जेनरेट करने की कोशिश की, तो उनका प्रदर्शन गिर गया। वे उन "ऑफ-ग्रिड" स्थितियों को नहीं संभाल सके जिनका उन्होंने अभ्यास नहीं किया था।

समाधान: "Adaptive Block Diffusion" (ABD)

लेखक एक नई प्रशिक्षण विधि प्रस्तावित करते हैं जिसे Adaptive Block Diffusion (ABD) कहा जाता है।

उदाहरण:
रोबोट को केवल सीधी हाईवे पर चलाना सिखाने के बजाय, आप उसे एक ऐसी ड्राइविंग स्कूल में ले जाते हैं जो उसके सामने रैंडम परिदृश्य (random scenarios) फेंकता है।

कभी, वह एक बार में 1 शब्द को ठीक करने का अभ्यास करता है।
कभी, वह 10 शब्दों को ठीक करने का अभ्यास करता है।
कभी, वह 50 शब्दों को ठीक करता है।
कभी, "ब्लॉक्स" अलग-अलग जगहों से शुरू होते हैं।

इस हर संभव ब्लॉक साइज के रैंडम मिश्रण पर प्रशिक्षण देकर, रोबोट टेक्स्ट को ठीक करने का सामान्य कौशल सीख जाता है, न कि केवल एक विशिष्ट पैटर्न को रट लेता है।

यह कैसे काम करता है (तंत्र/Mechanics)

Stochastic Variable: पेपर "ब्लॉक साइज" (कितने शब्द हम एक बार में ठीक करते हैं) को एक रैंडम वेरिएबल के रूप में मानता है। प्रशिक्षण के दौरान, मॉडल को नहीं पता होता कि उसे अगला कौन सा ब्लॉक साइज मिलेगा। उसे बस हर स्थिति के लिए तैयार रहना होता है।
कोई नया हार्डवेयर नहीं: आपको नया रोबोट बनाने की ज़रूरत नहीं है। आप बस करिकुलम (प्रशिक्षण डेटा वितरण) को बदलते हैं। मॉडल का आर्किटेक्चर वही रहता है; यह बस अधिक लचीला बनना सीख जाता है।
गारंटी: पेपर गणितीय रूप से सिद्ध करता है कि यदि आप मॉडल को ब्लॉक साइज की एक विस्तृत विविधता पर प्रशिक्षित करते हैं, तो यह बाद में उपयोग किए जाने वाले किसी भी ब्लॉक साइज पर पूरी तरह से काम करेगा, बशर्ते कि वह साइज प्रशिक्षण मिश्रण में शामिल था।

परिणाम: यह क्यों महत्वपूर्ण है

उन्होंने इसे दो प्रमुख भाषा डेटासेट्स (LM1B और OpenWebText) पर टेस्ट किया और पाया:

अब कोई क्रैश नहीं: पुराने "फिक्स्ड-ब्लॉक" मॉडल्स के विपरीत जो उन ब्लॉक साइज पर विफल हो जाते थे जिन्हें उन्होंने नहीं देखा था, ABD मॉडल सभी साइज पर सुचारू रूप से काम करता है।
"मोनोटोनिक" संबंध: एक आदर्श दुनिया में, यदि आप ब्लॉक्स को छोटा करते हैं (एक बार में कम शब्द ठीक करना), तो गुणवत्ता थोड़ी बेहतर होनी चाहिए (धीमी, सटीक ऑटोरिग्रेसिव शैली के करीब)। पुराने मॉडल्स इस नियम को तोड़ते थे; साइज बदलने पर वे खराब हो जाते थे। ABD इस नियम का पूरी तरह से पालन करता है: छोटे ब्लॉक्स = बेहतर गुणवत्ता, बड़े ब्लॉक्स = तेज़ गति।
एक ही मॉडल सबके लिए: आपको "फास्ट मोड" के लिए एक अलग मॉडल और "हाई-क्वालिटी मोड" के लिए दूसरा मॉडल प्रशिक्षित करने की आवश्यकता नहीं है। एक ही ABD मॉडल दोनों कर सकता है, और यह अपने विशिष्ट कार्यों के लिए विशेष मॉडल्स के समान ही प्रदर्शन करता है।

संक्षेप में

पुराना तरीका: एक मॉडल को केवल एक विशिष्ट ब्लॉक साइज के साथ काम करने के लिए प्रशिक्षित करना। यह एक विशेषज्ञ है जो नियमों के बदलते ही विफल हो जाता है।
नया तरीका (ABD): मॉडल को सभी ब्लॉक साइज के रैंडम मिश्रण पर प्रशिक्षित करना। यह एक सामान्यज्ञ (generalist) बन जाता है जो बिना गुणवत्ता खोए किसी भी स्थिति को संभाल सकता है।

पेपर का दावा है कि यह मॉडल के प्रशिक्षण और उसके वास्तविक उपयोग के बीच के अंतर को हल करता है, जिससे बिना किसी जटिल आर्किटेक्चरल बदलाव के डिफ्यूजन लैंग्वेज मॉडल्स अधिक मजबूत और बहुमुखी बन जाते हैं।

तकनीकी सारांश: एडेप्टिव ब्लॉक डिफ्यूजन (ABD)

1. समस्या विवरण

डिफ्यूजन लैंग्वेज मॉडल्स (DLMs) ऑटोरिग्रेसिव (AR) मॉडल्स के एक आशाजनक विकल्प के रूप में उभर रहे हैं क्योंकि वे समानांतर डिकोडिंग (parallel decoding) को सक्षम करते हैं, जिससे संभावित रूप से इन्फरेंस लेटेंसी (inference latency) कम हो सकती है। हालाँकि, हालिया स्ट्रक्चर्ड डिफ्यूजन दृष्टिकोण, जैसे कि मास्क्ड डिस्क्रीट डिफ्यूजन लैंग्वेज मॉडल्स (MDLM) और ब्लॉक डिफ्यूजन (जैसे, BD3LM), निश्चित कॉन्टेक्स्ट संरचनाओं (fixed context structures) पर निर्भर करते हैं। इन मॉडल्स में, जिन्हें डिनोइज (denoise) किया जाना है, टोकन्स का सेट एक पूर्व निर्धारित पैटर्न (जैसे, निश्चित ब्लॉक आकार और अलाइन्ड प्रीफिक्स) का पालन करता है।

यह डिज़ाइन एक मौलिक ट्रेनिंग-इन्फरेंस मिसमैच (training–inference mismatch) पैदा करता है:

ट्रेनिंग: मॉडल एक संकीर्ण, निश्चित उपसमुच्चय (fixed subset) के कॉन्फ़िगरेशन (जिसे "ट्रेनिंग ग्रिड" कहा जाता है) पर डिनोइजिंग रिस्क को ऑप्टिमाइज़ करता है।
इन्फरेंस: व्यावहारिक डिकोडिंग रणनीतियों में अक्सर मनमाने प्रीफिक्स लेंथ और विंडो साइज़ (जैसे, स्लाइडिंग विंडोज़, एडेप्टिव ब्लॉक साइज़, या स्ट्रीमिंग) की आवश्यकता होती है।

जब फिक्स्ड-ब्लॉक मॉडल्स को उनके ट्रेनिंग सपोर्ट के बाहर के कॉन्फ़िगरेशन ("ऑफ-ग्रिड") पर इवैल्यूएट किया जाता है, तो वे परप्लेक्सिटी (perplexity) में भारी गिरावट और अस्थिर जनरेशन व्यवहार प्रदर्शित करते हैं। वे एक सामान्य डिनोइजिंग प्रक्रिया सीखने में विफल रहते हैं, बल्कि केवल उन विशिष्ट कॉन्फ़िगरेशनों के लिए विशेषज्ञता हासिल कर लेते हैं जो ट्रेनिंग के दौरान देखे गए थे। यह पेपर तर्क देता है कि एक सिंगल डिफ्यूजन मॉडल डिकोडिंग कॉन्फ़िगरेशन के प्रति इनवेरिएंट (invariant) रहने के लिए इस मिसमैच को समाप्त करने में सक्षम होना चाहिए।

2. कार्यप्रणाली: एडेप्टिव ब्लॉक डिफ्यूजन (ABD)

लेखक एडेप्टिव ब्लॉक डिफ्यूजन (ABD) प्रस्तावित करते हैं, जो डिनोइजिंग कॉन्फ़िगरेशन को एक फिक्स्ड हाइपरपैरामीटर के बजाय एक स्टोकेस्टिक वेरिएबल (stochastic variable) मानकर ट्रेनिंग-इन्फरेंस मिसमैच को हल करता है।

मुख्य तंत्र

फिक्स्ड ब्लॉक-अलाइन्ड उपसमुच्चय तक सीमित रहने के बजाय, ABD एक कॉन्फ़िगरेशन स्पेस $\Omega := \{(k, \ell) \mid 0 \le k \le L-1, 1 \le \ell \le L-k\}$ को परिभाषित करता है, जहाँ $k$ प्रीफिक्स लेंथ है और $\ell$ डिनोइजिंग विंडो लेंथ है।

स्टोकेस्टिक ट्रेनिंग: मॉडल को $\Omega$ पर परिभाषित एक वितरण $\pi$ के ऊपर ट्रेन किया जाता है। प्रत्येक ट्रेनिंग स्टेप पर, $\pi$ से एक कॉन्फ़िगरेशन $(k, \ell)$ सैंपल किया जाता है।
डिनोइजिंग प्रक्रिया: विंडो $S(k, \ell) = \{k+1, \dots, k+\ell\}$ द्वारा इंडेक्स किए गए टोकन्स को फॉरवर्ड डिफ्यूजन प्रक्रिया द्वारा करप्ट (corrupt) किया जाता है, जबकि प्रीफिक्स $x_{1:k}$ क्लीन रहता है और कंडीशनिंग कॉन्टेक्स्ट के रूप में कार्य करता है।
ऑब्जेक्टिव: ट्रेनिंग ऑब्जेक्टिव $\pi$ पर वितरण के ऊपर अपेक्षित डिनोइजिंग रिस्क को कम करता है:
$\mathcal{L}_{ABD}(\theta) = \mathbb{E}_{(k,\ell)\sim\pi, x_0\sim D, t} \left[ \sum_{i \in S(k,\ell)} \text{KL}\left(q(x^i_0 | x^i_t, t) \parallel p_\theta(x^i_0 | x^i_t, x^i_{1:k}, t)\right) \right]$

कार्यान्वयन विवरण

आर्किटेक्चर: ABD के लिए अंतर्निहित डिफ्यूजन मॉडल (जैसे, ट्रांसफार्मर) में कोई आर्किटेक्चरल बदलाव की आवश्यकता नहीं है। यह केवल ट्रेनिंग के दौरान सामना किए जाने वाले कॉन्फ़िगरेशन के वितरण को संशोधित करता है।
अटेंशन मास्किंग: प्रत्येक स्टेप के लिए एक डायनेमिक अटेंशन मास्क बनाया जाता है जो सैंपल किए गए $(k, \ell)$ पर आधारित होता है। यह मास्क सुनिश्चित करता है कि नॉइजी टोकन्स उसी ब्लॉक के भीतर अन्य नॉइजी टोकन्स और पिछले ब्लॉक्स के क्लीन टोकन्स पर ही अटेंड (attend) करें, जबकि क्लीन टोकन्स पिछले क्लीन टोकन्स के लिए कॉज़ल (causal) रूप से अटेंड करते हैं।
वितरण का चयन: पेपर $\pi$ के लिए विभिन्न वितरणों (कैटेगोरिकल एक्सपोनेंशियल, यूनिफॉर्म, लॉग-नॉर्मल) का अन्वेषण करता है। अपने प्राथमिक प्रयोगों में, वे दो की घातों (powers of two) $\{1, 2, 4, \dots, 128\}$ पर एक कैटेगोरिकल वितरण का उपयोग करते हैं जिसमें एक्सपोनेंशियल डिके (exponential decay) होता है, जो छोटे ब्लॉक साइज़ को प्राथमिकता देता है।

3. सैद्धांतिक विश्लेषण

पेपर ट्रेनिंग वितरण के सपोर्ट और जनरलाइजेशन प्रदर्शन के बीच संबंध को जोड़ने वाले औपचारिक प्रमाण प्रदान करता है।

रिस्क मिनिमाइजेशन: लेखक कॉन्फ़िगरेशन स्पेस $\Omega$ पर रिस्क मिनिमाइजेशन के रूप में डिफ्यूजन ट्रेनिंग को औपचारिक रूप देते हैं।
थ्योरम 1 (ऑप्टिमैलिटी): ABD ऑब्जेक्टिव का कोई भी ग्लोबल मिनिमाइज़र $\pi$ -लगभग हर (almost every) कॉन्फ़िगरेशन $(k, \ell)$ के लिए इष्टतम डिनोइजिंग प्रदर्शन प्राप्त करता है। $\pi$ के सपोर्ट से बाहर के कॉन्फ़िगरेशन अनियंत्रित रहते हैं।
थ्योरम 2 (ट्रेनिंग–इन्फरेंस एलाइनमेंट): यदि इन्फरेंस पॉलिसी एक वितरण $\Pi_{inf}$ प्रेरित करती है जहाँ $\Pi_{inf} \ll \pi$ (अर्थात, इन्फरेंस सपोर्ट ट्रेनिंग सपोर्ट के भीतर है), तो $\pi$ के तहत रिस्क को कम करने के लिए प्रशिक्षित मॉडल इन्फरेंस रिस्क के लिए भी एक ग्लोबल मिनिमाइज़र है।
निहितार्थ: जनरलाइजेशन मॉडल आर्किटेक्चर का गुण नहीं है, बल्कि ट्रेनिंग वितरण के सपोर्ट कवरेज (support coverage) का गुण है। फिक्स्ड-ब्लॉक मॉडल्स विफल होते हैं क्योंकि $\Pi_{inf} \not\ll \pi_{fixed}$ किसी भी डिकोडिंग रणनीति के लिए संभव नहीं है।

4. प्रयोगात्मक परिणाम

लेखक LM1B (वन बिलियन वर्ड) और OpenWebText (OWT) बेंचमार्क पर ABD का मूल्यांकन करते हैं, और इसकी तुलना AR, MDLM, SEDD और फिक्स्ड-ब्लॉक स्पेशलिस्ट (BD3LM) से करते हैं।

मुख्य निष्कर्ष

स्ट्रक्चरल इनवेरिएंस (Structural Invariance):
- फिक्स्ड-ब्लॉक स्पेशलिस्ट (जैसे, ब्लॉक साइज़ 4 पर प्रशिक्षित BD3LM) अपने ट्रेनिंग कॉन्फ़िगरेशन से बड़े ब्लॉक साइज़ पर मूल्यांकन किए जाने पर परप्लेक्सिटी में तीव्र उछाल दिखाते हैं।
- ABD पूरे रेंज में ब्लॉक साइज़ और परप्लेक्सिटी के बीच एक मोनोटोनिक रिलेशनशिप (monotonic relationship) को रिकवर करता है। जैसे-जैसे ब्लॉक साइज़ घटता है (ऑटोरिग्रेसिव प्रिसिजन के करीब पहुँचता है), परप्लेक्सिटी बिना किसी ऑफ-ग्रिड कोलैप्स के निरंतर सुधरती है।
परफॉर्मेंस पैरिटी (Performance Parity):
- एक सिंगल ABD मॉडल अपने विशिष्ट "होम" कॉन्फ़िगरेशन पर फिक्स्ड-ब्लॉक स्पेशलिस्ट के बराबर या उनसे बेहतर प्रदर्शन करता है। उदाहरण के लिए, LM1B पर, व्यापक वितरण पर प्रशिक्षित ABD, विशेष रूप से उन साइज़ों के लिए प्रशिक्षित BD3LM स्पेशलिस्ट की तुलना में ब्लॉक साइज़ 4 और 16 पर प्रतिस्पर्धी परप्लेक्सिटी प्राप्त करता है।
ज़ीरो-शॉट जनरलाइजेशन (Zero-Shot Generalization):
- होल्ड-आउट बेंचमार्क (PTB, Wikitext, Lambada, आदि) पर, ABD मजबूत जनरलाइजेशन प्रदर्शित करता है। विशेष रूप से, ब्लॉक साइज़ 4 पर ABD, वैज्ञानिक डोमेन (Pubmed, Arxiv) पर BD3LM स्पेशलिस्ट से बेहतर प्रदर्शन करता है, जो बताता है कि मल्टी-स्केल ट्रेनिंग डोमेन-शिफ्ट रोबस्टनेस को बेहतर बनाती है।
जेनरेटिव क्वालिटी:
- जेनेरेटिव परप्लेक्सिटी (GPT2-Large के माध्यम से मापी गई) के मामले में, ABD समान कम्प्यूटेशनल लागत (NFEs) पर सबसे मजबूत फिक्स्ड-ब्लॉक स्पेशलिस्ट की गुणवत्ता से मेल खाता है, जो पुष्टि करता है कि व्यापक ट्रेनिंग सैंपल क्वालिटी को कम नहीं करती है।

एब्लेशन स्टडीज (Ablation Studies)

डिस्ट्रीब्यूशन सेंसिटिविटी: $\pi$ का चुनाव अभ्यासकर्ताओं को विभिन्न स्केल्स के बीच प्रदर्शन का ट्रेड-ऑफ करने की अनुमति देता है। एक्सपोनेंशियल वेटिंग छोटे ब्लॉक्स को प्राथमिकता देती है; यूनिफॉर्म वेटिंग बड़े ब्लॉक्स को प्राथमिकता देती है; लॉग-नॉर्मल एक संतुलन प्रदान करता है।
ट्रेनिंग डायनेमिक्स: मल्टी-स्केल ट्रेनिंग एक स्थिर रेगुलराइज़र के रूप में कार्य करती है, जो सभी ब्लॉक साइज़ पर एक साथ प्रदर्शन में सुधार करती है बजाय इसके कि वह किसी एक के लिए विशेषज्ञता हासिल करे।
डिस्क्रीट बनाम कंटीन्यूअस: दो की घातों (powers of two) पर डिस्क्रीट वितरण को कंटीन्यूअस वितरण की तुलना में अधिक व्यवहार्य और प्रदर्शनकारी पाया गया, जो संभवतः उनके द्वारा दर्शाए गए विशिष्ट ऑपरेटिंग पॉइंट्स के कारण है।

5. महत्व और दावे

यह पेपर दावा करता है कि कॉन्फ़िगरेशन सपोर्ट डिफ्यूजन लैंग्वेज मॉडल्स में जनरलाइजेशन को नियंत्रित करने वाला केंद्रीय कारक है। फिक्स्ड आर्किटेक्चरल बाधाओं के बजाय ट्रेनिंग कॉन्फ़िगरेशन के वितरण पर ध्यान केंद्रित करके, ABD एक सिद्धांत आधारित विकल्प स्थापित करता है।

मिसमैच का समाधान: ABD सफलतापूर्वक ट्रेनिंग-इन्फरेंस मिसमैच को समाप्त करता है, जिससे एक सिंगल मॉडल बिना किसी आर्किटेक्चरल बदलाव या इन्फरेंस-टाइम ह्यूरिस्टिक्स के मनमाने डिकोडिंग स्ट्रैटेजी (स्लाइडिंग विंडोज़, एडेप्टिव ब्लॉक्स) को हैंडल कर सकता है।
यूनिफाइड मॉडल: यह प्रदर्शित करता है कि एक सिंगल मॉडल स्ट्रक्चरल इनवेरिएंस प्राप्त कर सकता है, जो सभी डिकोडिंग स्केल्स पर उच्च गुणवत्ता बनाए रखता है और ब्लॉक साइज़ और परप्लेक्सिटी के बीच अपेक्षित मोनोटोनिक रिलेशनशिप को रिकवर करता है।
सीमाएँ: लेखक विनम्रतापूर्वक नोट करते हैं कि प्रदर्शन अभी भी $\pi$ के चुनाव पर निर्भर है (जो स्केल्स के बीच ट्रेड-ऑफ को निर्धारित करता है) और इन्फरेंस एफिशिएंसी (टेस्ट के समय इष्टतम पॉलिसी चुनना) एक खुला प्रश्न बना हुआ है। इनके सैद्धांतिक प्रमाण सपोर्ट कवरेज पर आधारित हैं और वे फाइनाइट-सैंपल बाउंड्स (finite-sample bounds) प्रदान नहीं करते हैं।

निष्कर्षतः, एडेप्टिव ब्लॉक डिफ्यूजन एक मजबूत ढांचा प्रदान करता है जो डिफ्यूजन लैंग्वेज मॉडल्स को डिकोडिंग कॉन्फ़िगरेशन के प्रति इनवेरिएंट बनाता है, जो वर्तमान स्ट्रक्चर्ड डिफ्यूजन दृष्टिकोणों की एक महत्वपूर्ण सीमा को संबोधित करता है।