💬 NLP

Diffusion Language Model Parallel Decoding via Product-of-Experts Bridge

यह शोध पत्र PoE-Bridge प्रस्तुत करता है, जो एक नवीन डिकोडिंग फ्रेमवर्क है जो समानांतर ड्राफ्टिंग, रिजेक्शन सैंपलिंग और इम्पोर्टेंस सैंपलिंग को कुशलतापूर्वक संयोजित करने के लिए एक मध्यवर्ती प्रोडक्ट-ऑफ-एक्सपर्ट्स वितरण का लाभ उठाकर डिफ्यूजन लैंग्वेज मॉडल्स को महत्वपूर्ण रूप से त्वरित करता है और ऑटोरिग्रेसिव-स्तर की गुणवत्ता को पुनः प्राप्त करता है।

मूल लेखक: Juntong Shi, Brian L. Trippe, Jure Leskovec, Stefano Ermon, Minkai Xu

प्रकाशित 2026-06-09

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Juntong Shi, Brian L. Trippe, Jure Leskovec, Stefano Ermon, Minkai Xu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक आदर्श कहानी लिखने की कोशिश कर रहे हैं, लेकिन आपके पास मदद के लिए दो बहुत अलग तरह के सहायक हैं।

आत्मकथाकार (The AR Model)
सबसे पहले, आपके पास "आत्मकथाकार" है। यह सहायक अविश्वसनीय रूप से बुद्धिमान है और सटीक, तार्किक वाक्य लिखता है। हालाँकि, यह बहुत धीमा है क्योंकि यह एक बार में एक शब्द लिखता है, जो पूरी तरह से बाएं से दाएं की ओर चलता है। यह आगे का नहीं सोच सकता; इसे शब्द #1 पूरा करना होगा इससे पहले कि यह शब्द #2 शुरू कर सके। यह एक पारंपरिक AI मॉडल (Autoregressive या AR) की तरह है। यह उच्च गुणवत्ता वाला है, लेकिन यह गति के लिए एक बाधा (bottleneck) है।

स्वप्नद्रष्टा (The Dreamer - The Diffusion Model)
फिर, "स्वप्नद्रष्टा" है। यह एक तेज़ विचारक है जो एक पूरे पैराग्राफ को देख सकता है और एक ही बार में अगले कुछ शब्दों का अनुमान लगा सकता है। यह एक पल में पूरा वाक्य लिख सकता है। यह एक "डिफ्यूजन लैंग्वेज मॉडल" (DLM) है। समस्या यह है कि क्योंकि यह बहुत तेज़ है और सब कुछ एक साथ देखता है, इसलिए यह अक्सर तार्किक गलतियाँ करता है। यह कह सकता है, "बिल्ली चाँद पर बैठी थी," क्योंकि इसने यह जाँच नहीं किया कि "बैठी" और "चाँद" उस विशिष्ट क्रम में एक साथ फिट बैठते हैं या नहीं। यह तेज़ है, लेकिन इसकी गुणवत्ता कम है।

पुराना तरीका: "अनुमान और जाँच" की समस्या
पहले, शोधकर्ताओं ने इन दोनों को मिलाने की कोशिश की जहाँ वे स्वप्नद्रष्टा को एक पूरा पैराग्राफ जल्दी से लिखने देते थे, और फिर आत्मकथाकार से उसकी जाँच करने के लिए कहते थे।

समस्या: स्वप्नद्रष्टा की लेखन शैली आत्मकथाकार से इतनी अलग है कि आत्मकथाकार लगभग हर चीज़ को खारिज कर देता है। यह एक शेक्सपियर के कवि से एक स्लैंग (slang) से भरे टेक्स्ट मैसेज को चेक करने के लिए कहने जैसा है; वह लगभग हर शब्द को खारिज कर देता है। इस प्रक्रिया के कारण यह फिर से धीमा हो जाता है क्योंकि उन्हें बार-बार छोटे-छोटे हिस्सों को फिर से लिखना पड़ता है।

नया समाधान: PoE-Bridge
यह पेपर एक नई विधि पेश करता है जिसे PoE-Bridge (Product-of-Experts Bridge) कहा जाता है। इसे तेज़ स्वप्नद्रष्टा और धीमे आत्मकथाकार के बीच एक "मध्यम मार्ग का पुल" बनाने के रूप में समझें।

यह चरण-दर-चरण इस प्रकार काम करता है:

स्वप्नद्रष्टा ड्राफ्ट तैयार करता है: तेज़ स्वप्नद्रष्टा एक पूरे टेक्स्ट के हिस्से को समानांतर (एक साथ) लिखता है।
द ब्रिज (मध्यम मार्ग): आत्मकथाकार से स्वप्नद्रष्टा के अनियंत्रित ड्राफ्ट को सीधे जाँचने के लिए कहने के बजाय, सिस्टम एक "ब्रिज" संस्करण बनाता है। यह ब्रिज एक मिश्रण है: यह स्वप्नद्रष्टा की गति को बनाए रखता है लेकिन इसमें आत्मकथाकार का पर्याप्त तर्क भी जोड़ता है ताकि टेक्स्ट समझ में आने योग्य बन सके।
- उपमा: कल्पना कीजिए कि स्वप्नद्रष्टा एक कच्चा स्केच बनाता है। ब्रिज एक "रफ ड्राफ्ट" की तरह है जो स्केच की तुलना में थोड़ा अधिक परिष्कृत है लेकिन अभी तक एक पूर्ण पेंटिंग नहीं बना है।
पहली जाँच (Rejection Sampling): सिस्टम स्वप्नद्रष्टा के ड्राफ्ट की इस ब्रिज के विरुद्ध जाँच करता है। चूंकि ब्रिज स्वप्नद्रष्टा के समान है, इसलिए स्वप्नद्रष्टा के शब्द जाँच में बहुत अधिक बार पास हो जाते हैं। सिस्टम तुरंत टेक्स्ट के एक लंबे हिस्से को स्वीकार कर लेता है।
दूसरी जाँच (Importance Sampling): अब, सिस्टम उस स्वीकृत हिस्से को लेता है और अंतिम "पॉलिश" करता है ताकि यह सुनिश्चित हो सके कि यह आत्मकथाकार के उच्च मानकों से मेल खाता है। क्योंकि टेक्स्ट पहले से ही मानक के करीब है (ब्रिज की मदद से), यह अंतिम पॉलिश आसान और तेज़ है।

यह एक बड़ी बात क्यों है?

गति: यह स्वप्नद्रष्टा की सुपर-स्पीड को बनाए रखता है। पेपर का दावा है कि यह मानक धीमे तरीके का उपयोग करने वाले डिफ्यूजन मॉडल की तुलना में 5 गुना तेज़ है।
गुणवत्ता: यह स्वप्नद्रष्टा की गलतियों को इतनी अच्छी तरह से ठीक करता है कि अंतिम परिणाम धीमे, पूर्ण आत्मकथाकार जितना ही 95% अच्छा होता है।
"इलास्टिक विंडो" (The Elastic Window): पेपर एक स्मार्ट ट्रिक का भी उल्लेख करता है जिसे "इलास्टिक रिजेक्शन विंडो" कहा जाता है। कल्पना कीजिए कि आप वस्तुओं की एक लंबी सूची की जाँच कर रहे हैं। यदि आप जानते हैं कि पहले कुछ गलत हैं, तो आप बाकी की सूची की जाँच करने में समय बर्बाद नहीं करते। यह विधि जाँच को वहीं रोक देती है जहाँ गलती मिलती है, जिससे समय और ऊर्जा बचती है।

परिणाम
लेखकों ने कठिन गणित और कोडिंग समस्याओं पर इसका परीक्षण किया। उन्होंने पाया कि PoE-Bridge दोनों दुनियाओं का सर्वश्रेष्ठ हिस्सा प्राप्त करता है: यह स्वप्नद्रष्टा की तरह तेज़ लिखता है लेकिन आत्मकथाकार की सटीकता के साथ। यह उस समस्या को हल करता है जहाँ तेज़ AI आमतौर पर "मूर्ख" था और स्मार्ट AI आमतौर पर "धीमा" था।

संक्षेप में: उन्होंने एक "अनुवादक" (ब्रिज) बनाया है जो एक तेज़, अव्यवस्थित लेखक और एक धीमे, पूर्ण लेखक को बिना लड़े एक साथ काम करने देता है, जिसके परिणामस्वरूप टेक्स्ट तेज़ उत्पादन और उच्च गुणवत्ता दोनों वाला होता है।

तकनीकी सारांश: प्रोडक्ट-ऑफ-एक्सपर्ट्स ब्रिज के माध्यम से डिफ्यूजन लैंग्वेज मॉडल पैरेलल डिकोडिंग

समस्या विवरण
डिफ्यूजन लैंग्वेज मॉडल्स (DLMs) ऑटोरिग्रेसिव (AR) मॉडल्स के एक आशाजनक विकल्प के रूप में पेश आते हैं, जो पैरेलल डिकोडिंग को सक्षम करते हैं, जिससे सैद्धांतिक रूप से वे अनुक्रमिक AR मॉडल्स की तुलना में बहुत कम समय में संपूर्ण अनुक्रमों (sequences) को उत्पन्न कर सकते हैं। हालांकि, वर्तमान में DLMs मजबूत AR मॉडल्स की तुलना में एक महत्वपूर्ण गुणवत्ता अंतराल (quality gap) से जूझ रहे हैं। यह गिरावट उन कंडीशनल इंडिपेंडेंस धारणाओं (conditional independence assumptions) से उत्पन्न होती है जो पैरेलल डिकोडिंग के लिए आवश्यक हैं, जहाँ एक ही स्टेप के भीतर उत्पन्न टोकन्स को संयुक्त (jointly) के बजाय स्वतंत्र रूप से मॉडल किया जाता है।

मोंटे कार्लो विधियों—विशेष रूप से रिजेक्शन सैंपलिंग (RS) और इम्पोर्टेंस सैंपलिंग (IS)—का उपयोग करके इस अंतर को पाटने के हालिया प्रयासों को मौलिक सीमाएँ झेलनी पड़ी हैं। इन सेटअपों में, एक DLM एक प्रपोजल डिस्ट्रीब्यूशन ( $p_D$ ) के रूप में कार्य करता है और एक मजबूत AR मॉडल लक्ष्य ( $p_{AR}$ ) के रूप में कार्य करता है। पैरेलल DLM प्रपोजल और अनुक्रमिक AR लक्ष्य के बीच बड़े वितरण अंतराल (distributional mismatch) के कारण:

रिजेक्शन सैंपलिंग (Rejection Sampling) में बार-बार रिजेक्शन होता है, जिससे डिकोडिंग प्रक्रिया निम्न थ्रूपुट के साथ लगभग अनुक्रमिक जनरेशन में सिमट जाती है।
इम्पोर्टेंस सैंपलिंग (Importance Sampling) को एक उच्च-गुणवत्ता वाले सैंपल को खोजने के लिए अव्यावहारिक रूप से बड़ी संख्या में कैंडिडेट पार्टिकल्स की आवश्यकता होती है; सीमित बजट के साथ, यह अक्सर वास्तव में वफादार (faithful) AR सैंपल के बजाय "सबसे कम अकल्पनीय" DLM निरंतरता (continuation) का चयन करता है।

कार्यप्रणाली: PoE-Bridge
यह पेपर PoE-Bridge नामक एक डिकोडिंग फ्रेमवर्क पेश करता है जो एक मध्यवर्ती "ब्रिज" डिस्ट्रीब्यूशन (जो DLM प्रपोजल और AR लक्ष्य का एक प्रोडक्ट-ऑफ-एक्सपर्ट्स (PoE) है) के माध्यम से प्रपोजल-टारगेट मिसमैच को कम करता है।

1. PoE ब्रिज डिस्ट्रीब्यूशन
DLM ड्राफ्ट्स को सीधे AR लक्ष्य के रूप में सुधारने के बजाय, PoE-Bridge एक मध्यवर्ती डिस्ट्रीब्यूशन $p_{PoE}$ के माध्यम से सुधार को दो चरणों में विभाजित करता है। ब्रिज को एक टोकन-लेवल इंटरपोलेशन के रूप में परिभाषित किया गया है:
$p_{PoE}(x_i | x_{<i}) \propto \tilde{p}_D(x_i | x_{<i})^w \cdot p_{AR}(x_i | x_{<i})^{1-w}$
जहाँ $w \in [0, 1]$ ब्रिज की स्थिति को नियंत्रित करता है। जब $w$ , 1 के करीब होता है, तो ब्रिज DLM प्रपोजल जैसा दिखता है; जब यह 0 के करीब होता है, तो यह AR लक्ष्य के करीब पहुँच जाता है। यह टोकन-लेवल परिभाषा सैंपलिंग और लाइक्लीहुड इवैल्यूएशन दोनों के लिए सुलभता (tractability) सुनिश्चित करती है।

2. दो-चरणीय डिकोडिंग प्रक्रिया
फ्रेमवर्क दो समानांतर योग्य (parallelizable) चरणों में कार्य करता है:

चरण 1: स्पेकुलेटिव रिजेक्शन सैंपलिंग (DLM $\to$ PoE)। DLM कई टोकन निरंतरता (continuations) को समानांतर में ड्राफ्ट करता है। ये ड्राफ्ट्स AR लक्ष्य के बजाय PoE डिस्ट्रीब्यूशन के विरुद्ध सत्यापित किए जाते हैं। क्योंकि PoE, AR लक्ष्य की तुलना में DLM प्रपोजल के अधिक निकट है, इसलिए स्वीकृति दर (acceptance rate) काफी अधिक होती है। स्वीकृत टोकन्स को ब्रिज डिस्ट्रीब्यूशन $p_{PoE}$ से सैंपल किया जाता है।
चरण 2: इम्पोर्टेंस सैंपलिंग (PoE $\to$ AR)। चरण 1 से प्राप्त स्वीकृत उम्मीदवारों को फिर अंतिम AR लक्ष्य $p_{AR}$ की ओर सुधारने के लिए इम्पोर्टेंस सैंपलिंग का उपयोग करके पुन: भारित (re-weighted) किया जाता है। चूंकि उम्मीदवार पहले से ही AR डिस्ट्रीब्यूशन के करीब हैं (PoE ब्रिज के माध्यम से गुजरने के बाद), इसलिए इम्पोर्टेंस वेट्स अधिक स्थिर होते हैं, और सीधे DLM से IS करने की तुलना में उच्च-निष्ठा (high-fidelity) वाले सैंपल प्राप्त करने के लिए कम उम्मीदवारों की आवश्यकता होती है।

3. व्यावहारिक संवर्द्धन
वास्तविक इन्फरेंस सेटिंग्स में इसे कुशल बनाने के लिए, लेखक दो प्रमुख तकनीकें प्रस्तावित करते हैं:

मिक्स्ड-टेम्परेचर सैंपलिंग (Mixed-Temperature Sampling): सीमित संख्या में उम्मीदवारों ( $K$ ) का उपयोग करते समय मोड कोलैप्स को रोकने के लिए, फ्रेमवर्क विभिन्न तापमानों वाले टेम्पर्ड PoE डिस्ट्रीबशंस के परिवार से उम्मीदवारों को सैंपल करता है। यह प्रपोजल एंट्रॉपी को स्तरीकृत (stratify) करता है, जिससे लक्षित डिस्ट्रीब्यूशन का विविध कवरेज सुनिश्चित होता है और प्रभावी सैंपल साइज में सुधार होता है।
इलास्टिक रिजेक्शन विंडो (Elastic Rejection Window): एक निश्चित, संभावित रूप से लंबे सफिक्स (suffix) को सत्यापित करने के बजाय, फ्रेमवर्क देखे गए स्वीकृति लंबाई के आधार पर सत्यापन दायरे को अनुकूल रूप से समायोजित करता है। यह उन टोकन्स पर होने वाली बर्बाद गणना को कम करता है जिन्हें अस्वीकार किए जाने की संभावना है, जो विशेष रूप से कई उम्मीदवारों को समानांतर में प्रोसेस करते समय फायदेमंद है।

प्रमुख योगदान

नया डिकोडिंग फ्रेमवर्क: PoE-Bridge एक मध्यवर्ती PoE ब्रिज पेश करके पैरेलल DLM डिकोडिंग को AR-स्तर की वफादारी (faithfulness) के साथ सफलतापूर्वक संयोजित करने वाला पहला तरीका है, जो एक कठिन सुधार कार्य को दो प्रबंधनीय चरणों में विभाजित करता है।
सुगम टोकन-लेवल PoE: लेखकों ने एक टोकन-लेवल PoE इंटरपोलेशन को परिभाषित किया है जो कुशल स्पेकुलेटिव वेरिफिकेशन और इम्पोर्टेंस वेटिंग का समर्थन करता है, जिससे अनुक्रम-स्तरीय (sequence-level) PoE सैंपलिंग की जटिलता से बचा जा सकता है।
दक्षता तंत्र: मिक्स्ड-टेम्परेचर सैंपलिंग और इलास्टिक रिजेक्शन विंडो का परिचय विविधता और वेरिफिकेशन ओवरहेड की व्यावहारिक बाधाओं को संबोधित करता है।

प्रायोगिक परिणाम
चुनौतीपूर्ण गणितीय तर्क (GSM8K, MATH) और कोडिंग (HumanEval, MBPP) बेंचमार्क पर मूल्यांकन करने पर, PoE-Bridge निम्नलिखित प्रदर्शित करता है:

सटीकता (Accuracy): यह लक्षित AR मॉडल के प्रदर्शन का कम से कम 95% प्राप्त करता है, जो मानक DLM डिकोडिंग और नैव स्पेकुलेटिव सैंपलिंग से काफी बेहतर है।
गति (Speed): यह मानक DLM डिकोडिंग दृष्टिकोणों की तुलना में 5 $\times$ की गति वृद्धि और AR डिकोडिंग की तुलना में 2 $\times$ थ्रूपुट प्राप्त करता है।
स्केलिंग: मिक्स्ड-टेम्परेचर सैंपलिंग का उपयोग करने से सटीकता समानांतर उम्मीदवारों ( $K$ ) की संख्या के साथ लगातार स्केल करती है, जबकि यूनिफॉर्म-टेम्परेचर सैंपलिंग घटते प्रतिफल (diminishing returns) देती है।
हाइपरपैरामीटर संवेदनशीलता: एक मध्यवर्ती PoE वेट ( $w \approx 0.3$ ) को स्वीकृति दर (थ्रूपुट) और AR लक्ष्य के प्रति वफादारी के बीच इष्टतम संतुलन प्रदान करने के लिए पाया गया है।

महत्व और दावे
पेपर का दावा है कि PoE-Bridge "दोनों दुनियाओं का सर्वश्रेष्ठ" (best-of-both-worlds) प्रदर्शन प्राप्त करता है, जो डिफ्यूजन लैंग्वेज मॉडल्स में पारंपरिक गुणवत्ता-दक्षता ट्रेड-ऑफ को तोड़ता है। एक मध्यवर्ती ब्रिज डिस्ट्रीशन का लाभ उठाकर, यह विधि DLMs को AR डिकोडिंग जितना वफादार जनरेशन करने में सक्षम बनाती है, जबकि उन पैरेलल डिकोडिंग लाभों को भी बनाए रखती है जो लेटेंसी को कम करते हैं। लेखक का कहना है कि यह दृष्टिकोण मोंटे कार्लो सुधार को वास्तविक, सीमित कंप्यूट बजट के तहत प्रभावी बनाता है, जो डिफ्यूजन मॉडल्स के स्पीड बेनिफिट्स से समझौता किए बिना उच्च-गुणवत्ता वाले पैरेलल टेक्स्ट जनरेशन के लिए एक व्यावहारिक समाधान प्रदान करता है। यह कार्य एक इन्फरेंस-टाइम पद्धति के रूप में प्रस्तुत किया गया है जिसमें मॉडल्स को रिट्रेन करने या पैरामीटर्स को संशोधित करने की आवश्यकता नहीं है, बल्कि यह एक तेज़ DLM प्रपोजल और एक मजबूत AR वेरीफायर के बीच तालमेल पर निर्भर करता है।

इसी तरह के और पेपर