🤖 machine learning

The Diffusion Duality, Chapter II: $Ψ$ -Samplers

यह शोध पत्र डिस्क्रीट डिफ्यूजन (discrete diffusion) के लिए प्रेडिक्टर-करैक्टर सैंपलर (Predictor-Corrector samplers) के एक परिवार को प्रस्तुत करता है जो अधिक स्टेप्स के साथ जनरेशन की गुणवत्ता में सुधार करने के लिए एंसेस्ट्रल सैंपलिंग (ancestral sampling) के प्रदर्शन प्लेटो (performance plateau) को दूर करते हैं, और साथ ही एक मेमोरी-एफिशिएंट ट्रेनिंग करिकुलम का प्रस्ताव भी देते हैं जो इस धारणा को चुनौती देता है कि मास्कड डिफ्यूजन (Masked diffusion) लैंग्वेज मॉडलिंग के लिए बेहतर भविष्य है।

मूल लेखक: Justin Deschenaux, Caglar Gulcehre, Subham Sekhar Sahoo

प्रकाशित 2026-05-19

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Justin Deschenaux, Caglar Gulcehre, Subham Sekhar Sahoo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कहानी लिखने की कोशिश कर रहे हैं, लेकिन एक पारंपरिक लेखक की तरह खाली पन्ने से शब्द-दर-शब्द लिखने के बजाय, आप शोर (static noise) से भरे एक पन्ने से शुरुआत करते हैं और धीरे-धीरे उसे साफ करते जाते हैं जब तक कि एक सुसंगत कहानी उभर न आए। डिफ्यूजन मॉडल (Diffusion Models) इसी तरह काम करते हैं। वे शक्तिशाली AI उपकरण हैं जिनका उपयोग चित्र और टेक्स्ट बनाने के लिए किया जाता है।

हालाँकि, इसमें एक पेच है। जब ये मॉडल टेक्स्ट बनाने की कोशिश करते हैं, तो वे अक्सर एक "काफी अच्छा है" (good enough) वाले लूप में फंस जाते हैं। यदि आप उनसे एक लंबा वाक्य लिखने के लिए कहते हैं, तो वे शुरुआत तो दमदार तरीके से कर सकते हैं लेकिन जैसे-जैसे वे आगे बढ़ते हैं, गुणवत्ता खो देते हैं, या वे एक ही पैटर्न को दोहराने में फंस सकते हैं।

यह शोध पत्र, जिसका शीर्षक "The Diffusion Duality, Chapter II: Ψ-Samplers" है, नए उपकरणों (जिन्हें Duo++ और Ψ-samplers कहा जाता है) का परिचय देता है जो इन समस्याओं को ठीक करते हैं। यहाँ सरल शब्दों में इसका विवरण दिया गया है:

1. समस्या: "एक बार और बस हो गया" वाली गलती (The "One-and-Done" Mistake)

पारंपरिक टेक्स्ट जनरेशन (जैसे मानक AI चैटबॉट्स) को एक ट्रैक पर आगे बढ़ती हुई ट्रेन की तरह समझें। एक बार जब ट्रेन एक स्टेशन से गुजर जाती है, तो वह वापस नहीं जा सकती। यदि AI शुरुआत में कोई गलती करता है, तो उसे उस गलती से ही आगे लिखना पड़ता है, जो अक्सर पूरे वाक्य को खराब कर देता है।

कुछ नए मॉडल (जिन्हें Masked Diffusion Models कहा जाता है) बेहतर हैं क्योंकि वे एक शब्द को "रीमास्क" (छिपा) सकते हैं और फिर से प्रयास कर सकते हैं। लेकिन लेखकों ने पाया कि जिन मॉडलों पर उन्होंने ध्यान केंद्रित किया (Uniform-State Diffusion Models), वे गलतियों को जल्दी सुधारने में तो बेहतर थे, लेकिन वे एक "ग्लास सीलिंग" (एक सीमा) से टकरा गए। आप उन्हें सोचने के लिए कितना भी समय दें (अधिक स्टेप्स), उनकी गुणवत्ता में सुधार रुक गया। वे एक ऐसे छात्र की तरह थे जो कड़ी मेहनत तो करता है लेकिन एक निश्चित बिंदु के बाद सीखना बंद कर देता है।

2. समाधान: "संपादक और सुरक्षा जाल" (The "Editor and the Safety Net" - Ψ-Samplers)

लेखकों ने टेक्स्ट जनरेट करने का एक नया तरीका बनाया जिसे Ψ-samplers कहा जाता है। एक ड्राफ्ट पर काम कर रहे लेखक की कल्पना करें:

प्रेडिक्टर (ड्राफ्ट): AI अनुमान लगाता है कि अगला शब्द क्या होना चाहिए।
करैक्टर (संपादक): यह जादुई हिस्सा है। पुराने तरीकों में, एक बार शब्द लिख दिया गया, तो वह लॉक हो जाता था। इस नए तरीके में, "संपादक" को यह कहने की अनुमति है, "रुको, यह शब्द यहाँ फिट नहीं बैठता। इसे छिपाओ और दूसरा शब्द आज़माओ," भले ही वह पहले ही लिखा जा चुका हो।

शोध पत्र इसे एक Predictor-Corrector सिस्टम कहता है। यह एक सुरक्षा जाल (safety net) रखने जैसा है जो AI को गिरते हुए पकड़ लेता है। लेखकों ने सिद्ध किया कि इस "सुरक्षा जाल" (जिसे वे Ψ-posterior कहते हैं) को जोड़ने से, AI जितना अधिक समय तक सोचेगा, उसका लेखन उतना ही बेहतर होता जाएगा। पुराने तरीकों के विपरीत जो एक ग्लास सीलिंग से टकरा जाते थे, ये नए सैंपलर अधिक समय देने पर लगातार बेहतर होते जाते हैं।

परिणाम:

टेक्स्ट के लिए: नया तरीका पिछले सर्वोत्तम तरीकों की तुलना में कम भ्रम (कम perplexity) के साथ बेहतर वाक्य लिखता है, विशेष रूप से तब जब उन्हें सोचने के लिए अधिक समय दिया जाता है।
इमेज के लिए: यह पहले की तुलना में अधिक स्पष्ट और साफ़ चित्र (CIFAR-10 पर बेहतर FID स्कोर) भी बनाता है।

3. दक्षता का नुस्खा: "स्मार्ट मेनू" (The "Smart Menu" - Fast Curriculum)

इन AI मॉडलों को प्रशिक्षित करना आमतौर पर एक ऐसी डिक्शनरी पढ़ने की कोशिश करने जैसा है जहाँ हर एक शब्द आइसक्रीम का एक अलग स्वाद है। सही मिश्रण खोजने के लिए आपको हर एक को चखना पड़ता है। इसमें बहुत अधिक कंप्यूटर मेमोरी और समय लगता है।

लेखकों ने महसूस किया कि जब AI प्रशिक्षण के दौरान "सोच" रहा होता है, तो उसे आमतौर पर केवल शीर्ष कुछ "स्वादों" (शब्दों) की ही परवाह होती है और वह बाकी को अनदेखा कर देता है। अन्य स्वाद इतने असंभव हैं कि वे शून्य के समान ही हैं।

इसलिए, उन्होंने एक "फास्ट करिकुलम" (प्रशिक्षण अनुसूची) बनाया। पूरी डिक्शनरी चखने के बजाय, AI अब एक "स्मार्ट मेनू" का उपयोग करता है जो केवल शीर्ष 2 या 3 सबसे संभावित विकल्पों को देखता है।

उपमा: कल्पना कीजिए कि आप खाना ऑर्डर कर रहे हैं। 10,000 आइटम वाले मेनू को पढ़ने के बजाय, आप केवल शीर्ष 3 आइटम देखते हैं जो शेफ ने सुझाए हैं। आपको वही शानदार भोजन मिलता है, लेकिन आप 33% समय और मेमोरी बचा लेते हैं।
परिणाम: उन्होंने मॉडल को 25% तेज़ी से प्रशिक्षित किया और 33% कम मेमोरी का उपयोग किया, बिना अंतिम उत्पाद की गुणवत्ता खोए।

दावों का सारांश

यह शोध पत्र तीन मुख्य बातें दावा करता है:

नई सैंपलिंग विधि: उन्होंने एक सामान्य विधि (Ψ-samplers) बनाई जो AI को टेक्स्ट और इमेज जनरेशन के दौरान अपने स्वयं के सुधार करने (remask) की अनुमति देती है, जिससे उच्च गुणवत्ता वाले परिणाम मिलते हैं जो अधिक समय के साथ बेहतर होते जाते हैं।
बेहतर प्रदर्शन: उनका नया मॉडल (Duo++) टेक्स्ट जनरेशन (OpenWebText) और इमेज जनरेशन (CIFAR-10) दोनों में पिछले अत्याधुनिक मॉडलों को पछाड़ देता है।
दक्षता: उन्होंने डेटा के "शोर" को अनदेखा करके प्रशिक्षण प्रक्रिया को बहुत सस्ता और तेज़ बना दिया, जिससे मेमोरी का उपयोग एक तिहाई कम हो गया और प्रशिक्षण की गति एक चौथाई बढ़ गई।

संक्षेप में, उन्होंने AI को एक बेहतर संपादक और सीखने का एक स्मार्ट तरीका दिया, जिससे वह बिना सुपरकंप्यूटर की आवश्यकता के बेहतर कहानियाँ लिख सकता है और बेहतर चित्र बना सकता है।

तकनीकी सारांश: द डिफ्यूजन ड्यूअलिटी, अध्याय II: $\Psi$ -सैंपलर्स

समस्या विवरण

डिस्क्रीट डिफ्यूजन मॉडल (Discrete diffusion models), भाषा और छवि निर्माण के लिए ऑटोरेग्रेसिव मॉडलों के एक शक्तिशाली विकल्प के रूप में उभरे हैं, जो समानांतर डिकोडिंग और द्विदिश संदर्भ (bidirectional context) प्रदान करते हैं। इनमें से, यूनिफॉर्म-स्टेट डिफ्यूजन मॉडल्स (USDMs) कम-चरणों वाले निर्माण और गाइडेड कार्यों में उत्कृष्ट हैं क्योंकि उनमें टोकन को कई बार संशोधित करके स्वयं को सुधारने (self-correct) की क्षमता होती है। हालाँकि, USDMs दो महत्वपूर्ण सीमाओं का सामना करते हैं:

सैंपलिंग गुणवत्ता का पठार (Sampling Quality Plateau): USDMs के लिए मानक एंसेस्ट्रल सैंपलर (ancestral samplers) जनरेशन की गुणवत्ता में सुधार करने में विफल रहते हैं जब सैंपलिंग चरणों (NFEs) की संख्या बढ़ती है, जबकि कम-चरणों वाले परिदृश्यों में उनका प्रदर्शन बेहतर होता है।
प्रशिक्षण अक्षमता (Training Inefficiency): MDMs और USDMs के बीच लाइकलीहुड गैप को कम करने के लिए करिकुलम लर्निंग (जैसे, Duo) के माध्यम से किए गए पिछले प्रयास कम्प्यूटेशनल रूप से महंगे हैं, जिनमें प्रशिक्षण चरण के दौरान उच्च-आयामी लेटेंट वेक्टर्स को मैटेरियलाइज़ करने की आवश्यकता के कारण उच्च मेमोरी उपयोग और लंबा प्रशिक्षण समय लगता है।

जबकि मास्क्ड डिफ्यूजन मॉडल्स (MDMs) आम तौर पर उच्च लाइकलीहुड प्राप्त करते हैं, वे इन्फरेंस के दौरान संचयी त्रुटियों (compounding errors) से ग्रस्त होते हैं क्योंकि एक बार अनमास्क होने के बाद टोकन को फिर से मास्क नहीं किया जा सकता है। प्रेडिक्टर-करैक्टर (PC) विधियों (जैसे, ReMDM) पर हालिया कार्य ने MDMs में सुधार किया है, जिससे रीमास्किंग संभव हो गई है, लेकिन USDMs के लिए समान प्रगति अभी भी कम खोजी गई है, और मौजूदा PC विधियाँ अक्सर एंसेस्ट्रल सैंपलर्स से कम प्रदर्शन करती हैं।

कार्यप्रणाली (Methodology)

यह शोध पत्र Duo++ नामक एक फ्रेमवर्क पेश करता है, जो दो प्राथमिक नवाचारों के माध्यम से इन चुनौतियों का समाधान करता है: इन्फरेंस के लिए $\Psi$ -सैंपलर्स और प्रशिक्षण के लिए एक स्केलेबल करिकुलम।

1. $\Psi$ -पोस्टीरियर्स और $\Psi$ -सैंपलर्स

लेखक गैर-मार्कोवियन पोस्टीरियर्स (non-Markovian posteriors) के एक परिवार का प्रस्ताव करते हैं, जिसे $\Psi$ -पोस्टीरियर्स कहा जाता है, जो पिछले PC तरीकों को मनमाने शोर प्रायर (arbitrary noise priors - दोनों Masked और Uniform) के लिए सामान्यीकृत करते हैं।

परिभाषा: $\Psi$ -पोस्टीरियर को मानक रिवर्स पोस्टीरियर ( $q_{s|t}$ ) और फॉरवर्ड प्रोसेस मार्जिनल ( $q_s$ ) के एक लीनियर सुपरपोजिशन के रूप में परिभाषित किया गया है:
$\Psi_{s|t}(\cdot|x^\ell, z^\ell_t) = \kappa_t q_{s|t}(\cdot|z^\ell_t, x^\ell) + (1-\kappa_t) q_s(\cdot|x^\ell)$
जहाँ $\kappa_t \in [0, 1]$ एक समय-निर्भर गुणांक (coefficient) है।
तंत्र (Mechanism): यह फॉर्मूलेशन सैंपलर को जनरेशन प्रक्रिया के दौरान शोर ( $q_s$ $q_{s}$ टर्म के माध्यम से) इंजेक्ट करने की अनुमति देता है।
- MDMs के लिए, यह रीमास्किंग (remasking) को सक्षम बनाता है: जो टोकन पहले डिकोड किए जा चुके थे, उन्हें वापस मास्क की स्थिति में लाया जा सकता है यदि डीनोइज़र त्रुटि करता है, जिससे संचयी गलतियों को सुधारा जा सके।
- USDMs के लिए, यह सुनिश्चित करता है कि प्रत्येक टोकन के पास सैंपल होने की गैर-शून्य संभावना बनी रहे, भले ही डीनोइज़र उसे शून्य के करीब संभाव्यता दे, जिससे सैंपलर लोकल ऑप्टिमा में फंसने से बच जाता है।
सैद्धांतिक गारंटी: $\Psi$ -पोस्टीरियर्स को इस तरह से बनाया गया है कि वे मानक मार्कोवियन डिस्क्रीट डिफ्यूजन प्रक्रिया के सटीक मार्जिनल्स को साझा करते हैं। यह सुनिश्चित करता है कि पर्याप्त नमूनों के साथ, प्रक्रिया सही डेटा वितरण की ओर अभिसरित (converge) होती है।
सामान्यीकरण (Generalization): यह फ्रेमवर्क मौजूदा PC तरीकों (जैसे, ReMDM, Campbell et al., Gat et al.) को विशेष मामलों के रूप में समाहित करता है जहाँ $\kappa_t$ के विशिष्ट शेड्यूल्स चुने जाते हैं।

2. तेज़ प्रशिक्षण के लिए स्केलेबल करिकुलम

Duo (Sahoo et al., 2025a) द्वारा प्रस्तावित करिकुलम लर्निंग की कम्प्यूटेशनल बाधा को दूर करने के लिए, लेखक एक मेमोरी-कुशल कार्यान्वयन पेश करते हैं।

स्पैरसिटी का दोहन (Sparsity Exploitation): मूल करिकुलम डिस्क्रीट टोकन इनपुट को गौसियन लेटेंट्स के लो-टेम्परेचर सॉफ्टमैक्स रिलैक्सेशन से बदल देता है। बड़े वोकैबुलरी ( $K > 100,000$ ) के लिए, पूर्ण $K$ -आयामी वेट वेक्टर को मैटेरियलाइज़ करना असंभव है।
Top- $k$ सन्निकटन (Approximation): लेखक देखते हैं कि लो-टेम्परेचर पर, सॉफ्टमैक्स डिस्ट्रीब्यूशन स्पार्स होता है, जो केवल कुछ प्रविष्टियों पर द्रव्यमान केंद्रित करता है। वे केवल top- $k$ प्रविष्टियों ( $k \ll K$ ) का उपयोग करके पूर्ण लीनियर कॉम्बिनेशन को अनुमानित करने का प्रस्ताव करते हैं।
कुशल सैंपलिंग: पूर्ण वेक्टर को जेनरेट करने और सॉर्ट करने के बजाय, यह विधि सीधे अंतर्निहित गौसियन डिस्ट्रीब्यूशन से शीर्ष- $k$ मानों और उनके संबंधित इंडेक्स को सैंपल करने के लिए ऑर्डर स्टैटिस्टिक्स का उपयोग करती है।
नॉर्मलाइजेशन: पूर्ण सॉफ्टमैक्स नॉर्मलाइज़र ( $\tilde{Z}$ ) को अनुमानित करने के लिए एक क्लोज्ड-फॉर्म एक्सप्रेशन व्युत्पन्न किया गया है, जो सैंपल किए गए top- $k$ टर्म्स और अनसैंपल किए गए टर्म्स के अपेक्षित योगदान को ध्यान में रखता है।
दक्षता: यह दृष्टिकोण पूर्ण वेक्टर को मैटेरियलाइज़ किए बिना, समान लाइकलीहुड प्रदर्शन बनाए रखते हुए, पीक मेमोरी उपयोग को 33% कम करता है और प्रशिक्षण को 25% तेज करता है।

मुख्य योगदान

$\Psi$ -पोस्टीरियर्स: डिस्क्रीट डिफ्यूजन के लिए एक एकीकृत फ्रेमवर्क जो गैर-मार्कोवियन सुपरपोजिशन पोस्टीरियर्स पेश करता है, जो मार्जिनल कंसिस्टेंसी को बनाए रखते हुए मनमाने शोर प्रायर (Masked और Uniform) के लिए प्रेडिक्टर-करैक्टर सैंपलिंग को सक्षम बनाता है।
$\Psi$ -सैंपलर्स: सैंपलर्स का एक परिवार जो पूर्व PC तरीकों (ReMDM सहित) को सामान्यीकृत करता है। अनुभवजन्य रूप से, वे USDMs को NFEs के साथ बेहतर स्केल करने की अनुमति देते हैं, जिससे टेक्स्ट जनरेशन में MDMs के साथ प्रदर्शन का अंतर कम होता है और इमेज जनरेशन में उनसे आगे निकल जाते हैं।
कुशल करिकुलम: एक स्केलेबल प्रशिक्षण रणनीति जो मॉडल की गुणवत्ता से समझौता किए बिना मेमोरी और कंप्यूट लागत को काफी कम करने के लिए लो-टेम्परेचर सॉफ्टमैक्स रिलैक्सेशन की स्पैरसिटी का लाभ उठाती है।

प्रयोगात्मक परिणाम

लैंग्वेज मॉडलिंग (OpenWebText)

प्रदर्शन: $\Psi$ -सैंपलर्स, एंसेस्ट्रल सैंपलिंग की तुलना में USDMs के लिए जेनरेटिव पर्प्लेक्सिटी (Gen. PPL) में महत्वपूर्ण सुधार करते हैं।
स्केलिंग: एंसेस्ट्रल सैंपलिंग के विपरीत, जो NFEs बढ़ने पर स्थिर (plateau) हो जाती है, $\Psi$ -सैंपलर्स अधिक चरणों के साथ सुधार जारी रखते हैं। मैच की गई यूनिग्राम एंट्रॉपी (विविधता) पर, Duo++ ( $\Psi$ -सैंपलर्स के साथ) ReMDM वाले MDLM की तुलना में कम Gen. PPL प्राप्त करता है।
डाउनस्ट्रीम कार्य: Duo++ कई मल्टी-चॉइस प्रश्न पूछने वाले कार्यों (जैसे, ARC, HellaSwag) पर मूल Duo मॉडल के प्रदर्शन से मेल खाता है, जबकि 25% कम FLOPs का उपयोग करता है।

इमेज मॉडलिंग (CIFAR-10)

गुणवत्ता: CIFAR-10 पर, Duo++ ( $\Psi$ -सैंपलर्स के साथ) एंसेस्ट्रल सैंपलिंग और ReMDM दोनों की तुलना में बेहतर FID और Inception Score (IS) प्राप्त करता है।
स्केलिंग: इमेज क्वालिटी में सुधार विभिन्न सैंपलिंग चरणों में सुसंगत है, जिसमें Duo++ विभिन्न MDLM वेरिएंट्स को पछाड़ देता है।

प्रशिक्षण दक्षता

मेमोरी और गति: प्रस्तावित कुशल करिकुलम मूल Duo करिकुलम की तुलना में पीक मेमोरी उपयोग को 33% कम करता है और कुल प्रशिक्षण समय को 25% कम करता है।
लाइकलीहुड: कुशल करिकुलम से प्रशिक्षित मॉडल, मूल Duo मॉडलों के समान LM1B और OpenWebText पर पर्प्लेक्सिटी प्राप्त करते हैं।

महत्व और दावे

यह शोध पत्र यह तर्क देता है कि यह धारणा कि मास्क्ड डिफ्यूजन भाषा मॉडलिंग के लिए डिफ्यूजन-आधारित भविष्य का अनिवार्य हिस्सा है, संदिग्ध है। $\Psi$ -सैंपलर्स पेश करके, लेखक प्रदर्शित करते हैं कि यूनिफॉर्म-स्टेट डिफ्यूजन मॉडल्स प्राप्त कर सकते हैं:

बेहतर स्केलिंग: ऐसा प्रदर्शन जो सैंपलिंग चरणों के बढ़ने के साथ बेहतर होता रहता है, एंसेस्ट्रल सैंपलर्स के विपरीत।
प्रतिस्पर्धी या श्रेष्ठ गुणवत्ता: टेक्स्ट जनरेशन में (PC सैंपलिंग के साथ) MDMs के बराबर या उससे बेहतर प्रदर्शन, और इमेज जनरेशन में उनसे आगे निकलना।
व्यावहारिक दक्षता: एक प्रशिक्षण पाइपलाइन जो पिछले करिकुलम लर्निंग दृष्टिकोणों की तुलना में काफी अधिक मेमोरी-कुशल और समय-कुशल है।

यह कार्य सुझाव देता है कि गौसियन और डिस्क्रीट डिफ्यूजन के बीच की "ड्यूअलिटी", गैर-मार्कोवियन सैंपलिंग रणनीतियों के साथ मिलकर, डिस्क्रीट जेनेरेटिव मॉडलिंग के लिए एक मजबूत और स्केलेबल मार्ग प्रदान करती है, जो मास्क्ड दृष्टिकोणों के प्रभुत्व को चुनौती देती है।