तकनीकी सारांश: डिफ्यूजन मॉडल्स का एक गणितीय परिचय

समस्या विवरण (Problem Statement)

यह शोध पत्र जटिल, उच्च-आयामी संभाव्यता वितरणों $\pi$ (लक्ष्य डेटा वितरण) से सैंपलिंग (sampling) करने की मौलिक चुनौती को संबोधित करता है, जब प्रत्यक्ष सैंपलिंग असंभव हो। कई आधुनिक अनुप्रयोगों में, $\pi$ केवल एक सामान्यीकरण स्थिरांक (normalizing constant) तक ज्ञात होता है या केवल अनुभवजन्य डेटा नमूनों के माध्यम से ज्ञात होता है, न कि किसी स्पष्ट सुलभ घनत्व सूत्र (tractable density formula) के माध्यम से। मुख्य कठिनाई एक ऐसी यादृच्छिक प्रक्रिया (random process) के निर्माण में निहित है जो $\pi$ की ओर कुशलतापूर्वक अभिसरित (converge) हो सके, विशेष रूप से तब जब लक्ष्य बहुविध (multimodal), विलक्षण (singular), या असतत स्थानों (discrete spaces) पर परिभाषित हो।

यह शोध पत्र इस समस्या को अप्रत्यक्ष सैंपलिंग (indirect sampling) के दृष्टिकोण से प्रस्तुत करता है: लक्ष्य का सीधे नमूना लेने के बजाय, एक स्टोकेस्टिक प्रक्रिया निर्मित की जाती है जो चलाने में आसान हो और जिसका वितरण धीरे-धीरे लक्ष्य की ओर बढ़ता (drift) हो। यह कार्य इस 'ड्रिफ्ट' के लिए दो प्राथमिक तंत्रों पर केंद्रित है:

1. लैंजेविन डायनेमिक्स (Langevin Dynamics): लॉग-घनत्व (स्कोर) और ब्राउनियन मोशन द्वारा संचालित निरंतर-समय मार्कोव प्रक्रियाएं।
2. डिफ्यूजन मॉडल्स (Diffusion Models): एक ऐसा ढांचा जो डेटा में शोर (noise) जोड़कर स्मूथ कानूनों (smoother laws) का एक पथ बनाता है, और फिर स्कोर अनुमान का उपयोग करके इस प्रक्रिया को उलटने (reverse) का प्रशिक्षण लेता है।

कार्यप्रणाली (Methodology)

ये नोट्स पाँच अलग-अलग "मूवमेंट्स" में आगे बढ़ते हैं, जो शास्त्रीय सैंपलिंग सिद्धांत से आधुनिक जनरेटिव मॉडलिंग तक एक कठोर गणितीय सेतु का निर्माण करते हैं।

1. सैंपलिंग भाषा और लैंजेविन डायनेमिक्स (Sampling Language and Langevin Dynamics)

आधार को विसंगतियों (Total Variation, Wasserstein-2, और KL divergence) के माध्यम से सैंपलिंग समस्या को परिभाषित करके रखा गया है। लेखक ओवरडैम्प्ड लैंजेविन डिफ्यूजन (Overdamped Langevin Diffusion) प्रस्तुत करते हैं:
$$dX_t = -\nabla U(X_t)dt + \sqrt{2}dB_t$$
जहाँ $\pi(x) \propto e^{-U(x)}$।

• अभिसरण तंत्र (Convergence Mechanism): शोध पत्र सिद्ध करता है कि KL डाइवर्जेंस $D_{KL}(q_t \| \pi)$ एक लियापुनोव फलन (Lyapunov function) के रूप में कार्य करता है। इसका समय व्युत्पन्न (time derivative) सापेक्ष फिशर सूचना (relative Fisher information) ($-FI$) का ऋणात्मक है। एक लॉग-सोबोलेव असमानता (Log-Sobolev Inequality - LSI) के तहत, यह घातांकीय अभिसरण दर (exponential convergence rates) प्रदान करता है।
• विविक्तकरण (Discretization - ULA): अनएडजस्टेड लैंजेविन एल्गोरिदम (ULA) को यूलर-मारियामा (Euler–Maruyama) विविक्तकरण के रूप में पेश किया गया है। शोध पत्र इसके विविक्तकरण पूर्वाग्रह (discretization bias) का विश्लेषण करता है, यह दिखाते हुए कि जबकि श्रृंखला मिश्रित (mix) होती है, इसकी स्थिर वितरण $\pi_h$, $\pi$ से $O(h)$ क्रम के त्रुटि द्वारा भिन्न होती है।
• सुधार (Correction - MALA): मेट्रोपोलिस-एडजस्टेड लैंजेविन एल्गोरिदम (MALA) को एक स्वीकार-अस्वीकार (accept-reject) चरण के माध्यम से इस पूर्वाग्रह को हटाने के एक तरीके के रूप में प्रस्तुत किया गया है, जो घनत्व मूल्यांकन की आवश्यकता की लागत पर सटीक स्थिरता (exact stationarity) को बहाल करता है।

2. निरंतर-समय स्कोर-आधारित डिफ्यूजन मॉडल (Continuous-Time Score-Based Diffusion Models)

यह ढांचा उन परिदृश्यों की ओर स्थानांतरित होता है जहाँ लक्ष्य घनत्व अज्ञात है, लेकिन डेटा उपलब्ध है।

• फॉरवर्ड नॉइजिंग (Forward Noising): डेटा $X_0$ को एक निरंतर-समय गाऊसी प्रक्रिया (जैसे, वेरियंस-एक्सप्लोडिंग या वेरियंस-प्रिजर्विंग SDEs) द्वारा दूषित किया जाता है, जो मार्जिनल्स $p_t$ का एक पथ बनाता है।
• ट्वीडी का पहचान (Tweedie's Identity): एक केंद्रीय पहचान स्कोर $\nabla \log p_t(x)$ को स्वच्छ डेटा के पोस्टीरियर मीन (डिनोइज़र) से जोड़ती है:
  $$\nabla \log p_t(x) = \frac{1}{\sigma_t^2} \mathbb{E}[a_t X_0 - X_t | X_t = x]$$
  यह शोर (noise) की भविष्यवाणी करने वाले न्यूरल नेटवर्क को स्कोर सीखने के प्रॉक्सी के रूप में प्रशिक्षित करने को न्यायोचित ठहराता है।
• रिवर्स डायनेमिक्स (Reverse Dynamics): दो समकक्ष रिवर्स-टाइम प्रक्रियाओं को व्युत्पन्न किया गया है:
  1. रिवर्स SDE: एक स्टोकेस्टिक प्रक्रिया जिसमें एक ड्रिफ्ट टर्म शामिल है जो स्कोर को दर्शाता है, $dY_s = [-f_{T-s} + g_{T-s}^2 \nabla \log p_{T-s}]ds + g_{T-s} d\bar{B}_s$।
  2. प्रोबेबिलिटी फ्लो ODE: एक नियतात्मक (deterministic) ODE, $\frac{dX_t}{dt} = f_t(X_t) - \frac{1}{2}g_t^2 \nabla \log p_t(X_t)$, जो SDE के समान मार्जिनल्स को बनाए रखता है लेकिन निरंतरता समीकरण (continuity equation) के माध्यम से सटीक संभावना गणना की अनुमति देता है।

3. स्टोकेस्टिक लोकलाइजेशन और पोल्चिन्स्की फ्लो (Stochastic Localization and Polchinski Flow)

शोध पत्र एक ही गाऊसी चैनल के वैकल्पिक सैद्धांतिक दृष्टिकोण प्रदान करता है:

• स्टोकेस्टिक लोकलाइजेशन (Stochastic Localization): इस प्रक्रिया को एक बेयसियन अनुमान समस्या के रूप में देखता है जहाँ छिपे हुए सिग्नल का पोस्टीरियर मीन एक मार्टिंगेल (martingale) के रूप में विकसित होता है। यह दृष्टिकोण शक्तिशाली कोवेरिएंस पहचान (covariance identities) (जैसे, पोस्टीरियर कोवेरिएंस समय के साथ कम होता है) प्रदान करता है, जो बाद के त्रुटि बाउंड्स के लिए महत्वपूर्ण हैं।
• पोल्चिन्स्की फ्लो (Polchinski Flow): घनत्व के स्मूथिंग को रिनॉर्मलाइजेशन ग्रुप फ्लो के रूप में व्याख्यायित करता है। प्रभावी क्षमता $U_t = -\log p_t$ एक गैर-रेखीय PDE (पोल्चिन्स्की समीकरण) का पालन करती है, जो डिफ्यूजन मॉडल्स को सांख्यिकीय भौतिकी और कोर्स-ग्रेनिंग से जोड़ती है।

4. विविक्तकरण और त्रुटि विश्लेषण (Discretization and Error Analysis)

निरंतर गतिशीलता को कार्यान्वयन योग्य सैंपलर (DDPM) में विविक्त किया जाता है। शोध पत्र वास्तविक डेटा वितरण (या एक स्मूथ संस्करण) और सैंपलर आउटपुट के बीच KL डाइवर्जेंस के लिए एक कठोर त्रुटि अपघटन (error decomposition) प्रदान करता है:
$$D_{KL}(p_1 \| \hat{p}_1) \leq \underbrace{\epsilon^2_{init}}_{\text{Initialization}} + \underbrace{\epsilon^2_{disc}}_{\text{Discretization}} + \underbrace{c \sum \eta_k \epsilon^2_{k,score}}_{\text{Score Estimation}}$$

• इनिशियलाइजेशन त्रुटि (Initialization Error): यह उच्च-शोर स्तर पर रिवर्स प्रक्रिया शुरू करने से उत्पन्न होती है, न कि सटीक टर्मिनल वितरण से।
• विविक्तकरण त्रुटि (Discretization Error): यूलर-मारिमा (Euler–Maruyama) के माध्यम से विश्लेषित और हेसियन नियंत्रण (Hessian control) के साथ परिष्कृत किया गया है। स्कोर के लिए वैश्विक लिप्सचिट्ज़ स्थिरांक (global Lipschitz constant) का अनुमान लगाने के बजाय, शोध पत्र 'पोस्टीरियर कोवेरिएंस बजट' (स्टोकेस्टिक लोकलाइजेशन से प्राप्त) का उपयोग करके त्रुटि को सीमित करता है, जिससे आयाम $d$ के साथ लगभग रैखिक निर्भरता प्राप्त होती है।
• स्कोर अनुमान त्रुटि (Score Estimation Error): सीखे गए स्कोर $s_t$ का उपयोग करने से होने वाली त्रुटि, वास्तविक स्कोर $s^\star_t$ के स्थान पर।
• उच्च-सटीक सैंपलिंग (High-Accuracy Sampling): शोध पत्र एक फर्स्ट-ऑर्डर रिजेक्शन सैंपलिंग (FORS) को एक स्कोर-ओनली सुधार तंत्र के रूप में पेश करता है (MALA के समान) जो उच्च सटीकता प्राप्त करता है, जो मानक यूलर विविक्तकरण की बहुपद (polynomial) निर्भरता के बजाय पोलिलॉगैरिथमिक (polylogarithmic) निर्भरता रखता है।

5. असतत डिफ्यूजन मॉडल (Discrete Diffusion Models)

इस ढांचे को परिमित अवस्था स्थानों (जैसे, टेक्स्ट, अणु) के लिए विस्तारित किया गया है जहाँ ग्रेडिएंट और ब्राउनियन मोशन अपरिभाषित हैं।

• तंत्र (Mechanism): फॉरवर्ड करप्शन को एक निरंतर-समय मार्कोव चेन (CTMC) (जैसे, मास्क डिफ्यूजन) के रूप में मॉडल किया गया है।
• रिवर्स डायनेमिक्स: रिवर्स प्रक्रिया भी एक CTMC है, जिसकी दरें ग्रेडिएंट के बजाय अनुपात स्कोर (ratio scores) $s^\star_t(x, y) = p_t(y)/p_t(x)$ द्वारा निर्धारित होती हैं।
• प्रशिक्षण (Training): उद्देश्य स्कोर-एन्ट्रॉपी (score-entropy) है, जो एक ब्रेगमैन डाइवर्जेंस (Bregman divergence) है जिसे पाथ-स्पेस सापेक्ष एंट्रॉपी से प्राप्त किया गया है, जिसे क्लीन-टोकन प्रेडिक्शन पर सुपरवाइज्ड लर्निंग का उपयोग करके अनुकूलित किया जा सकता है।
• सैंपलिंग: $\tau$-लीपिंग (approximate) और यूनिफॉर्माइजेशन (exact) जैसे एल्गोरिदम का विश्लेषण किया गया है। दिखाया गया है कि यूनिफॉर्माइजेशन विविक्तकरण त्रुटि को समाप्त कर देता है, जिससे केवल इनिशियलाइजेशन और स्कोर-एस्टिमेशन त्रुटियां बचती हैं।

6. इन्फरेंस-टाइम कंट्रोल (Inference-Time Control)

अंतिम खंड बिना पुन: प्रशिक्षण के शर्तों को संतुष्ट करने या पुरस्कार (rewards) को अधिकतम करने के लिए सैंपलर को संशोधित करने को संबोधित करता है।

• रिवॉर्ड टिल्टिंग (Reward Tilting): लक्ष्य वितरण को $p_\beta(x) \propto p_0(x)e^{\beta r(x)}$ के रूप में पुन: भारित (reweighted) किया जाता है।
• गाइडेंस (Guidance): शोध पत्र यह व्युत्पन्न करता है कि टिल्टेड वितरण का स्कोर आधार स्कोर और एक सुधार पद $\nabla \log h^\beta_t$ का योग है, जहाँ $h^\beta_t$ रिवॉर्ड का एक पोस्टीरियर प्रत्याशा (expectation) है। यह क्लासिफायर गाइडेंस और क्लासिफायर-फ्री गाइडेंस को एक एकल गणितीय ढांचे के तहत एकीकृत करता है।
• पाथ-स्पेस कंट्रोल (Path-Space Control): समस्या को आधार पथ कानून (base path law) के डूब ट्रांसफॉर्म (Doob transform) के रूप में फ्रेम किया गया है, जो इन्फरेंस-टाइम कंट्रोल को स्टोकेस्टिक कंट्रोल थ्योरी से जोड़ता है।

प्रमुख परिणाम और योगदान (Key Results and Contributions)

1. एकीकृत त्रुटि विश्लेषण (Unified Error Analysis): शोध पत्र डिफ्यूजन मॉडल्स के लिए एक व्यापक, प्रमाण-उन्मुख त्रुटि अपघटन प्रदान करता है जो इनिशियलाइजेशन, विविक्तकरण और स्कोर अनुमान त्रुटियों को अलग करता है। यह प्रदर्शित करता है कि कमजोर मान्यताओं (सीमित दूसरे क्षणों) के तहत, विविक्तकरण त्रुटि को कोवेरिएंस बजट के माध्यम से आयाम $d$ के साथ लगभग रैखिक रूप से स्केल किया जा सकता है, न कि मजबूत अभिसरण (convexity) या वैश्विक लिप्सचिट्ज़ स्थितियों की आवश्यकता होती है।
2. उच्च-सटीकता गारंटी (High-Accuracy Guarantees): यह स्थापित करता है कि फर्स्ट-ऑर्डर रिजेक्शन सैंपलिंग (FORS) और यूनिफॉर्माइजेशन (डिस्क्रीट मॉडल्स के लिए) लक्षित त्रुटि $\epsilon$ पर पोलिलॉगैरिथमिक रूप से निर्भर जटिलता के साथ उच्च-सटीक सैंपलिंग प्राप्त कर सकते हैं, जो मानक यूलर-आधारित बाउंड्स में सुधार करता है।
3. सैद्धांतिक एकीकरण (Theoretical Unification): कार्य डिफ्यूजन मॉडल्स को स्टोकेस्टिक लोकलाइजेशन (मार्टिंगेल थ्योरी), पोल्चिन्स्की फ्लो (रिनॉर्मलाइजेशन ग्रुप), और ऑप्टिमल ट्रांसपोर्ट (वॉसरस्टीन ग्रेडिएंट फ्लो) से जोड़ता है, जो यह समझने के लिए एक गहरा ज्यामितीय और विश्लेषणात्मक आधार प्रदान करता है कि ये मॉडल क्यों काम करते हैं।
4. असतत अवस्था स्थान (Discrete State Spaces): यह शोध पत्र CTMCs और अनुपात स्कोर का उपयोग करके डिफ्यूजन थ्योरी को परिमित अवस्था स्थानों तक कठोरता से विस्तारित करता है, जो मास्क डिफ्यूजन और डिस्क्रीट सैंपलर के लिए पूर्ण त्रुटि विश्लेषण प्रदान करता है।
5. इन्फरेंस-टाइम कंट्रोल (Inference-Time Control): यह गाइडेंस और रिवॉर्ड टिल्टिंग को माप के परिवर्तन (changes of measure/Doob transforms) के रूप में औपचारिक रूप देता है, जो आधार मॉडल, रिवॉर्ड फंक्शन और परिणामी गाइडेड डायनेमिक्स के बीच गणितीय संबंध को स्पष्ट करता है।

महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि यह एक प्रमाण-उन्मुख परिचय (proof-oriented introduction) प्रदान करता है जो संभाव्यता की पृष्ठभूमि वाले शुरुआती स्नातक छात्रों के लिए उपयुक्त है, जिनके पास स्टोकेस्टिक डिफरेंशियल इक्वेशन्स (SDEs) या डिफ्यूजन मॉडल्स का पूर्व अनुभव नहीं है। इसका महत्व निम्नलिखित में निहित है:

• कठोर आधार (Rigorous Foundations): हेयुरिस्टिक स्पष्टीकरणों से आगे बढ़कर कोर डेफिनिशन (Fokker-Planck, Tweedie's identity, reverse SDE) के लिए पूर्ण प्रमाण और अभिसरण के लिए प्रतिनिधि अनुमान प्रदान करना।
• अंतराल को पाटना (Bridging Gaps): शास्त्रीय MCMC थ्योरी (Langevin, MALA) को आधुनिक जनरेटिव मॉडलिंग (DDPM, Score-Based) से जोड़ना, यह दिखाते हुए कि डिफ्यूजन मॉडल्स अनिवार्य रूप से रिवर्स-टाइम सैंपलिंग डायनेमिक्स का एक विशिष्ट, सीखा हुआ कार्यान्वयन हैं।
• **मान्यताओं को स्पष्ट करना (Clarifying Assumptions):ently: अभिसरण के लिए आवश्यक मान्यताओं (जैसे, लॉग-सोबोलेव असमानताएँ, स्मूथनेस) को स्पष्ट रूप से बताना और "रिसर्च-लेवल थ्योरम्स" (रोडमैप के साथ वर्णित) और "प्रतिनिधि अनुमानों" (सरलीकृत धारणाओं के तहत सिद्ध) के बीच अंतर करना।
• स्व-निहित टूलकिट (Self-Contained Toolkit): ये नोट्स डिफ्यूजन मॉडल्स के विश्लेषण के लिए आवश्यक विश्लेषणात्मक उपकरणों (Itô calculus, Girsanov theorem, Gaussian identities) के लिए एक स्व-निहित संदर्भ के रूप में कार्य करते हैं, जिससे बुनियादी मशीनरी के लिए अलग-अलग साहित्य को देखने की आवश्यकता समाप्त हो जाती है।

लेखक स्पष्ट रूप से कहते हैं कि ये नोट्स जनरेटिव मॉडल्स के पूरे परिदृश्य का सर्वेक्षण नहीं करते हैं (फ्लो मैचिंग, कंसिस्टेंसी मॉडल्स आदि को विस्तार से छोड़कर) बल्कि डिफ्यूजन और लैंजेवन डायनेमिक्स के विशिष्ट गणितीय तंत्रों पर ध्यान केंद्रित करते हैं, जहाँ सीखे गए स्कोर एरर को सांख्यिकीय लर्निंग समस्या के बजाय सैंपलर गारंटी के इनपुट के रूप में माना जाता है।