📊 statistics

Metropolis-Adjusted Diffusion Models

यह शोध पत्र डिफ्यूजन मॉडल्स के लिए मेट्रोपोलिस-एडजस्टेड लैंग्विन करेक्टर्स पेश करता है जो स्कोर-आधारित स्वीकृति प्रायिकताओं और सैंपलिंग बायस को समाप्त करने के लिए एक नवीन बर्नौली फैक्ट्री एल्गोरिदम का उपयोग करते हैं, जिससे नमूना गुणवत्ता में उल्लेखनीय सुधार होता है और फ्रेशेट इनसेप्शन डिस्टेंस स्कोर कम होता है।

मूल लेखक: Kevin H. Lam, Tyler Farghly, Christopher Williams, Jun Yang, Yee Whye Teh, Arnaud Doucet

प्रकाशित 2026-05-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Kevin H. Lam, Tyler Farghly, Christopher Williams, Jun Yang, Yee Whye Teh, Arnaud Doucet

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक उत्कृष्ट कृति (masterpiece) पेंटिंग को फिर से बनाने की कोशिश कर रहे हैं, लेकिन आपके पास शुरुआत करने के लिए केवल उसका एक धुंधला और शोर (noisy) वाला संस्करण है। डिफ्यूजन मॉडल्स (Diffusion Models) एक जादुई आर्ट रिस्टोरर की तरह हैं जो धीरे-धीरे शोर को हटाते हैं, चरण-दर-चरण, ताकि नीचे छिपी स्पष्ट छवि को प्रकट किया जा सके।

हालाँकि, एक पेंच है। क्योंकि रिस्टोरर को बहुत छोटे, अलग-अलग चरणों में काम करना पड़ता है (जैसे एक स्मूथ वीडियो देखने के बजाय हर सेकंड में एक फोटो लेना), अंतिम तस्वीर अक्सर थोड़ी विकृत या "ऑफ" हो जाती है। यह एक सीधी रेखा चलने की कोशिश करने जैसा है जिसमें आप बड़े, भोंडे कदम उठाते हैं; आप संभवतः रास्ते से भटक जाएंगे।

वर्तमान अत्याधुनिक तकनीक (state-of-the-art) में, कलाकार इस भटकाव को ठीक करने के लिए दो-चरणीय प्रक्रिया का उपयोग करते हैं:

प्रेडिक्टर (The Predictor): लक्ष्य के करीब पहुँचने के लिए एक बड़ी छलांग।
करैक्टर (The Corrector): स्थिति को सूक्ष्म रूप से ठीक करने के लिए एक छोटा, डगमगाता हुआ कदम।

समस्या यह है कि यह "डगमगाता हुआ कदम" (जिसे पेपर में ULA कहा गया है) भी अपूर्ण है। यह अपनी खुद की छोटी त्रुटियां पैदा करता है। पेपर पूछता है: क्या होगा अगर हम उस डगमगाते कदम को एकदम सटीक बना सकें?

समाधान: मेट्रोपोलिस-एडजस्टेड डिफ्यूजन मॉडल्स (MADM)

लेखक एक नई विधि प्रस्तावित करते हैं जिसे MADM कहा जाता है। इसे आर्ट रेस्टोरेशन प्रक्रिया में एक "क्वालिटी कंट्रोल इंस्पेक्टर" जोड़ने के रूपके रूप में समझें।

यह कैसे काम करता है, एक सरल उपमा का उपयोग करते हुए:

1. समस्या: "घोस्ट" रेशियो (The "Ghost" Ratio)

डगमगाते कदम को पूरी तरह से ठीक करने के लिए, इंस्पेक्टर को "वर्तमान मैसी स्पॉट" और "प्रस्तावित नए स्पॉट" के बीच के सटीक अंतर को जानने की आवश्यकता होती है। गणितीय शब्दों में, यह संभावनाओं का एक अनुपात (ratio) है।

पेंच: इन मॉडल्स में, "परफेक्ट" इमेज डेंसिटी एक भूत की तरह है। हम इसे सीधे नहीं देख सकते; हमारे पास केवल एक "स्कोर" (एक दिशा-सूचक यंत्र/compass) है जो साफ छवि की ओर इशारा करता है। हम अनुपात की गणना नहीं कर सकते क्योंकि हमारे पास पूरा नक्शा नहीं है।

2. नवाचार: "कम्पास इंटीग्रल" (The "Compass Integral")

पेपर का बड़ा ब्रेकथ्रू यह अहसास है कि भले ही हम पूरे नक्शे को नहीं देख सकते, हम रास्ते पर चलकर और कम्पास की रीडिंग (स्कोर) को जोड़कर दो बिंदुओं के बीच की दूरी की गणना कर सकते हैं।

उपमा: कल्पना कीजिए कि आप दो पहाड़ियों के बीच ऊंचाई के अंतर को जानना चाहते हैं, लेकिन आपके पास कोई टोपोग्राफिक मैप नहीं है। आपके पास केवल एक उपकरण है जो हर कदम पर ढलान (slope) बताता है। यदि आप एक पहाड़ी से दूसरी तक चलते हैं और सभी ढलानों को जोड़ते हैं, तो आप जानते हैं कि एक पहाड़ी दूसरी से कितनी ऊँची है।

3. दो विधियाँ

लेखक इस "स्लोप सम" (ढलान के योग) का उपयोग करने के दो तरीके प्रस्तावित करते हैं ताकि यह तय किया जा सके कि कदम अच्छा है या बुरा:

विधि A: "मैजिक कॉइन" (सटीक विधि)
यह गणितीय रूप से पूर्ण समाधान है। चूंकि हम सटीक अनुपात की गणना नहीं कर सकते, इसलिए लेखक एक चतुर ट्रिक का उपयोग करते हैं जिसे बर्नौली फैक्ट्री (या "टू-कॉइन" एल्गोरिदम) कहा जाता है।

उपमा: कल्पना कीजिए कि आपके पास एक रहस्यमय वजन वाला सिक्का है (अज्ञात अनुपात)। आप उसे तौल नहीं सकते, लेकिन आपके पास एक मशीन है जो इस सिक्के को एक बहुत ही विशिष्ट, रैंडमाइज्ड तरीके से उछालती है। इसे पर्याप्त बार उछालकर, मशीन आपको 100% निश्चितता के साथ बता सकती है कि नए कदम को स्वीकार करना है या अस्वीकार करना है, बिना कभी भी सिक्के के सटीक वजन को जाने की आवश्यकता के।
परिणाम: यह एक पूरी तरह से निष्पक्ष सैंपल बनाता है। कोई भटकाव नहीं। कोई विरूपण नहीं।
नुकसान: यह कम्प्यूटेशनल रूप से महंगा है। निर्णय लेने के लिए मशीन को सिक्के को हजारों बार उछालने की आवश्यकता हो सकती है, जिससे काम धीमा हो जाता है।

विधि B: "स्मार्ट गेस" (अनुमानित विधि)
यह व्यावहारिक, रोजमर्रा का समाधान है। इस रहस्यमय सिक्के को हजारों बार उछालने के बजाय, लेखक सिम्पसन के नियम (Simpson's Rule) नामक एक गणितीय शॉर्टकट का उपयोग करते हैं।

उपमा: पूरी राह चलकर ढलान मापने के बजाय, आप बस शुरुआत, मध्य और अंत में ढलान की जांच करते हैं, और कुल परिवर्तन का अनुमान लगाने के लिए एक फॉर्मूला का उपयोग करते हैं।
परिणाम: यह अविश्वसनीय रूप से तेज़ है (लगभग शून्य लागत) और आश्चर्यजनक रूप से सटीक है। हालांकि यह "मैजिक कॉइन" की तरह "परफेक्ट" नहीं है, लेकिन यह लगभग सभी त्रुटियों को ठीक कर देता है।
लाभ: पेपर दिखाता है कि यह विधि बिना ज्यादा समय गंवाए उत्पन्न छवियों की गुणवत्ता में काफी सुधार करती है।

उन्होंने क्या पाया?

लेखकों ने दो प्रकार की "पेंटिंग्स" पर इसका परीक्षण किया:

सरल आकृतियाँ (सिंथेटिक डेटा): उन्होंने दिखाया कि पुरानी विधि (ULA) अक्सर "आउटलेयर्स" (outliers)—ऐसे बिंदु जो चित्र में नहीं होने चाहिए—छोड़ देती थी। नई MADM विधि इन बिंदुओं को वापस सही आकार में खींच लाती है, जिससे छवि बहुत अधिक साफ हो जाती है।
वास्तविक चित्र (CIFAR-10, ImageNet, आदि): उन्होंने इन प्रसिद्ध इमेज डेटासेट्स पर इसे लागू किया।
- उन्होंने पाया कि मानक प्रक्रिया में इन "क्वालिटी कंट्रोल" चरणों में से केवल एक को जोड़ने से इमेज क्वालिटी में लगातार सुधार होता है।
- उन्होंने इसे FID (Fréchet Inception Distance) नामक मीट्रिक का उपयोग करके मापा, जो एक "क्रिटिक के स्कोर" की तरह है कि कोई छवि कितनी वास्तविक दिखती है। कम स्कोर बेहतर होता है।
- परिणाम: MADM ने लगातार FID स्कोर को कम किया, जिसका अर्थ है कि समान अंडरलाइंग AI मॉडल का उपयोग करने के बावजूद, MADM द्वारा बनाई गई छवियां पहले की तुलना में अधिक शार्प और यथार्थवादी दिखीं।

सारांश

यह पेपर एक "चेक-अप" स्टेप जोड़कर AI इमेज जनरेटर्स को अधिक सटीक बनाने का तरीका पेश करता है।

पुराना तरीका: एक कदम उठाएं, थोड़ा डगमगाएं, और उम्मीद करें कि आप भटके नहीं।
नया तरीका (MADM): एक कदम उठाएं, थोड़ा डगमगाएं, फिर यह जांचने के लिए "कम्पास इंटीग्रल" का उपयोग करें कि क्या आप सही रास्ते पर रहे।
परिणाम: आपको गणितीय रूप से पूर्ण (लेकिन धीमी) विधि या एक बहुत तेज़, अत्यधिक सटीक शॉर्टकट का उपयोग करके, कम त्रुटियों के साथ स्वच्छ, अधिक यथार्थवादी चित्र मिलते हैं।

तकनीकी सारांश: मेट्रोपोलिस-एडजस्टेड डिफ्यूजन मॉडल्स (MADM)

समस्या विवरण (Problem Statement)

स्कोर-आधारित डिफ्यूजन मॉडल्स से सैंपलिंग करना स्वाभाविक रूप से दो स्रोतों से उत्पन्न होने वाले पूर्वाग्रह (bias) से ग्रस्त होता है: सीखे गए स्कोर फंक्शन की सन्निकटन त्रुटि (approximation error) और संख्यात्मक इंटीग्रेटर्स (numerical integrators) द्वारा पेश की गई समय-विवक्तीकरण त्रुटि (time-discretisation error)। मानक प्रेडिक्टर-करैक्टर फ्रेमवर्क में, एक प्रेडिक्टर स्टेप (अक्सर एक प्रोबेबिलिटी फ्लो ODE) एक सैंपल को शोर के स्तरों (noise levels) के बीच ले जाता है, जिसके बाद वर्तमान शोर स्तर पर सैंपल को परिष्कृत करने के लिए एक करैक्टर स्टेप (आमतौर पर अनएडजस्टेड लैंग्विन एल्गोरिदम, ULA) का उपयोग किया जाता है।

जबकि ULA स्कोर फंक्शन का उपयोग करके मूव्स प्रस्तावित करता है, यह स्वयं एक बायस्ड सैंपलर है क्योंकि यह एक निरंतर लैंग्विन डिफ्यूजन प्रक्रिया को विवक्त (discretise) करता है। फलस्वरूप, प्रेडिक्टर-करैक्टर स्कीम में "करैक्टर" अपना स्वयं का विवक्तीकरण पूर्वाग्रह (discretisation bias) पेश करता है, जिससे वह लक्षित मार्जिनल वितरण (target marginal distribution) को अपरिवर्तित छोड़ने में विफल रहता है। मानक मेट्रोपोलिस-हैस्टिंग्स (MH) या बार्कर एक्सेप्ट-रिजेक्ट तंत्र, जो MCMC में ऐसे पूर्वाग्रह को ठीक करते हैं, डिफ्यूजन मॉडल्स पर सीधे लागू नहीं किए जा सकते। ऐसा इसलिए है क्योंकि MH के लिए लक्षित घनत्व अनुपात, $p_t(\tilde{x})/p_t(x)$ , के मूल्यांकन की आवश्यकता होती है, जो डिफ्यूजन मॉडल्स में अगम्य (intractable) है जहाँ केवल स्कोर फंक्शन $s_\phi(x, t) \approx \nabla_x \log p_t(x)$ उपलब्ध है।

कार्यप्रणाली (Methodology)

लेखक मेट्रोपोलिस-एडजस्टेड डिफ्यूजन मॉडल्स (MADM) का प्रस्ताव करते हैं, जो एक ऐसा फ्रेमवर्क है जो बायस्ड ULA करेक्टर्स को एक्सेप्ट-रिजेक्ट करेक्टेड लैंग्विन स्टेप्स से बदल देता है। मुख्य नवाचार एक ऐसी विधि है जो केवल स्कोर फंक्शन का उपयोग करके आवश्यक स्वीकृति संभाव्यता (acceptance probability) की गणना करती है, जिससे अगम्य घनत्व अनुपात (density ratio) की आवश्यकता को दरकिनार किया जा सके।

1. घनत्व अनुपात पहचान (Density Ratio Identity)

लेखक स्थापित करते हैं कि लक्षित घनत्व अनुपात का लघुगणक (logarithm) वर्तमान अवस्था $x$ और प्रस्ताव $\tilde{x}$ के बीच के पथ के साथ स्कोर फंक्शन के लाइन इंटीग्रल के रूप में व्यक्त किया जा सकता है:
$\log \left( \frac{p_t(\tilde{x})}{p_t(x)} \right) = \int_0^1 \langle s(x + u(\tilde{x} - x), t), \tilde{x} - x \rangle \, du$
यह पहचान केवल स्कोर मूल्यांकन का उपयोग करके घनत्व अनुपात के अनुमान की अनुमति देती है।

2. बर्नौली फैक्ट्री के माध्यम से सटीक सुधार (Exact Correction via Bernoulli Factory)

बिना घनत्व का मूल्यांकन किए सटीक सुधार प्राप्त करने के लिए, लेखक एक टू-कॉइन बर्नौली फैक्ट्री (Gonçalves et al., 2017) पर आधारित एल्गोरिदम का प्रस्ताव करते हैं।

धारणा: एक बाउंड $C(x, \tilde{x})$ मौजूद है जिससे लाइन इंटीग्रल के इंटीग्रैंड का निरपेक्ष मान $C$ द्वारा सीमित है।
तंत्र: एल्गोरिदम लाइन इंटीग्रल के एक्सपोनेंशियल (स्केल्ड बाय द बाउंड) के एक निष्पक्षतम अनुमानक (unbiased estimator) $W$ का निर्माण करता है, जो पॉइसन-ट्रंकेटेड पावर सीरीज़ का उपयोग करता है।
प्रक्रिया: एल्गोरिदम एक "टू-कॉइन" प्रक्रिया का उपयोग करके एक बार्कर एक्सेप्ट-रिजेक्ट निर्णय का अनुकरण करता है। यह पहले एक निश्चित संभाव्यता $\alpha'$ के साथ रिजेक्ट करता है, और यदि रिजेक्ट नहीं किया गया, तो यह संभाव्यता $W$ के साथ एक कॉइन फ्लिप करता है। यदि कॉइन सफल होता है, तो प्रस्ताव स्वीकार कर लिया जाता है; अन्यथा, राउंड फिर से शुरू होता है।
परिणाम: यह प्रक्रिया एक सटीक बार्कर-एडजस्टेड लैंग्विन करैक्टर प्रदान करती है जो लक्षित वितरण $p_t$ को अपरिवर्तित छोड़ती है, बशर्ते कि स्कोर सटीक हो और बाउंड धारणा बनी रहे।

3. सिम्पसन के नियम के माध्यम से कुशल सन्निकटन (Efficient Approximation via Simpson's Rule)

यह पहचानते हुए कि सटीक बर्नौली फैक्ट्री विधि के लिए स्कोर मूल्यांकनों की एक रैंडम और संभावित रूप से बड़ी संख्या की आवश्यकता होती है, लेखक एक स्केलेबल सन्निकटन का प्रस्ताव करते हैं।

विधि: लाइन इंटीग्रल को सिम्पसन के 1/3 नियम (एक न्यूटन-कोट्स क्वाड्रचर नियम) का उपयोग करके नियत रूप से (deterministically) अनुमानित किया जाता है। इसके लिए वर्तमान अवस्था, प्रस्ताव और मिडपॉइंट पर स्कोर का मूल्यांकन करने की आवश्यकता होती है।
स्वीकृति: प्राप्त अनुमान को मानक मेट्रोपोलिस-हैस्टिंग्स स्वीकृति संभाव्यता में डाला जाता है।
गुणधर्म: हालांकि यह क्वाड्रचर ट्रंकेशन के कारण एक छोटा पूर्वाग्रह पेश करता है, लेकिन यह सन्निकटन स्टेप साइज $h$ के क्रम $O(h^{5/2})$ में सटीकता प्राप्त करता है। यह कम्प्यूटेशनल रूप से सस्ता है, जिसमें प्रति प्रस्ताव केवल एक अतिरिक्त मिडपॉइंट स्कोर मूल्यांकन की आवश्यकता होती है।

मुख्य योगदान (Key Contributions)

MADM फ्रेमवर्क: डिफ्यूजन मॉडल्स के लिए एक मेट्रोपोलिस-एडजस्टेड करैक्टर फ्रेमवर्क की शुरुआत जो व्यवस्थित रूप से बायस्ड ULA स्टेप्स को बदलता है।
सटीक विधि (Exact Method): डिफ्यूजन मॉडल्स में लैंग्विन करेक्शन को एडजस्ट करने के लिए पहली सटीक विधि, जो केवल स्कोर फंक्शन और लाइन इंटीग्रल पर एक बाउंड का उपयोग करती है।
स्केलेबल सन्निकटन: एक व्यावहारिक सिम्पसन नियम सन्निकटन जो लगभग शून्य मार्जिनल लागत (एक अतिरिक्त स्कोर मूल्यांकन) के साथ उच्च-क्रम सटीकता ( $O(h^{5/2})$ ) प्राप्त करता है।
अनुभवजन्य सत्यापन (Empirical Validation): सिंथेटिक और इमेज डेटासेट्स पर प्री-ट्रेंड मॉडल्स का उपयोग करके बेहतर सैंपल क्वालिटी का प्रदर्शन।

परिणाम (Results)

लेखक MADM का मूल्यांकन सिंथेटिक 2D डेटासेट्स और मानक इमेज बेंचमार्क्स (CIFAR-10, FFHQ, AFHQv2, ImageNet-64) पर Karras et al. (2022) के प्री-ट्रेंड मॉडल्स का उपयोग करके करते हैं।

सिंथेटिक डेटासेट्स: 2D डेटासेट्स (स्पाइरल, फनल, सिएरपिंस्की ट्रायंगल, पिनव्हील) पर, मानक एंसेस्ट्रल सैंपलर (जो एक प्रेडिक्टर के बराबर है जिसमें ULA करैक्टर है) ने वास्तविक डेटा वितरण के सपोर्ट के बाहर महत्वपूर्ण आउटलेयर्स के साथ सैंपल उत्पन्न किए। MADM करैक्टर स्टेप्स ने इन सैंपल्स को सफलतापूर्वक डेटा सपोर्ट में वापस लाया, जिससे आउटलेयर्स समाप्त हो गए।
इमेज डेटासेट्स:
- अनकंडीशनल मॉडल्स (CIFAR-10, FFFF, AFHQv2) के लिए, प्रत्येक प्रेडिक्टर स्टेप के प्रति एक MADM करैक्टर स्टेप लागू करने से डिटर्मिनिस्टिक बेसलाइन्स (Heun और Euler ODE सॉल्वर्स) की तुलना में फ्रैचे इनसेप्शन डिस्टेंस (FID) में सुसंगत, हालांकि मामूली सुधार प्राप्त हुआ।
- क्लास-कंडीशनल ImageNet-64 मॉडल के लिए, लाभ अधिक स्पष्ट थे। बिना करेक्शन के उच्च-क्रम Heun प्रेडिक्टर का उपयोग करने के बजाय Euler प्रेडिक्टर के साथ MADM का उपयोग करने से FID में बड़े सुधार मिले। यह सुझाव देता है कि जब स्टेप्स की संख्या अधिक हो, तो MH एडजस्टमेंट्स केवल ODE सॉल्वर के क्रम को बढ़ाने की तुलना में विवक्तीकरण त्रुटियों को कम करने में अधिक प्रभावी होते हैं।
कम्प्यूटेशनल लागत: पाया गया कि सटीक विधि (एल्गोरिदम 2) स्कोर मूल्यांकनों की आवश्यक रैंडम संख्या के कारण कम्प्यूटेशनल रूप से महंगी थी। फलस्वरूप, प्रयोगों में मुख्य रूप से सिम्पसन के नियम सन्निकटन (एल्गोरिदम 3) का उपयोग किया गया, जिसने प्रबंधनीय ओवरहेड के साथ सुसंगत लाभ प्रदान किया।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि यह डिफ्यूजन मॉडल्स में लैंग्विन करेक्शन को एडजस्ट करने के लिए पहली सटीक विधि प्रदान करता है, जो बायस्ड ULA करेक्टर्स के अंतर्निहित पूर्वाग्रह को संबोधित करता है। लाइन इंटीग्रल के माध्यम से घनत्व अनुपात का अनुमान लगाने के लिए स्कोर फंक्शन का लाभ उठाकर, MADM अगम्य डेटा घनत्व तक पहुंच की आवश्यकता के बिना जनरेटिव मॉडलिंग में कठोर MCMC स्वीकृति मानदंडों के उपयोग को सक्षम बनाता है।

लेखक MADM को प्रेडिक्टर-करैक्टर फ्रेमवर्क के एक स्वाभाविक विस्तार के रूप में देखते हैं जो सैंपल क्वालिटी में सुधार करता है। वे उल्लेख करते हैं कि जबकि सटीक विधि सैद्धांतिक रूप से महत्वपूर्ण है, सिम्पसन के नियम का सन्निकटन एक व्यावहारिक, स्केलेबल समाधान प्रदान करता है जो इमेज बेंचमार्क्स पर लगातार FID में सुधार करता है। यह कार्य 'परफेक्ट स्कोर एस्टीमेशन' को मानता है, जिसे डिफ्यूजन मॉडल्स की एक अंतर्निहित सीमा के रूप में स्वीकार किया गया है, न कि उनके अपने तरीके के विशिष्ट दोष के रूप में। भविष्य के कार्य के लिए उनके सटीक विधि या उसके सबरूटीन के कुशल वेरिएंट विकसित करने का सुझाव दिया गया है।