⚡ electrical engineering

Dual Ascent Diffusion for Inverse Problems

यह शोध पत्र 'डुअल एसेंट डिफ्यूजन' (Dual Ascent Diffusion) प्रस्तुत करता है, जो एक नवीन डुअल एसेंट अनुकूलन ढांचा है जो मौजूदा अत्याधुनिक विधियों की तुलना में बेहतर छवि गुणवत्ता, शोर के प्रति मजबूती, गति और अवलोकन निष्ठा के साथ जटिल इनवर्स समस्याओं को हल करने के लिए डिफ्यूजन मॉडल प्रायर्स (diffusion model priors) का लाभ उठाता है।

मूल लेखक: Minseo Kim, Axel Levy, Gordon Wetzstein

प्रकाशित 2026-05-15

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Minseo Kim, Axel Levy, Gordon Wetzstein

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक पहेली सुलझाने की कोशिश कर रहे हैं, लेकिन किसी ने पहेली के टुकड़ों की एक फोटो ले ली है, फोटो को ग्रीस (चिकनाई) से धुलधुला कर दिया है, और फिर उसका एक बहुत बड़ा हिस्सा काट दिया है। आपका लक्ष्य यह अनुमान लगाना है कि मूल, पूर्ण पहेली कैसी दिखती थी। विज्ञान और इंजीनियरिंग की दुनिया में, इसे इनवर्स प्रॉब्लम (inverse problem) कहा जाता है। यह कुछ ऐसा है जैसे यह पता लगाने की कोशिश करना कि एक धुंधले, विकृत दर्पण के माध्यम से चलने से पहले वह व्यक्ति कैसा दिखता था।

लंबे समय से, कंप्यूटर अनुमान लगाने में अच्छे रहे हैं, लेकिन वे अक्सर "हैलुसिनेट" (ऐसी चीजें बना लेते हैं जो वहां नहीं हैं) करते हैं या धुंधले, गलत परिणाम देते हैं।

यह शोध पत्र एक नई विधि पेश करता है जिसे DDiff (डुअल एसेंट डिफ्यूजन) कहा जाता है, जो एक अधिक स्मार्ट और अनुशासित पहेली सुलझाने वाले की तरह काम करता है। यह इस प्रकार काम करता है:

1. समस्या: "अनुमान लगाने का खेल"

मौजूदा तरीके शक्तिशाली AI मॉडल (जिन्हें डिफ्यूजन मॉडल्स कहा जाता है) का उपयोग करते हैं, जिन्होंने सीखा है कि "सामान्य" चित्र कैसे दिखते हैं। इन मॉडल्स को एक ऐसे कलाकार के रूप में सोचें जिसने लाखों फोटो देखी हैं और उसे पता है कि एक चेहरा, एक इमारत, या एक पेड़ कैसा दिखना चाहिए।

पहेली सुलझाते समय, ये तरीके दो चीजों को मिलाने की कोशिश करते हैं:

सुराग (The Clues): वह धुंधली, क्षतिग्रस्त फोटो वास्तव में क्या दिखाती है।
कलाकार की अंतर्दृष्टि (The Artist's Intuition): AI के प्रशिक्षण के आधार पर छवि को कैसा दिखना चाहिए।

समस्या यह है कि मौजूदा तरीके इन दोनों के बीच संतुलन बनाने में अक्सर संघर्ष करते हैं। वे या तो सुरागों को बहुत अधिक सुनते हैं जिससे एक शोर भरा (noisy) ढेर बन जाता है, या वे कलाकार को बहुत अधिक सुनते हैं और वे विवरण बना लेते हैं जो मूल फोटो में नहीं थे (हैलुसिनेशन)।

2. समाधान: एक "तीन लोगों की टीम"

लेखकों ने एक नया ढांचा बनाया है जिसे DDiff कहा जाता है, जो इस समस्या को तीन विशिष्ट भूमिकाओं के बीच एक बातचीत के रूप में देखता है, जो लगातार एक-दूसरे के काम की जांच करती हैं। वे एक गणितीय रणनीति का उपयोग करते हैं जिसे डुअल एसेंट (Dual Ascent) कहा जाता है (जो ADMM नामक एक विधि से प्रेरित है) ताकि सभी को तालमेल में रखा जा सके।

इस प्रक्रिया को एक क्षतिग्रस्त पेंटिंग को बहाल करने वाली तीन लोगों की टीम के रूप में सोचें:

व्यक्ति A (डेटा कीपर): इनका एकमात्र काम यह सुनिश्चित करना है कि अंतिम छवि धुंधले सुरागों (मापों) से मेल खाती हो। वे लगातार कहते हैं, "अरे, यह हिस्सा उस फोटो जैसा नहीं दिख रहा है जो हमें दी गई थी!"
व्यक्ति B (कला विशेषज्ञ): इनका काम छवि को वास्तविक और स्पष्ट बनाना है, AI के इस ज्ञान का उपयोग करके कि चित्र कैसे दिखने चाहिए। वे कहते हैं, "वह किनारा बहुत ऊबड़-खाबड़ दिख रहा है; चलिए इसे एक असली फोटो की तरह चिकना करते हैं।"
व्यक्ति C (रेफरी): यह नया, महत्वपूर्ण जोड़ है। व्यक्ति C एक "डुअल वेरिएबल" (स्कोरकार्ड) रखता है। वे व्यक्ति A और व्यक्ति B पर नज़र रखते हैं। यदि व्यक्ति A और व्यक्ति B के बीच असहमति होती है, तो व्यक्ति C उनके बीच के तनाव को समायोजित करता है। वे यह सुनिश्चित करते हैं कि कला विशेषज्ञ नकली विवरण न बनाए और डेटा कीपर शोर में न फंस जाए।

3. वे मिलकर कैसे काम करते हैं (नृत्य)

केवल एक अनुमान लगाने और उम्मीद करने के बजाय, टीम बारी-बारी से छोटे-छोटे समायोजन करने के चक्र में काम करती है:

कला विशेषज्ञ छवि को साफ करता है ताकि वह वास्तविक दिखे।
डेटा कीपर छवि में बदलाव करता है ताकि यह सुनिश्चित हो सके कि यह धुंधले सुरागों के अनुरूप है।
रेफरी दोनों के बीच के "अंतराल" की जांच करता है। यदि छवि सुरागों से बहुत दूर जा रही है, तो रेफरी उसे वापस खींचता है। यदि यह बहुत शोर भरी है, तो रेफरी कला विशेषज्ञ को इसे चिकना करने देता है।

शोध पत्र यह सिद्ध करता है कि यदि आप इस नृत्य को जारी रखते हैं, तो टीम अंततः बहस करना बंद कर देगी और एक एकल, पूर्ण समाधान पर सहमत हो जाएगी। इसे फिक्स्ड पॉइंट की ओर अभिसरण (convergence to a fixed point) कहा जाता है।

4. यह बेहतर क्यों है

शोध पत्र का दावा है कि DDiff तीन मुख्य कारणों से पिछले तरीकों से बेहतर है:

यह अधिक ईमानदार है: यह मूल धुंधले सुरागों से बहुत अधिक मेल खाने वाली छवियां बनाता है। पेपर के परीक्षणों में, "रेसिड्यूअल एरर" (अनुमान और वास्तविक सुराग के बीच का अंतर) शून्य के करीब था। इसका मतलब है कि यह कम नकली विवरण बनाता है।
यह शोर (Noise) को बेहतर ढंग से संभालता है: यदि मूल फोटो बहुत गंदी या शोर भरी है (जैसे भारी तूफान में ली गई फोटो), तो DDiff घबराता नहीं है। यह मजबूत रहता है और स्थिर (static) से भ्रमित नहीं होता, जबकि अन्य तरीके एक विकृत ढेर बना सकते हैं।
यह तेज़ है: क्योंकि टीम कुशलतापूर्वक मिलकर काम करती है, DDiff अन्य तरीकों की तुलना में कम चरणों में उच्च-गुणवत्ता वाला परिणाम प्राप्त कर लेता है। यह पहेली को आधे समय में हल करने जैसा है।

5. वास्तविक दुनिया के परीक्षण

लेखकों ने इस "तीन लोगों की टीम" का विभिन्न कठिन कार्यों पर परीक्षण किया, जैसे कि:

सुपर-रिज़ॉल्यूशन (Super-resolution): एक छोटी, धुंधली छवि को एक बड़ी, स्पष्ट छवि में बदलना।
इनपेंटिंग (Inpainting): एक छवि के बड़े गायब हिस्सों को भरना (जैसे चेहरे का 128x128 का गायब हिस्सा)।
डिब्लरिंग (Deblurring): उन छवियों को ठीक करना जो कैमरा हिलने के कारण धुंधली हो गई हैं।
फेज रिट्रीवल (Phase Retrieval): एक जटिल भौतिकी समस्या जहाँ आपको तरंग पैटर्न (wave patterns) से एक छवि को पुनर्गठित करना होता है (अक्सर माइक्रोस्कोपी में उपयोग किया जाता है)।

इन सभी परीक्षणों में, DDiff ने वर्तमान अत्याधुनिक (state-of-the-art) तरीकों की तुलना में अधिक स्पष्ट और साफ छवियां बनाईं और कम आर्टिफैक्ट्स (दोष) उत्पन्न किए।

सारांश

संक्षेप में, DDiff टूटी हुई छवियों को ठीक करने के लिए AI का उपयोग करने का एक नया तरीका है। AI को स्वतंत्र रूप से अनुमान लगाने देने के बजाय, यह AI को एक सख्त रेफरी के साथ एक संरचित "टीम" में रखता है। यह सुनिश्चित करता है कि अंतिम परिणाम वास्तविक (यह एक असली फोटो जैसा दिखता है) और सटीक (यह वास्तव में उन धुंधले सुरागों से मेल खाता है जिनसे हमने शुरुआत की थी) दोनों हो, भले ही सुराग बहुत शोर भरे या अधूरे हों।

तकनीकी सारांश: इन्वर्स प्रॉब्लम्स के लिए ड्यूल एसेंट डिफ्यूजन (Dual Ascent Diffusion)

समस्या विवरण (Problem Statement)

इन्वर्स प्रॉब्लम्स (Inverse problems) में एक अज्ञात सिग्नल या इमेज $x$ का अनुमान शोर (noise) और दूषित अवलोकनों (observations) $y$ से लगाया जाता है, जो एक फॉरवर्ड ऑपरेटर $A(\cdot)$ द्वारा नियंत्रित होते हैं। ये समस्याएँ खगोल भौतिकी (astrophysics) से लेकर चिकित्सा इमेजिंग और प्रोटीन संरचना निर्धारण तक के क्षेत्रों में सर्वव्यापी हैं। ये आमतौर पर 'इल-पोज़्ड' (ill-posed) होती हैं, जिन्हें समाधान स्थान को सीमित करने के लिए प्रायर्स (priors) की आवश्यकता होती है।

जबकि आधुनिक दृष्टिकोण प्री-ट्रेन्ड डिफ्यूजन मॉडल्स का शक्तिशाली प्रायर्स के रूप में उपयोग करते हैं, मैक्सिमम-अ-पोस्टीरियर (MAP) समस्याओं को हल करने या पोस्टीरियर से सैंपलिंग करने वाले मौजूदा तरीके महत्वपूर्ण सीमाओं का सामना करते हैं। कई विधियाँ अवलोकन मॉडल की संभावना (likelihood) को डिफ्यूजन प्रायर के साथ संयोजित करने के लिए कम्प्यूटेशनल सन्निकटन (approximations) पर निर्भर करती हैं। ये सन्निकटन अक्सर गलत सैंपल्स, उप-इष्टतम पुनर्निर्माण गुणवत्ता, या अवलोकनों का निष्ठापूर्वक प्रतिनिधित्व करने में विफलता (अर्थात, उच्च रेसिडुअल्स) की ओर ले जाते हैं, जो उत्पन्न समाधान में "हैलुसिनेशन" (hallucinations) के रूप में प्रकट हो सकता है। इसके अलावा, कई अत्याधुनिक (state-of-the-art) विधियाँ माप के उच्च स्तर के शोर (measurement noise) के साथ संघर्ष करती हैं और त्रुटियों के संचय या पूरक मार्कोव चेन मोंटे कार्लो (MCMC) चरणों की आवश्यकता के कारण कम्प्यूटेशनल अक्षमता से ग्रस्त होती हैं।

कार्यप्रणाली: ड्यूल एसेंट डिफ्यूजन (DDiff)

लेखक MAP समस्याओं को हल करने के लिए एक नया ढांचा DDiff प्रस्तावित करते हैं। मौजूदा विधियों के विपरीत, जो पोस्टीरियर से सैंपलिंग करने का प्रयास करती हैं, DDiff एक अनुकूलन रणनीति (optimization strategy) विकसित करने पर ध्यान केंद्रित करता है जो MAP समस्या को सटीक और कुशलता से हल करती है। यह विधि अल्टरनेटिंग डायरेक्शन मेथड ऑफ मल्टीप्लायर्स (ADMM) से प्रेरित है, लेकिन इसमें डिफ्यूजन मॉडल्स के लिए विशेष रूप से अनुकूलित एक नवीन ड्यूल एसेंट (dual ascent) संरचना पेश की गई है।

मुख्य एल्गोरिद्मिक घटक (Core Algorithmic Components)

DDiff फ्रेमवर्क प्रत्येक चरण के भीतर तीन प्राथमिक अपडेट के माध्यम से इटरेशन करता है, जो प्राइमल वेरिएबल्स ( $x, z$ ) और ड्यूल वेरिएबल ( $u$ ) के बीच बारी-बारी से चलता है:

x-अपडेट (डेटा फिडेलिटी): एक बाधित लीस्ट-स्क्वेयर्स समस्या को सटीक रूप से हल करने के बजाय, DDiff डेटा फिडेलिटी टर्म $-\log p(y|x)$ पर एक सिंगल ग्रेडिएंट डिसेंट स्टेप का उपयोग करता है, जिससे यह विधि किसी भी डिफरेंशिएबल फॉरवर्ड मॉडल $A(\cdot)$ के लिए सीधे लागू होने योग्य बन जाती है, चाहे वह लीनियर हो या नॉन-लीनियर।
$x \leftarrow v - \gamma \nabla_v \|y - A(v)\|_2^2, \quad \text{जहाँ } v = z - u$
z-अपडेट (डिनोइजिंग): यह चरण एक डिफ्यूजन मॉडल को एक डिनोइज़र के रूप में केवलनेयव (naive) अनुप्रयोग को बदल देता है। लेखक देखते हैं कि मानक स्कोर मॉडल्स $s_\theta(x, t)$ केवल समय $t$ पर डिफ्यूजन मैनिफोल्ड पर सटीक होते हैं। यह संबोधित करने के लिए कि वेरिएबल $x+u$ सामान्यतः इस मैनिफोल्ड पर नहीं होता है, DDiff एक रिकर्सिव वेरिएबल $x_t$ का निर्माण करता है जो डिनोइजिंग प्रक्रिया को एंकर करता है। अपडेट में एक DDIM-शैली का रिवर्स डिफ्यूजन स्टेप शामिल है जहाँ "प्रेडिक्टेड $x_0$ " वर्तमान प्राइमल अनुमान $x$ है, और ड्यूल वेरिएबल $u$ को सिग्नल लेवल के साथ निरंतरता बनाए रखने के लिए री-स्केल और जोड़ा जाता है।
$z \leftarrow \frac{1}{\sqrt{\bar{\alpha}_t}} (x_t + (1-\bar{\alpha}_t)s_\theta(x_t, t))$
जहाँ $x_t$ को ड्यूल वेरिएबल $u$ को शामिल करते हुए एक DDIM स्टेप के माध्यम से अपडेट किया जाता है।
ड्यूल अपडेट: ड्यूल वेरिएबल $u$ को प्राइमल वेरिएबल्स के बीच रेसिडुअल एरर को संचित करके $x=z$ के प्रतिबंध को लागू करने के लिए अपडेट किया जाता है:
$u \leftarrow u + x - z$

लेटेंट एक्सटेंशन (Latent Extension)

फ्रेमवर्क को लेटेंट डिफ्यूजन मॉडल्स (LDMs) के उपयोग के लिए LatentDDiff में विस्तारित किया गया है। यह वेरिएंट मेमोरी और कंप्यूट डिमांड को कम करने के लिए कॉम्पैक्ट लेटेंट रिप्रेजेंटेशन पर काम करता है। यह डेटा कंसिस्टेंसी को लागू करने के लिए दो मोड का समर्थन करता है:

Latent-DC: लेटेंट स्पेस में सीधे कंसिस्टेंसी लागू करता है, जिसके लिए डिकोडर के माध्यम से बैक-प्रोपैगेशन की आवश्यकता होती है।
Pixel-DC: लेटेंट वेरिएबल को पिक्सेल स्पेस में डिकोड करता है, डेटा कंसिस्टेंसी सुधार लागू करता है, और पुनः एनकोड करता है। लेखक नोट करते हैं कि Pixel-DC लगातार उच्च-गुणवत्ता वाले पुनर्निर्माण प्रदान करता है।

प्रमुख योगदान (Key Contributions)

डिफ्यूजन प्रायर्स के लिए ड्यूल एसेंट फ्रेमवर्क: यह पेपर एक नवीन अनुकूलन रणनीति पेश करता है जो ड्यूल एसेंट (ADMM से प्रेरित) को डिफ्यूजन मॉडल्स के साथ एकीकृत करती है। यह दृष्टिकोण उन सन्निकटनों से बचता है जो मौजूदा पोस्टीरियर सैंपलिंग विधियों में आम हैं।
फिक्स्ड-पॉइंट कन्वर्जेंस प्रूफ: लेखक एक डिफ्यूजन-आधारित पोस्टीरियर ऑप्टिमाइज़ेशन विधि के लिए पहला फिक्स्ड-पॉइंट कन्वर्जेंस प्रूफ स्थापित करते हैं। वे प्रदर्शित करते हैं कि बाउंडेड डिनोइज़र और ग्रेडिएंट धारणाओं के तहत, प्राइमल और ड्यूल वेरिएबल्स के अनुक्रम एक फिक्स्ड पॉइंट $(x^\star, z^\star, u^\star)$ की ओर अभिसरित (converge) होते हैं, भले ही नॉन-कॉन्वेक्स प्रायर माना गया हो।
बेहतर मजबूती और फिडेलिटी: विधि को ऐसे समाधान उत्पन्न करने के लिए डिज़ाइन किया गया है जो अवलोकनों का अधिक निष्ठापूर्वक मॉडल करते हैं, जैसा कि रेसिडुअल्स के शून्य के करीब होने से सिद्ध होता है। यह जेनेरेटिव प्रायर द्वारा उत्पन्न होने वाले "हैलुसिनेशन" की संभावना को कम करता है।
दक्षता (Efficiency): DDiff पूरक MCMC इक्विलिब्रेशन स्टेप्स (जैसे DAPS में आवश्यक) की आवश्यकता को समाप्त करके और उच्च-गुणवत्ता वाले परिणामों के लिए आवश्यक न्यूरल फंक्शन इवैलुएशन (NFEs) की संख्या को कम करके तेज़ इन्फरेंस समय प्राप्त करता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने सुपर-रिज़ॉल्यूशन, इनपेंटिंग, गौसियन और मोशन डिब्लरिंग, फेज रिट्रीवल, नॉन-लीनियर डिब्लरिंग और हाई-डायनामिक-रेंज (HDR) इमेजिंग सहित रैखिक और गैर-रैखिक इन्वर्स प्रॉब्लम्स की एक विस्तृत श्रृंखला पर DDiff का मूल्यांकन किया। प्रयोग FFHQ और ImageNet डेटासेट पर किए गए।

मात्रात्मक प्रदर्शन (Quantitative Performance): DDiff ने अधिकांश कार्यों पर अत्याधुनिक बेसलाइन्स (DAPS, DMPlug, DCDP, DPS, DiffPIR, और DDRM सहित) को पछाड़ दिया। इसने पीक सिग्नल-टू-नॉइज़ रेशियो (PSNR), स्ट्रक्चरल सिमिलैरिटी इंडेक्स (SSIM), और लर्नड परसेप्चुअल इमेज पैच सिमिलैरिटी (LPIPS) में बेहतर स्कोर प्राप्त किया। विशेष रूप से, इसने सबसे कम रेसिडुअल एरर प्राप्त किया, जो बेहतर डेटा कंसिस्टेंसी को दर्शाता है।
शोर के प्रति मजबूती (Robustness to Noise): विधि ने माप के उच्च स्तर के शोर के प्रति काफी अधिक मजबूती प्रदर्शित की। जबकि कुछ बेसलाइन विधियों में शोर बढ़ने के साथ PSNR में तेजी से गिरावट देखी गई, DDiff ने स्थिर प्रदर्शन बनाए रखा। उच्च-शोर परिदृश्यों (जैसे $\sigma=0.3$ के साथ फेज रिट्रीवल) में, DDiff ने वहां सुसंगत ग्लोबल स्ट्रक्चर और सिमेंटिक्स को रिकवर किया जहां अन्य विधियों ने दूषित आर्टिफैक्ट्स उत्पन्न किए।
दक्षता: समय दक्षता के मामले में, DDiff ने DAPS की तुलना में कम NFEs के साथ बेहतर पर्सेप्चुअल क्वालिटी प्राप्त की। रैखिक कार्यों के लिए इसे लगभग आधा सैंपलिंग समय लगा और गैर-रैखिक कार्यों के लिए तुलनीय या बेहतर परिणाम प्राप्त करने के लिए एक-छठा समय लगा।
एब्लेशन स्टडीज (Ablation Studies): प्रयोगों ने पुष्टि की कि ड्यूल वेरिएबल अपडेट और विशिष्ट नॉइसिंग स्टेप (पेपर में समीकरण 12) दोनों ही महत्वपूर्ण हैं। ड्यूल वेरिएबल को हटाना (DiffPIR की नकल करना) या नॉइसिंग स्टेप को हटाने से प्रदर्शन में महत्वपूर्ण गिरावट आई, विशेष रूप से हाई-फ्रीक्वेंसी आर्टिफैक्ट्स और डेटा कंसिस्टेंसी के संदर्भ में।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि DDiff पोस्टीरियर सैंपलिंग सन्निकटन से एक मजबूत ड्यूल-एसेंट ऑप्टिमाइज़ेशन फ्रेमवर्क की ओर स्थानांतरित होकर डिफ्यूजन प्रायर्स के साथ इन्वर्स प्रॉब्लम्स को हल करने में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है। लेखक इस बात पर जोर देते हैं कि उनकी विधि:

अवलोकनों का निष्ठापूर्वक मॉडल करती है: रेसिडुअल्स को कम करके, यह जेनेरेटिव इन्वर्स प्रॉब्लम सॉल्वर में अक्सर देखे जाने वाले "हैलुसिनेशन" प्रभाव को कम करती है।
कम्प्यूटेशनल रूप से कुशल है: यह MCMC स्टेप्स की बाधा को हटाती है और ग्रेडिएंट गणनाओं के कम्प्यूटेशनल बोझ को कम करती है।
सैद्धांतिक रूप से सुदृढ़ है: प्रदान किया गया कन्वर्जेंस प्रूफ विधि की स्थिरता के लिए एक सैद्धांतिक गारंटी प्रदान करता है, जो कई पूर्ववर्ती डिफ्यूजन-आधारित ऑप्टिमाइज़ेशन दृष्टिकोणों में कमी है।

लेखक निष्कर्ष निकालते हैं कि DDiff जटिल, बड़े पैमाने की इन्वर्स प्रॉब्लम्स के लिए एक व्यावहारिक समाधान है, विशेष रूप से उन परिदृश्यों में जहाँ माप का शोर प्रमुख होता है, जैसे लो-डोज CT रिकंस्ट्रक्शन। भविष्य के कार्य के रूप में 3D वॉल्यूम और वीडियो जैसे उच्च-आयामी डेटा के लिए फ्रेमवर्क को विस्तारित करने का सुझाव दिया गया है।