📊 statistics

An invertible generative model for forward and inverse problems

यह शोधपत्र एक "रिवर्सिबल सिम्युलेटर" (Reversible Simulator) प्रस्तावित करता है, जो त्रिकोणीय नॉर्मलाइजिंग फ्लो (triangular normalizing flows) पर आधारित एक व्युत्क्रमणीय जनरेटिव मॉडल है जो फॉरवर्ड सिमुलेशन और बायेसियन इनवर्स इन्फरेंस को एक ही ढांचे के भीतर एकीकृत करता है जिसे सीधे युग्मित नमूनों (paired samples) से प्रशिक्षित किया जा सकता है।

मूल लेखक: Christoph Brune, Marcello Carioni, Tristan van Leeuwen, Lasse Veenstra

प्रकाशित 2026-08-11

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Christoph Brune, Marcello Carioni, Tristan van Leeuwen, Lasse Veenstra

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे एक जासूस हैं, लेकिन आपके पास केवल अपराध स्थल की एक धुंधली, अधूरी तस्वीर है। यह उस चीज़ का सार है जिसे वैज्ञानिक "इनवर्स प्रॉब्लम" (inverse problem) कहते हैं। आमतौर पर, हम जानते हैं कि चीजें कैसे काम करती हैं: यदि आप एक स्पष्ट फोटो लेते हैं और उसे धुंधला कर देते हैं, तो आपको एक धुंधली फोटो मिलती है। यह आसान है। लेकिन वापस जाना—एक धुंधली फोटो से यह पता लगाना कि मूल स्पष्ट दृश्य वास्तव में कैसा दिखता था—बेहद कठिन है। यह एक केक को वापस बनाने या स्मूदी को वापस मिलाने जैसा है। अक्सर, कई अलग-अलग तरीके हो सकते हैं जिनसे मूल दृश्य वैसा दिख सकता था जिससे वही धुंधली फोटो बनी हो, जिससे उत्तर अनिश्चित और अस्थिर हो जाता है।

इसे हल करने के लिए, वैज्ञानिक "बेशियन" (Bayesian) दृष्टिकोण का उपयोग करते हैं, जो बस एक फैंसी तरीका है यह कहने का कि वे धुंधले साक्ष्यों और अपने सबसे अच्छे अनुमानों (जिन्हें "प्रायर्स" कहा जाता है) के मिश्रण का उपयोग करके सबसे संभावित मूल दृश्य की गणना करते हैं। वे "जेनरेटिव मॉडल्स" (generative models) का भी उपयोग करते हैं, जो सुपर-स्मार्ट एआई कलाकार हैं जिन्हें चित्र बनाने के लिए प्रशिक्षित किया गया है। आमतौर पर, आपको एक एआई कलाकार की आवश्यकता होती है जो यह सिम्युलेट करे कि एक स्पष्ट चित्र कैसे धुंधला होता है (फॉरवर्ड प्रॉब्लम) और एक पूरी तरह से अलग एआई कलाकार की आवश्यकता होती है जो धुंधली फोटो से स्पष्ट फोटो का अनुमान लगाए (इनवर्स प्रॉब्लम)। लेकिन क्या होगा अगर आपके पास केवल एक ही जादुई उपकरण हो जो दोनों काम कर सके? यही वह बड़ा सवाल है जिसे यह शोध पत्र संबोधित करता है: क्या हम एक एकल, प्रतिवर्ती मशीन (reversible machine) बना सकते हैं जो सिम्युलेटर और जासूस दोनों के रूप में कार्य करे?

इस शोध पत्र के लेखक एक नया ढांचा प्रस्तावित करते हैं जिसे "रिवर्सिबल सिम्युलेटर" (Reversible Simulator) कहा जाता है। इसे एक जादुई, दो-तरफा दर्पण की तरह समझें। एक तरफ, आप इसमें एक स्पष्ट छवि और थोड़ा सा रैंडम शोर (noise) डाल सकते हैं, और यह आपको ठीक वही दिखाएगा कि वह छवि धुंधली या क्षतिग्रस्त होने पर कैसी दिखेगी (यह "फॉरवर्ड" या सिमुलेशन चरण है)। लेकिन यहाँ पेच यह है कि क्योंकि यह दर्पण पूरी तरह से प्रतिवर्ती (reversible) है, आप इस प्रक्रिया को उलट भी सकते हैं। आप इसमें धुंधली छवि और वही रैंडम शोर डाल सकते हैं, और यह तुरंत आपको सबसे संभावित मूल स्पष्ट छवि दिखा देगा (यह "इनवर्स" या इन्फरेंस चरण है)।

दो अलग-अलग एआई मॉडल को प्रशिक्षित करने के बजाय—एक जो धुंधला करना सीखता है और दूसरा जो अन-ब्लर करना सीखता है—लेखक दिखाते हैं कि कैसे एक ही, एकीकृत मानचित्र बनाया जा सकता है जो दोनों दिशाओं को संभालता है। वे गणितीय रूप से सिद्ध करते हैं कि ऐसा मानचित्र मौजूद है और इसे दो विशिष्ट प्रकार के गणितीय प्रवाहों (एक जो डेटा को "नीचे और दाईं ओर" ले जाता है, और दूसरा जो "ऊपर और बाईं ओर" ले जाता है) को मिलाकर बनाया जा सकता है। वे इस संयुक्त संरचना को "रिवर्सिबल सिम्युलेटर" कहते हैं।

शोध पत्र केवल सिद्धांत तक सीमित नहीं है; उन्होंने वास्तव में इस सिम्युलेटर को बनाया और इसका परीक्षण किया। अपने प्रयोगों में, उन्होंने हस्तलिखित अंकों (प्रसिद्ध MNIST नंबरों) के एक डेटासेट का उपयोग किया। उन्होंने अंकों की स्पष्ट छवियां लीं, उनके बीच के हिस्सों को मिटा दिया (जैसे एक डिजिटल "इनपेंटिंग" समस्या), और उसमें शोर (noise) मिला दिया। उन्होंने अपने रिवर्सिबल सिम्युलेटर को मूल स्पष्ट छवियों और क्षतिग्रस्त छवियों के जोड़ों पर प्रशिक्षित किया।

परिणाम उत्साहजनक थे। जब उन्होंने सिम्युलेटर को "रिवर्स" मोड (इन्फरेंस) में चलाया, तो इसने अंकों के गायब हिस्सों को सफलतापूर्वक भर दिया। उदाहरण के लिए, यदि किसी "9" के ऊपरी हिस्से को मिटा दिया गया हो, तो सिम्युलेटर गायब हिस्से का अनुमान लगा सकता है और पूर्ण संख्या को फिर से बना सकता है। इससे भी दिलचस्प बात यह है कि सिम्युलेटर आपको यह बता सकता था कि वह अपने अनुमान के बारे में कितना आश्वस्त है। उन क्षेत्रों में जहाँ छवि गायब थी, सिम्युलेटर ने उच्च अनिश्चितता दिखाई (जैसे संभावनाओं का एक धुंधला बादल), लेकिन उन क्षेत्रों में जहाँ छवि अभी भी दिखाई दे रही थी, यह बहुत सटीक और आत्मविश्वासी था।

हालाँकि, लेखक सावधानी बरतते हुए नोट करते हैं कि यह कोई जादुई छड़ी नहीं है जो सब कुछ पूरी तरह से हल कर दे। अपने परीक्षणों में, सिम्युलेटर कभी-कभी विशिष्ट आकृतियों (जैसे अंक "3") के साथ संघर्ष करता था, और जब उन्होंने इसे अक्षरों (जैसे "A" या "F") के लिए उपयोग करने का प्रयास किया, तो यह उतना अच्छा काम नहीं कर पाया क्योंकि इसे अक्षरों पर प्रशिक्षित नहीं किया गया था। यह सुझाव देता है कि हालांकि यह ढांचा शक्तिशाली है, फिर भी यह काफी हद तक उस डेटा पर निर्भर करता है जिस पर इसे प्रशिक्षित किया गया है।

शोध पत्र यह भी रेखांकित करता है कि यह एकल प्रतिवर्ती मानचित्र दो अलग-अलग मॉडल प्रशिक्षित करने की तुलना में अधिक कुशल है। यह एक स्विस आर्मी नाइफ की तरह है जो बोतल खोलने और पेंच कसने, दोनों काम कर सकता है, बजाय इसके कि आप दो अलग-अलग उपकरण लेकर चलें। लेखक सुझाव देते हैं कि यह दृष्टिकोण उन कार्यों के लिए बहुत उपयोगी हो सकता है जहाँ आपको डेटा को सिम्युलेट करने और उत्तरों का अनुमान लगाने के बीच लगातार स्विच करने की आवश्यकता होती है, जैसे बेहतर प्रयोगों को डिजाइन करना या मेडिकल इमेजिंग में अनिश्चितता को समझना।

संक्षेप में, शोध पत्र बताता है कि "ट्राइएंगुलर" प्रवाहों वाले एक चतुर गणितीय निर्माण का उपयोग करके, हम एक एकल, एकीकृत एआई टूल बना सकते हैं जो सिम्युलेटर और अन्वेषक दोनों के रूप में कार्य करता है। जबकि यह संख्याओं और सरल छवियों के साथ अपने विशिष्ट परीक्षणों में अच्छा काम करता है, लेखक संकेत देते हैं कि यह देखने के लिए कि यह अधिक जटिल, वास्तविक दुनिया के परिदृश्यों को कितनी अच्छी तरह संभाल सकता है और इसकी विशिष्टता की सीमाओं को पूरी तरह से समझने के लिए और अधिक काम करने की आवश्यकता है। यह पुराने समस्याओं को देखने का एक नया, एकीकृत तरीका है, जो दो-चरणीय नृत्य को एक एकल, तरल गति में बदल देता है।

तकनीकी सारांश: अग्र और पश्च समस्याओं के लिए एक प्रतिवर्ती जनरेटिव मॉडल (An Invertible Generative Model for Forward and Inverse Problems)

समस्या विवरण (Problem Statement)
इन्वर्स समस्याएं (Inverse problems), जिन्हें आमतौर पर एक फॉरवर्ड ऑपरेटर $K$ के लिए $u$ खोजने के रूप में तैयार किया जाता है जहाँ $Ku = f$, अक्सर इल-पोज़्ड (ill-posed) होती हैं। जबकि वेरिएशनल तरीके (जैसे, डेटा फिडेलिटी और रेगुलराइजेशन को न्यूनतम करना) पुनर्निर्माण के लिए एक ढांचा प्रदान करते हैं, वे गणनात्मक रूप से महंगे हो सकते हैं। इसके विपरीत, डेटा-संचालित दृष्टिकोण एक सीधा इन्वर्स मैपिंग सीखते हैं लेकिन अक्सर अंतर्निहित इल-पोज़्ड प्रकृति और अनिश्चितता मात्रा निर्धारण (uncertainty quantification) की कमी से जूझते हैं। बेयसियन ढांचे एक कठोर समाधान प्रदान करते हैं क्योंकि वे पोस्टीरियर वितरण का लक्षण वर्णन करते हैं, फिर भी उच्च-आयामी पोस्टीरियर से सैंपलिंग करना गणनात्मक रूप से कठिन होता है (जैसे, MCMC के माध्यम से)।

वर्तमान जनरेटिव मॉडलिंग दृष्टिकोण अक्सर सिमुलेशन (लाइकलीहुड $\mu_{F|U=u}$ से सैंपलिंग करना) और इन्फरेंस (पोस्टीरियर $\mu_{U|F=f}$ से सैंपलिंग करना) को अलग-अलग कार्यों के रूप में देखते हैं, जिनके लिए अलग-अलग कंडीशनल मॉडल का उपयोग किया जाता है। यह पृथक्करण फॉरवर्ड और रिवर्स प्रक्रियाओं के बीच निरंतरता (consistency) लागू करने में विफल रहता है और दो अलग-अलग मॉडल को प्रशिक्षित करने की आवश्यकता होती है, जिससे गणनात्मक लागत बढ़ जाती है।

कार्यप्रणाली: रिवेर्सिबल सिम्युलेटर (Methodology: The Reversible Simulator)
लेखक एक एकल प्रतिवर्ती मानचित्र (invertible map) पर केंद्रित एक एकीकृत ढांचे का प्रस्ताव करते हैं, जिसे रिवेर्सिबल सिम्युलेटर ( $S: \mathbb{R}^{n+m} \to \mathbb{R}^{n+m}$ ) कहा जाता है। इस मानचित्र को अनुप्रयोग की दिशा के आधार पर सिमुलेशन और इन्फरेंस दोनों करने के लिए डिज़ाइन किया गया है:

फॉरवर्ड दिशा (सिमुलेशन): एक लेटेंट वेरिएबल $Y$ और एक पैरामीटर $u$ दिए जाने पर, $S$ को $(u, Y)$ को $(X, F)$ में मैप करता है, जहाँ $F$ लाइकलीहुड $\mu_{F|U=u}$ के अनुसार वितरित है।
रिवर्स दिशा (इन्फरेंस): एक लेटेंट वेरिएबल $X$ और एक ऑब्जर्वेशन $f$ दिए जाने पर, इन्वर्स मैप $R = S^{-1}$ को $(X, f)$ को $(U, Y)$ में मैप करता है, जहाँ $U$ पोस्टीरियर $\mu_{U|F=f}$ के अनुसार वितरित है।

ट्रायंगुलर ट्रांसपोर्ट मैप्स के माध्यम से निर्माण (Construction via Triangular Transport Maps)
लेखक दो ट्रायंगुलर ट्रांसपोर्ट मैप्स (Knothe-Rosenblatt rearrangements) को संयोजित करके $S$ का एक स्पष्ट निर्माण प्रदान करते हैं:

एक लोअर-ट्रायंगुलर मैप ( $\tilde{F}$ ) जो एक रेफरेंस मेजर को संयुक्त वितरण $\mu_{U,F}$ में पुश-फॉरवर्ड करता है, जो लाइकलीहुड की कंडीशनल सैंपलिंग की सुविधा प्रदान करता है।
एक अपर-ट्रायंगुलर मैप ( $\hat{F}$ ) जो पोस्टीरियर की कंडीशनल सैंपलिंग की सुविधा प्रदान करने के लिए समान रूप से कार्य करता है।

रिवेर्सिबल सिम्युलेटर $S$ का निर्माण इन मैप्स और उनके इन्वर्स के संयोजन के रूप में किया जाता है। विशेष रूप से, $S = U \circ L$ है, जहाँ $L$ लोअर-ट्रायंगुलर संरचना का उपयोग करके $u$ पर कंडीशन करता है, और $U$ अपर-ट्रायंगुलर संरचना का उपयोग करके $f$ पर कंडीशन करता है। यह निर्माण सुनिश्चित करता है कि $S$ , प्रोडक्ट ऑफ प्रायर एंड लेटेंट नॉइज़ ( $\mu_U \otimes \mu_Y$ ) और प्रोडक्ट ऑफ लेटेंट नॉइज़ एंड मार्जिनल डेटा ( $\mu_X \otimes \mu_F$ ) के बीच एक वैध ट्रांसपोर्ट मैप है।

वैरिएशनल फॉर्मूलेशन और ट्रेनिंग (Variational Formulation and Training)
जेनेरिक इन्वर्टिबल न्यूरल नेटवर्क आर्किटेक्चर (केवल स्पष्ट ट्रायंगुलर कंस्ट्रक्शन पर निर्भर रहने के बजाय) के साथ प्रशिक्षण सक्षम करने के लिए, लेखक एक वैरिएशनल फॉर्मूलेशन व्युत्पन्न करते हैं। वे एक दूरी मीट्रिक $M$ (जैसे, वॉसरस्टीन डिस्टेंस) के आधार पर चार लॉस फंक्शन्स को परिभाषित करते हैं:

$J_1(S)$ : प्रायर-नॉइज़ प्रोडक्ट के पुश-फॉरवर्ड और संयुक्त वितरण (लाइकलीहुड घटक के माध्यम से) के बीच विसंगति को मापता है।
$J_2(R)$ : पोस्टीरियर घटक के लिए विसंगति को मापता है।
$J_3(S)$ और $J_4(R)$ : फॉरवर्ड और रिवर्स दिशाओं में संयुक्त वितरणों के पुश-फॉरवर्ड के बीच विसंगति को मापते हैं।

लेखक सिद्ध करते हैं कि इन लॉसों को कम करने से (विशेष रूप से $J_1$ और $J_3$ ) यह सुनिश्चित होता है कि सीखा गया मैप रिवेर्सिबल सिम्युलेटर के गुणों को संतुष्ट करता है। यह उन्हें स्पष्ट घनत्व (densities) के प्रत्यक्ष ज्ञान के बिना युग्मित नमूनों $\{(u_i, f_i)\}_{i=1}^N$ से सीधे मॉडल को प्रशिक्षित करने की अनुमति देता है।

मुख्य योगदान (Key Contributions)

एकीकृत ढांचा: पेपर एक एकल इन्वर्टिबल मैप पेश करता है, जो सिमुलेशन और इन्फरेंस दोनों के लिए एक एकीकृत ढांचे के रूप में "रिवेर्सिबल सिम्युलेटर" को प्रस्तुत करता है, जो फॉरवर्ड और इनवर्स मॉडल्स के बीच निरंतरता लागू करता है।
स्पष्ट निर्माण: एक एकल इन्वर्टिबल मैप द्वारा ऐसे सिम्युलेटर का एक स्पष्ट उदाहरण बनाया गया है जो लोअर-ट्रायंगुलर और अपर-ट्रायंगुलर नॉर्मलाइजिंग फ्लो को जोड़ता है।
सैद्धांतिक विश्लेषण: लेखक रिवेर्सिबल सिम्युलेटर्स के अस्तित्व और गैर-विशिष्टता (non-uniqueness) की जांच करते हैं, यह दिखाते हुए कि मेजर-प्रिजर्विंग ट्रांसफॉर्मेशन के संयोजन के माध्यम से अनंत मै मैप्स मौजूद हैं।
ट्रेनिंग ऑब्जेक्टिव: एक वैरिएशनल फॉर्मूलेशन व्युत्पन्न किया गया है जो मानक जनरेटिव आर्किटेक्चर का उपयोग करके युग्मित डेटा से सीधे प्रशिक्षण को सक्षम बनाता है।
संख्यात्मक सत्यापन: फ्रेमवर्क को विश्लेषणात्मक रूप से सुलभ लीनियर गौसियन समस्याओं, नॉन-लीनियर सिंथेटिक उदाहरणों और MNIST डेटासेट का उपयोग करके एक शैलीबद्ध इमेज इनपेंटिंग कार्य पर प्रदर्शित किया गया है।

परिणाम (Results)

लीनियर गौसियन केस: लीनियर इन्वर्स प्रॉब्लम्स के मामले में, जहाँ गौसियन प्रायर्स और लाइकलीहुड्स हैं, निर्मित रिवेर्सिबल सिम्युलेटर को दिखाया गया है कि यह वेल-डिफाइंड है, भले ही फॉरवर्ड मॉडल डिटरमिनिस्टिक हो (अर्थात, जब नॉइज़ वेरिएंस शून्य की ओर बढ़ता है), जबकि मानक ट्रायंगुलर मैप्स डैमेज (degenerate) हो सकते हैं।
नॉन-लीनियर उदाहरण: निर्माण सफलतापूर्वक नॉन-लीनियर डिपेंडेंसी को संभालता है, जो लोअर-ट्रायंगुलर, अपर-ट्रायंगुलर और संयुक्त रिवेर्सिबल मैप्स के लिए अलग-अलग ट्रांसपोर्ट प्लान को विज़ुअलाइज़ करता है।
इमेज इनपेंटिंग (MNIST): रिवेर्सिबल सिम्युलेटर के अनुकूलित GLOW-आधारित आर्किटेक्चर का उपयोग करते हुए, मॉडल सफलतापूर्वक निम्नलिखित सीखने में सक्षम रहा है:
- मूल आकृति की संरचना को बनाए रखते हुए (शोर और मास्किंग जोड़ते हुए) फॉरवर्ड ऑपरेटर को सटीक रूप से दर्शाने वाले लाइकलीहुड सैंपल उत्पन्न करना।
- गायब हिस्सों को पुनर्गठित करने (इनपेंटिंग) और अनिश्चितता को मास्क किए गए क्षेत्रों में सही ढंग से स्थानीयकृत करने के लिए पोस्टीरियर सैंपल उत्पन्न करना।
- मॉडल आउट-ऑफ-डिस्ट्रीब्यूशन डेटा (अक्षर 'A' और 'F') के लिए सामान्यीकरण (generalization) प्रदर्शित करता है, हालांकि इन अक्षरों के लिए लाइकलीहुड सैंपल दिखाते हैं कि मॉडल का सीखा गया फॉरवर्ड ऑपरेटर ट्रेनिंग डिस्ट्रीब्यूशन के विशिष्ट पिक्सेल मानों से प्रभावित है, जो इंगित करता है कि फॉरवर्ड ऑपरेटर अनदेखी क्लासेज के लिए पूरी तरह से नहीं सीखा गया है।

महत्व और दावे (Significance and Claims)
पेपर का दावा है कि रिवेर्सिबल सिम्युलेटर फॉरवर्ड और इनवर्स दोनों समस्याओं के लिए कंडीशनल जनरेटिव मॉडलिंग के लिए एक सिद्धांतवादी, एकीकृत दृष्टिकोण प्रदान करता है। एक एकल इन्वर्टिबल मैप का उपयोग करके, यह ढांचा अलग-अलग मॉडल को प्रशिक्षित करने के कम्प्यूटेशनल बोझ को कम करता है और सिमुलेशन और इन्फरेंस के बीच निरंतरता सुनिश्चित करता है। लेखक रेखांकित करते हैं कि निर्माण मानक ट्रायंगुलर फ्लो की तुलना में सीखे गए मैपिंग के बेहतर कंडीशनिंग की पेशकश कर सकता है, विशेष रूप से डिटरमिनिस्टिक लिमिट्स में। वे इसे जेनेरिक इन्वर्टिबल न्यूरल नेटवर्क्स और एमोर्टाइज्ड बेयसियन इन्फरेंस के लिए नॉर्मलाइजिंग फ्लो के बीच एक सेतु के रूप में स्थापित करते हैं, जो सीधे डेटा से ऐसे मैपिंग सीखने के लिए एक सैद्धांतिक आधार प्रदान करता है। वे विनम्रतापूर्वक नोट करते हैं कि जबकि वर्तमान विशिष्टता परिणाम स्थापित किए गए हैं, सभी संभावित रिवेर्सिबल सिम्युलेटर्स का आगे का लक्षण वर्णन प्रशिक्षण के लिए अनुकूलतम मानदंड (optimality criteria) की ओर ले जा सकता है। वे अन्य जनरेटिव मॉडल्स (जैसे, डिफ्यूजन मॉडल्स) और प्रयोगात्मक डिजाइन (experimental design) में अन्य अनुप्रयोगों के लिए भविष्य के विस्तार का भी सुझाव देते हैं।

तकनीकी सारांश: अग्र और पश्च समस्याओं के लिए एक प्रतिवर्ती जनरेटिव मॉडल (An Invertible Generative Model for Forward and Inverse Problems)

इसी तरह के और पेपर