📊 statistics

Latent Process Generator Matching

यह शोध पत्र लेटेंट प्रोसेस जनरेटर मैचिंग (Latent Process Generator Matching) प्रस्तुत करता है, जो एक सामान्य ढांचा है जो प्रेक्षित जनरेटिव अवस्थाओं को सुलभ मार्कोव प्रक्रियाओं के नियतात्मक प्रक्षेपों (deterministic projections) के रूप में मॉडल करता है, जिससे जनरेटर मैचिंग को स्थिर लेटेंट वेरिएबल्स से समय-निर्भर लेटेंट कंडिशनल प्रक्रियाओं तक विस्तारित किया जाता है और यह सुनिश्चित किया जाता है कि सीखा गया जनरेटर लक्षित मार्जिनल वितरणों से मेल खाता है।

मूल लेखक: Lukas Billera, Hedwig Nora Nordlinder, Ben Murrell

प्रकाशित 2026-05-21

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Lukas Billera, Hedwig Nora Nordlinder, Ben Murrell

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक आदर्श लैंडस्केप (प्राकृतिक दृश्य) पेंट करना सिखाने की कोशिश कर रहे हैं। आमतौर पर, आप रोबोट को एक खाली कैनवास से लेकर एक पूर्ण पहाड़ी दृश्य तक, एक चित्रकार के हाथ की गति का चरण-दर-चरण वीडियो दिखा सकते हैं। रोबोट उन सटीक हाथ की गतिविधियों की नकल करके सीखता है।

हालाँकि, कभी-कभी "हाथ की गतिविधियाँ" सीधे दिखाने के लिए बहुत जटिल होती हैं। हो सकता है कि चित्रकार कैनवास को स्थिर रखने के लिए एक गुप्त, अदृश्य मचान (scaffold) का उपयोग कर रहा हो, या वह अलग-अलग ब्रशों को इस तरह बदल रहा हो जिसे ट्रैक करना कठिन हो। यदि आप रोबोट को पूरे जटिल सिस्टम (हाथ, मचान, ब्रश बदलना) को सिखाने की कोशिश करते हैं, तो रोबोट भ्रमित हो जाता है या गणित को हल करना असंभव हो जाता है।

यह शोध पत्र आपको रोबोट को सिखाने का एक नया तरीका पेश करता है। मचान की जटिल, अदृश्य "हाथ की गतिविधियों" को सीधे सीखने के बजाय, लेखक आपको यह सिखाते हैं कि मचान के काम के परिणाम को कैसे सीखा जाए, भले ही रोबमाट वास्तव में मचान को कभी न देख पाए।

यहाँ उनके विचार का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. समस्या: "अदृश्य कठपुतली संचालक" (The Invisible Puppeteer)

कई आधुनिक AI मॉडल (जिन्हें "जेनरेटिव मॉडल" कहा जाता है) में, शोधकर्ता प्रशिक्षण को आसान बनाने के लिए एक चाल का उपयोग करते हैं। वे एक छिपे हुए पात्र की कल्पना करते हैं, मान लीजिए "कठपुतली संचालक" (Puppeteer), जो AI को निर्देशित करने के लिए धागे खींच रहा है।

कठपुतली संचालक (Latent Process): यह एक जटिल, चलती हुई नियमों का सेट या एक छिपा हुआ चर (variable) है जो प्रशिक्षण के दौरान AI को सही रास्ता खोजने में मदद करता है।
कठपुतली (Observed State): यह वास्तविक डेटा है जिसकी हमें परवाह है (जैसे प्रोटीन का चित्र या वीडियो फ्रेम)।

समस्या यह है कि प्रशिक्षण के दौरान, AI यह सीखता है कि कठपुतली संचालक कठपुतली को कैसे हिलाता है। लेकिन जब AI समाप्त हो जाता है और उसे नया आर्ट बनाना होता है (जनरेशन का समय), तो हम अब कठपुतली संचालक को सिम्युलेट नहीं करना चाहते। हम बस चाहते हैं कि कठपुतली अपने आप चले। आमतौर पर, कठपुतली संचालक के बिना कठपुतली कैसे चलती है, यह समझना एक गणितीय दुःस्वप्न है।

2. समाधान: "शैडो मैचिंग" (Shadow Matching)

लेखक एक ढांचा प्रस्तावित करते हैं जिसे वे लेटेंट प्रोसेस जनरेटर मैचिंग (Latent Process Generator Matching) कहते हैं।

इसे इस तरह सोचिए:
कल्पना कीजिए कि आप एक छाया कठपुतली शो (shadow puppet show) देख रहे हैं। आप स्क्रीन के पीछे हाथों को नहीं देख सकते, लेकिन आप दीवार पर छाया (कठपुतली) को चलते हुए देख सकते हैं।

पुराना तरीका: शोधकर्ताओं ने छाया को फिर से बनाने के लिए हाथों के सटीक संचलन का अनुमान लगाने की कोशिश की। यह कठिन था और केवल सरल हाथ की गतिविधियों (जैसे डिस्क्रीट जंप) के लिए ही काम करता था।
नया तरीका: लेखक कहते हैं, "हमें यह जानने की आवश्यकता नहीं है कि हाथ ठीक कैसे हिल रहे हैं। हमें बस उन नियमों को जानने की आवश्यकता है जो छाया को इस तरह से चलाने के लिए जिम्मेदार हैं।"

वे गणितीय रूप से सिद्ध करते हैं कि यदि आप AI को छिपे हुए कठपुतली संचालक की गतिविधियों पर प्रशिक्षित करते हैं, तो AI स्वचालित रूप से उन सही नियमों को सीख लेता है जिनसे छाया बाद में अपने आप चलेगी।

3. यह कैसे काम करता है: "शैडो रूल" (The Shadow Rule)

यह शोध पत्र एक विशिष्ट गणितीय उपकरण पेश करता है जिसे जेनेरेटर (Generator) कहा जाता है। जेनेरेटर को एक "निर्देश पुस्तिका" के रूप में सोचें जो बताती है कि किसी भी एक क्षण में छाया कैसे चलती है।

चाल (The Trick): लेखक दिखाते हैं कि आप AI को छिपे हुए कठपुतली संचालक के लिए निर्देश पुस्तिका की भविष्यवाणी करने के लिए प्रशिक्षित कर सकते हैं।
जादू (The Magic): क्योंकि गणित इस तरह से काम करता है (विशेष रूप से "पुशफॉरवर्ड" प्रॉपर्टी नामक चीज़), AI जो निर्देश पुस्तिका कठपुतली संचालक के लिए सीखता है, वह वास्तव में वही निर्देश पुस्तिका होती है जिसकी आवश्यकता छाया के लिए होती है, एक बार जब सभी छिपी हुई गतिविधियों का औसत निकाल लिया जाता है।

यह एक मास्टर बेकर द्वारा गुप्त रसोई में सामग्री मिलाते हुए देखकर केक की रेसिपी सीखने जैसा है। भले ही आप कभी भी उस गुप्त रसोई को नहीं देखते, फिर भी आपके द्वारा सीखी गई रेसिपी बाद में अपने स्वयं के किचन में केक बनाने के लिए पूरी तरह से वैध होती है।

4. यह एक बड़ी बात क्यों है

इस शोध पत्र से पहले, यह "शैडो रूल" वाला तरीका केवल कुछ बहुत विशिष्ट, सरल मामलों में ही काम करता था:

जब छिपा हुआ भाग केवल एक साधारण स्विच (ऑन/ऑफ) था।
जब छिपा हुआ भाग एक निश्चित शुरुआती बिंदु था।

यह शोध पत्र सिद्ध करता है कि यह ट्रिक किसी भी चीज़ के लिए काम करती है।

छिपा हुआ भाग एक जटिल, चलती हुई नृत्य प्रक्रिया (continuous process) हो सकती है।
यह अजीब आकृतियों (जैसे एक गोले की सतह) पर हो सकता है।
यह विभिन्न प्रकार की गतिविधियों का मिश्रण हो सकता है।

5. पेपर से एक ठोस उदाहरण

लेखक एक विशिष्ट उदाहरण देते हैं जिसमें प्रोटीन (जीवन के निर्माण खंड) शामिल हैं।

परिदृश्य: एक प्रोटीन श्रृंखलाओं से बना होता है। ये श्रृंखलाएं आंतरिक रूप से हिल सकती हैं (जैसे एक सांप) लेकिन एक संपूर्ण इकाई के रूप में घूम भी सकती हैं (जैसे एक घूमता हुआ लट्टू)।
पुरानी समस्या: पूरे घूमते हुए लट्टू और हिलते हुए सांप दोनों को एक साथ मॉडल करना कठिन है।
नया दृष्टिकोण: वे सुझाव देते हैं कि AI को "घूमते हुए लट्टू" (छिपे हुए श्रृंखला-स्तर की गति) को देखने के लिए प्रशिक्षित करें ताकि यह सीखने में मदद मिले कि "हिलते हुए सांप" (अंतिम प्रोटीन संरचना) को कैसे उत्पन्न किया जाए।
परिणाम: AI हिलते हुए सांप के नियम सीख जाता है, बिना कभी घूमते हुए लट्टू को सिम्युलेट किए। यह बस सही प्रोटीन आकार उत्पन्न करता है।

सारांश

संक्षेप में, यह शोध पत्र एक सार्वभौमिक "अनुवाद कुंजी" (translation key) प्रदान करता है। यह वैज्ञानिकों को जटिल, छिपे हुए, चलती हुई गाइडों का उपयोग करके AI मॉडल को प्रशिक्षित करने की अनुमति देता है, और फिर यह गारंटी देता है कि AI अंतिम परिणाम को अपने आप उत्पन्न करने के लिए सही, सरल नियम सीख लेगा। यह एक अव्यवelijk, असंभव गणितीय समस्या को एक स्वच्छ, समाधान योग्य समस्या में बदल देता है, जो बहुत अधिक जटिल और यथार्थवादी AI सिमुलेशन के द्वार खोलता है।

तकनीकी सारांश: लेटेंट प्रोसेस जनरेटर मैचिंग (Latent Process Generator Matching)

समस्या विवरण

जेनरेटिव मॉडलिंग में हालिया प्रगति, विशेष रूप से फ्लो मैचिंग और डिफ्यूजन फ्रेमवर्क के भीतर, प्रशिक्षण के दौरान सहायक स्टोकेस्टिक डायनेमिक्स (auxiliary stochastic dynamics) पर अक्सर निर्भर करती है। इन दृष्टिकोणों में, कंडीशनल टारगेट्स को परिभाषित करने के लिए एक विस्तारित स्टेट स्पेस $\mathcal{X} \times \mathcal{Z}$ पर एक मार्कोव प्रोसेस (Markov process) का निर्माण किया जाता है। हालाँकि, जनरेशन के समय, लक्ष्य केवल प्रेक्षित स्पेस (observed space) $\mathcal{X}$ पर एक प्रक्रिया को सिम्युलेट करना होता है, जहाँ वन-टाइम मार्जिनल्स (one-time marginals) संयुक्त प्रक्रिया के प्रोजेक्शन के साथ मेल खाने चाहिए।

मौजूदा साहित्य इस "प्रोजेक्शन" समस्या को केस-दर-केस आधार पर संबोधित करता है। Edit Flows [Havasi et al., 2025], OneFlow [Nguyen et al., 2025], और Branching Flows [Billera et al., 2025b] जैसे कार्य विशिष्ट प्रोजेक्शन परिणाम और डिस्क्रीट लेटेंट वेरिएबल्स या विशिष्ट ऑगमेंटेड-स्टेट कंस्ट्रक्शन्स के लिए संबद्ध लॉस फंक्शन्स को व्युत्पन्न करते हैं। इन पूर्व कार्यों की एक महत्वपूर्ण सीमा यह है कि उनके सैद्धांतिक प्रमाण अक्सर विस्तारित स्टेट स्पेस के डिस्क्रीट कंपोनेंट्स पर मार्जिनलाइजेशन तक ही सीमित हैं। एक सामान्य ढांचे का अभाव है जो समृद्ध, समय-निर्भर लेटेंट प्रोसेस (सतत, डिस्क्रीट, या मैनिफोल्ड-वैल्यूड) पर कंडीशनिंग करने की अनुमति देता है, जबकि यह सुनिश्चित करता है कि सीखा गया जनरेटर प्रेक्षित स्पेस पर सही ढंग से प्रोजेक्टेड मार्जिनल्स को पुनरुत्पादित करे।

कार्यप्रणाली (Methodology)

लेखक लेटेंट प्रोसेस जनरेटर मैचिंग पेश करते हैं, जो एक सामान्य ढांचा है जो एक ट्रैक्टेबल मार्कोव प्रोसेस $Y_t$ के एक डिटर्मिनिस्टिक इमेज $\Phi(Y_t)$ के रूप में प्रेक्षित जेनेरेटिव स्टेट $X_t$ को औपचारिक रूप देता है, जहाँ $Y_t$ एक मनमाना स्टेट स्पेस $\mathcal{Y}$ पर परिभाषित है।

सैद्धांतिक आधार

मुख्य सैद्धांतिक योगदान पुशफॉरवर्ड कोलमोगोरोव फॉरवर्ड इक्वेशन (KFE) है। मान लीजिए कि $(Y_t)_{0 \le t \le 1}$ एक पॉलिश स्पेस $\mathcal{Y}$ पर एक टाइम-इनहोमोजेनियस फेलर प्रोसेस (Feller process) है जिसका इन्फिनिटेसिमल जनरेटर $W_t$ है। एक मेज़रेबल मैप $\Phi: \mathcal{Y} \to \mathcal{X}$ दिए जाने पर, पेपर एक पुशफॉरवर्ड प्रोसेस $X_t = \Phi(Y_t)$ को परिभाषित करता है।

लेखक सिद्ध करते हैं कि विशिष्ट रेगुलैरिटी और इंटीग्रैबिलिटी शर्तों (Assumptions A.15–A.18) के तहत, एक लीनियर पैरामीट्रेशन $L_t$ को $\mathcal{X}$ पर एक फेलर प्रोसेस के जनरेटर के रूप में सीखा जा सकता है, ताकि एक-समय के मार्जिनल्स प्रोजेक्टेड प्रोसेस $(\Phi(Y_t))_{0 \le t \le 1}$ के साथ मेल खा सकें। मार्जिनल जनरेटर को लिफ्टेड जनरेटर के कंडीशनल एक्सपेक्टेशन के रूप में परिभाषित किया गया है:
$L_t f(x_t) := \mathbb{E}[W_t(f \circ \Phi)(Y_t) \mid \Phi(Y_t) = x_t]$
यह फॉर्मूलेशन स्टैटिक लेटेंट वेरिएबल्स पर कंडीशन करने वाले मानक जनरेटर मैचिंग फ्रेमवर्क का सामान्यीकरण करता है, इसे एक लेटेंट स्टोकेस्टिक प्रोसेस पर कंडीशनिंग तक विस्तृत करता है।

प्रशिक्षण उद्देश्य (Training Objective)

एक न्यूरल नेटवर्क $F^\theta_t$ को मार्जिनल जनरेटर को अनुमानित करने के लिए प्रशिक्षित करने हेतु, पेपर लेटेंट प्रोसेस कंडीशनल जनरेटर मैचिंग लॉस ( $\mathcal{L}_{cgm}$ ) प्रस्तावित करता है। एक अगम्य (intractable) मार्जिनल टारगेट $F_t(x_t)$ की आवश्यकता के बजाय, मॉडल को $Y_t$ के सैंपल्स से प्राप्त कंडीशनल टारगेट्स $F^{y_t}_t(\Phi(y_t))$ के विरुद्ध प्रशिक्षित किया जाता है।

मुख्य सैद्धांतिक परिणाम (Theorem 3.12) एक ग्रेडिएंट समानता (gradient equality) स्थापित करता है:
$\nabla_\theta \mathcal{L}_{cgm}(\theta) = \nabla_\theta \mathcal{L}_{gm}(\theta)$
जहाँ $\mathcal{L}_{gm}$ अगम्य टारगेट पर निर्भर मार्जिनल लॉस है। यह समानता तब बनी रहती है जब एक कंडीशनल जनरेटर लीनियर पैरामीट्रेशन को स्वीकार करता है और इंटीग्रैबिलिटी शर्तें पूरी होती हैं। फलस्वरूप, संयुक्त प्रोसेस $Y_t$ (जिसमें लेटेंट डायनेमिक्स शामिल हैं) के सैंपल्स पर प्रशिक्षण, उसी स्टेशनरी पॉइंट को रिकवर करता है जो मार्जिनल प्रोसेस पर प्रशिक्षण से प्राप्त होता है, जो प्रभावी रूप से सीखने की प्रक्रिया के दौरान लेटेंट डायनेमिक्स को मार्जिनलाइज कर देता है।

यह ढांचा "डबल कंडीशनिंग" को भी समाहित करता है, जहाँ प्रक्रिया को एक स्टैटिक लेटेंट वेरिएबल (जैसे एंडपॉइंट्स) और एक समय-निर्भर लेटेंट प्रोसेस दोनों पर कंडीशन किया जाता है, जो विभिन्न मौजूदा सैंपलिंग प्रक्रियाओं को एकीकृत करता है।

मुख्य योगदान

जनरेटर मैचिंग का सामान्यीकरण: पेपर जेनरेटर मैचिंग को स्टैटिक लेटेंट वेरिएबल्स से एक समृद्ध परिवार के टाइम-डिपेंडेंट लेटेंट कंडीशनल प्रोसेस तक विस्तारित करता है। यह पूर्व डिस्क्रीट लेटेंट परिणामों (जैसे Edit Flows, Branching Flows) को विशेष मामलों के रूप में समाहित करता है जहाँ $\mathcal{Y} = \mathcal{X} \times \mathcal{Z}$ और $\Phi$ एक प्रोजेक्शन है।
पुशफॉरवर्ड जनरेटर थ्योरी: यह एक प्रोजेक्टेड प्रोसेस $\Phi(Y_t)$ के लिए जनरेटर का एक कठोर व्युत्पन्न प्रदान करता है, यह दिखाते हुए कि मार्जिनल जनरेटर लिफ्टेड जनरेटर का कंडीशनल एक्सपेक्टेशन है। यह जनरेशन के समय जटिल लेटेंट प्रोसेस की डायनेमिक्स को स्पष्ट रूप से मॉडल किए बिना $\mathcal{X}$ पर जेनेरेटिव मॉडल्स के निर्माण की अनुमति देता है।
वैध लॉस फंक्शन्स: लेखक स्थापित करते हैं कि किन शर्तों के तहत अगमेंटेड स्टेट स्पेस से लिए गए कंडीशनल टारगेट्स (संयुक्त प्रोसेस के सैंपल्स का उपयोग करके) सही मार्जिनल जनरेटर प्राप्त करते हैं। यह इन्फरेंस के दौरान हटा दिए जाने वाले सहायक प्रोसेसों के लिए प्रशिक्षण के उपयोग को वैध बनाता है।
नॉन-प्रोजेक्शन पुशफॉरवर्ड्स: यह ढांचा केवल कैनोनिकल प्रोजेक्शन्स तक सीमित नहीं है। पेपर प्रोटीन स्ट्रक्चर जनरेशन के लिए एक नॉन-प्रोजेक्शन एप्लीकेशन की रूपरेखा तैयार करता है जहाँ लेटेंट स्पेस में चेन-लेवल रिजिड-बॉडी मोशन और इंटरनल फ्लेक्सिबिलिटीज शामिल हैं, जो ऑब्जर्व्ड वर्ल्ड-फ्रेम कोऑर्डिनेट्स में मैप होते हैं।

परिणाम और उदाहरण

पेपर कई उदाहरणों के माध्यम से सिद्धांत को सत्यापित करता है:

रेजीम-स्विचिंग डिफ्यूजन (Regime-Switching Diffusion): एक एक-आयामी उदाहरण जहाँ एक सतत प्रोसेस $X_t$ एक डिस्क्रीट लेटेंट प्रोसेस $Z_t \in \{-1, +1\}$ के साथ संयुक्त रूप से विकसित होता है। कंडीशनल पाथ्स $Z_t$ के आधार पर विच्छिन्न (discontinuous) ड्रिफ्ट परिवर्तन प्रदर्शित करते हैं, फिर भी मार्जिनल जनरेटर एक मानक डिफ्यूजन है। केवल $X_t$ का उपयोग करके कंडीशनल लॉस के साथ प्रशिक्षित एक नेटवर्क सफलतापूर्वक मार्जिनल डायनेमिक्स को सीख लेता है, जो प्रभावी रूप से स्विचिंग व्यवहार को एकीकृत करता है।
पूर्व कार्य की रिकवरी: फ्रेमवर्क को Edit Flows [Havasi et al., 2025] और Branching Flows [Billera et al., 2025b] के विशिष्ट सिद्धांतों और लॉस फंक्शन्स को कॉरोलरी के रूप में रिकवर करने के लिए दिखाया गया है, जो यह दर्शाता है कि ये विशिष्ट डिस्क्रीट मामले व्यापक लेटेंट प्रोसेस थ्योरी के उदाहरण हैं।
रेगुलैरिटी उल्लंघन (Regularity Violation): पेपर एक काउंटर-एग्जांपल (Example 3.15) शामिल करता है जो प्रदर्शित करता है कि $\Phi$ की स्मूथनेस और $Y_t$ की रेगुलैरिटी हमेशा KFE समाधान की विशिष्टता (uniqueness) की गारंटी देने के लिए पर्याप्त नहीं होती है (Assumption A.19)। यह stated रेगुलैरिटी शर्तों की आवश्यकता को रेखांकित करता है।

महत्व और दावे

पेपर का दावा है कि यह एक सामान्य ढांचा प्रदान करता है जो पूर्व प्रोजेक्शन परिणामों के प्रतिबंधों को हटा देता है, जो अक्सर डिस्क्रीट लेटेंट कंपोनेंट्स तक सीमित थे या केस-दर-केस व्युत्पन्न किए गए थे। अपने लेटेंट स्पेस (सतत, डिस्क्रीट, या मैनिफोल्ड) का उपयोग करके विविध प्रकार के नए फ्लो मैचिंग स्कीम्स के निर्माण को सक्षम बनाकर, यह कार्य एक व्यापक लेटेंट स्पेस के साथ जनरल लेटेंट प्रोसेस के बीच संबंध को औपचारिक रूप देता है।

लेखक इस बात पर जोर देते हैं कि यह दृष्टिकोण लेटेंट स्पेस के भीतर डायनेमिक्स के विभिन्न स्केल्स (जैसे प्रोटीन में चेन-लेवल बनाम रेसिड्यू-लेवल) के अलगाव की अनुमति देता है, जबकि मॉडल केवल अंतिम अवस्था को देखता है। हालांकि पेपर प्रोटीन स्ट्रक्चर जनरेशन के लिए चेन-लेवल रिजिड-बॉडी मोशन से जुड़े एक विशिष्ट अनुप्रयोग की रूपरेखा तैयार करता है, यह नोट करता है कि इस विशिष्ट उदाहरण का कार्यान्वयन भविष्य के कार्य के लिए नियोजित है। प्राथमिक योगदान लेटेंट स्टोकेस्टिक प्रोसेस के लिए जनरेटर मैचिंग का सैद्धांतिक एकीकरण और सामान्यीकरण बना हुआ है।