🤖 machine learning

Flow Sampling: Learning to Sample from Unnormalized Densities via Denoising Conditional Processes

यह शोधपत्र फ्लो सैंपलिंग (Flow Sampling) प्रस्तुत करता है, जो एक डेटा-मुक्त ढांचा है जो डिफ्यूजन मॉडल्स और फ्लो मैचिंग का लाभ उठाकर अननॉर्मलाइज्ड डेंसिटीज के लिए कुशल सैम्पलर्स सीखने हेतु एनर्जी फंक्शन्स से प्राप्त डिनोइजिंग ड्रिफ्ट्स पर रिग्रेशन करता है, और साथ ही निरंतर वक्रता वाले स्थानों (constant curvature spaces) के लिए क्लोज्ड-फॉर्म समाधानों के साथ रीमानियन मैनिफोल्ड्स तक स्वाभाविक रूप से विस्तार करता है।

मूल लेखक: Aaron Havens, Brian Karrer, Neta Shaul

प्रकाशित 2026-05-06

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Aaron Havens, Brian Karrer, Neta Shaul

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, अंधेरे थिएटर में सबसे अच्छी सीटें खोजने की कोशिश कर रहे हैं। आप जानते हैं कि "अच्छी" सीटें कहाँ हैं क्योंकि आपके पास एक मानचित्र है जो आपको हर एक सीट की "ऊर्जा" या "आराम के स्तर" के बारे में बताता है। हालाँकि, इसमें एक पेच है: आप यह नहीं जानते कि कुल कितनी अच्छी सीटें हैं (नॉर्मलाइजेशन कांस्टेंट), और आप हर एक सीट को देखने के लिए पूरे थिएटर में घूम नहीं सकते क्योंकि उस मानचित्र को हर बार पढ़ना बहुत महंगा है।

यह वह समस्या है जिसका सामना वैज्ञानिक अननॉर्मलाइज्ड डेंसिटीज (unnormalized densities) से सैंपल लेने के लिए करते हैं। उनके पास एक नियम (एनर्जी फंक्शन) है जो बताता है कि एक "अच्छा" सैंपल कैसा दिखता है, लेकिन वे उन सैंपल्स को आसानी से जेनरेट नहीं कर सकते।

यहाँ आता है फ्लो सैंपलिंग (Flow Sampling), एक नई विधि जिसे आरोन हेवेन्स, ब्रायन कारर और नेटा शाउल द्वारा पेश किया गया है। यह कैसे काम करता है, इसे सरल उपमाओं के माध्यम से यहाँ समझाया गया है।

पुराना तरीका: धीमा हाइकर (The Slow Hiker)

पहले, वैज्ञानिक MCMC (मार्कोव चेन मोंटे कार्लो) जैसी विधियों का उपयोग करते थे। कल्पना कीजिए कि एक हाइकर (पगडंडी पर चलने वाला) सबसे अच्छी सीटें खोजने की कोशिश कर रहा है। हाइकर एक कदम उठाता है, मानचित्र देखता है, फिर दूसरा कदम उठाता है, फिर से मानचित्र देखता है, और इसी तरह। वे अंततः अच्छी सीटों तक पहुँच जाते हैं, लेकिन वे इसे एक-एक करके, बहुत धीरे-धीरे करते हैं। यदि आपको दस लाख सैंपल्स चाहिए, तो हाइकर को दस लाख कदम उठाने होंगे। नई सामग्रियों या दवाओं को डिजाइन करने जैसी बड़ी समस्याओं के लिए यह बहुत धीमा है।

नया तरीका: "डिनोइजिंग" मूर्तिकार (The "Denoising" Sculptor)

फ्लो सैंपलिंग एक मूर्तिकार को काम पर रखने जैसा है जो मूल मूर्ति को देखे बिना भी एक आदर्श मूर्ति को तराशना सीख जाता है। इसके बजाय, वह यह सीखता है कि कैसे मिट्टी का एक ढेला धीरे-धीरे शोर (noise) को हटाकर एक मूर्ति में बदल जाता है।

यहाँ चरण-दर-चरण जादू दिया गया है:

1. रिवर्स मूवी (डिनोइजिंग - Denoising)

कल्पना कीजिए कि आपके पास एक सुंदर परिदृश्य (landscape) की स्पष्ट, हाई-डेफिनिशन फोटो है। यदि आप इसमें स्टैटिक नॉइज़ (static noise) जोड़ देते हैं, तो यह एक धुंधला सा ढेर बन जाता है।

स्टैंडर्ड AI आमतौर पर धुंधले ढेर से शुरू होता है और मूल फोटो का अनुमान लगाने की कोशिश करता है।
फ्लो सैंपलिंग इस कहानी को उलट देता है। यह एक रैंडम नॉइज़ सैंपल (एक खाली कैनवास) से शुरू होता है और ऊर्जा मानचित्र (energy map) के मार्गदर्शन में इसे "साफ" करना सीखता है ताकि यह परिदृश्य से मेल खा सके।

2. "डिटाच्ड" छात्र (पैसे बचाना)

इस प्रक्रिया में सबसे बड़ी लागत ऊर्जा मानचित्र को पढ़ना है। मानचित्र को पढ़ना एक टोल (शुल्क) देने जैसा है। यदि आपको AI को प्रशिक्षित करने के लिए मानचित्र को लाखों बार पढ़ना पड़ता है, तो यह बहुत महंगा हो जाता है।

फ्लो सैंपलिंग एक चतुर तकनीक पेश करता है जिसे "डिटाच्ड स्टेट" (Detached State) या "रिप्ले बफर" (Replay Buffer) कहा जाता है:

कल्पना कीजिए कि एक छात्र (AI मॉडल) सीखने की कोशिश कर रहा है। हर बार जब छात्र गलती करता है, तो शिक्षक (ऊर्जा मानचित्र) से मदद मांगने के बजाय, छात्र अपने वर्तमान काम का एक "स्नैपशॉट" लेता है, उस स्नैपशॉट पर शिक्षक से केवल एक बार फीडबैक मांगता है, और उत्तर को एक नोटबुक में लिख लेता है (रिप्ले बफर)।
छात्र फिर उस नोटबुक का बार-बार उपयोग करके अभ्यास करता है ताकि उसे बार-बार शिक्षक को परेशान न करना पड़े।
इसका मतलब है कि महंगे "ऊर्जा मानचित्र" का परामर्श केवल कुछ ही बार लिया जाता है, जबकि छात्र नोट्स से सीखता है। यह पिछले तरीकों की तुलना में प्रशिक्षण की लागत को 4 से 8 गुना कम कर देता है।

3. "फ्लो" (सुचारू गति)

हाइकर के छोटे, डगमगाते कदम उठाने के बजाय, फ्लो सैंपलिंग एक "फ्लो" (प्रवाह) का उपयोग करता है। कल्पना कीजिए कि एक नदी है। पानी (डेटा) एक स्रोत (रैंडम नॉइज़) से एक गंतव्य (टारगेट डिस्ट्रीब्यूशन) की ओर सुचारू रूप से बहता है। AI नदी की धारा की दिशा सीखता है ताकि वह पानी को ठीक वहीं पहुँचा सके जहाँ उसे जाना चाहिए, जिससे यह कुशल और तेज़ हो जाता है।

समतल जमीन से परे (वक्रित स्थान - Curved Spaces)

अधिकांश AI मान लेते हैं कि दुनिया समतल है (जैसे कागज की एक शीट)। लेकिन कभी-कभी, डेटा वक्रित सतहों पर रहता है, जैसे कि एक गोले (पृथ्वी) की सतह या एक सैडल (saddle) का आकार।

फ्लो सैंपलिंग विशेष है क्योंकि यह स्वाभाविक रूप से इन घुमावों को समझता है।

उपमा: यदि आप एक समतल फर्श पर चल रहे हैं, तो आप एक सीधी रेखा में चलते हैं। यदि आप एक गोले (जैसे पृथ्वी) पर चल रहे हैं, तो "सबसे सीधा" रास्ता एक वक्र (great circle) होता है।
यह पेपर एक गणितीय सूत्र प्रदान करता है जो AI को बताता है कि बिना भटके इन वक्रित पथों (जियोडेसिक्स) पर कैसे चलना है। यह इसे गोले (spheres) और हाइपरबोलिक स्पेस (hyperbolic spaces) पर काम करने में सक्षम बनाता है, जो रोबोटिक्स और 3D आणविक संरचनाओं के लिए महत्वपूर्ण हैं।

उन्होंने क्या सिद्ध किया?

लेखकों ने कई चुनौतियों पर इस पद्धति का परीक्षण किया:

सिंथेटिक पहेलियाँ (Synthetic Puzzles): उन्होंने नकली ऊर्जा परिदृश्य बनाए और दिखाया कि फ्लो सैंपलिंग अन्य शीर्ष विधियों की तुलना में अधिक तेज़ी से और अधिक सटीकता से सर्वोत्तम स्थानों को खोज लेता है।
प्रोटीन फोल्डिंग (Protein Folding): उन्होंने छोटे प्रोटीन (पेप्टाइड्स) के आकार खोजने के लिए इसका उपयोग किया। इसने सफलतापूर्वक इन अणुओं के 3D आकार का अनुमान लगाया, जो बहुत धीमी, पारंपरिक सिमुलेशन के परिणामों से मेल खाता है।
मॉलिक्यूल जनरेशन (Molecule Generation): उन्होंने बड़े अणुओं के हजारों अलग-अलग आकार उत्पन्न करने के लिए इसका उपयोग किया। यह प्रतिस्पर्धा की तुलना में बहुत तेज़ था और फिर भी उच्च गुणवत्ता वाले आकार खोजने में सफल रहा।
स्फीयर सैंपलिंग (Sphere Sampling): उन्होंने प्रदर्शित किया कि यह एक गोले पर वितरित डेटा को सैंपल कर सकता है, जिससे सिद्ध होता है कि यह वक्रित ज्यामिति (curved geometries) पर भी काम करता है।

निष्कर्ष (The Bottom Line)

फ्लो सैंपलिंग कंप्यूटर को जटिल डेटा जेनरेट करना सिखाने का एक नया, कुशल तरीका है, जब आपके पास केवल इस बात का नियम हो कि "अच्छा" क्या दिखता है, लेकिन उदाहरणों की कोई सूची न हो। एक "नोटबुक" का उपयोग करके महंगे गणनाओं को याद रखने और वक्रित स्थानों को समझने के माध्यम से, यह वैज्ञानिकों को पहले की तुलना में बहुत तेज़ी से और सस्ते में उच्च-गुणवत्ता वाले सैंपल (जैसे नई दवा के अणु) जेनरेट करने की अनुमति देता है।

तकनीकी सारांश: फ्लो सैंपलिंग (Flow Sampling)

समस्या विवरण

यह शोध पत्र उच्च-आयामी संभाव्यता वितरणों (high-dimensional probability distributions) से नमूने (sampling) लेने की चुनौती को संबोधित करता है, जो केवल एक सामान्यीकरण स्थिरांक (normalization constant) तक ही परिभाषित होते हैं (असामान्यीकृत घनत्व/unnormalized densities)। ऐसे वितरण कम्प्यूटेशनल विज्ञानों में सर्वव्यापी हैं, जो एक ऊर्जा फलन $r(x)$ द्वारा परिभाषित होते हैं जहाँ लक्षित घनत्व $q(x) \propto \exp(r(x))$ होता है। हालाँकि $r(x)$ और इसके ग्रेडिएंट $\nabla r(x)$ का मूल्यांकन करना संभव है, लेकिन यह अक्सर गणनात्मक रूप से महंगा होता है, और $q(x)$ से सीधे नमूनों तक पहुँच उपलब्ध नहीं होती है।

पारंपरिक मार्कोव चेन मोंटे कार्लो (MCMC) विधियाँ, जैसे कि लैंज़िविन डायनेमिक्स (Langevin dynamics), स्पर्शोन्मुखी रूप से (asymptotically) अभिसरित होती हैं लेकिन धीमी मिक्सिंग और क्रमिक पीढ़ी (sequential generation) से ग्रस्त होती हैं, जिससे वे तेज़, पुन: प्रयोज्य सैम्पलर्स (जैसे कि सामग्री डिजाइन) के लिए अक्षम हो जाती हैं। मौजूदा लर्निंग-आधारित दृष्टिकोण, जिनमें डिफ्यूजन मॉडल और फ्लो मैचिंग शामिल हैं, या तो लक्षित वितरण से डेटा नमूनों की आवश्यकता रखते हैं या स्टोकेस्टिक सुधारों (जैसे कि इम्पोर्टेंस वेटिंग, रीसैंपलिंग, या सहायक MCMC) पर निर्भर करते हैं, जो ऊर्जा फलन के बार-बार मूल्यांकन के कारण महत्वपूर्ण गणनात्मक लागत उत्पन्न करते हैं।

कार्यप्रणाली: फ्लो सैंपलिंग (Flow Sampling)

लेखक फ्लो सैंपलिंग पेश करते हैं, जो बिना लक्षित डेटा नमूनों की आवश्यकता के, सीधे असामान्यीकृत घनत्व कार्यों से एमोर्टाइज्ड सैम्पलर्स (amortized samplers) सीखने के लिए एक ढांचा है। यह विधि डिफ्यूजन मॉडल और फ्लो मैचिंग पर आधारित है, लेकिन यह डेटा-मुक्त सेटिंग के लिए प्रशिक्षण उद्देश्य (training objective) को अनुकूलित करती है।

मूल अवधारणा

मानक फ्लो मैचिंग के विपरीत, जो एक नोइजिंग ड्रिफ्ट (noising drift) सीखने के लिए डेटा नमूने $X_1 \sim q$ पर आधारित होती है, फ्लो सैमपलिंग एक शोर नमूने $X_0 \sim p_0$ (एक आसानी से नमूना लेने योग्य स्रोत वितरण से) पर आधारित होती है ताकि एक डिनोइजिंग ड्रिफ्ट (denoising drift) सीखा जा सके। इस सीखे गए प्रक्रम (process) का मार्जिनल वितरण संरचनात्मक रूप से लक्षित $q$ से मेल खाने के लिए डिज़ाइन किया गया है।

प्रशिक्षण उद्देश्य (Training Objective)

यह ढांचा एक कंडीशनल प्रोबेबिलिटी पाथ का उपयोग करता है जो स्रोत पर आधारित लक्षित वितरण का पुश-फॉरवर्ड (push-forward) है:
$p_{t|0}(x|x_0) = \frac{1}{\alpha_t^d} q\left(\frac{x - \sigma_t x_0}{\alpha_t}\right)$
प्रशिक्षण उद्देश्य एक सीखे गए ड्रिफ्ट $u_\theta$ को एक कंडीशनल ड्रिफ्ट $u_{t|0}$ पर रिग्र्रेस करने में शामिल है, जिसे ऊर्जा फलन से निर्मित किया गया है:
$u_{t|0}(X_t|x_0) = \dot{\alpha}_t X_1 + \dot{\sigma}_t x_0 + \frac{g_t^2}{2\alpha_t} \nabla r(X_1)$
यह सूत्रीकरण एक इंटरपुलेंट प्रोसेस $X_t = \sigma_t X_0 + \alpha_t X_1$ के साथ ऊर्जा ग्रेडिएंट $\nabla r(X_1)$ को एक एकल बिंदु $X_1$ पर पुन: उपयोग करने की अनुमति देता है, जिससे प्रशिक्षण के दौरान आवश्यक ऊर्जा मूल्यांकनों की संख्या काफी कम हो जाती है।

एल्गोरिदम: फिक्स्ड-पॉइंट इटरेशन (Fixed-Point Iteration)

चूंकि लक्षित नमूने $X_1 \sim q$ उपलब्ध नहीं हैं, इसलिए लेखक एक फिक्स्ड-पॉइंट इटरेशन प्रशिक्षण एल्गोरिदम (एल्गोरिदम 1) प्रस्तावित करते हैं जिसमें दो चरण शामिल हैं:

एक्सप्लोरेशन चरण (Exploration Phase): वर्तमान डिटैच्ड मॉडल स्टेट $\bar{\theta}$ का उपयोग करते हुए, एल्गोरिदम सिमुलेशन (Euler–Maruyama) के माध्यम से नमूने $X_1^{\bar{\theta}}$ उत्पन्न करता है, ऊर्जा ग्रेडिएंट $\nabla r(X_1^{\bar{\theta}})$ का मूल्यांकन करता है, और जोड़े $(X_1^{\bar{\theta}}, \nabla r(X_1^{\bar{\theta}}))$ को एक रिप्ले बफर में संग्रहीत करता है।
ऑप्टिमाइजेशन चरण (Optimization Phase): मॉडल $u_\theta$ को रिप्ले बफर में मौजूद नमूनों से प्राप्त क्लोज्ड-फॉर्म टारगेट के बीच मीन स्क्वेर्ड एरर को कम करके प्रशिक्षित किया जाता है। यह प्रक्रिया अभिसरण (convergence) तक दोहराई जाती है।

रीमानियन मैनिफोल्ड्स (Riemannian Manifolds) तक विस्तार

यह ढांचा स्वाभाविक रूप से गैर-यूक्लिडियन ज्यामिति (non-Euclidean geometries) तक विस्तारित होता है। एक एफाइन इंटरपुलेंट को जियोडेसिक इंटरपुलेंट (geodesic interpolant) से बदलकर और निरंतर वक्रता वाले मैनिफोल्ड्स (हाइपरस्फीयर और हाइपरबोलिक स्पेस सहित) पर एक क्लोज्ड-फॉर्म कंडीशनल ड्रिफ्ट सूत्र व्युत्पन्न करके, यह विधि बिना रीपैरामीट्राइजेशन के रीमानियन मैनिफोल्ड्स पर डिफ्यूजन-आधारित सैंपलिंग को सक्षम बनाती है।

मुख्य योगदान

फ्लो सैंपलिंग ढांचा: असामान्यीकृत घनत्वों से डिफ्यूजन सैम्पलर्स सीखने के लिए एक सिद्धांतवादी विधि, जो लक्षित डेटा नमूनों की आवश्यकता को समाप्त करती है।
कुशल प्रशिक्षण उद्देश्य: एक सरल क्लोज्ड-फॉर्म रिग्रेशन टारगेट का व्युत्पत्ति जो इंटरपुलेंट प्रोसेस के साथ एंडपॉइंट ऊर्जा ग्रेडिएंट का पुन: उपयोग करता है, जिससे एक कुशल रिप्ले-बफर प्रशिक्षण एल्गोरिदम सक्षम होता है जो ऊर्जा फलन मूल्यांकनों को काफी कम कर देता है।
रीमानियन विस्तार: यूक्लिडियन स्पेस से परे ज्यामिति में डिफ्यूजन-आधारित सैम्पलर्स का विस्तार, जिसमें निरंतर वक्रता वाले मैनिफोल्ड्स पर कंडीशनल ड्रिफ्ट का क्लोज्ड-फॉर्म सूत्र शामिल है।
अनुभवजन्य प्रदर्शन (Empirical Performance): सिंथेटिक ऊर्जा बेंचमार्क और आणविक कन्फ़ॉर्मर जनरेशन पर अत्याधुनिक प्रदर्शन का प्रदर्शन, जिसमें iDEM, PIS, DDS और एडजॉइंट सैंपलिंग (AS) जैसे बेसलाइन्स की तुलना में कम प्रशिक्षण लागत दर्ज की गई है।

प्रयोगात्मक परिणाम

लेखक चार अलग-अलग बेंचमार्क पर फ्लो सैंपलिंग का मूल्यांकन करते हैं:

सिंथेटिक एनर्जी बेंचमार्क: डबल-वेल (DW-4) और लेनार्ड-जोन्स (LJ-13, LJ-55) पोटेंशियल पर, फ्लो सैंपलिंग iDEM, PIS, DDS और एडजॉइंट सैंपलिंग (AS) जैसे अत्याधुनिक बेसलाइन्स की तुलना में कम ज्यामितीय और ऊर्जा वेसरस्टीन-2 ( $W_2$ ) दूरी प्राप्त करता है।
पेप्टाइड सैंपलिंग: एलेनिन डाइपेप्टाइड (Ala2) और टेट्रापेप्टाइड (Ala4) पर, विधि सटीक रूप से ग्राउंड ट्रुथ घनत्वों (KL डाइवर्जेंस और जेन्सन-शैनन डाइवर्जेंस द्वारा मापा गया) को पुनः प्राप्त करती है और प्रशिक्षण के दौरान फंक्शन इवैल्यूएशन (NFE) की संख्या कम करने पर मजबूती प्रदर्शित करती है, जो ASBS से बेहतर प्रदर्शन करती है जो कम NFE पर काफी खराब हो जाता है।
एमोर्टाइज्ड कन्फ़ॉर्मर जनरेशन: बड़े पैमाने के आणविक डेटासेट (SPICE और GEOM-DRUGS) पर, फ्लो सैंपलिंग आणविक कन्फ़ॉर्मर उत्पन्न करने में उच्च कवरेज और परिशुद्धता प्राप्त करती है, जो कम प्रशिक्षण चरणों के साथ RDKit और ASBS बेसलाइन्स को पछाड़ देती है।
रीमानियन सैंपलिंग: मिश्रण von Mises–Fisher वितरण के साथ 2D यूनिट स्फीयर ( $S^2$ ) पर, विधि मल्टीमॉडल लक्ष्य से नमूना लेने में सफलतापूर्वक सक्षम होती है, जो घुमावदार ज्यामिति (curved geometries) पर सैद्धांतिक विस्तार को मान्य करती है।

महत्व और दावे

यह शोध पत्र दावा करता है कि फ्लो सैंपलिंग जटिल स्टोकेस्टिक ऑप्टिमल कंट्रोल या श्रोडिंगर ब्रिज फॉर्मुलेशन के लिए एक लचीला और आसानी से लागू होने वाला विकल्प प्रदान करता है। अनुकूल कपलिंग (optimal couplings) और सहायक सुधारात्मक नेटवर्क (auxiliary corrector networks) से बचकर, यह उच्च दक्षता बनाए रखते हुए प्रशिक्षण योजना को सरल बनाता है।

लेखक इस बात पर जोर देते हैं कि ऊर्जा फलन मूल्यांकनों की संख्या को कम करने की क्षमता (रिप्ले बफर और क्लोज्ड-फॉर्म ड्रिफ्ट के माध्यम से), फ्लो सैंपलिंग को उन बड़े मॉडलों और डेटासेट के लिए विशेष रूप से स्केलेबल बनाती है जहाँ ऊर्जा मूल्यांकन प्राथमिक बाधा (bottleneck) है। इसके अलावा, रीमानियन मैनिफोल्ड्स तक विस्तार बिना किसी विशेष रीपैरामीट्राइजेशन के, रोबोटिक्स और मॉलिक्यूलर डायनेमिक्स जैसे विविध ज्यामितीय सेटिंग्स में डिफ्यूजन-आधारित सैंपलिंग के लिए एक एकीकृत दृष्टिकोण प्रदान करता है। यह कार्य फ्लो सैंपलिंग को यूक्लिडियन और गैर-यूक्लिडियन दोनों स्थानों में असामान्यीकृत घनत्वों के लिए कुशल, एमोर्टाइज्ड सैंपलिंग की दिशा में एक महत्वपूर्ण कदम के रूप में स्थापित करता है।