💻 computer science

Stable Velocity: A Variance Perspective on Flow Matching

यह शोध पत्र "स्टेबल वेलोसिटी" (Stable Velocity) का प्रस्ताव करता है, जो एक एकीकृत ढांचा है जो प्रशिक्षण के लिए विचरण-न्यूनीकृत उद्देश्यों (variance-reduced objectives) और अनुकूलन योग्य पर्यवेक्षण (adaptive supervision) को पेश करके फ्लो मैचिंग में अंतर्निहित उच्च-विचरण प्रशिक्षण लक्ष्यों को कम करता है, और साथ ही इन्फरेंस के लिए एक क्लोज्ड-फॉर्म सैंपलिंग त्वरण प्रदान करता है, जिससे नमूना गुणवत्ता से समझौता किए बिना प्रशिक्षण दक्षता और सैंपलिंग गति दोनों में महत्वपूर्ण सुधार होता है।

मूल लेखक: Donglin Yang, Yongxing Zhang, Xin Yu, Liang Hou, Xin Tao, Pengfei Wan, Xiaojuan Qi, Renjie Liao

प्रकाशित 2026-02-06

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Donglin Yang, Yongxing Zhang, Xin Yu, Liang Hou, Xin Tao, Pengfei Wan, Xiaojuan Qi, Renjie Liao

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को चित्र बनाना सिखाने की कोशिश कर रहे हैं, जो शोर (static noise) से भरे खाली कैनवास से शुरू होकर धीरे-धीरे एक स्पष्ट चित्र में बदल जाता है। इस प्रक्रिया को "फ्लो मैचिंग" (Flow Matching) कहा जाता है। रोबोट यह सीखता है कि हर छोटे कदम पर उसे पिक्सेल को किस दिशा में ले जाना है।

"स्टेबल वेलोसिटी" (Stable Velocity) नामक शोध पत्र तर्क देता है कि हम वर्तमान में इन रोबोटों को जिस तरह से सिखा रहे हैं, वह थोड़ा अराजक है। यहाँ इसका सरल उपमाओं के साथ विवरण दिया गया है:

समस्या: "शोर भरा क्लासरूम" (The Noisy Classroom)

वर्तमान में, जब रोबोट दिशा (वेलोसिटी) बताने की कोशिश करता है, तो वह एक पूर्ण चित्र के केवल एक उदाहरण को देखकर रास्ता अनुमानित करता है।

उपमा: कल्पना कीजिए कि आप केवल एक व्यक्ति से रास्ता पूछकर किसी गंतव्य तक पहुँचने का सबसे अच्छा मार्ग सीखने की कोशिश कर रहे हैं। यदि वह व्यक्ति खराब मूड में है या आपको कोई अजीब शॉर्टकट बताता है, तो आप रास्ता भटक सकते हैं।
परिणाम: चित्र बनाने के शुरुआती चरणों में (जब चित्र ज्यादातर शोर होता है), केवल एक व्यक्ति से दिशा पूछने से हाई-वैरिएंस (उच्च विचलन) होता है। रोबट भ्रमित हो जाता है, प्रशिक्षण अस्थिर हो जाता है, और इसे सीखने में बहुत समय लगता है। यह एक ऐसे क्लासरूम की तरह है जहाँ हर छात्र अलग और विरोधाभासी उत्तर दे रहा है, जिससे शिक्षक के लिए सही सबक जानना कठिन हो जाता है।

खोज: दो अलग-अलग क्षेत्र (Two Different Zones)

लेखकों ने महसूस किया कि चित्र बनाने की प्रक्रिया में दो अलग-अलग क्षेत्र होते हैं, जैसे कार चलाना:

"हाई-वैरिएंस" ज़ोन (धुंधली शुरुआत): जब चित्र ज्यादातर शोर होता है, तो रोबोट बहुत अनिश्चित होता है। केवल एक व्यक्ति से दिशा पूछना एक जुआ खेलने जैसा है। आप कौन सा "शोर" वाला नमूना चुनते हैं, उसके आधार पर दिशाएं बहुत अधिक बदल जाती हैं।
"लो-वैरिएंस" ज़ोन (साफ सड़क): जैसे-जैसे चित्र स्पष्ट होता जाता है और अंतिम चित्र के करीब पहुँचता है, रोबोट बहुत आत्मविश्वासी हो जाता है। इस क्षेत्र में, रोबोट जिस दिशा में जाने का सोचता है, वह लगभग वास्तविक दिशा के समान ही होती है। यह एक सीधी, खाली हाईवे पर गाड़ी चलाने जैसा है जहाँ हर कोई एक ही रास्ते पर सहमत है।

समाधान: "स्टेबल वेलोसिटी" (Stable Velocity)

यह शोध पत्र स्टेबल वेलोसिटी नामक एक नया ढांचा प्रस्तावित करता है जो इन दोनों क्षेत्रों के साथ अलग-अलग व्यवहार करता है।

1. स्मार्ट ट्रेनिंग (Stable Velocity Matching)

धुंधले ज़ोन में केवल एक व्यक्ति से दिशा पूछने के बजाय, अब रोबोट लोगों के एक पूरे समूह से पूछता है और उनके उत्तरों का औसत निकालता है।

उपमा: एक छात्र से पूछने के बजाय, शिक्षक 20 छात्रों से पूछता है, अजीब उत्तर देने वालों को हटा देता है, और उनका औसत लेता है।
लाभ: यह शोर को कम करता है। रोबोट तेजी से और अधिक स्थिरता से सीखता है क्योंकि वह एक गलत अनुमान से विचलित नहीं होता। शोध पत्र यह भी सिद्ध करता है कि यह तरीका गणितीय रूप से निष्पक्ष (unbiased) है लेकिन बहुत कम अस्थिर है।

2. स्मार्ट सुपरविजन (VA-REPA)

लेखक यह भी सुझाव देते हैं कि हमें रोबोट को धुंधले ज़ोन में जटिल "सिमेंटिक" (अर्थपूर्ण) सबक (जैसे "यह बिल्ली का कान है") नहीं सिखाने चाहिए।

उपमा: एक छात्र को तब तक पेंटिंग के विवरण सिखाना बेकार है जब तक वह अभी भी एक खाली कैनवास को देख रहा है। आपको विवरण सिखाना तभी शुरू करना चाहिए जब स्केच दिखाई देने लगे।
लाभ: यह सिस्टम केवल तभी अतिरिक्त "सहायक संकेत" चालू करता है जब चित्र समझने के लिए पर्याप्त स्पष्ट हो जाता है। यह रोबोट को बहुत जल्दी बहुत अधिक सीखने की कोशिश में भ्रमित होने से बचाता है।

3. तेज़ ड्राइंग (Stable Velocity Sampling)

जब रोबोट वास्तव में चित्र बना रहा होता है (इन्फरेंस), तो लेखकों ने पाया कि "क्लियर रोड" ज़ोन (लो-वैरिएंस) में, रास्ता इतना अनुमानित होता है कि आप छोटे कदमों के बजाय बड़े कदम उठा सकते हैं।

उपमा: यदि आप घने कोहरे में चल रहे हैं, तो आपको छोटे और सावधानी भरे कदम उठाने चाहिए। लेकिन एक बार जब आप खुले हाईवे पर पहुँच जाते हैं, तो आप दौड़ सकते हैं।
लाभ: यह नया तरीका रोबोट को स्पष्ट ज़ोन में बिना गलती किए कई छोटे कदमों को छोड़ने की अनुमति देता है। यह चित्र बनाने की प्रक्रिया को अंतिम चित्र की गुणवत्ता खराब किए बिना 2 गुना से अधिक तेज़ बनाता है।

परिणाम

लेखकों ने अपने परीक्षण प्रसिद्ध AI मॉडल्स (जैसे SD3.5, Flux, और Wan2.2) पर किए जो चित्र और वीडियो जेनरेट करते हैं।

ट्रेनिंग: मॉडल तेजी से सीखे और बेहतर चित्र बनाए।
गति: वे मानक तरीकों की तुलना में आधे समय (या कम स्टेप्स) में चित्र और वीडियो बना सकते हैं, बिना गुणवत्ता में किसी दृश्य कमी के।

संक्षेप में: यह शोध पत्र "शोर भरे क्लासरूम" की समस्या को हल करता है—प्रक्रिया के धुंधले हिस्सों में दिशाओं का औसत निकालकर और स्पष्ट हिस्सों में रोबोट को तेजी से दौड़ने देकर, जिससे AI इमेज जनरेशन अधिक स्थिर और काफी तेज़ हो जाता है।

तकनीकी सारांश: स्टेबल वेलोसिटी (Stable Velocity): फ्लो मैचिंग पर एक वेरिएंस परिप्रेक्ष्य

1. समस्या विवरण (Problem Statement)

यद्यपि फ्लो मैचिंग (FM) और कंडिशनल फ्लो मैचिंग (CFM) जनरेटिव मॉडलिंग के लिए सुरुचिपूर्ण ढांचे प्रदान करते हैं, जो स्पष्ट रूप से फॉरवर्ड SDEs या PF-ODEs को सिम्युलेट किए बिना प्रोबेबिलिटी फ्लो को सीखते हैं, वे एक मौलिक सीमा से ग्रस्त हैं: उनके ट्रेनिंग लक्ष्यों (training targets) का उच्च वेरिएंस (high variance)। CFM में, ट्रेनिंग ऑब्जेक्टिव वास्तविक मार्जिनल वेलोसिटी फील्ड, $v_t(x_t | x_0)$ , के एकल-सैंपल मोंटे कार्लो अनुमान (single-sample Monte Carlo estimate) पर निर्भर करता है ताकि मार्जिनल वेलोसिटी $v_t(x_t)$ का अनुमान लगाया जा सके।

लेखक पहचानते हैं कि यह एकल-सैंपल एस्टिमेटर महत्वपूर्ण वेरिएंस प्रदर्शित करता है, विशेष रूप से उन टाइमस्टेप्स पर जहाँ मार्जिनल डिस्ट्रीब्यूशन प्रायर (prior) के करीब होता है (उच्च-वेरिएंस शासन/high-variance regime)। यह उच्च वेरिएंस निम्नलिखित कारणों से होता है:

अस्थिर अनुकूलन (Unstable optimization): शोर वाले ग्रेडिएंट्स जो अभिसरण (convergence) को धीमा कर देते हैं।
अनुमान अक्षमता (Inference inefficiency): विशिष्ट शासन (regimes) में फ्लो की नियतात्मक प्रकृति (deterministic nature) का लाभ उठाने में असमर्थता, जिससे अनावश्यक रूप से छोटे इंटीग्रेशन स्टेप्स लेने पड़ते हैं।
अप्रभावी सहायक पर्यवेक्षण (Ineffective auxiliary supervision): मौजूदा रिप्रजेंटेशन अलाइनमेंट विधियाँ (जैसे REPA) अक्सर पर्यवेक्षण को समान रूप से लागू करती हैं, जो यह पहचानने में विफल रहती हैं कि हाई-वेरिएंस (शोर वाले) शासन में सिमेंटिक अलाइनमेंट एक 'इल-पोस्ड' (ill-posed) समस्या है, जबकि लो-वेरिएंस शासन में यह अत्यधिक प्रभावी है।

2. कार्यप्रणाली (Methodology)

यह शोध पत्र स्टेबल वेलोसिटी (Stable Velocity) फ्रेमवर्क प्रस्तावित करता है, जो कंडीशनल वेलोसिटी टारगेट्स के वेरिएंस को स्पष्ट रूप से लक्षणित करके और उसके अनुसार प्रशिक्षण और सैंपलिंग रणनीतियों को अनुकूलित करके इन मुद्दों का समाधान करता है।

2.1 वेरिएंस विश्लेषण (Variance Analysis)

लेखक विभिन्न डेटा डिस्ट्रीब्यूशन (GMMs, CIFAR-10, ImageNet) में CFM टारगेट, $V_{CFM}(t)$ , के वेरिएंस का विश्लेषण करते हैं। वे एक दो-शासन संरचना (two-regime structure) प्रकट करते हैं:

हाई-वेरिएंस शासन ( $t \in [\xi, 1]$ ): प्रायर (शोर) के पास, पोस्टीरियर $p(x_0|x_t)$ मल्टीमॉडल होता है, जिससे कंडीशनल वेलोसिटी काफी उतार-चढ़ाव वाली होती है।
लो-वेरिएंस शासन ( $t \in [0, \xi]$ ): डेटा डिस्ट्रीब्यूशन के पास, पोस्टीरियर एक एकल रेफरेंस सैंपल पर केंद्रित होता है, जिससे कंडीशनल वेलोसिटी $v_t(x_t | x_0)$ वास्तविक मार्जिनल वेलोसिटी $v_t(x_t)$ के लगभग समान हो जाती है।

2.2 प्रशिक्षण: स्टेबल वेलोसिटी मैचिंग (StableVM)

वेरिएंस को बायस (bias) पेश किए बिना कम करने के लिए, लेखक स्टेबल वेलोसिटी मैचिंग (StableVM) का प्रस्ताव करते हैं।

तंत्र (Mechanism): एकल रेफरेंस सैंपल $x_0$ के बजाय, StableVM $n$ रेफरेंस सैंपल्स $\{x_0^i\}_{i=1}^n$ के एक बैच का उपयोग करके एक कंपोजिट कंडीशनल पाथ बनाता है।
टारगेट: ट्रेनिंग टारगेट रेफरेंस बैच पर कंडीशनल वेलोसिटीज का एक सेल्फ-नॉर्मलाइज्ड इम्पोर्टेंस-वेटेड औसत है:
$\hat{v}_{StableVM}(x_t) = \frac{\sum_{k=1}^n p_t(x_t | x_0^k) v_t(x_t | x_0^k)}{\sum_{j=1}^n p_t(x_t | x_0^j)}$
विशेषताएं: सैद्धांतिक रूप से यह अनबायस्ड (unbiased) सिद्ध है (जो CFM के समान ही ग्लोबल मिनिमाइज़र साझा करता है) और $O(1/n)$ के कारक द्वारा ट्रेनिंग टारगेट के वेरिएंस को सख्ती से कम करता है।
क्लास-कंडीशनल विस्तार: क्लास-कंडीशनल जनरेशन में स्पर्सिटी (sparsity) को संभालने के लिए, प्रति क्लास विविध सेट बनाए रखने के लिए एक मेमोरी बैंक का उपयोग किया जाता है, जिससे यह सुनिश्चित होता है कि मिश्रण (mixture) कम प्रति-बैच क्लास फ्रीक्वेंसी के साथ भी प्रभावी बना रहे।

2.3 प्रशिक्षण: वेरिएंस-अवेयर रिप्रजेंटेशन अलाइनमेंट (VA-REPA)

दो-शासन अंतर्दृष्टि के आधार पर, लेखक सहायक सिमेंटिक पर्यवेक्षण को अनुकूलित करने के लिए VA-REPA का प्रस्ताव करते हैं।

अंतर्दृष्टि: रिप्रजेंटेशन अलाइनमेंट (जैसे, प्री-ट्रेंड एनकोडर्स के साथ लेटेंट फीचर्स को अलाइन करना) केवल लो-वेरिएंस शासन में ही सूचनात्मक है जहाँ सिमेंटिक जानकारी संरक्षित रहती है। हाई-वेरिएंस शासन में, सिग्नल शोर वाला और इल-पोस्ड होता है।
रणनीति: अलाइनमेंट लॉस पर एक वेटिंग फंक्शन $w(t)$ लागू किया जाता है, जो पर्यवेक्षण को लो-वेरिएंस शासन ( $t < \xi$ ) तक सीमित करता है। यह मॉडल को शोर वाले, गैर-सूचनात्मक सिग्नल्स से सीखने से रोकता है।

2.4 अनुमान (Inference): स्टेबल वेलोसिटी सैंपलिंग (StableVS)

लेखक फाइन-ट्यूनिंग के बिना सैंपलिंग को तेज करने के लिए लो-वेरिएंस शासन का लाभ उठाते हैं।

अंतर्दृष्टि: लो-वेरिएंस शासन में, फ्लो डायनेमिक्स प्रभावी रूप से नियतात्मक (deterministic) होते हैं, और प्रक्षेपवक्र (trajectory) एक स्थिर वेलोसिटी के साथ सीधी रेखा का अनुमान लगाता है।
तंत्र: StableVS इस शासन में रिवर्स SDE और PF-ODE के लिए क्लोज्ड-फॉर्म सरलीकरण प्राप्त करता है। लीनियर इंटरपॉलेन्ट्स के लिए, अपडेट नियम सरल होकर यह हो जाता है:
$x_\tau = x_t + (\tau - t)v_t(x_t)$
कार्यान्वयन: सैंपलर हाई-वेरिएंस शासन में मानक सॉल्वर (जैसे, Euler, DPM-Solver++) का उपयोग करता है लेकिन लो-वेरिएंस शासन में क्लोज्ड-फॉर्म StableVS अपडेट पर स्विच हो जाता है। यह सैंपल क्वालिटी को खराब किए बिना बड़े इंटीग्रेशन स्टेप्स (कम कुल स्टेप्स) की अनुमति देता है।

3. मुख्य योगदान (Key Contributions)

वेरिएंस-थियोरेटिकल परिप्रेक्ष्य: यह पेपर एक आयामीता-निर्भर दो-शासन संरचना (हाई बनाम लो वेरिएंस) को प्रकट करने वाले एक सिद्धांतगत विश्लेषण को प्रदान करता है, जो दोनों प्रशिक्षण गतिकी और अनुमान व्यवहार को नियंत्रित करता है।
StableVM: एक अनबायस्ड, वेरिएंस-रिड्यूस्ड ट्रेनिंग ऑब्जेक्टिव जो अनुकूलन को स्थिर करने के लिए कई रेफरेंस सैंपल्स को एकत्रित करता है, जो कन्वर्जेंस स्पीड और सैंपल क्वालिटी में मानक CFM और मौजूदा वेरिएंस-रिडक्शन तकनीकों (जैसे, STF) से बेहतर प्रदर्शन करता है।
VA-REPA: एक शासन-जागरूक (regime-aware) अनुकूलन जो सहायक पर्यवेक्षण को लो-वेरिएंस शासन में चुनिंदा रूप से लागू करता है, जिससे प्रशिक्षण दक्षता और स्थिरता में सुधार होता है।
StableVS: स्टेट-ऑफ-द-आर्ट मॉडल्स पर >2x सैंपलिंग स्पीडअप प्राप्त करने के लिए लो-वेरिएंस शासन की नियतात्मक प्रकृति का लाभ उठाने वाली एक फाइन-ट्यूनिंग-फ्री एक्सेलेरेशन रणनीति।

4. प्रायोगिक परिणाम (Experimental Results)

फ्रेमवर्क को ImageNet 256×256 और विभिन्न बड़े पैमाने के टेक्स्ट-टू-इमेज (T2I) और टेक्स्ट-टू-वीडियो (T2V) मॉडल्स (SD3.5, Flux, Qwen-Image, Wan2.2) पर मान्य किया गया।

प्रशिक्षण दक्षता (Training Efficiency):
- StableVM + VA-REPA ने सभी मॉडल स्केल्स (SiT-B से SiT-XL) और ट्रेनिंग ड्यूरेशन में वैनिला REPA और अन्य बेसलाइन्स (जैसे, REG, iREPA) को लगातार पछाड़ा।
- ImageNet पर, इस पद्धति ने एंड-टू-एंड फाइन-ट्यूनिंग (जैसे, REPA-E) की आवश्यकता वाले बेसलाइन्स की तुलना में काफी कम ट्रेनिंग एपोक्स के साथ प्रतिस्पर्धी FID और IS स्कोर प्राप्त किए।
- एब्लेशन स्टडीज ने पुष्टि की कि अलाइनमेंट को लो-वेरिएंस शासन तक सीमित करने से यूनिफॉर्म एप्लीकेशन की तुलना में बेहतर FID प्राप्त होता है।
सैंपलिंग गति (Sampling Speed):
- StableVS ने SD3.5, Flux, और Wan2.2 पर >2x इन्फरेंस एक्सेलेरेशन प्राप्त किया (उदाहरण के लिए, ~17-20 कुल स्टेप्स के साथ 30-स्टेप बेसलाइन्स के बराबर)।
- महत्वपूर्ण रूप से, इस एक्सेलेरेशन ने सैंपल क्वालिटी को कम नहीं किया। रेफरेंस मेट्रिक्स (PSNR, SSIM, LPIPS) और जनरेटिव मेट्रिक्स (GenEval, T2V-CompBench) कम स्टेप्स वाले स्टैंडर्ड सॉल्वर्स के बराबर या उससे बेहतर रहे।
- गुणात्मक परिणामों ने दिखाया कि StableVS के आउटपुट 30-स्टेप बेसलाइन्स के साथ दृश्य रूप से अविभेद्य थे, जबकि नैव (naive) स्टेप रिडक्शन से स्पष्ट आर्टिफैक्ट्स दिखाई दिए।

5. महत्व और दावे (Significance and Claims)

यह शोध पत्र दावा करता है कि जनरेटिव प्रक्षेपवक्र (generative trajectory) के साथ वेरिएंस संरचना को स्पष्ट रूप से मॉडल करना अधिक कुशल जनरेटिव मॉडल्स को डिजाइन करने के लिए एक सिद्धांतगत आधार प्रदान करता है।

एकीकृत ढांचा (Unified Framework): यह प्रशिक्षण में वेरिएंस रिडक्शन और सैंपलिंग में शासन-जागरूक त्वरण को एक एकल सैद्धांतिक परिप्रेक्ष्य के तहत एकीकृत करता है।
व्यावहारिक प्रभाव: ये विधियाँ मॉड्यूलर हैं और मौजूदा आर्किटेक्चर (जैसे, SiT, DiT) और सॉल्वर के साथ संगत हैं, जो आर्किटेक्चरत्मक बदलावों या महंगी फाइन-ट्यूनिंग के बिना तत्काल सुधार प्रदान करती हैं।
सैद्धांतिक अंतर्दृष्टि: यह कार्य फ्लो मैचिंग ऑब्जेक्टिव्स में रेफरेंस-सैंपल स्टोकास्टिसिटी से प्रेरित वेरिएंस के रूप में जनरेटिव ट्रैजेक्टरीज को एक समान प्रक्रिया के रूप में देखने वाली धारणा को चुनौती देता है, यह प्रदर्शित करते हुए कि अलग-अलग शासन (हाई बनाम लो वेरिएंस) के लिए अलग-अलग अनुकूलन और सैंपलिंग रणनीतियों की आवश्यकता होती है।

लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण फ्लो मैचिंग ऑब्जेक्टिव्स में रेफरेंस-सैंपल के कारण होने वाले वेरिएंस के विशिष्ट स्रोत को संबोधित करके मौजूदा तकनीकों (जैसे, डाइमेंशनलिटी रिडक्शन या बेहतर सॉल्वर्स) का पूरक बनता है।