🤖 machine learning

Velocity Scheduled Flow Matching

यह शोध पत्र वेलोसिटी शेड्यूल्ड फ्लो मैचिंग (VSFM) को प्रस्तुत करता है, जो एक ऐसी विधि है जो अनुकूलित एकीकरण शेड्यूल्स के माध्यम से सैंपलिंग लागत को कम करने और जनरेशन गुणवत्ता (FID) में सुधार करने के लिए मानक फ्लो मैचिंग की स्थिर-गति धारणा को चर वेग प्रोफाइल (variable velocity profiles) के साथ शिथिल करती है, चाहे वह इन्फरेंस के दौरान प्रीट्रेन मॉडल्स का पुन: उपयोग करके हो या विशिष्ट ब्रेकिंग प्रोफाइल्स के साथ स्क्रैच से प्रशिक्षण देकर।

मूल लेखक: Vitalii Bondar

प्रकाशित 2026-07-14

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Vitalii Bondar

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बिल्ली की एक आदर्श तस्वीर बनाने की कोशिश कर रहे हैं, लेकिन आप एक धुंधली, स्टैटिक-भरी टीवी स्क्रीन से शुरुआत करते हैं। AI इमेज जनरेशन की दुनिया में, एक लोकप्रिय तरीका है जिसे फ्लो मैचिंग (Flow Matching) कहा जाता है, जो इस परिवर्तन के लिए एक GPS की तरह काम करता है। यह एक न्यूरल नेटवर्क को सिखाता है कि कैसे धुंधले शोर (noise) को चरण-दर-चरण एक स्पष्ट बिल्ली में बदला जाए।

लंबे समय तक, सभी ने यह मान लिया था कि GPS को इस बात का निर्देश देना चाहिए कि छवि को धुंधले आरंभ से लेकर स्पष्ट अंत तक एक स्थिर गति (constant speed) पर चलना चाहिए। यह एक कार चलाने जैसा है जहाँ आप कभी एक्सीलेटर नहीं दबाते या ब्रेक नहीं लगाते; आप बस ठीक उसी समान गति से क्रूज करते हैं पूरी यात्रा के दौरान।

लेकिन इस पेपर में, विटालि बॉन्डर (Vitalii Bondar) एक सरल, चंचल प्रश्न पूछते हैं: क्या होगा अगर हमें एक स्थिर गति पर गाड़ी चलाने की आवश्यकता न हो? क्या होगा यदि हम तेज चल सकें जब रास्ता चिकना हो और धीमा हो सकें जब रास्ता घुमावदार और खतरनाक हो जाए?

बड़ा विचार: तेज होना और धीमा होना

लेखक एक नया तरीका पेश करते हैं जिसे वेलोसिटी शेड्यूल्ड फ्लो मैचिंग (Velocity Scheduled Flow Matching - VSFM) कहा जाता है। छवि को एक स्थिर गति से चलने के लिए मजबूर करने के बजाय, VSFM आपको एक "स्पीड प्रोफाइल" चुनने की अनुमति देता है। आप AI को शुरुआती, अव्यवस्थित हिस्सों में तेजी से जाने और फिर अंतिम, विस्तृत छवि के करीब पहुँचते समय धीरे से ब्रेक लगाने के लिए कह सकते हैं।

इसे एक रोलरकोस्टर की तरह सोचें।

पुराना तरीका (लीनियर): ट्रेन स्टेशन से पहाड़ी के शीर्ष तक और फिर नीचे तक एक स्थिर, उबाऊ गति से चलती है।
नया तरीका (VSFM): ट्रेन पहली पहाड़ी पर तेजी से ऊपर जाती है (जहाँ ट्रैक सरल है), फिर नीचे के तीखे, घुमावदार लूप्स से ठीक पहले (जहाँ सटीकता सबसे अधिक महत्वपूर्ण होती है) धीमी होकर रेंगने लगती है।

"जादुई" ट्रिक: किसी नए प्रशिक्षण (Training) की आवश्यकता नहीं है

यहाँ इस खोज का सबसे शानदार हिस्सा है। लेखक ने पाया कि इन नए स्पीड प्रोफाइल्स का उपयोग करने के लिए आपको AI को फिर से प्रशिक्षित करने की आवश्यकता नहीं है। यदि आपके पास पहले से ही एक प्रशिक्षित AI है जिसने एक स्थिर गति पर गाड़ी चलाना सीखा है, तो आप बस उस "शेड्यूल" को बदल सकते हैं कि आप इसे कैसे चलने के लिए कहते हैं।

यह एक GPS ऐप रखने जैसा है जो पहले से ही रास्ता जानता है। आपको सड़कों को फिर से बनाने या ऐप को गाड़ी चलाना फिर से सिखाने की आवश्यकता नहीं है; आप बस इसे बताते हैं, "हे, आइए पहले आधे हिस्से के लिए फास्ट लेन लें और एग्जिट के लिए धीमे हो जाएं।" पेपर दिखाता है कि केवल एक अलग, गैर-समान समय शेड्यूल (non-uniform time schedule) पर अपने AI के निर्देशों को एकीकृत करके, आप बिना एक भी अतिरिक्त डॉलर कंप्यूटर प्रशिक्षण समय खर्च किए बहुत बेहतर चित्र प्राप्त कर सकते हैं।

परिणाम: धीमा होना काम आता है

लेखक ने परीक्षण के लिए CIFAR-10 नामक 32x32 पिक्सेल छवियों के डेटासेट का उपयोग किया। उन्होंने मोशन प्लानिंग (जैसे कि रोबोट या एनिमेटर चीजों को सुचारू रूप से घुमाते हैं) से लिए गए छह अलग-अलग "स्पीड प्रोफाइल्स" का परीक्षण किया।

परिणामों को FID (Fréchet Inception Distance) नामक एक स्कोर द्वारा मापा गया था, जहाँ कम संख्या का अर्थ है बेहतर, अधिक वास्तविक छवि।

"कोस्टिंग" (Coasting) प्रोफाइल: यह प्रोफाइल तेज शुरू होता है और धीरे-धीरे धीमा हो जाता है। जब इसे मौजूदा मॉडल पर इन्फरेंस टाइम (inference time) (केवल छवियां उत्पन्न करते समय) पर लागू किया गया, तो इसने FID को 19.8% तक कम कर दिया। यह गुणवत्ता में एक बड़ी छलांग है!
शून्य से प्रशिक्षण (Training from Scratch): जब लेखक ने विशेष रूप से इस "कोस्टिंग" गति का उपयोग करके एक नया मॉडल प्रशिक्षित किया, तो इसने 4 स्टेप्स (एक बहुत तेज़ जनरेशन) में FID को 17.4% कम किया और 50 स्टेप्स पर 10.4% कम किया।

यह क्यों काम करता है? ("टेढ़े-मेढ़े रास्ते" की उपमा)

पेपर इसे लोकल ट्रंकेशन एरर (local truncation error) की अवधारणा का उपयोग करके समझाता है। कल्पना कीजिए कि आप एक पथ पर चल रहे हैं, बड़े कदम उठा रहे हैं।

एक सपाट, सीधे पथ पर (छवि के शुरुआती, शोर वाले हिस्से में), बड़े कदम ठीक हैं। आप कुछ भी मिस नहीं करेंगे।
एक ऐसे पथ पर जिसमें अचानक तीखे मोड़ आते हैं (अंतिम भाग जहाँ छवि के विवरण बनते हैं), बड़े कदम उठाने से आप लड़खड़ा सकते हैं और मोड़ चूक सकते हैं।

"लीनियर" विधि (स्थिर गति) आपको हर जगह एक ही आकार के कदम उठाने के लिए मजबूर करती है। लेकिन ब्रेकिंग प्रोफाइल्स (जैसे "कोस्टिंग" या "यूनिफॉर्म डिकेलरेशन") आपको ठीक उसी समय छोटे, सावधानीपूर्ण कदम उठाने के लिए कहते हैं जब रास्ता घुमावदार हो जाता है (यात्रा के अंत के पास)।

पेपर तर्क देता है कि "स्मूथ लैंडिंग" प्रोफाइल (जो बहुत अचानक रुक जाता है) कुछ मामलों में विफल रहा क्योंकि इसने शुरुआत में बहुत बड़े कदम उठाए, जिससे ऊर्जा बर्बाद हुई, और फिर सारी सटीकता को अंतिम कुछ चरणों में भरने की कोशिश की। "कोस्टिंग" प्रोफाइल सबसे अच्छा था क्योंकि इसने सही संतुलन बनाया: एक कोमल शुरुआत और एक सुचारू, सावधानीपूर्ण अंत।

पेपर क्या कहता है कि यह क्या नहीं है

लेखक सावधानीपूर्वक यह स्पष्ट करते हैं कि यह तरीका क्या नहीं है।

यह AI द्वारा छवि सीखने के तरीके के गणित (मैथ) को बदलने के बारे में नहीं है ( "कपलिंग" या "इंटरपोलेंट" वही सीधी रेखा रहती है)।
यह AI में अधिक लेयर्स जोड़ने या नेटवर्क को बड़ा बनाने के बारे में नहीं है।
यह जादू से काम नहीं करता है; यह इस बात के कारण काम करता है कि कंप्यूटर स्टेप्स की गणना कैसे करता है (यूलर इंटीग्रेटर)।

हम कितने आश्वस्त हैं?

पेपर इन आंकड़ों के बारे में बहुत आश्वस्त है क्योंकि उन्हें CIFAR-10 पर वास्तविक प्रयोगों में मापा गया था।

19.8% का सुधार तब देखा गया जब इस पद्धति को एक सार्वजनिक, पूर्व-प्रशिक्षित मॉडल पर लागू किया गया।
17.4% का सुधार तब मापा गया जब एक नया मॉडल शून्य से प्रशिक्षित किया गया।
लेखक सुझाव देते हैं कि यह इसलिए काम करता है क्योंकि कंप्यूटर त्रुटियों की गणना करने का एक विशिष्ट तरीका है, लेकिन वे स्वीकार करते हैं कि यह एक लोकल (स्थानीय) स्पष्टीकरण है (एक समय में एक कदम को देखना) और यह साबित करने के लिए कि यह बड़े पैमाने पर, अधिक जटिल छवियों (जैसे हाई-डेफिनिशन फोटो) पर वैश्विक रूप से कैसे व्यवहार करता है, और अधिक काम की आवश्यकता है।

संक्षेप में, पेपर सुझाव देता है कि केवल AI को यह बताने से कि "फिनिश लाइन के करीब पहुँचते ही धीमा हो जाओ," हम काफी बेहतर चित्र, तेजी से और बिना किसी अतिरिक्त प्रशिक्षण लागत के प्राप्त कर सकते हैं। यह शेड्यूल में एक सरल बदलाव है जो पूरी यात्रा को बहुत अधिक सुचारू बना देता है।

तकनीकी सारांश: वेलोसिटी शेड्यूल्ड फ्लो मैचिंग (VSFM)

समस्या विवरण

फ्लो मैचिंग एक निरंतर-समय जनरेटिव मॉडलिंग ढांचा है जहाँ एक न्यूरल नेटवर्क $v_\theta(x, t)$ को शोर $x_0$ और डेटा $x_1$ के बीच एक लीनियर इंटरपोलेन्ट (linear interpolant) के साथ कंडीशनल वेलोसिटी को रिग्रेस करने के लिए प्रशिक्षित किया जाता है। मानक फ्लो मैचिंग इंटरपोलेन्ट को $x_t = x_0 + t(x_1 - x_0)$ के रूप में एक सीधी रेखा के रूप में निर्धारित करता है, जो स्पष्ट रूप से सैंपलर को पूरी ट्राजेक्टरी के दौरान एक स्थिर गति (constant speed) पर चलने के लिए बाध्य करता है।

सैंपलिंग लागत उस संख्या (NFE) द्वारा निर्धारित होती है जो ऑर्डिनरी डिफरेंशियल इक्वेशन (ODE) $dx/dt = v_\theta(x, t)$ को इंटीग्रेट करने के लिए आवश्यक है। लो-NFE रिजीम (जैसे, 4–50 स्टेप्स) में, ट्राजेक्टरी को यूलर (Euler) जैसे सरल इंटीग्रेटर्स का उपयोग करके कुशलतापूर्वक पार किया जाना चाहिए। शोध पत्र यह तर्क देता है कि स्थिर गति की धारणा एक मनमाना डिज़ाइन विकल्प है जो लर्निंग वेलोसिटी फील्ड के डिस्क्रीटाइजेशन एरर (discretization error) विशेषताओं के साथ संरेखित नहीं हो सकती है, विशेष रूप से डेटा मैनिफोल्ड के पास जहाँ फील्ड सबसे तेजी से बदलता है।

कार्यप्रणाली

1. सामान्यीकृत प्रशिक्षण लक्ष्य (Generalized Training Target)

लेखक वेलोसिटी शेड्यूल्ड फ्लो मैचिंग (VSFM) पेश करते हैं, जो कंडीशनल टारगेट को एक स्थिर विस्थापन (constant displacement) से एक समय-परिवर्तनीय (time-varying) रूप में सामान्यीकृत करता है:
$u_t(x | x_0, x_1) = v(t) \cdot (x_1 - x_0)$
जहाँ $v: [0, 1] \to \mathbb{R}_{\ge 0}$ एक नॉन-नेगेटिव वेलोसिटी प्रोफाइल है जो $\int_0^1 v(t) dt = 1$ को संतुष्ट करती है। यह प्रतिबंध सुनिश्चित करता है कि कुल विस्थापन $x_1 - x_0$ बना रहे, जबकि $v(t)$ ट्रैवर्सल की दर को नियंत्रित करता है।

ट्रेनिंग ऑब्जेक्टिव मूवमेंट प्रोफाइल $\alpha(t) = \int_0^t v(s) ds$ द्वारा निर्धारित स्थितियों $x_t$ पर कांस्टेंट-मैग्निट्यूड डिस्प्लेसमेंट $(x_1 - x_0)$ पर नेटवर्क को रिग्रेस करता है:
$L_{VSFM}(\theta) = \mathbb{E}_{t, x_0, x_1} \left[ \| v_\theta(x_t, t) - (x_1 - x_0) \|^2 \right]$
महत्वपूर्ण रूप से, वेलोसिटी प्रोफाइल $v(t)$ केवल स्थितियों $x_t$ के वितरण के माध्यम से प्रशिक्षण को प्रभावित करता है, न कि लॉस मैग्नीट्यूड को वेट करने के माध्यम से। यह $t=1$ के पास $v(t)^2$ वेटिंग से जुड़ी संख्यात्मक अस्थिरता (numerical instability) से बचता है।

2. पॉलिनोमियल वेलोसिटी प्रोफाइल्स (Polynomial Velocity Profiles)

अध्ययन VSFM को मोशन प्लानिंग बाउंड्री-वैल्यू प्रॉब्लम्स से प्राप्त छह पॉलिनोमियल प्रोफाइल्स के साथ स्थापित करता है:

बेसलाइन: लीनियर ( $v(t)=1$ )।
ब्रेकिंग सब-फैमिली (Braking Sub-family): मोनोटोनिकली घटती वेलोसिटी (यूनिफॉर्म डिक्सेलेरेशन, कोस्टिंग, स्मूथ लैंडिंग)। ये $t=0$ के पास तेज़ चलते हैं और $t=1$ पर रुकने के लिए धीमे होते जाते हैं।
सिमेट्रिक सब-फैमिली (Symmetric Sub-family): दोनों एंडपॉइंट्स पर शून्य वेलोसिटी (ईज़-इन-आउट, मिनिमम-जर्क)।

3. इन्फरेंस-टाइम रीशेड्यूलिंग (ट्रेनिंग-फ्री)

एक प्रमुख योगदान किसी भी स्वीकार्य प्रोफाइल को एक प्री-ट्रेंड लीनियर फ्लो-मैचिंग मॉडल पर बिना रिट्रेनिंग के लागू करने की क्षमता है।

तंत्र (Mechanism): प्री-ट्रेंड मॉडल $v_\theta$ को लीनियर ट्राजेक्टरी $x_\tau = x_0 + \tau(x_1 - x_0)$ पर प्रशिक्षित किया गया है। एक नए प्रोफाइल $v(t)$ के तहत सैंपल करने के लिए, लेखक एक एडेप्टेड फील्ड $\tilde{v}(x, t) = v(t) v_\theta(x, \alpha(t))$ को परिभाषित करते हैं।
कार्यान्वयन (Implementation): वेरिएबल बदलकर $\tau = \alpha(t)$ , ODE $dx/d\tau = v_\theta(x, \tau)$ बन जाता है। सैंपलर इस ODE को एक नॉन-यूनिफॉर्म ग्रिड $\tau_i = \alpha(i/N)$ पर इंटीग्रेट करता है।
एल्गोरिदम: अपडेट स्टेप $x_{i+1} = x_i + v_\theta(x_i, \tau_i) \cdot \Delta \tau_i$ है, जहाँ $\Delta \tau_i = \alpha((i+1)/N) - \alpha(i/N)$ है। यह प्रभावी रूप से प्रोफाइल द्वारा प्रेरित एक नॉन-यूनिफॉर्म टाइम ग्रिड पर मानक यूलर सैंपलर को चलाता है।

4. डिस्क्रीटाइजेशन एरर विश्लेषण

पेपर प्रदर्शन में सुधार का श्रेय यूलर इंटीग्रेटर के लोकल ट्रंकेशन एरर (local truncation error) को देता है। स्टेप $i$ पर एरर $(\Delta \tau_i)^2 \cdot \frac{d^2x}{d\tau^2}$ के साथ स्केल होता है।

$\frac{d^2x}{d\tau^2}$ (फील्ड वेरिएशन) $\tau=1$ (डेटा मैनिफोल्ड) के पास सबसे अधिक होता है जहाँ वेलोसिटी फील्ड अत्यधिक नॉन-लीनियर होता है।
ब्रेकिंग प्रोफाइल्स $t=1$ के पास छोटे $\Delta \tau_i$ (छोटे स्टेप्स) असाइन करते हैं, जिससे प्रमुख एरर सोर्स को दबाया जा सके।
सिमेट्रिक प्रोफाइल्स मिडपॉइंट पर बड़े स्टेप्स को केंद्रित करते हैं, जो शोर-से-डेटा जनरेशन के लिए कम प्रभावी है जहाँ क्रिटिकल नॉन-लिनैरिटी एंडपॉइंट पर होती है।

मुख्य परिणाम

CIFAR-10 (32x32) पर एक क्लास-कंडीशनल UNet और एक फिक्स्ड-स्टेप यूलर इंटीग्रेटर का उपयोग करके प्रयोग किए गए।

1. स्क्रैच से ट्रेनिंग (Training from Scratch)

कोस्टिंग (Coasting) प्रोफाइल के तहत ट्रेनिंग ने सर्वश्रेष्ठ परिणाम दिए:

4 NFE: FID में 17.4% की कमी (35.39 बनाम 42.86 बेसलाइन)।
50 NFE: FID में 10.4% की कमी (8.29 बनाम 9.25 बेसलाइन)।
यूनिफॉर्म डिक्सेलेरेशन ने भी बेसलाइन से सुधार दिखाया, जबकि स्मूथ लैंडिंग लो NFE में अत्यधिक बड़े शुरुआती स्टेप्स के कारण खराब प्रदर्शन करती है।
सिमेट्रिक प्रोफाइल्स ने हाई NFE पर मामूली लाभ दिखाया लेकिन लो NFE पर बेसलाइन से पीछे रहे।

2. इन्फरेंस-टाइम अडैप्टेशन (ट्रेनिंग-फ्री)

बिना रिट्रेनिंग के उपलब्ध TorchCFM चेकपॉइंट (जो लीनियरली प्रशिक्षित है) पर कोस्टिंग प्रोफाइल लागू करने पर:

50 NFE: FID में 19.8% की कमी (4.38 बनाम 5.47 बेसलाइन)।
32 NFE: FID में 18.6% की कमी (5.23 बनाम 6.43 बेसलाइन)।
100 NFE: यूनिफॉर्म डिक्सेलेरेशन ने सर्वश्रेष्ठ FID प्राप्त किया (3.89, -16.0%)।
स्मूथ लैंडिंग ने 32 NFE पर शुरुआत में खराब प्रदर्शन किया (7.43 बनाम 6.43) क्योंकि बड़े शुरुआती स्टेप्स ने ट्रंकेशन एरर पेश किया, लेकिन उच्च NFE बजट पर इसमें सुधार हुआ।

महत्व और दावे

पेपर का दावा है कि वेलोसिटी प्रोफाइल फ्लो मैचिंग में कुछ-स्टेप सैंपलिंग को बेहतर बनाने के लिए एक सरल, कम-लागत वाला लीवर है। प्राथमिक महत्व दो क्षेत्रों में निहित है:

ट्रेनिंग-फ्री अडैप्टेशन: यह प्रदर्शित करता है कि एक प्री-ट्रेंड लीनियर फ्लो-मैचिंग मॉडल को बिना अतिरिक्त ट्रेनिंग या आर्किटेक्चरल बदलाव के, केवल इंटीग्रेशन शेड्यूल (वेलोसिटी प्रोफाइल) को बदलकर विशिष्ट NFE बजटों के लिए अनुकूलित किया जा सकता है।
सैद्धांतिक अंतर्दृष्टि (Theoretical Insight): यह पहचानता है कि मानक फ्लो मैचिंग में स्थिर-गति की धारणा यूलर इंटीग्रेशन के लिए उप-इष्टतम (suboptimal) है। स्थानीय ट्रंकेशन एरर के साथ स्टेप साइज को संरेखित करके (उन स्थानों पर छोटे स्टेप्स लेकर जहाँ फील्ड सबसे अधिक बदलता है), महत्वपूर्ण गुणवत्ता लाभ प्राप्त किया जा सकता है, विशेष रूप से लो-NFE रिजीम में।

लेखक नोट करते हैं कि ये निष्कर्ष यूलर इंटीग्रेटर और नॉइज़-टू-डेटा जनरेशन टास्क के लिए विशिष्ट हैं। वे सुझाव देते हैं कि इमेज-टू-इमेज कार्यों (जहाँ सोर्स स्ट्रक्चर्ड है) के लिए लाभ भिन्न हो सकते हैं या उन मामलों में भिन्न हो सकते हैं जहाँ हायर-ऑर्डर सॉल्वर्स लीडिंग ट्रंकेशन एरर्स को कैंसिल करते हैं। यह अध्ययन CIFAR-10 और पॉलिनोमियल प्रोफाइल्स तक सीमित है, जो उच्च-रिज़ॉल्यूशन डेटासेट पर पुनरावृत्ति और सीखे गए या नॉन-पॉलिनोमियल प्रोफाइल्स की खोज को भविष्य के कार्य के रूप में छोड़ता है।