🤖 machine learning

MixFlow: Mixed Source Distributions Improve Rectified Flows

यह शोध पत्र MixFlow को प्रस्तुत करता है, जो एक प्रशिक्षण रणनीति है जो जनरेटिव पाथ कर्वेचर (generative path curvature) को कम करने के लिए एक निश्चित अनकंडीशनल डिस्ट्रीब्यूशन (unconditional distribution) को सिग्नल-अलाइन्ड सोर्स डिस्ट्रीब्यूशन (signal-aligned source distribution) के साथ जोड़ती है, जिससे रेक्टिफाइड फ्लो मॉडल्स (rectified flow models) में सैंपलिंग दक्षता, जनरेशन की गुणवत्ता और प्रशिक्षण अभिसरण (training convergence) में महत्वपूर्ण सुधार होता है।

मूल लेखक: Nazir Nayal, Christopher Wewer, Jan Eric Lenssen

प्रकाशित 2026-04-13

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nazir Nayal, Christopher Wewer, Jan Eric Lenssen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को बिल्ली की एक बेहतरीन तस्वीर बनाना सिखाने की कोशिश कर रहे हैं।

वर्तमान में, सबसे अच्छे रोबोट एक विधि का उपयोग करते हैं जिसे डिफ्यूजन मॉडल्स (Diffusion Models) कहा जाता है। इसे "गर्म और ठंडा" (Hot and Cold) के खेल की तरह समझें। रोबोट शुद्ध स्टैटिक शोर (जैसे टीवी पर आने वाली बर्फ जैसी झिलमिलाहट) की एक बाल्टी से शुरुआत करता है और धीरे-धीरे उस शोर को एक बिल्ली में बदलने की कोशिश करता है।

हालाँकि, एक समस्या है: रोबoret जिस रास्ते पर चलता है वह बहुत टेढ़ा-मेढ़ा और अराजक (chaotic) है। यह ऐसा है जैसे आप अपने घर के दरवाजे से रसोई तक जाने की कोशिश कर रहे हों, लेकिन फर्श पर ऊन का एक विशाल, उलझा हुआ गोला पड़ा हो। रोबोट को वहां पहुँचने के लिए सैकड़ों छोटे, घुमावदार कदम उठाने पड़ते हैं, जिससे यह प्रक्रिया धीमी और गणनात्मक रूप से महंगी हो जाती है।

समस्या: रास्ता इतना टेढ़ा-मेढ़ा क्यों है?

पेपर तर्क देता है कि रास्ता इसलिए टेढ़ा-मेढ़ा है क्योंकि रोबोट ऐसी जगह से शुरू कर रहा है जिसका बिल्ली से कोई लेना-देना नहीं है। यह "स्टैंडर्ड गॉसियन नॉइज़" (शुद्ध यादृच्छिकता/randomness) से शुरू होता है। चूंकि शुरुआती बिंदु (रैंडम शोर) और अंतिम बिंदु (एक बिल्ली) एक-दूसरे से पूरी तरह असंबंधित हैं, इसलिए रोबोट को उन्हें जोड़ने के लिए बड़े, भ्रमित करने वाले चक्कर लगाने पड़ते हैं।

समाधान: MixFlow

लेखक MixFlow नामक एक नई विधि पेश करते हैं। वे उस उलझे हुए ऊन के रास्ते को सीधा करने के लिए दो मुख्य विचार प्रस्तावित करते हैं।

1. "जीपीएस" (GPS) का विचार (κ-FC)

कल्पना कीजिए कि आप एक जंगल में खो गए हैं।

पुराना तरीका: आपके पास एक नक्शा है जो कहता है "आप दुनिया में कहीं हैं," और आपको अंदाज़ा लगाना है कि उत्तर दिशा कौन सी है। आप चक्कर काटते रहते हैं।
MixFlow तरीका: आपके पास एक नक्शा है जो कहता है, "आप वर्तमान में ठीक उसी पेड़ के पास खड़े हैं जो उस फोटो में दिखने वाले पेड़ जैसा ही है जिसे आप बनाना चाहते हैं।"

लेखक κ-FC नामक एक अवधारणा पेश करते हैं। यह रोबोट को एक "संकेत" या "जीपीएस सिग्नल" (जिसे वे $\kappa$ कहते हैं) देने जैसा है जो उसे बताता है, "हे, जिस शोर से आप शुरुआत कर रहे हैं, वह पहले से ही थोड़ा बहुत उस बिल्ली जैसा दिखना चाहिए जिसे आप बनाने की कोशिश कर रहे हैं।"

यदि रोबोट जानता है कि मंजिल एक बिल्ली है, तो उसे शुद्ध रैंडम शोर से शुरुआत नहीं करनी चाहिए। उसे ऐसे शोर से शुरुआत करनी चाहिए जो पहले से ही बिल्ली के आकार जैसा हो। यह रास्ते को बहुत सीधा बना देता है।

चुनौती: यदि आप इस संकेत पर बहुत अधिक निर्भर करते हैं, तो रोबोट भ्रमित हो जाता है। यदि संकेत बहुत विशिष्ट है, तो रोबोट बिल्ली बनाना भूल सकता है यदि आप उसे बाद में संकेत न दें। यह एक ऐसे छात्र की तरह है जो उत्तर कुंजी (answer key) को रट लेता है लेकिन बिना संकेत के समस्या हल नहीं कर पाता। इसे "प्रायर होल" (Prior Hole) समस्या कहा जाता है।

2. "स्मूदी" रणनीति (MixFlow)

"जीपीएस" समस्या को ठीक करने के लिए, लेखकों ने MixFlow बनाया है।

कल्प diजिये कि आप एक स्मूदी बना रहे हैं।

सामग्री A: शुद्ध पानी (स्टैंडर्ड रैंडम नॉइज़)।
सामग्री B: एक केंद्रित फलों का रस जिसका स्वाद बिल्कुल उस बिल्ली जैसा है जिसे आप बनाना चाहते हैं (वह "संकेत" वितरण)।

रोबोट को केवल फलों का रस (जो जोखिम भरा है) या केवल पानी (जो धीमा है) पीने के लिए मजबूर करने के बजाय, MixFlow उसे दोनों का एक मिश्रण पीना सिखाता है।

ट्रेनिंग के दौरान, रोबोट हर संभव मिश्रण को संभालना सीखता है:

100% पानी (शुद्ध शोर)
50% पानी / 50% जूस
100% जूस (संकेत)

यह जादू क्यों है?
क्योंकि रोबोट ट्रेनिंग के दौरान "जूस" वाला रास्ता (स्मार्ट, सीधा रास्ता) सीखता है, वह अनजाने में उस सीधे तर्क को "पानी" वाले रास्ते पर भी लागू करना सीख जाता है।

जब वास्तव में तस्वीर बनाने का समय आता है (inference), तो आप बस उसे पानी (शुद्ध शोर) दे सकते हैं। क्योंकि उसने ट्रेनिंग के दौरान "जूस" वाला रास्ता सीखा है, वह जानता है कि बिना संकेत के भी उस पानी को बिल्ली में सीधे रास्ते से कैसे बदलना है।

परिणाम: तेज़ और बेहतर

इस "स्मूदी" ट्रेनिंग पद्धति का उपयोग करके:

रास्ता सीधा है: रोबोट को चक्कर नहीं काटने पड़ते।
यह तेज़ है: इसे उच्च गुणवत्ता वाली छवि बनाने के लिए बहुत कम चरणों की आवश्यकता होती है।
गुणवत्ता बेहतर है: कम चरणों के साथ भी चित्र बेहतर दिखते हैं।

एनालॉजी (उपमा) सारांश

पुराना तरीका: समुद्र के किसी यादृच्छिक स्थान से एक विशिष्ट द्वीप तक जाने की कोशिश करना। आपको बड़े, भ्रमित करने वाले घेरे बनाकर तैरना पड़ता है।
MixFlow: आप तैराक को एक पास की नाव (संकेत) से द्वीप तक के मार्ग का अभ्यास कराकर प्रशिक्षित करते हैं। एक बार जब तैराक उस छोटे, सीधे मार्ग में महारत हासिल कर लेता है, तो वह समुद्र के बीच से द्वीप तक सीधे तैरने का तरीका भी सीख जाता है, क्योंकि उसने केवल शुरुआती बिंदु नहीं, बल्कि दिशा सीखी है।

संक्षेप में: MixFlow एआई मॉडल्स को ट्रेनिंग के दौरान "लंबा रास्ता" सीखने के लिए प्रेरित करता है ताकि वे वास्तविक काम करते समय "हाईवे" का उपयोग कर सकें। यह उन्हें तेज़, सस्ता और उनके काम में बेहतर बनाता है।

यहाँ शोध पत्र "MIXFLOW: MIXED SOURCE DISTRIBUTIONS IMPROVE RECTIFIED FLOWS" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

जेनरेटिव मॉडल, विशेष रूप से डिफ्यूजन मॉडल और रेक्टिफाइड फ्लो (Rectified Flows), ने इमेज जनरेशन में अत्याधुनिक परिणाम प्राप्त किए हैं। हालाँकि, वे एक मौलिक सीमा से ग्रस्त हैं: धीमी पुनरावृत्ति सैंपलिंग (slow iterative sampling)।

मूल कारण: सैंपलिंग की गति जेनरेटिव ट्राजेक्टरीज (trajectories) के वक्रता (curvature) द्वारा बाधित होती है। अत्यधिक घुमावदार पथों को सटीक रूप से अनुमानित करने के लिए कई फंक्शन इवैल्यूएशन (steps) की आवश्यकता होती है।
सैद्धांतिक अंतर्दृष्टि: पिछले कार्यों ने स्थापित किया है कि उच्च वक्रता स्रोत वितरण (आमतौर पर एक मानक गॉसियन, $p_0$ ) और लक्ष्य डेटा वितरण ( $p_1$ ) के बीच स्वतंत्रता (independence) से उत्पन्न होती है। जब स्रोत और लक्ष्य स्वतंत्र होते हैं, तो उनके बीच के ऑप्टिमल ट्रांसपोर्ट पाथ्स अक्सर एक-दूसरे को काटते हैं, जिससे वेक्टर फील्ड मॉडल को इन इंटरसेक्शन्स को हल करने के लिए एक जटिल, घुमावदार ट्राजेक्टरी सीखने के लिए मजबूर होना पड़ता है।
मौजूदा सीमाएँ: जबकि Fast-ODE जैसे तरीके फॉरवर्ड कपलिंग (स्रोत और लक्ष्य का संयुक्त वितरण) को सीधा करने के लिए पथों को अनुकूलित करने का प्रयास करते हैं, वे अक्सर एक कठोर रेगुलाइजेशन रणनीति पर निर्भर करते हैं। डेटा सिग्नल्स पर स्रोत को अनैतिक रूप से कंडीशन करने से "प्रायर होल" (prior hole) की समस्या (जहाँ सीखा गया वितरण कोलैप्स हो जाता है या मानक गॉसियन स्पेस को कवर करने में विफल रहता है) हो सकती है या ऐसे हाइपरपैरामीटर्स की आवश्यकता होती है जिन्हें ट्यून करना कठिन है और जो प्रदर्शन को कम कर देते हैं।

2. कार्यप्रणाली (Methodology)

लेखक MixFlow का प्रस्ताव करते हैं, जो एक प्रशिक्षण रणनीति है जो स्थिरता से समझौता किए बिना ट्राजेक्टरी की सीधापन (straightness) को अनुकूलित करने के लिए एक सीखने योग्य कंडीशनल सोर्स डिस्ट्रीब्यूशन को एक निश्चित अनकंडीशनल डिस्ट्रीब्यूशन के साथ जोड़ती है।

A. $\kappa$ -Forward Coupling ( $\kappa$ -FC)

लेखक पहले सीखने योग्य फॉरवर्ड कपलिंग के लिए एक सामान्य फॉर्मूलेशन पेश करते हैं।

अवधारणा: यह मानते हुए कि स्रोत $x_0$ और लक्ष्य $x_1$ स्वतंत्र हैं, वे एक कंडीशनिंग सिग्नल $\kappa$ (जो स्वयं डेटा सैंपल, क्लास लेबल, या नॉइज़ हो सकता है) पेश करते हैं।
फॉर्मूलेशन: स्रोत वितरण $q_\phi(x_0 | \kappa)$ को $\kappa$ के दिए जाने पर लक्ष्य $x_1$ के साथ संरेखित (align) होने के लिए सीखा जाता है।
चुनौती: सीधे $q_\phi(x_0 | \kappa)$ को सीखने के लिए एक रेगुलाइजेशन टर्म (KL डाइवर्जेंस) की आवश्यकता होती है ताकि वितरण को मानक गॉसियन से बहुत दूर जाने से रोका जा सके। हालाँकि, एक उच्च रेगुलेशन वेट ( $\beta$ ) मॉडल को वापस इंडिपेंडेंस की ओर धकेलता है (लाभ खो देता है), जबकि एक कम वेट ट्रेनिंग में अस्थिरता या "प्रiahole" की समस्या पैदा करता है।

B. MixFlow समाधान

$\kappa$ -FC में ट्रेड-ऑफ को दूर करने के लिए, MixFlow दो वितरणों के लीनियर मिक्सचर (linear mixture) पर फ्लो मॉडल को प्रशिक्षित करता है:

एक सीखने योग्य कंडीशनल डिस्ट्रीब्यूशन: $N(\mu_\phi(\kappa), \Sigma_\phi(\kappa))$ ।
एक निश्चित अनकंडीशनल डिस्ट्रीब्यूशन: स्टैंडर्ड गॉसियन $N(0, I)$ ।

प्रशिक्षण प्रक्रिया:

प्रत्येक ट्रेनिंग स्टेप के लिए, एक मिक्सिंग वेट $w \sim U(0, 1)$ सैंपल किया जाता है।
स्रोत वितरण को एक इंटरपोलेशन के रूप में बनाया जाता है:
$q_\phi(x_0 | \kappa, w) = N(w\mu_\phi(\kappa), w\Sigma_\phi(\kappa) + (1-w)I)$
वेक्टर फील्ड $v_\theta$ को इस मिक्सचर से लक्ष्य $x_1$ की ओर प्रवाहित होने के लिए प्रशिक्षित किया जाता है।
मुख्य लाभ: पूरे स्पेक्ट्रम (शुद्ध गॉसियन से शुद्ध कंडीशनल तक) पर प्रशिक्षण देकर, मॉडल मानक गॉसियन स्पेस का पूर्ण कवरेज बनाए रखते हुए पथों को सीधा करने के लिए सूचनात्मक सिग्नल $\kappa$ का उपयोग करना सीखता है। यह एक बहुत छोटे रेगुलेशन वेट ( $\beta \approx 10^{-5}$ ) के उपयोग की अनुमति देता है, जिससे कंडीशनल डिस्ट्रीब्यूशन बिना कोलैप्स हुए मानक गॉसियन से काफी भिन्न हो सकता है।

अनुमान (Inference/Sampling):

कंडीशनिंग के साथ: यदि $\kappa$ उपलब्ध है (जैसे, क्लास लेबल), तो उपयोगकर्ता स्पीड और क्वालिटी के बीच ट्रेड-ऑफ को नियंत्रित करने के लिए $w$ चुन सकता है।
बिना कंडीशनिंग के: यदि $\kappa$ उपलब्ध नहीं है (अनकंडीशनल जनरेशन), तो मॉडल डिफ़ॉल्ट रूप से $w=0$ (शुद्ध मानक गॉसियन) पर चला जाता है। महत्वपूर्ण रूप से, क्योंकि वेक्टर फील्ड को मिक्सचर पर प्रशिक्षित किया गया था, इसने कंडीशनल कंपोनेंट से सीधा ट्राजेक्टरी स्ट्रक्चर "विरासत" (inherit) में प्राप्त किया है, जिसके परिणामस्वरूप शुद्ध नॉइज़ से शुरू होने पर भी सीधे पथ प्राप्त होते हैं।

3. मुख्य योगदान (Key Contributions)

$\kappa$ -FC फॉर्मूलेशन: सीखने योग्य फॉरवर्ड कपलिंग के लिए एक सामान्य ढांचा जो स्रोत और लक्ष्य वितरणों को संरेखित करने के लिए मनमाने सिग्नल्स पर कंडीशन कर सकता है।
MixFlow एल्गोरिदम: डिस्ट्रीब्यूशन मिक्सिंग का उपयोग करने वाली एक मजबूत प्रशिक्षण रणनीति जो $\kappa$ -FC में स्थिरता बनाम लचीलेपन के ट्रेड-ऑफ को हल करती है। यह कम रेगुलेशन वेट का उपयोग करने की अनुमति देता है, जिससे ट्राजेक्टरी कर्वेचर में काफी कमी आती है।
इन्फरेंस कंट्रोल: टेस्ट टाइम पर मिक्सिंग वेट $w$ को ट्यून करने की क्षमता, जिससे बिना रिट्रेनिंग के स्पीड-क्वालिटी ट्रेड-ऑफ को एडजस्ट किया जा सके।
प्रशिक्षण दक्षता: MixFlow बेसलाइन्स की तुलना में तेजी से कन्वर्ज होता है, और कम ट्रेनिंग इटरेशन्स के साथ तुलनीय प्रदर्शन प्राप्त करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने CIFAR10, FFHQ (64x64), और AFHQv2 (64x64) डेटासेट्स पर Rectified Flow, Flow Matching, और Fast-ODE के विरुद्ध MixFlow का मूल्यांकन किया।

ट्राजेक्टरी कर्वेचर: MixFlow ने मानक Rectified Flow की तुलना में ट्राजेक्टरी कर्वेचर में ~22% की कमी और Fast-ODE (सीधा करने के लिए पिछला स्टेट-ऑफ-द-आर्ट) पर ~5% का सुधार दिखाया।
जेनरेशन क्वालिटी (FID):
- उच्च सैंपलिंग बजट: Rectified Flow की तुलना में FID में 12% और Fast-ODE की तुलना में 7% का सुधार।
- कम सैंपलिंग बजट (Few Steps): कम-स्टेप रिजीम (जैसे, 5-9 स्टेप्स) में महत्वपूर्ण लाभ प्रदर्शित किया। CIFAR10 पर 5 स्टेप्स के साथ, MixFlow ने Fast-ODE की तुलना में FID में ~20% का सुधार किया।
मजबूती (Robustness): Fast-ODE के विपरीत, जिसे अलग-अलग स्टेप काउंट के लिए अनुकूलित करने हेतु अलग-अलग हाइपरपैरामीटर्स ( $\beta$ ) के साथ रिट्रेनिंग की आवश्यकता होती है, MixFlow एक सिंगल मॉडल प्रदान करता है जो वाइड रेंज के सैंपलिंग स्टेप्स पर अनुकूल रूप से कार्य करता है।
गुणात्मक परिणाम: विज़ुअलाइज़ेशन दिखाते हैं कि MixFlow केवल 2-4 स्टेप्स के साथ भी स्पष्ट, उच्च-गुणवत्ता वाली इमेज जेनरेट करता है, जबकि बेसलाइन्स कम स्टेप काउंट पर धुंधली या विकृत आर्टिफैक्ट्स उत्पन्न करते हैं।

5. महत्व (Significance)

अंतराल को पाटना: MixFlow, स्थिरता संबंधी समस्याओं को हल करके, सैद्धांतिक ऑप्टिमल ट्रांसपोर्ट (सीधे पथ) और व्यावहारिक जेनरेटिव मॉडलिंग के बीच के अंतर को प्रभावी ढंग से पाटता है।
दक्षता: यह इन्फरेंस (ODE सॉल्वर स्टेप्स) और ट्रेनिंग (तेज़ कन्वर्जेंस) की कम्प्यूटेशनल लागत को काफी कम करता है, जिससे उच्च-गुणवत्ता वाला जेनेरेटिव मॉडलिंग अधिक सुलभ हो जाता है।
सामान्यीकरण (Generalizability): यह फ्रेमवर्क कंडीशनिंग सिग्नल $\kappa$ के प्रति स्वतंत्र (agnostic) है, जो इमेज जनरेशन से परे अन्य अनुप्रयोगों, जैसे टेक्स्ट-टू-इमेज या अन्य कंडीशनल जनरेशन कार्यों के लिए क्षमता का सुझाव देता है जहाँ स्रोत और लक्ष्य वितरणों को संरेखित करना महत्वपूर्ण है।

संक्षेप में, MixFlow जेनरेटिव पाथ्स को सीधा करने के लिए प्रशिक्षण के दौरान डिस्ट्रीबशंस को मिक्स करना एक सरल लेकिन शक्तिशाली तंत्र प्रदर्शित करके फ्लो-आधारित जेनरेटिव मॉडलिंग में एक पैराडाइम शिफ्ट का प्रतिनिधित्व करता है, जिससे सैंपलिंग तेज होती है और सभी बजटों में जनरेशन की गुणवत्ता में सुधार होता है।