💻 computer science

FlowConsist: Make Your Flow Consistent with Real Trajectory

FlowConsist एक नवीन प्रशिक्षण ढांचा (training framework) है जो कंडीशनल वेलोसिटीज़ को सेल्फ-प्रेडिक्टेड मार्जिनल वेलोसिटीज से बदलकर और व्यवस्थित ड्रिफ्ट एवं त्रुटि संचय (error accumulation) को समाप्त करने के लिए एक ट्रैजेक्टरी रेक्टिफिकेशन रणनीति पेश करके फास्ट फ्लो मॉडल्स को बेहतर बनाता है, जिससे ImageNet 256 $\times$ 256 पर 1.52 के FID के साथ स्टेट-ऑफ-द-आर्ट वन-स्टेप इमेज जनरेशन प्राप्त होता है।

मूल लेखक: Tianyi Zhang, Chengcheng Liu, Jinwei Chen, Chun-Le Guo, Chongyi Li, Ming-Ming Cheng, Bo Li, Peng-Tao Jiang

प्रकाशित 2026-02-09

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tianyi Zhang, Chengcheng Liu, Jinwei Chen, Chun-Le Guo, Chongyi Li, Ming-Ming Cheng, Bo Li, Peng-Tao Jiang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक खाली कैनवास, जो स्टैटिक नॉइज़ (static noise) से भरा है, से एक बिल्ली की एकदम सटीक तस्वीर बनाना सिखाने की कोशिश कर रहे हैं। रोबोट को यह समझना होगा कि उस बिखरी हुई नॉइज़ से अंतिम, स्पष्ट छवि तक पहुँचने के लिए उसे ठीक-ठीक कैसे आगे बढ़ना है।

AI आर्ट की दुनिया में, यह प्रक्रिया एक यात्रा की तरह है। इस पेपर में उल्लेखित "फास्ट फ्लो" (Fast Flow) मॉडल तेज़ गति वाली ट्रेनों की तरह हैं जो शोर वाले स्टेशन (noise station) से बिल्ली वाले स्टेशन (cat station) तक केवल एक स्टॉप में पहुँचने की कोशिश कर रहे हैं। वे सभी बीच के स्टॉप्स को छोड़कर सीधे वहाँ पहुँचना चाहते हैं।

FlowConsist नामक यह पेपर तर्क देता है कि वर्तमान तेज़ गति वाली ट्रेनों में दो बड़ी समस्याएँ हैं जिनकी वजह से वे दुर्घटनाग्रस्त हो जाती हैं या रास्ता भटक जाती हैं। सरल उपमाओं का उपयोग करके इसका विवरण यहाँ दिया गया है:

दो बड़ी समस्याएँ

1. "गलत नक्शा" वाली समस्या (ट्रैजेक्टरी ड्रिफ्ट - Trajectory Drift)
कल्पना कीजिए कि आप एक छात्र को बिंदु A से बिंदु B तक चलना सिखाने की कोशिश कर रहे हैं।

पुराना तरीका: शिक्षक एक रैंडम छात्र (एक नॉइज़ सैंपल) और एक रैंडम मंजिल (एक डेटा सैंपल) चुनता है और रोबोट को बताता है, "इस छात्र से उस मंजिल तक चलो।"
खामी: क्योंकि शिक्षक रैंडम छात्रों को रैंडम मंजिलों के साथ जोड़ रहा है, इसलिए रोबोट जो रास्ता सीखता है वह एक अराजक मिश्रण होता है। यह एक नक्शे पर रेखा खींचने जैसा है जो जंगल, नदी और पहाड़ के बीच से होकर गुजरती है क्योंकि वे रैंडम रूप से चुने गए बिंदु थे। रोबोट एक ऐसा "कंडीशनल" रास्ता सीखता है जो वास्तव में अस्तित्व में ही नहीं है। वह एक ऐसे नक्शे का अनुसरण कर रहा है जो किसी डेड एंड (dead end) या किसी दूसरे शहर की ओर ले जाता है।
पेपर का समाधान: FlowConsist कहता है, "रैंडम जोड़ों का उपयोग करना बंद करो!" इसके बजाय, रोबोट को यह देखना चाहिए कि सभी संभावित यात्राओं का औसत रास्ता क्या है। यह एक नदी को देखने जैसा है: भले ही आप अलग-अलग जगहों पर पत्ता गिरा दें, पानी एक ही सुसंगत दिशा में बहता है। FlowConsist रोबोट को इस एकल, वास्तविक "नदी" (मार्जिनल ट्रैजेक्टरी) का अनुसरण करने के लिए मजबूर करता है, न कि एक अराजक, बनावटी शॉर्टकट का।

2. "स्नोबॉल इफेक्ट" (त्रुटि संचय - Error Accumulation)
कल्पना कीजिए कि आप एक ही बड़ी छलांग में कमरे के आर-पार जाने की कोशिश कर रहे हैं।

पुराना तरीका: रोबोट पूरे रास्ते का अनुमान एक बार में लगाने की कोशिश करता है। यदि वह अपने पहले अनुमान में एक छोटी सी गलती करता है, तो वह गलती बढ़ती जाती है क्योंकि वह पूरी दूरी तय करने की कोशिश करता है। यह एक पहाड़ी से लुढ़कते हुए स्नोबॉल (बर्फ के गोले) की तरह है; जब तक वह नीचे पहुँचता है, वह बहुत बड़ा हो जाता है और सब कुछ तहस-नहस कर देता है।
खामी: क्योंकि रोबोट एक कदम में नॉइज़ से इमेज तक कूदने की कोशिश कर रहा है, इसलिए उसके गणित में छोटी-छोटी गलतियाँ जमा होती रहती हैं, और अंतिम तस्वीर धुंधली या विकृत दिखाई देती है।
पेपर का समाधान: FlowConsist एक "करेक्शन मैकेनिज्म" (सुधार तंत्र) जोड़ता है। यह एक GPS होने जैसा है जो केवल शुरुआत और अंत में ही नहीं, बल्कि हर एक क्षण में आपकी स्थिति की जाँच करता है। यदि रोबोट वास्तविक नदी के पथ से भटकने लगता है, तो सिस्टम उसे तुरंत वापस धकेलता है। यह लगातार रोबोट के "कल्पित" पथ को डेटा के "वास्तविक" पथ के साथ संरेखित करता है, जिससे त्रुटियों का स्नोबॉल बहुत बड़ा होने से रुक जाता है।

समाधान: FlowConsist

लेखकों ने एक नया प्रशिक्षण तरीका बनाया है जिसे FlowConsist कहा जाता है। इसे रोबोट के लिए नए ड्राइविंग निर्देशों के सेट के रूप में समझें:

रैंडम अंदाज़े लगाना बंद करें: रैंडम नॉइज़-डेटा जोड़ों से सीखने के बजाय, रोबट डेटा के "वास्तविक प्रवाह" (true flow) से सीखता है। यह सुनिश्चित करता है कि वह सही और सुसंगत ट्रैक पर रहे।
स्व-सुधार (Self-Correction): रोबोट लगातार वास्तविक डेटा वितरण के विरुद्ध अपने काम की जाँच करता है। यदि वह भटकने लगता है, तो वह तुरंत खुद को सुधार लेता है, जिससे यह सुनिश्चित होता है कि एक-कदम की छलांग भी लक्ष्य पर सटीक लैंड करती है।

परिणाम

पेपर ने छवियों के एक प्रसिद्ध डेटासेट (ImageNet) पर इस नए तरीके का परीक्षण किया।

पहले: अन्य तेज़ मॉडल अच्छे थे, लेकिन उनका "क्वालिटी स्कोर" (जिसे FID कहा जाता है) लगभग 1.72 था।
बाद में: FlowConsist ने केवल एक स्टेप में 1.52 का स्कोर प्राप्त किया।

सरल शब्दों में, FlowConsist पहला ऐसा तरीका है जिसने सफलतापूर्वक एक AI को केवल एक त्वरित स्टेप में उच्च गुणवत्ता वाली छवियां बनाना सिखाया है, बिना भटके या गलती किए, क्योंकि इसने AI के रास्ता सीखने के तरीके को ठीक कर दिया है। यह साबित करता है कि यदि आप रोबोट को "वास्तविक नदी" पर बनाए रखते हैं और त्रुटियों को स्नोबॉल बनने से रोकते हैं, तो आप तुरंत अद्भुत परिणाम प्राप्त कर सकते हैं।

तकनीकी सारांश: FlowConsist

समस्या विवरण (Problem Statement)

फास्ट फ्लो मॉडल्स (Fast flow models), जिनमें कंसिस्टेंसी मॉडल्स (Consistency Models) और मीनफ्लो (MeanFlow) शामिल हैं, ODE पाथ इंटीग्रल्स (path integrals) को सीधे प्रेडिक्ट करने के लिए सीखकर जनरेटिव सैंपलिंग को तेज करने का लक्ष्य रखते हैं, जिससे एक-चरण (one-step) या कुछ-चरणों (few-step) में जनरेशन संभव हो सके। हालांकि, लेखक तर्क देते हैं कि वर्तमान प्रशिक्षण प्रतिमान (training paradigms) दो मौलिक समस्याओं से ग्रस्त हैं जो प्रदर्शन को कम करती हैं:

व्यवस्थित प्रक्षेपवक्र विचलन (Systematic Trajectory Drift): वर्तमान विधियाँ शोर ( $\epsilon$ ) और डेटा ( $x$ ) के नमूनों को यादृच्छिक रूप से जोड़कर कंडीशनल वेलोसिटी (conditional velocities) का निर्माण करती हैं। जबकि इन कंडीशनल वेलोसिटीज की अपेक्षा (expectation) मार्जिनल वेलोसिटी (marginal velocity) के बराबर होती है, व्यक्तिगत कंडीशनल पथ कई अलग-अलग मार्जिनल प्रक्षेपवक्रों (trajectories) को काटते हैं। इन कंडीशनल वेलोसिटीज पर प्रशिक्षण लेने से अनुकूलन लक्ष्य (optimization target) वास्तविक, एकल मार्जिनल ODE पथ से विचलित हो जाता है, जिससे असंगत प्रक्षेपवक्र उत्पन्न होते हैं।
त्रुटि संचय (Error Accumulation): मॉडल द्वारा पेश की गई अनुमान त्रुटियाँ (approximation errors) बड़े समय अंतराल (time spans) में संचित हो जाती हैं। फास्ट फ्लो मॉडल्स में, जो प्रशिक्षण के लिए स्वयं-अनुमानित वेलोसिटी (self-predicted velocities) पर निर्भर करते हैं, ये त्रुटियाँ जुड़ती जाती हैं, जिससे जनरेट किए गए नमूनों और वास्तविक डेटा वितरण के बीच महत्वपूर्ण विचलन होता है, विशेष रूप से सिंगल-स्टेप (1-NFE) जनरेशन में।

कार्यप्रणाली (Methodology)

लेखक FlowConsist का प्रस्ताव करते हैं, जो एक ऐसा प्रशिक्षण ढांचा है जिसे किसी पूर्व-प्रशिक्षित शिक्षक मॉडल (pre-trained teacher model) की आवश्यकता के बिना प्रक्षेपवक्र निरंतरता (trajectory consistency) को लागू करने और त्रुटि संचय को ठीक करने के लिए डिज़ाइन किया गया है।

1. प्रक्षेपवक्र निरंतरता को लागू करना (कंडीशनल वेलोसिटी को बदलना)

मुख्य सैद्धांतिक अंतर्दृष्टि यह है कि कंडीशनल वेलोसिटी ( $v_t = \epsilon - x$ ) पर निर्भर रहने से लॉस फंक्शन में एक वेरिएंस टर्म ( $L_{var}$ ) उत्पन्न होता है, जो मॉडल को उच्च-वेरिएंस दिशाओं में ग्रेडिएंट्स को दबाने के लिए मजबूर करता है और घुमावदार प्रक्षेपवक्यों (curved trajectories) को सटीक रूप से फिट करने से रोकता है।

सैद्धांतिक बदलाव: कंडीशनल वेलोसिटी को मार्जिनल वेलोसिटी के विकल्प के रूप में उपयोग करने के बजाय, FlowConsist कंसिस्टेंसी ऑब्जेक्टिव में कंडीशनल वेलोसिटी को मॉडल द्वारा स्वयं प्रेडिक्ट की गई मार्जिनल वेलोसिटी ( $u_\theta$ ) से बदल देता है।
कार्यान्वयन: लेखक एक नया प्रशिक्षण ऑब्जेक्टिव (Eq. 7) व्युत्पन्न करते हैं जो एक मानक फ्लो मैचिंग टर्म को एक प्रक्षेपवक्र निरंतरता रेगुलाइजेशन टर्म के साथ जोड़ता है।
- यह ऑब्जेक्टिव प्रेडिक्टेड औसत वेलोसिटी और मॉडल की अपनी मार्जिनल वेलोसिटी प्रेडिक्शन से प्राप्त लक्ष्य के बीच के अंतर को कम करता है।
- महत्वपूर्ण रूप से, कंडीशनल वेलोसिटी का उपयोग केवल एक ऐसे टर्म में किया जाता है जो मॉडल के प्रशिक्षित होने के बाद अपेक्षा (expectation) में मार्जिनल वेलोसिटी की ओर अभिसरित (converge) होता है, जिससे अनुकूलन प्रक्रिया के दौरान व्यवस्थित विचलन प्रभावी रूप से समाप्त हो जाता है।
क्लासिफायर-फ्री गाइडेंस (CFG): यह विधि CFG को शामिल करती है, जिसमें गाइडेंस स्केल $\omega$ को एक माध्यमिक इनपुट के रूप में माना जाता है, जिससे मॉडल एक एकीकृत प्रतिनिधित्व (unified representation) सीख सकता है जिसे इन्फरेंस के दौरान समायोजित किया जा सकता है।

2. प्रक्षेपवक्र सुधार (त्रुटि संचय को संबोधित करना)

समय चरणों (time steps) के साथ संचयी अनुमान त्रुटियों के कारण होने वाले एकदिशीय विचलन (monotonic divergence) को संबोधित करने के लिए, लेखक एक प्रक्षेपवक्र सुधार रणनीति (trajectory rectification strategy) पेश करते हैं।

मार्जिनल वेलोसिटी अलाइनमेंट: उन विधियों के विपरीत जो केवल प्रारंभिक शोर को ठीक करती हैं, FlowConsist प्रक्षेपवक्र के प्रत्येक समय चरण पर मॉडल-जनरेटेड नमल्स के मार्जिनल वितरण को वास्तविक डेटा वितरण के साथ संरेखित (align) करता है।
टीचर-फ्री मैकेनिज्म: वास्तविक मार्जिनल वेलोसिटी का अनुमान लगाने के लिए पूर्व-प्रशिक्षित शिक्षक मॉडल (जैसा कि DMD में है) पर निर्भर रहने के बजाय, FlowConsist एक सहायक मॉडल ( $G_\psi$ ) का उपयोग करता है जो मुख्य मॉडल ( $F_\theta$ ) द्वारा जनरेट किए गए नमूनों की मार्जिनल वेलोसिटी का अनुमान लगाने के लिए प्रशिक्षित है।
सुधार प्रक्रिया: मुख्य मॉडल को अपने प्रेडिक्टेड मार्जिनल वेलोसिटी को सहायक मॉडल द्वारा अनुमानित वेलोसिटी के साथ संरेखित करने के लिए प्रशिक्षित किया जाता है। यह प्रभावी रूप से मॉडल के भविष्यवाणियों को वास्तविक डेटा वितरण की ओर वापस खींचता है, जिससे वे संचयी त्रुटियाँ सुधर जाती हैं जो सिंगल-स्टेप मैपिंग में जमा हो सकती थीं।

प्रमुख योगदान (Key Contributions)

प्रक्षेपवक्र विचलन की पहचान: यह पेपर एक सैद्धांतिक प्रमाण (Theorem 1 & 2) प्रदान करता है जो दर्शाता है कि फ्लो मैचिंग में कंडीशनल वेलोसिटीज स्वाभाविक रूप से गैर-शून्य सहप्रसरण (non-zero covariance) रखती हैं, जिससे फास्ट फ्लो मॉडल्स में इंस्टेंटेनियास वेलोसिटी एस्टीमेट के रूप में उपयोग किए जाने पर अनिवार्य प्रक्षेपवक्र विचलन होता है।
नवीन प्रशिक्षण ऑब्जेक्टिव: लेखक एक मौलिक विकल्प (Eq. 7) प्रस्तावित करते हैं जो कंडीशनल वेलोसिटीज को स्वयं-अनुमानित मार्जिनल वेलोसिटीज से बदल देता है, यह सुनिश्चित करता है कि अनुकूलन एक सुसंगत मार्जिनल प्रक्षेपवक्र से जुड़ा रहे।
प्रक्षेपवक्र सुधार रणनीति: प्रत्येक समय चरण पर मार्जिनल वितरणों को संरेखित करने के लिए एक टीचर-फ्री विधि (Eq. 11) पेश की गई है, जो लंबे समय अंतराल में अनुमान त्रुटियों के संचय को कम करती है।
स्टेट-ऑफ-द-आर्ट प्रदर्शन: यह विधि बिना किसी टीचर मॉडल के डिस्टिलेशन के, केवल 1 सैंपलिंग स्टेप (1-NFE) का उपयोग करके ImageNet 256×256 पर 1.52 के फ्रेट (Fréchet) इंसेप्शन डिस्टेंस (FID) के साथ एक नया स्टेट-ऑफ-द-आर्ट प्राप्त करती है।

प्रयोगात्मक परिणाम (Experimental Results)

डेटासेट और सेटअप: प्रयोग DiT आर्किटेक्चर और प्री-ट्रेन्ड VAE लेटेंट स्पेस का उपयोग करके ImageNet 256×256 पर किए गए।
एब्लेशन स्टडीज (Ablation Studies):
- मानक MeanFlow लॉस को प्रस्तावित मार्जिनल प्रक्षेपवक्र निरंतरता लॉस (Eq. 7) से बदलने से FID 5.86 से सुधरकर 4.99 हो गया।
- मार्जिनल वेलोसिटी अलाइनमेंट लॉस (Eq. 11) को जोड़ने से FID और घटकर 4.31 हो गया।
- इस विधि ने विभिन्न CFG स्केल्स और दोनों लॉस कंपोनेंट्स के इंटीग्रेशन रेश्यो के बीच मजबूती प्रदर्शित की।
तुलना: FlowConsist-XL/2 ने 1.52 (1-NFE) का FID प्राप्त किया, जो पिछले सर्वश्रेष्ठ नॉन-डिस्टिल्ड फास्ट फ्लो मॉडल (iMF-XL/2 | 1.72) से बेहतर है और डिस्टिल्ड मेथड्स के प्रदर्शन के करीब है। इसने प्रतिस्पर्धी गुणवत्ता बनाए रखते हुए दक्षता (1 स्टेप बनाम 250+ स्टेप्स) के मामले में मल्टी-स्टेप डिफ्यूजन मॉडल्स को भी पीछे छोड़ दिया।

महत्व (Significance)

यह पेपर दावा करता है कि FlowConsist मौजूदा फ्रेमवर्क की प्रदर्शन सीमाओं के मूल कारणों को संबोधित करके फास्ट फ्लो मॉडलिंग के लिए एक नया दृष्टिकोण प्रदान करता है: कंडीशनल और मार्जिनल वेलोसिटी के बीच सैद्धांतिक बेमेल, और व्यावहारिक अनुमान त्रुटियों का संचय। इन मुद्दों को ठीक करके, लेखक प्रदर्शित करते हैं कि रिफाइंड ट्रेनिंग ऑब्जेक्टिव्स के माध्यम से उच्च-गुणवत्ता वाला, सिंगल-स्टेप जनरेशन प्राप्त करना संभव है, जो टीचर-फ्री और टीचर-डिस्टिल्ड प्रतिमानों के बीच के अंतर को पाटता है। यह कार्य इस बात पर जोर देता है कि टाइम स्टेप्स के बीच लीनियर मैपिंग को सफलतापूर्वक निष्पादित करने के लिए प्रक्षेपवक्र निरंतरता (trajectory consistency) फास्ट फ्लो मॉडल्स के लिए एक मुख्य आवश्यकता है।