🤖 machine learning

MeanCache: From Instantaneous to Average Velocity for Accelerating Flow Matching Inference

MeanCache एक प्रशिक्षण-मुक्त (training-free) फ्रेमवर्क है जो तात्कालिक वेग कैशिंग (instantaneous velocity caching) को कैश किए गए जैकोबियन-वेक्टर उत्पादों (Jacobian-vector products) और एक प्रक्षेपवक्र-स्थिरता शेड्यूलिंग रणनीति (trajectory-stability scheduling strategy) का उपयोग करके औसत-वेग दृष्टिकोण (average-velocity approach) से बदलकर फ्लो मैचिंग इन्फरेंस को तेज़ करता है, जिससे FLUX.1 और HunyuanVideo जैसे मॉडलों में उच्च पीढ़ी गुणवत्ता बनाए रखते हुए महत्वपूर्ण गति (4.56X तक) प्राप्त की जाती है।

मूल लेखक: Huanlin Gao, Ping Chen, Fuyuan Shi, Ruijia Wu, Li YanTao, Qiang Hui, Yuren You, Ting Lu, Chao Tan, Shaoan Zhao, Zhaoxiang Liu, Fang Zhao, Kai Wang, Shiguo Lian

प्रकाशित 2026-03-10

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Huanlin Gao, Ping Chen, Fuyuan Shi, Ruijia Wu, Li YanTao, Qiang Hui, Yuren You, Ting Lu, Chao Tan, Shaoan Zhao, Zhaoxiang Liu, Fang Zhao, Kai Wang, Shiguo Lian

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बड़े, धुंधले मैदान के बीच से अपने घर के दरवाजे से एक पार्क तक पैदल चलने की कोशिश कर रहे हैं। यह यात्रा एक आधुनिक AI द्वारा इमेज या वीडियो जेनरेट करने का प्रतिनिधित्व करती है। AI केवल तस्वीर को अचानक अस्तित्व में नहीं लाता; इसे हर एक पल में अपना रास्ता एडजस्ट करते हुए सैकड़ों छोटे, सावधानीपूर्ण कदम उठाने पड़ते हैं ताकि अंतिम परिणाम सही दिखे।

समस्या क्या है? यह यात्रा धीमी है। इसमें बहुत समय लगता है और बहुत अधिक कंप्यूटर पावर खर्च होती है, जिससे इसे रियल-टाइम ऐप्स (जैसे कि किसी AI के साथ चैट करना जो तुरंत तस्वीरें बनाता है) में उपयोग करना कठिन हो जाता है।

पुराना तरीका: "इंस्टेंटेनियस स्टेप" (तत्काल कदम)

चीजों को तेज करने के लिए, पिछले तरीकों ने शॉर्टकट लेने की कोशिश की। उन्होंने देखा कि AI अभी किस दिशा में चल रहा है (उसका "इंस्टेंटेनियस वेलोसिटी" या तात्कालिक वेग) और कहा, "ठीक है, इसी सटीक दिशा के आधार पर अगले कुछ कदमों का अनुमान लगाते हैं।"

उपमा: कल्पना कीजिए कि आप एक घुमावदार पहाड़ी सड़क पर कार चला रहे हैं। आप अभी स्टीयरिंग व्हील को देखते हैं, देखते हैं कि यह थोड़ा बाईं ओर मुड़ा हुआ है, और तय करते हैं कि अगले एक मील तक सीधे बाईं ओर ही गाड़ी चलाएंगे।
समस्या: सड़क मुड़ती है! यदि आप केवल एक सेकंड के लिए स्टीयरिंग व्हील को देखते हैं, तो आप मोड़ को मिस कर देंगे, सड़क से नीचे उतर जाएंगे और दुर्घटनाग्रस्त हो जाएंगे। AI के संदर्भ में, इससे इमेज धुंधली, विकृत या पूरी तरह से गलत हो जाती है। इसे "एरर एक्युमुलेशन" (त्रुटि संचय) कहा जाता है।

नया तरीका: "मीनकैश" (औसत गति - The Average Pace)

इस पेपर के लेखकों ने महसूस किया कि केवल एक पल की दिशा को देखना बहुत अस्थिर है। इसके बजाय, उन्होंने एक छोटे से हिस्से में औसत गति और दिशा को देखने का निर्णय लिया।

उपमा: अगले एक मील का अनुमान केवल वर्तमान स्टीयरिंग व्हील के आधार पर लगाने के बजाय, आप पिछले 100 मीटर की अपनी यात्रा को देखते हैं। आप अपने औसत पथ की गणना करते हैं। भले ही पिछले एक सेकंड में आप थोड़ा डगमगाए हों, लेकिन पिछले 100 मीटर का आपका औसत पथ बहुत अधिक सुचारू और सटीक होगा।

यह कैसे काम करता है:

"कैश" (मेमोरी बैंक): AI याद रखता है कि वह कुछ समय पहले कहाँ था।
"मैथ ट्रिक" (JVP): यह एक चतुर गणितीय शॉर्टकट का उपयोग करता है ताकि यह पता लगाया जा सके कि वह जहाँ था और जहाँ वह अब है, उनके बीच की "औसत दिशा" क्या है, बिना उन सभी भारी गणनाओं को दोबारा किए।
परिणाम: AI बड़े, सुरक्षित कदम उठाता है। वह गणना के उबाऊ, दोहराव वाले हिस्सों को छोड़ देता है क्योंकि वह जानता है कि "औसत" रास्ता स्थिर है।

"ट्रैफिक कंट्रोलर" (शेड्यूलिंग)

एक पेच है: आप यात्रा के हर जगह कदम नहीं छोड़ सकते। यदि आप यात्रा की शुरुआत में (जब AI इमेज के बुनियादी आकार को समझ रहा होता है) बहुत अधिक कदम छोड़ देते हैं, तो आप रास्ता भटक जाएंगे। यदि आप अंत में बहुत अधिक कदम छोड़ते हैं, तो विवरण धुंधले हो जाएंगे।

MeanCache में एक स्मार्ट ट्रैफिक कंट्रोलर शामिल है।

उपमा: कल्पना कीजिए कि एक GPS है जो जानता है कि सड़क के कौन से हिस्से सीधे और तेज चलने के लिए सुरक्षित हैं, और कौन से हिस्से तीखे मोड़ हैं जहाँ आपको धीमा होना चाहिए।
रणनीति: यह पथ की "स्थिरता" को देखता है। यदि पथ सुचारू है, तो यह आक्रामक रूप से कदम छोड़ देता है। यदि पथ टेढ़ा-मेढ़ा और खतरनाक है, तो यह AI को धीमा होने और सावधानी से गणना करने के लिए मजबूर करता है। यह आपको बिना दुर्घटनाग्रस्त हुए, जितनी जल्दी हो सके पार्क तक पहुँचाने के लिए सही संतुलन बनाता है।

यह एक बड़ी बात क्यों है?

इस पेपर ने दुनिया के कुछ सबसे शक्तिशाली AI मॉडल्स (FLUX.1, Qwen-Image, HunyuanVideo) पर इसका परीक्षण किया।

गति: उन्होंने इन मॉडल्स को 3 से 4.5 गुना तेज़ बना दिया।
गुणवत्ता: पुराने शॉर्टकट्स के विपरीत, जिनसे इमेज धुंधली हो जाती थी, MeanCache ने इमेज को शार्प और सुंदर बनाए रखा।
कोई ट्रेनिंग की आवश्यकता नहीं: आमतौर पर, AI को तेज़ बनाने के लिए, आपको उसे फिर से शून्य से सिखाना पड़ता है (जिसमें हफ्तों और लाखों डॉलर लगते हैं)। MeanCache एक ऐसी कार में टर्बोचार्जर लगाने जैसा है जो पहले से ही बनी हुई है। यह इंजन बदले बिना तुरंत काम करता है।

संक्षेप में

MeanCache एक AI को स्मार्ट चश्मे और एक GPS देने जैसा है। कदम-दर-कदम धुंध में लड़खड़ाने के बजाय, यह सामने के "औसत" पथ को देखता है, सुरक्षित हिस्सों को छोड़ देता है, और केवल तभी धीमा होता है जब रास्ता कठिन हो जाता है। परिणाम? आपको बहुत कम समय में अपनी हाई-क्वालिटी इमेज या वीडियो मिलता है, बिना AI के रास्ता भटके।

यहाँ शोध पत्र "MeanCache: From Instantaneous to Average Velocity for Accelerating Flow Matching Inference" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

फ्लो मैचिंग (Flow Matching - FM) जनरेटिव मॉडलिंग (इमेज, वीडियो, मल्टी-मोडल) के लिए एक शक्तिशाली प्रतिमान (paradigm) के रूप में उभरा है, जो शोर (noise) और डेटा वितरण के बीच निरंतर परिवहन पथ (continuous transport paths) प्रदान करता है। हालाँकि, व्यावसायिक स्तर के मॉडल (जैसे FLUX.1, Qwen-Image, HunyuanVideo) डिनोइजिंग (denoising) के लिए आवश्यक अनुक्रमिक चरणों (sequential steps) की बड़ी संख्या के कारण उच्च इन्फरेंस लेटेंसी (inference latency) से ग्रस्त हैं।

मौजूदा त्वरण विधियाँ (acceleration methods) दो प्राथमिक सीमाओं का सामना करती हैं:

प्रशिक्षण-गहन विधियाँ (Training-Heavy Methods): डिस्टिलेशन (distillation), प्रूनिंग (pruning) और क्वांटाइजेशन (quantization) जैसी तकनीकों के लिए महत्वपूर्ण आर्किटेक्चरल संशोधनों और बड़े पैमाने पर पुन: प्रशिक्षण (retraining) की आवश्यकता होती है, जिससे उन्हें पूर्व-प्रशिक्षित व्यावसायिक मॉडलों पर तैनात करना कठिन और महंगा हो जाता है।
प्रशिक्षण-मुक्त कैशिंग की सीमाएँ (Training-Free Caching Limitations): वर्तमान कैशिंग रणनीतियाँ (जैसे DeepCache, TeaCache) इंस्टेंटेनियस वेलोसिटी (instantaneous velocity) या फीचर पुन: उपयोग पर निर्भर करती हैं। शोध पत्र का तर्क है कि इंस्टेंटेनियस वेलोसिटी डिनोइजिंग प्रक्षेपवक्र (trajectory) के दौरान तेजी से उतार-चढ़ाव करती है। इन अस्थिर संकेतों का पुन: उपयोग करने से गंभीर प्रक्षेपवक्र विचलन (trajectory deviations) और त्रुटि संचय (error accumulation) होता है, विशेष रूप से उच्च त्वरण अनुपात (कई चरणों को छोड़ने) पर, जिसके परिणामस्वरूप जनरेशन की गुणवत्ता (धुंधलापन, संरचनात्मक विरूपण) गिर जाती है।

2. कार्यप्रणाली: MeanCache (Methodology: MeanCache)

MeanCache एक प्रशिक्षण-मुक्त कैशिंग फ्रेमवर्क (training-free caching framework) है जो प्रक्षेपवक्र स्थिरता सुनिश्चित करने के लिए इंस्टेंटेनियस वेलोसिटी के बजाय औसत वेग (average velocity) के परिप्रेक्ष्य को अपनाता है। इसमें दो मुख्य घटक शामिल हैं:

A. इंस्टेंटेनियस टू एवरेज वेलोसिटी ट्रांसफॉर्मेशन (Instantaneous to Average Velocity Transformation)

इंस्टेंटेनियस वेलोसिटी $v(z_t, t)$ को कैश करने के बजाय, MeanCache एक समय अंतराल $[s, t]$ पर इंटरवल एवरेज वेलोसिटी $u(z_t, t, s)$ का अनुमान लगाता है।

सैद्धांतिक आधार (Theoretical Basis): मीन-फ्लो आइडेंटिटी (MeanFlow Identity) का लाभ उठाते हुए, शोध पत्र एक डेरिवेटिव टर्म के साथ इंस्टेंटेनियस वेलोसिटी और एवरेज वेलोसिटी के बीच संबंध स्थापित करता है।
JVP सन्निकटन (JVP Approximation): आइडेंटिटी में डेरिवेटिव टर्म एक जैकोबियन-वेक्टर प्रोडक्ट (Jacobian-Vector Product - JVP) के अनुरूप है। चूंकि इन्फरेंस के दौरान सटीक JVP उपलब्ध नहीं होते हैं, इसलिए MeanCache एक पिछले टाइमस्टेप $r$ $r$ से कैश किए गए स्टेट्स को पुन: उपयोग करके एक कैश एस्टीमेटर (cache estimator) बनाता है।
- यह अंतराल $[r, t]$ से डिस्प्लेसमेंट और वेलोसिटी जानकारी का उपयोग करके $t$ और $s$ के बीच JVP का अनुमान लगाता है।
- यह एक स्मूथ और अधिक स्थिर औसत वेग सिग्नल $\hat{u}(z_t, t, s)$ के निर्माण की अनुमति देता है जो प्रक्षेपवक्र विचलन (trajectory drift) को ठीक करता है और स्थानीय त्रुटि संचय (local error accumulation) को कम करता है।

B. प्रक्षेपवक्र-स्थिरता शेड्यूलिंग रणनीति (Trajectory-Stability Scheduling Strategy)

यह निर्धारित करना कि कब कैश करना है और कितना पीछे देखना है (कैश स्पैन $K$ ), गैर-तुच्छ (non-trivial) है, क्योंकि स्थिरता टाइमस्टेप्स के अनुसार भिन्न होती है। MeanCache एक ग्राफ-आधारित शेड्यूलिंग टूल पेश करता है:

मल्टीग्राफ निर्माण (Multigraph Construction): टाइमस्टेप्स को नोड्स के रूप में मॉडल किया गया है। निर्देशित किनारे (directed edges) संभावित कैशिंग ट्रांज़िशन ( $t \to s$ ) का प्रतिनिधित्व करते हैं, जिनका भार (weight) स्टेबिलिटी डेविएशन (सत्य औसत वेग और कैश किए गए सन्निकटन के बीच का अंतर) द्वारा परिभाषित किया जाता है।
पीक-सप्रेस्ड शॉर्टेस्ट पाथ (Peak-Suppressed Shortest Path): बजट बाधा (अधिकतम फंक्शन इवैल्यूएशन की संख्या, $B$ $B$ ) के तहत इष्टतम कैशिंग शेड्यूल खोजने के लिए, विधि एक कंस्ट्रेंड शॉर्टेस्ट-पाथ समस्या को हल करती है।
- यह एक पीक-सप्रेशन ऑब्जेक्टिव (पैरामीटर $\gamma$ के साथ पावर-वेटेड कॉस्ट का उपयोग करके) का उपयोग करता है ताकि समाधान कुछ "बुरे" किनारों में त्रुटियों को केंद्रित करने से बच सके। यह सुनिश्चित करता है कि त्रुटि स्पाइक्स (error spikes) से बचा जा सके, जिससे एक अधिक समान और स्थिर जनरेशन प्रक्रिया प्राप्त होती है।
- यह रणनीति बिना मॉडल को पुन: प्रशिक्षित किए गतिशील रूप से इष्टतम कैश प्लेसमेंट और स्पैन $K$ निर्धारित करती है।

3. प्रमुख योगदान (Key Contributions)

एवरेज-वेलोसिटी परिप्रेक्ष्य (Average-Velocity Perspective): अस्थिर इंस्टेंटेनियस-वेलोसिटी डोमेन से अधिक स्थिर एवरेज-वेलोसिटी डोमेन में स्थानांतरित होकर कैशिंग समस्या को पुनर्परिभाषित करता है, जो उच्च-त्वरण इन्फरेंस के लिए एक सैद्धांतिक आधार प्रदान करता है।
JVP-आधारित कैश निर्माण (JVP-Based Cache Construction): कैश किए गए जैकबियन-वेक्टर उत्पादों का उपयोग करके औसत वेग का अनुमान लगाने के लिए एक नवीन विधि पेश करता है, जो प्रभावी रूप से बिना पुन: प्रशिक्षण के प्रक्षेपवक्र विचलन को ठीक करता है।
प्रक्षेपवक्र-स्थिरता शेड्यूलिंग (Trajectory-Stability Scheduling): एक व्यावहारिक, ग्राफ-आधारित शेड्यूलिंग टूल (Peak-Suppressed Shortest Path) विकसित करता है जो त्रुटि संचय को कम करने के लिए कैशिंग टाइमिंग और स्पैन को गतिशील रूप से अनुकूलित करता है।
स्टेट-ऑफ-द-आर्ट प्रदर्शन (State-of-the-Art Performance): यह प्रदर्शित करता है कि MeanCache मौजूदा बेसलाइन की तुलना में बेहतर जनरेशन गुणवत्ता बनाए रखते हुए महत्वपूर्ण स्पीडअप प्राप्त करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन अत्याधुनिक मॉडलों पर MeanCache का मूल्यांकन किया: FLUX.1 (टेक्स्ट-टू-इमेज), Qwen-Image (टेक्स्ट-टू-इमेज), और HunyuanVideo (टेक्स्ट-टू-वीडियो)।

त्वरण स्पीडअप (Acceleration Speedups):
- FLUX.1: 4.12× त्वरण प्राप्त किया।
- Qwen-Image: 4.56× त्वरण प्राप्त किया।
- HunyuanVideo: 3.59× त्वरण प्राप्त किया।
गुणवत्ता मेट्रिक्स (Quality Metrics):
- MeanCache ने धारणात्मक गुणवत्ता (Perceptual Quality - ImageReward, CLIP Score) और पुनर्निर्माण निष्ठा (Reconstruction Fidelity - LPIPS, SSIM, PSNR) में बेसलाइन (TeaCache, DiCache, TaylorSeer, DBCache) को लगातार पछाड़ दिया।
- विशेष रूप से, उच्च त्वरण अनुपात (जैसे, >3.5×) पर, बेसलाइन विधियाँ गंभीर धुंधलेपन और संरचनात्मक पतन (structural collapse) का शिकार हुईं, जबकि MeanCache ने सूक्ष्म विवरणों और सामग्री निरंतरता (content consistency) को बनाए रखा।
- दुर्लभ-शब्द निरंतरता (Rare-Word Consistency): दुर्लभ-शब्द प्रॉम्प्ट (जैसे, "Matutinal") के परीक्षणों में, जहाँ अन्य विधियाँ गंभीर सामग्री विचलन (content drift) प्रदर्शित करती हैं, MeanCache ने सिमेंटिक निरंतरता बनाए रखी।
दक्षता (Efficiency): विधि ने मॉडल पुन: प्रशिक्षण या आर्किटेक्चर परिवर्तन की आवश्यकता के बिना FLOPs और लेटेंसी को काफी कम कर दिया।

5. महत्व और प्रभाव (Significance and Impact)

व्यावसायिक व्यवहार्यता (Commercial Viability): MeanCache बड़े पैमाने के जनरेटिव मॉडलों को त्वरित करने के लिए एक व्यावहारिक, प्रशिक्षण-मुक्त समाधान प्रदान करता है, जिससे वे इंटरैक्टिव और संसाधन-सीमित अनुप्रयोगों के लिए अधिक व्यवहार्य बनते हैं।
सैद्धांतिक अंतर्दृष्टि (Theoretical Insight): यह प्रमाणित करके कि औसत वेग, इंस्टेंटेनियस वेलोसिटी की तुलना में इन्फरेंस के लिए अधिक स्थिर आधार प्रदान करते हैं, यह शोध पत्र फ्लो मैचिंग और जनरेटिव मॉडलिंग में अनुसंधान के नए मार्ग खोलता है।
सामान्यीकरण (Generalizability): प्रक्षेपवक्य-स्थिरता शेड्यूलिंग रणनीति एक सामान्य उपकरण है जिसे डिफ्यूजन और फ्लो-आधारित मॉडलों में अन्य कैशिंग या त्वरण परिदृश्यों के लिए अनुकूलित किया जा सकता है।

निष्कर्षतः, MeanCache सफलतापूर्वक सैद्धांतिक स्थिरता (एवरेज वेलोसिटी) और व्यावहारिक दक्षता (कैशिंग) के बीच के अंतर को पाटता है, जो उच्च-गति, उच्च-निष्ठा वाले जनरेटिव इन्फरेंस के लिए एक नया बेंचमार्क स्थापित करता है।