🤖 machine learning

Post-Hoc Guidance for Consistency Models by Joint Flow Distribution Learning

यह शोध पत्र जॉइंट फ्लो डिस्ट्रीब्यूशन लर्निंग (JFDL) का प्रस्ताव करता है, जो एक हल्का पोस्ट-हॉक अलाइनमेंट (post-hoc alignment) तरीका है जो प्री-ट्रेंड कंसिस्टेंसी मॉडल्स को किसी अलग डिफ्यूजन मॉडल टीचर से नॉलेज डिस्टिलेशन की आवश्यकता के बिना प्रभावी क्लासिफायर-फ्री गाइडेंस करने में सक्षम बनाता है, जिससे जनरेशन की गुणवत्ता में महत्वपूर्ण सुधार होता है और वर्तमान कंसिस्टेंसी मॉडल विधियों के बीच एक प्रमुख अंतर को पाट दिया जाता है।

मूल लेखक: Chia-Hong Hsu, Randall Balestriero

प्रकाशित 2026-04-13

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Chia-Hong Hsu, Randall Balestriero

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट कलाकार को पेंटिंग करना सिखाने की कोशिश कर रहे हैं।

समस्या: धीमा बनाम तेज़

AI आर्ट की दुनिया में, दो मुख्य प्रकार के रोबोट हैं:

डिफ्यूजन मॉडल (धीमा, पूर्णतावादी चित्रकार): यह रोबोट अद्भुत है। यह एक मास्टरपीस बना सकता है, लेकिन इसमें बहुत समय लगता है। यह स्टैटिक (शोर/नॉइज़) से भरे कैनवास से शुरू करता है और धीरे-धीरे, स्टेप-दर-स्टेप, इसे साफ करता है जब तक कि एक तस्वीर उभर न आए। इस रोबोट को ठीक वैसा ही पेंट करने के लिए जैसा आप चाहते हैं (जैसे "टोपी पहने हुए एक बिल्ली"), आपको उसे एक विशेष "गाइडेंस" (मार्गदर्शन) नॉब देना होता है। लेकिन क्योंकि रोबोट बहुत धीमा है, उस नॉब को घुमाने से प्रक्रिया और भी धीमी हो जाती है।
कंसिस्टेंसी मॉडल (तेज़, प्रभाववादी चित्रकार): यह रोबोट गति का बादशाह है। यह शोर से भरे कैनवास को देख सकता है और तुरंत एक या दो स्टेप्स में एक तैयार तस्वीर को अस्तित्व में ला सकता है। हालाँकि, एक पेच है: अधिकांश तेज़ रोबोटों को केवल "अपना सर्वश्रेष्ठ देने" के लिए प्रशिक्षित किया गया था, बिना किसी विशिष्ट निर्देश के। यदि आप चाहते हैं कि वे किसी विशिष्ट प्रॉम्प्ट (जैसे "एक बिल्ली") का पालन करें, तो उन्हें एक "शिक्षक" रोबोट (धीमे डिफ्यूजन मॉडल) का उपयोग करके शून्य से फिर से प्रशिक्षित करना पड़ता है, जो कि कैसे सीखना है। यह महंगा और जटिल है।

दुविधा: हमें तेज़ रोबोट की गति चाहिए, लेकिन हमें धीमे रोबोट का नियंत्रण भी चाहिए। अब तक, आप तेज़ रोबोट को निर्देशों को सुनने के लिए एक शिक्षक के साथ फिर से प्रशिक्षित किए बिना सीधे नहीं सिखा सकते थे। आपको इसे एक शिक्षक के साथ शुरू से बनाना पड़ता था।

समाधान: JFDL (तेज़ रोबोट के लिए "मानसिक जिम")

लेखक एक नया तरीका प्रस्तावित करते हैं जिसे जॉइंट फ्लो डिस्ट्रीब्यूशन लर्निंग (JFDL) कहा जाता है। इसे एक चतुर "पोस्ट-हॉक" (बाद में किया जाने वाला) प्रशिक्षण सत्र के रूप में सोचें जो आपको पहले से प्रशिक्षित तेज़ रोबोट को निर्देशों को सुनने के लिए ट्यून करने की अनुमति देता है, बिना किसी धीमे शिक्षक के।

यह इस प्रकार काम करता है, एक सरल उपमा का उपयोग करते हुए:

1. "क्या होगा अगर" का खेल

कल्पना कीजिए कि तेज़ रोबोट एक बिखरे हुए कमरे (शोर वाली छवि) के सामने खड़ा है।

परिदृश्य A (कंडीशनल/शर्त आधारित): आप उसे कहते हैं, "इसे एक बिल्ली की तरह साफ करो।" रोबोट एक साफ बिल्ली तक पहुँचने का रास्ता कल्पना करता है।
परिści परिदृश्य B (अनकंडीशनल/बिना शर्त): आप उसे कहते हैं, "इसे साफ करो ताकि यह... कुछ भी लगे।" रोबोट एक सामान्य साफ कमरे का रास्ता कल्पना करता है।

पुराने दिनों में, तेज़ रोबोट केवल परिदृश्य A या परिदृश्य B को अलग-अलग जानता था। "गाइडेंस" प्राप्त करने के लिए, आपको उन्हें कैसे मिलाना है, यह दिखाने के लिए एक शिक्षक की आवश्यकता थी।

2. JFDL की ट्रिक: "घोस्ट" एंकर (भूतिया लंगर)

JFDL एक जादू की तरह है। यह रोबोट से कहता है:

एक बिल्ली तक पहुँचने का रास्ता कल्पना करें।
कुछ भी (भले ही रोबोट को इसे पूरी तरह से करने के लिए स्पष्ट रूप से प्रशिक्षित न किया गया हो) तक पहुँचने का रास्ता कल्पना करें।
जादू: पेपर गणितीय रूप से सिद्ध करता है कि यदि आप "बिल्ली" वाले पथ और "कुछ भी" वाले पथ को लेते हैं, और उन्हें एक विशिष्ट तरीके से मिलाते हैं, तो "कुछ भी" वाला हिस्सा स्वाभाविक रूप से एक आदर्श "शोर" बेसलाइन के रूप में कार्य करता है। यह ऐसा है जैसे रोबोट शोर के गणित को देखकर "कुछ भी" वाले अनकंडीशनल पथ का एक "भूतिया" संस्करण कल्पना कर सकता है।

3. "स्टीयरिंग व्हील" (स्टीयरिंग पहिया)

एक बार जब रोबोट इन दोनों पथों को समझ लेता है, तो JFDL एक स्टीयरिंग व्हील (गाइडेंस स्केल, $\omega$ ) पेश करता है।

यदि आप पहिये को थोड़ा घुमाते हैं, तो रोबोट "बिल्ली" के पथ और "कुछ भी" के पथ को मिला देता है।
यदि आप इसे पूरा घुमा देते हैं, तो रोबोट "कुछ भी" वाले पथ को अनदेखा कर देता है और पूरी तरह से "बिल्ली" के पथ पर ध्यान केंद्रित करता है, जिससे छवि बहुत स्पष्ट और विशिष्ट (हाई फिडेलिटी) बनती है, लेकिन शायद कम विविधतापूर्ण होती है।
यदि आप इसे छोड़ देते हैं, तो यह एक सुखद मध्य मार्ग ढूंढ लेता है।

यह एक बड़ी बात क्यों है?

शिक्षक की आवश्यकता नहीं: आपको तेज़ रोबोट को सिखाने के लिए धीमे डिफ्यूजन मॉडल की आवश्यकता नहीं है। आप एक पहले से प्रशिक्षित तेज़ रोबोट को ले सकते हैं जो बस "अपना काम" कर रहा था और उसे निर्देशों को सुनने के लिए एक त्वरित, हल्का ट्यून-अप (JFDL) दे सकते हैं।
गति + नियंत्रण: आपको दोनों दुनियाओं का सर्वश्रेष्ठ मिलता है। आप पलक झपकते ही चित्र बना सकते हैं, लेकिन आप अभी भी नियंत्रित कर सकते हैं कि वे वास्तव में कैसे दिखते हैं।
बेहतर गुणवत्ता: पेपर दिखाता है कि इस तरीके का उपयोग करके, छवियां वास्तव में मूल अनगाइडेड रोबोट की तुलना में बेहतर दिखती हैं (कम FID स्कोर, जो गुणवत्ता का एक माप है)।

"नॉर्मलिटी" चेक

पेपर का एक डरावना हिस्सा "गौसियन नॉइज़" (Gaussian Noise) के बारे में गणित है। सरल शब्दों में, लेखकों को यह सिद्ध करना था कि रोबोट द्वारा कल्पना किया गया "भूतिया" पथ गणितीय रूप से "सामान्य" (जैसे कि एक आदर्श बेल कर्व) है। उन्होंने परीक्षण चलाए (एक सांख्यिकीय स्वास्थ्य जांच की तरह) और पुष्टि की: हाँ, रोबोट की "कुछ भी" की कल्पना सांख्यिकीय रूप से पूर्ण है। यह उन्हें इस विश्वास के साथ उपयोग करने का भरोसा देता है कि इसे स्टीयरिंग के लिए एक विश्वसनीय बेसलाइन के रूप में उपयोग किया जा सकता है।

सारांश

कंसिस्टेंसी मॉडल्स को एक ऐसी रेस कार के रूप में सोचें जो 200 मील प्रति घंटे की रफ्तार से चल सकती है लेकिन उसमें स्टीयरिंग व्हील नहीं है।
JFDL एक मैकेनिक है जो आता है, एक स्टीयरिंग व्हील लगाता है, और ड्राइवर को स्टीयर करना सिखाता है, बिना पूरी कार को फिर से बनाए या ड्राइविंग इंस्ट्रक्टर को नियुक्त किए। अब, कार अभी भी तेज़ है, लेकिन आप वास्तव में इसे वहां ले जा सकते हैं जहां आप चाहते हैं।

यहाँ "Post-Hoc Guidance for Consistency Models by Joint Flow Distribution Learning" (Chia-Hong Hsu और Randall Balestriero द्वारा) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

कंसिस्टेंसी मॉडल्स (Consistency Models - CMs) जनरेटिव मॉडल्स का एक वर्ग है जो एक या कुछ ही स्टेप्स में उच्च-गुणवत्ता वाली इमेज जनरेशन करने में सक्षम हैं, जो पारंपरिक डिफ्यूजन मॉडल्स (Diffusion Models - DMs) की तुलना में महत्वपूर्ण गति लाभ प्रदान करते हैं, जिन्हें बार-बार डिनोइजिंग (denoising) की आवश्यकता होती है। हालाँकि, CMs में जनरेशन प्रक्रिया को नियंत्रित करना (फिडेलिटी बनाम विविधता को संतुलित करना) एक चुनौती बनी हुई है।

वर्तमान विधियों की सीमा: DMs में, क्लासिफायर-फ्री गाइडेंस (Classifier-Free Guidance - CFG) नियंत्रण के लिए मानक तकनीक है, जो उपयोगकर्ताओं को गाइडेंस स्केल ( $\omega$ ) के माध्यम से सैंपल क्वालिटी और विविधता के बीच संतुलन बनाने की अनुमति देती है। हालाँकि, CMs के लिए मौजूदा गाइडेंस विधियाँ कंसिस्टेंसी डिस्टिलेशन (Consistency Distillation - CD) पर निर्भर करती हैं, जिसके लिए एक पूर्व-प्रशिक्षित (pre-trained) DM टीचर की आवश्यकता होती जिसे पहले से ही CFG के साथ प्रशिक्षित किया गया हो।
अंतराल (The Gap): यह निर्भरता कंसिस्टेंसी ट्रेनिंग (Consistency Training - CT) मॉडल्स पर गाइडेंस लागू करने से रोकती है, जिन्हें सीधे डेटा पर प्रशिक्षित किया जाता है बिना किसी DM टीचर के। इसके अलावा, गाइडेंस को डिस्टिल करना प्रक्रिया को जटिल बनाता है और गाइडेंस क्षमताओं के "पोस्ट-हॉक" (प्रशिक्षण के बाद) समायोजन को रोकता है। वर्तमान में ऐसा कोई तरीका नहीं है जो एक पूर्व-प्रशिक्षित, अनगाइडेड CT-CM को बिना स्क्रैच से पुन: प्रशिक्षित किए या DM टीचर का उपयोग किए, CFG जैसी क्षमताओं से लैस कर सके।

2. कार्यप्रणाली: जॉइंट फ्लो डिस्ट्रीब्यूशन लर्निंग (Methodology: Joint Flow Distribution Learning - JFDL)

लेखक जॉइंट फ्लो डिस्ट्रीब्यूशन लर्निंग (JFDL) का प्रस्ताव करते हैं, जो एक हल्का, पोस्ट-हॉक अलाइनमेंट मेथड है जो बिना किसी DM टीचर की आवश्यकता के पूर्व-प्रशिक्षित CMs में गाइडेंस को सक्षम बनाता है।

मुख्य अवधारणा (Core Concept)

JFDL एक पूर्व-प्रशिक्षित CM को डिफ्यूजन पाथ के लिए एक ऑर्डिनरी डिफरेंशियल इक्वेशन (ODE) सॉल्वर के रूप में मानता है। यह कंडीशनल और "अनकंडीशनल" (या स्यूडो-अनकंडीशनल) फ्लो दिशाओं के बीच इंटरपोलेशन (interpolation) बनाकर एक गाइडेंस मैकेनिज्म बनाने के लिए फ्लो-बेस्ड मॉडल्स (Flow-based Models - FMs) के साथ संबंध का लाभ उठाता है।

सैद्धांतिक आधार (Theoretical Foundation)

हाइब्रिड फ्लो निर्माण (Hybrid Flow Construction): यह विधि एक "हाइब्रिड" ODE समाधान $y^{\emptyset,t}_0$ को परिभाषित करती है। इसे एक क्लास-कंडीशन्ड सैंपल $x^c_0$ लेकर, उसमें शोर (noise) जोड़कर समय $t$ तक पहुँचकर, और फिर अनकंडीशनल ODE सॉल्वर का उपयोग करके उसे वापस समय 0 पर डिनोइज करके बनाया जाता है।
मार्जिनल प्रिजर्वेशन (Marginal Preservation - Proposition 1): लेखक सिद्ध करते हैं कि इन हाइब्रिड सॉल्यूशंस का सभी क्लासेस पर मार्जिनल डिस्ट्रीब्यूशन, अनकंडीशनल डेटा डिस्ट्रीब्यूशन $p_0(x)$ के समान है। यह सुनिश्चित करता है कि गाइडेंस के लिए उपयोग किया जाने वाला "अनकंडीशनल" एंकर सांख्यिकीय रूप से मान्य है।
स्यूडो-नॉइज़ की गॉसियनिटी (Gaussianity of Pseudo-Noise - Proposition 2): एक महत्वपूर्ण सैद्धांतिक योगदान गाइडेंस दिशा में "मिक्स्ड-सिग्नल" टर्म का विश्लेषण है। लेखक प्रदर्शित करते हैं कि किसी भी टाइम स्टेप $t$ के लिए, हाइब्रिड फ्लो में प्रभावी होने वाला नॉइज़ घटक प्रभावी रूप से गॉसियन ( $N(0, \sigma^2_{max}I)$ ) है। यह प्रमाणित करता है कि हाइब्रिड फ्लो से प्राप्त वेलोसिटी फील्ड, CFG के लिए आवश्यक वास्तविक कंडीशनल स्कोर फंक्शन का अनुमान लगाता है।

एल्गोरिथमिक कार्यान्वयन (Algorithmic Implementation)

JFDL एक नया लॉस टर्म ( $L_{JFDL}$ ) पेश करता है, जिसे मानक कंसिस्टेंसी ट्रेनिंग लॉस ( $L_{ECT}$ ) के साथ अनुकूलित (optimize) किया जाता है।

नेइव JFDL (Naive JFDL): इसके लिए पूर्व-प्रशिक्षित CM का अनकंडीशनल ( $\emptyset$ ) क्लास को सीखना आवश्यक है। यह गाइडेंस स्केल $\omega$ का उपयोग करके कंडीशनल क्लास ( $u_{cls}$ ) और अनकंडीशनल क्लास ( $u_{\emptyset}$ ) के डिनोइजिंग डायरेक्शन को इंटरपोलेट करता है:
$u_{\omega} = \omega \cdot u_{cls} + (1-\omega) \cdot u_{\emptyset}$
रैंडम JFDL (Random JFDL): इस सीमा को दूर करने के लिए कि कई CT मॉडल्स स्पष्ट रूप से $\emptyset$ क्लास को नहीं सीखते हैं, लेखक एक वेरिएंट प्रस्तावित करते हैं जहाँ "अनकंडीशनल" एंकर को डेटासेट से लिए गए एक रैंडम क्लास के सैंपल द्वारा प्रतिस्थापित किया जाता है। आश्चर्यजनक रूप से, यह वेरिएंट अक्सर नेइव दृष्टिकोण की तुलना में उच्च कंट्रास्ट और CFG व्यवहार के साथ बेहतर संरेखण (alignment) प्रदान करता है।

ट्रेनिंग ऑब्जेक्टिव स्टैंडर्ड कंसिस्टेंसी लॉस और JFDL लॉस को जोड़ता है, जिसे दोनों कार्यों को संतुलित करने के लिए एक एडेप्टिव ग्रेडिएंट नॉर्मलाइजेशन (GradNorm) द्वारा भारित (weighted) किया जाता है।

3. मुख्य योगदान (Key Contributions)

CT मॉडल्स के लिए प्रथम पोस्ट-हॉक गाइडेंस: JFDL बिना किसी DM टीचर के, कंसिस्टेंसी ट्रेंड मॉडल्स में प्रभावी गाइडेंस को सक्षम करने वाला पहला तरीका है, जो CM साहित्य के एक महत्वपूर्ण अंतर को भरता है।
सैद्धांतिक औचित्य: पेपर कठोर सैद्धांतिक प्रमाण (प्रपोजिशन 1 और 2) प्रदान करता है कि हाइब्रिड फ्लो मार्जिनल डेटा डिस्ट्रीब्यूशन को सुरक्षित रखता है और परिणामी स्यूडो-नॉइज़ गॉसियन है, जो CMs में CFG-स्टाइल इंटरपोलेशन के उपयोग को न्यायसंगत बनाता है।
एल्गोरिथमिक लचीलापन: रैंडम JFDL का परिचय उन पूर्व-प्रशिक्षित CMs के लिए इसकी प्रयोज्यता को व्यापक बनाता है जिन्हें स्पष्ट रूप से अनकंडीशनल ODE को हल करने के लिए डिज़ाइन नहीं किया गया था।
दक्षता (Efficiency): यह विधि हल्की है, जिसमें मूल प्रशिक्षण बजट की तुलना में डेटा के बहुत छोटे अंश पर केवल फाइन-ट्यूनिंग की आवश्यकता होती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने CIFAR-10 और ImageNet 64x64 डेटासेट्स पर JFDL का मूल्यांकन किया, और गाइडेड मॉडल्स की अनगाइडेड बेसलाइन्स के साथ तुलना की।

मात्रात्मक सुधार (FID):
- CIFAR-10: JFDL ने 1-स्टेप FID को 3.40 (बेसलाइन) से घटाकर 3.29 (नेइव) और 3.24 (रैंडम) कर दिया।
- ImageNet 64x64: JFDL ने 1-स्टेप FID को 5.84 (बेसलाइन) से घटाकर 4.38 (नेइव) और 4.68 (रैंडम) कर दिया।
- परिणाम CFG में दिखने वाले स्पष्ट ट्रेड-ऑफ कर्व को दर्शाते हैं: जैसे-जैसे $\omega$ बढ़ता है (आमतौर पर 1-स्टेप के लिए $\omega < 2$ तक), FID में सुधार होता है, जिसके बाद विविधता की कमी के कारण प्रदर्शन गिरने लगता है।
गुणात्मक परिणाम (Qualitative Results): विज़ुअलाइज़ेशन प्रदर्शित करते हैं कि JFDL सफलतापूर्वक "CFG प्रभाव" को दोहराता है: उच्च कंट्रास्ट, तीखे विवरण (जैसे "हॉटडॉग" इमेज में मस्टर्ड और बन्स की स्पष्टता), और गाइडेंस स्केल बढ़ने के साथ कम सैंपल विविधता।
दक्षता: फाइन-ट्यूनिंग प्रक्रिया ने मूल ECT ट्रेनिंग के केवल ~7.5% डेटा और ~30% GPU घंटों का उपभोग किया।

5. महत्व (Significance)

यह कार्य गाइडेंस को डिस्टिलेशन प्रक्रिया से अलग करके कंसिस्टेंसी मॉडल्स के परिदृश्य को मौलिक रूप से बदल देता है।

नियंत्रण का लोकतंत्रीकरण: यह अभ्यासकर्ताओं को किसी भी पूर्व-प्रशिक्ित CM (उन मॉडल्स सहित जिन्हें कंसिस्टेंसी ट्रेनिंग के माध्यम से प्रशिक्षित किया गया है) पर CFG लागू करने की अनुमति देता है, न कि केवल उन मॉडल्स पर जिन्हें DM से डिस्टिल किया गया है।
लागत में कमी: पोस्ट-हॉक ट्यूनिंग को सक्षम करके, यह मॉडल्स को स्क्रैच से पुन: प्रशिक्षित करने या गाइडेंस डिस्टिलेशन के लिए एक अलग DM टीचर बनाए रखने की आवश्यकता को समाप्त करता है।
सैद्धांतिक अंतर्दृष्टि: पेपर डिफ्यूजन मॉडल्स, फ्लो मैचिंग और कंसिस्टेंसी मॉडल्स के बीच संबंध की समझ को गहरा करता है, विशेष रूप से इस संबंध में कि गाइडेंस के तहत वेलोसिटी फील्ड और नॉइज़ डिस्ट्रीब्यूशन कैसे परस्पर क्रिया करते हैं।

संक्षेप में, JFDL तेज़ जनरेटिव मॉडल्स में नियंत्रणीयता जोड़ने के लिए एक मजबूत, सैद्धांतिक रूप से आधारित और कम्प्यूटेशनल रूप से कुशल ढांचा प्रदान करता है, जिससे न्यूनतम ओवरहेड के साथ उच्च-गुणवत्ता वाली, गाइडेड इमेज जनरेशन सुलभ हो जाती है।