🤖 AI

P-Guide: Parameter-Efficient Prior Steering for Single-Pass CFG Inference

यह शोध पत्र P-Guide प्रस्तुत करता है, जो एक पैरामीटर-कुशल फ्रेमवर्क है जो फ्लो मैचिंग में प्रारंभिक लेटेंट स्टेट (initial latent state) को मॉड्युलेट करके क्लासिफायर-फ्री गाइडेंस (Classifier-Free Guidance) के करीब पहुँचकर सिंगल इन्फरेंस पास के माध्यम से उच्च-सटीकता वाली कंडीशनल जनरेशन प्राप्त करता है, जिससे प्रतिस्पर्धी प्रदर्शन बनाए रखते हुए विलंबता (latency) को लगभग 50% कम किया जा सकता है।

मूल लेखक: Xin Peng, Ang Gao

प्रकाशित 2026-05-08

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xin Peng, Ang Gao

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "P-Guide" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ हिंदी अनुवाद दिया गया है।

समस्या: "डबल-चेक" की बाधा (The "Double-Check" Bottleneck)

कल्पना कीजिए कि आप एक मास्टर शेफ हैं जो एक विशिष्ट रेसिपी (एक टेक्स्ट प्रॉम्प्ट) के आधार पर एक उत्तम व्यंजन बनाने की कोशिश कर रहे हैं। वर्तमान AI आर्ट जनरेशन (विशेष रूप से Stable Diffusion या FLUX जैसे मॉडल्स) में, शेफ को खाना पकाने के हर एक चरण में स्वाद को सही करने के लिए सूप को दो बार चखना पड़ता है।

पहले, वे विशेष मसाले के बिना सूप को चखते हैं (इसे "अनकंडीशनल" पास कहा जाता है)।
फिर, वे मसाले के साथ सूप को चखते हैं (इसे "कंडीशनल" पास कहा जाता है)।
अंत में, वे आंच को कैसे समायोजित करना है, यह तय करने के लिए अपने दिमाग में दोनों स्वादों को मिला लेते हैं।

यह "दो बार चखने" की प्रक्रिया (जिसे Classifier-Free Guidance या CFG कहा जाता है) खाना पकाने की प्रक्रिया को बहुत धीमा बना देती है। यह कलाकृति बनाने के लिए आवश्यक समय और कंप्यूटर शक्ति को दोगुना कर देता है, जो कि एक बड़ी समस्या है यदि आप कला को तेज़ी से या फोन पर बनाना चाहते हैं।

समाधान: P-Guide (द "स्मार्ट सीड")

इस पेपर के लेखक, शिन पेंग और एंग गाओ, P-Guide नामक एक नई विधि प्रस्तावित करते हैं। हर चरण में सूप को दो बार चखने के बजाय, वे बर्तन में डालने वाले सबसे पहले घटक (ingredient) को ही बदल देते हैं।

उपमा: दिशा-सूचक यंत्र (Compass) बनाम GPS

पुराना तरीका (Standard CFG): आप कार चला रहे हैं। हर मील पर, आप रुकते हैं, अपना नक्शा देखते हैं, अपने गंतव्य को देखते हैं, अंतर की गणना करते हैं, और फिर स्टीयरिंग घुमाते हैं। आप यह लगातार करते हैं। यह सटीक है, लेकिन इसमें बहुत समय लगता है।
नया तरीका (P-Guide): कार शुरू करने से पहले ही, आप अपने गंतव्य की ओर दिशा-सूचक यंत्र (compass) को पूरी तरह से सेट कर देते हैं। क्योंकि आपने सही "बीज" (seed) या "दिशा" के साथ शुरुआत की थी, इसलिए कार बिना हर मील पर रुककर पुनर्गणना किए, स्वाभाविक रूप से गंतव्य तक सबसे सीधे और सटीक रास्ते पर चलती है।

यह कैसे काम करता है ("बीज" की उपमा)

AI जनरेशन में, प्रक्रिया रैंडम शोर (static noise) के एक बादल (जैसे टीवी का शोर) से शुरू होती है।

मानक तरीका (Standard Method): AI रैंडम शोर से शुरू होता है और रास्ते को लगातार समायोजित करके उसे आपके द्वारा चाही गई छवि की ओर "स्टीयर" करने की कोशिश करता है।
P-Guide तरीका: AI प्रक्रिया शुरू होने से पहले आपके प्रॉम्प्ट को समझने के लिए एक छोटे, स्मार्ट सहायक (एक छोटा न्यूरल नेटवर्क) का उपयोग करता है। यह सहायक रैंडम शोर को एक "स्मार्ट सीड" (Smart Seed) में बदल देता है।
- यदि आप "बिल्ली" मांगते हैं, तो बीज पहले से ही थोड़ा बिल्ली के आकार का होता है।
- यदि आप "कुत्ता" मांगते हैं, तो बीज पहले से ही थोड़ा कुत्ते के आकार का होता है।

चूंकि यात्रा सही आकार के साथ शुरू होती है, इसलिए AI को छवि पूरी करने के लिए प्रति चरण केवल एक गणना करने की आवश्यकता होती है। उसे दोबारा चेक करने की ज़रूरत नहीं पड़ती।

"दो-चरणीय" प्रशिक्षण (The "Two-Stage" Training)

इसे काम करने योग्य बनाने के लिए, लेखकों ने सिस्टम को दो चरणों में प्रशिक्षित किया:

चरण 1 (नक्शा सीखना): उन्होंने "स्मार्ट सीड" जनरेटर को यह सिखाया कि अलग-अलग चीजें कैसी दिखती हैं। यह सीखता है कि एक बिल्ली या कुत्ते का औसत आकार क्या होता है और उसमें कितनी "अनिश्चितता" (uncertainty) है (उदाहरण के लिए, एक बिल्ली कई अलग-अलग रंगों की हो सकती है, इसलिए बीज कुछ विविधता की अनुमति देता है)।
चरण 2 (यात्रा): उन्होंने उस ज्ञान को स्थिर (freeze) कर दिया और मुख्य AI को उन "स्मार्ट सीड्स" को पूर्ण चित्रों में बदलने के लिए सिखाया। चूंकि बीज पहले से ही बहुत अच्छे थे, इसलिए मुख्य AI का काम आसान हो गया और उसने तेज़ी से सीखा।

परिणाम: बिना समझौते के गति (Speed without Sacrifice)

पेपर का दावा है कि इस "स्मार्ट सीड" दृष्टिकोण का उपयोग करके:

गति: उन्होंने समय को आधा कर दिया (2x स्पीडअप) क्योंकि वे प्रति चरण एक बार के बजाय दो बार कंप्यूटर मॉडल चलाते हैं।
गुणवत्ता: तस्वीरें पुराने, धीमे, डबल-चेक वाले तरीके जितनी ही अच्छी हैं। वे स्पष्ट हैं, प्रॉम्प्ट का अच्छी तरह पालन करती हैं, और वास्तविक लगती हैं।
आकार: "स्मार्ट सीड" सहायक बहुत छोटा है। यह कंप्यूटर में लगभग कोई अतिरिक्त मेमोरी नहीं जोड़ता (कुल आकार का 0.5% से भी कम), जिससे इसे मौजूदा सिस्टम में जोड़ना बहुत आसान हो जाता है।

"टॉय एक्सपेरिमेंट" का प्रमाण

अपने विचार को सिद्ध करने के लिए, लेखकों ने एक सरल 2D प्रयोग चलाया। कल्पना कीजिए कि आप दो अलग-अलग वृत्त (एक बिल्लियों के लिए और एक कुत्तों के लिए) बनाने की कोशिश कर रहे हैं।

पुराने तरीके को वृत्तों को अलग रखने के लिए पेन की दिशा को लगातार सुधारना पड़ता था।
नए तरीके में पेन को बिल्कुल सही जगह से शुरू किया गया। पेन ने बिना किसी सुधार की आवश्यकता के स्वाभाविक रूप से दो अलग और पूर्ण वृत्त बनाए।

सारांश

P-Guide एक चतुर तकनीक है जो AI आर्ट जनरेशन की "स्टीयरिंग" को प्रक्रिया के बीच से (जहाँ यह धीमा और महंगा है) प्रक्रिया की शुरुआत में (जहाँ यह तेज़ और सस्ता है) ले जाती है। शुरुआत में सही "बीज" बोकर, AI एक ही बार में एक उत्तम छवि विकसित कर सकता है, जिससे गुणवत्ता खोए बिना समय और ऊर्जा की बचत होती है।

तकनीकी सारांश: P-Guide: सिंगल-पास CFG इन्फरेंस के लिए पैरामीटर-एफिशिएंट प्रायर स्टीयरिंग

1. समस्या विवरण (Problem Statement)

क्लासिफायर-फ्री गाइडेंस (CFG) आधुनिक फ्लो-आधारित और डिफ्यूजन मॉडल्स (जैसे, Stable Diffusion, FLUX, SDXL) में उच्च-फिडेलिटी, सिमेंटिकली अलाइन्ड कंडीशनल जनरेशन प्राप्त करने के लिए एक मानक बन गया है। हालांकि, मानक CFG एक महत्वपूर्ण कम्प्यूटेशनल बाधा उत्पन्न करता है: यह प्रत्येक सैंपलिंग स्टेप पर दोहरे फॉरवर्ड पास (dual forward passes) की आवश्यकता रखता है। मॉडल को एक्सट्रपलेटेड गाइडेंस वेलोसिटी (extrapolated guidance velocity) की गणना करने के लिए वेलोसिटी फील्ड का दो बार मूल्यांकन करना पड़ता है—एक बार कंडीशनल ब्रांच ( $v(x_t, t|y)$ ) के लिए और एक बार अनकंडीशनल ब्रांच ( $v(x_t, t|\emptyset)$ ) के लिए। यह प्रभावी रूप से इन्फरेंस लेटेंसी को दोगुना कर देता है, जिससे रियल-टाइम या संसाधन-सीमित वातावरण में उच्च-फिडेलिटी जेनेरेटिव फ्लो के परिनियोजन (deployment) में बाधा आती है। हालांकि डिस्टिलेशन या स्टेप-ट्रंकेशन जैसी मौजूदा शमन रणनीतियाँ मौजूद हैं, लेकिन उन्हें अक्सर गहन रिट्रेनिंग की आवश्यकता होती है या वे जनरेशन पाथ की ज्यामितीय निरंतरता (geometric consistency) से समझौता करती हैं।

2. कार्यप्रणाली: P-Guide फ्रेमवर्क (Methodology: P-Guide Framework)

लेखक P-Guide (प्रायर-गाइड) का प्रस्ताव करते हैं, जो मार्गदर्शन तंत्र (guidance mechanism) को सैंपलिंग के दौरान पुनरावृत्त वेलोसिटी फील्ड एक्सट्रपोलेशन से बदलकर प्रारंभिक लेटेंट स्टेट (initial latent state) के स्ट्रक्चर्ड मॉड्यूलेशन की ओर स्थानांतरित करता है। यह सिंगल इन्फरेंस पास के माध्यम से उच्च-गुणवत्ता वाले कंडीशनल जनरेशन को सक्षम बनाता है।

2.1 मुख्य अवधारणा (Core Concept)

प्रत्येक इंटीग्रेशन स्टेप पर वेलोसिटी फील्ड को सुधारने के बजाय, P-Guide प्रायर स्पेस में ट्राजेक्टरी के शुरुआती बिंदु ( $z$ ) में कंडीशनल जानकारी इंजेक्ट करता है। यह फ्रेमवर्क एक ट्राजेक्टरी-लेवल एप्रोक्सिमेशन (trajectory-level approximation) पर निर्भर करता है: फर्स्ट-ऑर्डर धारणा के तहत, प्रायर स्पेस में एक स्ट्रक्चर्ड शिफ्ट, मानक CFG में उपयोग किए जाने वाले वेलोसिटी फील्ड एक्सट्रपोलेशन के समान है। $t=0$ पर ग्लोबल ऑर्डिनरी डिफरेंशियल इक्वेशन (ODE) पाथ को एंकर करके, मॉडल एक नियत (deterministic) ट्राजेक्टरी का पालन कर सकता है जो बिना किसी और सुधार के स्वाभाविक रूप से लक्षित स्थिति (target condition) के साथ संरेखित होता है।

2.2 प्रायर पैरामीट्राइजेशन (Prior Parameterization)

यह विधि प्रायर डिस्ट्रीब्यूशन $p_0(z|y)$ को डेटा-डिपेंडेंट बनाने के लिए पैरामीटराइज करती है, जो मानक अनइंफॉर्म्ड गौसियन प्रायर से आगे बढ़ती है।

होमोसेडास्टिक P-Guide (Homoscedastic P-Guide): कंडीशन $y$ केवल प्रायर के मीन (mean) $\mu_\phi(y)$ को मॉड्यूलेट करता है, जबकि वेरिएंस (variance) स्थिर रहता है। प्रारंभिक अवस्था $z = \epsilon + \mu_\phi(y)$ है।
हेटरोसेडास्टिक P-Guide (Heteroscedastic P-Guide - विस्तार): कंडीशन मीन $\mu_\phi(y)$ और स्केल $\sigma_\phi(y)$ दोनों को मॉड्यूलेट करता है। प्रारंभिक अवस्था $z = \mu_\phi(y) + \sigma_\phi(y) \odot \epsilon$ है। यह मॉडल को डेटा-डिपेंडेंट अनिश्चितता को कैप्चर करने और एडेप्टिव लॉस एटेन्यूएशन (adaptive loss attenuation) को लागू करने की अनुमति देता है, जिससे ट्रेनिंग के दौरान नॉइजी सैंपल्स को कम महत्व दिया जा सके।

2.3 ट्रेनिंग प्रतिमान (Training Paradigm)

P-Guide एक क्रमिक दो-चरणीय प्रशिक्षण रणनीति (sequential two-stage training strategy) का उपयोग करता है:

चरण 1 (प्रायर लर्निंग): प्रायर मॉड्यूल $F_\phi(y)$ को लक्षित डेटा के कंडीशनल नेगेटिव लॉग-लाइक्लीहुड (NLL) को कम करने के लिए प्रशिक्षित किया जाता है। यह कंडीशनल मीन और वेरिएंस को सीखता है, जिससे एक "सिमेंटिक सीड" (semantic seed) बनता है जो लक्षित मोड को एनकोड करता है।
चरण 2 (फ्लो मैचिंग): बैकबोन वेलोसिटी फील्ड $v_\theta$ को एक संशोधित फ्लो मैचिंग ऑब्जेक्टिव का उपयोग करके प्रशिक्षित किया जाता है। शुरुआती बिंदु $z$ को फ्रीज किए गए सीखे गए कंडीशनल प्रायर से सैंपल किया जाता है। चूंकि $z$ पहले से ही भौगोलिक रूप से टारगेट मैनिफोल्ड के करीब है, इसलिए वेलोसिटी फील्ड अधिक सीधे और कुशल ट्राजेक्टरीज सीखता है।

2.4 इन्फरेंस प्रक्रिया (Inference Procedure)

इन्फरेंस के दौरान, गाइडेड इनिशियल स्टेट $z_{cfg}$ को सीखे गए पैरामीटर्स के लीनियर कॉम्बिनेशन का उपयोग करके प्रायर स्पेस में सीधे कंप्यूट किया जाता है:
$z_{cfg} = \mu_\phi(\emptyset) + w(\mu_\phi(y) - \mu_\phi(\emptyset)) + [\sigma_\phi(\emptyset) + w(\sigma_\phi(y) - \sigma_\phi(\emptyset))] \odot \epsilon$
इसके बाद ODE को $x_0 = z_{cfg}$ से शुरू करके एक बार हल किया जाता है। यह प्रति स्टेप ड्यूल वेलोसिटी इवैल्यूएशन की आवश्यकता को समाप्त कर देता है।

3. प्रमुख योगदान (Key Contributions)

ट्राजेक्टरी-लेवल एप्रोक्सिमेशन: लेखक एक थ्योरिटिकल डेरिवेशन (थ्योरम 1) प्रदान करते हैं जो यह दर्शाता है कि, फर्स्ट-ऑर्डर लीनियर रिस्पॉन्स धारणा के तहत, प्रारंभिक लेटेंट स्टेट को शिफ्ट करना वेलोसिटी फील्ड एक्सट्रपोलेशन के समान ही ट्राजेक्टरी पर्टरबेशन उत्पन्न करता है। यह प्रायर-स्पेस स्टीयरिंग और स्टैंडर्ड CFG के बीच थ्योरिटिकल इक्विलवैलेंस स्थापित करता है।
पैरामीटर-एफिशिएंट सिंगल-पास इन्फरेंस: P-Guide प्रारंभिक अवस्था को मॉड्यूलेट करके कंडीशनल कंट्रोल प्राप्त करता है, जो सिंगल इन्फरेंस पास बनाए रखते हुए मानक ड्यूल-पास CFG की तुलना में कम्प्यूटेशनल लागत को लगभग 50% (2x स्पीडअप) कम कर देता है।
हेटरोसेडास्टिक मॉडलिंग: फ्रेमवर्क एक हेटरोसेडास्टिक प्रायर फॉर्मूलेशन पेश करता है जो मीन और वेरिएंस दोनों को जॉइंटली मॉडल करता है। यह एडेप्टिव लॉस एटेन्यूएशन को सक्षम बनाता है, जिससे डेटा अनिश्चितता और नॉइजी स्थितियों के प्रति मजबूती (robustness) में सुधार होता है।
न्यूनतम ओवरहेड: प्रायर स्टीयरिंग मॉड्यूल के लिए अतिरिक्त पैरामीटर फुटप्रिंट नगण्य है (लगभग 1.247 MB), जिससे इसे बैकबोन को बदले बिना मौजूदा आर्किटेक्चर में आसानी से एकीकृत किया जा सकता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने MNIST, CIFAR-10, और ImageNet-1k (256x256) पर U-Net और डिफ्यूजन ट्रांसफॉर्मर (DiT) बैकबोन दोनों का उपयोग करके P-Guide का मूल्यांकन किया।

दक्षता (Efficiency): P-Guide मानक ड्यूल-पास CFG की तुलना में प्रति इमेज जनरेशन में 2x कम GFLOPs लगातार प्राप्त करता है, क्योंकि इसमें केवल एक फॉरवर्ड पास की आवश्यकता होती है।
गुणवत्ता (Quality):
- MNIST और CIFAR-10 पर, P-Guide मानक CFG के साथ प्रतिस्पर्धी Fréchet Inception Distance (FID) और क्लासिफिकेशन एक्यूरेसी प्राप्त करता है। हेटरोसेडास्टिक वेरिएंट आमतौर पर फिक्स्ड-वेरिएंस वर्जन से बेहतर प्रदर्शन करता है।
- ImageNet-1k पर, P-Guide यह प्रदर्शित करता है कि गाइडेंस स्केल $w$ (जैसे, 1.0 से 1.1 या 1.2 तक) को बढ़ाने से सिमेंटिक स्ट्रक्चर शार्प होता है और FID कम होता है (उदाहरण के लिए, $w=1.1$ पर U-Net FID 27.78 से सुधरकर 22.33 हो जाता है)।
मजबूती (Robustness): हालांकि P-Guide गाइडेंस स्केल $w$ के चुनाव के प्रति अधिक संवेदनशील है (स्टैंडर्ड CFG की तुलना में एक संकीर्ण प्रभावी रेंज प्रदर्शित करता है), यह उस रेंज के भीतर उच्च फिडेलिटी बनाए रखता है।
विजुअल साक्ष्य: ट्राजेक्टरी विज़ुअलाइज़ेशन पुष्टि करते हैं कि इनिशियल शिफ्ट एक डायरेक्शनल एंकर के रूप में कार्य करता है, जिससे ट्राजेक्टरीज $t=0$ से ही टारगेट मोड पर केंद्रित होती हैं, जो ट्राजेक्टरी-लेवल एप्रोक्सिमेशन को प्रमाणित करती हैं।

5. महत्व और दावे (Significance and Claims)

पेपर दावा करता है कि P-Guide फ्लो मैचिंग और डिफ्यूजन मॉडल्स में ड्यूल-पास बॉटलनेक के लिए एक सिद्धांत-आधारित और पैरामीटर-एफिशिएंट समाधान प्रदान करता है। गाइडेंस को ट्राजेक्टरी ओरिजिन (शुरुआत) में स्थानांतरित करके, यह विधि कंडीशनल कंट्रोल को इटरेटिव सैंपलिंग प्रक्रिया से अलग (decouple) कर देती है।

लेखक इस बात पर जोर देते हैं कि P-Guide:

फिडेलिटी को सुरक्षित रखता है: यह स्टैंडर्ड ड्यूल-पास बेसलाइन्स के प्रतिस्पर्धी सैंपल क्वालिटी और प्रॉम्प्ट अलाइनमेंट बनाए रखता है।
स्केलेबिलिटी सक्षम करता है: इन्फरेंस लेटेंसी में 50% की कमी उच्च-फिडेलिटी जेनेरेटिव फ्लो को रियल-टाइम और बड़े पैमाने के अनुप्रयोगों के लिए अधिक व्यवहार्य बनाती है।
मौजूदा सिस्टम का पूरक है: फ्रेमवर्क पूरी तरह से स्टैंडर्ड CFG डायनेमिक्स के साथ संगत है और इसे अंडरलाइंग ODE फ्लो को बाधित करने के बजाय प्रारंभिक वितरण पर काम करने वाले एक पूरक एन्हांसमेंट के रूप में देखा जा सकता है।

यह कार्य सुझाव देता है कि सोर्स स्पेस (प्रायर) को नियंत्रित करना, पूरी जनरेशन प्रक्रिया के दौरान वेलोसिटी फील्ड को नियंत्रित करने का एक व्यवहार्य और कुशल विकल्प है, जो भविष्य के हाई-रिज़ॉल्यूशन जेनेरेटिव सिस्टम के लिए एक स्केलेबल आधार प्रदान करता है।