← नवीनतम पेपर
🤖 AI

Continuous-Time Distribution Matching for Few-Step Diffusion Distillation

यह शोध पत्र कंटीन्यूअस-टाइम डिस्ट्रीब्यूशन मैचिंग (CDM) को प्रस्तुत करता है, जो एक नवीन डिस्टिलेशन फ्रेमवर्क है जो विरल डिस्क्रीट सुपरविजन को डायनेमिक कंटीन्यूअस-टाइम ऑप्टिमाइजेशन और ऑफ-ट्रैजेक्टरी अलाइनमेंट से बदलकर कम-चरण वाले डिफ्यूजन मॉडल्स को बेहतर बनाता है, जिससे जटिल सहायक मॉड्यूल पर निर्भर किए बिना उच्च दृश्य निष्ठा (विजुअल फिडेलिटी) प्राप्त की जाती है।

मूल लेखक: Tao Liu, Hao Yan, Mengting Chen, Taihang Hu, Zhengrong Yue, Zihao Pan, Jinsong Lan, Xiaoyong Zhu, Ming-Ming Cheng, Bo Zheng, Yaxing Wang

प्रकाशित 2026-05-08
📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें
CC BY 4.0

मूल लेखक: Tao Liu, Hao Yan, Mengting Chen, Taihang Hu, Zhengrong Yue, Zihao Pan, Jinsong Lan, Xiaoyong Zhu, Ming-Ming Cheng, Bo Zheng, Yaxing Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक प्रतिभाशाली लेकिन धीमे कलाकार (शिक्षक) को कुछ ही तेज़ ब्रशस्ट्रोक में एक उत्कृष्ट कृति (मास्टरपीस) बनाना सिखाने की कोशिश कर रहे हैं, बजाय इसके कि वे अपने सामान्य सैकड़ों धीमे और सावधानीपूर्वक परतों वाले तरीके का उपयोग करें। यह डिफ्यूजन डिस्टिलेशन (Diffusion Distillation) की चुनौती है: एआई इमेज जनरेटरों को गुणवत्ता खोए बिना तेज़ बनाना।

यह शोध पत्र एक नए तरीके जिसे CDM (कंटीन्यूअस-टाइम डिस्ट्रीब्यूशन मैचिंग) कहा जाता है, का परिचय देता है जो पिछले शिक्षण तरीकों की एक विशिष्ट समस्या को हल करता है। यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:

समस्या: "रुको-और-चलो" वाला शिक्षक (The "Stop-and-Go" Teacher)

पिछले तरीकों (जैसे DMD2) ने तेज़ छात्र को सिखाने के लिए केवल कुछ विशिष्ट, निश्चित चेकपॉइंट्स पर उनके काम की जाँच करने की कोशिश की।

  • उपमा: कल्पना कीजिए कि एक ड्राइविंग इंस्ट्रक्टर केवल ठीक सुबह 10:00 बजे, 10:15 बजे और 10:30 बजे आपकी कार की स्थिति की जाँच करता है। वे कहते हैं, "तुम 10:15 पर एकदम सही थे," लेकिन उन्हें इस बात से कोई फर्क नहीं पड़ता कि उन समयों के बीच आपने क्या किया।
  • परिणाम: क्योंकि छात्र केवल इन विरल "स्नैपशॉट्स" से सीखता है, इसलिए वे बीच-बीच में अनिश्चित रूप से (erratically) चलने लगते हैं। जब वे तेज़ी से चलाने की कोशिश करते हैं (4 स्टेप्स में इमेज जेनरेट करना), तो वे सड़क से भटक जाते हैं, जिससे धुंधली, "ओवर-स्मूथेड" छवियां बनती हैं जिनमें बालों के रेशों या कपड़े की बनावट जैसे बारीक विवरणों की कमी होती है। इसे ठीक करने के लिए, पुराने तरीकों को जटिल "सुरक्षा जाल" (जैसे GANs या रिवॉर्ड मॉडल) जोड़ने पड़ते थे, जो भारी और महंगे होते हैं।

समाधान: "स्मूथ हाईवे" (The "Smooth Highway" - CDM)

लेखक CDM का प्रस्ताव देते हैं, जो शिक्षण शैली को "रुको-और-चलो" से बदलकर "स्मूथ हाईवे" में बदल देता है। वे इसे दो मुख्य तरकीबों के साथ करते हैं:

1. डायनेमिक शेड्यूल (निश्चित चेकपॉइंट्स का अंत)

निश्चित समय पर छात्र की जाँच करने के बजाय, शिक्षक अब पूरी यात्रा के दौरान यादृच्छिक क्षणों (random moments) पर उनकी जाँच करता है।

  • उपमा: ड्राइविंग इंस्ट्रक्टर अब यादृच्छिक समय पर कार में कूद जाता है—कभी 10:03 पर, कभी 10:27 पर, कभी 10:41 पर। वे सड़क के किसी भी बिंदु पर छात्र की स्थिति और स्टीयरिंग की जाँच करते हैं, न कि केवल निर्धारित स्टॉप्स पर।
  • लाभ: छात्र हर जगह सुचारू रूप से चलना सीखता है, न कि केवल विशिष्ट चेकपॉइंट्स पर। यह उस "झटकेदार" ड्राइविंग को रोकता है जो धुंधली छवियों का कारण बनती है।

2. "ऑफ-रोड" टेस्ट (वेलोसिटी-ड्रिवन एक्सट्रपलेशन)

यह इस शोध पत्र का सबसे अनूठा नवाचार है। जब छात्र एक बड़ा कदम आगे बढ़ाता है (क्योंकि वे तेज़ होने की कोशिश कर रहे हैं), तो वे आदर्श पथ से आगे निकल सकते हैं। CDM सक्रिय रूप से जाँच करता है कि यदि छात्र वास्तव में आगे निकल जाता है तो क्या होगा।

  • उपमा: कल्पना कीजिए कि छात्र तेज़ी से गाड़ी चला रहा है। शिक्षक कहता है, "ठीक है, तुमने एक बड़ा कदम आगे लिया। अब, मान लेते हैं कि तुमने अपनी वर्तमान गति और दिशा के आधार पर एक और कदम लिया होता।" शिक्षक फिर जाँचता है कि क्या वह "काल्पनिक" स्थान अभी भी सड़क पर है। यदि छात्र की गति गलत थी, तो वह काल्पनिक स्थान सड़क से बहुत दूर होगा। शिक्षक फिर छात्र को वास्तविक गलती करने से पहले ही उसकी गति को ठीक करता है।
  • लाभ: यह एक स्वयं-सुधार करने वाले GPS की तरह कार्य करता है। यह छात्र को एक सुसंगत गति (वेलोसिटी) सीखने के लिए मजबूर करता है ताकि बड़े, तेज़ कदम उठाने पर भी वे दुर्घटनाग्रस्त न हों या रास्ते से न भटकें। यह अतिरिक्त "सुरक्षा जाल" की आवश्यकता के बिना बारीक विवरणों को सुरक्षित रखता है।

परिणाम: तेज़ और स्पष्ट (Fast and Sharp)

इस शोध पत्र ने शक्तिशाली इमेज जनरेटरों (SD3-Medium और Longcat-Image) पर इस नए तरीके का परीक्षण किया।

  • गति: नया छात्र बहुत उच्च गुणवत्ता वाली छवियां केवल 4 स्टेप्स में बना सकता है (बहुत तेज़)।
  • गुणवत्ता: पिछली तेज़ विधियों की तुलना में छवियां अधिक स्पष्ट हैं और उनमें सूक्ष्म विवरण (जैसे यथार्थवादी बनावट) अधिक हैं।
  • सरलता: अन्य तेज़ तरीकों के विपरीत, CDM को धुंधलेपन को ठीक करने के लिए जटिल अतिरिक्त उपकरणों (जैसे GANs या रिवॉर्ड मॉडल) की आवश्यकता नहीं होती है। यह "स्मूथ हाईवे" शिक्षण पद्धति के माध्यम से खुद को ठीक करता है।

सारांश

संक्षेप में, शोध पत्र कहता है: "AI इमेज जनरेशन को तेज़ बनाने के लिए, छात्र की केवल निश्चित समय पर जाँच करना बंद करें। इसके बजाय, यादृच्छिक समय पर उनकी जाँच करें और 'काल्पनिक' ऑफ-रोड पथों पर उनकी गति का परीक्षण करें। यह उन्हें सुचारू रूप से और तेज़ी से चलाना सिखाता है, जिसके परिणामस्वरूप जटिल अतिरिक्त उपकरणों के बिना स्पष्ट, विस्तृत छवियां मिलती हैं।"

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.AI →