💬 NLP

Smoothie: Smoothing Diffusion on Token Embeddings for Text Generation

यह शोध पत्र "Smoothie" को पेश करता है, जो टेक्स्ट जनरेशन के लिए एक नवीन डिफ्यूजन विधि है, जो निरंतर लेटेंट स्पेस और डिस्क्रीट टोकन डिकोडिंग के बीच के अंतर को प्रभावी ढंग से पाटने के लिए सिमेंटिक समानता के आधार पर टोकन एम्बेडिंग्स को प्रगतिशील रूप से स्मूथ करती है, जिससे मौजूदा डिफ्यूजन मॉडल्स की तुलना में बेहतर जनरेशन गुणवत्ता प्राप्त होती है।

मूल लेखक: Alexander Shabalin, Viacheslav Meshchaninov, Dmitry Vetrov

प्रकाशित 2026-05-18

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Alexander Shabalin, Viacheslav Meshchaninov, Dmitry Vetrov

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कंप्यूटर को कहानी लिखना सिखाने की कोशिश कर रहे हैं। वर्षों तक, सबसे अच्छे कंप्यूटर "ऑटोकरेक्ट के स्टेरॉयड" की तरह रहे हैं, जो एक-एक करके अगले शब्द का अनुमान लगाते थे। लेकिन हाल ही में, एक नया प्रकार का AI जिसे डिफ्यूजन मॉडल (Diffusion Model) कहा जाता है, अद्भुत चित्र, संगीत और वीडियो बनाने के लिए प्रसिद्ध हुआ है।

समस्या क्या है? ये डिफ्यूजन मॉडल चिकनी, निरंतर चीजों (जैसे पेंटिंग में रंगों का ग्रेडिएंट) के लिए बेहतरीन हैं, लेकिन टेक्स्ट के साथ उन्हें संघर्ष करना पड़ता है क्योंकि टेक्स्ट डिस्क्रीट (discrete) यानी असतत होता है। आप "आधा शब्द" या "थोड़ा सा लाल शब्द" नहीं रख सकते। या तो वह "बिल्ली" है या "कुत्ता", उसके बीच कुछ भी नहीं।

पिछले प्रयास "गोल छेद में चौकोर खूँटा ठोंकने" जैसे थे:

"धुंधला" दृष्टिकोण (The "Blurry" Approach): उन्होंने शब्दों को धुंधले रंगों की तरह माना। इसने अर्थ को तो सुचारू रखा लेकिन परिणाम को स्पष्ट शब्द में वापस बदलना असंभव बना दिया।
"रैंडम स्वैप" दृष्टिकोण (The "Random Swap" Approach): उन्होंने शब्दों को ताश के पत्तों की तरह माना, जिन्हें बेतरतीब ढंग से बदला जा रहा था। इसने शब्दों को तो स्पष्ट रखा लेकिन अर्थ खो दिया (शब्दों को "खुश" से "दुखी" में बदलना उतना ही आसान था जितना "खुश" से "प्रसन्न" में बदलना)।

पेश है SMOOTHIE: द "सेमेंटिक स्मूदर" (The Semantic Smoother)

लेखक इस पेपर में एक नई विधि प्रस्तावित करते हैं जिसे SMOOTHIE (Smoothing Diffusion on Token Embeddings) कहा जाता है। इसे एक सरल उपमा (analogy) का उपयोग करके समझते है:

1. अर्थ का मानचित्र (The Map of Meaning - The Embedding Space)

कल्पना कीजिए कि शब्दकोश का हर शब्द एक विशाल मानचित्र पर एक शहर है।

"बिल्ली" (Cat) और "बिल्ली का बच्चा" (Kitten) एक-दूसरे के बिल्कुल बगल वाले शहर हैं।
"बिल्ली" और "कुत्ता" (Dog) थोड़े दूर हैं।
"बिल्ली" और "हवाई जहाज" (Airplane) दुनिया के विपरीत छोरों पर हैं।

पुराने "धुंधले" दृष्टिकोण में, वे केवल शहर के निर्देशांकों (coordinates) में शोर (noise) जोड़ देते थे, जिससे अंततः यह पहचानना असंभव हो जाता था कि आप किस शहर में हैं। "रैंडम स्वैप" दृष्टिकोण में, वे मानचित्र की पूरी तरह से अनदेखी करते हुए, आपको बस एक यादृच्छिक शहर में टेलीपोर्ट कर देते थे।

2. स्मूथिंग प्रक्रिया (The Smoothing Process)

SMOOTHIE कुछ चतुर करता है। केवल शहर के निर्देशांकों में शोर जोड़ने के बजाय, यह मानचित्र पर आपके वर्तमान शहर और हर अन्य शहर के बीच की दूरी को देखता है।

फॉरवर्ड प्रोसेस (शोर जोड़ना - The Forward Process): कल्पना कीजिए कि आप "बिल्ली" के शहर में खड़े हैं। जैसे-जैसे AI शोर जोड़ता है, यह केवल आपकी स्थिति को धुंधला नहीं करता। इसके बजाय, यह आपकी पहचान को मानचित्र पर "फैलाना" (smear) शुरू कर देता है।
- पहले, आप थोड़े से "बिल्ली के बच्चे" और "फेलिन" (आपके पड़ोसी) जैसे दिखने लगते हैं।
- फिर, आप थोड़े से "कुत्ते" (पड़ोसी के पड़ोसी) जैसे दिखने लगते हैं।
- अंत में, आप थोड़ा-थोड़ा सब कुछ बन जाते हैं, लेकिन फिर भी मुख्य रूप से आप "बिल्ली" ही दिखते हैं।
- जादू: क्योंकि AI जानता है कि "बिल्ली" "बिल्ली के बच्चे" के करीब है, इसलिए यह जानकारी को पहले "बिल्ली के बच्चे" की ओर फैलाता है। यह सेमेंटिक मानचित्र का सम्मान करता है। जब तक शोर बहुत अधिक नहीं हो जाता, तब तक यह "बिल्ली" को "हवाई जहाज" की ओर नहीं फैलाता।
रिवर्स प्रोसेस (डिनोइजिंग - The Reverse Process): अब, AI को इसे उलटना होगा। यह एक बिखरे हुए, फैले हुए सिग्नल (बिल्ली, बिल्ली का बच्चा, कुत्ता आदि का मिश्रण) से शुरू होता है और पीछे की ओर काम करता है। क्योंकि वह मानचित्र को जानता है, इसलिए वह कह सकता है, "आह, यह बिखरा हुआ सिग्नल मुख्य रूप से 'बिल्ली' है जिसमें थोड़ा 'बिल्ली के बच्चे' का शोर है, तो चलिए इसे वापस 'बिल्ली' में साफ करते हैं।"

3. यह क्यों मायने रखता है

पेपर का दावा है कि शब्दों के बीच की "दूरी" (सेमेंटिक समानता) का सम्मान करते हुए और फिर भी शब्दों को विशिष्ट (डिस्क्रीट) रखते हुए, SMOOTHIE दोनों दुनियाओं का सर्वश्रेष्ठ परिणाम देता है।

बेहतर गुणवत्ता: अपने परीक्षणों में, SMOOTHIE ने पिछले डिफ्यूजन मॉडलों की तुलना में बेहतर कहानियाँ, सारांश और पैराफ्रेस लिखे। यह शीर्ष "शब्द-दर-शब्द" भविष्यवाणी करने वाले मॉडलों के साथ प्रतिस्पर्धी भी था।
नियंत्रण (Control): उन्होंने एक "नॉब" (जिसे $\tilde{\delta}$ $\tilde{δ}$ कहा जाता है) पाया जो सफाई के दौरान कितनी यादृच्छिकता (randomness) की अनुमति दी जाती है, इसे नियंत्रित करता है।
- इसे कम करें: AI बहुत सुरक्षित, मानक वाक्य लिखता है (उच्च गुणवत्ता, कम विविधता)।
- इसे बढ़ाएँ: AI अधिक रचनात्मक और अनूठा होता है (उच्च विविधता, थोड़ी कम गुणवत्ता)।
- यह उन्हें "प्रवाह" (क्या यह स्वाभाविक लगता है?) और "विविधता" (क्या यह दिलचस्प है?) के बीच संतुलन बनाने की अनुमति देता है।

ट्रेड-ऑफ: गति बनाम बुद्धिमत्ता (Speed vs. Smarts)

इसमें एक कमी है। क्योंकि SMOOTHIE को यह करने के लिए लगातार शब्दकोश के हर दूसरे शब्द और वर्तमान शब्द के बीच की दूरी की जांच करनी पड़ती है, इसलिए यह कुछ अन्य तरीकों की तुलना में धीमा है।

उपमा: कल्पना कीजिए कि एक लाइब्रेरियन, जो केवल एक किताब उठाने के बजाय, उस किताब को खोजने से पहले हर गलियारे में जाकर यह जांचता है कि हर किताब उसके द्वारा खोजी जा रही किताब के कितने समान है। इसमें समय अधिक लगता है, लेकिन निर्णय बहुत स्मार्ट होता है।

सारांश

यह पेपर SMOOTHIE को पेश करता है, जो डिफ्यूजन का उपयोग करके टेक्स्ट जेनरेट करने का एक नया तरीका है। शब्दों को यादृच्छिक प्रतीकों या धुंधले रंगों के रूप में मानने के बजाय, यह उन्हें अर्थ के मानचित्र पर बिंदुओं के रूप में मानता है। शब्दों को उनके अर्थ के आधार पर कितना करीब है, इस आधार पर "स्मूथ" करके, यह उच्च-गुणवत्ता वाला टेक्स्ट बनाता है जो शब्दों की डिस्क्रीट प्रकृति और उनके सेमेंटिक संबंधों दोनों का सम्मान करता है, और कई लेखन कार्यों पर पिछले तरीकों से बेहतर प्रदर्शन करता है।

तकनीकी सारांश: SMOOTHIE (Smoothing Diffusion on Token Embeddings)

समस्या विवरण

डिफ्यूजन मॉडल निरंतर डोमेन जैसे कि छवियों और ऑडियो में अत्याधुनिक परिणाम प्राप्त कर चुके हैं, लेकिन भाषा के असतत (discrete) स्वभाव के कारण टेक्स्ट जनरेशन में उन्हें महत्वपूर्ण चुनौतियों का सामना करना पड़ता है। मौजूदा दृष्टिकोण आम तौर पर दो श्रेणियों में आते हैं, जिनमें से प्रत्येक की अपनी विशिष्ट सीमाएँ हैं:

लेटेंट स्पेस में गॉसियन डिफ्यूजन (Gaussian Diffusion in Latent Spaces): ये विधियाँ निरंतर टोकन एम्बेडिंग्स पर गॉसियन शोर (noise) लागू करती हैं। हालांकि ये सिमेंटिक संरचना को बनाए रखती हैं (यूक्लिडियन सिमेंटिक स्पेस परिकल्पना के आधार पर), इन्हें डिस्क्रीट डिकोडिंग चरण में संघर्ष करना पड़ता है, जिसके लिए अक्सर निरंतर वेक्टर्स को वापस टोकन्स में मैप करने के लिए एक स्पष्ट मैपिंग की आवश्यकता होती है जो अस्थिर या सूचनात्मक रूप से नुकसानदेह (lossy) हो सकती है।
कैटेगोरिकल/सिम्प्लेक्स डिफ्यूजन (Categorical/Simplex Diffusion): ये विधियाँ सीधे शब्दावली प्रोबेबिलिटी सिम्प्लेक्स या कैटेगोरिकल डिस्ट्रीब्यूशन पर कार्य करती हैं। हालांकि ये टेक्स्ट की डिस्क्रीट प्रकृति का सम्मान करती हैं और स्पष्ट डिकोडिंग की आवश्यकता को समाप्त करती हैं, लेकिन ये आमतौर पर नॉइजिंग प्रक्रिया के दौरान टोकन्स के बीच सिमेंटिक संबंधों की अनदेखी करती हैं। इससे सूचना का क्षरण अधिक अनिश्चित और कम अर्थपूर्ण हो जाता है।

मूल समस्या एक ऐसे डिफ्यूजन फ्रेमवर्क की कमी है जो एक साथ टेक्स्ट की डिस्क्रीट प्रकृति का सम्मान करे और सिमेंटिक सुसंगतता बनाए रखते हुए सिमेंटिक जानकारी को प्रगतिशील रूप से हटा सके।

कार्यप्रणाली: SMOOTHIE

लेखक SMOOTHIE (Smoothing Diffusion on Token Embeddings) प्रस्तावित करते हैं, जो एक नवीन फ्रेमवर्क है जो सिमेंटिक समानता के आधार पर टोकन एम्बेडिंग्स को स्मूथ करके निरंतर और डिस्क्रीट डिफ्यूजन के बीच के अंतर को पाटता है।

1. फॉरवर्ड डिफ्यूजन प्रक्रिया (Noising)

एम्बेडिंग्स या कैटेगोरिकल प्रोबेबिलिटीज पर सीधे शोर जोड़ने के बजाय, SMOOTHIE प्रत्येक लक्षित अनुक्रम (target sequence) में प्रत्येक टोकन $w_i$ को उसके एम्बेडिंग और शब्दावली के सभी टोकन्स के एम्बेडिंग्स के बीच नेगेटिव स्क्वेर्ड यूक्लिडियन डिस्टेंस के वेक्टर के रूप में प्रस्तुत करता है:
$D_0 = \left( -\|E_{w_i} - E_j\|^2 \right)_{i,j=1}^{m,V}$
जहाँ $E$ एक फिक्स्ड एम्बेडिंग मैट्रिक्स (जैसे, BERT से) है, $m$ अनुक्रम की लंबाई है, और $V$ शब्दावली का आकार है।

फॉरवर्ड प्रक्रिया इन डिस्टेंस वेक्टर्स में गॉसियन शोर जोड़कर इन्हें धीरे-धीरे विचलित करती है:
$q(D_t | D_0) = \mathcal{N}\left(D_t \mid \frac{1}{\sigma_t^2}D_0, \delta^2 I\right)$
यहाँ, $\sigma_t$ बैंडविड्थ को नियंत्रित करने वाला एक नॉइज़ शेड्यूलर है, और $\delta$ स्टोकास्टिसिटी (stochasticity) को नियंत्रित करता है। नॉइजी वेक्टर $D_t$ को सॉफ्टमैक्स फंक्शन का उपयोग करके शब्दावली पर एक प्रोबेबिलिटी डिस्ट्रीब्यूशन में परिवर्तित किया जाता है: $p_t = \text{softmax}(D_t)$ ।

मुख्य अंतर्दृष्टि: जैसे-जैसे शोर बढ़ता है (और $\sigma_t$ बढ़ता है), शुरू में सही टोकन पर केंद्रित प्रोबेबिलिटी मास धीरे-धीरे अन्य टोकन्स पर वितरित होता है। महत्वपूर्ण रूप से, क्योंकि इनपुट यूक्लिडियन दूरियों पर आधारित है, प्रोबेबिलिटी मास पहले सिमेंटिक रूप से समान टोकन्स (वे टोकन्स जिनके बीच यूक्लिडियन दूरी कम है) तक फैलता है और फिर दूर के टोकन्स तक पहुँचता है। यह एक "हीट डिसिपेशन" (ऊष्मा प्रसार) सिद्धांत की नकल करता है, जिससे यह सुनिश्चित होता है कि सिमेंटिक जानकारी अराजक होने के बजाय प्रगतिशील रूप से हटाई जाए।

2. रिवर्स डिफ्यूजन प्रक्रिया (Denoising)

रिवर्स प्रक्रिया को एक मार्कोव चेन के रूप में मॉडल किया गया है जहाँ एक न्यूरल नेटवर्क $f_\theta$ नॉइजी इनपुट $p_t$ से मूल डिस्टेंस वेक्टर $D_0$ (या उसके स्केल किए गए संस्करण) की भविष्यवाणी करता है। मॉडल वास्तविक डिस्टेंस वेक्टर्स और अनुमानित वेक्टर्स के बीच मीन स्क्वेर्ड एरर (MSE) को कम करने के लिए प्रशिक्षित किया जाता है:
$L(\theta) = \mathbb{E}[\|D_0 - g_\theta(p_t, t)\|^2]$
लेखक सिद्ध करते हैं कि डिस्टेंस वेक्टर की भविष्यवाणी करना अपेक्षित एम्बेडिंग की भविष्यवाणी करने के बराबर है, जिससे मॉडल एक स्वच्छ एम्बेडिंग अनुमान आउटपुट कर सकता है जिसे फिर नियरएस्ट-नेबर सर्च या argmax के माध्यम से टोकन में बदला जा सकता है।

3. सैंपलिंग और सॉल्वर (Sampling and Solver)

लेखक एक विशिष्ट सैंपलिंग स्कीम (Eq. 9) पेश करते हैं जो मॉडल के प्रेडिक्शन को सीधे अपने लेटेंट स्टेट पर लागू करके लेटेंट स्टेट को अपडेट करती है, बजाय इसके कि मानक DDPM सॉल्वर की तरह पिछले हिडन स्टेट पर निर्भर रहा जाए।
$D_{t-1} = \frac{1}{\sigma_{t-1}^2}D_0(f_\theta(p_t, t)) + \tilde{\delta}\epsilon$
यह दृष्टिकोण अपडेट स्टेप के दौरान पिछले हिडियन स्टेट को अनदेखा करता है। लेखक तर्क देते हैं कि टेक्स्ट एम्बेडिंग्स के स्पार्स डेटा डिस्ट्रीब्यूशन के लिए यह फायदेमंद है, जिससे लेटेंट रिप्रेजेंटेशन के डेटा मैनिफोल्ड से भटकने का जोखिम कम हो जाता है।

4. आर्किटेक्चर और कंडीशनिंग

आर्किटेक्चर: UNet-स्टाइल स्किप कनेक्शंस के साथ ट्रांसफॉर्मर डिकोडर लेयर्स पर आधारित।
कंडीशनिंग: सीक्वेंस-टू-सीक्वेंस कार्यों के लिए, एक अतिरिक्त ट्रांसफॉर्मर एनकोडर सोर्स सीक्वेंस को प्रोसेस करता है, जिसे क्रॉस-अटेंशन के माध्यम से एकीकृत किया जाता है।
सेल्फ-कंडीशनिंग: मॉडल सेल्फ-कंडीशनिंग का उपयोग करता है, जिसमें अपने स्वयं के पिछले प्रेडिक्शन को अगले स्टेप्स के इनपुट के रूप में फीड किया जाता है ताकि स्थिरता और गुणवत्ता में सुधार हो सके।

मुख्य योगदान

नवीन डिफ्यूजन फ्रेमवर्क: SMOOTHIE पहला टेक्स्ट डिफ्यूजन मेथड है जो एक साथ टेक्स्ट की डिस्क्रीट प्रकृति का सम्मान करता है और यूक्लिडियन दूरियों के आधार पर टोकन एम्बेडिंग्स को स्मूथ करके सिमेंटिक जानकारी को प्रगतिशील रूप से हटाता है।
सिम्प्लेक्स डिफ्यूजन का सामान्यीकरण: लेखक सैद्धांतिक रूप से प्रदर्शित करते हैं कि उनका डिस्टेंस-आधारित लेटेंट स्पेस, सिम्प्लेक्स-आधारित लेटेंट स्पेस (जो SSD-LM और TESS में उपयोग किया जाता है) को सामान्यीकृत करता है। सिम्प्लेक्स डिफ्यूजन को SMOOTHIE के एक विशेष मामले के रूप में दिखाया गया है जहाँ डिस्टेंस मेट्रिक ट्रिवियल (समान टोकन के लिए 0, अन्यथा 1) है।
सुधारित सैंपलिंग सॉल्वर: पेपर एक ऐसा सॉल्वर प्रस्तावित करता है जो अपडेट के दौरान पिछले हिडन स्टेट को अनदेखा करता है, जो अनुभवजन्य रूप से सीक्वेंस-टू-सीक्वेंस कार्यों पर मानक DDPM और DDIM सॉलवर्स की तुलना में बेहतर प्रदर्शन करता है।
अनुभवजन्य श्रेष्ठता (Empirical Superiority): व्यापक प्रयोगों से पता चलता है कि SMOOTHIE मौजूदा डिफ्यूजन मॉडल्स (एम्बेडिंग-आधारित और सिम्प्लेक्स-आधारित वेरिएंट सहित) को पछाड़ देता है और कई कार्यों में ऑटोरिग्रेसिव मॉडल्स (जैसे BART और GPT-2) के समान गुणवत्ता प्राप्त करता है।

प्रयोगात्मक परिणाम

लेखकों ने एक अनकंडीशनल जनरेशन टास्क (ROCStories) और चार सीक्वेंस-टू-सीक्वेंस टास्क (Quora Question Pairs, Quasar-T, XSum, ParaDetox) पर SMOOTHIE का मूल्यांकन किया।

प्रदर्शन: SMOOTHIE लगातार अन्य डिफ्यूजन बेसलाइन्स (DiffuSeq, TESS, SSD-LM, TEncDM, आदि) और वैकल्पिक लेटेंट स्पेस इम्प्लीमेंटेशन (एक ही फ्रेमवर्क के भीतर प्रशिक्षित एम्बेडिंग-आधारित और सिम्प्लेक्स-आधारित डिफ्यूजन) को पीछे छोड़ देता है।
मेट्रिक्स:
- XSum: इसने 68.8 का BERTScore और 26.0 का ROUGE-L प्राप्त किया, जो अन्य डिफ्यूजन मेथड्स को पछाड़ते हुए ऑटोरिग्रेसिव बेसलाइन्स के करीब पहुँच गया।
- ROCStories: इसने डिफ्यूजन मॉडल्स में उच्चतम MAUVE स्कोर (80.7) प्राप्त किया, जो लगभग GPT-2 (78.9) के बराबर है, जबकि उच्च विविधता बनाए रखी।
- ParaDetox: इसने टेक्स्ट डिटॉक्सिफिकेशन के लिए उच्चतम J-Score (51.7) प्राप्त किया।
एब्लेशन स्टडीज (Ablation Studies):
- $\tilde{\delta}$ (Stochasticity): कम $\tilde{\delta}$ मान (जैसे 0.1) ने सीक्वेंस-टू-सीक्वेंस कार्यों के लिए परप्लेक्सिटी और कोहेरेंस में सुधार किया, जबकि अनकंडीशनल जनरेशन के लिए उच्च विविधता बनाए रखने के लिए थोड़े उच्च मान इष्टतम थे।
- सॉल्वर: प्रस्तावित सॉल्वर (Eq. 9) ने सभी कार्यों में DDPM और DDIM की तुलना में लगातार बेहतर प्रदर्शन किया।
- एम्बेडिंग्स: मॉडल प्री-ट्रेंड BERT एम्बेडिंग्स पर निर्भर करता है। एब्लेशन से पता चला कि जबकि GPT-2 एम्बेडिंग्स ने समान प्रदर्शन किया, GloVe एम्बेडिंग्स के परिणामस्वरूप निम्न गुणवत्ता मिली, जो एम्बेडिंग की गुणवत्ता के महत्व को रेखांकित करती है।

महत्व और दावे

पेपर का दावा है कि SMOOTHIE सिमेंटिक संरक्षण और डिस्क्रीट स्ट्रक्चर के बीच के ट्रेड-ऑफ को हल करके टेक्स्ट डिफ्यूजन में एक महत्वपूर्ण कदम है। यूक्लिडियन दूरियों के माध्यम से नॉइज़ एडिशन प्रक्रिया में सिमेंटिक संबंधों को सीधे शामिल करके, यह विधि एक "प्राकृतिक डिकोडिंग प्रक्रिया" सक्षम करती है जहाँ सूचना को धीरे-धीरे और अर्थपूर्ण तरीके से हटाया जाता है।

लेखक विनम्रतापूर्वक नोट करते हैं कि हालांकि यह विधि अन्य कैटेगोरिकल डोमेन (जैसे ग्राफ, प्रोटीन सीक्वेंस) के लिए लागू करने योग्य है, लेकिन वर्तमान में यह MSE लॉस की स्थिरता संबंधी चुनौतियों के कारण एंड-टू-एंड ट्रेनिंग के बजाय प्री-ट्रेंड एम्बेडिंग्स पर निर्भर है। वे प्रत्येक स्टेप पर पेयरवाइज डिस्टेंस की गणना करने की कम्प्यूटेशनल बाधा को भी स्वीकार करते हैं, लेकिन तर्क देते हैं कि प्रदर्शन लाभ इस लागत को न्यायोचित ठहराते हैं, और यह विधि उन कार्यों के लिए एक मजबूत विकल्प प्रदान करती है जिनमें उच्च विविधता और नियंत्रण की आवश्यकता होती है।

यह कार्य सुझाव देता है कि लेटेंट स्पेस का चुनाव और विशिष्ट डिफ्यूजन सॉल्वर, मॉडल आर्किटेक्चर जितना ही महत्वपूर्ण है, जिसमें SMOOTHIE निरंतर और डिस्क्रीट दोनों डिफ्यूजन दृष्टिकोणों की शक्तियों का लाभ उठाने वाला एक एकीकृत फ्रेमवर्क प्रदान करता है।