DiLaDiff: Distilled Latent-Augmented Diffusion for Language Modeling
DiLaDiff एक सिमेंटिक लेटेंट स्पेस, एक लेटेंट डिफ्यूजन प्रायर और कंसिस्टेंसी डिस्टिलेशन का उपयोग करने वाले एक तीन-चरणीय ढांचे को पेश करके डिफ्यूजन लैंग्वेज मॉडल्स में सैंपलिंग गुणवत्ता और थ्रूपुट के बीच के ट्रेड-ऑफ को संबोधित करता है ताकि उच्च-गुणवत्ता वाली, कुछ-चरणों वाली जनरेशन प्राप्त की जा सके जो मास्क डिफ्यूजन बेसलाइन्स से काफी बेहतर प्रदर्शन करती है।