Beyond Masks: Efficient, Flexible Diffusion Language Models via Deletion-Insertion Processes
यह शोध पत्र डिलीशन-इंसर्शन डिफ्यूजन (DID) लैंग्वेज मॉडल्स का परिचय देता है, जो मौजूदा मास्क्ड डिफ्यूजन लैंग्वेज मॉडल्स की तुलना में बेहतर कम्प्यूटेशनल दक्षता, नेटिव वेरिएबल-लेंथ सपोर्ट और अंतर्निहित सेल्फ-करेक्शन क्षमताओं को प्राप्त करने के लिए टोकन मास्किंग प्रतिमान को कठोर डिलीशन और इंसर्शन प्रक्रियाओं से बदल देते हैं।