Efficient-DLM: From Autoregressive to Diffusion Language Models, and Beyond in Speed
تقدم هذه الورقة Efficient-DLM، وهو إطار عمل يحول النماذج التنبؤية ذاتية الانحدار سابقة التدريب إلى نماذج لغوية انتشارية عالية الكفاءة من خلال توظيف نمط انتباه قائم على الكتل وقناع رموز يعتمد على الموضع، مما يحقق دقة وإنتاجية متفوقة مقارنة بالنماذج الرائدة الحالية.