Generative Diffusion Prior Distillation for Long-Context Knowledge Transfer
تقترح هذه الورقة البحثية "تقطير الأولوية الانتشارية التوليدية" (GDPD)، وهو إطار عمل جديد لتقطير المعرفة يستفيد من أولوية توليدية قائمة على الانتشار لمحاذاة ميزات الطالب ذات السلاسل الزمنية الجزئية تدريجياً مع تمثيلات المعلم ذات التسلسل الكامل، مما يعمل بفعالية على نقل معرفة السياق الطويل للتغلب على فجوات التعميم الناتجة عن محدودية البيانات المدخلة.