Maglev: Sliding Recurrent Memory
تقدم الورقة البحثية Maglev، وهي بنية Transformer متكررة تجمع بين مرحلة تعبئة (prefiller) ذات انتباه كامل مع فك تشفير بنظام النافذة المنزلقة (sliding-window decoder) يتم تدريبه عبر فقد اتساق الذاكرة (memory consistency loss) لتحقيق ذاكرة ثابتة الحجم، وتدريب قابل للتوازي، وأداء متفوق على النماذج المرجعية الحالية ذات النافذة المنزلقة والنموذج المتكرر الكامن.