Raven: High-Recall Sequence Modeling with Sparse Memory Routing
يُعد Raven نموذج تسلسل خطي الزمن يعمل على تحسين استرجاع السياقات الطويلة عبر توظيف توجيه ذاكرة متفرق ومعتمد على المدخلات لتحديث مجموعة فرعية فقط من فترات الذاكرة الثابتة، مما يوازن بفعالية بين مشكلات التداخل في نماذج فضاء الحالة الكثيفة والقيود الصارمة للإخلاء في آلية الانتباه ذات النافذة المنزلقة.