LOCKS: Page-Local Compact Key Summaries for Efficient Long-Context Decoding
تُعد LOCKS إضافة جاهزة للاستخدام لـ vLLM تعمل على تسريع فك التشفير للسياقات الطويلة عبر تخصيص ملخص طيفي منخفض الرتبة ومدمج لكل صفحة ذاكرة لتقدير كتلة الانتباه بكفاءة واختيار الصفحات الأكثر صلة فقط، مما يقلل بشكل كبير من زمن الاستجابة واستهلاك الذاكرة مع الحفاظ على دقة تقارب دقة الانتباه الكامل.