💻 computer science
Squeezing the Cache, Preserving the Truth: Monotonic Equipotential Allocation with Geodesia-KV
تُعد Geodesia-KV إطار عمل لضغط ذاكرة التخزين المؤقت (KV cache) جاهزاً للأجهزة ولا يتطلب تدريباً، حيث يوظف تخصيص دقة رتيبة على مستوى الكتل وقراءة استعلام متفرقة للتفوق بشكل كبير على الأساليب الحالية في كفاءة الارتياب وكفاءة عرض النطاق الترددي، مما يتيح توليد سياق يصل إلى مليون رمز (token) على وحدات معالجة رسومية استهلاكية بسعة 16 جيجابايت.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.