ملخص تقني: تدريب المحولات (Transformers) لتعزيز قابلية ضغط ذاكرة التخزين المؤقت لـ KV

1. بيان المشكلة

تتعرض نماذج لغة النماذج طويلة السياق (Long-context language modeling) بشكل متزايد لعنق زجاجة يتمثل في ذاكرة التخزين المؤقت للمفاتيح والقيم (KV cache)، حيث تتناسب بصمتها الذاكرية وتكاليف الوصول إليها أثناء عملية فك التشفيد (decode-time) خطياً مع طول السابقة (prefix length). وبينما اقترحت الأعمال الحديثة طرقاً متنوعة لضغط السياق — تتراوح من تلخيص مستوى الرموز (token-level summarization) إلى الضغط القائم على التحسين (مثل مطابقة التدرج أو مطابقة الانتباه) — فإن هذه النهج تعمل كتدخلات "بعد الحدوث" (post-hoc) على نماذج مدربة مسبقاً وثابتة.

يكمن القيد الجوهري لهذه الطرق التي تُطبق بعد التدريب في أن فعاليتها مقيدة بشكل أساسي بقابلية ضغط التمثيلات الداخلية للنموذج. ويجادل البحث بأن القابلية للضغط ليست مجرد خاصية لتسلسل المدخلات أو المهمة، بل هي خاصية للتمثيلات المتعلمة داخل المحول (Transformer). وتحديداً، يمكن لعمليات تنفيذ مختلفة للمحول أن تنتج توزيعات متطابقة للرمز التالي لنفس تسلسل المدخلات، بينما تستخدم هياكل داخلية متباينة تماماً، بعضها بطبيعته مقاوم للضغط.

2. الدوافع النظرية

قام المؤلفون بصياغة مفهوم قابلية ضغط KV (KV-compressibility): يكون المحول قابلاً لضغط KV إذا وُجدت سياسة ضغط يمكنها رسم خريطة لذاكرة KV للمدخلات الطويلة إلى ذاكرة أقصر مع الحفاظ على توزيع الرمز التالي للنموذج ضمن خطأ محدود.

النتائج النظرية الرئيسية:

• وجود تنفيذات غير قابلة للضغط: يثبت البحث أنه لأي دالة (sequence-to-vector)، توجد تنفيذات للمحول تكون بطبيعتها غير قابلة للضغط (حيث يؤدي أي ضغط غير تافه إلى خطأ ثابت)، جنباً إلى جنب مع تنفيذات قابلة للضغط بدرجة عالية (قابلة للضغط إلى زوج واحد من KV).
• مثال توضيحي (حساب المدرج التكراري - Histogram): يوضح المؤلفون أن تنفيذاً "طبيعياً" للمحول لوظيفة المدرج التكراري (حساب تكرارات الرموز) يمكن أن يكون غير قابل للضغط لأنه يعتمد على متوسط تضمينات الرموز دون الحفاظ على المعلومات الموضعية اللازمة لتصحيح أخطاء القياس أثناء الضغط. وعلى العكس من ذلك، فإن تنفيذاً معدلاً قليلاً ومنظماً يشفر المعلومات الموضعية صراحةً والأعداد غير المعيرة يسمح بضغط مثالي إلى زوج واحد من KV.
• الاستنتاج: إن أهداف التدريب القياسية (التنبؤ بالرمز التالي - Next-Token Prediction) لا تشجع بطبيعتها على ظهور تمثيلات قابلة للضغط؛ بل قد تفضل حلولاً أبسط وغير قابلة للضغط.

3. المنهجية: التدريب الواعي بضغط KV (KV-CAT)

لمعالجة الفجوة النظرية، يقترح المؤلفون التدريب الواعي بضغط KV (KV-CAT)، وهو إجراء استمرار ما قبل التدريب (Continued Pretraining - CPT) مصمم لتحفيز ظهور تمثيلات داخلية قابلة للضغط.

آلية التدريب

يعدل KV-CAT حلقة التدريب القياسية عن طريق إدخال سياسة تشتيت (sparsification) لـ KV أثناء التدريب:

1. المسار المزدوج (Dual Forward Pass): لكل تسلسل تدريبي، يقوم النموذج بممرين:
   • المسار الكثيف (Dense Pass): المسار الأمامي القياسي حيث تكون جميع خانات KV نشطة.
   • المسار المقنع (Masked Pass): مسار أمامي حيث يقوم موجه (router) متعلم بحجب جزء من خانات KV (على سبيل المثال، الاحتفاظ بـ 50% فقط).
2. آلية الموجه (Router Mechanism): يتم إدراج موجهات خفيفة الوزن ومتعلمة (مُنفذة كأجزاء انتباه خطية) بين مجموعات الطبقات. وهي تخرج درجة عددية لكل رمز، والتي يتم عتبتها لإنتاج قناع ثنائي. يتم تدريب هذه الموجهات بشكل مشترك مع معاملات النموذج.
3. هدف التدريب (Training Objective): تجمع دالة الخسارة بين ثلاثة عناصر:
   • خسارة التقطير الذاتي ($L_{mask}$): تقلل من تباعد KL بين توزيع النموذج المقنع وتوزيع النموذج الكثيف. وهذا يجبر النموذج على الحفاظ على الأداء حتى عند حجب خانات KV.
   • خسارة المرساة ($L_{anchor}$): خسارة التنبؤ بالرمز التالي (NTP) القياسية المطبقة على المسار الكثفي للحفاظ على سلوك النموذج الأصلي ومنع النسيان الكارثي.
   • خسارة الميزانية ($L_{budget}$): حد من التنظيم يشجع الموجه على الحفاظ على معدل احتفاظ مستهدف (على سبيل المثال، 50%)، مما يمنع النموذج من حجب جميع الرموز أو عدم حجب أي منها بشكل تافه.

الاستدلال (Inference)

عند التقييم، يتم تعطيل الموجهات، ويعمل النموذج كمحول كثيف قياسي. بعد ذلك، تُطبق طرق الضغط التي تُطبق بعد الحدوث (مثل مطابقة الانتباه أو التحسين القائم على التدرج) على ذاكرة KV لهذا النموذج المدرب.

4. التقييم التجريبي

قيم المؤلفون KV-CAT على نماذج QWEN2.5 (بمعلمات 0.5B و 1.5B) باستخدام استمرار ما قبل التدريب على مجموعة بيانات FineWeb-Edu. وقارنوا نسخ KV-CAT مع النماذج الأساسية باستخدام أحدث طرق الضغط بعد الحدوث (مطابقة الانتباه والتحسين القائم على التدرج) عبر ثلاثة محاور:

1. الأداء غير المضغوط (Q1):

   • حافظت نماذج KV-CAT على أداء مماثل للنماذج الأساسية في اختبارات الاختيار من متعدد القياسية (HellaSwag, WinoGrande, PIQA، إلخ)، مع فروق ضئيلة في الدقة. وهذا يؤكد أن إجراء التدريب لا يضحي بالقدرات القياسية مقابل القابلية للضغط.

2. جودة الضغط تحت ميزانية ثابتة (Q2):

   • الارتباك اللاحق (Suffix Perplexity): في ظل ميزانيات تحسين ثابتة، حققت نماذج KV-CAT باستمرار احتفاظاً أفضل بارتباك اللاحق مقارنة بالنماذج الأساسية. ووصلت التحسينات إلى 3.21 ضعف في الاحتفاظ بالارتباك.
   • سرعة التحسين: عند استخدام الضغط القائم على التدرج، تطلبت نماذج KV-CAT خطوات تحسين أقل بمقدار يصل إلى 5 أضعاف لتحقيق نفس جودة الضغط التي حققها النموذج الأساسي.

3. المهام النهائية (Q3 & Q4):

   • الاسترجاع (إبرة في كومة قش - Needle-in-a-Haystack): حسن KV-CAT دقة المطابقة التامة لاسترجاع السياقات المضغوطة، مع مكاسب تصل إلى 68% في نسب الاحتفاظ المحددة (مثل نسب الاحتفاظ 30-50%).
   • الأسئلة والأجوبة ذات السياق الطويل (Long-Context QA): أظهرت نماذج KV-CAT تحسينات كبيرة في الدقة (تصل إلى 39%) عند ضغط السياقات، متفوقة على النماذج الأساسية عبر مختلف المجالات الفرعية (القانون، الأكاديمي، سجل الوكيل، إلخ).

5. المساهمات الرئيسية

يدعي البحث المساهمات التالية:

1. توصيف القابلية للضغط: تعريف قابلية ضغط KV كخاصية للتمثيل المتعلم للمحول وليس فقط لتسلسل المدخلات.
2. الإثبات النظري: إثبات أن معظم دوال (sequence-to-vector) تسمح بوجود تنفيذات للمحول قابلة للضغط وغير قابلة للضغط.
3. إطار عمل KV-CAT: اقتراح إجراء تدريب يشجع صراحةً على ظهور تمثيلات قابلة للضغط عبر التشتيت أثناء التدريب والتقطير الذاتي.
4. التحقق التجريبي: إظهار أن KV-CAT يحسن المقايضة بين الجودة والميزانية لطرق الضغط بعد الحدوث عبر الاسترجاع، والارتباك، والأسئلة والأجوبة ذات السياق الطويل دون تدهور الأداء غير المضغوط.

6. الأهمية والادعاءات

يضع البحث KV-CAT ليس كبديل لخوارزميات الضغط بعد الحدوث، بل كنهج مكمل يجعل النماذج أكثر استجابة لها. تكمن الأهمية في نقل هدف التحسين من خوارزمية الضغط نفسها إلى ديناميكيات تدريب النموذج. ومن خلال تعريض النموذج لقيود الضغط أثناء التدريب، يجادل المؤلفون بأن النماذج تتعلم تمثيلات قوية هيكلياً تجاه فقدان المعلومات، مما يتيح استدلالاً أكثر فعالية للسياقات الطويلة مع تقليل تكاليف الذاكرة والحوسبة.

يظل المؤلفون متواضعين فيما يتعلق بالقيود، مشيرين إلى أن الطريقة تزيد من عبء التدريب (موجهات إضافية ومسارات مزدوجة) وتعقيد التنفيذ، وأن التعميم على نماذج أكبر نطاقاً أو مجالات مختلفة يتطلب مزيداً من الاستقصاء.