Mixture of Chapters: Scaling Learnt Memory in Transformers

إليك ملخص تقني مفصل لورقة البحث بعنوان "Mixture of Chapters: Scaling Learnt Memory in Transformers" (خليط الفصول: توسيع نطاق الذاكرة المتعلمة في نماذج المحولات).

١. بيان المشكلة

تفتقر بنيات "المحولات" (Transformers) القياسية إلى آلية صريحة ومستمرة لتخزين وتنظيم المعرفة المكتسبة أثناء التدريب. بدلاً من ذلك، تعتمد على معرفة ضمنية مشفرة داخل معاملات كثيفة (dense parameters)، مما يجعل الذاكرة صعبة الفحص أو التعديل أو التوسيع بشكل مستقل.

• القيود الحالية: الحلول الموجودة مثل الاحتفاظ بذاكرة التخزين المؤقت لـ KV (KV-cache)، أو التوليد المعزز بالاسترجاع (RAG)، أو الأدوات الخارجية، تدير في المقام الأول السياق المعالج أو تسترجع معلومات خارجية. وهي لا توفر مخزناً ذاكرياً ترابطياً داخلياً للمعلومات الواقعية.
• عنق الزجاجة: بينما يعد إضافة بنك ذاكرة متعلم (latent tokens) أمراً ممكناً نظرياً، فإن إجراء انتباه متقاطع كثيف (dense cross-attention) عبر بنك ذاكرة ضخم هو أمر مكلف حوسبياً ($O(L \cdot N_m)$)، مما يمنع توسيع سعة الذاكرة إلى أحجام مفيدة.

٢. المنهجية: خليط الفصول (Mixture of Chapters - MoC)

يقترح المؤلفون "خليط الفصول" (MoC)، وهي بنية مبتكرة تدمج بنك ذاكرة متفرقاً وقابلاً للتعلم داخل طبقات المحولات القياسية.

المكونات الأساسية

١. بنك الذاكرة الكامن المتعلم:

• مجموعة من الرموز الكامنة ($N_m$) (على سبيل المثال، ٢٦٢,٢٠٨ رموز) يتم تهيئتها عشوائياً وتدريبها من البداية إلى النهاية (end-to-end).
• تعمل هذه الرموز كمخزن مستمر للمعرفة الواقعية.
• يتم الوصول إليها عبر الانتباه المتقاطع (cross-attention): حيث تولد تدفقات الرموز الاستعلامات ($Q$)، بينما يوفر بنك الذاكرة المفاتيح ($K$) والقيم ($V$).

٢. التوجيه القائم على الفصول (الوصول المتفرق):

• لتجنب تكلفة الانتباه إلى جميع رموز الذاكرة، يتم تقسيم البنك إلى $C$ من "الفصول" (على سبيل المثال، ٤,٠٩٧ فصلاً).
• آلية التوجيه (Router): يأخذ موجه خفيف الوزن تمثيلاً مجمعاً للتسلسل المدخل ($r = \text{Pool}(H)$) ويحسب توزيعاً احتمالياً على الفصول.
• اختيار Top-K: يختار الموجه فقط أفضل $k$ من الفصول الأكثر صلة (على سبيل المثال، $k=64$) لمدخل معين.
• الحساب: ينتبه النموذج فقط إلى الفصول المختارة ($M_S$)، مما يقلل من تعقيد الانتباه من $O(L \cdot N_m)$ إلى $O(L \cdot k \cdot T)$، حيث $T$ هو عدد الرموز لكل فصل.

٣. التكامل مع البنية:

• يتم إدراج طبقة MoC في كتل المحولات القياسية التي تعتمد على فك التشفين فقط (decoder-only).
• تتكون من وحدة انتباه متقاطع للذاكرة متبوعة باتصال متبقي (residual connection)، بشكل مشابه للانتباه الذاتي القياسي ولكن مع الاستعلام من بنك الذاكرة الخارجي.

٣. المساهمات الرئيسية

١. بنك ذاكرة ترابطي متعلم: تقديم بنك من الرموز الكامنة المستمرة والقابلة للعنونة والتي يتم تدريبها من البداية إلى النهاية، مما يسمح بالاسترجاع الداخلي في مساحة كامنة مدمجة بدلاً من الاعتماد على الاسترجاع القائم على النصوص.
٢. خليط الفصول (MoC): تطوير آلية وصول متفرقة قابلة للتوسع مستوحاة من "خليط الخبراء" (Mixture-of-Experts). من خلال توجيه المدخلات إلى فصول ذاكرة محددة، يقوم النموذج بتوسيع سعة الذاكرة إلى ٢٦٢ ألف رمز مع الحفاظ على حسابات معقولة.
٣. تقييم Iso-FLOP: تقييم البنية مقابل المحولات الكثيفة القياسية تحت ميزانيات حوسبة ثابتة (iso-FLop)، مما أثبت أن الذاكرة الصريحة توفر سعة تكميلية للتعلم القائم على المعاملات.
٤. تحليل الاستبقاء: تقديم أدلة تجريبية على أن الذاكرة الصريحة تحسن استبقاء المعرفة أثناء التدريب المستمر (مثل الانتقال من مرحلة ما قبل التدريب إلى الضبط الدقيق للتعليمات)، مما يخفف من النسيان الكارثي.

٤. النتائج التجريبية

قيم المؤلفون نموذجهم على مهام ما قبل التدريب والضبط الدقيق للتعليمات (IFT) باستخدام ميزانية ما قبل تدريب تبلغ ٩.٦ مليار رمز وضبط دقيق مكثف (دورتان تدريبيتان على ٢٣٠ مليون رمز).

• أداء ما قبل التدريب:

• حقق نموذج MoC خسارة تحقق (validation loss) أقل (٢.٧٩) مقارنة بالنموذج المرجعي الكثيف (iso-FLOP) الذي سجل (٢.٨٦) والنموذج المعتمد على الهيكل الأساسي فقط (٢.٩٢).

• يشير هذا إلى أن بنك الذاكرة يضيف سعة فعالة تتجاوز ما يمكن تحقيقه بمجرد زيادة عمق أو عرض النموذج ضمن نفس ميزانية الحوسبة.

• استبقاء المعرفة والنسيان:

• السيناريو: بعد الضبط الدقيق المكثف للتعليمات، عانت النماذج الكثيفة من "نسيان كارثي" كبير في الاختبارات المعتمدة على المعرفة.

• النتائج:

  • تحدي ARC: انخفض النموذج المرجعي الكثف بنسبة ٦.٦٩٪ (مقترباً من التخمين العشوائي)، بينما انخفض MoC بنسبة ٢.٦٨٪ فقط.
  • BoolQ: انخفض النموذج المرجعي الكثف بنسبة ٦.٢٤٪، بينما ظل MoC مستقراً بتغيير طفيف (+٠.٢٤٪).

• الاستنتاج: يعمل بنك الذاكرة كمرساة للمعرفة الواقعية، مما يمنع الكتابة فوقها أثناء التكيف مع المهام الجديدة (IFT).

• تجميد بنك الذاكرة:

• أظهرت التجارب أن تجميد بنك الذاكرة أثناء الضبط الدقيق للتعليمات (تحديث الهيكل الأساسي فقط) أعطى أداءً يضاهي تحديث البنك. وهذا يشير إلى أن الذاكرة المدربة مسبقاً قوية وقابلة لإعادة الاستخدام دون الحاجة لمزيد من التحسين، مما يقلل من متطلبات ذاكرة الفيديو (VRAM) أثناء مرحلة ما بعد التدريب.

٥. الأهمية والآثار المترتبة

• محور توسيع جديد: تثبت الورقة أن "الذاكرة المتعلمة" هي محور متميز ومكمل لتوسيع نماذج اللغات الكبيرة (LLMs)، جنباً إلى جنب مع حجم النموذج وحجم البيانات. وتثبت أن الذاكرة الترابطية الصريحة يمكنها تخزين الحقائق بكفاءة أكبر من المعاملات الكثيفة وحدها.
• تخفيف النسيان الكارثي: تقدم النتائج حلاً معمارياً واعداً لمشكلة النسيان الكارثي في التعلم المستمر وضبط التعليمات، مما يشير إلى أن فصل "الترسيخ الواقعي" (الذاكرة) عن "التكيف مع المهام" (الهيكل الأساسي) هو استراتيجية قابلة للتطبيق.
• الكفاءة: من خلال استخدام التوجيه المتفرق، يجعل هذا النهج تخزين الذاكرة واسع النطاق ممكناً من الناحية الحوسبية، مما يسد الفجوة بين الفوائد النظرية للذاكرة الخارجية والقيود العملية لاستنتاج المحولات (Transformer inference).
• الاتجاهات المستقبلية: يفتح هذا العمل آفاقاً لتعديل الذاكرة المتخصص، وقابلية التفسير (تحليل أي الفصول تخزن حقائق معينة)، والأنظمة الهجينة التي تجمع بين الذاكرة العالمية المشتركة والذاكرة الخاصة الموجهة.

باخت الملخص، نجح "خليط الفصول" (Mixture of Chapters) في إثبات أن تعزيز المحولات ببنك ذاكرة متعلم ومتفرق وموجه يحسن كفاءة التدريب، ويقلل من النسيان، ويوسع سعة المعرفة دون تكاليف حوسبية باهظة.