ملخص تقني: E-PMQ: التكميم الموجه بالخبراء بعد الدمج مع تثبيت الأوزان المدمجة

1. صياغة المشكلة: التكميم بعد الدمج (PMQ)

تتناول الورقة سيناريو نشر محدد منخفض الموارد، حيث يتم أولاً دمج عدة نماذج "خبراء" متخصصة في مهام مختلفة في نموذج واحد، ثم يتم تكميم هذا النموذج المدمج الناتج لاحقًا لضمان كفاءة الاستدلال. يطلق المؤلفون على هذا الإعداد اسم التكميم بعد الدمج (Post-Merge Quantization - PMQ).

تتمثل المعضلة الأساسية المحددة في أن طرق التكميم القياسية بعد التدريب (PTQ)، مثل GPTQ، غير موثوقة عند تطبيقها مباشرة على النماذج المدمجة. في الـ PTQ القياسي، يُعامل نموذج الدقة الكاملة كهدف إعادة بناء موثوق. ومع ذلك، في حالة PMQ، فإن النموذج المدمج كامل الدقة ($W_m$) ليس نموذجًا متعدد المهام تم تحسينه بشكل مستقل؛ بل هو تركيبة من المعلمات التي قد تنحرف بالفعل عن سلوكيات الخبراء المصدرين.

يجادل المؤلفون بأن عملية PMQ الساذجة (تكميم $W_m$ مباشرة) تربط بين انحرافين متميزين:

1. انحراف التكميم: الخطأ الناتج عن إعادة بناء الأوزان في فضاء منخفض البتات.
2. انحراف الدمج بالنسبة للخبير: الخطأ المتأصل في النموذج المدمج نفسه، والذي يمثل مدى ابتعاد $W_m$ عن السلوكيات المحددة للخبراء المصدرين ($W_i$).

عندما تقوم خوارزمية PTQ ساذجة بتقليل خطأ إعادة البناء لـ $W_m$ وحدها، فإنها تعامل هذا النموذج المنحرف محتملاً كأنه الحقيقة المطلقة. ونتيجة لذلك، تفشل عملية التكميم في تصحيح انحرافات الدمج الموجودة مسبقًا، وبدلاً من ذلك، تضاعف هذه الانحرافات مع أخطاء التكميم، مما يؤدي إلى تدهور كبير في الأداء، خاصة في إعدادات البتات المنخفضة القوية (مثل 4 بت) أو عند دمج مهام عديدة.

2. المنهجية: إطار عمل E-PMQ

للتخفيف من هذه الانحرافات المزدوجة، يقترح المؤلفون E-PMQ، وهو إطار عمل موجه بالخبراء يدمج معلومات الخبراء المصدرين أثناء مرحلة المعايرة مع الحفاظ على كفاءة النشر لنموذج مدمج واحد.

المكونات الأساسية

يعمل E-PMQ عبر تكميم طبقي بترتيب أمامي. لكل طبقة $\ell$، فإنه يستخدم:

• الأوزان المدمجة ($W_m^\ell$).
• أوزان الخبراء المصدرين ($\{W_i^\ell\}_{i=1}^K$).
• تنشيطات المعايرة المجموعة من النموذج الحالي المكمم جزئيًا.

يقدم الأسلوب آليتين رئيسيتين:

أ. أهداف المخرجات الموجهة بالخبراء

بدلاً من إعادة بناء مخرجات النموذج المدمج ($W_m^\ell X^\ell$) كهدف وحيد، يقوم E-PMQ ببناء أهداف المخرجات بناءً على الخبراء المصدرين. لكل خبير $i$، يكون الهدف هو $Y_i^\ell = W_i^\ell X_i^\ell$، حيث $X_i^\ell$ هي التنشيطات المجموعة من مجموعة المعايرة المرتبطة بهذا الخبير.
الهدف هو تقليل التفاوت بين مخرج الطبقة المكممة وهذه الأهداف المستحثة من الخبراء:
$$\min_{Q^\ell} \sum_{i=1}^K \| Q^\ell X_i^\ell - W_i^\ell X_i^\ell \|_F^2$$
هذا يجبر عملية التكميم على التوافق مع سلوكيات الخبراء الأصليين، مما يخفف من انحراف الدمج بالنسبة للخبير.

ب. تثبيت الأوزان المدمجة

الاعتماد فقط على أهداف الخبراء ينطوي على مخاطر الإفراط في تصحيح الطبقة المدمجة، مما قد يتسبب في انحراف النموذج المكمم نحو خبير معين وفقدان القدرات المتكاملة التي حققها عملية الدمج. لمنع ذلك، يضيف E-PMQ حدًا تنظيميًا يثبت الأوزان المكممة ($Q^\ell$) بالأوزان المدمجة كاملة الدقة ($W_m^\ell$):
$$\min_{Q^\ell} \sum_{i=1}^K \| Q^\ell X_i^\ell - W_i^\ell X_i^\ell \|_F^2 + \lambda^\ell \| Q^\ell - W_m^\ell \|_F^2$$
قوة التثبيت $\lambda^\ell$ تكيفية، ويتم قياسها بناءً على إجمالي طاقة التنشيط للطبقة لضمان الاستقرار عبر الطبقات المختلفة.

تنفيذ الحل (Solver)

يقوم المؤلفون بتكييف حل التقريب المتسلسل بأسلوب GPTQ للتعامل مع هذا الهدف الجديد. يستخدم الحل إحصائيات تربيعية معدلة:

• الانحناء الفعال: $H_{E-PMQ}^\ell = \sum H_i^\ell + \lambda^\ell I$
• الطرف الأيمن: $R_{E-PMQ}^\ell = \sum W_i^\ell H_i^\ell + \lambda^\ell W_m^\ell$
  يسمح هذا بتنفيذ الطريقة بكفاءة دون الحاجة إلى إعادة تدريب شاملة، باستخدام مجموعة معايرة فقط.

3. المساهمات الرئيسية

تحدد الورقة ثلاث مساهمات رئيسية:

1. صياغة المشكلة: عرّف المؤلفون رسميًا "التكميم بعد الدمج" (PMQ) وحددوا نمط الفشل للمناهج الساذجة: اقتران انحراف التكميم مع انحراف الدمج بالنسبة للخبير.
2. اقتراح الخوارزمية: قدموا E-PMQ، الذي يستخدم أوزان الخبراء المصدرين لتوفيد أهداف مخرجات موجهة أثناء المعايرة، ويستخدم تثبيت الأوزان المدمجة لاستقرار الحل والحفاظ على السلوك المتكامل للنموذج المدمج.
3. التحقق التجريبي: أظهرت التجارب المكثفة أن E-PMQ يتفوق باستمرار على نماذج PMQ الساذجة (RTN, GPTQ, AWQ) عبر مختلف طرق الدمج (Task Arithmetic, TIES-Merging)، وهياكل النماذج (CLIP-ViT, FLAN-T5, Llama-3.1)، ونطاقات المهام (من 8 إلى 20 مهمة).

4. النتائج التجريبية

تقيم الورقة E-PMQ على نماذج الرؤية (CLIP) واللغة (FLAN-T5, Llama-3.1) باستخدام تكميم الأوزان بـ 4 بتات.

• CLIP-ViT-B/32 (8 مهام): تحت نظام Task Arithmetic، يحسن E-PMQ دقة GPTQ بـ 4 بت من 65.0% إلى 73.6%. وتحت نظام TIES-Merging، يحسنها من 69.1% إلى 74.8%.
• CLIP-ViT-L/14 (20 مهمة): في هذا الإعداد الأصعب مع وجود تداخل أكبر، يظهر E-PMQ مكاسب هائلة، حيث يحسن GPTQ من 34.8% إلى 76.7% تحت نظام Task Arithmetic.
• FLAN-T5-base (GLUE): يحسن E-PMQ متوسط الدرجات من 78.26% إلى 83.34% تحت نظام Task Arithmetic ومن 79.98% إلى 83.48% تحت نظام TIES-Merging.
• Llama-3.1 (3B و 8B): يحقق E-PMQ أفضل أداء متوسط بين المتغيرات المكممة، متفوقًا في درجاته على نماذج GPTQ و AWQ الأساسية.
• دراسات الاستئصال (Ablation Studies): يؤدي إزالة مثبت الأوزان المدمجة ($\alpha=0$) إلى انهيار حاد في الأداء (على سبيل المثال، الهبوط إلى دقة ~5%)، مما يؤكد أن توجيه الخبراء وحده غير كافٍ بدون التثبيت بالنموذج المدمج. كما يظهر E-PMQ متانة عبر عرض النطاق الترددي (من 3 إلى 8 بت) ومع ميزانيات معايرة منخفضة.

5. الأهمية والادعاءات

تدعي الورقة أن E-PMQ يتيح النشر الفعال منخفض البت للنماذج المدمجة، وهو إعداد كان يعتبر سابقًا غير موثوق بسبب تراكم الانحرافات.

• الكفاءة: تتطلب الطريقة الوصول إلى الخبراء المصدرين فقط أثناء مرحلة التكميم ما قبل النشر. النموذج المنشور النهائي هو نموذج مدمج واحد منخفض البت، لا يتطلب أي وحدات إضافية أو أوزان خبراء عند الاستدلال، مما يحافظ على نفس عدد المعلمات وسرعة الاستدلال مثل النماذج الأساسية الساذجة.
• القدرة على التعميم: ثبت أن النهج فعال عبر مختلف الوسائط (الرؤية والنصوص)، وأحجام النماذج، واستراتيجيات الدمج.
• القيود: يشير المؤلفون بتواضع إلى أن E-PMQ يتطلب الوصول إلى الخبراء المصدرين أثناء التكميم، مما يزيد من تكاليف الحوسبة والذاكرة قبل النشر مقارنة بـ PTQ الساذج. إذا كان النموذج المدمج هو الوحيد المتاح، فلا يمكن للطريقة بناء أهداف موجهة بالخبراء. بالإضافة إلى ذلك، يعتمد أداء الطريقة على تمثيل مجموعة المعايرة.

باختصار، تجادل الورقة بأنه لنجاح تكميم النماذج المدمجة، يجب النظر إلى ما وراء النموذج المدمج نفسه واستخدام الخبراء المصدرين لتوجيه المعايرة، مع التثبيت المتزامن للحل بالأوزان المدمجة للحفاظ على فوائد الدمج.