pQuant: Towards Effective Low-Bit Language Models via Decoupled Linear Quantization-Aware Training

إليك ملخص تقني مفصل لورقة البحث بعنوان "pQuant: نحو نماذج لغوية فعالة منخفضة البت عبر التدريب الواعي بالكمية الخطي المنفصل".

1. بيان المشكلة

تعالج الورقة التحدي الحرج المتمثل في نشر النماذج اللغوية الكبيرة (LLMs) على الأجهزة الطرفية ذات الموارد المحدودة. وبينما برزت طريقة التدريب الواعي بالكمية من الصفر (QAT-Scratch) كنهج واعد لإنشاء نماذج ذات بتات شديدة الانخفاض (أقل من 2 بت)، إلا أن الأساليب الحالية تعاني من قصورين رئيسيين:

1. تدهور الدقة: حتى النماذج المتطورة التي تعمل بـ 1 بت تظهر فجوة دقة غير مهملة مقارنة بنماذج الدقة الكاملة (FP16).
2. ضعف القابلية للتوسع: مع زيادة حجم النموذج، تنمو مكاسب الأداء في نماذج الـ 1 بت بشكل دون خطي، مما يجعلها تفشل في مضاهاة قوانين التوسع الخاصة بنماذج FP16.

حدد المؤلفون السبب الجذري لهذه المشكلات في "ديمقراطية المعلمات" (Parameter Democratization). ففي نماذج QAT-Scratch الحالية ذات الـ 1 بت، تصبح حساسية جميع المعلمات متجانسة (موحدة). في المقابل، تمتلك النماذج عالية الدقة بطبيعتها مجموعة فرعية صغيرة من المعلمات "الحساسة" التي تؤثر بشكل غير متناسب على المخرجات. إن الكمية المتطرفة في نماذج الـ 1 بت الحالية تدمر هذه البنية، مما يجبر النموذج على معاملة جميع المعلمات بنفس الأهمية، وهو ما يحد بشدة من قدرة النموذج التعبيرية وقدرته على تعلم التمثيلات المعقدة.

2. المنهجية: pQuant

لمواجهة ديمقراطية المعلمات، اقترح المؤلفون pQuant، وهو منهج جديد لـ QAT-Scratch يعتمد على الكمية الخطية المنفصلة والحساسية الموجهة للمعلمات.

البنية الأساسية: الطبقات الخطية المنفصلة

بدلاً من تطبيق كمية موحدة بـ 1 بت على جميع الأوزان، يقوم pQuant هيكلياً بتقسيم الطبقات الخطية (تحديداً في شبكات التغذية الأمامية Feed-Forward Networks، وفي طبقات الانتباه Attention بـ 1 بت فقط) إلى فرعين متخصصين:

• فرع الـ 1 بت المهيمن (Dominant 1-bit Branch): يتعامل مع غالبية المعلمات باستخدام أوزان 1 بت (INT1) لتحقيق أقصى قدر من الكفاءة الحسابية.
• فرع الدقة العالية المدمج (Compact High-Precision Branch): يتم الاحتفاظ بمجموعة فرعية صغيرة من المعلمات بدقة 8 بت (INT8). هذا الفرع مخصص للحفاظ على المعلمات الأكثر حساسية.

يمكن النظر إلى هذا التصميم من منظور خليط الخبراء (Mixture of Experts - MoE):

• يعمل فرع الـ 1 بت كخبير مشترك لجميع المدخلات.
• يعمل فرع الـ 8 بت كخبير متخصص وقابل للتوجيه.

الآليات الرئيسية

1. توسيع الميزات لتخصيص الأهمية (Feature Scaling for Importance Allocation):
   بما أن المعلمات يتم تهيئتها عشوائياً في QAT-Scratch، فإن حساسيتها ليست محددة مسبقاً. يقدم pQuant أوزان قياس قابلة للتعلم ($\alpha$ و $\beta$) لتعديل مخرجات الفرعين.

   • يتم تهيئة فرع الـ 8 بت بمعامل قياس أعلى بكثير ($\alpha \gg \beta$، على سبيل المثال $\alpha=2.0, \beta=0.2$).
   • هذا يوجه المحسن (optimizer) صراحةً لتخصيص التمثيلات الحساسة وعالية التأثير للمسار عالي الدقة أثناء التدريب، مما يؤدي فعلياً إلى "استعادة" بنية الحساسية المتمايزة التي فُقدت في نماذج الـ 1 بت القياسية.

2. التنشيط المتناثر (Scaling):
   لزيادة السعة بشكل أكبر دون زيادة تكلفة الاستدلال خطياً، يتم توسيع فرع الدقة العالية إلى $N$ من الخبراء المتوازيين. يقوم موجه خفيف الوزن (طبقة خطية بسيطة مع بوابة Top-1) باختيار الخبير الـ 8 بت الأكثر ملاءمة لكل رمز (token) ديناميكياً.

   • يسمح هذا للنموذج بزيادة إجمالي عدد المعلمات (السعة) مع الحفاظ على نفس عدد المعلمات النشطة لكل تمريرة أمامية (forward pass) كما في الطبقة الكثيفة.

3. استراتيجية التدريب:

   • QAT-Scratch: يتم التدريب من التهيئة العشوائية دون ضغط الأوزان سابقة التدريب.
   • جدول مرحلي مزدوج: يستخدم جدولاً محدداً لمعدل التعلم وتضاؤل الأوزان (weight decay) لتثبيت تحسين الـ 1 بت ومنع انفجار التدرج.
   • المقدر المباشر (Straight-Through Estimator - STE): يُستخدم لتقريب التدرجات لعمليات الكمية غير القابلة للاشتقاق.

3. المساهمات الرئيسية

• تحديد ديمقراطية المعلمات: حددت الورقة وأثبتت رسمياً أن تجانس حساسية المعلمات هو عائق رئيسي في نماذج LLM ذات الـ 1 بت.
• البنية المنفصلة: قدمت حلاً هيكلياً يفصل بين حسابات الـ 1 بت الفعالة وبين الحفاظ على حساسية الدقة العالية، مما يتجنب "انهيار النطاق الديناميكي" الناتج عن الكمية لكل تينسور (per-tensor quantization).
• تعلم الحساسية الموجه: اقترحت توسيع الميزات لتوجيه النموذج ديناميكياً في تخصيص المعلمات الحساسة لفرع الدقة العالية، بدلاً من الاعتماد على أنماط مكانية ثابتة.
• التوسع الفعال: وسعت فرع الدقة العالية إلى بنية تشبه الـ MoE المتناثرة، مما يتيح توسيع السعة مع الحفاظ على زمن استجلال (latency) شبه ثابت.

4. النتائج التجريبية

قيم المؤلفون pQuant على نماذج تتراوح أحجامها بين 300 مليون و 2.6 مليار معلمة، مقارنة بنماذج BitNet (1 بت)، و BitNet1.58 (2 بت)، ونماذج LLaMA-2 بدقة FP16 كخطوط أساس.

• مكاسب الأداء:
  • يقلل pQuant من الارتياب (perplexity) بنسبة 32.0% مقارنة بنماذج الـ 1 بت المتطورة.
  • عند مقياس 1.3 مليار، يقلص pQuant (1.35 بت) الفجوة في الدقة مع BitNet1.58 (2 بت) إلى 0.4 نقطة دقة متوسطة فقط، رغم استخدامه بتات أقل بكثير.
  • نموذج pQuant بحجم 2.6 مليار يتفوق على LLaMA-2 (FP16) بحجم 1.3 مليار ويتجاوز بشكل كبير نموذج PTQ1.61 بحجم 7 مليار.
• القابلية للتوسع:
  • على عكس نماذج الـ 1 بت القياسية حيث يستقر الأداء، يتبع pQuant قانون توسع أقرب بكثير لنماذج FP16. زيادة عدد خبراء الـ 8 بت ($N$) يحسن الأداء باستمرار.
  • مع $N=8$، يقترب pQuant تقريباً من خسارة (loss) نموذج LLaMA-2 (FP16) عند مقياس 1.3 مليار.
• الكفاءة:
  • الذاكرة: يقلل pQuant من بصمة الذاكرة بنسبة 92% مقارنة بـ LLaMA-2 (FP16) و 31% مقارنة بـ BitNet1.58.
  • الإنتاجية (Throughput): يحقق pQuant إنتاجية استدلال أعلى بنسبة 18.2% من نماذج الـ 2 بت، وهو أسرع بنسبة 82% من LLaMA-2 (FP16) على وحدة المعالجة المركزية (Apple M2).
  • الاستقرار: يظهر pQuant استقراراً فائقاً في التدريب مقارنة بـ BitNet، الذي يعاني غالباً من انفجار التدرج.

5. الأهمية

تقدم الورقة مساهمة كبيرة في مجال النماذج اللغوية الكبيرة الفعالة من خلال إثبات أن النماذج ذات البتات المنخفضة للغاية يمكن أن تحقق أداءً يقارب النموذج المثالي (lossless) إذا كانت البنية تحترم هيكل الحساسية المتأصل في الشبكات العصبية.

• تحول في النموذج الفكري: تبتعد الورقة عن فكرة أن "جميع البتات متساوية" في نماذج البتات المنخفضة، وتدعو بدلاً من ذلك إلى نهج الدقة غير المتجانسة حيث يتم حماية المعلمات الحرجة.
• النشر على الأجهزة الطرفية: من خلال تحقيق دقة تقارب FP16 مع أوزان أقل من 2 بت وإنتاجية أعلى بكثير، يوفر pQuant مساراً قابلاً للتطبيق لنشر نماذج لغوية قوية على الأجهزة الطرفية ذات قيود الذاكرة والحوسبة الصارمة.
• القابلية للتوسع: يحل النهج مشكلة اختناق التوسع في نماذج الـ 1 بت، مما يشير إلى أن نماذج الـ LLM منخفضة البت المستقبلية يمكن أن تتوسع بفعالية إلى أحجام ضخمة دون التضحية بالدقة.