ملخص تقني: OSAQ – امتصاص الذات للقيم المتطرفة من أجل تكميم دقيق لنماذج LLM منخفضة البت

1. بيان المشكلة

تواجه النماذج اللغوية الكبيرة (LLMs) تحديات نشر كبيرة بسبب أحجام بارامتراتها الضخمة، مما يؤدي إلى استهلاك عالٍ للذاكرة وزمن انتقال مرتفع في الاستدلال. يوفر التكميم ما بعد التدريب (PTQ)، وتحديداً تكميم الأوزان فقط، حلاً عن طريق تقليل حجم النموذج وتخفيف اختناقات الذاء المحدودة. ومع ذلك، فإن العائق المستمر أمام التكميم الدقيق منخفض البت هو وجود القيم المتطرفة المنهجية في أوزان النموذج. هذه القيم المتطرفة، التي تتميز بضخامة قيمتها، تعمل على توسيع النطاق العددي للأوزان، مما يقلل من دقة التكميم ويؤدي إلى تدهور أداء النموذج.

تعتمد الطرق الحالية بشكل أساسي على التحويلات الضربيه (مثل القياس أو الدوران) بين الطبقات المتجاورة للتخفيف من حدة القيم المتطرفة. وبينما حققت مناهج مثل GPTQ (باستخدام معلومات هسيان)، وAWQ (القياس الواعي للتنشيط)، وQuIP (الدوران المتعامد) تقدماً، يرى البحث أن الاعتماد فقط على النماذج الضربيه غير كافٍ جوهرياً لتحقيق أداء مرضٍ في إعدادات البت المنخفض للغاية (على سبيل المثال، 2 بت أو 3 بت).

2. المنهجية: تكميم امتصاص الذات للقيم المتطرفة (OSAQ)

يقترح المؤلفون OSAQ، وهو منهج مبتكر يقدم تحويلاً جمعياً للأوزان موجهاً بالخصائص من الدرجة الثانية منخفضة الرتبة لمصفوفة هسيان (Hessian). وخلافاً للمناهج السابقة التي تتطلب تعديلات بين الطبقات، يعمل OSAQ كآلية "امتصاص ذاتي" تقوم بتعديل الأوزان داخل طبقة واحدة دون التأثير على الطبقات المجاورة.

المكونات التقنية الرئيسية:

• الاتساق منخفض الرتبة لهسيان:
  تستند الطريقة إلى ملاحظة أن هسيان خسارة المهمة بالنسبة لأوزان الطبقة يظهر خاصية منخفضة الرتبة واضحة عبر المدخلات المختلفة. وتحديداً، تُظهر اتجاهات معينة في فضاء الأوزان انحناءً متلاشياً باستمرار (قيم ذاتية قريبة من الصفر). تشكل هذه الاتجاهات فضاءً صفرياً مستقراً يظل ثابتاً بغض النظر عن عينة المدخلات.

• التحويل الجمعي المحافظ على الخسارة:
  بالاستفادة من الفضاء الصفري، يبني OSAQ اضطراباً جمعياً $\Delta W$ بحيث يضمن التحويل $W' = W + \Delta W$ أن يظل الاضطراب من الدرجة الثانية لخسارة المهمة صفراً ($\Delta w^T H_w \Delta w = 0$). يضمن هذا الحفاظ على أداء النموذج في المهمة الأصلية أثناء تعديل الأوزان.

• استخراج الفضاء الصفري:
  يتم تقريب مصفوفة هسيان $H_w$ وتحليلها عبر تحليل القيم الذاتية. وللتعامل مع الحالات التي لا تكون فيها القيم الذاتية صفراً تماماً، يتم استخدام استراتيجية طاقة الذيل. يتم تحديد بُعد الفضاء الصفري $K$ من خلال تجميع أصغر القيم الذاتية حتى الوصول إلى عتبة طاقة محددة مسبقاً $\gamma$. تمثل المصفوفة الناتجة $N$ الفضاء الصفري المستقر.

• تحسين المعاملات عبر تقريب Softmax-$\infty$:
  الهدف هو إيجاد مصفوفة معاملات $\beta$ بحيث يقلل $\Delta W = \beta N$ من النطاق العددي (تحديداً معيار $\ell_\infty$) للأوزان المحولة لتثبيط القيم المتطرفة.

  • نظراً لأن معيار $\ell_\infty$ غير قابل للاشتقاق، يستخدم المؤلفون تقريب Softmax-$\infty$. يتضمن ذلك تطبيق عملية softmax على طول بُعد قناة المخرجات مع معامل حرارة $\tau$. ومع اقتراب $\tau$ من الصفر، فإنه يقرب معيار $\ell_\infty$ مع بقائه قابلاً للاشتقاق.
  • يتضمن هدف التحسين حداً لتنظيم $\ell_2$ لمنع التصحيحات المفرطة وقيد منع الإزاحة لمعاقبة الترجمات الموحدة.
  • والأهم من ذلك، ينتج عن هذا التحسين حل مغلق الصيغة للمعاملات $\beta$ عبر معادلة عادية، مما يلغي الحاجة إلى إجراءات تدريب أو عمليات تكرارية مكثفة الموارد.

3. المساهمات الرئيسية

1. نموذج جديد: يقدم البحث استراتيجية تحويل جمعي لتثبيط القيم المتطرفة، لتكمل النماذج الضربيه (القياس/الدوران) الموجودة. وهي تعمل بشكل مستقل داخل الطبقة، ولا تتطلب تحويلات بين الطبقات أو عبئاً إضافياً أثناء الاستدلال.
2. رؤية نظرية: يحدد ويستغل الاتساق منخفض الرتبة للفضاء الصفري لهسيان عبر المدخلات، مما يوفر فضاءً فرعياً مستقراً لبناء تعديلات الأوزان المحافظة على الخسارة.
3. بناء فعال: يشتق المنهج معاملات التحويل المثلى في صيغة مغلقة باستخدام تقريب Softmax-$\infty$ القابل للاشتقاق، متجنباً التحسين التكراري أو إعادة التدريب.
4. التوافق الجاهز للاستخدام (Plug-and-Play): تم تصميم OSAQ ليتم دمجه مع طرق PTQ الحالية (مثل GPTQ وAWK) لتعزيز أداء البت المنخفض بشكل أكبر.

4. النتائج التجريبية

أُجريت تجارب واسعة النطاق على نماذج لغوية مختلفة (LLaMA2، LLaMA3، Mistral-Large، Llama-3.1) عبر مهام توليد اللغة والأسئلة الشائعة حول المنطق.

• تقليل الارتياب (Perplexity): في تكميم 2 بت، حقق OSAQ المدمج مع GPTQ انخفاضاً في الارتياب بنسبة تزيد عن 40% مقارنة بـ GPTQ الأصلي لنموذج LLaMA2-7B. على سبيل المثال، في WikiText2، خفض OSAQ+GPTQ الارتياب من 36.8 إلى 21.2 (وإلى 10.6 مع تكرارات الانحدار الإحداثي) لـ LLaMA2-7B.
• تحسينات الدقة:
  • الأسئلة الشائعة حول المنطق: في LLaMA3-8B (2 بت)، حسن OSAK+GPTQ متوسط دقة الصفر-shot من 38.3% إلى 44.4% (و51.7% مع التكرارات).
  • MMLU: بالنسبة لـ LLaMA2-7B (4 بت)، رفع OSAK+GPTQ متوسط الدرجة من 3_8.7% إلى 39.6%.
  • النماذج الكبيرة: ظل المنهج فعالاً في النماذج الضخمة التي تم ضبط تعليماتها (123B و405B بارامتر)، متفوقاً على GPTQ الأصلي في اختبارات MMLU وARC.
• المتانة: أكدت دراسات الاستئصال أن التحويل الجمعي له تأثير ضئيل على نماذج الدقة الكاملة (FP16) وأن الفضاء الصفري يظل مستقراً عبر دفعات المدخلات المختلفة. كما أظهر المنهج متانة تجاه اختيارات المعلمات الفائقة (مثل عتبة طاقة الذيل $\gamma$، ودرجة الحرارة $\tau$).

5. الأهمية والادعاءات

يزعم البحث أن OSAK يمثل خطوة مهمة للأمام في تكميم LLM منخفض البت من خلال معالجة القصور الجوهري في النماذج التي تعتمد فقط على الضرب. ومن خلال الاستفادة من الخصائص الهندسية المتأصلة لمشهد الخسارة (الفضاء الصفري لهسيان)، يوفر OSAK آلية فعالة حسابياً وخالية من التدريب لتثبيط القيم المتطرفة.

يؤكد المؤلفون أن هذا النهج:

• يحافظ على خسارة المهمة: التحويل مضمون رياضياً للحفاظ على بقاء اضطراب الخسارة من الدرجة الثانية عند الصفر.
• لا يضيف أي عبء: يتم امتصاص التحويل في الأوزان خارجياً (offline)، مما لا يتطلب أي تغييرات في مسار الاستدلال أو طبقات إضافية.
• القابلية للتوسع: يمكن تطبيقه على نماذج تتراوح من 7B إلى 405B بارامتر ويندمج بسلاسة مع خوارزميات التكميم الحديثة.

يشير العمل إلى أن استكشاف التحويلات الجمعية بناءً على خصائص الدرجة الثانية يوفر مساراً واعداً ومكملاً لتحقيق تكميم دقيق منخفض البت للنماذج اللغوية واسعة النط scale.