ملخص تقني: LoRDBA – التكيف ثنائي الثنائية منخفض الرتبة للضبط الدقيق على الأجهزة

1. بيان المشكلة

تتناول الورقة البحثية تحديات نشر النماذج اللغوية الكبيرة (LLMs) على الأجهزة الطرفية، مع التركيز بشكل خاص على إعداد "وضع المهايئ" (adapter-mode)، حيث يتم تدريب وتقديم مهايئات مخصصة للمهام دون دمجها في النموذج الأساسي. في هذا النظام غير المدمج، تفرض الطرق الشائعة مثل LoRA (التكيف منخفض الرتبة) وQLoRA عائقاً: فبينما يمكن تخزين النموذج الأساسي بتنسيق مضغوط ومنخفض البت (مثل 4-بت)، يظل المهايئ عادةً في شكل مصفوفات كثيفة وبدقة كاملة (fp16).

يخلق هذا تفاوتاً حيث يستهلك فرع المهايئ عرض نطاق ترددي للذاكرة وتخزيناً كبيراً بالنسبة لحجمه، مما يعيق عمليات التبديل السريع (hot-swapping) والاتصال في أنظمة تقديم المهايئات المتعددة (مثل S-LoRA وPunica). تفشل طرق الضغط الحالية إما في الحفاظ على الهيكل منخفض الرتبة (مثل BitDelta، الذي يقوم بتثنيت مصفوفة الفرق الكاملة) أو الاحتفاظ بمكونات فاصلة عائمة مختلطة الدقة (مثل LoRAQuant)، مما يفشل في استغلال الإمكانات الكاملة للتمثيلات الثنائية للهيكل منخفض الرتبة الخاص بالمهايئات.

2. المنهجية: LoRDBA

يقترح المؤلفون LoRDBA (المهايئ ثنائي الثنائية منخفض الرتبة)، وهو بنية مهايئ مبتكرة مصممة خصيصاً للنشر غير المدمج.

البنية الأساسية

يستبدل LoRDBA عاملي fp16 الكثيفين ($A$ و $B$) لـ LoRA القياسي بـ حاملات إشارة ثنائية ($B_1, B_2 \in \{\pm 1\}$) ويعززهما بـ متجهات قياس خفيفة الوزن لكل قناة ($\alpha, \beta, \gamma$).

• التمثيل (Parameterization): يتم تعريف تحديث الوزن كما يلي:
  $$\Delta W(\theta) = \sum_{i=1}^{\ell} \text{diag}(\alpha^{(i)}) B_1 \text{diag}(\beta^{(i)}) B_2 \text{diag}(\gamma^{(i)})$$
  حيث $B_1 \in \{\pm 1\}^{N \times R}$ و $B_2 \in \{\pm 1\}^{R \times M}$ هما العاملان الثنائيان، و $\ell$ هو رتبة الغلاف (غالباً $\ell=1$).
• كفاءة التخزين: تتطلب العوامل الثنائية بت واحد فقط لكل وزن، بينما تُخزن متجهات القياس بتنسيق fp16. يؤدي هذا إلى تقليل كبير في بصمة المهايئ (على سبيل المثال: ضغط >10 أضعاف عند الرتب المتطابقة).
• نواة الاستدلال (Inference Kernel): تمت إعادة هيكلة التمرير الأمامي إلى عمليات ضرب مصفوفات تراكم الإشارة متداخلة مع القياس لكل قناة. هذا يلغي عمليات الضرب بالفواصل العائمة في الضرب الداخلي، ويستبدلها بعمليات الجمع والطرح، والتي يمكن تنفيذها بكفاءة باستخدام مكتبات مثل gemlite.

خط تدفق التدريب (Training Pipeline)

تقدم الورقة QAT Full (التدريب الواعي بالكمية - كامل)، وهو خط تدريب شامل من البداية إلى النهاية:

1. التهيئة: يتم تهيئة الحاملات الكامنة عبر عملية SVD رقيقة ومنخفضة الميزانية لتشغيل تمهيدي لـ fp16 LoRA.
2. التمرير الأمامي: يتم تثنيت الحاملات الحقيقية باستخدام دالة الإشارة ($B = \text{sign}(H)$).
3. التمرير الخلفي: لتمكين تدفق التدرج عبر دالة الإشارة غير القابلة للاشتقاق، يستخدم المؤلفون مقدر التمرير المباشر (STE) ذو الإشارة الناعمة (smooth-sign) مع جدول زمني لدرجة الحرارة.
4. التحسين: يتم تدريب الحاملات الثنائية ومتجهات القياس بشكل مشترك على المهمة المستهدفة.

التحليل النظري

يقدم المؤلفون تحليلاً للعينات المحدودة (النظرية 4.1) يحدد الشروط التي يحافظ فيها إعادة البناء الثنائي على تحديث LoRA. يوضح التحليل أن خطأ إعادة البناء محكوم بـ نسبة المتبقي إلى المقدار ($\zeta/\mu$) لعوامل fp16 الأصلية. إذا كانت مدخلات العامل بعيدة جيداً عن الصفر (أي يهيمن عليها إشاراتها)، فإن الحاملات الثنائية تحافظ على إشارة Frobenius حتى عوامل لوغاريتمية.

3. المساهمات الرئيسية

• تنسيق مهايئ مبتكر: تقديم LoRDBA، وهو أول طريقة تلتزم بكلتا عاملي LoRA بإشارات ثنائية مع الحفاظ على الهيكل منخفض الرتبة، وهو ما يميزه عن طرق تثنيت المصفوفة الكاملة.
• تحسين النشر غير المدمج: حل مصمم خصيصاً لبروتوكول "وضع المهايئ" (النموذج الأساسي مجمد، والمهايئ غير مدمج)، مما يعالج اختناقات زمن الوصول والتخزين لمهايئات fp16 الكثيفة في سيناريوهات الأجهزة.
• ضمان نظري: حد تعبيري رسمي يربط جودة إعادة البناء الثنائي بالخصائص الإحصائية (نسبة المتبقي إلى المقدار) لعوامل LoRA الأساسية.
• تدريب واستدلال فعال: خط تدريب عملي باستخدام smooth-sign STE ونواة استدلال تقلل من التعقيد الحسابي عبر إلغاء عمليات الضرب في فرع المهايئ.

4. النتائج التجريبية

قيم المؤلفون LoRDBA على LLaMA-2-7B و LLaMA-3.2-3B عبر مهام الاستدلال الرياضي (GSM8K, Minerva) ومهام التلخيص (XSum)، مع الالتزام ببروتوكول وضع المهايئ غير المدمج.

• الدقة مقابل الحجم (RQ1): عند أحجام المهايئ المتطابقة، يهيمن LoRDBA (تحديداً نسخة QAT Full) على جميع الخطوط المرجعية منخفضة البت التي تم تقييمها (بما في ذلك LoRAQuant و BitDelta).
  • عند ~7 ميجابايت، يحقق LoRDBA متوسط درجة 24.14، متفوقاً على LoRAQuant (23.17) و fp16 LoRA الأصغر (23.21).
  • عند ~19 ميجابايت، يحقق LoRDBA درجة 28.08، ليصل إلى 97.5% من حجم fp16 LoRA الكامل (28.81) بينما يستخدم تخزيناً أقل بـ 4 أضعاف.
• زمن استجابة الاستدلال (RQ2): رغم وجود الفرع غير المدمج، لا يسبب LoRDBA سوى تأخير طفيف في زمن الوصول. عند رتبة $r=16$، يضيف 8% فقط (2.6 مللي ثانية) إلى زمن استجابة التعبئة المسبقة (prefill latency) مقارنة بـ fp16 LoRA غير المدمج، بينما يضغط بصمة المهايئ بمقدار 10.6$\times$.
• تكلفة التدريب (RQ3): تكلفة التدريب معتدلة. يتطلب QAT Full حوالي 1.6$\times$ من ذاكرة الذروة و 1.9$\times$ من وقت الجدار (wall-clock time) لتدريب fp16 LoRA القياسي، ويرجع ذلك أساساً إلى بقاء حالات smooth-sign STE.

5. الأهمية والادعاءات

تدعي الورقة أن LoRDBA تثبت أنه يمكن تثنيت مهايئات LoRA بفعالية إلى $\pm 1$ دون التضحية بالدقة، بشرط أن تحافظ مقاييس القنوات المدمجة على معلومات المقدار.

• الأثر العملي: من خلال ضغط المهايئات إلى $\le 4$ بت لكل وزن، يقلل LoRDBA بشكل كبير من تكاليف الاتصال والتخزين لتوزيع النماذج المخصصة للمهام، مما يجعل التخصيص على الأجهزة أكثر عملية وحماية للخصوصية (حيث يمكن نشر المهايئات محلياً دون رفع البيانات الخاصة).
• النطاق: الطريقة مصممة خصيصاً لإعداد المهايئ غير المدمج. يشير المؤلفون صراحة إلى أن المهايئات التي تتطلب الدمج في النموذج الأساسي قبل الاستدلال تقع خارج نطاق الإطار الحالي.
• القيود: يعتمد الضمان النظري على افتراض أن مقادير العوامل ليست ذات ذيول ثقيلة أو ثنائية المنوال. التجارب الحالية محدودة بنماذج LLaMA في مهام الرياضيات والتلخيص، مما يترك التحقق من النماذج الأكبر والمجالات المتنوعة للعمل المستقبلي.

باختصار، يقدم LoRDBA نهجاً مدعوماً نظرياً ومثبتاً تجريبياً لضغط مهايئات LoRA من أجل تقديم فعال على الأجهزة، محققاً توازناً متفوقاً بين حجم النموذج، وزمن استجلال الاستدلال، ودقة المهمة مقارنة بطرق التكيف منخفضة البت الحالية.