ملخص تقني: GLoRA – تمثيلات الخادم منخفضة الرتبة المدركة للمقياس لـ LoRA الاتحادي

1. بيان المشكلة

يوفر التعلم الاتحادي (Federated Learning) المدمج مع التكيف منخفض الرتبة (Low-Rank Adaptation - LoRA) نموذجاً واعداً لضبط النماذج اللغوية الكبيرة (LLMs) في ظل قيود البيانات والموارد اللامركزية. ومع ذلك، تعاني طرق LoRA الاتحادية الحالية من عدم تطابق دلالي في قواعد التجميع الخاصة بها.

تكمن المشكلة الجوهرية في غموض المقياس (Gauge Ambiguity). يتم تمثيل تحديث LoRA كحاصل ضرب منخفض الرتبة $\Delta W = BA$. هذا التفكيك ليس فريداً؛ فلكل مصفوفة قابلة للعكس $Q$، ينتج الزوج $(BQ, Q^{-1}A)$ نفس مصفوفة التحديث $\Delta W$ تماماً. في التدريب المركزي، يكون هذا الغموض حميداً لأن العوامل تظل داخلية لمحسن واحد. أما في الإعدادات الاتحادية، فيقوم العملاء بإرسال العوامل الخام $(B, A)$ إلى الخادم. إذا قام الخادم بتجميع هذه العوامل الخام مباشرة (على سبيل المثال، متوسط $B$ و $A$ بشكل منفصل)، فإن تحديث الخادم الناتج سيعتمد على اختيارات الإحداثيات التعسفية (المقاييس) التي اتخذها العملاء. وبناءً على ذلك، فإن التحديثات المتطابقة جوهرياً للعميل يمكن أن تنتج نماذج خادم مختلفة بناءً على إعادة تمثيل العوامل الداخلية لكل عميل، مما يجعل قاعدة التجميع غير محددة دلالياً.

بينما عالجت الأعمال الحديثة مشكلة "التجميع غير الدقيق" (الخطأ الجبري حيث $\sum B_i A_i \neq (\sum B_i)(\sum A_i)$)، إلا أنها لم تحل مشكلة الاعتماد على المقياس الأكثر جوهرية. إن الإصلاح الساذج — وهو تجميع مصفوفات التحديث الكثيفة الكاملة $\Delta W_i$ ثم إعادة تفكيكها — يستعيد الصحة الدلالية ولكنه يدمر مكاسب الكفاءة لـ LoRA عبر اشتراط قيام الخادم بتجسيد وتفكيك مصفوفات $d_{out} \times d_{in}$ ضخمة، وهو أمر غير ممكن على نطاق النماذج اللغوية الكبيرة الحديثة.

2. المنهجية: GLoRA

يقترح المؤلفون GLoRA (التجميع منخفض الرتبة المدرك للمقياس)، وهو تمثيل للخادم يحافظ على الصحة الدلالية دون الانهيار إلى التحديثات الكثيفة. يعمل GLoRA عن طريق فصل هندسة التحديث عن إحداثيات العوامل.

2.1 استخراج الفضاء الجزئي الثابت للمقياس

بدلاً من تجميع العوامل الخام، يقوم GLoRA أولاً باستخراج الهندسة الجوهرية لتحديث كل عميل. بالنسبة لتحديث العميل $\Delta W_i = B_i A_i$، يقوم الخادم بإجراء تحليل QR مختزل لـ $B_i$:
$$B_i = U_i T_i$$
حيث $U_i$ هي قاعدة متعامدة تشغل الفضاء العمودي للتحديث، و $T_i$ تحتوي على الإحداثيات. يُعاد كتابة التحديث كـ $\Delta W_i = U_i \tilde{A}_i$ (حيث $\tilde{A}_i = T_i A_i$).
من المهم ملاحظة أن الفضاء العمودي الذي تشغله $U_i$ هو ثابت للمقياس؛ إذ يظل دون تغيير بغض النظر عن التحويل القابل للعكس $Q$ المطبق على العوامل الأصلية. يمثل الخادم هذه الهندسة باستخدام المسقط المتعامد $P_i = U_i U_i^\top$.

2.2 بناء الفضاء الجزئي للإجماع

يقوم الخادم بتجميع هذه المساقط لتقدير فضاء جزئي مشترك للإجماع $U_{ref}$:
$$K = \sum_{i} p_i P_i = \sum_{i} p_i U_i U_i^\top$$
يحسب الخادم أعلى $R$ من المتجهات الذاتية لـ $K$ لتشكيل القاعدة المرجعية $U_{ref}$. هذه الخطوة فعالة حوسبياً لأنها تعمل على المصفوفة النحيفة لقواعد العملاء بدلاً من مصفوفة التحديث الكثيفة الكاملة. تحدد $U_{ref}$ إطار إحداثيات مشترك لجولة التحديثات الحالية.

2.3 التجميع في إحداثيات مشتركة

بمجرد تحديد $U_{ref}$، يتم إسقاط تحديث كل عميل في هذا الإطار المشترك:
$$Z_i = U_{ref}^\top \Delta W_i = U_{ref}^\top U_i \tilde{A}_i$$
ثم يقوم الخادم بتجميع هذه الإحداثيات المسقطة مباشرة:
$$Z_{global} = \sum_{i} p_i Z_i$$
الحالة النهائية للخادم هي الزوج منخفض الرتبة $(U_{ref}, Z_{global})$، والذي يمثل التحديث $\Delta W_{global} = U_{ref} Z_{global}$. يضمن هذا أن تحديث الخادم محدد بواسطة المصفوفات الجوهرية $\{\Delta W_i\}$ بدلاً من إحداثيات العوامل التعسفية، مع البقاء بالكامل ضمن النطاق منخفض الرتبة.

2.4 القراءة المتوافقة مع الرتبة للتباين (Heterogeneity)

لدعم العملاء ذوي ميزانيات الرتب المختلفة ($r_i$)، يستخدم GLoRA آلية قراءة النواة والذيل (core–tail readout). يقوم الخادم بتفكيك $Z_{global}$ عبر SVD لترتيب المكونات حسب الطاقة.

• النواة (Core): يتم تخصيص مجموعة مشتركة من المكونات العليا لجميع العملاء للحفاظ على الاتساق العالمي.
• الذيل (Tail): يتم تخصيص ميزانية الرتبة المتبقية بناءً على هندسة التحديث التاريخية لكل عميل (درجات المحاذاة) أو الطيف العالمي إذا لم تتوفر السجلات التاريخية.
  يسمح هذا للعملاء المتباينين بإنشاء محولات (adapters) ذات رتب متفاوتة من نفس حالة الخادم دون الحاجة إلى كائنات تجميع منفصلة أو إعادة تفكيك كثيفة.

3. المساهمات الرئيسية

1. تحديد الاعتماد على المقياس: حددت الورقة الاعتماد على المقياس كنمط فشل دلالي في تجميع LoRA الاتحادي على مستوى العوامل، متميزة عن مشكلة "التجميع غير الدقيق" الجبرية. وتجادل بأن العوامل الخام ليست كائنات صالحة للتجميع في ظل غموض المقياس.
2. إطار عمل GLoRA: يقترح المؤلفون طريقة تجميع مدركة للمقياس تحافظ على حالة خادم مدمجة منخفضة الرتبة. فهي تجمع التحديثات من خلال فضاء جزئي للإجماع وإحداثيات مرجعية مشتركة، متجنبة كلاً من تجميع العوامل الخام وتجسيد التحديثات الكثيفة.
3. دعم التباين (Heterogeneity): يقدم GLoRA قراءة متوافقة مع الرتبة تقوم بإنشاء محولات من رتب مختلفة من حالة خادم واحدة، مما يدعم بشكل طبيعي قدرات العملاء المتباينة والمشاركة المتفرقة.
4. التحقق التجريبي: تُظهر التجارب المكثفة أن GLoRA يتفوق باستمرار على النماذج المرجعية (FedIT, FedEx-LoRA, FedSA-LoRA, HetLoRA, FlexLoRA) عبر تباين البيانات، وتباين الموارد، وتباين المهام.

4. النتائج التجريبية

قيم المؤلفون GLoRA على GLUE (باستخدام RoBERTa-Base) و SuperNI (باستخدام LLaMA-1B, Qwen2-7B, و Gemma-2-9B) تحت ظروف متنوعة:

• تباين البيانات: في ظل انحراف شديد في التسميات (Dir(0.1))، حقق GLoRA أعلى متوسط دقة لمهام GLUE، متفوقاً بشكل كبير على FedSA-LoRA (الذي فشل في التقارب في معظم المهام) والنماذج المرجعية الأخرى.
• تباين الموارد: في الإعدادات ذات الرتب المتباينة للعملاء (توزيعات Normal, Uniform, Heavy-tail)، احتل GLoRA المرتبة الأولى في 14 من أصل 15 زوجاً من توزيع المهام، مما أظهر متانة تجاه سعات المحولات المتفاوتة.
• التعلم الاتحادي المتفرق عبر المهام: في SuperNI مع مشاركة عملاء بنسبة 10% وتقييم مهام غير مرئية، حقق GLoRA أفضل درجات ROUGE-L لكل من العملاء داخل النطاق وغير المرئيين، مما يشير إلى تعميم فائق مقارنة بطرق التقطيع المعتمدة على الرتبة.
• القابلية للتوسع: حافظ GLo la على تفوقه في الأداء على الهياكل الأكبر (7B و 9B بارامتر)، مما يشير إلى أن النهج لا يقتقتصر على النماذج الصغيرة.
• الكفاءة: يحقق GLoRA مقايضة مواتية بين الكفاءة والأداء. تعقيد الطبقة الواحدة لديه هو $\Theta(r_\Sigma^2(d_{out} + d_{in}) + r_\Sigma^3)$، وهو أقل تكلفة بكثير من طرق تجميع التحديثات الكثيفة (مثل FlexLoRA) بينما يتجنب حساسية المقياس الناتجة عن متوسط العوامل المباشر.

5. الأهمية والادعاءات

تدعي الورقة أن LoRA الاتحادي الفعال يتطلب ليس مجرد متوسط العوامل منخفضة الرتبة، بل تعريف تمثيل دلالي ذي معنى جهة الخادم للتجميع.

يجادل المؤلفون بأن الخيار التصميمي الرئيسي في LoFA الاتحادية هو نقل التركيز من "كيفية حساب متوسط العوامل" إلى "ما هو الكائن الذي يمثله الخادم المجمع". ومن خلال فصل هندسة التحديث عن إحداثيات العوامل، يحل GLoRA عدم التطابق الدلالي المتأصل في الطرق الحالية. تشير النتائج إلى أن التجميع المدرك للمقياس ضروري للاستقرار في التقارب والأداء العالي في الإعدادات الاتحادية، خاصة عند التعامل مع بيانات وموارد ومهام متباينة. وتخلص الورقة إلى أنه بينما يعتمد تقدير الفضاء الجزئي للإجماع الحالي على هندسة الفضاء العمودي، يمكن للعمل المستقبلي دمج وزن يعتمد على طاقة التحديث أو المهمة لزيادة تحسين بناء الفضاء الجزئي.