🤖 machine learning

RW-LoRA: Communication-Efficient Decentralized LoRA Fine-Tuning via Random Walks

تقترح هذه الورقة البحثية طريقة RW-LoRA، وهي طريقة لضبط النماذج اللغوية الكبيرة بشكل لا مركزي وفعال من حيث استهلاك الاتصالات، تستبدل المزامنة العالمية ونسخ النماذج المتكررة بمسار عبور أحادي الرمز يعتمد على المشي العشوائي لتحديث النموذج بالتتابع، مما يقلل من الأعباء الإضافية ويتجنب أخطاء التجميع مع الحفاظ على أداء تنافسي وضمانات تقارب صارمة.

المؤلفون الأصليون: Xingran Chen, Rohit Bhagat, Ghadir Ayache, Rawad Bitar, Yanmin Gong, Salim El Rouayheb

نُشر 2026-09-02

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Xingran Chen, Rohit Bhagat, Ghadir Ayache, Rawad Bitar, Yanmin Gong, Salim El Rouayheb

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في المشهد الحديث للذكاء الاصطناعي، تُعد أقوى الأدوات هي البرامج الحاسوبية الضخمة المعروفة باسم النماذج التأسيسية. هذه الأنظمة، التي تدرّبت على كميات هائلة من النصوص والبيانات، يمكنها كتابة القصص، وترجمة اللغات، والإجابة على الأسئلة المعقدة بطلاقة مذهلة. ومع ذلك، فإن هذه النماذج ضخمة للغاية لدرجة يصعب معها تخصيصها لاحتياجات محددة، مثل تطويع مساعد طبي ليسجل سجلات مستشفى معين أو روبوت قانوني ليتناسب مع تاريخ شركة محددة. ولتكييفها، يستخدم الباحثون تقليديًا عملية تسمى "الضبط الدقيق"، والتي تعدل الإعدادات الداخلية للنموذج لتناسب البيانات الجديدة. ولأن هذه النماذج تحتوي على مليارات الإعدادات، فإن تحديثها بالكامل أمر مكلف وبطيء للغاية. ولحل هذه المشكلة، طور العلماء تقنية تسمى "التكيف منخفض الرتبة"، والتي تعمل كإضافة خفيفة الوزن. فبدلاً من إعادة كتابة النموذج بأكم، تضيف هذه الطريقة طبقة صغيرة وفعالة من الإعدادات الجديدة التي توجه سلوك النموذج، مما يجعل عملية التخصيص أسرع وأرخص بكثير.

تنشأ التحديات عندما ترغب المؤسسات في إجراء هذا التخصيص دون مشاركة بياناتها الخاصة. ففي مجالات مثل الرعاية الصحية أو التمويل، لا يمكن نقل البيانات إلى خادم مركزي بسبب قوانين الخصوصية والمخاوف الأمنية. بدلاً من ذلك، يجب أن تبقى البيانات حيث هي، ويجب تدريب النموذج عبر مواقع مختلفة تتواصل فيما بينها. وتعتمد الأساليب الحالية لهذا التدريب الموزع غالبًا على منسق مركزي أو تتطلب من كل موقع تبادل التحديثات باستمرار مع جيرانه. وهذا يخلق ازدحامًا مروريًا كثيفًا للمعلومات، مما يبطئ العملية ويؤدي إلى حدوث أخطاء عند محاولة دمج التحديثات المختلفة معًا. ويقدم نهج جديد، فصّله بحث حديث، مسارًا مختلفًا عبر التخلي عن فكرة الاحتفاظ بنسخ متعددة من النموذج عبر الشبكة.

اقترح الباحثون طريقة تسمى RW-LoRA، وهي تعامل النموذج ليس ككائن ثابت يستقر في العديد من الحواسيب، بل كرمز (token) واحد متنقل. تخيل رسولًا يحمل دفتر ملاحظات يحتوي على تعليمات ينتقل من مكتب إلى آخر. في هذا النظام، يبدأ النموذج في موقع واحد، ويتعلم من البيانات المحلية هناك، ثم ينتقل فعليًا إلى حاسوب مجاور ليتعلم من بياناته بعد ذلك. ويواصل هذه الرحلة، منتقلاً من عقدة إلى أخرى في نمط عشوائي، مجمعًا المعرفة في كل محطة. وخلافًا للطرق الأخرى التي تتطلب من جميع الحواسيب التوقف ومزامنة عملها في وقت واحد، يسمح هذا النهج للنموذج بالتعلم بشكل متسلسل. يحمل الرسول الحالة الراهنة للنموذج، ويحدثها بالمعلومات المحلية، ثم يمررها، مما يلغي الحاجة إلى مدير مركزي أو اجتماعات جماعية مستمرة.

اختبر الفريق هذه الفكرة باستخدام نموذج لغوي قياسي وعدة مهام لغوية من الواقع، مثل تحديد ما إذا كانت جملتان تعنيان الشيء نفسه أو تصنيف مشاعر مراجعة ما. وقارنوا طريقة النموذج المتنقل هذه بالمعيار الحالي، الذي يعتمد على تبادل الجيران للتحديثات باستمرار. وأظهرت النتائج أن طريقة النموذج المتنقل حققت مستوى قريبًا جدًا من الدقة التي حققها النهج التقليدي. وفي المهام المتعلقة بتصنيف الجمل وتحليل المشاعر، طابقت الطريقة الجديدة أداء الأنظمة الأقدم والأكثر تعقيدًا. ومع ذلك، كان الفرق في الكفاءة صارخًا؛ فبسبب إرسال النموذج المتنقل لمجموعة واحدة فقط من التعليمات في كل مرة، بدلاً من بث التحديثات إلى كل جار، فقد قلل من إجمالي كمية البيانات التي تتحرك عبر الشبكة بفارق كبير. في أحد الاختبارات، تطلبت الطريقة التقليدية حوالي 54,000 تحديث محلي للوصول إلى مرحلة التقارب، بينما حققت الطريقة المتنقلة نتيجة مماثلة بحوالي 25,000 تحديث فقط، مما خفض العبء الاتصالي والحسابي بشكل كبير.

كما فحص الباحثون كيف أثر حجم الطبقة الإضافية للنموذج على النتيجة. فقد اختبروا أحجامًا مختلفة لهذه الإعدادات خفيفة الوزن، تتراوح من صغيرة جدًا إلى متوسطة الكبر، ووجدوا أن الطريقة المتنقلة ظلت قوية بغض النظر عن الحجم المحدد المختار. وهذا يشير إلى أن النهج مرن ولا يعتمد على تكوين دقيق ليعمل بشكل جيد. وتقدم الدراسة ضمانًا رياضيًا بأن هذه الطريقة ستجد في النهاية حلاً جيدًا، على الرغم من أن مشكلة تعليم نموذج ما هي عملية معقدة وليست سلسة تمامًا. ومن خلال إثبات أن نموذجًا واحدًا متحركًا يمكنه التعلم بفعالية عبر شبكة دون أن يتوه أو يعلق، أظهر المؤلفون أن التدريب اللامركزي لا يجب أن يكون تبادلًا فوضويًا للبيانات. بدلاً من ذلك، يمكن لرحلة بسيطة ومتسلسلة أن تكون فعالة بنفس القدر، مما يوفر وسيلة عملية لتدريب ذكاء اصطناعي قوي مع احترام حدود الخصوصة ونطاق التردد في العالم الحقيقي.

ملخص تقني: RW-LoRA

بيان المشكلة

أصبحت طرق الضبط الدقيق بكفاءة المعلمات (PEFT)، ولا سيما التكيف منخفض الرتبة (LoRA)، معيارًا لتكييف النماذج التأسيسية الكبيرة (مثل GPT-4 وLLaMA) مع مهام محددة النطاق دون التكاليف الحسابية وتكاليف الاتصال المرتبطة بالضبط الدقيق الكامل. ومع ذلك، فإن تطبيق LoRA في البيئات الموزعة يفرض تحديات كبيرة:

الاختناقات المركزية: تعتمد معظم طرق LoRA الموزعة الموجودة على خادم بارامتر مركزي للتجميع. يؤدي هذا إلى عبء إضافي في الاتصال والذاكرة ويخلق نقطة فشل واحدة، وهو أمر يمثل مشكلة في التطبيقات الحساسة للخصوصية مثل الرعاية الصحية أو ذكاء الحافة (Edge AI) حيث لا يمكن مركزية البيانات.
عدم الكفاءة اللامركزية: أزالت طرق LoLA اللامركزية الأخيرة القائمة على "النميمة" (Gossip-based) الخادم المركزي، لكنها تتطلب من العقد تبادل التحديثات بشكل متكرر مع جيرانها. وهذا يتسبب في عبء اتصال كبير، خاصة في الشبكات الكثيفة أو ذات النطاق الترددي المحدود.
أخطاء التجميع: هناك عقبة تقنية حرجة في LoRA اللامركزية وهي تجميع العوامل منخفضة الرتبة. نظرًا لأن LoRA تقوم بتحديث مصفوفة الأوزان $W$ كـ $W = W_0 + BA$ (حيث $A$ و $B$ هما مصفوفتان منخفضتا الرتبة)، فإن مجرد متوسط مصفوفات العوامل $A$ و $B$ عبر العقد يؤدي إلى عدم تطابق ثنائي الخطية ( $\sum B_i A_i \neq (\sum B_i)(\sum A_i)$ ). بدلاً من ذلك، فإن إعادة بناء المصفوفات الكاملة، وتوسيطها، ثم إعادة تحليلها عبر SVD يتسبب في أخطاء حسابية وأخطاء تقليص إضافية.

المنهجية: RW-LoRA

يقترح البحث RW-LoRA، وهو مخطط ضبط دقيق لامركزي عالي الكفاءة في الاتصال يعتمد على المشي العشوائي (Random Walks). على عكس طرق الإجماع أو "النميمة" التي تحافظ على وتزامن نسخ متعددة من النموذج عبر الشبكة، يقوم RW-LoRA بنشر رمز نموذج واحد (Single Model Token) عبر الشبكة.

الآلية الجوهرية

انتشار الرمز (Token Propagation): ينتقل رمز، يتكون من زوج العوامل منخفض الرتبة الحالي $(A_t, B_t)$ ، عبر رسم بياني للاتصال. في كل تكرار، ينتقل الرمز من عقدته الحالية إلى جار مختار عشوائيًا بناءً على مصفوفة احتمالية الانتقال $P$ .
التحديثات المتسلسلة: عند وصول الرمز إلى عقدة ما، يتم تحديثه باستخدام البيانات المحلية لتلك العقدة ودالة الهدف الخاصة بها. يتضمن التحديث $K$ من خطوات الانحدار الاشتقاقي العشوائي المحلي على العوامل $A$ و $B$ .
لا يوجد تزامن عالمي: تلغي هذه العملية الحاجة إلى التزامن العالمي أو التجميع المتزامن لتحديثات متعددة. يتطور النموذج بشكل تسلسلي على طول مسار المشي العشوائي.
تدفق الخوارزمية:
1. تهيئة العوامل $A^{(0)}$ و $B^{(0)}$ .
2. عند الزمن $t$ ، يكون الرمز في العقدة $v_t$ .
3. إجراء $K$ من التحديثات المحلية: $A^{(t, k+1)} = A^{(t, k)} - \eta \nabla_A \tilde{f}_{v_t}(W^{(t, k)})$ وبالمثل لـ $B$ .
4. تحديث الرمز إلى $A^{(t+1)}, B^{(t+1)}$ ونقله إلى العقدة التالية $v_{t+1}$ المختارة من $P$ .

المساهمات الرئيسية

يلخص المؤلفون مساهماتهم كما يلي:

خوارزمية مبتكرة: يقترحون RW-LoRA كبديل منخفض العبء لطرق LoRA القائمة على "النميمة". فهو يتيح الضبط الدقيق اللامركزي دون الحاجة لخادم بارامترات أو تجميع متزامن بين الجيران.
ضمانات نظرية: يقدم البحث ضمانات تقارب صارمة للأهداف غير المحدبة تحت افتراضات قياسية (النعومة، الحدود الدنيا للتدرجات، والتباين المحدود). وقد أظهر أن معدل التقارب يعتمد على زمن الخلط (Mixing Time) لسلسلة ماركوف الأساسية.
التحقق التجريبي: أظهرت التجارب المكثفة على مهام معيار GLUE (مثل MRPC، QQP، QNLI، MNLI، SST-2) باستخدام كل من طوبولوجيا الحلقة (Ring) والشبكة الكاملة (Complete Graph) أن RW-LoRA يحقق دقة تنافسية مع تقليل التكاليف الحسابية وتكاليف الاتصال بشكل كبير مقارنة بالخط المرجعي القائم على "النميمة".

النتائج التجريبية

قيم المؤلفون RW-LoRA مقابل خط مرجعي لـ LoRA اللامركزي القائم على "النميمة" [4] باستخدام نموذج RoBERTa-base (125 مليون معلمة) عبر 30 عقدة.

أداء المهام: حقق RW-LoRA دقة مماثلة للخط المرجعي القائم على "النميمة" في جميع المهام التي تم تقييمها (MRPC، QNLI، MNLI، QQP، SST-2). وفي بعض الحالات، طابق أو تجاوز قليلاً "أفضل نتيجة" للخط المرجعي.
مكاسب الكفاءة:
- الاتصال: تتطلب الطرق القائمة على "النميمة" من كل عقدة تبادل التحديثات مع جيرانها في كل جولة، مما يؤدي إلى تكاليف عالية لكل جولة (على سبيل المثال، 256.65 مليون معلمة في الشبكة الكاملة). بينما يتضمن RW-LoRA عملية إرسال نشطة واحدة فقط في كل جولة (من العقدة الحالية إلى التالية)، مما يقلل إجمالي تكلفة الاتصال إلى $O(\text{model\_size})$ لكل جولة (0.295 مليون معلمة).
- الحوسبة: بينما تقارب LoRA القائم على "النميمة" في عدد أقل من الجولات (~~180)، إلا أن إجمالي عدد التحديثات المحلية المطلوبة كان أعلى (~~54,000) بسبب التحديثات المتوازية عبر جميع العقد. تطلب RW-LoRA عددًا أقل من التحديثات المحلية الإجمالية (~25,000) للتقارب، حيث يتم تحديث عقدة واحدة فقط في كل مرة.
المتانة تجاه الرتبة (Rank): أظهرت دراسة استقصائية بتغيير رتبة LoRA ( $r \in \{4, 8, 16, 32\}$ ) أن أداء RW-LoRA يظل مستقرًا عبر مختلف الرتب، مما يشير إلى عدم الحساسية تجاه اختيار هذا المعلم الفائق.

الأهمية والادعاءات

يدعي البحث أن RW-LoRA يوفر بديلًا قابلًا للتوسع للضبط الدقيق اللامركزي، وهو مناسب بشكل خاص للتطبيقات التي تعمل في الخلفية أو تلك المقيدة بسعة النطاق الترددي والخصوصية.

تجنب عدم التطابق ثنائي الخطية: من خلال تحديث نموذج واحد بشكل تسلسلي بدلاً من تجميع عدة مصفوفات عوامل، يتجنب الأسلوب بطبيعته مشكلة عدم التطابق ثنائي الخطية ( $\sum B_i A_i \neq (\sum B_i)(\sum A_i)$ ) التي تعاني منها طرق التجميع القائمة على العوامل في الأساليب اللامركزية الأخرى.
كفاءة الموارد: تكمن الأهمية الأساسية في الخفض الكبير في أعباء الاتصال والحوسبة دون التضحية بأداء المهمة.
الأساس النظري: يوسع هذا العمل نظرية التعلم بالمشي العشوائي لتشمل سياق تحديثات LoRA ذات المصفوفات المعاملة، مما يضع معدلات تقارب تأخذ في الاعتبار الارتباط بين العوامل $A$ و $B$ .

يشير المؤلفون إلى أنه على الرغم من أن الطبيعة التسلسلية قد تكون أقل فائدة للتطبيقات التي تتطلب تقاربًا سريعًا، إلا أنها فعالة للغاية في السيناريوهات التي تعطي الأولوية لاستخدام الموارد المنخفض. كما يُقترح في العمل المستقبلي استكشاف الشبكات غير المتجانسة حيث قد تستخدم العقد رتب LoRA مختلفة.