FedRef: Bayesian Fine-Tuning using a Reference Model to Mitigate Catastrophic Forgetting for Heterogeneous Federated Learning

ملخص تقني: FedRef (الضبط الدقيق البايزي باستخدام نموذج مرجعي)

1. بيان المشكلة

تواجه التعلم الاتحادي (Federated Learning) تحديات كبيرة بسبب عدم تجانس البيانات والأنظمة (البيانات غير المتماثلة - non-IID). وتتجلى هذه التحديات بطريقتين رئيسيتين:

• النسيان الكارثي (Catastrophic Forgetting): مع تحديث النموذج العالمي بشكل متسلسل عبر توزيعات عملاء مختلفة، فإنه يميل إلى فقدان المعرفة المكتسبة من التوزيعات السابقة.
• الانجراف غير المحدود (Unbounded Drift): يؤدي التباين بين تحديثات العملاء المحليين والهدف العالمي إلى مسارات نموذج غير مستقرة، مما قد يؤدي إلى تدهور الأداء التنبؤي وزيادة خطر هجمات تسميم النماذج.
• قيود جانب العميل: تتطلب طرق التنظيم الحالية (مثل FedProx أو FedOpt) من العملاء حساب حدود تقريبية (proximal terms) إضافية، مما يزيد من الأعباء الحسابية واستهلاك الطاقة—وهو ما يمثل عائقاً حرجاً للأجهزة الطرفية محدودة الموارد.

2. المنهجية

يقترح المؤلفون FedRef، وهو إطار عمل ينقل عبء التنظيم من العملاء إلى الخادم باستخدام الضبط الدقيق البايزي (Bayesian Fine-Tuning) ونموذج مرجعي.

• بناء النموذج المرجعي: بدلاً من الاعتماد فقط على النموذج العالمي الأحدث، يقوم الخادم ببناء نموذج مرجعي ($\theta_{ref}$) عن طريق حساب تجميع مرجح زمنياً لـ $\rho$ من النماذج العالمية السابقة. يضمن ذلك أن يلتقط النموذج المرجعي تمثيلاً مستقراً وناعماً لمسار النموذج التاريخي.
• التنظيم القائم على تقدير الاحتمال الأقصى اللاحق (MAP): يعامل FedRef تحديث النموذج العالمي كمسألة تقدير الاحتمال الأقصى اللاحق (MAP). وهو يدمج نوعين من التنظيم:
  1. الاتساق الزمني: عقوبة $L_2$ على الفرق بين النماذج العالمية المتعاقبة ($\|\theta_g^r - \theta_g^{r-1}\|^2$).
  2. الارتكاز المرجعي: عقوبة $L_2$ تبقي النموذج العالمي قريباً من النموذج المرجعي الممهد زمنياً ($\|\theta_{ref}^r - \theta_{ref}^{r-1}\|^2$).
• التحسين من جانب الخادم: على عكس FedProx، الذي يجبر العملاء على حساب الحدود التقريبية، يقوم FedRef بعمليات التدريب المحلي القياسية فقط. ويقوم الخادم بخطوة الضبط الدقيق البايزي المعقدة (تقليل الخسارة المشتركة لخسائر العملاء المجمعة وقيود المرجع) لإنتاج النموذج العالمي المحدث.
• الجدولة التكيفية: يتم زيادة قوة التنظيم القائم على المرجع ($\lambda_{ref}$) بشكل تكيفي عبر جولات الاتصال لموازنة الاستكشاف الأولي مع الاستقرار طويل الأمد.

3. المساهمات الرئيسية

• تخفيف الانجراف غير المحدود: أثبت المؤلفون رياضياً أن مقدمة النموذج المرجعي تعمل كـ "قوة استعادة"، مما يقلل من احتمالية الانجراف غير المحدود (UDP) مقارنة بـ FedAvg.
• الكفاءة الحسابية: من خلال نقل عمليات الضبط الدقيق إلى الخادم، يحافظ FedRef على نفس التعقيد الحسابي للعميل كما في النموذج الأساسي FedAvg، متجنباً عبء الـ 1-3% الملاحظ في FedProx/FedOpt.
• القدرة على مواجهة عدم التجانس: تم تصميم الإطار خصيصاً لتثبيت مسار النموذج العالمي في البيئات شديدة عدم التجانس (مثل التصوير الطبي).

4. النتائج التجريبية

تم تقييم الطريقة على تصنيف الصور (FEMNIST, CINIC-10) وتقسيم الصور الطبية (FeTS2022):

• الأداء التنبؤي: حقق FedRef دقة ودرجات F1 متفوقة، لا سيما في مجموعة بيانات FeTS2022 شديدة التباين.
• النسيان الكارثي: باستخدام مقياس مخصص $\zeta$ (الذي يوازن بين تدهور الأداء والتحسن)، أظهر FedRef درجات نسيان أقل بكثير من FedAvg وFedProx وFedOpt.
• سرعة التقارب: وصل FedRef إلى مستويات الأداء المستهدفة (الدقة وجودة التقسيم) بمعدل يضاهي أو يتجاوز الطرق الحالية، مما يظهر أن التنظيم لا يؤدي بالضرورة إلى إبطاء التدريب.
• الاستقرار: كان مسار المعلمات العالمي أكثر رتابة (monotonic) وأقل تذبذباً من الطرق الأساسية.

5. الأهمية

يمثل FedRef تحولاً جذرياً في كيفية تطبيق التنظيم في التعلم الاتحادي. فمن خلال الاستفادة من مبادئ التعلم الانتقالي البايزي على مستوى الخادم، فإنه يحل المشكلة المزدوجة المتمثلة في عدم استقرار النموذج واستنزاف موارد جانب العميل. وهذا يجعله إطار عمل عملي للغاية لتطبيقات التعلم الاتحادي واسعة النطاق في العالم الحقيقي—مثل التعاونات الطبية أو شبكات الأجهزة المحمولة—حيث تكون البيانات منحازة للغاية وأجهزة العملاء ذات قدرة معالجة محدودة.