🤖 machine learning

Federated Continual Learning as a Distributed Drift-Plus-Penalty Control Problem

تقترح هذه الورقة إطار عمل "التعلم المستمر الموحد المنظم بالدور" (FedQCL)، وهو إطار عمل مبتكر يصيغ التعلم المستمر الموحد كمسألة تحكم عشوائي باستخدام تحسين "انجراف زائد بالإضافة إلى العقوبة" (Lyapunov drift-plus-penalty) لإدارة النسيان صراحةً من خلال أدوار افتراضية، مما يحقق دقة فائقة وتقليلاً للنسيان في الاختبارات المعيارية غير المتجانسة دون الحاجة إلى إسقاط التدرج أو عبء اتصالات إضافي.

المؤلفون الأصليون: Nazreen Shah, Naveen Kumar Reddy Somireddy, Zubair Shaban, Ranjitha Prasad, B. N. Bharath

نُشر 2026-08-25

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Nazreen Shah, Naveen Kumar Reddy Somireddy, Zubair Shaban, Ranjitha Prasad, B. N. Bharath

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في العالم الرقمي، يُطلب من الآلات بشكل متزايد ألا تتعلم لمرة واحدة فحسب، بل أن تتعلم باستمرار، وتتكيف مع المعلومات الجديدة فور وصولها مع تذكر ما تعلمته سابقاً. يُعرف هذا التحدي باسم "التعلم المستمر". تخيل طالباً يتعين عليه خوض امتحان جديد كل يوم، لكن قواعد الفصل الدراسي تمنعه من الاحتفاظ بكتبه المدرسية أو ملاحظاته القديمة. يجب عليه دراسة المادة الجديدة دون أن يفقد القدرة على الإجابة عن أسئلة الأيام السابقة. في العالم الحقيقي، يتجسد هذا السيناريو عبر ملايين الأجهزة، من الهواتف الذكية إلى المستشعرات الطبية، حيث يحمل كل منها بيانات خاصة لا يمكن مشاركتها مع خادم مركزي. يُسمى هذا الإعداد "التعلم الاتحادي"، حيث تعمل العديد من الأجهزة معاً لتدريب نموذج ذكي واحد دون الكشف أبداً عن معلوماتها الخاصة. وتنشأ الصعوبة عندما تواجه هذه الأجهزة أنواعاً مختلفة من البيانات ومهاماً متغيرة بمرور الوقت؛ إذ غالباً ما ينسى النموذج الدروس القديمة أثناء تعلمه دروساً جديدة، وهي مشكلة تُعرف باسم "النسيان الكارثي".

لقد عالج الباحثون في المعهد الدولي للتكنولوجيا في دلهي (IIIT Delhi) والمعهد الهندي للتكنولوجيا في دارواد (IIT Dharwad) هذه المشكلة المحددة من خلال النظر إلى عملية التعلم ليس مجرد سلسلة من المسائل الرياضية، بل كنظام ديناميكي يحتاج إلى تنظيم مستمر. لقد طوروا طريقة جديدة تسمى FEDQCL، والتي تعامل نسيان المعلومات ككمية فيزيائية يمكن قياسها والتحكم فيها. وبدلاً من محاولة إجبار النموذج على تذكر كل شيء من خلال قواعد جامدة، يستخدم نهجهم نظام تتبع افتراضي. فكر في هذا النظام كمجموعة من العدادات المحلية على كل جهاز تحتفظ بإحصاء جارٍ لمقدار ما ينساه النموذج عن المهام الماضية. إذا ارتفع معدل النسيان بشكل كبير، يقوم النظام تلقائياً بتعديل عملية التعلم لإبطائها وحماية المعرفة القديمة. وهذا يسمح للنموذج بالبقاء مرناً بما يكفي لتعلم أشياء جديدة مع بقائه مستقراً بما يكفي للاحتفاظ بما يعرفه بالفعل، وكل ذلك دون الحاجة لأن ترسل الأجهزة بيانات إضافية ذهاباً وإياباً.

يكمن جوهر هذا العمل في كيفية إدارة الباحثين للتوتر بين تعلم مهام جديدة وتذكر المهام القديمة. في النهج السابقة، كانت الأجهزة غالباً ما تحاول حل كل مهمة جديدة بمعزل عن غيرها، أو كانت تستخدم حِيلاً رياضية معقدة لمنع التغييرات في النموذج التي قد تضر بالأداء السابق. وكثيراً ما عانت هذه الأساليب عندما كانت البيانات على الأجهزة المختلفة مختلفة جداً عن بعضها البعض، مما أدى إلى حالة يصبح فيها النموذج العالمي مرتبكاً أو غير مستقر. يقدم الأسلوب الجديد مفهوماً يسمى "الطابور الافتراضي". ففي كل خطوة من خطوات عملية التعلم، يتحقق كل جهاز من مدى تأثير تعلمه الحالي على أدائه في المهام الماضية. إذا انخفض الأداء، ينمو الطابور الافتراضي، مما يعطي إشارة بأن الجهاز ينسى الكثير. تعمل هذه الإشارة بمثابة مكبح لطيف لعملية التعلم، مما يشجع النموذج على إعطاء الأولوية للاستقرار. وإذا كان النموذج يعمل بشكل جيد ولا ينسى، يظل الطابور صغيراً، مما يسمح للنموذج بتعلم أشياء جديدة بسرعة.

ما يميز هذا النهج هو أنه لا يتطلب من الأجهزة مشاركة بياناتها الخاصة أو حتى إرسال معلومات إضافية إلى الخادم المركزي لإنجاح هذا الأمر. فالتتبع يحدث بالكامل على الجهاز المحلي، مما يحافظ على الخصوصية مع المساهمة في بناء نموذج عالمي مستقر. اختبر الباحثون هذا النظام في مهام قياسية للتعرف على الصور، حيث كان على النموذج تعلم تحديد مجموعات مختلفة من الأشياء بالتتابع. وقارنوا طريقتهم بعدة تقنيات موجودة، بما في ذلك تلك التي تعتمد على تخزين أمثلة سابقة أو استخدام إسقاطات رياضية معقدة لحماية المعرفة القديمة. وأظهرت النتائج أن طريقتهم الجديدة حققت باستمرار دقة أعلى في المهام مع تقليل كمية المعلومات المنسية بشكل كبير. وفي الاختبارات التي شملت آلاف الصور عبر مئات الفئات، تفوق النهج الجديد على أفضل الأساليب الموجودة، مما أثبت أن إدارة النسيان كعملية مستمرة ومنظمة أكثر فعالية من محاولة إصلاحه بعد وقوعه.

كما استكشفت الدراسة كيفية سلوك الطريقة تحت ظروف مختلفة، مثل عندما تكون البيانات على كل جهاز غير متوازنة للغاية أو عندما تكون الذاكرة المتاحة لتخزين الأمثلة السابقة محدودة. وحتى عندما كانت البيانات غير متوازنة بشدة، حيث رأت بعض الأجهزة نوعاً واحداً من الصور بينما رأت أجهزة أخرى شيئاً مختلفاً تماماً، ظل النهج قوياً. فقد حافظ على دقة عالية ونسيان منخفض، في حين عانت الأساليب الأخرى للحفاظ على استقرار النموذج. ووجد الباحثون أنه يمكنهم ضبط "مقبض تحكم" واحد لتحديد مقدار ما يجب أن يعطيه النموذج الأولوية لتعلم أشياء جديدة مقابل تذكر الأشياء القديمة. سمحت هذه المرونة لهم بإيجاد "النقطة المثالية" حيث يمكن للنموذج التكيف بسرعة دون فقدان أساسه. وتشير النتائج إلى أن معاملة عملية التعلم كمسألة تحكم ديناميكية، حيث يتم مراقبة النسيان وتنظيمه في الوقت الفعلي، يوفر طريقة قوية لبناء أنظمة ذكية يمكنها التعلم باستمرار في العالم الحقيقي.

لا يدعي هذا العمل أنه قد حل كل مشكلة في تعلم الآلة، ولكنه يقدم إطاراً واضحاً وفعالاً لأحد التحديات الأكثر استمراراً: الحفاظ على استقرار النموذج أثناء تعلمه. ومن خلال نقل التركيز من القواعد الثابتة إلى التنظيم الدينماكي، أظهر الباحثون أنه من الممكن تحقيق التوازن بين الحاجة إلى المرونة والحاجة إلى الاستقرار. وتعمل الطريقة دون الحاجة إلى اتصالات إضافية بين الأجهزة، مما يجعلها عملية للتطبيقات في العالم الحقيقي حيث تكون سعة النطاق الترددي والخصوصية من الأمور المهمة. ومع استمرار نشر الآلات في بيئات تتغير فيها البيانات باستمرار، فإن مثل هذه النهج، التي يمكنها التكيف والتنظيم ذاتياً دون تدخل بشري، ستصبح على الأرجح ضرورية لبناء ذكاء اصطناعي موثوق وطويل الأمد.

ملخص تقني: التعلم المستمر الموحد كمسألة تحكم موزعة بنظام "الاندفاع زائد العقوبة"

صياحة المسألة

يعالج التعلم المستمر الموحد (FCL) تحدي تدريب نماذج التعلم الآلي عبر عملاء موزعین حيث تصل البيانات بشكل متتابع وتتطور المهام بمرور الوقت. وخلافًا للتعلم الموحد القياسي (FL)، الذي يفترض مجموعات بيانات ثابتة، يتطلب FCL من النماذج التكيف مع مهام جديدة مع الاحتفاظ بالمعرفة بالمهام السابقة دون الوصول إلى البيانات التاريخية الخام. يفرض هذا الإعداد تحديين رئيسيين: النسيان الكارثي (الفقدان السريع للمعرفة المكتسبة سابقًا) وانحراف العميل (التحديثات المحلية المتباعدة الناتجة عن توزيعات البيانات غير المتماثلة IID).

تعتمد الأساليب الحالية عادةً على صياغة FCL كسلسلة من مسائل التحسين لكل مهمة، مع الاعتماد على آليات استدلالية مثل مخازن إعادة التشغيل (replay buffers)، أو التنظيم (مثل EWC وLwF)، أو إسقاط التدرج (gradient projection). ومع ذلك، يرى المؤلفون أن النسيان في FCL هو ظاهرة طويلة الأمد وموزعة تنشأ من التفاعل بين التطور الزمني للمهام والتباين عبر العملاء. غالبًا ما تُحسن الطرق الحالية أهدافًا قصيرة النظر (myopic) تعتمد على الجولات، مما يؤدي إلى الفشل في تنظيم تراكم النسيان صراحةً بمرور الوقت وعبر العملاء. علاوة على ذلك، تتحمل العديد من الطرق الحالية أعباء اتصالات كبيرة (مثل إسقاط التدرج) أو تفرض قيودًا جامدة تحد من مرونة النموذج.

المنهجية: FEDQCL

يقترح البحث إطار عمل التعلم المستمر الموحد المنظم بطابور FEDQCL، وهو إطار يصنف FCL كمسألة تحكم عشوائية. الابتكار الجوهري يكمن في تطبيق تحسين الاندفاع زائد العقوبة (DPP) لتنظيم المقايضة بين الاستقرار والمرونة بشكل صريح.

المكونات الرئيسية:

طوابير افتراضية لتتبع النسيان:
بدلاً من معاملة النسيان كقيد ثابت، يقدم FEDQCL طوابير افتراضية $Q_i^{(k)}[t]$ عند كل عميل $i$ لكل مهمة سابقة $k$ . تتتبع هذه الطوابير تراكم انتهاكات القيود (أي الزيادة في خسارة إعادة التشغيل) بمرور الوقت. قاعدة تحديث الطابور هي:
$Q_i^{(k)}[t] = \max \left\{ Q_i^{(k)}[t-1] + \left[ \hat{\Phi}_i^{(k)}(w_i^{(t)}) - \hat{\Phi}_i^{(k)}(w^{(t-1)}) - \delta \right], 0 \right\}$
حيث تمثل $\hat{\Phi}$ خسارة إعادة التشغيل المحلية، و $w^{(t-1)}$ هو النموذج العالمي من المهمة السابقة، و $\delta$ هو عتبة التسامح.
هدف الاندفاع زائد العقوبة (DPP):
في كل جولة اتصالات، يقلل العملاء من هدف DPP المحلي الذي يوازن بين أداء المهمة الحالية (المرونة) مقابل انحراف الطوابير الافتراضية (الاستقرار):
$\text{DPP}_{V,i}^{(t)} = \min_{w^{(t)}} \left[ V \Phi_i(w^{(t)}; D_i^{(t)}) + \Delta L_i[t] \right]$
هنا، $V$ هو معامل تحكم يحكم عملية المقايضة، و $\Delta L_i[t]$ هو اندفاع ليابونوف (Lyapunov drift). باستخدام حد علوي للاندفاع، يتبسط التحسين إلى:
$V \Phi_i(w; D_i^{(t)}) + \sum_{k=1}^{t-1} Q_i^{(k)}[t-1] \Delta \hat{\Phi}_i^{(k)}(w, w^{(t-1)})$
يشجع الحد الأول على تعلم المهمة الحالية، بينما يعاقب الحد الثاني الزيادات في خسارة إعادة التشغيل للمهام السابقة، بوزن يعتمد على حالة الطابور الحالية.
تحديثات الطابور لكل جولة:
خيار تصميم حاسم في FEDQCL هو تحديث الطوابير الافتراضية على مستوى جولات الاتصال بدلاً من حدود المهام. نظرًا لأن النسيان يتطور باستمرار من خلال التحديثات المحلية المتكررة والمشاركة الجزئية، فإن التحديثات لكل جولة تسمح بتتبع دقيق وتصحيح في الوقت المناسب لانتهاكات القيود.
كفاءة الاتصال:
لا تتطلب الطريقة أي أعباء اتصالات إضافية تتجاست مع المعايير القياسية لـ FL (مثل FedAvg). يتم الاحتفاظ بالطوابير الافتراضية محليًا عند كل عميل، ولا يتم تبادل أي إسقاط للتدرج أو تضمينات عالية الأبعاد.

المساهمات الرئيسية

صياغة نظرية التحكم: يعد هذا البحث الأول الذي يصنف FCL كمسألة استقرار طابور، حيث ينمذج النسيان كعملية تراكمية قابلة للتحكم عبر الزمن والعملاء.
التحكم في المقايضة بمعامل واحد: يحقق FEDQCL توازنًا مبدئيًا بين التكيف والاحتفاظ باستخدام معلمة فائقة واحدة ( $V$ )، متجنبًا الضبط المعقد المطلوب من الطرق القائمة على الإسقاط أو القيود المتعددة.
الخصوصية والكفاءة: يفرض الإطار القيود ضمنيًا من خلال ديناميكيات الطابور المحلية، مما يحافظ على الخصوصية (لا يتم مشاركة بيانات خام أو تضمينات معقدة) ويحافظ على كفاءة الاتصال المماثلة لـ FedAvg.
التنظيم دقيق التفاصيل: من خلال تحديث الطوابير لكل جولة اتصال، تلتقط الطريقة الطبيعة المستمرة للنسيان في البيئات الموزعة، مما يوفر تحكمًا فائقًا في انحراف العميل مقارنة بالصياغات المرتبطة بالمهام.

النتائج التجريبية

قيم المؤلفون FEDQCL على معايير قياسية: Split-CIFAR-10، وSplit-CIFAR-100، وSplit-TinyImageNet تحت توزيعات بيانات غير متماثلة (معلمة Dirichlet $\alpha$ ).

الأداء: تفوق FEDQCL على أساليب الخط الأساس (baselines) المتطورة، بما في ذلك الأساليب القائمة على إعادة التشغيل (DER++, ER-FL)، والأساليب القائمة على التنظيم (EWC-FL, LwF-FL)، وأساليب إسقاط التدرج (FOT).
- في Split-CIFAR-100، حقق FEDQCL دقة متوسطة بلغت 54.52% مع نسيان قدره 0.05، متفوقًا على أفضل خط أساس (DER++-FL: دقة 51.04%، نسيان 0.06).
- في Split-TinyImageNet، حقق دقة 33.37% مع نسيان 0.13، مقارنة بـ 31.02% و0.17 لـ DER++-FL.
المتانة: أظهرت الطريقة متانة عبر مستويات متفاوتة من عدم تجانس البيانات ( $\alpha \in \{0.001, 10, 10^5\}$ ) وأحجام ذاكرة التخزين المؤقت ( $M \in \{200, 500, 1000\}$ ).
الأمثلية في باريتو (Pareto Optimality): في مخططات المقايضة بين المرونة والاستقرار، شغل FEDQCL باستمرار المنطقة العليا اليسرى من جبهة باريتو، مما يشير إلى توازن متفوق بين الدقة العالية والنسيان المنخفض مقارنة بالأساليب التي تضحي بأحدهما من أجل الآخر.
دراسات الاستئصال (Ablation Studies): أكدت الدراسة أن معامل التحكم $V$ يقوم بالتدخل بفعالية بين الأنظمة التي تتجنب النسيان والأنظمة التي تركز على المرونة. كما أظهرت ديناميكيات الطابور قدرتها على التكيف مع القيود المتغيرة ( $\delta$ ) ومستويات التباين دون تدهور هيكلي.

الأهمية والادعاءات

يزعم البحث أن معاملة FCL كمسألة تحكم ديناميكية، وليس كسلسلة من مهام التحسين الثابتة، أمر ضروري لإدارة التفاعل المعقد بين النسيان وعدم التجانس في الأنظمة الموزعة. من خلال الاستفادة من تحسين ليابونوف، يوفر FEDQCL آلية منهجية وقابلة للتفسير لتنظيم النسيان دون الأعباء الحسابية أو أعباء الاتصال للأساليب المتقدمة الحالية.

يؤكد المؤلفون أن نهجهم خالٍ من الإسقاط (projection-free) ويحافظ على الخصوصية، مما يجعله قابلًا للتوسع في بيئات التعلم الموحد الواقعية حيث تكون الموارد وعرض النطاق الترددي محدودين. يسلط العمل الضوء على أن نمذجة النسيان صراحةً كعملية تراكمية عبر الطوابير الافتراضية يسمح بتنظيم أكثر فعالية للمقايضة بين الاستقرار والمرونة مقارنة بالقيود الاستدلالية أو التحديثات قصيرة النظر. تشير النتائج إلى أن FEDQCL يقدم بديلًا مبدئيًا لنماذج FCL الحالية، محققًا أداءً رائدًا مع تقليل النسيان بشكل كبير تحت توزيعات البيانات غير المتجانسة وغير المستقرة.