🤖 machine learning

VARS-FL: Validation-Aligned Client Selection for Non-IID Federated Learning in IoT Systems

تقترح هذه الورقة البحثية إطار عمل VARS-FL، وهو إطار لاختيار العملاء في التعلم الاتحادي غير المتماثل (non-IID) في أنظمة إنترنت الأشياء، والذي يعمل على تحسين التقارب والاستقرار من خلال تجميع انخفاضات خسارة التحقق من جانب الخادم في درجة سمعة مدركة للتاريخ، متفوقاً بذلك على الأساليب الحالية مثل FedAvg وOort على مجموعة بيانات Edge-IIoTset.

المؤلفون الأصليون: Mohamed Lakas, Mohamed Amine Ferrag

نُشر 2026-05-08

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Mohamed Lakas, Mohamed Amine Ferrag

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل فصلاً دراسياً ضخماً وعالمياً حيث يحاول مئات الطلاب (يُطلق عليهم اسم العملاء - clients) تعلم كيفية رصد أنواع مختلفة من الهجمات السيبرانية. ومع ذلك، هناك قاعدة صارمة: لا يُسمح لأي شخص بمشاركة واجباته المنزلية أو ملاحظاته. يجب عليهم التعلم على أجهزتهم الخاصة، ويرسلون فقط إجاباتهم النهائية (تحديثات النموذج) إلى المعلم (الخادم - server).

هذا هو التعلم الاتحادي (Federated Learning). إنه أمر رائع للحفاظ على الخصوصية، ولكن لديه مشكلة كبيرة: الطلاب لديهم واجبات منزلية مختلفة تماماً. البعض لا يرى سوى هجمات "برامج الفدية" (Ransomware)، والبعض الآخر لا يرى سوى هجمات "حجب الخدمة" (DDoS)، والبعض لا يرى سوى حركة مرور طبيعية. وهذا ما يسمى بالبيانات غير المتماثلة (Non-IID) (غير المنتظمة).

المشكلة: "القرعة العشوائية" و"الصوت العالي"

في الأنظمة القياسية (مثل FedAvg)، يختار المعلم الطلاب لمشاركة إجاباتهم بشكل عشوائي تماماً كل يوم.

المشكلة: إذا تم اختيار طالب يرى هجمات نادرة ولكنها خطيرة مرة واحدة فقط بين الحين والآخر، فلن يتعلم المعلم أبداً كيفية رصد تلك الهجمات.
فخ "الصوت العالي": تحاول بعض الطرق القديمة اختيار الطلاب الذين يعانون أكثر (ارتفاع "الخسارة المحلية - local loss"). ولكن في هذا الفصل الدراسي الفوضوي، قد يعاني الطالب لمجرد أن واجبه المنزلي غريب، وليس لأنه مفيد فعلياً للفصل بأكمله. اختيارهم باستمرار يجعل أداء الفصل بأكره يسوء.

الحل: VARS-FL (نظام "شهادة التقدير")

يقترح المؤلفون نظاماً جديداً يسمى VARS-FL. بدلاً من التخمين حول من هو مفيد، يستخدم المعلم نظام سمعة متوافق مع التحقق (Validation-Aligned Reputation System).

إليك كيف يعمل، باستخدام تشبيه بسيط:

1. "الامتحان التجريبي" (خسارة التحقق - Validation Loss)

في كل مرة يرسل فيها الطالب إجاباته المحدثة، لا ينظر المعلم فقط إلى واجبه المنزلي. بدلاً من ذلك، يأخذ المعلم امتحاناً تجريبياً موحداً (مجموعة التحقق - Validation Set) يتفق عليه الجميع.

يتحقق المعلم من درجة الامتحان قبل تحديث الطالب.
ثم يطبق المعلم تحديث الطالب ويتحقق من الدرجة مرة أخرى.
الدرجة: إذا جعل تحديث الطالب درجة الامتحان أفضل، فإنه يحصل على نقاط. أما إذا جعلها أسوأ، فإنه يحصل على صفر.
لماذا هذا مهم: هذا يضمن أن المعلم يكافئ الطلاب الذين ساعدوا الفصل بأكمله بالفعل في اجتياز الامتحان، وليس فقط الطلاب المتفوقين في واجباتهم الغريبة الخاصة.

2. "درجة السمعة" (الاستمرارية مهمة)

المعلم لا ينظر فقط إلى نتيجة اليوم. بل يحتفظ بـ درجة سمعة (Reputation Score) لكل طالب.

النافذة المنزلقة (Sliding Window): ينظر المعلم إلى آخر بضع "تحسينات في الامتحان التجريبي" حققها الطالب. إذا كان الطالب مفيداً باستمرار في الفترة الأخيرة، فإن سمعته ترتفع.
"مكافأة المشاركة": يتتبع النظام أيضاً عدد مرات مشاركة الطالب. ومع ذلك، فإنه يستخدم خدعة رياضية خاصة (التحجيم اللوغاريتمي) بحيث لا يضمن مجرد الظهور كثيراً الحصول على درجة عالية. يجب أن تكون جيداً في حضورك.
النتيجة: الطالب الذي يظهر نادراً ولكنه مفيد باستمرار يحصل على سمعة عالية. أما الطالب المزعج أو غير المفيد، فستكون سمعته منخفضة.

3. "اختيار الفصل" (الاستغلال مقابل الاستكشاف)

عندما يحتاج المعلم لاختيار 10 طلاب للجولة القادمة:

الاستغلال (النجوم): تذهب معظم المقاعد للطلاب ذوي أعلى درجات السمعة (أولئك الذين يحسنون الامتحان التجريبي باستمرار).
الاستكشاف (الوافدون الجدد): تُمنح بضعة مقاعد لطلاب عشوائيين. هذا يضمن ألا يفوت المعلم فرصة اكتشاف طالب قد يكون رائعاً ولكنه لم يُختر بما يكفي لبناء سمعة.

النتائج: ماذا حدث في التجربة؟

اختبر المؤلفون هذا النظام على مجموعة بيانات ضخمة مكونة من 100 "طالب" (أجهزة IoT) تحاول اكتشاف 15 نوعاً مختلفاً من الهجمات السيبرانية. وقارنوا VARS-FL بالطريقة العشوائية القياسية وبالطرق الأخرى التي تعتمد على "الطالب المتعثر".

تعلم أسرع: وصل VARS-FL إلى دقة 80% بسرعة أكبر بنسبة 36% من الطريقة القياسية. لقد استغرق عدداً أقل من "الجولات" (أيام الدراسة) لإنجاز المهمة.
أفضل في الهجمات النادرة: لأن النظام كافأ الطلاب الذين ساعدوا في الامتحان الكامل، فقد أصبح أفضل بكثير في رصد الهجمات النادرة (مثل "برامج الفدية" أو "بصمة الجهاز - Fingerprinting") التي غالباً ما تفشل الطريقة العشوائية في رصدها.
الاستقرار: كانت الطرق الأخرى مثل الأفعوانية (تارة ترتفع وتارة تنخفض في الدقة). أما VARS-FL فكان صعوداً مستقراً وثابتاً.
لا تكلفة إضافية: لم يضطر الطلاب لإرسال أي بيانات إضافية. قام المعلم بكل العمليات الحسابية الإضافية (التحقق من الامتحان التجريبي) على حاسوبه الخاص.

الخلاصة

VARS-FL يشبه المعلم الذكي الذي يتوقف عن اختيار الطلاب بناءً على من هو "الأعلى صوتاً" أو "العشوائي"، وبدلاً من ذلك يختار الطلاب بناءً على سجل حافل ومثبت في مساعدة الفصل بأكمله على اجتياز اختبار موحد. إنه يجعل عملية التعلم أسرع، وأكثر استقراراً، وأفضل في رصد التهديد النادرة والخطيرة التي تهم عالم إنترنت الأشياء (IoT) أكثر من غيرها.

ملخص تقني: VARS-FL

بيان المشكلة

تواجه أنظمة التعلم الاتحادي (Federated Learning - FL)، لا سيما في بيئات إنترنت الأشياء (IoT) وإنترنت الأشياء الصناعي (IIoT)، تحديات كبيرة بسبب عدم تجانس البيانات (Non-IID) والأعباء الإضافية للاتصالات. تعتمد استراتيجيات اختيار العملاء الحالية، مثل خوارزمية FedAvg القياسية، عادةً على الاختيار عديم الحالة (stateless selection)، حيث تعامل كل جولة اتصالات بشكل مستقل دون الاستفادة من الأداء التاريخي للعملاء. يؤدي هذا إلى تدريب غير فعال وبطء في التقارب، خاصة عندما يمتلك العملاء فئات بيانات نادرة ولكنها بالغة الأهمية (مثل أنواع معينة من الهجمات في أنظمة كشف التسلل).

هناك قضية أكثر دقة ولكنها حاسمة وهي عدم توافق الأهداف (objective misalignment). تعتمد العديد من طرق الاختيار على مؤشرات محلية (مثل خسارة التدريب المحلية أو معايير التدرج) لتقدير فائدة العميل. في ظل ظروف عدم تجانس البيانات (Non-IID)، قد يكون العميل الذي يمتلك خسارة محلية عالية مجرد عميل تختلف توزيعاته البيانية عن النموذج العالمي، بدلاً من أن يكون مفيداً عالمياً. إن إعطاء الأولوية لمثل هؤلاء العملاء يمكن أن يحيز النموذج العالمي نحو الحلول المثلى المحلية (local optima)، مما يسبب ديناميكيات تدريب غير مستقرة وفشلاً في التقارب. علاوة على ذلك، في بيئات إنترنت الأشياء شديدة التباين، غالباً ما يتم اختيار العملاء الذين يمتلكون فئات أقلية بشكل أقل نتيجة لأخذ العينات العشوائي، مما يؤدي إلى ضعف التعميم على أنواع الهجمات النادرة.

المنهجية: VARS-FL

يقترح المؤلفون إطار عمل VARS-FL (التقييم القائم على سمعة التحقق لتعلم الاتحادي)، وهو إطار لاختيار العملاء مصمم لمعالجة مشكلتي "عدم وجود حالة" و"عدم توافق الأهداف" دون تعديل بروتوكولات التدريب المحلي أو التجميع.

المكونات الأساسية

تسجيل الجودة المتوافق مع التحقق:
بدلاً من استخدام المؤشرات المحلية، يقوم الخادم بتقييم مساهمة كل عميل من خلال قياس الانخفاض في خسارة التحقق من جانب الخادم الناتج عن تحديث العميل.

لتكن $L_{val}(\theta)$ هي خسارة التحقق. بالنسبة لعميل $i$ في الجولة $t$ ، يتم حساب التحسن $\delta_i^t$ كالتالي: $\max(0, L_{val}(\theta^{t-1}) - L_{val}(\theta_i^t))$ .
هذه الإشارة متوافقة بطبيعتها مع هدف التحسين العالمي، مما يضمن أن العملاء المختارين يساهمون في التعميم العالمي بدلاً من مجرد الملاءمة المحلية.
يتم تطبيع (normalization) الدرجات ضمن الجولة الواحدة للتأكيد على المساهمة النسبية.

آلية السمعة (Reputation Mechanism):
للتغلب على ضجيج إشارات الجولة الواحدة، يقوم VARS-FL بتجميع الأدلة بمرور الوقت في درجة سمعة ( $R_i^t$ ).

يجمع بين متوسط النافذة المنزلقة ( $\bar{Q}_i^{(t)}$ ) لدرجات الجودة الأخيرة وحد المشاركة ذو المقياس اللوغاريتمي ( $\log(1 + p_i^t)$ ).
يضمن الحد اللوغاريتمي أن المشاركة المتكررة وحدها لا تضمن الاختيار؛ بل يتطلب الأمر جودة ثابتة. هذا يمنع ظاهرة "الغني يزداد غنى" (rich get richer) مع الحفاظ على المتانة.

استراتيجية اختيار الاستكشاف والاستغلال (Explore–Exploit):
يتم صياغة اختيار العميل كمسألة المتعدد الأذرع (Multi-Armed Bandit - MAB).

الاستغلال (Exploitation): يتم ملء غالبية الفتحات ( $m_{rep}$ ) بالعملاء الذين لديهم أعلى درجات السمعة.
الاستكشاف (Exploration): يتم ملء الفتحات المتبقية ( $m_{rnd}$ ) عبر أخذ عينات عشوائية موحدة لضمان عدم استبعاد العملاء الذين قد يكونون مفيدين (خاصة أولئك الذين لديهم بيانات نادرة) بشكل دائم.
تستخدم فترة "البداية الباردة" ( $T_0$ ) الاختيار العشوائي قبل ترسيخ درجات السمعة.

خصائص النظام

التوافق: يتوافق VARS-FL تماماً مع تجميع FedAvg القياسي. فهو لا يتطلب أي تغييرات في التدريب المحلي، أو الحوسبة لدى العميل، أو بروتوكولات الاتصال.
الأعباء الإضافية: لا يضيف أي أعباء إضافية على الاتصالات (العملاء يرسلون تحديثات النموذج فقط). التكلفة الحسابية الإضافية تقتصر حصرياً على جانب الخادم (عمليات التمرير الأمامي على مجموعة التحقق) وتتوسع خطياً مع عدد العملاء المختارين وحجم مجموعة التحقق، وبشكل مستقل عن إجمالي عدد العملاء.

النتائج التجريبية

تم تقييم إطار العمل على مجموعة بيانات Edge-IIoTset، وهي معيار واسع النطاق لكشف التسلل في إنترنت الأشياء يحتوي على 15 فئة (بما في ذلك الهجمات النادرة) و100 عميل تحت تقسيم غير متجانس (Non-IID).

الأداء: تفوق VARS-FL باستمرار على FedAvg وOort وPower-of-Choice عبر عدة بذور عشوائية (random seeds).
- الدقة (Accuracy): حقق متوسط دقة قدره 0.8185 (مقابل 0.7671 لـ FedAvg).
- F1-Macro: تحسن بشكل ملحوظ ليصل إلى 0.6422 (مقابل 0.5565 لـ FedAvg)، مما يشير إلى معالجة أفضل لعدم توازن الفئات وأنواع الهجمات الأقلية.
- الخسارة (Loss): قلل خسارة الاختبار إلى 0.4937 (مقابل 0.5852 لـ FedAvg).
سرعة التقارب: سرّع VARS-FL عملية التقارب، حيث تطلب ما يصل إلى 36% أقل من الجولات للوصول إلى دقة 80% مقارنة بالنماذج المرجعية. في بعض البذور، فشلت النماذج المرجعية في الوصول إلى 80% خلال 100 جولة، بينما نجح VARS-FL باستمرار.
الاستقرار: على عكس Oort، الذي أظهر تذبذبات عالية السعة بسبب عدم توافق الخسارة المحلية، أظهر VARS-FL ديناميكيات تدريب مستقرة وتباينًا أقل عبر البذور.
استدعاء الفئات (Per-Class Recall): حسن الأسلوب بشكل كبير معدل الاستدعاء لست فئات كان أداء FedAvg فيها ضعيفاً (مثل Port Scanning وRansomware)، مما يثبت قدرته على إبراز البيانات النادرة ولكن الحرجة.
المتانة: أثبت إطار العمل متانته تجاه تكوين مجموعة التحقق من جانب الخادم. حيث قدمت مجموعة تحقق صغيرة ومتوازنة الفئات (2,250 عينة) أداءً مقارباً لمجموعة كبيرة وموزعة طبقياً (110,407 عينة)، مما يشير إلى الجدوى العملية في عمليات نشر IIoT حيث يكون التوزيع العالمي غير معروف.

الأهمية والادعاءات

يزعم البحث أن VARS-FL يوفر حلاً مبدئياً وعملياً لاختيار العملاء في البيئات غير المتجانسة (Non-IID). تكمن أهميته الأساسية في:

توافق الأهداف: من خلال استبدال المؤشرات المحلية بتقليل خسارة التحقق من جانب الخادم، فإنه يربط مباشرة اختيار العملاء بهدف التحسين العالمي، مما يخفف من عدم الاستقرار الناتج عن تغيرات التوزيع المحلي.
الوعي بالتاريخ: تلتقط آلية السمعة اتجاهات المساهمة طويلة المدى، مما يميز بين العملاء المفيدين باستمرار وأولئك الذين قد يكونون مجرد مصدر للضجيج أو محظوظين في جولة واحدة.
الملاءمة لإنترنت الأشياء: يعالج المتطلبات الخاصة لإنترنت الأشياء/إنترنت الأشياء الصناعي (عرض النطاق الترددي، سيادة البيانات، عدم التجانس) من خلال عدم طلب أي اتصالات إضافية من جانب العميل والعمل بفعالية مع مجموعات تحقق صغيرة ومستقلة.

يضع المؤلفون VARS-FL كأول إطار عمل يجمع في آن واحد بين إشارات المنفعة المتوافقة عالمياً، والتجميع الزمني (السمعة)، واختيار الاستكشاف والاستغلال ضمن مسار تعلم اتحادي قياسي، مما يقدم بديلاً موثوقاً للاستراتيجيات عديمة الحالة أو القائمة على المؤشرات.