Detecting Atypical Clients in Federated Learning via Representation-Level Divergence

ملخص تقني: اكتشاف العملاء غير النمطيين في التعلم الاتحادي عبر التباعد على مستوى التمثيل

بيان المشكلة

يتيح التعلم الاتحادي (Federated Learning - FL) تدريب النماذج بشكل تعاوني عبر عملاء موزعین دون مشاركة البيانات الخام، مما يعالج قيود الخصوصية والأمن. ومع ذلك، يواجه التعلم الاتحادي تحديات كبيرة بسبب عدم تجانس البيانات (توزيعات غير متماثلة - non-i.i.d)، مما يؤدي غالبًا إلى عدم استقرار التقارب وتدهور الأداء العالمي. وبعيدًا عن التباين الإحصائي الطبيعي، تواجه عمليات النشر العملية مخاطر حيث تنحرف تحديثات العملاء نتيجة التحولات التوزيعية، أو انزياح المستشعرات، أو المدخلات الشاذة.

تعتمد النهج الحالية لاكتشاف مثل هذه الانحرافات غالبًا على مقارنة معاملات النموذج (parameters) أو التدرجات (gradients). ويرى المؤلفون أن هذه الأساليب توفر رؤية محدودة حول كيفية تأثير العملاء المختلفين على السلوك الوظيفي الداخلي والحدود القرارية للشبكة العصبية (NN). وهناك حاجة لآلية للتمييز بين التباين المتوقع الناتج عن بيانات غير متماثلة (non-i.i.d)، وبين الانحرافات التي قد تكون ضارة وتؤثر على استقرار أو موثوقية عملية التجميع.

المنهجية

يقترح البحث مقياسًا هندسيًا خفيف الوزن لقياس التباعد الوظيفي بين نموذج العميل والنموذج العالمي. وبدلاً من تحليل المعاملات، يركز النهج على التقسيم المستحث بالتنشيط لفضاء المدخلات.

1. أنماط التنشيط وتقسيم فضاء المدخلات:

   • بالنسبة لشبكة عصبية أمامية (Feedforward NN) تعتمد على دالة ReLU، يعرّف المؤلفون أنماط تنشيط ثنائية $a_l(x; \theta)$ لكل طبقة $l$.
   • تقوم هذه الأنماط بتقسيم فضاء المدخلات إلى مناطق متعددة الأوجه (piecewise-affine regions). وتتبع العينات التي تشترك في نفس نمط التنشيط نفس المنطقة.
   • يستخدم المؤلفون مجموعة اختبار (probe set) ثابتة ومشتركة $P$ (وهي مجموعة فرعية متماثلة التوزيع - i.i.d) لتقييم هذه الأنماط.

2. مقياس تقارب التنشيط (Activation Affinity Metric):

   • لطبقة معينة $l$، يتم حساب تقارب التنشيط $K^\theta_l(i, j)$ بين عينتين من مجموعة الاختبار $x_i$ و $x_j$ بناءً على مسافة هامينج (Hamming distance) بين أنماط تنشيطهما.
   • يقيس هذا المقياس "المسافة" بين العينات من حيث عدد المستويات الفائقة (hyperplanes) التي يتم عبورها؛ حيث يشير التقارب العالي إلى أن العينات تقع في نفس المنطقة أو في مناطق قريبة، بينما يشير التقارب المنخفض إلى الفصل بواسطة مستويات فائقة متعددة.
   • ينتج عن ذلك مصفوفة تقارب $K^\theta_l$ تلتقط كيفية تجميع النموذج للمدخلات.

3. التباعد الهندسي الهرمي:

   • لمقارنة نموذج العميل ($\theta_c$) بالنموذج العالمي ($\theta_g$)، يحسب المؤلفون معيار فروبينيوس (Frobenius norm) للفرق بين مصفوفات التقارب الخاصة بهما: $d_l(\theta, \theta') = \|K^\theta_l - K^{\theta'}_l\|_F$.
   • يتم تعريف تباعد هرمي ($D_{hier}$) لمراعاة بنية الشبكات العصبية؛ نظرًا لأن الطبقات المبكرة تحدد فصولاً خشنة بينما تقوم الطبقات الأعمق بعمليات صقل، فإن الاختلافات في الطبقات المبكرة تُعطى وزنًا أكبر.
   • الصيغة هي:
     $$D_{hier}(\theta, \theta') = d_1(\theta, \theta') + \sum_{l=2}^{L} \left( \prod_{r=1}^{l-1} \lambda_r \right) d_l(\theta, \theta')$$
     حيث يعمل $\lambda_l = \exp(-\beta d_l)$ كعامل تقليل للوزن للطبقات الأعمق إذا أظهرت الطبقات السابقة اختلافات كبيرة.

4. اكتشاف الشذوذ:

   • في إطار التعلم الاتحادي، يتم حساب التباعد $D_c^{(t)}$ لكل عميل $c$ في الجولة $t$.
   • لتحديد العملاء غير النمطيين، يتم حساب درجة شذوذ قوية (z-score) باستخدام الوسيط والانحراف المطلق عن الوسيط (MAD) لتوزيع التباعد عبر جميع العملاء.

المساهمات الرئيسية

• المنظور الهندسي: تقديم منظور جديد لتحليل سلوك عميل التعلم الاتفادي بناءً على البنية الهندسية المستحثة بأنماط تنشيط الشبكة العصبية، بدلاً من قيم المعاملات.
• مقياس خفيف الوزن: اقتراح مقياس يحدد التباعد الوظيفي من خلال قياس كيفية تغيير التدريب المحلي لتنظيم فضاء المدخلات، مما يلتقط الاختلافات بما يتجاوز المقارنات على مستوى المعاملات.
• إشارة قابلة للتفسير: إثبات أن هذا المقياس يوفر إشارة قابلة للتفسير لمراقبة عدم تجانس البيانات وتحديد العملاء غير النمطيين.

النتائج التجريبية

قيم المؤلفون المقياس في سيناريوهين: MLP على مجموعة بيانات Fashion-MNIST، وResNet-18 على CIFAR-10، باستخدام خوارزمية التدرج الاشتقاقي العشوائي (SGD) مع تقسيم ديريشليه (Dirichlet partitioning) لمحاكاة بيانات غير متماثلة (non-i.i.d).

1. التحقق من المقياس (تحليل عدم التجانس):

   • تلاعبت التجارب بمعامل ديريشليه $\alpha$ (من $\alpha=10$ القريب من التوزيع المتماثل i.i.d إلى $\alpha=0.1$ شديد عدم التجانس).
   • النتائج: في الإعدادات القريبة من التماثل ($\alpha=10$)، استقرت تباعدات العملاء بسرعة. وفي الإعدادات شديدة عدم التجانس ($\alpha=0.1$)، رصد المقياس زيادة نظامية في التباعد وحدد العملاء الذين انحرفوا باستمرار عن النموذج العالمي، مما يتماشى مع الحدس بأن التوزيعات المختلفة للبيانات تستحث تنظيمات هندسية متميزة.

2. تحديد العميل الشاذ:

   • تمت محاكاة "عميل مزاح" (shifted client) عن طريق تطبيق اضطرابات (ضوضاء غاوسية، دوران، تغبيش) على مجموعة بيانات أحد العملاء بينما ظل الآخرون قياسيين.
   • النتائج: أظهر العميل المزاح باستمرار تباعدًا هندسيًا أعلى بكثير ودرجات z-score قوية مقارنة بالعملاء العاديين عبر جميع الجولات. وبينما تقاربت العملاء المنتظمة نحو قيم تباعد مستقرة، حافظ العميل المزاح على انحراف مستمر، مما يشير إلى تنظيم هندسي مختلف جوهريًا لفضاء المدخلات. وقد ثبت ذلك عبر كل من البنى والبيانات المستخدمة.

الأهمية والادعاءات

يدعي البحث أن مراقبة البنية الهندسية المستحثة بالشبكات العصبية توفر إشارة ذات معنى وقابلة للتفسير لتقييم مساهمات العملاء في التعلم الاتحادي. يميز المقياس المقترح بفعالية بين العملاء غير المتجانسين المستقرين وأولئك الذين تسبب تحديثاتهم تغيرات وظيفية غير نمطية.

يضع المؤلفون هذا العمل كأداة لاستراتيجيات التجميع الواعية بالمخاطر. فمن خلال تحديد العملاء الذين ينحرفون وظيفيًا (وليس فقط على مستوى المعاملات)، يمكن للنظام وزن أو تصفية التحديثات بناءً على سلوكها الوظيفي. ويخلص البحث إلى أن هذا النهج يفتح الباب أمام تجميع أكثر استنارة، رغم ملاحظته أن العمل المستقبلي مطلوب لدمج هذه الإشارة مباشرة في حلقة التدريب وتطبيقها في بيئات واسعة النطاق أو عدائية. ويُقدم هذا العمل كعنصر مكمل لطرق الخصوصية التشفيرية وطرق المتانة ضد الهجمات (Byzantine robustness)، حيث يقدم إشارة مراقبة هندسية بدلاً من الضمانات التشفيرية الرسمية.