Private and Robust Contribution Evaluation in Federated Learning

إليك ملخص تقني مفصل لورقة البحث بعنوان: "ما وراء استبعاد واحد: تقييم مساهمة خاص وآمن في التعلم الاتحادي" (Beyond Leave-One-Out: Private and Robust Contribution Evaluation in Federated Learning).

1. بيان المشكلة

في التعلم الاتحادي عبر الصوامع (Cross-Silo Federated Learning)، تتعاون عدة مؤسسات لتدريب النماذج دون مشاركة البيانات الخام. وبينما يعد التجميع الآمن (Secure Aggregation - SA) آلية قياسية للحفاظ على الخصوصية من خلال إخفاء تحديثات العملاء الفردية (التدرجات) عن الخادم، إلا أنه يخلق صراعاً جوهياً مع تقييم المساهمة (Contribution Evaluation - CE).

• الصراع: يتطلب تخصيص المكافآت العادلة وكشف المشاركين الخبيثين أو ذوي الجودة المنخفضة تقييم المساهمة الهامشية لكل عميل في النموذج العالمي.
• قصور الطرق الحالية:
  • قيمة شابلي (Shapley Value - SV): هي المعيار الذهبي للعدالة، لكنها مستعصية حسابياً (تعقيد أسي) وتتطلب الوصول إلى التحديثات الفردية، مما يجعلها غير متوافقة مع التجميع الآمن (SA).
  • طريقة الاستبعاد الواحد (Leave-One-Out - LOO): هي الطريقة الوحيدة العملية المتوافقة مع التجميع الآمن (SA)، لكنها تعتمد على التقييم الذاتي (يقوم كل عميل بحساب درجته بنفسه). وهذا يجعل النظام عرضة للتلاعب من قبل العملاء الأنانيين الذين يمكنهم تضخيم درجاتهم.
• تشابه الجيب (Cosine Similarity - COS): بديل شائع يتجاهل المساهمات الهامشية، مما يؤدي إلى دقة ترتيب ضعيفة وفشل في التقاط القيمة الحقيقية للبيانات.

تعالج الورقة تحدي تصميم طرق لتقييم المساهمة تكون في نفس الوقت عادلة، خاصة (متوافقة مع SA)، وقوية ضد التلاعب.

2. المنهجية

يقترح المؤلفون مخططين جديدين لدرجات الفرق الهامشي يعملان حصرياً ضمن قيود التجميع الآمن.

السياق والقيود

• قيود التجميع الآمن (SA): لا يرى الخادم سوى النموذج المجمع ($M$) والنموذج الأولي ($M_0$). التحديثات الفردية ($U_i$) مخفية.
• قدرات العميل: يمكن للعميل $i$ حساب النماذج محلياً لمجموعة الفرد $\{i\}$ ($M_0 + U_i$) وللمجموعة التي تستثنيه $[N] \setminus \{i\}$ ($M - U_i$).
• الهدف: اشتقاق الدرجات باستخدام هذه النماذج الأربعة المتاحة فقط: $M_0$، $M$، $M+U_i$، و $M-U_i$.

المخططات المقترحة

أ. العادل-الخاص (Fair-Private - FP)

• المفهوم: تعمل FP على تحسين طريقة LOO من خلال دمج حد "إدراج واحد-في" (Include-One-In - IOI) متماثل. فهي تحسب الفرق الهامشي لإضافة عميل إلى مجموعة فارغة وإزالته من التحالف الكبير.
• الصيغة:
  $$FP(i) = \left( \frac{\alpha(i)}{\sum \alpha(j)} \right) \cdot v(M)$$
  حيث أن $\alpha(i)$ هو متوسط درجة LOO ($v(M) - v(M-U_i)$) ودرجة IOI ($v(M_0+U_i) - v(M_0)$).
• الخصائص: تحقق الكفاءة، اللاعب الصفري، التماثل، والتوافق مع SA.
• نقطة الضعف: مثل LOO، تعتمد على التقييم الذاتي، مما يجعلها عرضة لتلاعب العملاء بالإبلاغ عن درجاتهم الخاصة.

ب. الجميع باستثناء (Everybody-Else - EE)

• المفهوم: للقضاء على التقييم الذاتي، تقدم EE آلية التقييم المتقاطع (cross-evaluation). يتم تحديد درجة العميل من خلال الفروق الهامشية التي يبلغ عنها جميع العملاء الآخرين.
• الآلية:
  • يقوم العميل $j$ بتقييم تأثير العميل $i$ من خلال مقارنة التحالفات التي يتواجد فيها $i$ مقابل غيابه، ولكن يتم حساب ذلك من منظور $j$.
  • تحديداً، تقوم $\beta(i)$ بتجميع الفرق بين التحالف الكبير والعميل الفردي $\{j\}$، بينما تقوم $\gamma(i)$ بتجميع الفرق بين $[N]\setminus\{j\}$ والمجموعة الفارغة.
  • درجة العميل $i$ هي المتوسط الموزون لهذه التقييمات المقدمة من جميع العملاء $j \neq i$.
• الخصائص: تحقق الكفاءة، التماثل، التوافق مع SA، ومقاومة التلاعب.
• المقايضة: هي تتنازل عن خاصية اللاعب الصفري (العميل الذي يساهم بقيمة صفر قد يحصل على درجة غير صفرية) لتحقيق القوة ضد التلاعب.

3. المساهمات الرئيسية

1. خوارات جديدة: تقديم FP و EE، وهما أول درجات تقييم مساهمة مصممة خصيصاً لتكون متوافقة مع التجميع الآمن (SA) في التعلم الاتحادي، وتوازن بين العدالة والخصوصية.
2. الضمانات النظرية:
   • أثبتت الورقة أن كلتا الطريقتين تحققان بديهيات العدالة الرئيسية (مع تنازل EE عن خاصية اللاعب الصفري لصالح القوة ضد التلاعب).
   • أثبتت أن العمليتين تمتلكان تعقيداً حسابياً قدره $O(N)$، مما يجعلهما قابلتين للتوسع لعدد كبير من العملاء (على عكس التعقيد الأسي لقيمة شابلي الدقيقة).
   • أثبتت مقاومة التلاعب لـ EE، حيث أثبتت أن العميل لا يمكنه التأثير مباشرة على درجته الخاصة.
3. الحفاظ على الخصوصية: تلتزم كلتا الطريقتين بصرامة بقيود التجميع الآمن (SA)، مما يضمن عدم كشف أي تدرجات فردية للخادم أو للعملاء الآخرين.

4. النتائج التجريبية

قيم المؤلفون FP و EE على أربع مجموعات بيانات: ISIC2019، PatchChameleon، Brain-MRI، و CIFAR10، تحت توزيعات بيانات غير متماثلة (non-IID).

• دقة الترتيب:
  • حققت كل من FP و EE ارتباط سبيرمان عالياً ($\phi > 0.9$) مع قيمة شابلي متعددة الجولات (MR-SV) الحقيقية وقيمة شابلي الحقيقية.
  • تفوقتا بشكل كبير على LOO (التي كانت ذات ارتباط أقل) و تشابه الجيب (Cosine Similarity) (الذي كان أداؤه ضعيفاً، وغالباً ما يكون ارتباطه قريباً من الصفر).
• القوة ضد التلاعب:
  • في السيناريوهات التي حاول فيها العملاء تضخيم درجاتهم، ظلت EE قوية لأنها لا تعتمد على الإبلاغ الذاتي.
  • تبين أن FP و LOO عرضة لتلاعب الإبلاغ الذاتي.
• المنفعة اللاحقة (Downstream Utility):
  • زيادة الأداء: عند تجميع التحديثات الموزونة بـ FP/EE، حقق النموذج العالمي دقة مطابقة تقريباً لتوزين MR-SV، متفوقاً بشكل كبير على FedAvg القياسي (التوزين الموحد) و LOO.
  • كشف السلوك السيئ: نجحت FP و EE في تحديد المهاجمين البيزنطيين (قلب الملصقات/label flipping) باحتمالية عالية، مقتربة جداً من معدلات الكشف الخاصة بـ MR-SV المكلفة حسابياً.
• القابلية للتوسع: ظلت الطرق مستقرة عبر عدد مختلف من العملاء (6 إلى 15) ومن خلال جولات تدريب مختلفة.

5. الأهمية والأثر

يسد هذا العمل فجوة حرجة في التعلم الاتحادي بين الخصوصية والمساءلة.

• النشر العملي: يقدم حلاً مبدئياً للتعلم الاتحادي الواقعي عبر الصوامع (مثل الرعاية الصحية والتمويل) حيث تفرض لوائح الخصوصية الصارمة (مثل GDPR) استخدام التجميع الآمن، ومع ذلك تظل التغذية الراجعة العادلة ومراقبة الجودة أمراً ضرورياً.
• ما وراء LOO: ينقل المجال بعيداً عن تقريب "الاستبعاد الواحد" البدائي والقابل للتلاعب، موفراً بدائل قائمة على أسس رياضية تحافظ على روح قيمة شابلي.
• القوة: من خلال تقديم مفهوم "الجميع باستثناء" (Everybody-Else)، تحل الورقة مشكلة ثغرة "التقييم الذاتي"، مما يضمن عدم إمكانية التلاعب بآليات التحفيز من قبل المشاركين الأنانيين.

في الختام، تثبت هذه الورقة أن العدالة، والخصوصية، والقوة ليست مفاهيم متنافرة في التعلم الاتحادي. توفر الطرق المقترحة تقييماً للمساهمة فعالاً، وخاصاً، ومقاوماً للتلاعب، مما يسهل عملية التعلم الآلي التعاوني الموثوق.