🤖 machine learning

Fairness-Aware Federated Learning with Trajectory Shapley Value

تقترح هذه الورقة البحثية إطار عمل FedTSV، وهو إطار تعلم اتحادي مراعٍ للعدالة يستخدم قيمة شابلي للمسار (Trajectory Shapley Value) لوزن مساهمات العملاء ديناميكيًا بناءً على تأثيرهم الزمني على مسار تحسين النموذج العالمي، مما يعزز سرعة التقارب، والمتانة، والإنصاف في البيئات غير المتجانسة والعدائية.

المؤلفون الأصليون: Daniel Kuznetsov, Ziqi Wang

نُشر 2026-05-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Daniel Kuznetsov, Ziqi Wang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل مجموعة من الأشخاص يحاولون حل لغز ضخم معاً، لكنهم جميعاً في غرف مختلفة ولا يمكنهم إظهار قطع اللغز لبعضهم البعض. هذا هو التعلم الاتحادي (Federated Learning). فبدلاً من إحضار جميع قطع اللغز إلى طاولة مركزية واحدة (وهو أمر قد يكون بطيئاً ومخاطرة بخصوص الخصوصية)، يعمل كل شخص على قسمه الخاص من اللغز في غرفته، ثم يرسل وصفاً لكيفية ملاءمة قطعته. بعد ذلك، يحاول "خادم" (Server) مركزي لصق هذه الأوصاف معاً لبناء الصورة النهائية.

المشكلة في الطريقة القديمة للقيام بذلك (والتي تسمى FedAvg) هي أن الخادم يعامل الجميع بنفس الطريقة تماماً. فهو يعطي كل شخص صوتاً متساوياً في كيفية لصق القطع معاً، بغض النظر عما إذا كان هذا الشخص عبقرياً في حل الألغاز، أو مبتدئاً مرتبكاً، أو شخصاً يحاول التخريب على الصورة عن قصد. هذا يؤدي إلى صورة نهائية فوضوية وغير مستقرة.

تقدم هذه الورقة البحثية طريقة جديدة وأكثر ذكاءً لإدارة هذا المشروع الجماعي تسمى FedTSV. وإليك كيف تعمل، باستخدام تشبيهات بسيطة:

1. المشكلة: عيب "التصويت الثابت"

في النظام القديم، إذا كان لديك 100 شخص، يحصل كل منهم على 1% بالضبط من قوة التصويت.

الجيد: إنه أمر بسيط.
السيئ: إذا كان هناك شخص يحاول لصق اللغز مقلوباً (عميل "خبيث") أو كان مجرد شخص سيئ في حل الألغاز (عميل "مشوش")، فإن نصيحته السيئة لا تزال تحتسب بنسبة 1%. وإذا كان الشخص خبيراً في حل الألغاز، فلن يحصل على أي تقدير إضافي. والنتيجة هي صورة نهائية مهتزة وغير دقيقة.

2. الحل: "قيمة شابلي للمسار" (Trajectory Shapley Value - TSV)

يقترح المؤلفون طريقة جديدة لقياس من الذي يساعد فعلياً. ويسمونها قيمة شابلي للمسار (TSV).

تخيل الخادم كأنه مدرب لديه "خطة تدريب مثالية" (مجموعة بيانات تحقق).

خطوة المدرب: قبل أن يطلب المساعدة من الفريق، يقوم المدرب بجلسة تدريب سريعة بمفرده باستخدام "خطة التدريب المثالية". وهذا يوضح للمدرب بالضبط الاتجاه الذي يجب أن يتحرك فيه الفريق لحل اللغز بأسرع وقت.
خطوة الفريق: يرسل أعضاء الفريق اقتراحاتهم (التحديثات).
المقارنة: لا ينظر المدرب فقط إلى الإجابة النهائية؛ بل ينظر إلى المسار الذي اتخذه الفريق. هل جعلهم اقتراح عضو الفريق يقتربون من "خطة التدريب المثالية" الخاصة بالمدرب؟
- إذا كان اقتراح عضو الفريق يتوافق تماماً مع خطة المدرب، فإنه يحصل على درجة عالية.
- إذا كان اقتراحه يدفع الفريق في الاتجاه الخاطئ أو يجعل حركتهم متعرجة بشكل عشوائي، فإنه يحصل على درجة منخفضة.

هذا هو جزء "المسار": الأمر لا يتعلق فقط بالوجهة؛ بل يتعلق بما إذا كنت تسير في الاتجاه الصحيح في كل خطوة.

3. جزء "قيمة شابلي": العدالة في الفرق

"قيمة شابلي" (Shapley Value) هي مفهوم رياضي من نظرية الألعاب. تخيل مجموعة من الأصدقاء يحاولون تحريك أريكة ثقيلة.

إذا قمت بحساب مقدار مساهمة كل شخص من خلال معرفة مدى سهولة المهمة بوجوده مقابل غيابه، فستحصل على درجة عادلة.
في هذه الورقة، تحسب الرياضيات: "كم ساعد هذا الشخص تحديداً المجموعة بأكملها للتحرك نحو الهدف في هذه الجولة المحددة؟"

من خلال الجمع بين مسار المدرب (Trajectory) والتسجيل العادل للفريق (Shapley Value)، يخلق النظام درجة ديناميكية لكل عميل.

4. النتيجة: FedTSV (الغراء الذكي)

يستخدم النظام الجديد، FedTSV، هذه الدرجات ليقرر مدى "الثقة" في الغراء الذي يقدمه كل شخص.

اللاعبون الجيدون: إذا ساعدت الفريق باستمرار في التحرك في الاتجاه الصحيح، فإن "الغراء" الخاص بك يصبح أقوى. تحصل على قدر أكبر من التأثير في الصورة النهائية.
اللاعبون السيئون: إذا كنت تحاول التخريب على اللغز أو كنت مشوشاً فحسب، تنخفض درجتك. يقوم النظام فعلياً بتجاهل الغراء الخاص بك أو إعطائه وزناً ضئيلاً جداً.
الطبيعة الديناميكية: على عكس النظام القديم حيث يكون تصويتك ثابتاً، فإن تصويتك هنا يتغير في كل جولة بناءً على أدائك في تلك الجولة تحديداً.

ما وجدته الورقة البحثية

اختبر المؤلفون هذا النظام على مجموعتين شهيرتين من بيانات الصور (MNIST و CIFAR-10)، محاكيين عالماً يحتوي على:

لاعبين جيدين (لديهم بيانات متشابهة).
لاعبين مختلفين (لديهم بيانات مختلفة جداً).
مخربين (يحاولون إفساد النموذج).

النتائج:

تعلم أسرع: تعلم نظام FedTSV اللغز بشكل أسرع من الطرق القديمة.
أكثر متانة: حتى عندما حاول المخربون إفساد الأمور، تجاهلهم نظام FedTSV وحافظ على وضوح الصورة النهائية.
أكثر عدلاً: نجح النظام في تحديد من كان يساعد ومن كان يضر، مما منح "اللاعبين الجيدين" نفوذاً أكبر وقطع الطريق تقريباً على "اللاعبين السيئين".

ملخص

باخت مختص، تستبدل هذه الورقة نظام التصويت الذي "يعامل الجميع بالتساوي" بنظام تقييم ديناميكي يشبه نظام المدرب. بدلاً من طلب التصويت من الجميع بالتساوي، يراقب الخادم كيف يتحرك الجميع أثناء عملية التدريب، ويكافئ أولئك الذين يتحركون في الاتجاه الصحيح، ويُسكت أولئك الذين يتحركون في الاتجاه الخاطئ. يؤدي هذا إلى نتيجة أسرع، وأكثر دقة، وأكثر عدلاً.

ملخص تقني: التعلم الاتحادي المراعي للعدالة باستخدام قيمة شابلي للمسار (Trajectory Shapley Value)

بيان المشكلة
يتيح التعلم الاتحادي (Federated Learning) تدريب النماذج بشكل تعاوني عبر عملاء موزعین دون مشاركة البيانات الخام، مما يعالج قيود الخصوصية والاتصالات في مجالات مثل الطاقة المتجددة، والرعاية الصحية، والأنظمة المستقلة. ومع ذلك، تعتمد مخططات التجميع التقليدية، ولا سيما "التوسيط الاتحادي" (FedAvg)، على أوزان ثابتة (عادة ما تكون موحدة أو متناسبة مع حجم مجموعة البيانات). وتفشل هذه الأوزان الثابتة في مراعاة المساهمات المتغيرة زمنياً للعملاء، وعدم تجانس البيانات، والمشاركة الجزئية. ونتيجة لذلك، قد يعاني النموذج العالمي من التحيز، وعدم الاستقرار، والضعف أمام العملاء ذوي الجودة المنخفضة أو الخبيثين (Byzantine) الذين يمارسون تأثيراً غير متناسب.

غالباً ما تستخدم الطرق الحالية لتقييم العملاء "قيمة شابلي" (Shapley Value - SV) من نظرية الألعاب التعاونية لتخصيص درجات عادلة بناءً على المساهمات الهامشية. إلا أن حساب قيمة شابلي الدقيقة أمر مستعصٍ في الشبكات الكبيرة. أما التقريبات مثل "أخذ عينات مونت كارلو" (Monte Carlo sampling)، فقد تبخس حق العملاء الذين ينضمون متأخرين أو يشاركون بشكل غير متكرر، بينما قد تبالغ الطرق القائمة على التدرج (مثل Cosine-Gradient Shapley Value) في التأكيد على التحديثات ذات المقدار الكبير وتفتقر إلى المعلومات القائمة على التحقق. هناك حاجة إلى مقياس مساهمة يكون متسقاً زمنياً، وقوياً ضد السلوكيات العدائية، وقادراً على تقييم العملاء بناءً على تأثيرهم على مسار التحسين بدلاً من مجرد تقليل الخسارة الثابتة.

المنهجية: قيمة شابلي للمسار (TSV) وخوارزمية FedTSV
يقترح المؤلفون قيمة شابلي للمسار (TSV)، وهو مقياس مساهمة مبتكر، وخوارزمية التجميع التكيفي FedTSV.

1. قيمة شابلي للمسار (TSV):

المفهوم: بدلاً من التركيز فقط على تقليل الخسارة الثابتة، تقيم TSV مدى توافق تحديث ائتلاف العميل مع مسار تحسين النموذج العالمي.
التحديث المرجعي: في كل جولة اتصال $t$ ، يقوم الخادم بحساب تحديث مرجعي ( $\Delta^t_{val}$ ) عن طريق إجراء $K$ من خطوات التدرج العشوائي المعتمد (SGD) على بيانات التحقق المحجوزة بدءاً من النموذج العالمي الحالي $\theta_t$ .
دالة المنفعة: لأي ائتلاف $S$ من العملاء المشاركين، يحسب الخادم متوسط تحديثهم ( $\Delta^t_S$ ). يتم تعريف منفعة محدودة لكل جولة $v_t(S)$ بناءً على المسافة بين تحديث الائتلاف واتجاه التدرج المرجعي للتحقق:
$v_t(S) = \left( 1 + \frac{\text{Dist}(\Delta^t_S, \Delta^t_{val})^2}{\sigma_t} \right)^{-1}$
حيث أن Dist هو مقياس (مثل المسافة الإقليدية) و $\sigma_t$ هو عامل تطبيع لضمان الاستقرار بالقرب من النقاط الثابتة.
التسجيل (Scoring): تزداد المنفعة $v_t(S)$ كلما أصبح تحديث الائتلاف أقرب هندسياً إلى اتجاه الهبوط الخاص بالتحقق. يتم تقدير قيمة شابلي لكل جولة باستخدام أخذ عينات مونت كارلو على هذه المنفعة المحدودة، وتراكمها بمرور الوقت لتشكيل درجة مساهمة تراكمية.

2. خوارزمية FedTSV:

الأوزان التكيفية: يتم تحويل قيم شابلي التراكمية إلى أوزان تجميع غير سالبة ومتغيرة زمنياً ( $\alpha^t_i$ ).
الآلية: تحصل العملاء ذوو المساهمات الإيجابية التراكمية على أوزان أعلى، بينما يتم قطع مساهمات أولئك الذين لديهم مساهمات سالبة (مما يشير إلى سلوك خبيث أو عدم توافق مستمر) عند الصفر.
القوة (Robustness): تسمح هذه الآلية للخادم بالاستجابة ديناميكياً للمشاركة غير المتجانسة والعدائية في الوقت الفعلي، من خلال تقليل وزن العملاء الخبثاء دون الحاجة إلى معرفة مسبقة بحالتهم.
التعقيد: تتطلب الطريقة تمريرة تدريب واحدة فقط للعميل في كل جولة بالإضافة إلى تمريرة تحقق من جانب الخادم، مما يحافظ على الجدوى الحسابية.

المساهمات الرئيسية
تحدد الورقة ثلاث مساهمات رئيسية:

مقياس TSV: تقديم مقياس مساهمة مبتكر يقيم العملاء من خلال تأثيرهم على مسار التحسين، مما يوفر بديلاً متسقاً زمنياً للطرق التقليدية القائمة على قيمة شابلي.
خوارزمية FedTSV: تطوير خوارزمية أوزان تكيفية تستفيد من TSV لتعديل أوزان التجميع ديناميكياً، مما يحسن العدالة والمتانة في البيئات غير المتجانسة والعدائية.
التحقق التجريبي: إثبات فعالية FedTSV عبر اختبارات تصنيف الصور (MNIST و CIFAR-10) وفي سيناريوهات مختلفة من التعلم الاتحادي، مما يسلط الض الضوء على مزاياها في التعلم الموزع المحافظ على الخصوصية.

النتائج التجريبية
قيم المؤلفون FedTSV مقابل خطوط الأساس بما في ذلك FedAvg، و Cosine-Gradient Shapley Value (CGSV)، وطرق Leave-One-Out (LOO) على مجموعات بيانات MNIST و CIFAR-10 مع 100 عميل (70 مستقل التوزيع IID، 10 غير متجانس التوزيع non-IID، 20 خبيث).

التقارب والدقة: أدت FedTSV باستمرار إلى تسريع التقارب وتحقيق دقة عالمية أعلى مقارنة بخطوط الأساس. في CIFAR-10، وصل FedAvg إلى حالة التشبع عند مستويات دقة أقل (~0.65)، بينما حافظت FedTSV على أداء مستقر ومتفوق.
المتانة: أظهرت FedTSV استقراراً أكبر ضد فساد الملصقات (label corruption) وعدم التجانس الإحصائي. كانت تقلبات أداء FedTSV أصغر بكثير من الطرق الأخرى، لا سيما في مشهد CIFAR-10 الأكثر تعقيداً.
تقييم المساهمة: أظهر تصور أوزان العملاء أن FedTSV نجحت بفعالية في فصل أنواع العملاء: حصل العملاء الخبثاء على درجات منخفضة، وتركز العملاء السلميون من نوع IID في المنطقة الإيجابية، بينما وقع العملاء السلميون من نوع non-IID في المنطقة المتوسطة. في المقابل، خصص FedAvg أوزاناً موحدة، بينما أظهرت CGSV و LOO توزيعات مشتتة أو أوزان مبالغ فيها للعملاء العدائيين.

الأهمية والادعاءات
تدعي الورقة أن FedTSV توفر أساساً مبدئياً للتحسين الاتحادي المراعي للعدالة. ومن خلال دمج تحليل التحديث القائم على المسار مع مبادئ قيمة شابلي، تقدم الطريقة آلية تتسم بالكفاءة والمتانة. ويؤكد المؤلفون أن FedTSV تحسن المتانة في وجود عملاء غير متجانسين وعدائيين مع الحفاظ على الكفاءة الحسابية.

تظل الورقة متواضعة فيما يتعلق بالضمانات النظرية، حيث أشارت إلى أن براهين التقارب المعتادة لـ FedAvg لا تنطبق مباشرة على الهدف المتغير زمنياً لـ FedTSV، وأن التحليل الصارم للتقارب متروك للعمل المستقبلي. وتشمل اتجاهات البحث المستقبلية التي حددتها الورقة استقصاء الأسس النظرية لـ FedTSV من منظور نظرية الألعاب، مع التركيز بشكل خاص على التوافق مع الحوافز والعدالة في التعلم التعاوني طويل الأمد.