💻 computer science

Towards Explainable Privacy Preservation in Federated Learning via Shapley Value-Guided Noise Injection

تقدم هذه الورقة FedSVA، وهي آلية للخصوصية التفاضلية قابلة للتفسير في التعلم الاتحادي تستفيد من قيم شابلي (Shapley Values) لمعايرة حقن الضجيج ديناميكيًا بناءً على مساهمات السمات، مما يحقق أفضل مستويات المقايضة بين الخصوصية والمنفعة مع توفير ضمانات صارمة للتقارب والأمان.

المؤلفون الأصليون: Yunbo Li, Jiaping Gui, Yue Wu

نُشر 2026-04-02

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yunbo Li, Jiaping Gui, Yue Wu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك ومجموعة من الأصدقاء تريدون بناء ذكاء اصطناعي ذكي حقاً يمكنه التعرف على القطط والكلاب. لكن هناك عقبة: لا أحد يريد إظهار صوره الشخصية لأي شخص آخر. فهم قلقون من أنه إذا شاركوا صورهم، فقد يسرقها شخص ما أو يعرف هويتهم.

هنا يأتي دور التعلم الاتحادي (Federated Learning). فبدلاً من إرسال الصور إلى كمبيوتر مركزي، يحتفظ الجميع بصورهم على هواتفهم الخاصة. هم فقط يرسلون "الدروس" التي تعلموها (التحديثات الرياضية) إلى معلم مركزي، الذي يقوم بدمجها لجعل الذكاء الاصطناعي أكثر ذكاءً.

ولكن إليك المشكلة: حتى مجرد إرسال "الدروس" يمكن أن يكون خطيراً. إذ يمكن لمخترق ماكر (أو صديق فضولي) النظر إلى هذه الدروس وإعادة هندستها لتخمين كيف تبدو صورك.

لإيقاف ذلك، نقوم عادةً بإضافة ضجيج (Noise) (مثل التشويش) إلى الدروس، كما لو كنت تضع مرشح ضبابي فوق صورة. هذا يخفي التفاصيل. ولكن هناك عيب كبير في الطريقة التي نستخدمها عادةً: نحن نخمن مقدار الضباب الذي يجب إضافته.

إذا أضفنا ضباباً كثيراً جداً، فسيصاب الذكاء الاصطناعي بالارتباك ولن يتمكن من تعلم أي شيء مفيد.
إذا أضفنا ضباباً قليلاً جداً، فلا يزال بإمكان المخترق رؤية صورك.

إليك FedSVA: "المحقق العادل"

تقدم الورقة البحثية طريقة جديدة تسمى FedSVA. فكر فيها كنظام ذكي وعادل يقرر بالضبط مقدار الضباب الذي يجب إضافته، بناءً على مدى أهمية بياناتك المحددة بالفعل للنتيجة النهائية.

إليك كيف يعمل، باستخدام تشبيه بسيط:

1. قيمة شابلي (Shapley Value): "نقاط الفريق"

تخيل أنك في فريق رياضي. بعض اللاعبين هم نجوم يسجلون معظم الأهداف؛ والبعض الآخر موجود فقط لتمرير الكرة.

الطريقة القديمة: نضع مرشح ضبابي ضخم فوق إحصائيات الجميع، تحسباً لأي طارئ. وهذا يجعل الفريق بأكم له يبدو ضبابياً ويصعب فهمه.
طريقة FedSVA: تستخدم أداة رياضية تسمى قيم شابلي (تيمناً بنظرية الألعاب) لتعمل مثل الحكم. ينظر الحكم إلى كل لاعب ويسأل: "كم ساهم هذا اللاعب تحديداً في فوز الفريق؟"

في عالم الذكاء الاصطناعي، "اللاعبون" هم أجزاء مختلفة من بياناتك (مثل "الصور الخاصة" مقابل "الصور العامة").

إذا كانت بياناتك الخاصة حاسمة لتعلم الذكاء الاصطناعي (مثل لاعب نجم)، فإن النظام يقول: "حسناً، هذا خطر مرتفع. نحتاج إلى ضباب كثيف للحماية."
إذا كانت بياناتك الخاصة غير مهمة جداً للذكاء الاصطناعي (مثل لاعب احتياط)، فإن النظام يقول: "هذا خطر منخفض. نحتاج فقط إلى ضباب خفيف."

2. النتيجة: رؤية أوضح، وأمان أقوى

لأن FedSVA يضيف الضباب الثقيل فقط حيث تشتد الحاجة إليه، يظل الذكاء الاصطناعي أكثر حدة ويتعلم بشكل أسرع مما كان عليه من قبل.

المقايضة: عادةً، عليك الاختيار بين "ذكاء اصطناعي آمن جداً ولكنه غبي" أو "ذكاء اصطناعي ذكي ولكنه غير آمن". يمنحك FedSVA أفضل ما في العالمين: أمان عالٍ + ذكاء عالٍ.

3. الإثبات

اختبر الباحثون هذه الطريقة على مجموعات بيانات صور شهيرة (مثل التعرف على السيارات أو الحروف المكتوبة بخط اليد).

الاختبار: تركوا المخترقين يحاولون إعادة بناء الصور الأصلية من "الدروس" المرسلة عبر الشبكة.
النتيجة: فشل المخترقون تماماً مع FedSVA. كانت الصور المعاد بناؤها مجرد كتل ضبابية غير واضحة وغير قابلة للتمييز. وفي الوقت نفسه، استمر الذكاء الاصطناعي في التعرف على الأشياء بدقة عالية جداً، متفوقاً على جميع الطرق الحالية الأخرى.

ملخص باخت مختصره

فكر في FedSVA كحارس أمن ذكي لا يكتفي فقط بقفل كل باب في المبنى بخزنة فولاذية ضخمة. بدلاً من ذلك، يتحقق الحارس مما يوجد في كل غرفة:

إذا كان شخص ما يحمل ماسة (بيانات خاصة عالية الخطورة)، فسيحصل على خزنة قوية جداً.
إذا كان شخص ما يحمل كرة مطاطية (بيانات منخفضة الخطورة)، فسيحصل على قفل بسيط.

بهذه الططريقة، يكون المبنى آمناً، ولكن لا يزال بإمكان الأشخاص في الداخل التحرك بحرية والقيام بعملهم بكفاءة. هذا يجعل التعلم الاتحادي أكثر أماناً، وأكثر ذكاءً، وأسهل في الشرح للجميع.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "نحو حماية خصوصية قابلة للتفسير في التعلم الاتحادي عبر حقن الضوضاء الموجه بقيمة شابلي".

1. بيان المشكلة

يسمح التعلم الاتحادي (Federated Learning - FL) بتدريب النماذج بشكل تعاوني دون مشاركة البيانات الخام، ومع ذلك فإنه يظل عرضة لهجمات الخصوصية المتطورة مثل عكس النموذج (model inversion) واستدلال العضوية (membership inference). وبينما تُعد الخصوصية التفاضلية (Differential Privacy - DP) الإطار الرياضي القياسي للتخفيف من هذه المخاطر عن طريق حقن الضوضاء في تحديثات النموذج، فإن أساليب التعلم الاتحادي المعتمدة على الخصوصية التفاضلية (FL-DP) الحالية تعاني من قصورين حرجين:

الافتقار إلى القابلية للتفسير: تحدد الأساليب الحالية مقاييس الضوضاء باستخدام عوامل استدلالية (مثل تقدم التدريب، أو الجداول الزمنية المتغيرة مع الوقت) بدلاً من الاعتماد على خطر الخصوصية الفعلي الذي تشكله سمات بيانات محددة. وهذا يخلق علاقة "غامضة" بين الضوضاء المحقونة والبيانات التي يتم حمايتها.
المقايضات غير المثلى: غالباً ما تؤدي الأساليب الاستدلالية إلى ضوضاء مفرطة (مما يؤدي لتدهور فائدة النموذج) أو ضوضاء غير كافية (مما يؤدي للفشل في حماية البيانات الحساسة)، مما ينتج عنه توازن ضعيف بين الخصوصية والفائدة.

تتمثل المشكلة الجوهرية التي تعالجها الورقة في الحاجة إلى آلية جدولة ضوضاء مبدئية وقابلة للتفسير تعمل على ضبط حقن الضوضاء ديناميكياً بناءً على المساهمة القابلة للقياس للسمات الخاصة في تدريب النموذج.

2. المنهجية: FedSVA

يقترح المؤلفون FedSVA، وهو آلية تعلم اتحادي مبتكرة تدمج قيم شابلي (Shapley Values) (من نظرية الألعاب التعاونية) مع الخصوصية التفاضلية. يعمل النظام من جانب العميل من خلال وحدتين رئيسيتين:

أ. وحدة تقدير الخصوصية (PE)

تقوم هذه الوحدة بقياس "مساهمة الخصوصية" لسمات بيانات محددة باستخدام قيم شابلي.

تقسيم السمات: يقوم العملاء بتقسيم مجموعة بياناتهم المحلية $D_i$ إلى مجموعات فرعية بناءً على السمات (على سبيل المثال، السمات الخاصة $D^p_i$ مقابل السمات غير الخاصة $D^a_i$ ).
حساب قيمة شابلي: لكل جولة تدريب، يقوم العميل بحصر المجموعات الفرعية للسمات لتدريب نماذج مساعدة. ويقوم بحساب قيمة شابلي ( $\psi$ ) لكل سمة، والتي تمثل مساهمتها الهامشية في فائدة النموذج (دقة التحقق المحلية).
معدل المساهمة ( $R^p_i$ ): يحسب النظام نسبة قيمة شابلي للسمات الخاصة إلى إجمالي قيمة شابلي لجميع السمات. تشير قيمة $R^p_i$ المرتفعة إلى أن البيانات الخاصة هي التي تقود أداء النموذج، مما يستلزم حماية خصوصية أقوى.

ب. وحدة حقن الضوضاء (NI)

تقوم هذه الوحدة بترجمة معدل المساهمة إلى مقياس ضوضاء ديناميكي.

تحمل المخاطر: يتم ربط معدل المساهمة بعتبة تحمل المخاطر $T^p_i$ .
مقياس الضوضاء الديناميكي: يتم معايرة الانحراف المعياري ( $\sigma_i$ $σ_{i}$ ) للضوضاء الغاوسية بناءً على $R^p_i$ $R_{i}^{p}$ .
- إذا كانت $R^p_i$ مرتفعة (خطر خصوصية عالٍ)، تزدادة $\sigma_i$ لتوفير ضمانات خصوصية تفاضلية أكثر صرامة.
- إذا كانت $R^p_i$ منخفضة، تنخفض $\sigma_i$ للحفاظ على فائدة النموذج.
الضمانات الرسمية: تضمن الآلية ضمانات $(\epsilon, \delta)$ -DP، حيث يتم ضبط $\delta'$ ديناميكياً بناءً على معدل المساهمة.

ج. التحليل النظري

الخصوصية: توفر FedSVA ضمانات $(\epsilon, \delta')$ -DP صارمة لكل جولة، و $(T\epsilon, T\delta')$ عبر $T$ من الجولات.
التقارب: تثبت الورقة أن FedSA تتقارب تحت الافتراضات القياسية (النعومة L-smoothness، والاشتقاقات المحدودة). يتضمن حد التقارب حداً يعتمد على تباين الضوضاء، مما يوضح أن الخوارزمية تتقارب رغم الضوضاء المحقونة، مع توسع الخطأ تربيعياً مع عدد العملاء المختارين.

3. المساهمات الرئيسية

أول آلية خصوصية تفاضلية قابلة للتفسير: تعد FedSVA أول آلية خصوصية في التعلم الاتحادي تدمج قيم شابلي مع الخصوصية التفاضلية، حيث تربط صراحةً مستويات الضوضاء بالمساهمة المقاسة للسمات الخاصة.
معايرة ديناميكية ودقيقة: على عكس الأساليب الاستدلالية أو الثابتة، تقوم FedSVA بضبط حقن الضوضاء ديناميكياً جولة بجولة بناءً على "القيمة الخصوصية" الفعلية للبيانات، مما يقلل من الضوضاء غير الضرورية.
نظرية صارمة: يقدم العمل إثباتات رسمية لكل من ضمانات الخصوصية وتقارب عملية التحسين الاتحادية تحت جدول الضوضاء المقترح.
أداء متفوق: تُظهر التجارب المكثفة أن FedSVA تحقق أفضل مستويات التبادل بين الخصوصية والفائدة (SOTA) وتوفر دفاعاً قوياً ضد هجمات إعادة البناء.

4. النتائج التجريبية

قام المؤلفون بتقييم FedSVA على مجموعة بيانات CIFAR-10 (باستخدام ResNet-18) و FEMNIST (باستخدام CNN) مقابل أربع نماذج مرجعية متطورة (SOTA) وهي: NbAFL، و Time-Varying DP (TV DP)، و Sensitivity Re-estimation DP (Sens DP)، و Dynamic Privacy Allocation (DPA DP).

المقايضة بين الخصوصية والفائدة:
- في CIFAR-10 مع ميزانية خصوصية صارمة ( $\epsilon = 0.2$ )، حققت FedSVA دقة نهائية (Final-5) بلغت 75.98%، متفوقة بشكل كبير على DPA DP (65.21%) و NbAFL (48.67%).
- حافظت FedSVA باستمرار على دقة أعلى عبر جميع قيم $\epsilon$ المختبرة (من 0.2 إلى 0.5) مقارم جميع النماذج المرجعية.
كفاءة الضوضاء:
- حقنت FedSVA ضوضاء أقل بكثير من الطرق الثابتة (NbAFL) والنماذج الديناميكية الأخرى.
- استهلكت ميزانية خصوصية تراكمية أصغر خلال عملية التدريب، مما يشير إلى استخدام أكثر كفاءة لمخصصات الخصوصية.
الدفاع ضد الهجمات:
- ضد هجمات إعادة البناء القائمة على ACGAN، حققت FedSVA زيادة بنسبة 149% في مسافة فريدشيه للإنصاف (FID) مقارنة بنموذج FedAvg غير الخاص، مما أدى إلى تمويه البيانات الحساسة بفعالية مع الحفاظ على فائدة عالية.
الكفاءة والدقة:
- أظهرت التجارب على دقة تقسيم السمات ( $N$ ) أن التقسيم الثنائي ( $N=2$ : خاص مقابل غير خاص) يوفر أفضل توازن، محققاً دقة قريبة من المثالية مع تكلفة حسابية يمكن إدارتها. أما التقسيمات الأكثر دقة ( $N>2$ ) فلم تحقق سوى مكاسب ضئيلة في الدقة (أقل من 0.22%) ولكنها زادت من وقت التشغيل بأكثر من 4 أضعاف بسبب التكاليف الأسية لحساب قيمة شابلي.

5. الأهمية

تعالج هذه الورقة فجوة حرجة في التعلم الاتحادي من خلال نقل حماية الخصوصية من نهج استدلالي "صندوق أسود" إلى استراتيجية شفافة مدفوعة بالبيانات.

القابلية للتفسير: تتيح للممارسين فهم سبب حقن كمية معينة من الضوضاء (بناءً على مساهمة البيانات)، مما يعزز الثقة في أنظمة التعلم الاتحادي.
الكفاءة: من خلال تجنب حقن الضوضاء بنمط "مقاس واحد يناسب الجميع"، ترفع FedSVA من فائدة النموذج إلى أقصى حد دون المساس بالأمن، مما يجعل الخصوصية التفاضلية أكثر قابلية للتطبيق في الواقع.
القابلية للتوسع: لا تضيف الطريقة المقترحة أي عبء على الاتصالات، حيث تقتصر التكاليف على الحوسبة المحلية، مما يجعلها مناسبة للأجهزة الطرفية ذات الموارد المحدودة.

تشمل الأعمال المستقبلية التي اقترحها المؤلفون تطوير طرق تقريبية لحساب قيمة شابلي لتقليل التعقيد بشكل أكبر وتمكين تحليل الخصوصية الدقيق في عمليات النشر واسعة النط scale.