💻 computer science

Toward Individual Fairness Without Centralized Data: Selective Counterfactual Consistency for Vertical Federated Learning

تقترح هذه الورقة إطار عمل SCC-VFL، وهو إطار عمل متمحور حول الخادم للتعلم الاتحادي الرأسي الذي يفرض العدالة المضادة للواقع على المستوى الفردي من خلال الجمع بين اكتشاف أدوار الميزات بخصوصية تفاضلية، وتوليد السيناريوهات المضادة للواقع المقنعة، وفقدان الاتساق لتقليل معدلات تقلب القرار بشكل كبير مع الحفاظ على دقة التنبؤ والخصوصية.

المؤلفون الأصليون: Dawood Wasif, Chandan K. Reddy, Terrence J. Moore, Jin-Hee Cho

نُشر 2026-05-12

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Dawood Wasif, Chandan K. Reddy, Terrence J. Moore, Jin-Hee Cho

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تتقدم بطلب للحصول على قرض. حياتك المالية تشبه لغزاً، لكن قطع اللغز مبعثرة في مبانٍ مختلفة. البنك (أ) لديه سجل حساباتك، وصاحب العمل لديه قسائم راتبك، ووكالة الائتمان لديها سجلات ديونك. لا أحد منهم يريد تسليم ملفاته الخاصة إلى "رئيس مركزي" بسبب قوانين الخصوصية. لذا، يستخدمون نظاماً يسمى التعلم الاتحادي الرأسي (Vertical Federated Learning - VFL). فكر في الأمر كأنه مجموعة من الطهاة في مطابخ منفصلة، يمتلك كل منهم مكونات مختلفة. هم يرسلون فقط عينات صغيرة ومطهوة من أطباقهم إلى رئيس الطهاة (الخادم/Server) الذي يمزجها لتذوق الوجبة النهائية، دون أن يرى أبداً المكونات الخام في المطابخ الأخرى.

المشكلة هي: هل القرار النهائي عادل؟

إذا كان عمرك 25 عاماً، فهل ستحصل على القرض؟ إذا كنت في سن 26، هل ستتغير النتيجة؟ إذا تغيرت الإجابة لمجرد تغيير عمرك (وهو سمة محمية)، فهذا غير عادل. لكن الأمر أكثر تعقيداً هنا لأن قطعة "العمر" من اللغز قد تكون في مطبخ واحد، بينما قطعة "الاستقرار الوظيفي" في مطبخ آخر. قد يستخدم النظام عمرك بالخطأ لتخمين استقرارك الوظيفي ثم يستخدم ذلك لرفض قرضك، حتى لو لم يكن العمر عاملاً مؤثراً.

يقترح مؤلفو هذه الورقة البحثية، SCC-VFL، طريقة جديدة لإصلاح ذلك. يسمونها الاتساق المضاد للواقع الانتقائي (Selective Counterfactual Consistency). وإليك كيف تعمل، باستخدام تشبيهات بسيطة:

1. اختبار "ماذا لو" (الواقع المضاد - Counterfactuals)

تخيل أنك مسافر عبر الزمن. تعود وتغير شيئاً واحداً في نفسك: عمرك. تسأل: "لو كنت في سن 26 بدلاً من 25، مع بقاء كل شيء آخر في حياتي كما هو تماماً، هل سأحصل على القرض أيضاً؟"

عادل: إذا كانت الإجابة "نعم، ما زلت أحصل على القرض"، فإن النظام مستقر.
غير عادل: إذا كانت الإجابة "لا، سيتم رفضي"، فإن النظام غير مستقر ومن المحتمل أن يكون منحازاً.

الهدف هو التأكد من أن الإجابة تظل كما هي، حتى لو غيرت عمرك.

2. المشكلة مع الإصلاحات "العمياء"

المحاولات السابقة لإصلاح هذا الأمر كانت تشبه محاولة تعديل صورة عن طريق طمس الصورة بأكملة. كانوا يحاولون إزالة كل أثر للعمر من البيانات. لكن هذا إجراء قاسٍ للغاية. فأحياناً، قد يكون للعمر أهمية قانونية أو منطقية (على سبيل المثال، الشخص في سن 21 لا يمكنه استئجار سيارة، لكن من في سن 25 يمكنه ذلك). نحن بحاجة لأن نكون أذكياء بشأن ما نقوم بتغييره.

3. حل SCC-VFL: "المحرر الذكي"

بنى المؤلفون نظاماً يعمل كـ محرر ذكي يمتلك ثلاث أدوات محددة:

الأداة (أ): "قناع الخصوصية" (تحديد الأدوار)

قبل التعديل، يحتاج النظام لمعرفة أي الميزات تنتمي لأي فئة.

غير التابعين (المرتكزات "الثابتة"): هذه أشياء لا يمكن أن تتغير لمجرد أن عمرك قد تغير. على سبيل المثال، مبلغ القرض أو مدة إقامتك في منزلك. يجب أن تظل هذه الأشياء كما هي تماماً في سيناريو "ماذا لو".
الوسطاء (المتحركون "المسموح لهم"): هذه أشياء يمكن أن تتغير طبيعياً مع العمر. على سبيل المثال، قد يبدو تاريخك الوظيفي أو سجلك الائتماني مختلفاً لشخص في سن 26 مقارنة بشخص في سن 25. يُسمح للنظام بتحديث هذه الميزات لتناسب العمر الجديد.
الوكلاء (التسريبات "المحظورة"): هذه ميزات مخادعة تخبر النظام بعمرك سراً دون أن تصرح به (مثل الرمز البريدي المحدد أو رمز ديموغرافي معين). يجب على النظام منع هذه الميزات من التأثير على القرار.

كيف يكتشفون ذلك دون رؤية البيانات الخام؟ يستخدمون مخطط الخصوصية (Privacy Sketch). تخيل أن الخادم يطلب من الطرف الذي يمتلك بيانات العمر إرسال نسخة "مضببة" من قائمة الأعمار (مثل صورة ضبابية) تحمي خصوصية الأفراد ولكن تظهر النمط العام. باستخدام هذه الصورة الضبابية، يستطيع النظام تحديد أي الميزات هي "مرتكزات"، أو "متحركون"، أو "تسريبات" دون رؤية الأسماء أو الأعمار الحقيقية.

الأداة (ب): "المولد المقنع" (التعديل الآمن)

بمجرد تعيين الأدوار، ينشئ النظام نسخة "ماذا لو" من طلبك.

يقوم بـ قفل المرتكزات (غير التابعين) لكي لا تتحرك.
يقوم بـ تحديث المتحركين (الوسطاء) ليبدوا واقعيين للعمر الجديد (مثلاً: مدة خدمة وظيفية أطول قليلاً).
يقوم بـ حماية التسريبات (الوكلاء) حتى لا تهمس بالعمر القديم لصانع القرار عن طريق الخطأ.

هذا يشبه الخياط الذي يُسمح له بتعديل أكمام البدلة (المتحركون) لتناسب مقاساً جديداً، لكن يُمنع منعاً باتاً تغيير نمط القماش (المرتكزات) أو إضافة علامة مخفية تكشف المالك الأصلي (الوكلاء).

الأداة (ج): "فحص الاستقرار" (الإنفاذ من جانب الخادم)

أخيراً، ينظر الخادم إلى القرار الأصلي والقرار في حالة "ماذا لو".

إذا انقلب القرار (مثلاً: "مقبول" أصبح "مرفوض") لمجرد التغييرات المسموح بها، يتلقى النظام عقوبة.
هذا يجبر النموذج على تعلم طريقة اتخاذ قرار تكون مستقرة. إنه يعلم النموذج: "إذا كانت الأشياء الوحيدة التي تغيرت هي الأشياء التي سمحنا لها بالتغير، فيجب أن تظل النتيجة كما هي".

النتائج: نظام أكثر عدلاً وأماناً

اختبر المؤلفون هذا النظام في ثلاثة سيناريوهات من العالم الحقيقي: الائتمان (القروض)، الرعاية الصحية (خطر الإصابة بأمراض القلب)، والعدالة الجنائية (خطر العودة للجريمة).

النتيجة: كان نظامهم (SCC-VFL) أفضل بكثير في الحفاظ على استقرار القرارات. في بعض الحالات، قلل من "انقلابات القرار" (حيث يحصل الشخص على إجابة مختلفة لمجرد وجود سمة محمية) بنسبة 98% مقارنة بالطرق الأخرى.
لا توجد مقايضة: عادةً، جعل النظام أكثر عدلاً يجعل دقة النظام أقل (مثل حارس أمن يوقف الجميع ليكون في أمان). لكن SCC-VFL حافظ على دقة عالية مع جعل القرارات أكثر عدلاً.
الخصوصية: جعل النظام أيضاً من الصعب على المخترقين تخمين سماتك الخاصة (مثل العمر أو العرق) من خلال النظر إلى البيانات التي يشاركها النظام.

الملخص

فكر في SCC-VFL كـ فلتر للعدالة لفريق من الطهاه السريين. إنه يضمن أنه عندما يمزجون مكوناتهم السرية لصنع قرار، فإن المذاق النهائي لا يتغير بشكل عشوائي لمجرد أن أحد المكونات السرية (مثل عمرك) مختلف قليلاً. وهو يفعل ذلك من خلال:

تضبيب المعلومات الحساسة لحماية الخصوصية.
تصنيف الميزات إلى "ثابتة"، و"مسموح بتغييرها"، و"محظورة".
تعديل الأجزاء "المسموح بها" بشكل واقعي.
معاقبة النظام إذا تغير القرار النهائي بشكل غير عادل.

النتيجة هي نظام يحترم الخصوصية، ويحافظ على توزيع البيانات، ويضمن أن قرار القرض أو القرار الطبي الخاص بك يعتمد على مؤهلاتك الفعلية، وليس على انحياز خفي ضد عمرك أو عرقك أو جنسك.

ملخص تقني: الاتساق المضاد للواقع الانتقائي للتعلم الاتحادي الرأسي (SCC-VFL)

1. بيان المشكلة

تتناول الورقة البحثية تحدي ضمان العدالة الفردية في بيئات التعلم الاتحادي الرأسي (VFL) حيث يتم توزيع سمات البيانات عبر مؤسسات (أطراف) متعددة، وقد تكون السمات الحساسة (مثل العرق، العمر، الجنس) مملوكة بشكل خاص لطرف واحد أو لبيئة معزولة (enclave).

في التعلم الاتحادي الرأسي (VFL)، تمتلك الأطراف مجموعات فرعية من الميزات المتفاوتة لكيانات متداخلة. وبينما يسمح التعلم الاتحادي بتدريب النماذج التعاوني دون مركزية البيانات الخام، فإنه يعقد عملية إنفاذ العدالة. تعتمد نهج العدالة الحالية غالبًا على مقايات على مستوى المجموعة (مثل التكافؤ الديموغرافي، أو تكافؤ الفرص) أو تفترض الوصول الكامل إلى الميزات والرسوم البيانية السببية (causal graphs)، وهي أمور غير متاحة في VFL. علاوة على ذلك، فإن التدخلات المضادة للواقع (counterfactual interventions) الساذجة في VFL تكون غير مستقرة بسبب:

الرؤية الجزئية: لا يلاحظ أي طرف بمفرده جميع الميزات، مما يجعل من الصعب تحديد أي الميزات هي وسائط مسموح بها وأيها تمثل وكلاء (proxies) غير مسموح بها لسمة حساسة.
قيود الخصوصية: غالبًا ما تكون السمات الحساسة خاصة، مما يمنع التدخل المباشر أثناء التدريب.
التسرب: يمكن للتمثيلات المشتركة أو التحديثات أن تسرب المعلومات الحساسة عن غير قصد أو تسمح للوكلاء بنقل التأثير الحساس.

يركز المؤلفون على الاستقرار المضاد للواقع على المستوى الفردي: ضمان بقاء تنبؤ الفرد دون تغيير في ظل تدخل افتراضي على سمته المحمية، بشرقت أن تظل الميزات غير التابعة (non-descendant features) ثابتة ويُسمح فقط للوسطاء المسموح بهم سياسياً بالتغير.

2. المنهجية: SCC-VFL

يقترح المؤلفون SCC-VFL (الاتساق المضاد للواقع الانتقائي للتعلم الاتحادي الرأسي)، وهو إطار عمل مركزي من جانب الخادم يعمل على تشغيل العدالة الفردية من خلال ثلاثة مكونات متكاملة:

أ. اكتشاف القناع الخالي من الرسم البياني وذو الخصوصية التفاضلية (DP)

بما أن الرسوم البيانية السببية نادراً ما تتوفر في البيئات متعددة الأطراف، يستخدم SCC-VFL إجراءً خالياً من الرسم البياني وذا خصوصية تفاضلية (DP) لتقسيم ميزات كل طرف إلى ثلاث مجموعات:

غير التابعين ( $N$ ): الميزات التي يجب أن تظل ثابتة تحت تدخل السمة الحساسة.
الوسطاء ( $M$ ): الميزات المسموح بتغييرها (المسارات المسموح بها سياسياً).
الوكلاء ( $P$ ): مجموعة فرعية من الوسطاء تعمل كمسارات غير مسموح بها للتأثير الحساس ويجب قمعها.

الآلية:

يقوم حامل موثوق (أو بيئة معزولة) بإنشاء مخطط (sketch) ذي خصوصية تفاضلية ( $z_s$ ) للسمة الحساسة $s$ عن طريق قص وإضافة ضوضاء غاوسية إلى جداول التوافق. يحقق هذا المخطط خاصية $(\epsilon, \delta)$ -DP ولكنه لا يُطبق على مسار التدريب الكامل.
تستخدم الأطراف $z_s$ كمتغير مساعد لاختبار ما إذا كانت ميزاتها المحلية تستجيب إحصائياً لـ $s$ .
يحسب النظام مقياسين لكل ميزة:
- كسب المخاطرة ( $\Delta_j$ ): التحسن في التنبؤ بالميزة عند تضمين $z_s$ .
- معيار هيلبرت-شميدت للاستقلال (HSIC): الاعتماد المتبقي على $z_s$ بعد الشرط على الميزات المحلية الأخرى.
تُصنف الميزات ذات الـ HSIC المنخفض ضمن $N$ ؛ وتعتبر الميزات ذات الـ HSIC المرتفع مرشحة لتكون $M$ . وضمن $M$ ، يتم تحديد الميزات ذات كسب المخاطرة العالي (حساسية قوية لـ $s$ ولكن صلة منخفضة بالمهمة) كوكلاء $P$ .

ب. توليد مضاد للواقع مقنع (Masked Counterfactual Generation)

يدرب كل طرف مولداً شرطياً محلياً (cVAE) لإنشاء مدخلات مضادة للواقع.

الحفاظ على الهوية: يتم نسخ غير التابعين ( $N$ ) تماماً ( $x^{cf}_N = x_N$ ).
تحرير الوسطاء: يتم تحرير الوسطاء ( $M$ ) لتقع ضمن دعم التوزيع الشرطي $p(x_M | x_N, c, z_{s'})$ , حيث $z_{s'}$ هو تمثيل السمة الحساسة المستهدف.
قمع التسرب: تمر الوكلاء ( $P$ ) دون تغيير ولكنها تخضع لخسارة خصامية (adversarial loss). يحاول خصم استعادة $z_s$ من ميزات الوكيل المضادة للواقع؛ ويعمل المولد على تقليل معدل نجاح هذا الأمر لتقليل إشارات الحساسية المتبقية.

ج. خسارة الاتساق المضاد للواقع الانتقائي (SCC) من جانب الخادم

يقوم الخادم بتجميع التمثيلات من المدخلات الأصلية والمقنعة المضادة للواقع لتشكيل تمثيلات مدمجة $z$ و $z^{cf}$ .

عقوبة الاتساق: يقلل الخادم من حد الخسارة $\mathcal{L}_{SCC}$ الذي يعاقب الاختلاف بين التنبؤات $f_\theta(z)$ و $f_\theta(z^{cf})$ .
الهدف: يفرض هذا أن قرار النموذج لا يتغير بشكل عشوائي عند تعديل الوسطاء المسموح بهم سياسياً فقط. يجمع الهدف الإجمالي بين منفعة المهمة، واتساق SCC، وقيود الصلاحية (الهوية، الدعم، التسرب).

3. المساهمات الرئيسية

صياغة المشكلة: تحديد الاتساق المضاد للواقع الانتقائي (SCC) لـ VFL، والذي يستهدف الاستقرار لكل حالة بدلاً من التكافؤ الجماعي.
اكتشاف القناع بالخصوصية التفاضلية (DP): تقديم آلية خالية من الرسم البيئي وذات خصوصية تفاضلية لتحديد المرشحين من غير التابعين، والوسطاء، والوكلاء دون الحاجة إلى رسم بياني سببي محدد مسبقاً أو الوصول إلى البيانات الحساسة الخام.
التوليد المقنع مع التحكم في التسرب: تصميم مولدات محلية لكل طرف تقوم بتحرير الوسطاء فقط مع فرض الهوية على غير التابعين وقمع تسرب الوكيل عبر التدريب الخصامي.
الإنفاذ المركزي من جانب الخادم: تنفيذ خسارة اتساق في الخادم تعاقب التغييرات غير المسموح بها في التنبؤ، والتي تم التحقق من صحتها عبر مجالات متنوعة.

4. النتائج التجريبية

قيم المؤلفون SCC-VFL على ثلاثة مجموعات بيانات من العالم الحقيقي: German Credit (الخدمات المصرفية)، و UCI Heart Disease (الرعاية الصحية)، و COMPAS Cox (العدالة الجنائية)، تحت تقسيمات IID وغير IID (انزياح التوزيع).

مقاييس العدالة: قلل SCC-VFL بشكل كبير من معدل الانقلاب (Flip Rate - FR) (نسبة العينات التي تغير تنبؤها تحت التدخل) بنسبة تصل إلى 98% مقارنة بالنماذج المرجعية القوية (مثل Adv-NoMask، و Uniform-CF، و Policy-blind Mask). كما حقق أدنى فجوة اتساق انتقائي (SCG).
- مثال: في German Credit (Non-IID)، قلل SCC-VFL معدل FR إلى 0.12% مقارنة بـ 6.24–8.22% للنماذج المرجعية.
المنفعة: حافظت الطريقة على دقة التنبؤ و LogLoss أو حسنتها، مما أظهر مقايضات مفضلة بين المنفعة والعدالة.
الخصوصية والمتانة:
- هجمات استدلال السمات (AIA): قلل SCC-VFL من معدلات نجاح الهجوم بمقدار 4-5 نقاط مئوية مقارنة بالنماذج المرجعية.
- هجمات Subspace-PGD: تحت الاضطرابات المستهدفة لإحداثيات الوسيط، أظهر SCC-VFL أدنى معدلات نجاح (على سبيل المثال، 9.3% عند $\epsilon=0.20$ مقابل 21.7% لـ Adv-NoMask)، مما يشير إلى تسطح حدود القرار على طول الاتجاهات الحساسة.
دراسات الاستئصال (Ablation Studies): أدى إزالة أي مكون (اكتشاف القناع، المولد، أو خسارة الاتساق) إلى تدهور الأداء، مما يؤكد ضرورة المسار الكامل للتحكم في الاستقرار والتسرب.

5. الأهمية والادعاءات

تدعي الورقة أن SCC-VFL يوفر هدف عدالة قابل للتدقيق عملياً لنشر VFL حيث تكون البيانات معزولة والسمات الحساسة خاصة.

المساءلة الفردية: على عكس مقايسات مستوى المجموعة التي يمكن أن تخفي عدم الاتساق الفردي، يضمن SCC-VFL حصول أفراد محددين على قرارات مستقرة تحت التغييرات المضادة للواقع للسمات المحمية، مما يتماشى مع المتطلبات القانونية ضد التمييز (مثل التمييز على أساس السن في الإقراض).
المواءمة مع السياسات: يفرض الإطار سياسة معلنة فيما يتعلق بالمسارات السببية المسموح بها. لا تدعي الورقة اكتشاف السببية الحقيقية، بل تعمل على تشغيل مواصفات محددة من قبل الحوكمة ( $N/M/P$ ) في خوارزمية تعلم.
المتانة تجاه الانزياح: تظل الطريقة فعالة في إعدادات Non-IID وانزياحات التوزيع، حيث تعاني الطرق المرجعية غالباً من تدهور الاستقرار.
نطاق الخصوصية: يذكر المؤلفون صراحة أن ضمان DP الرسمي ينطبق فقط على المخطط (sketch) المستخدم لاكتشاف القناع، وليس على مسار التدريب الكامل (التمثيلات، التدرجات، أو معاملات النموذج). الفوائد المتعلقة بالخصوصية الملحوظة في التجارب هي تقليل تجريبي للتسرب تحت نماذج تهديد محددة، وليست ضمانات DP رسمية شاملة للنهاية.

تضع هذه الدراسة الاستقرار المضاد للواقع على المستوى الفردي كعنصر مكمل قابل للتطبيق للعدالة الجماعية، مما يوفر آلية لأصحاب المصلحة لمراجعة وتفنيد والتحقق من أن القرارات الخوارزمية لا تُقاد بشكل عشوائي بالسمات المحمية في بيئات التعلم الموزعة.