📊 statistics

Tuning Derivatives for Causal Fairness in Machine Learning

تقدم هذه الورقة إطار عمل جديداً للعدالة السببية مصمماً خصيصاً للسمات المحمية المستمرة من خلال صياغة التكافؤ الإحصائي والتنبئي عبر المشتقات الجزئية المحددة بالمسار، مما يتيح بناء متنبئات عادلة توازن بين الاستقلال عن المسارات التمييزية والحفاظ على التأثيرات التجارية المشروعة.

المؤلفون الأصليون: Filip Edström, Guilherme W. F. Barros, Tetiana Gorbach, Xavier de Luna

نُشر 2026-05-08

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Filip Edström, Guilherme W. F. Barros, Tetiana Gorbach, Xavier de Luna

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك توظف طباخاً لإعداد وجبة لمجموعة كبيرة من الناس. تريد أن يكون الطعام لذيذاً (دقيقاً)، ولكنك تريد أيضاً التأكد من أن الطباخ لا يحابي سراً مجموعة معينة من الضيوف بناءً على عرقهم أو جنسهم أو عمرهم. هذه هي المشكلة الجوهرية لـ العدالة في الذكاء الاصطناعي.

تتناول هذه الورقة البحثية نسخة محددة ومعقدة من هذه المشكلة: كيف نمنع الذكاء الاصطناعي من التحيز ضد أشخاص معينين، مع السماح له في الوقت نفسه باستخدام معلومات مهمة ترتبط بهؤلاء الأشخاص؟

إليك تفصيل حلهم، باستخدام تشبيهات بسيطة.

المشكلة: معضلة "الضرورة التجارية"

تخيل قاضياً يستخدم ذكاءً اصطناعياً لتحديد ما إذا كان المجرم المذنب من المحتمل أن يعود لارتكاب الجريمة.

السمات المحمية: العرق والعمر الخاص بالمذنب. ينص القانون على أنه لا يمكن للذكاء الاصطناعي استخدام هذه السمات لاتخاذ قرار.
الضرورة التجارية: عدد الجرائم السابقة. يحتاج القاضي لمعرفة هذا الأمر لاتخاذ قرار عادل.

وهنا تكمن المشكلة: في العالم الحقيقي، غالباً ما يؤثر عرق الشخص أو عمره على عدد جرائمه السابقة المسجلة (بسبب التحيزات التاريخية في العمل الشرطي).

إذا تجاهل الذكاء الاصطناعي "الجرائم السابقة" لتجنب التحيز بـ "العرق"، فسيصبح قاضياً سيئاً (سيفقد حقائق مهمة).
إذا استخدم الذكاء الاصطناعي "الجرائم السابقة"، فقد "يتعلم" بالخطأ التحيز الناتج عن "العرق" ويصبح غير عادل مرة أخرى.

الطريقة القديمة مقابل الطريقة الجديدة

الطريقة القديمة (التكافؤ الإحصائي):
هذا يشبه قولك للطباخ: "يجب أن تقدم نفس الطبق تماماً للجميع، بغض النظر عن هويتهم". إذا حاول الطباخ فعل ذلك، فقد يضطر إلى تجاهل حقيقة أن بعض الناس لديهم حساسية من المكسرات (وهي "ضرورة تجارية" من أجل السلامة). النتيجة هي وجبة "عادلة" بمعناها الضيق، لكنها عديمة الفائدة أو حتى خطيرة.

الطريقة الجديدة (العدالة السببية):
تقترح هذه الورقة نهجاً أكثر ذكاءً. تقول: "يمكن للذكاء الاصطناعي النظر في 'الجرائم السابقة' (المسار المسموح به)، ولكن يجب عليه تجاهل الرابط المباشر من 'العرق' إلى القرار النهائي (المسار المحظور)".

ومع ذلك، فإن معظم الطرق السابقة للقيام بذلك كانت تعمل بشكل جيد فقط عندما تكون السمات المحمية فئات بسيطة (مثل "ذكر" أو "أنثى"). لقد واجهت صعوبة مع السمات المستمرة مثل العمر (حيث يمكن أن يكون العمر 20، أو 20.1، أو 20.2، إل_خ).

الحل: "ضبط المقابض" باستخدام المشتقات

يقدم المؤلفون أداة رياضية جديدة تسمى المشتقات (Derivatives).

تخيل نموذج الذكاء الاصطناعي كآلة معقدة تحتوي على العديد من المقابض والرافعات.

التكافؤ الإحصائي (SPD): يريد المؤلفون تدوير "مقبض" المسار المحظور (العرق $\leftarrow$ القرار) بحيث لا يؤدي تدويره إلى فعل أي شيء في المخرجات. من الناحية الرياضية، "المشتقة" (معدل التغيير) هي صفر. إذا غيرت العرق قليلاً، فلا ينبغي أن يتغير التنبؤ.
التكافؤ التنبئي (PPD): في الوقت نفسه، يريدون التأكد من أن "المقبض" للمسار المسموح به (الجرائم السابقة $\leftarrow$ القرار) قد تم ضبطه بدقة. يجب أن يتفاعل الذكاء الاصطناعي مع "الجرائم السابقة" تماماً كما يفعل العالم الحقيقي.

تشبيه حبل المشدود:
تخيل المشي على حبل مشدود.

على أحد الجانبين يوجد العدالة (تجاهل التحيز).
وعلى الجانب الآخر يوجد الدقة (استخدام البيانات الضرورية).
أحياناً، يكون الحبل مستقيماً، ويمكنك المشي بشكل مثالي على كلا الجانبين في آن واحد.
وأحياناً، يكون الحبل ملتوياً. لا يمكنك أن تكون عادلاً تماماً ودقيقاً تماماً في نفس الوقت.

تثبت الورقة أنه في بعض الأحيان، تسمح الرياضيات بأن تكون عادلاً ودقيقاً تماماً في وقت واحد. ولكن في كثير من الأحيان، يتعين عليك إجراء مقايضة.

خوارزمية "الضبط العادل"

بنى المؤلفون وصفة (خوارزمية) لمساعدة مطوري الذكاء الاصطناعي في العثور على أفضل نقطة على ذلك الحبل المشدود.

الخطوة 1: أولاً، قم بتدريب الذكاء الاصطناعي ليكون دقيقاً قدر الإمكان، مع تجاهل العدالة للحظة.
الخطوة 2: بعد ذلك، قم بـ "ضبط" الذكاء الاصطناعي. تتحقق الخوارزمية من "المقابض" (المشتقات).
- إذا كان الذكاء الاصطناعي لا يزال يتفاعل كثيراً مع السمة المحظورة (العرق)، تقوم الخوارزمية بخفض ذلك المقبض.
- إذا كان الذكاء الاصطناعي يتجاهل السمة الضرورية (الجرائم السابقة) كثيراً، تقوم الخوارزمية برفع ذلك المقبض مرة أخرى ليتناسب مع الواقع.
النتيجة: يتعلم الذكاء الاصطناعي تقديم تنبؤات عادلة قدر الإمكان دون التخلص من كل دقته.

ماذا وجدوا؟

اختبروا هذا على شيئين:

بيانات محاكاة: أنشأوا عوالم وهمية بقواعد مختلفة.
- في عالم "خطي" (حيث الأمور بسيطة)، وجدوا أنه يمكنك أن تكون عادلاً ودقيقاً تماماً في نفس الوقت.
- في عالم "ضربي/متعدد" (حيث الأمور معقدة وملتوية)، وجدوا أنه لا يمكنك أن تكون مثالياً في كليهما. عليك اختيار التوازن. سمحت لهم طريقتهم بإيجاد أفضل توازن ممكن.
بيانات حقيقية (COMPAS): استخدموا مجموعة بيانات حقيقية حول العودة إلى الإجرام.
- أظهروا أن طريقتهم (المسماة "الضبط العادل") أنشأت نموذجاً كان أفضل بكثير في موازنة العدالة والدقة مقارنة بالطرق القديمة.
- وتحديداً، كانت أفضل في الحفاظ على فائدة المعلومات "المسموح بها" (مثل الجرائم السابقة) مع إزالة التحيز "المحظور".

الخلاصة

تقدم هذه الورقة البحثية "مقبض ضبط" رياضياً جديداً للذكاء الاصطناعي. فهي تسم ت لنا التعامل مع المتغيرات المستمرة (مثل العمر) بشكل أفضل بكثير من ذي قبل. إنها تقر بأنه في بعض الأحيان لا يمكننا الحصول على عالم مثالي حيث يكون التحيز صفراً والدقة 100%، ولكنها تمنحنا طريقة دقيقة لإيجاد أفضل تسوية ممكنة، مما يضمن احترام الذكاء الاصطناعي للقانون (العدالة) مع الاستمرار في أداء عمله (الدقة).

ملخص تقني: ضبط المشتقات من أجل العدالة السببية في تعلم الآلة

بيان المشكلة
غالبًا ما ترث أنظمة الذكاء الاصطناعي تحيزات مجتمعية تتعلق بالسمات المحمية مثل العرق، والجنس، والعمر. إن مقاييس العدالة الكلاسيكية مثل التكافؤ الإحصائي (Statistical Parity - SP)، التي تتطلب أن تكون التنبؤات مستقلة عن السمات المحمية، غالبًا ما تكون مقيدة بشكل مفرط. وينطبق هذا بشكل خاص عندما تؤثر السمات المحمية على "الضرورات التجارية" أو "المتغيرات المفسرة" (مثل السوابق الجنائية في تقييم مخاطر العودة إلى الإجرام) التي تكون مطلوبة شرعيًا للتنبؤ. تعالج الصيغ السببية الحديثة هذا الأمر من خلال التمييز بين المسارات "غير المسموح بها" (التأثيرات المباشرة للسمات المحمية) والمسارات "المسموح بها" (التأثيرات غير المباشرة عبر الضرورات التجارية)، وغالبًا ما تدمج التكافؤ التنبئي (Predictive Parity - PP) لضمان الحفاظ على التأثيرات المشروعة. ومع ذلك، فإن التعريفات القائمة على المسارات والتي تعتمد على التباينات السببية مصممة أساسًا للسمات الفئوية. وعند تطبيقها على السمات المحمية المستمرة (مثل العمر)، تصبح هذه الطرق غير عملية بسبب الحاجة إلى تقييم التباينات عند نقاط لانهائية.

المنهجية
يقترح المؤلفون إطار عمل للعدالة السببية ضمن النماذج السببية الهيكلية (SCMs) المصممة خصيصًا للسمات المحمية المستمرة.

1. التعريفات القائمة على المشتقات:

التكافؤ الإحصائي في المشتقات (SPD): بدلاً من استخدام التباينات، يعرّف المؤلفون التكافؤ الإحصائي (SP) على طول مسار $\pi$ بأنه حاصل ضرب المشتقات الجزئية للآليات الهيكلية على طول ذلك المسار يساوي صفرًا. وهذا يضمن أن يكون المتنبئ ثابتًا بالنسبة للسمة المحمية على طول المسارات غير المسموح بها.
التكافؤ التنبئي في المش derivatives (PPD): يتم تعريف التكافؤ التنبئي (PP) من خلال مساواة المشتقات الجزئية للمتنبئ بالنسبة للمتغيرات على طول المسارات المسموح بها مع المشتقات الجزئية لمتغير النتيجة الحقيقي في عملية توليد البيانات (DGP). وهذا يضمن أن المتنبئ يحاكي التأثير المشروع للضرورات التجارية.

2. شروط الوجود:
يضع البحث شرطًا ضروريًا وكافيًا لوجود متنبئ يحقق في آن واحد كلاً من SPD وPPD. فبالنسبة لمسار مباشر غير مسموح به ( $X \to Y$ ) ومسار مسموح به ( $W \to Y$ )، يوجد متنبئ عادل إذا وفقط إذا كان المشتق الجزئي المختلط للنتيجة المتوقعة يساوي صفرًا: $\frac{\partial^2}{\partial w \partial x} E[Y | P_A^Y = p] = 0$ . وإذا لم يتحقق هذا الشرط، فإن المفاضلة بين SPD وPPD ستكون حتمية.

3. خوارزمية الضبط العادل:
لبناء هذه المتنبئات، يقترح المؤلفون خوارزمية "ضبط عادل" للشبكات العصبية:

الخطوة 1: ملاءمة متنبئ غير مقيد ( $\hat{Y}_{\theta_U}$ ) لتقليل خسارة التنبؤ (مثل متوسط مربع الخطأ MSE).
الخطوة 2: تهيئة متنبئ عادل باستخدام المعلمات غير المقيدة.
الخطوة 3: تحسين دالة خسارة مركبة ( $L_{FT}$ $L_{F T}$ ) تتكون من:
- خسارة التنبؤ (MSE بين المتنبئ المضبوط والمتنبئ غير المقيد).
- خسارة SPD (معيار L1 للمشتقات الجزئية على طول المسارات غير المسموح بها).
- خسارة PPD (معيار L1 للفرق بين مشتقات المتنبئ ومشتقات المتنبئ غير المقيد على طول المسارات المسموح بها).
تسمح المعلمات الفائقة $\lambda_{SPD}$ و $\lambda_{PPD}$ للمستخدمين بتحديد الأولوية لأحد معايير العدالة على الآخر عندما لا يتحقق شرط التوافق.

المساهمات الرئيسية

الصياغة الرسمية: يصيغ البحث التكافؤ الإحصائي (SP) والتكافؤ التنبئي (PP) باستخدام المشتقات الجزئية للمسارات، مما يجعل تعريفات العدالة السببية قابلة للتطبيق على السمات المحمية المستمرة دون العبء الحسابي لتقييم تباينات لانهائية.
التوصيف النظري: يستنتج البحث الشروط التي تتطابق فيها هذه التعريفات القائمة على المشتقات مع التعريفات السببية القائمة على التباينات السابقة، ويضع معيار التوافق (Theorem 1) للوجود المتزامن لمتنبئات عادلة.
الحل الخوارزمي: يقدم حلاً عمليًا للضبط العادل يبني متنبئات عادلة عندما يتحقق معيار التوافق، ويقدم أيضًا آلية مفاضلة مرنة عندما لا يتحقق.
التحقق التجريبي: تم تقييم الطريقة باستخدام بيانات محاكاة (نماذج خطية ومتعددة للـ DGP) ومجموعة بيانات COMPAS الواقعية، ومقارنتها بالأساليب التي تركز فقط على التكافؤ الإحصائي (SPT) وأسالب الهامش (Marginalization).

النتائج

البيانات المحاكاة: في الإعدادات الخطية حيث يكون SPD وPPD متوافقين، نجحت خوارزمية الضبط العادل (FT) في تقليل كلتا الخسارتين في آن واحد. وفي الإعدادات غير الخطية (المتعددة) حيث يكونان غير متوافقين، أظهرت الخوارزمية المفاضلة المتوقعة: زيادة القيود على أحد المقاييس تؤدي إلى تدهور الآخر. وتتفوق طريقة FT على أساليب الهامش ونهج SPT-only في الحفاظ على الأداء التنبئي مع الالتزام بقيود العدالة، لا سيما عند مراعاة PPD.
مجموعة بيانات COMPAS: عند تطبيقها على التنبؤ بالعودة للإجرام، حققت خوارمة FT (خاصة مع الأوزان المتوازنة) تسوية متفوقة بين SPD وPPD مقارنة بأساليب SPT وMarginalize. وبينما أظهرت جميع النماذج المقيدة انخفاضًا في الأداء التنبئي مقارنة بالخط المرجعي غير المقيد، إلا أن FT 10 حافظت على درجات أعلى في الدقة وF1 مع تقليل خسارة PPD بشكل كبير.
المشتق مقابل التباين: عند التطبيق على الميزات الثنائية في مجموعة بيانات COMPAS، أدى تقليل خسائر التباين (CSP/CPP) عمومًا إلى تقليل خسائر المشتقات (SPD/PPD)، رغم ملاحظة بعض التباينات في بعض سيناريوهات القيود العالية.

الأهمية والادعاءات
يزعم البحث أن إطاره القائم على المشتقات يوفر حلاً عمليًا ومؤسسًا نظريًا للعدالة السببية في المجالات المستمرة، وهي فجوة تركتها الطرق القائمة على التباينات. ويجادل بأن من خلال نمذجة المفاضلة بين التكافؤ الإحصائي والتنبئي صراحةً عبر المشتقات الجزئية، يمكن للممارسين بناء متنبئات تحترم الضرورات التجارية مع التخفيف من التمييز. ويؤكد المؤلفون أن طريقتهم لا تتطلب افتراضات حول المعادلات الهيكلية لعملية توليد البيانات (DGP)، بل تتطلب فقط مخططًا سببيًا، مما يجعلها قابلة للتطبيق في السيناريوهات الواقعية. ويخلص العمل إلى أنه بينما قد لا تتوافق عدالة المشتق دائمًا بشكل مثالي مع عدالة التباين بالنسبة للسمات الثنائية، إلا أنها تقدم نهجًا قويًا ومرنًا للسمات المستمرة ومسارًا قابلًا للتطبيق للتعامل مع التوتر بين الاستقلال الإحصائي والمنفعة التنبئية.