Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review

تخيل أنك القاضي الرئيسي في محكمة ضخمة حيث يساعد نظام ذكاء اصطناعي في اتخاذ القرار بشأن من يحصل على قرض، أو وظيفة، أو علاج طبي. أمامك قاعدتان مهمتان للغاية، لكنهما غالباً ما تتعارضان، وعليك اتباعهما لضمان العدالة:

1. قاعدة المجموعة (عدالة المجموعة): تقول هذه القاعدة: "يجب أن نتأكد من أن معدلات النجاح الإجمالية متساوية لكل مجموعة ديموغرافية". إذا تمت الموافقة على المجموعة (أ) بنسبة 50% من الوقت، فيجب أيضاً الموافقة على المجموعة (ب) بنسبة 50%. الأمر يتعلق بالصورة الكبيرة والإحصائيات.

2. قاعدة الجار (العدالة الفردية): تقول هذه القاعدة: "يجب أن نعامل الأشخاص المتشابهين بنفس الطريقة". إذا كان لشخصين سِيَراً ذاتية، ودرجات ائتمانية، وقصص حياة متطابقة تقريباً، فيجب أن يحصلا على نفس القرار تماماً، بغض النظر عن المجموعة التي ينتميان إليها. الأمر يتعلق بالتفاصيل المحددة لكل شخص.

المشكلة الكبرى:
تشير هذه الورقة البحثية، التي كتبها فريق من الباحثين من إسبانيا، إلى واقع محبط: غالباً لا يمكنك اتباع القاعدتين بشكل مثالي في نفس الوقت.

فكر في الأمر كأنك تحاول تقطيع كعكة.

• إذا قطعت الكعكة بحيث تحصل كل طاولة على كمية متساوية من الكعكة (عدالة المجموعة)، فقد تضطر لإعطاء قطعة صغيرة جداً لشخص جائع جداً وقطعة ضخمة لشخص ليس جائعاً، فقط لموازنة الإجماليات. هذا ينتهك قاعدة الجار لأن جارين متساويين في الجوع سيحصلان على قطع مختلفة.
• إذا قطعت الكعكة بحيث يحصل كل شخص جائع على قطعة بنفس الحجم (العدالة الفردية)، فقد تنتهي الطاولات بكميات مختلفة تماماً من الكعكة. قد تحصل إحدى الطاولات على جبل من الكعكة بينما لا تحصل الأخرى على شيء تقريباً. هذا ينتهك قاعدة المجموعة.

ما تفعله الورقة البحثية:
بدلاً من مجرد القول بأن "هذا مستحيل"، تعمل هذه الورقة كـ خريطة شاملة للباحثين الآخرين. فهي تستعرض جميع الأدوات والأساليب المختلفة التي ابتكرها الناس لمحاولة موازنة هذين القاعدتين.

لقد نظم المؤلفون هذه الأساليب في ثلاث "ورش عمل" حيث يحدث سحر العدالة:

1. ورشة تحضير البيانات (المعالجة المسبقة - Pre-processing): قبل أن يبدأ الذكاء الاصطناعي في التعلم، يقوم الباحثون بتعديل البيانات. قد يغيرون الأرقام في مجموعة البيانات أو يضيفون سيناريوهات وهمية "ماذا لو" (مثل السؤال: "ماذا لو كان هذا الشخص من مجموعة مختلفة؟") لتعليم الذكاء الاصطناعي أن يكون أكثر عدلاً منذ البداية.

2. صالة تدريب الذكاء الاصطناعي (المعالجة أثناء التدريب - In-processing): أثناء تعلم الذكاء الاصطناعي، يضيف الباحثون "أوزاناً" أو "قواعد" إضافية لتدريبه. الأمر يشبه وضع عائق للذكاء الاصطناعي: "إذا بدأت في معاملة أشخاص متشابهين بشكل مختلف، فستتعرض لعقوبة". يجب على الذكال الاصطناعي أن يتعلم أن يكون دقيقاً وعادلاً في آن واحد.

3. المراجعة النهائية (المعالجة اللاحقة - Post-processing): بعد أن يتخذ الذكاء الاصطناعي قراراته، يتدخل إنسان (أو خوارزمية ثانية) لتعديل النتائج. إذا قال الذكاء الاصطناعي "نعم" للمجموعة (أ) بنسبة 60% من الوقت و"نعم" للمجموعة (ب) بنسبة 40% من الوقت، فإن هذه الخطوة قد تخفض المعايير للمجموعة (ب) قليلاً لموازنة الأمور، مع محاولة معاملة الأشخاص المتشابهين بشكل متشابه.

ما وجدته الورقة:

• المقايضة حقيقية: تؤكد الورقة أن محاولة إصلاح نوع واحد من عدم الإنصاف غالباً ما يجعل النوع الآخر أسوأ. لا يوجد "غداء مجاني".
• معظم الأساليب مكلفة: تتطلب العديد من هذه العمليات المعقدة للموازنة الكثير من قوة الكمبيوتر والوقت. الأمر يشبه محاولة حل مكعب روبيك أثناء الجري في ماراثون.
• لا نملك بيانات كافية: معظم هذه الأساليب يتم اختبارها على مجموعات بيانات قديمة وبسيطة (مثل "Adult" أو "COMPAS"). نحن لا نعرف حقاً ما إذا كانت تعمل جيداً في المواقف المعقدة من العالم الحقيقي مثل التصوير الطبي أو التوظيف في الوظائف الإبداعية.
• الأكواد البرمجية مفقودة: ما يقرب من نصف الأساليب التي تمت مراجعتها لا يتم مشاركة أكوادها البرمجية علناً. الأمر يشبه قراءة وصفة لكعكة لذيذة ولكن لا يُسمح لك برؤية قائمة المكونات.

الخلاصة:
تخلص الورقة إلى أننا لا نزال في الأيام الأولى لحل هذا اللغز. وبينما نمتلك العديد من الأدوات لمحاولة موازنة "قاعدة المجموعة" و"قاعدة الجار"، فإننا بحاجة إلى طرق أفضل لقياس تكلفة استخدامها، ومزيد من الاختبارات في سيناريوهات مختلفة من العالم الحقيقي، وإرشادات أوضح حول كيفية اختيار القاعدة التي يجب منح الأولوية لها عندما تتعارض. الهدف ليس العثور على حل مثالي (لأنه قد لا يوجد واحد)، بل بناء أنظمة حيث نفهم المقايضات ويمكننا اتخاذ خيارات أخلاقية مدروسة.