Fairness under uncertainty in sequential decisions

إليك ملخص تقني مفصل لورقة البحث "العدالة تحت ظروف عدم اليقين في القرارات المتسلسلة" (Fairness under uncertainty in sequential decisions) من إعداد لي وآخرون.

1. بيان المشكلة

تتناول الورقة فجوة حرجة في مجال التعلم الآلي العادل (Fair ML): فبينما يُدرس العدل في التعلم الخاضع للإشراف والساكن (Static) بشكل جيد، تواجه أنظمة اتخاذ القرار المتسلسلة والآنية (مثل الإقراض، التوظيف، التأمين) تحديات فريدة بسبب عدم اليقين والتغذية الراجعة الانتقائية.

• المشكلة الجوهرية: في الإعدادات المتسلسلة، تُتخذ القرارات بمرور الوقت، وتحدد نتيجة القرار (مثل منح قرض) ما إذا كان سيتم رصد البيانات أم لا. إذا تم رفض القرض، فإن البنك لن يلاحظ أبداً ما إذا كان مقدم الطلب سيسدد أم لا (النتيجة المضادة للواقع/Counterfactual outcome).
• عدم المساواة في عدم اليقين: غالباً ما تعاني الفئات المهمشة تاريخياً من تحيز التمثيل (نقص البيانات التاريخية) والتغذية الراجعة الانتقائية (الحرمان المنهجي من الفرص). يؤدي هذا إلى عدم يقين تنبؤي أعلى لهذه الفئات.
• النتيجة: السياسات الساذجة التي تتجاهل عدم اليقين هذا تميل إلى استغلال الأنماط الآمنة المعروفة، مما يؤدي إلى استبعاد الفئات غير الممثلة بشكل منهجي لتقليل المخاطر الفورية. وهذا يخلق حلقة مفرغة حيث يعزز نقص البيانات نقص الفرص، مما يضاعف التفاوتات بمرور الوقت.
• المخاطر القانونية والعملية: يسلط المؤلفون الضوء على أن التعلم التعزيزي (RL) يُدخل العشوائية (الاستكشاف) والتي قد تتعارض مع قوانين عدم التمييز إذا لم تُدار بعناية، ومع ذلك، فإن الفشل في الاستكشاف يمنع النظام من تعلم الإمكانات الحقيقية للفئات المهمشة.

2. المنهجية

أ. تصنيف عدم اليقين

يقترح المؤلفون تصنيفاً مهيكلاً لعدم اليقين عبر دورة حياة التعلم الآلي لتشخيص مواضع ظهور التفاوتات. وقد صنفوا عدم اليقين إلى ستة أنواع، مع التمييز بين المصادر "العالمية" (النظامية) و"المحلية" (الفردية):

1. العالم (World): عدم اليقين في الحالة المنشودة (التعريف الذاتي لعدم المساواة المقبول).
2. جمع البيانات (Data Collection): عدم اليقين في التمثيل (أخذ عينات منحازة).
3. هندسة الميزات (Feature Engineering): عدم اليقين في القياس (المتغيرات الوكيلة).
4. تدريب النموذج (Model Training): عدم اليقين في النموذج (المعلمات غير المثالية).
5. التنبؤات (Predictions): عدم اليقين في التنبؤ (التباين في ثقة التنبؤ لأفراد محددين).
6. النشر (Deployment): عدم اليقين في التغذية الراجعة (النتائج المضادة للواقع غير الملحوظة).

التركيز: تستهدف الورقة تحديداً حالات عدم اليقين في النموذج، والتنبؤ، والتغذية الراجعة، لأنها تؤثر مباشرة على حلقة القرار المتسلسلة.

ب. الصياغة الرسمية

تتم نمذجة المشكلة كـ مقامد سياقية (Contextual Bandit) -وهو إعداد مبسط للتعلم التعزيزي- حيث:

• الحالة ($s$): ملف مقدم الطلب $x$، السمة الحساسة $A$، والقيود.
• الإجراء ($d$): منح ($1$) أو رفض ($0$) القرض.
• النتيجة ($Y_1$): سداد ($1$) أو تعثر ($0$).
• المنفعة ($u$): يعرّف المؤلفون دالة المنفعة التي تأخذ في الاعسبار كل من النتائج الملحوظة (المكاسب/الخسائر المحققة) والنتائج المضادة للواقع غير الملحوظة (المكاسب/الخسائر غير المحققة).
  $$u = d(y_1 g - (1-y_1)l) + (1-d)((1-y_1)g - y_1 l)$$
  حيث $g$ هو الربح، و$l$ هو الخسارة، ويمثل الحد الثاني المنفعة المضادة للواقع لمقدم طلب مرفوض.

ج. النهج المقترحة

يقارن المؤلفون بين عدة استراتيجيات للتخفيف من حدة حالات عدم اليقين هذه دون فرض قيود عدالة صريحة (مثل التكافؤ الديموغرافي):

1. السياسة الساذجة (Naïve Policy): نموذج انحدار لوجستي قياسي يتعلم فقط من البيانات الملحوظة (القروض المعتمدة). إنه يتجاهل النتائج المضادة للواقع وعدم اليقين.
2. الاستكشاف الساذج (Naïve Exploration): يختار عشوائياً مجموعة فرعية من المتقدمين في "منطقة عدم اليقين" (بالقرب من عتبة القرار) لمنح القروض، بغض النظر عن المجموعة، لجمع البيانات.
3. الاستكشاف الموزون بالاحتمالية (Probability-Weighted Exploration): يأخذ عينات من المتقدمين للاستكشاف بناءً على احتمال سدادهم المتوقع، مع إعطاء الأولوية لأولئك الذين يشعر النموذج بعدم اليقين تجاههم ولكنهم قد يكونون مرشحين جيدين.
4. الاستكشاف الواعي بعدم اليقين (Uncertainty-Aware Exploration): يستهدف تحديداً المتقدمين الذين يتداخل فيها فاصل الثقة للتنبؤ مع عتبة القرار. هذا يأخذ في الاعتبار صراحةً عدم اليقين في التنبؤ.
5. تعظيم المنفعة المضادة للواقع (Counterfactual Utility Maximization): وهو المنهج الأساسي المقترح. يقوم بتدريب نموذج من البداية إلى النهاية عبر تعظيم هدف قابل للاشتقاق يتضمن كل من المكافآت الملحوظة والمكافآت المتوقعة المضادة للواقع.
   • يستخدم دالة قرار ناعمة ($\sigma(\alpha(p_t - \tau_t))$) لتقريب العتبات الصلبة، مما يسمح بالتحسين القائم على التدرج (gradient-based optimization).
   • يقوم صراحةً بتقدير منفعة القروض المرفوضة بناءً على احتمالية التنبؤ الخاصة بالنموذج، مما يعمل فعلياً على "ملء" البيانات المفقودة.

3. المساهمات الرئيسية

1. تصنيف عدم اليقين: يوفر لغة مشتركة للباحثين والممارسين لتحديد كيفية تفاعل أنواع مختلفة من عدم اليقين (المعرفي مقابل العشوائي، العالمي مقابل المحلي) لإنتاج عدم العدالة في الأنظمة المتسلسلة.
2. صياغة العدالة تحت ظروف عدم اليقين: تصور كيف يمكن لعدم اليقين المعرفي غير المتكافئ (بسبب نقص البيانات) وعدم اليقين في التغذية الراجعة (بسبب الملصقات الانتقائية) أن يتراكبا لخلق تفاوتات هيكلية.
3. إثبات فعالية الاستكشاف الواعي بعدم اليقين: يظهر أن مجرد مراعاة عدم اليقين (تحديداً عدم اليقين في التنبؤ والتغذية الراجعة) يمكن أن يحسن مقاييس العدالة للفئات المستضعفة دون التضحية بمنفعة متخذ القرار (الربح) ودون الحاجة إلى قيود عدالة صريحة (والتي قد تكون مثيرة للجدل قانونياً).
4. التحسين المضاد للواقع: يقدم طريقة للتحسين من أجل النتائج المضادة للواقع في إعدادات التعلم التعزيزي، مما يسد الفجوة بين البيانات الملحوظة والنتائج المحتملة.

4. النتائج التجريبية

استخدم المؤلفون بيانات اصطناعية (بناءً على إطار عمل Baumann وآخرون) تحاكي التحيز التاريخي، وتحيز القياس، وتحيز التمثيل. وقاموا بتقييم الأداء على مدار 10 فصول (خطوات زمنية).

• الأداء مقابل العدالة:
  • في الإعدادات الخالية من التحيز، أدت جميع الطرق أداءً متشابهاً، مما يثبت أن الطرق الواعية بعدم اليقين لا تضعف المنفعة بطبيعتها.
  • في الإعدادات التي تحتوي على تحيز تاريخي وقياس، تفوقت طريقة تعظيم المنفعة المضادة للواقع بشكل كبير على الطرق الأخرى.
• مقاييس العدالة:
  • حققت طريقة "التعظيم المضاد للواقع" نتائج أفضل في اختلاف معدلات الاختيار، واختلاف معدلات الخطأ السلبي (FNR)، واختلافات الدقة بين المجموعات مقارنة بالطرق الساذجة وطرق الاستكشاف القياسية.
  • والأهم من ذلك، أنها حققت هذه التحسينات في العدالة مع الحفاظ على الربح التراكمي (المنفعة) أو حتى تحسينه قليلاً.
• تحليل الحساسية:
  • مع زيادة حجم تحيز القياس، حافظت طريقة "التعظيم المضاد للواقع" على منفعة عالية بينما شهدت الطرق الأخرى تدهوراً في مقاييس العدالة الخاصة بها.
  • تثبت النتائج أن تجاهل المكاسب غير المحققة (المضادة للواقع) يعاقب كلاً من المُقرض (خسارة الربح) والعميل (خسارة الفرصة)، خاصة بالنسبة للفئات المهمشة.

5. الأهمية والآثار المترتبة

• ما وراء العدالة الساكنة: تجادل الورقة بأن العدالة لا يمكن معاملتها كقيد ساكن في الأنظمة المتسلسلة؛ إذ إن عملية التعلم (الاستكشاف) هي المكان الذي يتراكم فيه التحيز.
• القانون والحوكمة: من خلال صياغة المشكلة عبر منظور عدم اليقين، يوفر المؤلفون أداة للمدققين والمنظمين لتحديد أين تؤدي "المجاهيل المعروفة" (عدم اليقين) إلى آثار متباينة. ويقترح ذلك أن الاستكشاف الواعي بعدم اليقين يمكن أن يكون بديلاً قانونياً للدفاع عنه بدلاً من "التمييز الإيجابي"، لأنه يعتمد على الضرورة الإحصائية (تقليل عدم اليقين) بدلاً من تفضيل المجموعات.
• التطبيق العملي: يقدم النهج "عدسة تشخيصية" للممارسين. فبدلاً من مجرد ضبط المعلمات الفائقة (hyperparameters) من أجل العدالة، يمكنهم تدقيق مسار القرار لمعرفة أين يتوزع عدم اليقين بشكل غير متساوٍ وتطبيق استكشاف مستهدف لتصحيحه.
• الاتجاهات المستقبلية: تسلط الورقة الضوء على الحاجة إلى أطر قانونية أفضل فيما يتعلق بالتعلم التعزيزي في المجالات عالية المخاطر، وتدعو إلى مزيد من البحث في الإعدادات المستمرة والتكامل السببي.

باختملال، تفترض الورقة أن عدم اليقين هو محرك هيكلي لعدم العدالة في اتخاذ القرار المتسلسل. ومن خلال النمذجة الصريحة والاستكشاف لـ "المساحة غير الملحوظة" (المضادة للواقع) ومراعاة تباين التنبؤ، يمكن لصناع القرار تحقيق تحسين متزامن لكل من المنفعة المؤسسية والعدالة الاجتماعية.