🤖 machine learning

Do Fair Models Reason Fairly? Counterfactual Explanation Consistency for Procedural Fairness in Credit Decisions

تقدم هذه الورقة إطار عمل "اتساق التفسير المضاد للواقع" (CEC)، المصمم للكشف عن "التحيز الإجرائي الخفي" في نماذج قرارات الائتمان والتخفيف من حدته، وذلك من خلال ضمان حصول الأفراد ذوي النتائج المتشابهة على تفسيرات متسقة، وهو بُعد حاسم من أبعاد العدالة الذي تغفله المقاييس القياسية القائمة على النتائج.

المؤلفون الأصليون: Gideon Popoola, John Sheppard

نُشر 2026-05-14

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Gideon Popoola, John Sheppard

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تتقدم بطلب للحصول على قرض. لديك درجة ائتمانية ممتازة، ووظيفة مستقرة، ونقود كافية لسداده. تم قبول طلبك. الآن، تخيل أن جارك يتقدم بطلب لديه نفس الملف المالي تماماً، لكنه ينتمي إلى مجموعة ديموغرافية مختلفة (ربما عرق أو جنس مختلف). وقد تم قبوله هو الآخر.

على السطح، يبدو كل شيء عادلاً. لقد حصل كلاكما على نفس النتيجة. ولكن ماذا لو استخدم نظام الكمبيوتر الخاص بالبنك أسباباً مختلفة تماماً لقول "نعم" لك ولجارك؟

بالنسبة لك: نظر الكمبيوتر في درجتك الائتمانية ودخلك.
بالنسبة لجارك: تجاهل الكمبيوتر درجته الائتمانية وركز بدلاً من ذلك بشكل كبير على تاريخ توظيفه والضمانات.

هذا هو جوهر المشكلة التي تتناولها الورقة البحثية. يطلق المؤلفون على هذا "التحيز الإجرائي الخفي". الأمر يشبه قاضيين يصدران نفس الحكم في قضية ما، لكن أحدهما استند في حكمه إلى حجة المتهم، بينما استند الآخر تماماً إلى ملابسه. النتيجة واحدة، لكن العملية كانت غير عادلة.

المشكلة: فخ "النتيجة"

معظم أدوات العدالة الحالية للذكاء الاصطاسي تشبه المعلم الذي لا يتحقق إلا من درجات الاختبار النهائي فقط. إذا حصلت المجموعة (أ) والمجموعة (ب) على متوسط درجة 80%، يقول المعلم: "رائع، النظام عادل!".

يجادل المؤلفون بأن هذا فخ. يمكنك الحصول على درجات اختبار مثالية (نتائج) بينما استخدم المعلم معايير تقييم مختلفة تماماً لطلاب مختلفين. في عالم الإقراض، يعد هذا غير قانوني بموجب قوانق مثل قانون تكافؤ فرص الائتمان (ECOA)، الذي ينص على أنه لا يمكنك استخدام قواعد مختلفة لمجموعات مختلفة، حتى لو بدت معدلات الموافقة النهائية متساوية.

الحل: إطار عمل "CEC"

يقترح المؤلفون أداة جديدة تسمى "اتساق التفسير المقابل للواقع" (Counterfactual Explanation Consistency - CEC). فكر فيها كأنها "فحص للواقع" للذكاء الاصطناعي.

إليك كيف يعمل، باستخدام تشبيه بسيط:

تبديل "ماذا لو" (المقابلات الواقعية):
تخيل أن لديك طلباً للحصول على قرض. يقول الذكاء الاصطناً "نعم" بسبب دخلك المرتفع. تأخذ أداة CEC طلبك وتسأل: "ماذا لو كان هذا الشخص نفسه، بنفس الدخل والدرجة الائتمانية، ينتمي إلى مجموعة ديموغرافية مختلفة؟"
بدلاً من مجرد تغيير الاسم أو العرق في النموذج (مما يخلق بيانات وهمية وغير ممكنة)، تجد الأداة شخصاً حقيقياً في قاعدة البيانات يشبهك مالياً تماماً ولكنه ينتمي إلى المجموعة الأخرى. تقوم الأداة بربطك بـ "توأمك" من تلك المجموعة.
تدقيق "المنطق" (اتساق التفسير):
الآن، تطلب الأداة من الذكاء الاصطناعي شرح سبب موافقته على كل منكما.

هل وزن دخلك ودرجتك الائتمانية بنفس الطريقة لكل منكما؟
أم أنه قرر فجأة أن تاريخ الوظيفة هو الشيء الوحيد المهم بالنسبة للشخص الثاني؟

إذا استخدم الذكاء الاصطناعي "أوزاناً" أو أسباباً مختلفة بين التوأمين الماليين، فإن أداة CEC تطلق إنذاراً. فهي تقيس مدى "تأرجح" المنطق بين المجموعتين.

الإصلاح (تدريب الذكاء الاصطناعي):
لم يكتفِ المؤلفون ببناء كاشف فحسب؛ بل بنوا معلماً. لقد أضافوا قاعدة جديدة إلى عملية تدريب الذكال الاصطناعي.

القاعدة القديمة: "تأكد من أن معدلات الموافقة متساوية".
القاعدة الجديدة: "تأكد من أن معدلات الموافقة متساوية وأيضاً تأكد من استخدام نفس المنطق تماماً للوصول إلى ذلك".

يتم معاقبة الذكاء الاصطناعي الآن (عبر "دالة خسارة" رياضية) إذا حاول استخدام منطق مختلف لمجموعات مختلفة، حتى لو كانت النتيجة النهائية هي نفسها.

ما وجدوه

اختبر المؤلفون هذا على بيانات من العالم الحقيقي (مثل سجلات الائتمان الألمانية، وبيانات الدخل الأمريكية، وسجلات الرهن العقاري) وعلى بيانات اصطناعية.

الصدمة: وجدوا أن العديد من نماذج الذكاء الاصطناعي "العادلة" حالياً كانت تخفي هذا التحيز بالفعل. كان بإمكانها اجتياز جميع اختبارات العدالة القياسية (معدلات موافقة متساوية) ولكنها كانت لا تزال تستخدم منطقاً مختلفاً لأشخاص مختلفين. في دراستهم، وقع ما يصل إلى 90% من المتقدمين في بعض النماذج في فخ "التحيز الخفي" هذا.
النجاح: عندما استخدموا طريقة CEC الجديدة، توقف الذكاء الاصطناعي عن استخدام قواعد مختلفة. بدأ يعامل التوائم الماليين بنفس الطريقة. لقد بدأ يعامل التوائم الماليين على حد سواء، بغض النظر عن خلفياتهم.
التكلفة: الجزء الأفضل؟ لم يصبح الذكاء الاصطناعي "أغبى". فقد ظل يتنبأ بدقة بمن سيسدد القرض، ولم يفقد الكثير من حيث الأداء العام. لقد أصبح فقط أكثر عدلاً في طريقة تفكيره.

الصورة الكبيرة

تخلص الورقة البحثية إلى أن العدالة ليست مجرد مسألة نتيجة؛ بل هي مسألة وصفة.

إذا خبزت كعكة لشخصين، فلا يكفي أن يحصل كلاهما على قطعة بنفس الحجم. إذا استخدمت مكوناً سرياً لأحدهما ومكوناً مختلفاً للآخر، فإن العملية غير عادلة. يضمن إطار عمل CEC أن يستخدم الذكاء الاصطناعي نفس "الوصفة" (المنطق) للجميع، مما يضمن أنه في نظر القانون والأخلاق، تُعامل الحالات المتشابهة معاملة متساوية.

ملخص تقني: اتساق التفسير المقابل للواقع من أجل العدالة الإجرائية في قرارات الائتمان

بيان المشكلة

يركز البحث الحالي في عدالة الخوارزميات في المجالات الحساسة اجتماعيًا، مثل الإقراض الائتماني، بشكل أساسي على عدالة المخرجات (مثل التكافؤ الديموغرافي، أو تكافؤ الفرص). تضمن هذه المقاييس أن المخرجات التنبؤية متوازنة إحصائيًا عبر المجموعات المحمية (مثل العرق، أو الجنس). ومع ذلك، يجادل المؤلفون بأن استيفاء عدالة المخرجات لا يضمن أن النموذج يستخدم نفس عملية الاستنتاج للأفراد من مجموعات مختلفة.

تخلق هذه الفجوة "تحيزًا إجرائيًا خفيًا" حيث قد ينتج النموذج مخرجات متطابقة لمتقدمين متشابهين من مجموعات ديموغرافية مختلفة، ولكنه يعتمد على علاقات سمات (feature attributions) مختلفة جوهريًا للوصول إلى تلك الاستنتاجات. على سبيل المثال، قد يوافق نموذج على مقدم طلب ذكر بناءً على درجة الائتمان بشكل أساسي، بينما يوافق على مقدم طلب أنثى بملف مشابه بناءً على التاريخ الوظيفي. بموجب الأطر القانونية مثل قانون تكافؤ فرص الائتمان (ECOA)، يشكل هذا معاملة متباينة، ومع ذلك يظل غير مرئي لمقاييس العدالة القائمة على المخرجات القياسية.

يصيغ المؤلفون هذه الظاهرة باستخدام تصنيف 2×2 لأنظمة العدالة:

النظام (أ) (عادل تمامًا): نفس التنبؤ، نفس الاستنتاج.
النظام (ب) (تحيز خفي): نفس التنبؤ، استنتاج مختلف (النقطة العمياء الحرجة).
النظام (ج) (عدم عدالة المخرجات): تنبؤ مختلف، نفس الاستنتاج.
النظام (د) (عدم عدالة شديد): تنبؤ مختلف، استنتاج مختلف.

تستهدف الطرق الموجودة بشكل أساسي الأنظمة (ج) و(د)، مما يترك النظام (ب) دون اكتشاف.

المنهجية: اتساق التفسير المقابل للواقع (CEC)

لاكتشاف وتخفيف حدة النظام (ب)، يقترح المؤلفون إطار عمل اتساق التفسير المقابل للواقع (CEC)، والذي يعمل على مواءمة علاقات السمات بين الأفراد ونظرائهم المقابلين للواقع.

1. توليد المقابل للواقع عبر مطابقة أقرب جار مصنفة حسب التسمية

بدلاً من استخدام المقابلات للواقع الساذجة (قلب السمة المحمية مع تثبيت جميع السمات الأخرى، مما يؤدي غالبًا إلى أفراد مستحيلين إحصائيًا)، يقترح المؤلفون نهج أقرب جار (NN) المصنف حسب التسمية:

الآلية: بالنسبة لفرد واقعي $(x, y, a)$ ، يبحث النظام في بيانات التدريب عن فرد $\tilde{x}$ من المجموعة المعاكسة ( $1-a$ ) يتشارك في نفس التسمية الحقيقية ( $y$ ) ويمتلك أكثر السمات المالية ( $F$ ) تشابهًا.
السمات المالية ( $F$ ): تُعرف بأنها سمات قائمة على الجدارة، ومسموح بها قانونًا (مثل الدخل، درجة الائتمان) وليست بدائل ديموغرافية.
المبرر: يضمن ذلك أن يكون الفرد الواقعي ونظيره المقابل للواقع لهما نفس الجدارة الائتمانية الحقيقية. أي اختلاف في استنتاج النموذج سيكون بالتالي ناتجًا عن التحيز المرتبط بالمجموعة بدلاً من الاختلافات المشروعة في المخاطر. تتجنب هذه الطريقة الحاجة إلى النماذج السببية الهيكلية (SCMs).

2. مبدأ خط الأساس المتسق

يستخدم إطار العمل التدرجات المتكاملة (Integrated Gradients - IG) لقياس علاقات السمات. والمساهمة الجوهرية هي مبدأ خط الأساس المتسق.

المشكلة: مقارنة ناقلات IG باستخدام خطوط أساس خاصة بكل مجموعة (على سبيل المثال، متوسط المجموعة 0 مقابل متوسط المجموعة 1) يُدخل متغيرًا مربكًا. قد تنشأ الاختلافات في العلاقات ببساطة من نقاط المرجع المختلفة (خطوط الأساس) وليس من الاستنتاج التمييزي.
الحل: يجب تقييم كل من الفرد الواقعي $x$ ونظيره المقابل للواقع $\tilde{x}$ مقابل نفس خط الأساس (تحديدًا متوسط مجموعة تسميته الواقعية).
الضمان النظري: يثبت المؤلفون أن استخدام خط أساس متسق يعزل فرق العلاقة في مدخلات البيانات وفي تدرجات النموذج، مما يزيل الحدود الزائفة الناتجة عن انزياحات توزيع المجموعات.

3. مقياس CEC ودالة الخسارة

المقياس: يقيس مقياس CEC مسافة $L_2$ المعيارية بين ناقلات العلاقة لـ $x$ و $\tilde{x}$ عند استخدام خط الأساس المتسق. تشير القيمة 0 إلى استنتاج متطابق؛ والقيمة 1 إلى استنتاج متضاد كليًا.
هدف التدريب: يقدم المؤلفون دالة خسارة متعددة الأهداف تعمل معًا على تحسين:
1. دقة التنبؤ (الاعتراض المتقاطع الثنائي).
2. عدالة المخرجات (قيد تكافؤ الفرص).
3. العدالة الإجرائية (خسارة CEC): وهي منظم قابل للتفاضل يعاقب التباعد في ناقلات العلاقة بين الأزواج الواقعية والمقابلة للواقع.

المساهمات الرئيسية

صياغة التحيز الإجرائي الخفي: حددت الورقة البحثية وصنفت "النظام ب" (نفس المخرجات، استنتاج مختلف) كنمط فشل حرج لا يمكن رصده بواسطة مقاييس العدالة القياسية.
توليد المقابل للواقع عبر أقرب جار: طريقة عملية لتوليد مقابلات للواقع واقعية لتدقيق العدالة دون الحاجة إلى رسوم بيانية سببية، بالاعتماد بدلاً من ذلك على مطابقة الجدارة المالية.
مبدأ خط الأساس المتسق: تصحيح نظري وعملي لمقارنات التدرجات المتكاملة يمنع تفسير الآثار الناتجة عن خط الأساس بشكل خاطئ على أنها تحيز.
إطار عمل CEC: دالة خسارة قابلة للتفاضل تفرض اتساق التفسير جنبًا إلى جنب مع الدقة وعدالة المخرجات، مما يثبت أن العدالة الإجرائية يمكن تحقيقها بتكاليف منفعة محدودة.

النتائج التجريبية

قيم المؤلفون CEC على أربع مجموعات بيانات: بيانات اصطناعية، الائتمان الألماني، دخل البالغين، وبيانات رهن HMDA. وقارنوه بـ ستة نماذج أساسية (غير مقيد، مزيل التأثير المتباين، معالجة ما بعد هارت، اختزالات Agarwal، إزالة التحيز التنافسية، وتعلم لاغرانج العادل).

اكتشاف التحيز الخفي: أظهرت جميع الطرق الأساسية التي حققت عدالة مخرجات تنافسية (فجوات منخفضة في تكافؤ الفرص) تحيزًا إجرائيًا خفيًا كبيرًا (درجات CEC عالية). على سبيل المثال، في مجموعة بيانات الائتمان الألماني، وضعت الطرق الأساسية حوالي 90% من العينات في النظام (ب)، بينما خفض نموذج CEC هذا الرقم إلى حوالي 17%.
التخفيف: حقق النموذج المدرب باستخدام CEC باستمرار أدنى درجات CEC وأعلى نسبة من عينات النظام (أ) (عادل تمامًا) عبر جميع مجموعات البيانات.
مقايضة المنفعة: حافظ نموذج CEC على قدرة تنبؤية تنافسية (F1 و AUC) وعدالة المخرات، مع انخفاضات طفيفة فقط في الأداء مقارنة بالنماذج غير المقيدة.
دراسات الاستئصال (Ablation Studies):
- إضافة قيود تكافؤ الفرص (EO) وحدها لم تؤدِ إلى تقليل النظام (ب)؛ بل في بعض الحالات، أدت إلى زيادته قليلاً.
- إضافة تنظيم CEC وحده قلل بشكل كبير من النظام (ب) وكأثر جانبي، أدى غالبًا إلى دفع فجوة EO إلى الصفر.
- حقق النموذج متعدد الأهداف الأفضل في التوازن، مما يؤكد أن العدالة الإجرائية وعدالة المخرجات هما هدفان متعامدان يتطلبان تحسينًا مشتركًا صريحًا.

الأهمية والادعاءات

يدعي المؤلفون أن عدالة المخرجات وعدالة الإجراءات متعامدان. إن تحسين أحدهما لا يضمن الآخر؛ بل في الواقع، يمكن للتدخلات التي تركز على المخرجات أن تخفي أو تفاقم التحيز الإجرائي الخفي (النظام ب) دون قصد.

تكمن أهمية هذا العمل في:

الامتثال التنظيمي: يعالج فجوة محددة في الامتثال القانوني (مثل ECOA)، حيث يُمنع المقرضون من استخدام معايير اكتتاب مختلفة لمجموعات مختلفة، حتى لو كانت معدلات الموافقة النهائية متساوية.
القابلية للتدقيق: يوفر أداة كمية (مقياس CEC وتوزيع الأنظمة) للتدقيق ليس فقط في ماذا يقرر النموذج، ولكن في كيف يستنتج، مما يحدد المتقدمين الذين يتعرضون لمعاملة غير متسقة.
التحول المنهجي: يثبت إمكانية دمج العدالة الإجرائية في مسار التدريب عبر خسائر قابلة للتفاضل، مما يتجاوز التفسيرات اللاحقة (post-hoc) إلى التخفيف الاستباقي للتحيز الخفي.

يخلص المؤلفون إلى أنه بينما تعد عدالة المخرجات ضرورية، إلا أنها غير كافية لضمان اتخاذ القرارات الآلية العادلة في المجالات عالية المخاطر. يوفر إطار عمل CEC مسارًا عمليًا لمواءمة استنتاج النموذج مع المعايير القانونية والأخلاقية للعدالة الإجرائية.