🤖 machine learning

Procedural Fairness via Group Counterfactual Explanation

تقدم هذه الورقة البحثية "تدرجات التباين المتكاملة للمجموعات" (GCIG)، وهو إطار عمل للتنظيم أثناء المعالجة يفرض العدالة الإجرائية من خلال معاقبة الاختلافات بين المجموعات في تفسيرات النموذج مع الحفاظ على أداء تنبؤي تنافسي.

المؤلفون الأصليون: Gideon Popoola, John Sheppard

نُشر 2026-03-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Gideon Popoola, John Sheppard

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تتقدم بطلب للحصول على قرض من بنك. لديك درجة ائتمانية ممتازة، ووظيفة مستقرة، وسجل نظيف. يقول نظام الكمبيوتر الخاص بالبنك "لا".

تسأل: "لماذا؟"
يجيب الكمبيوتر: "لأن درجتك الائتمانية منخفضة للغاية".

لكن انتظر، أنت تعلم أن درجتك عالية. تسأل صديقاً لك من حيّ مختلف ليتقدم بطلب بنفس التفاصيل المالية تماماً. يقول الكمبيوتر له "نعم". وعندما يسأل صديقك "لماذا؟"، يقول الكمبيوتر: "لأن درجتك الائتمانية عالية".

المشكلة ليست فقط في أن أحدهما حصل على "لا" والآخر على "نعم". المشكلة هي أن الكمبيوتر يستخدم كتابي قواعد مختلفين لاتخاذ قراره.

هذا هو جوهر القضية التي تتناولها الورقة البحثية. معظم الأبحاث حول "الذكاء الاصطناعي العادل" تركز فقط على النتيجة (هل حصل الجميع على نفس عدد إجابات "نعم" و"لا"؟). لكن هذه الورقة تجادل بأن هذا ليس كافياً. نحن بحاجة أيضاً إلى العدالة الإجرائية: التأكد من أن الكمبيوتر يستخدم نفس المنطق للوصد إلى تلك الإجابات، بغض النظر عن هويتك.

إليك شرح لحلهم، GCIG، باستخدام تشبيهات بسيطة.

1. المشكلة: البنك ذو "كتابي القواعد"

حالياً، غالباً ما تتعلم نماذج الذكاء الاصطناعي كيفية تقديم تنبؤات تبدو عادلة (عدالة النتيجة) من خلال تعلم "طرق مختصرة" مختلفة لمجموعات مختلفة من الناس عن طريق الخطأ.

المجموعة (أ) قد يتم تقييمها بناءً على دخلها الفعلي.
المجموعة (ب) قد يتم تقييمها بناءً على الرمز البريدي الخاص بها (حتى لو كان ذلك غير عادل).

إذا حصل الذكاء الاصطناعي على نفس عدد الموافقات لكلتا المجموعتين، فسيظهر الأمر عادلاً على الورق. ولكن إذا سألت الذكاء الاصطناعي لماذا اتخذ هذا القرار، فسيقدم لك قصة مختلفة تماماً اعتماداً على المجموعة التي تنتمي إليها. هذا يقوض الثقة. الأمر يشبه حكماً يستخدم مجموعة من القواعد للفريق المضيف ومجموعة أخرى مختلفة للفريق الضيف، حتى لو كانت النتيجة النهائية متوازنة.

2. الحل: مرآة "ماذا لو" (الواقعات المضادة/Counterfactuals)

يقدم المؤلفون طريقة تسمى تدرجات الاندماج للواقعات المضادة للمجموعات (GCIG).

فكر في هذا كـ "مرآة ماذا لو".
عندما ينظر الذكاء الاصطناعي إليك (الشخص X)، فإنه لا ينظر فقط إلى بياناتك. بل يسأل:

"إذا كان الشخص X عضواً في المجموعة (أ)، كيف سأشرح قراري؟ وإذا كان الشخص X عضواً في المجموعة (ب)، كيف سأشرحه؟"

الطريقة القديمة: قد يقول الذكاء الاصطناعي: "لقد رفضت الشخص X لأنه يعيش في حي سيء" (إذا كان من المجموعة أ)، ولكن "لقد قبلت الشخص X لأن لديه وظيفة جيدة" (إذا كان من المجموعة ب).
طريقة GCIG: يُجبر الذكاء الاصطناعي على النظر إلى الشخص X من خلال "عدسة" كلتا المجموعتين. إذا تغير التفسير بشكل جذري لمجرد أننا استبدلنا تسمية المجموعة، فإن الذكاء الاصطناعي يدرك أنه منحاز.

3. التدريب: "المدرب الصارم"

كيف تعلم ذكاءً اصطناعياً التوقف عن فعل ذلك؟ لا يمكنك فقط أن تقول له "كن عادلاً". يجب عليك معاقبته عندما لا يكون كذلك.

ابتكر المؤلفون نظام تدريب يسمى FairX. تخيل مدرباً صارماً يدرب فريق كرة قدم:

الهدف: الفريق يحتاج للفوز (دقة التنبؤ).
القاعدة: يجب على الفريق لعب نفس أسلوب كرة القدم ضد كل خصم (عدالة النتيجة).
القاعدة الجديدة (GCIG): يراقب المدرب كل لاعب. إذا استخدم اللاعب (أ) حركة معينة لتسجيل هدف، ولكن اللاعب (ب) استخدم حركة مختلفة تماماً وغير منظمة لتسجيل نفس الهدف، يطلق المدرب صافرته ويجعلهم يركضون لفات إضافية.

في حالة الذكاء الاصطناعي، "اللفات الإضافية" هي عقوبة رياضية. في كل مرة يحاول فيها الذكاء الاصطناعي استخدام منطق مختلف للمجموعات المختلفة، يصبح نظام التدريب "غاضباً" ويقوم بتعديل "دماغ" الذكاء الاصطناعي لجعل المنطق متسقاً.

4. النتيجة: منطق ثابت، نتائج متماثلة

اختبر المؤلفون هذا على مجموعات بيانات من العالم الحقيقي (مثل طلبات القروض وتوقعات العودة للإجرام).

قبل GCIG: كان الذكاء الاصطناعي جيداً في التنبؤ بمن سيحصل على قرض، ولكنه استخدم "منطقاً" مختلفاً لأشخاص مختلفين.
بعد GCIG: ظل الذكاء الاصطناعي يتنبأ بمن سيحصل على قرض بدقة مماثلة. ولكن الآن، أصبح "السبب" هو نفسه للجميع.

إنه يشبه قاضياً يقرر القضايا بناءً على القانون، وليس بناءً على هوية المتهم. إذا ارتكب شخصان نفس الجريمة بنفس الظروف، فإن القاضي يعطي نفس العقوبة ويعطي أيضاً نفس التبرير القانوني لكليهما.

لماذا يهم هذا؟

عادةً، عندما نحاول جعل الذكاء الاصطناعي عادلاً، نخشى أننا سنضحي بالدقة (نجعل الذكاء الاصطناعي "أقل ذكاءً" لجعله أكثر عدلاً). تُظهر هذه الورقة أن هذا ليس صحيحاً.

من خلال إجبار الذكاء الاصطناعي على استخدام نفس المنطق للجميع، نحصل في الواقع على نظام هو:

أكثر موثوقية: أنت تعرف بالضبط لماذا اتُخذ القرار.
أكثر قوة: لا يعتمد على طرق مختصرة خفية وغير عادلة.
بنفس الدقة: لا يؤثر ذلك على جودة التنبؤات.

باختصار: تُعلم هذه الورقة الذكاء الاصطناعي أن العدالة لا تتعلق فقط بالنتيجة النهائية؛ بل تتعلق بلعب اللعبة بنفس القواعد للجميع.

إليك ملخص تقني مفصل لورقة البحث "العدالة الإجرائية عبر التفسير المضاد للمجموعات" (Procedural Fairness via Group Counterfactual Explanation) من إعداد بوبولا وشيبارد.

1. بيان المشكلة

تركز أبحاث العدالة الحالية في تعلم الآلة بشكل أساسي على العدالة الموجهة بالنتائج (مثل: تساوي الاحتمالات، والتكافؤ الإحصائي)، والتي تضمن أن تنبؤات النموذج لا تضع المجموعات المحمية في وضع غير مواتٍ بشكل منهجي. ومع ذلك، فإن هذه المقاييس تقيم ما هي القرارات المتخذة، وليس كيفية الوصول إليها.

تحدد الورقة فجوة حرجة: يمكن لنموذجين تحقيق مقاييس عدالة متطابقة في النتائج مع الاعتماد على عمليات اتخاذ قرار مختلفة جوهرياً لمجموعات مختلفة. هذا النقص في العدالة الإجرائية يعني أن النموذج قد يستخدم منطق استدلال مختلف للمجموعة (أ) مقابل المجموعة (ب)، حتى بالنسبة للأفراد الذين يمتلكون نفس العلامة الحقيقية (true label). وتعتبر طرق التفسير الحالية عادةً طرقاً لاحقة للتدريب (تشخيصية)، تُستخدم لتدقيق النماذج بعد التدريب، بدلاً من دمجها في عملية التعلم لمنع حدوث التباين في الاستدلال من الأساس.

السؤال الجوهري: كيف يمكننا فرض أن يستخدم النموذج استدلالاً (تفسيرات) متسقاً عبر المجموعات المحمية، بشرط ثبات العلامة الحقيقية، دون التضحية بالأداء التنبئي؟

2. المنهجية: تدرجات التكامل للمجموعات المضادة (GCIG)

يقترح المؤلفون GCIG، وهو إطار عمل للتنظيم أثناء المعالجة (in-processing) يفرض ثبات التفسير. الفكرة الأساسية هي معاقبة النموذج إذا تغير تفسيره لتنبؤ معين بشكل كبير عند تغير "السياق" (المجموعة المرجعية)، حتى لو ظل المدخل والعلامة الحقيقية كما هما.

المكونات الرئيسية:

القواعد المرجعية الشرطية للمجموعات (Group Conditional Baselines): بدلاً من استخدام قاعدة مرجعية عالمية واحدة (مثل متجه الصفر)، يقوم GCIG بحساب قاعدة مرجعية لكل مجموعة محمية $g$ وعلامة $y$ :
$b_{y,g} = \mathbb{E}[X | Y=y, A=g]$
يمثل هذا متوسط ملف السمات للأفراد في المجموعة $g$ الذين يتشاركون نفس النتيجة الحقيقية $y$ . يتم تحديث هذه القواعد المرجعية باستخدام المتوسطات المتحركة الأسية (EMA) أثناء التدريب لضمان الاستقرار.
تدرجات التكامل للمجموعات المضادة (Group Counterfactual Integrated Gradients - IG): بالنسبة لمدخل معين $x$ مع علامة حقيقية $y$ ، يحسب النموذج تدرجات التكامل بالنسبة لكل قاعدة مرجعية للمجموعات ( $b_{y,0}$ و $b_{y,1}$ ):
$IG^{(g)}(x; y) = IG(x; b_{y,g})$
يجيب هذا على السؤال المضاد للواقع: "كيف يفسر النموذج هذا التنبؤ إذا افترضنا أن الفرد ينتمي إلى سياق المجموعة $g$ النموذجي؟"
مقياس تفاوت التفسير (Explanation Disparity Metric): تقوم الطريقة بتطبيع متجهات العزو (attribution vectors) لإزالة تأثيرات المقياس وتحسب التباين في هذه العزوات عبر المجموعات.
$V(x; y) = \text{Var}_{g \in A} \left[ \frac{IG^{(g)}(x; y)}{\|IG^{(g)}(x; y)\|} \right]$
يشير $V(x; y)$ المرتفع إلى أن النموذج يعتمد على سمات مختلفة لتبرير نفس النتيجة اعتماداً على سياق المجموعة، مما يشير إلى تحيز إجرائي.
هدف التدريب (FairX): تجمع دالة الخسارة الإجمالية بين ثلاثة مكونات:
$L_{total} = L_{pred} + \lambda_{ig} L_{GCIG} \quad + \lambda_{fair} L_{fair}$
- $L_{pred}$ : خسارة التنبؤ القياسية (مثل: الإنتروبيا المتقاطعة - Cross-Entropy).
- $L_{GCIG}$ : عقوبة تباين التفسير عبر المجموعات.
- $L_{fair}$ : قيد عدالة النتائج القياسي (مثل: تساوي الاحتمالات - Equalized Odds).
- تتحكم معاملات $\lambda$ في المقايضة بين المنفعة، وعدالة النتائج، والعدالة الإجرائية.

3. المساهمات الرئيسية

صياغة العدالة الإجرائية: عرّف المؤلفون العدالة الإجرائية بأنها ثبات التفسير المضاد للمجموعات. وهذا يتطلب أن تظل تفسيرات النموذج مستقرة عبر المجموعات المحمية عند اشتراط العلامة الحقيقية.
إطار عمل GCIG: قدموا تقنية تنظيم مبتكرة أثناء المعالجة تدمج قيود التفسير مباشرة في حلقة التدريب، متجاوزين مرحلة التدقيق اللاحق للتدريب.
التحقق التجريبي: أظهرت الورقة أن GCIG يقلل بشكل كبير من تفاوت التفسير عبر مجموعات بيانات متعددة مع الحفاظ على دقة تنبؤية تنافسية وعدالة في النتائج.

4. النتائج التجريبية

قام المؤلفون بتقييم FairX (إطار التدريب باستخدام GCIG) على أربع مجموعات بيانات معيارية: Adult Income، و German Credit، و COMPAS، و Bank Marketing. وقارنوه بنماذج غير مقيدة وبنماذج عدالة رائدة (مثل: تقليلات Agrawal، والتدريب التنافسي، ومعالجة Hardt اللاحقة، إلتم).

العدالة الإجرائية (درجة GCIG): حقق FairX باستمرار أدنى تفاوت في التفسير عبر جميع مجموعات البيانات.
- مثال: في مجموعة بيانات German Credit، خفض GCIG التفاوت من 0.190 (غير مقيد) إلى 0.066.
- مثال: في COMPAS، انخفض من 0.193 إلى 0.034.
- فاز FairX بلقب "البطل" في العدالة الإجرائية في 100% من مجموعات البيانات (4/4).
عدالة النتائج والمنفعة:
- حقق FairX أفضل فجوة في "تساوي الاحتمالات" (Equalized Odds) في German Credit وظل منافساً في غيرها.
- تم الحفاظ على الأداء التنبئي (درجة F1) أو تحسينه قليلاً مقارنة بالنماذج المرجعية. على سبيل المثال، في German Credit، حقق FairX أعلى درجة F1 بلغت (0.833).
تحليل الارتباط: وجدت الدراسة ارتباطاً ضعيفاً ( $r \approx 0.24$ ) بين عدالة النتائج (EO) والعدالة الإجرائية (GCIG). وهذا يؤكد أن التحسين لتقليل معدلات الخطأ المتساوية لا يضمن اتساق الاستدلال؛ فكلا الهدفين مستقلان إلى حد كبير.
دراسة الاستبعاد (Ablation Study):
- إضافة عدالة النتائج فقط (EO) أدت فعلياً إلى تدهور العدالة الإجرائية بنسبة 14%.
- إضافة العدالة الإجرائية فقط (GCIG) حسنتها بنسبة 6%.
- التحسين المشترك (النموذج الكامل) أعطى أفضل نتيجة، حيث حسن العدالة الإجرائية بنسبة 24% دون تدهور في المنفعة أو عدالة النتائج.

5. الأهمية والخاتمة

هذا العمل مهم لأنه ينقل نموذج العدالة من كونه قائماً على النتائج فقط إلى كونه قائماً على العملية.

ما وراء مرحلة ما بعد التدريب: يثبت العمل أنه يمكن فرض العدالة الإجرائية أثناء التدريب، مما يمنع تشكل أنماط استدلال متباينة بدلاً من مجرد اكتشافها لاحقاً.
التكامل: تظهر النتائج أن عدالة النتائج والعدالة الإجرائية ليستا متنافستين؛ بل هما متكاملتان في الواقع. إن التحسين لكليهما يؤدي إلى نموذج أكثر قوة وموثوقية.
الثقة والشفافية: من خلال ضمان أن "استدلال" النموذج ثابت تجاه العضوية في المجموعة، تبني هذه الطريقة ثقة أكبر في أنظمة الذكاء الاصطناعي، خاصة في المجالات عالية المخاطر مثل الإقراض والعدالة الجنائية.

القيود والعمل المستقبلي: يركز التنفيذ الحالي على السمات المحمية الثنائية والبيانات الجدولية. يهدف العمل المستقبلي إلى توسيع نطاق GCIG ليشمل السمات متعددة القيم/المتقاطعة وأنماط البيانات الأخرى (النصوص، الصور)، بالإضافة إلى استكشاف الحدود النظرية لثبات التفسير.