🤖 AI

Joint Distribution-Informed Shapley Values for Sparse Counterfactual Explanations

تقدم الورقة البحثية COLA، وهو إطار عمل لاحق للنموذج (model-agnostic post-hoc) يستفيد من النقل الأمثل (optimal transport) والنسب القائم على شابلي (Shapley-based attribution) لتحسين التفسيرات المضادة، مما يقلل بشكل كبير من عدد تعديلات الميزات المطلوبة مع الحفاظ على تغيرات التنبؤ وضمان القرب من المدخل الأصلي.

المؤلفون الأصليون: Lei You, Yijun Bian, Lele Cao

نُشر 2026-03-02

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Lei You, Yijun Bian, Lele Cao

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول الحصول على موافقة على قرض من نظام ذكاء اصطناعي تابع لبنك. يقول لك الذكاء الاصطناعي "لا". تسأله: "ما الذي أحتاج لتغييره للحصول على 'نعم'؟"

يعطيك الذكاء الاصطناعي تفسيراً "تضادياً" (Counterfactual): "إذا زاد دخلك بمقدار 50,000 دولار، واشتريت سيارة جديدة، وغيرت وظيفتك، وانتقلت إلى مدينة أخرى، فستحصل على الموافقة".

على الرغم من أن هذا الكلام صحيح تقنياً، إلا أن هذه النصيحة غير مجدية. فهو يطلب منك تغيير كل شيء. لا يمكنك ببساطة الانتقال إلى مدينة جديدة أو شراء سيارة بين عشية وضحاها. أنت بحاجة إلى خطة واقعية وبسيطة: "فقط زد دخلك بمقدار 5,000 دولار".

تقدم هذه الورقة البحثية أداة جديدة تسمى COLA (التضادات ذات الإجراءات المحدودة - Counterfactuals with Limited Actions) لحل هذه المشكلة. فهي تحول قائمة التغييرات الفوضوية والمثقلة بالمهام إلى قائمة مهام بسيطة وقابلة للتنفيذ.

إليك كيف تعمل، باستخدام تشبيهات بسيطة:

1. المشكلة: "تجديد المطبخ" مقابل "دهان الجدران"

تعمل طرق الذكاء الاصطناعي الحالية غالباً مثل مقاول قرر، عندما طُلب منه إصلاح صنبور مسرب، أن يهدم المطبخ بالكامل ويركب جزيرة وسط المطب actually. إنهم يجدون حلًا يعمل بالفعل، لكنه مبالغ فيه. إنهم يغيرون الكثير من الخصائص (الدخل، الوظيفة، الموقع، السيارة) بينما لم يكن يتطلب الأمر سوى تعديل خاصية أو اثنتين.

الهدف من هذه الورقة هو إيجاد حل "دهان الجدران": أصغر وأرخص مجموعة من التغييرات التي ستجعلك تحصل على الـ "نعم" من البنك.

2. الحل: COLA (المحرر الذكي)

إن COLA هو إطار عمل "بعدي" (post-hoc). وهذا يعني أنه لا يستبدل الذكاء الاصطناعي الذي أعطاك النصيحة السيئة؛ بل يعمل كـ محرر ذكي يأخذ قائمة التغييرات الطويلة والفوضوية التي قدمها الذكاء الاصطناعي ويقوم بتقليمها وتنسيقها.

ويقوم بذلك عبر خطوتين رئيسيتين:

الخطوة أ: مطابقة "شريك الرقص" (النقل الأمثل - Optimal Transport)

تخيل أن لديك مجموعة من الأشخاص الذين رُفض طلبهم (الحالات الواقعية - Factuals) ومجموعة من الأشخاص الذين قُبلت طلباتهم (الحالات التضادية - Counterfactuals).

الطريقة القديمة: قد يقوم الذكاء الاصطناعي بربط شخص مرفوض بشخص مقبول بشكل عشوائي لمجرد وجودهما في نفس الغرفة. وهذا يؤدي إلى نصائح غريبة (مثلاً: إخبار طالب عمره 20 عاماً بأن يقلد عادات مدير تنفيذي عمره 60 عاماً).
طريقة COLA (النقل الأمثل): تعمل COLA كمدرب رقص صارم. فهي تستخدم الرياضيات لإيجاد الشريك المثالي لكل شخص مرفوض. هي تسأل: "من هو الشخص الأكثر تشابهاً في مجموعة 'المقبولين' مع هذا الشخص 'المرفوض' تحديداً؟"
- تربط الطالب ذو الـ 20 عاماً بموظف مبتدئ عمره 22 عاماً تم قبوله.
- تربط المدير التنفيذي ذو الـ 60 عاماً بمسؤول تنفيذي متقاعد تم قبوله.
- لماذا يهم هذا: من خلال مطابقة الأشخاص المتشابهين، تصبح النصيحة واقعية. لن تُطالب بتقليد شخص غريب؛ بل ستُطالب بإجراء تعديلات صغيرة لتشبه شخصاً مثلك تماماً وقد نجح.

الخطوة ب: "بطاقة تسجيل شابلي" (p-SHAP)

بمجرد مطابقة الشركاء، نحتاج لمعرفة ما الذي تغير بالضبط.

الطريقة القديمة: أحياناً، ينظر الذكاء الاصطناعي فقط إلى الخصائص المهمة بشكل عام (مثل: "الدخل دائماً مهم!"). ولكن ربما بالنسبة لهذا الشخص تحديداً، ليس الدخل هو المشكلة؛ بل نسبة الدين إلى الدخل.
طريقة COLA (p-SHAP): هذا نظام تسجيل خاص. ينظر إلى "زوج شريك الرقص" المحدد ويحسب بالضبط مدى مساهمة كل خاصية في النجاح.
- تقول الأداة: "بالنسبة لهذا الزوج تحديداً، كان تغيير الدخل بمقدار 5 آلاف دولار يمثل 80% من سبب قبولهم. أما تغيير السيارة فكان بنسبة 0%".
- ثم تختار أهم التغييرات التي تعطي أكبر "عائد مقابل الجهد".

3. النتيجة: خطة العمل الدنيا

بعد أن تقوم COLA بعملها، تتغير النصيحة من:

"غير وظيفتك، انتقل لمدينة أخرى، اشترِ سيارة، وضاعف دخلك."

إلى:

"فقط زد مدخراتك بمقدار 2,000 دولار."

النقاط الرئيسية

الأقل هو الأكثر: في التجارب، حققت COLA نفس نتيجة الـ "نعم" التي حققتها الطرق الأخرى، ولكنها تطلبت 26% إلى 45% فقط من التغييرات. لقد استبعدت الحشو الزائد.
تعمل في كل مكان: لا يهم نوع نموذج الذكاء الاصطناعي الذي تستخدمه (شبكات عصبية، أشجار قرار، إلخ) أو كيف تم إنشاء التفسير الأصلي. هي فقط تأخذ المخرجات وتقوم بتنقيحها.
ضمان نظري: تثبت الرياضيات أن النصيحة المنقحة من COLA لن تكون أبداً "أبعد" عن واقعك الحالي من النصيحة الأصلية الفوضوية. إنه رهان آمن.

باخت ملخص

فكر في COLA كمنسق مظهر شخصي لنصائح الذكاء الاصطناعي. إذا قال لك الذكاء الاصطناعي: "لتبدو بمظهر جيد، تحتاج إلى خزانة ملابس جديدة، وقصة شعر جديدة، وسيارة جديدة"، تتدخل COLA وتقول: "في الواقع، تحتاج فقط إلى تبديل قميصك وربطة عنقك. ستبدو رائعاً، وستوفر الكثير من المال".

إنها تجعل تفسيرات الذكاء الاصطناعي قابلة للتنفيذ، واقعية، وصديقة للبشر.

إليك ملخص تقني مفصل لورقة البحث بعنوان "القيم الشابلية المعتمدة على التوزيع المشترك للتفسيرات المضادة للواقع ذات التوزيع المتناثر" (COLA)، المنشورة كأوراق بحثية في مؤتمر ICLR 2026.

1. تعريف المشكلة

تعالج الورقة البحثية قصوراً حرجاً في التفسيرات المضادة للواقع (Counterfactual Explanations - CE): حيث تقترح الطرق الحالية غالباً تغييرات في عدد كبير جداً من الميزات (features) لتغيير تنبؤ النموذج، مما يقلل من وضوح التفسير وقابليته للتنفيذ. وبينما تحدد طرق إسناد الميزات (Feature Attribution - FA) (مثل قيم شابلي) الميزات المهمة، إلا أنها غالباً ما تكون منفصلة عن التفسيرات المضادة للواقع، مما يؤدي إلى خطط عمل غير مثالية أو مضللة.

تتم صياغة المشكلة الجوهرية كمسألة تحسين:
بفرض وجود حالة واقعية $x$ ونتيجة مستهدفة $y^*$ ، ابحث عن حالة مضادة للواقع $z$ تحقق الهدف مع تقليل عدد تعديلات الميزات (التناثر/Sparsity).
$\min_{c, z} D(f(z), y^*) \quad \text{s.t.} \quad D(z, x) \le \epsilon, \quad \sum c_{ik} \le C$
حيث $c$ هو مؤشر ثنائي لتغييرات الميزات، و $C$ هو الحد الأقصى للتغييرات المسموح بها. يكمن التحدي في الطبيعة المعقدة (NP-hard) لمسألة التناثر المنفصلة هذه، وفي غياب إطار عمل موحد يعمل عبر مختلف مولدات الـ CE وأنواع النماذج دون فرض افتراضات قوية (مثل القابلية للاشتقاق).

2. المنهجية: إطار عمل COLA

يقترح المؤلفون COLA (التفسيرات المضادة للواقع ذات الإجراءات المحدودة)، وهو إطار عمل لاحق (post-hoc) لا يعتمد على نوع النموذج أو المولد. يقوم COLA بتنقيح أي مجموعة من التفسيرات المضادة للواقع $r$ (التي تم توليدها بواسطة خوارزمية CE عشوائية) إلى مجموعة متناثرة $z$ باستخدام طريقة إسناد مبتكرة تسمى p-SHAP.

يعمل إطار العمل عبر أربع خطوات رئيسية:

توليد التفسير المضاد للواقع (ACE): تقوم خوارزمية CE عشوائية بتوليد مجموعة من التفسيرات المضادة للواقع $r$ القريبة من البيانات الواقعية $x$ .
الاقتران عبر النقل الأمثل (OT Coupling): بدلاً من افتراض محاذاة عشوائية أو ثابتة بين الحالات الواقعية والمضادة للواقع، يحسب COLA توزيعاً مشتركاً (coupling) $p$ $p$ بين $x$ $x$ و $r$ $r$ باستخدام النقل الأمثل (Optimal Transport - OT).
- خطة النقل الأمثل $p_{OT}$ تقلل تكلفة النقل (مسافة تعديل الميزات) بين التوزيعات الواقعية والمضادة للواقع.
- تحل هذه الخطوة "مشكلة المحاذاة"، حيث تحدد أي $r_j$ من التفسيرات المضادة للواقع يتوافق بشكل أفضل مع كل $x_i$ لتقليل تكلفة الانتقال.
إسناد p-SHAP: يقدم المؤلفون p-SHAP، وهي طريقة قيم شابلي معممة.
- على عكس طرق شابلي القياسية التي تستخدم خط أساس عشوائي أو توزيعاً محدداً للتفسيرات المضادة للواقع، يستخدم p-SHAP التوزيع المشترك $p$ المستمد من النقل الأمثل لتحديد التوزيع الخلفي لحساب شابلي.
- هذا يوحد مختلف طرق شابلي (الأساسية، العشوائية، والمضادة للواقع) تحت إطار عمل واحد حيث يحدد الاقتران $p$ عملية المحاذاة.
- نظرياً، يقلل p-SHAP من الحد الأعلى لتباعد $W_1$ (Wasserstein-1) بين النتيجة الواقعية والهدف، مما يضمن أن الميزات المختارة هي المسار الأكثر كفاءة للوصول إلى الهدف.
اختيار الإجراء المتناثر:
- يتم تطبيع قيم شابلي لتشكيل مصفوفة احتمالية $\phi$ .
- تقوم عملية اختيار جشعة (greedy selection) بأخذ عينات من $C$ من مؤشرات الميزات بناءً على $\phi$ لتحديد الميزات التي يجب تعديلها.
- يتم تحديث قيم هذه الميزات باستخدام استراتيجية تعيين القيم (مثل $A_{max}^{Value}$ أو $A_{avg}^{Value}$ ) المستمدة من التفسيرات المضادة للواقع المحاذية $r$ .

3. المساهمات الرئيسية

إطار عمل مبتكر (COLA): أول إطار عمل لاحق يقوم بتنقيح التفسيرات المضادة للواقع من أجل التناثر بشكل منهجي دون أن يكون مرتبطاً بمولد CE محدد أو بنية نموذج معينة.
طريقة p-SHAP: طريقة إسناد شابلي جديدة تدمج النقل الأمثل للتعامل مع المحاذاة بين التوزيعات الواقعية والمضادة للواقع. وهي تضمن نظرياً أن التفسيرات المضادة للواقع المنقحة لا تبتعد عن الحالات الواقعية أكثر مما كانت عليه في المقترحات الأصلية.
الضمانات النظرية:
- النظرية 4.1: تثبت أن اقتران النقل الأمثل يقلل من الحد الأعلى لتباعد $W_1$ بين النتائج الواقعية والمستهدفة، مما يربط تكلفة تعديل الميزات مباشرة بتأثير التفسير المضاد للواقع.
- النظرية 5.1: تثبت أن التفسير المضاد للواقع المنقح $z$ أقرب (أو مساوٍ) للحالة الواقعية $x$ من المرجع المحاذي $q$ ، مما يضمن عدم إدخال أي تباعد إضافي.
تصميم محايد (Agnostic Design): يعمل مع أي نموذج "صندوق أسود" وأي مولد للـ CE (مثل DiCE، AReS، KNN، GlobeCE).

4. النتائج التجريبية

قام المؤلفون بتقييم COLA عبر 4 مجموعات بيانات (HELOC، German Credit، Hotel Bookings، COMPAS)، و 12 نموذجاً (تتراوح من الانحدار الخطي إلى الشبكات العصبية العميقة)، و 5 مولدات CE.

تقليل الإجراءات: يحقق COLA نفس تأثيرات التفسير المضاد للواقع المستهدفة (80-100%) باستخدام 26% إلى 45% فقط من تعديلات الميزات الأصلية المطللة من قبل طرق الـ CE الأساسية. في بعض السيناريوهات، يقلل التعديلات إلى 13% فقط.
تفوق p-SHAP: تظهر دراسات الاستئصال (Ablation studies) أن p-SHAP (الذي يستخدم اقتران النقل الأمثل) يتفوق بشكل كبير على متغيرات شابلي الأخرى (الأساسية، العشوائية، وشابلي المضاد للواقع القياسي) من حيث التناثر وتحقيق التأثير المستهدف.
القرب من المثالية: في اختبار مرجعي صغير النطاق (German Credit) حيث تم حساب الحل الأمثل عبر البرمجة الخطية المختلطة (MILP)، أظهر COLA أداءً قريباً من المثالية، مما يؤكد فعاليته في حل مسألة التناثر المعقدة (NP-hard).
المتانة: يعمل الأسلوب باستمرار عبر مقاييس تباعد مختلفة (OT، MMD، الفرق المتوسط) وأنواع النماذج.

5. الأهمية والأثر

القابلية العملية للتنفيذ: من خلال تقليل عدد التغييرات المطلوبة في الميزات بشكل جذري، يجعل COLA التفسيرات المضادة للواقع أكثر قابلية للتنفيذ للمستخدمين النهائيين (على سبيل المثال، يحتاج مقدم طلب القرض لتغيير عدد أقل من المتغيرات ليتم قبول طلبه).
التوحيد النظري: يجسّر الفجوة بين إسناد الميزات والتفسيرات المضادة للواقع، موضحاً أن المحاذاة الصحيحة (عبر النقل الأمثل) أمر بالغ الأهمية للإسناد الفعال.
القدرة العامة على التطبيق: كإطار عمل لاحق، يمكن دمج COLA في مسارات CE الحالية، مما يعزز أدائها دون الحاجة لإعادة تدريب النماذج الأساسية أو مولدات الـ CE.
الاعتبارات الأخلاقية: تتناول الورقة صراحة المخاطر الأخلاقية، مشيرة إلى أنه بينما يقلل COLA من عدد التعديلات، فإنه لا يضمن بطبيعته العدالة أو الصلاحية السببية. وتشدد على الحاجة إلى قيود على السمات غير القابلة للتغيير (مثل العرق أو الجنس) وضرورة الإشراف البشري في المجالات عالية المخاطر.

باخت-صار، يوفر COLA حلاً متيناً رياضياً، وفعالاً، ومرناً لمشكلة "التفسيرات المضادة للواقع المتناثرة"، مستفيداً من النقل الأمثل لتوجيه قيم شابلي نحو خطط العمل الأكثر كفاءة من حيث التكلفة.