💻 computer science

cc-Shapley: Measuring Multivariate Feature Importance Needs Causal Context

تقدم الورقة البحثية cc-Shapley، وهو تعديل لقيم شابلي (Shapley values) قائم على السياق السببي يستفيد من المعرفة بعملية توليد البيانات للقضاء على نسب الميزات المضللة الناتجة عن انحياز المجمع (collider bias) والكبْت (suppression)، مما يوفر أهمية ميزات متعددة المتغيرات أكثر دقة للذكاء الاصطناعي القابل للتفسير والاكتشاف العلمي.

المؤلفون الأصليون: Jörg Martin, Stefan Haufe

نُشر 2026-03-06

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Jörg Martin, Stefan Haufe

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك محقق يحاول حل لغز: لماذا قدم نموذج تعلم الآلة هذا التنبؤ المحدد؟

في عالم الذكاء الاصطناعي، نستخدم أدوات تسمى "أهمية الميزات" (feature importance) للإجابة على هذا السؤال. وهي تخبرنا أي الأدلة (نقاط البيانات) كانت الأكثر أهمية للوصول إلى الحل. الأداة الأكثر شهرة هي ما يسمى بـ "قيم شابلي" (Shapley Values). فكر في قيم شابلي كوسيلة عادلة لتقسيم الجائزة بين فريق من اللاعبين بناءً على مقدار مساهمة كل لاعب في الفوز.

ومع ذلك، فقد اكتشف مؤلفا هذه الورقة البحثية، يورغ مارتن وستيفان هوفي، خللاً كبيراً في كيفية استخدامنا لهذه الأداة حالياً. وهما يجادلان بأنه بدون فهم القصة السببية وراء البيانات، يمكن لهذه الأدوات أن تكذب علينا، وتخلق "أدلة شبحية" لا وجود لها في الواقع.

إليك تفصيل لاكتشافهما وحلهما الجديد، cc-Shapley، باستخدام تشبيهات بسيطة.

1. المشكلة: "الصديق المزيف" (انحياز المجمع - Collider Bias)

لفهم المشكلة، دعونا ننظر إلى المثال المستمر في الورقة: الإفطار ومرض السكري.

الإعداد: يأتي مريض لإجراء فحص لمستوى السكر في الدم.
- Y (الهدف): هل يعاني المريض من مرض السكري؟
- C (الكربوهيدرات): كم تناول من الكربوهيدرات في وجبة الإفطار؟
- G (الجلوكوز): ما هو مستوى السكر في دمه؟
الحقيقة:
- تناول الكثير من الكربوهيدرات (C) يرفع مستوى السكر في الدم (G).
- الإصابة بمرض السكري (Y) ترفع أيضاً مستوى السكر في الدم (G).
- الأمر الحاسم: الكربوهيدرات والسكري ليسا مرتبطين بشكل مباشر. يمكن لشخص سليم أن يتناول إفطاراً ضخماً، وقد يتخطى مريض السكري وجبة الإفطار.
الفخ (المُجمِّع - The Collider):
تخيل أن السكر في الدم (G) هو "نقطة التقاء" حيث يتقاطع طريقان (الكربوهيدرات والسكري). في الإحصاء، يسمى هذا مُجمِّعاً (Collider).

الآن، تخيل أنك المحقق. تنظر إلى مريض لديه سكر دم مرتفع (G).
- إذا كنت تعرف أنه مصاب بـ السكري (Y)، فقد تقول: "آه، هذا يفسر ارتفاع السكر".
- لكن إذا كنت لا تعرف ما إذا كان مصاباً بالسكري، ورأيت أنه لديه سكر دم مرتفع (G)، فإن عقلك سيحاول إيجاد سبب.
- إذا رأيت أنه تناول إفطاراً ضخماً (C مرتفع)، سيقول عقلك: "أوه، ارتفاع السكر سببه الطعام فقط! رب الله ليس مصاباً بالسكري".
النتيجة: في البيانات، يبدو الأمر وكأن تناول الكثير من الكربوهيدرات يجعلك أقل عرضة للإصابة بالسكري.

هذا أمر عبثي! تناول الكربوهيدرات لا يعالج السكري. ولكن لأننا ننظر إلى البيانات من خلال "عدسة" السكر في الدم (المُجمِّع)، فإننا نخلق ارتباطاً زائفاً. نحن نخدع ونعتقد أن الكربوهيدرات هي "علاج" لأنها تفسر سبب ارتفاع السكر.

الأداة القديمة (قيم شابلي) تفشل هنا. فهي تنظر إلى البيانات، وترى هذا النمط الغريب، وتقول: "الكربوهيدرات مهمة جداً! إنها مرتبطة عكسياً بالسكري!" وتعطي درجة عالية لميزة هي في الواقع غير ذات صلة، فقط بسبب هذه الخدعة الإحصائية.

2. الحل: "التدخل" (cc-Shapley)

يقترح المؤلفان أداة جديدة تسمى cc-Shapley (قيم شابلي للسياق السببي).

بدلاً من مجرد مراقبة البيانات (الملاحظة)، تسأل cc-Shapley: "ماذا سيحدث لو فرضنا تغييراً؟" (التدخل).

الطريقة القديمة (الملاحظة): "لننظر إلى الأشخاص الذين حدث وأنهم تناولوا الكثير من الكربوهيدرات، ونرى خطر إصابتهم بالسكري". (هذا يؤدي إلى الفخ الموصوف أعلاه).
الطالط الجديدة (التدخل): "لننتظر ونفترض أننا فرضنا على الجميع تناول إفطار غني بالكربوهيدرات، بغض النظر عن حالتهم الصحية، ثم نتحقق من خطر إصابتهم بالسكري".

عندما تفرض الإفطار (التدخل)، فإنك تكسر الرابط بين الإفطار والسكر في الدم الناتج عن السكري. أنت تمنع "نقطة الالتقاء" من خداعك.

النتيجة: عند استخدام cc-Shapley، ستدرك الأداة: "انتظر، إذا فرضنا على الجميع تناول الكربوهيدرات، فإن معدل الإصابة بالسكري لن يتغير. الكربوهيدرات ليست علاجاً".
الدرجة: تنخفض قيمة cc-Shapley للكربوهيدرات إلى الصفر. إنها تحدد بشكل صحيح أن الكربوهيدرات غير ذات صلة بـ سبب السكري، رغم أنها تؤثر على قراءة السكر في الدم.

3. التشبيه: المحقق والتمويه الأحمر

فكر في البيانات كمسرح جريمة.

الطريقة القديمة (Shapley): ينظر المحقق إلى المشهد ويرى أثراً لخطوة طينية (الكربوهيدرات) بالقرب من الجثة (السكري). ولأن الضحية (السكر في الدم) ملطخة بالطين، يعتقد المحقق: "يجب أن يكون أثر القدم الطيني هو القاتل!". يرتبك المحقق لأن الطين ليس سوى أثر جانبي للمطر (المُجمِّع).
الطريقة الجديدة (cc-Shapley): يسأل المحقق: "لو فرضت على المشتبه به ترك أثر قدم طيني، هل ستظل الضحية ميتة؟". يدرك المحقق أن الطين ليس سوى تمويه أحمر (Red Herring). أثر القدم لم يسبب الموت؛ بل المسدس (السبب الحقيقي) هو الذي فعل.

4. لماذا هذا مهم؟

تجادل الورقة بأن أدوات الذكاء الاصطعي الحالية "مدفوعة بالبيانات" ولكنها ليست "مدفوعة بالحقيقة". إنها بارعة في إيجاد الأنماط، لكنها سيئة جداً في التمييز بين الارتباط (حدوث الأشياء معاً) والسببية (شيء ما يسبب شيئاً آخر).

في العلوم: إذا استخدمت شركة أدوية قيم شابلي القديمة، فقد تعتقد أن عرضاً جانبياً (مثل تناول الكربوهيدرات) هو في الواقع علاج لمرض ما، مما يؤدي إلى نصائح طبية خطيرة.
في الذكاء الاصطناعي: إذا أردنا من الذكاء الاصطناعي أن يساعدنا في اكتشاف حقائق علمية جديدة، فلا يمكننا الوثوق به إذا كان من السهل خداعه بهذه الأوهام الإحصائية.

الملخص

المشكلة: الأدوات القياسية للذكاء الاصطناعي ترتبك بسبب "المُجمِّعات" (نقاط التقاء في البيانات)، مما يؤدي بها إلى لوم متغيرات بريئة على أشياء لم تسببها.
الحل: ابتكر المؤلفون أداة cc-Shapley، التي تستخدم "السياق السببي". بدلاً من مجرد مراقبة ما يحدث، تقوم بمحاكاة "ماذا لو غيرنا هذا؟".
الفائدة: هذا يمنع الذكاء الاصطناعي من رؤية الأشباح. إنه يخبرنا بما يهم حقاً، ويفصل الأسباب الحقيقية عن الضجيج الإحصائي.

باختصار: لفهم سبب تفكير الآلة، نحتاج إلى فهم العالم الذي تعيش فيه، وليس فقط الأرقام التي تراها.

إليك ملخص تقني مفصل لورقة البحث بعنوان "cc-Shapley: قياس أهمية الميزات متعددة المتغيرات يتطلب سياقاً سببياً".

1. بيان المشكلة

تتناول الورقة خللاً جوهرياً في طرق الذكاء الاصطناًعي القابل للتفسير (XAI) الحالية، وتحديداً قيم شابلي (Shapley values)، عند استخدامها لأهمية الميزات متعددة المتغيرات.

المشكلة الجوهرية: تعتمد قيم شابلي القياسية على البيانات الرصدية (الاشتراط على الميزات). وفي وجود انحياز المصدّ (collider bias) (وهي ظاهرة حيث يؤدي الاشتراط على متغير مشترك لمتغيرين إلى إحداث ارتباط زائف بينهما)، تنتج قيم شابلي القياسية نسب أهمية مضللة.
تأثير الكبت (Suppression Effect): غالباً ما يظهر هذا الانحياز في شكل "كبت"، حيث يتم تخصيص درجة أهمية عالية لميزة مستقلة سببياً عن الهدف (أو حتى ذات ارتباط سلبي)، أو يتم تخصيص قيمة سالية لميزة مهمة حقاً.
النتيجة: يؤدي هذا إلى استنتاجات علمية خاطئة وأخطاء في تصحيح النماذج (model debugging). على سبيل المثال، في نموذج التنبؤ بمرض السكري، قد يشير تحليل "شابلي" القائم على البيانات فقط إلى أن تناول الكربوهيدرات المرتفع يقلل من خطر الإصابة بالسكري (ارتباط سلبي)، وذلك ببساطة لأن مستويات الجلوكوز العالية (المصدّ/الـ collider) تم تفسيرها عبر الكربوهيدرات، مما يحجب الرابط السببي الحقيقي.
قصور الحلول الحالية: بينما تتجنب الأهمية أحادية المتغير (تجاهل الميزات الأخرى) انحياز المصدّ، إلا أنها تفشل في التقاط التفاعلات متعددة المتغيرات والاعتمادات ذات الرتب العليا الضرورية للنماذج المعقدة. كما أن مناهج "شابلي السببية" الحالية غالباً ما تفشل في التمييز بين الميزة محل الاهتمام والسياق، أو تقوم بحذف الكثير من المعلومات.

2. المنهجية: cc-Shapley

يقترح المؤلفون cc-Shapley (شابلي السياق السببي)، وهو تعديل لقيمة شابلي القياسية يدمج مبادئ الاستدلال السببي للقضاء على الارتباطات الزائفة.

التحول المفاهيمي الرئيسي

بدلاً من الاشتراط على متغيرات السياق $S$ (المنهج الرصدي)، يقوم cc-Shapley بـ التدخل (intervening) عليها.

شابلي القياسي: يحسب التغير في التنبؤ عند إضافة الميزة $X_j$ إلى مجموعة من الميزات المرصودة $S$ :
$I_S(X_j) = E[Y | X_j, S] - E[Y | S]$
cc-Shapley: يحسب التغير في التنبؤ عند إضافة الميزة $X_j$ مع التدخل في السياق $S$ (يُرمز له بـ $do(S)$):
$I_{do(S)}(X_j) = E[Y | X_j, do(S)] - E[Y | do(S)]$

الأساس النظري

التدخل مقابل الاشتراط: من خلال استخدام عامل الـ $do $(من حسابات بيرل السببية)، يقوم المنهج بقطع الأسهم الواردة إلى متغيرات السياق$ S$ في الرسم البياني السببي. هذا يمنع "فتح" المسارات عبر المصدّات (colliders)، وبالتالي يقضي على انحياز المصدّ.
عدم التماثل (Asymmetry): على عكس قيم شابلي القياسية التي تعامل جميع الميزات بشكل متماثل، يعامل cc-Shapley الميزة محل الاهتمام ( $X_j$ ) والسياق ( $S$ ) بشكل غير متماثل؛ حيث يتم رصد $X_j$ (مما يسمح بالارتباطات غير السببية)، بينما يتم التدخل في $S$ (مما يزيل الارتباطات الزائفة). هذا عدم التماثل ضروري لتحديد المتغيرات الكابتة (suppressor variables) بشكل صحيح.
خاصية الارتباط الإحصائي (SAP): يثبت المؤلفون أن cc-Shapley يحقق خاصية SAP: إذا كانت الميزة $X_j$ منفصلة (d-separated) عن الهدف $Y$ في الرسم البياني السببي، فإن قيمة cc-Shapley الخاصة بها تكون صفراً. وهذا يضمن عدم إسناد أهمية للميزات الزائفة تماماً.

خوارزمية التقدير

بما أن النموذج الهيكلي السببي (SCM) الحقيقي غالباً ما يكون مجهولاً، تقترح الورقة إجراءً للتقدير (الخوارزمية 1):

تعلم الـ SCM: تقدير العلاقات الوظيفية للـ SCM من البيانات الرصدية (على سبيل المثال، باستخدام نماذج الانحدار أو التصنيف لكل متغير بناءً على والديه).
التدخل العشوائي: إجراء تدخل عشوائي على متغيرات السياق $S$ عبر أخذ عينات من توزيعها الهامشي $q(S)$ داخل الـ SCM المعدل ( $M_{do(S \sim q)}$ ).
ملائمة النموذج: تدريب نماذج تعلم آلي (مثل XGBoost) على البيانات الناتجة من هذا النموذج المتدخل لتقدير $E[Y | X_j, do(S)]$ و $E[Y | do(S)]$.
التجميع: حساب المجموع المرجح لهذه المصطلحات الأهمية التدخلية لاستخراج قيمة cc-Shapley النهائية.

3. المساهمات الرئيسية

تحديد نقطة عمياء: تثبت الورقة بصرامة أن طرق التفسير (XAI) الرصدية البحتة غير مناسبة أساساً للاكتشاف العلمي أو تصحيح النماذج في وجود انحياز المصدّ، حتى في سيناريوهات بسيطة ذات ميزتين.
منهج جديد (cc-Shapley): تقديم أول نهج مصمم لتجنب انحياز المصدّ في أهمية الميزات متعددة المتغيرات دون قصر التحليل على المقاييس أحادية المتغير.
الضمانات النظرية: إثبات أن قيم cc-Shapley تحقق خاصية الارتباط الإحصائي (SAP) وتلغي بشكل صحيح أهمية متغيرات الكبت، مع الحفاظ على أهمية المتغيرات المعلوماتية المكبوتة.
التحقق التجريبي: تجارب شاملة على نماذج SCM خطية وغير خطية اصطناعية وبيانات حقيقية لإشارات البروتين، تظهر أن cc-Shapley يصحح إشارة وحجم أهمية الميزات مقارنة بقيم شابلي القياسية.

4. النتائج التجريبية

قيم المؤلفون cc-Shapley مقابل قيم شابلي القياسية في ثلاث مجموعات بيانات:

نماذج SCM الخطية الاصطناعية:
- في السيناريوهات التي عمل فيها متغير سياق كمصدّ (collider)، أظهرت قيم شابلي القياسية انحرافاً كبيراً عن التأثير السببي الحقيقي (غالباً عبر قلب الإشارات).
- ظلت قيم cc-Shapley متوافقة مع المعاملات السببية الحقيقية، مما أدى بفعالية إلى تحييد انحياز المصدّ.
مثال السكري غير الخطي:
- السيناريو: التنبؤ بالسكري ( $Y$ ) باستخدام الجلوكوز ( $G$ )، ومؤشر كتلة الجسم ( $B$ )، ومتوسط السكر ( $H$ ). يعمل $G$ و $H$ كمصدّات بين $B$ و $Y$ .
- النتيجة: عزت قيم شابلي القياسية أهمية سالبة لمؤشر كتلة الجسم (مما يوحي بأن ارتفاع مؤشر كتلة الجسم يقلل من خطر السكري)، وهو تفسير خاطئ واضح.
- cc-Shapley: عزى أهمية إيجابية لمؤشر كتلة الجسم، بما يتماشى مع المنطق الطبي والرسم البياني السببي الأساسي.
بيانات البروتين الحقيقية (Sachs et al., 2005):
- تحليل شبكة من 8 بروتينات للتنبؤ بتركيز PKA.
- أظهرت قيم شابلي القياسية عزوات مضطربة وسالبة لبروتينات مثل PKC و P38 بسبب هياكل المصدّ في شبكة الإشارات.
- استعادت قيم cc-Shapley الأهمية الإيجابية المتوقعة لهذه البروتينات، مما طابق التحليل أحادي المتغير والبنية السببية البيولوجية المعروفة.

5. الأهمية والآثار المترتبة

الاكتشاف العلمي: يتيح cc-Shapley استخدام XAI للاكتشاف العلمي الحقيقي من خلال ضمان أن عزوات الميزات تعكس الآليات السببية بدلاً من المصادفات الإحصائية.
تصحيح النماذج (Model Debugging): يوفر أداة أكثر موثوقية لتحديد تأثيرات "Clever Hans" (النماذج التي تعتمد على ارتباطات زائفة) من خلال التمييز بين القدرة التنبؤية الحقيقية وتأثيرات الكبت.
تحول جذري: تجادل الورقة بأن XAI يجب أن يتجاوز "الدرجة الرصدية" في سلم بيرل للسببية. لتفسير النماذج متعددة المتغيرات بشكل صحيح، يجب دمج المعرفة السببية (سواء كانت معروفة أو متعلمة) لإجراء تدخلات على متغيرات السياق.
القيود: يتطلب المنهج حالياً معرفة بالرسم البياني السببي (أو القدرة على تعلمه) وهو مكلف حوسبياً بسبب الحاجة لملائمة نماذج لكل مجموعة فرعية من متغيرات السياح. وتعتبر التقريبات القابلة للتوسع توجهاً مستقبلياً.

في الختام، يمثل cc-Shapley تقدماً حاسماً في مجال XAI، حيث يجسّر الفجوة بين عزوات الميزات القائمة على نظرية الألعاب والاستدلال السببي لتوفير تفسيرات قوية وقابلة للتفسير وصالحة علمياً لنماذج التعلم الآلي.