ملخص تقني: PolySHAP – توسيع نطاق KernelSHAP عبر الانحدار متعدد الحدود المستند إلى التفاعلات

بيان المشكلة

تُعد قيم شابلي (Shapley values) أداة مركزية في نظرية الألعاب في مجال الذكاء الاصطناعي القابل للتفسير (XAI) لنسب توقعات النموذج إلى مدخلاته من الميزات. ومع ذلك، فإن حساب قيم شابلي بدقة يتطلب تقييم النموذج على جميع المجموعات الفرعية الممكنة للميزات البالغ عددها $2^d$، وهو أمر غير ممكن حسابياً للنماذج التي تحتوي على عدد كبير من الميزات $d$.

لقد برزت طريقة KernelSHAP (Lundberg & Lee, 2017) كوسيلة فعالة لتقريب قيم شابلي، حيث تصيغ المشكلة كمسألة انحدار مربعات صغرى موزون، وتقوم بتقريب اللعبة التعاونية $\nu$ باستخدام دالة خطية ملائمة لعينة من المجموعات الفرعية العشوائية للميزات. ورغم فعاليتها، إلا أن هذا التقريب الخطي يفترض ضمناً وجود "إضافية الميزات" (feature additivity)، مما يؤدي إلى الفشل في التقاط التفاعلات غير الخطية بين الميزات. وبناءً على ذلك، قد تعطي KernelSHAP تقديرات دون المستوى الأمثل عندما تظهر اللعبة الأساسية تفاعلات ذات رتب عليا كبيرة.

المنهجية: PolySHAP

يقترح المؤلفون PolySHAP، وهو تعميم لـ KernelSHAP يقوم بتقريب اللعبة $\nu$ باستخدام متعددات حدود ذات درجات أعلى بدلاً من الدالة الخطية. يعمل هذا النهج على نمذجة التفاعلات غير الخطية بين الميزات بشكل صريح.

الآلية الجوهرية

1. التمثيل المستند إلى التفاعل: بدلاً من ملاءمة نموذج خطي $\sum \phi_i \mathbb{1}[i \in S]$، تقوم PolySHAP بملاءمة متعدد حدود من الدرجة $k$ فوق مؤشرات الميزات الثنائية $\mathbb{1}[i \in S]$. يتضمن التقريب "جبهة تفاعل" $\mathcal{I}$، وهي مجموعة فرعية من حدود التفاعل (مجموعات الميزات التي حجمها $\ge 2$).
   $$\hat{\nu}(S) \approx \sum_{T \in \mathcal{D} \cup \mathcal{I}} \phi_T \prod_{j \in T} \mathbb{1}[j \in S]$$
   حيث تمثل $\mathcal{D}$ الميزات الفردية وتمثل $\mathcal{I}$ حدود التفاعل.

2. صياغة الانحدار: تحل PolySHAP مسألة مربعات صغرى موزونة مشابهة لـ KernelSHAP، ولكن مع مصفوفة تصميم موسعة تحتوي على أعمدة لكل من التأثيرات الرئيسية وحدود التفاعل المختارة. تهدف هذه العملية إلى تقليل خسارة $\ell_2$ الموزونة بين قيم اللعبة المأخوذة من العينات $\nu(S_\ell)$ والتقريب متعدد الحدود.

3. استخراج قيم شابلي: تُظهر نتيجة نظرية رئيسية (النظرية 4.3) أنه يمكن استعادة قيم شابلي للعبة الأصلية مباشرة من معاملات التقريب متعدد الحدود. وتحديداً، تكون قيمة شابلي للميزة $i$ هي مجموع معامل التأثير الرئيسي $\phi_i$ ومعاملات جميع حدود التفاعل التي تحتوي على $i$ مقسومة على حجم تلك المجموعات التفاعلية:
   $$\phi_i^{SV} = \phi_i + \sum_{S \in \mathcal{I}: i \in S} \frac{\phi_S}{|S|}$$

4. استراتيجيات أخذ العينات: تدعم الطريقة أخذ العينات القياسي وأخذ العينات المزدوج (أخذ عينات للمجموعات $S$ ومكملاتها $D \setminus S$). يستخدم المؤلفون أخذ عينات "درجة الرافعة" (leverage score sampling) لتحسين جودة التقدير، مشيرين إلى أنه بالنسبة للتفاعلات من الرتب العليا، فإن درجات الرافعة من الرتبة الأولى (الموزعة بانتظام عبر أحجام المجموعات الفرعية) تؤدي بشكل جيد في الممارسة العملية.

المساهمات الرئيسية

1. الاتساق النظري والتوسيع

تثبت الورقة أن PolySHAP توفر تقديرات متسقة لقيم شابلي. فمع اقتراب عدد العينات $m$ من إجمالي عدد المجموعات الفرعية $2^d$، تتقارب تقديرات PolySHAP تماماً مع قيم شابلي الحقيقية (النظرية 4.3). وهذا يتناقض مع بعض طرق التقريب القائمة على الأشجار (مثل RegressionMSR) التي تتطلب خطوات تعديل انحدار إضافية لتحقيق الاتساق.

2. التكافؤ النظري لأخذ العينات المزدوج و 2-PolySHAP

تتمثل إحدى المساهمات النظرية الكبرى في إثبات أن KernelSHAP مع أخذ العينات المزدوج مكافئ رياضياً لـ 2-PolySHAP (النظرية 5.1).

• عندما يتم أخذ العينات في أزواج ($S$ و $D \setminus S$)، فإن حل الانحدار الخطي لـ KernelSHAP يعطي نفس تقريبات قيم شابلي التي يوفرها انحدار متعدد الحدود من الدرجة الثانية (2-PolySHAP).
• يوفر هذا الاكتشاف أول تبرير نظري قوي لنجاح "أخذ العينات المزدوج" التجريبي، حيث يوضح أنه يلتقط ضمناً جميع التفاعلات من الدرجة الثانية دون الحاجة لملاءمة متعدد حدود من الدرجة الثانية بشكل صريح.

3. الأداء التجريبي

أظهرت التجارب المكثفة عبر 15 لعبة تفسير محلية (تغطي مجالات البيانات الجدولية، والصور، واللغة) ما يلي:

• دقة الرتب العليا: يؤدي رفع درجة متعدد الحدود (على سبيل المثال، 3-PolySHAP) باستمرار إلى تحسين جودة التقريب (مقاسة بـ MSE، وPrecision@5، وارتباط سبيرمان) مقارنة بـ KernelSHAP (1-PolySHAP) وأخذ العينات بالتبديل (Permutation Sampling)، بشرط توفر ميزانية عينات كافية.
• كفاءة أخذ العينات المزدوج: تحت نظام أخذ العينات المزدوج، تحقق KernelSHAP أداءً مقارباً لـ 2-PolySHAP، مما يؤكد التكافؤ النظري.
• نتائج رائدة: في الإعدادات ذات الأبعاد المنخفضة إلى المتوسطة، غالباً ما تتفوق PolySHAP (وتحديداً 3-PolySHAP) على المعايير الأخرى، بما في ذلك RegressionMSR (الذي يعتمد على تقريبات XGBoost) وSVARM.

الأهمية والادعاءات

تدعي الورقة أنها تقدم توسيعاً مبنئاً على أسس متينة لإطار عمل KernelSHAP واسع الانتشار. ومن خلال الانتقال من التقريبات الخطية إلى التقريبات متعددة الحدود، تعالج PolySHAP القصور الناتج عن تجاهل تفاعلات الميزات، مما يؤدي إلى تفسيرات أكثر دقة للنماذج المعقدة.

وعلى نحو حاسم، يربط هذا العمل بين الممارسات التجريبية والنظرية. فمن خلال إثبات أن استراتيجية "أخذ العينات المزدوج" الشهيرة مكافئة لنمذجة التفاعل من الدرجة الثانية، يقدم المؤلفون أساساً صارماً لسبب نجاح هذه الاستراتيجية في الممارسة العملية. ويشير المؤلفون بتواضع إلى أنه بينما تحسن التفاعلات من الرتب العليا الدقة، إلا أنها تتطلب ميزانيات عينات أكبر، وفي الإعدادات ذات الأبعاد العالية جداً ($d \ge 60$)، تكون المكاسب محدودة بسبب الانفجار التوليفي لحدود التفاعل.

تخلص الورقة إلى أن PolySHAP هي طريقة قوية، ومتسقة، ومتفوقة تجريبياً لتقدير قيم شابلي، لا سيما عندما تتضمن اللعبة الأساسية تفاعلات غير خطية بين الميزات.