RoSHAP: A Distributional Framework and Robust Metric for Stable Feature Attribution

ملخص تقني: RoSHAP – إطار توزيعي ومقياس متين لنسب الميزات المستقر

1. بيان المشكلة

يعد عزو الميزات (Feature attribution) أمراً جوهرياً لتفسير نماذج تعلم الآلة ودعم القرارات القائمة على البيانات. ومع ذلك، غالباً ما تظهر مقاييس العزو القياسية (مثل SHAP وLIME) تبايناً عشوائياً كبيراً. فالعوامل مثل التقسيمات العشوائية لبيانات التدريب والاختبار، والبذور العشوائية (random seeds)، وإجراءات التحسين العشوائية، يمكن أن تؤدي إلى قيم عزو وترتيبات ميزات مختلفة بشكل جوهري. هذا عدم الاستقرار يمثل مشكلة خاصة في البيئات عالية الأبعاد، أو المليئة بالضجيج، أو المترابطة (مثل علم الجينوم)، حيث يمكن للترتيبات غير الموثوقة أن توجه الاستنتاجات العلمية والتجارب اللاحقة المكلفة بشكل خاطئ. تركز الطرق الحالية عادةً على متوسط قيم العزو أو الترتيبات، لكنها تفشل في مراعاة التوزيع التجريبي لدرجات العزو عبر عمليات إعادة أخذ العينات.

2. المنهجية

يقترح البحث RoSHAP (Robust SHAP)، وهو إطار عمل يعامل عزو الميزات كمسألة توزيعية بدلاً من كونها تقديراً لنقطة واحدة. تتكون المنهجية من ثلاثة مكونات رئيسية:

• تقدير التوزيع القائم على البوتستراب (Bootstrap-Based Distribution Estimation):
  يقوم إطار العمل بإعادة أخذ عينات من بيانات التدريب بشكل متكرر (bootstrap)، وإعادة ضبط النموذج، وإعادة حساب درجات العزو (تحديداً قيم SHAP) لكل ميزة. هذا يولد توزيعاً تجريبياً لدرجات عزو الميزات، مما يلتقط كلاً من حجم المساهمة ومدى تباينها.

  • الخوارزمية: لعدد $B$ من تكرارات البوتستراب، يتم ضبط النموذج على مجموعة بيانات معاد أخذ عينات منها، وتُحسب قيم SHAP خارج العينة (out-of-bag) لإنتاج قيم العزو على مستوى الميزة. تُجمع هذه القيم لتشكيل توزيع عزو الميزات.

• النمذجة ذات التضخم الصفري والتقريب الغاوسي (Zero-Inflated Modeling and Gaussian Approximation):
  بما أن قيم SHAP (خاصة في النماذج القائمة على الأشجار) غالباً ما تحتوي على أصفار دقيقة، فقد قام المؤلفون بنمذجة قيمة SHAP للميزة والعينة $T_{ij}$ كخليط تضخم صفري:
  $$T_{ij} \sim w_{ij} \delta_0 + (1 - w_{ij}) G_{ij}$$
  حيث $\delta_0$ هي كتلة نقطية عند الصفر، و$w_{ij}$ هي احتمالية العزو الصفري، و$G_{ij}$ هو المكون غير الصفري.
  يتم تعريف الحجم الإجمالي للميزة $U_j$ كـ $U_j = \sum |T_{ij}|$. وتحت شروط انتظام معينة (تحديداً شرط ليبتوف الذي يضمن أن المجموع مدفوع بواسطة العديد من الحدود الصغيرة بدلاً من عدد قليل من الحدود المهيمنة)، ثبت أن توزيع $U_j$ هو توزيع غاوسي تقاربي. وهذا يسمح بتلخيص التوزيع من خلال المتوسط والانحراف المعياري، مما يقلل بشكل كبير من التكلفة الحسابية للبوتستراب مقارنة بتقدير كثافة النواة غير المعلمي (KDE) لعدد كبير من التكرارات $B$.

• مقياس RoSHAP:
  يقوم RoSHAP بتركيب التوزيع المقدر في معيار ترتيب متين واحد يكافئ الميزات بناءً على ثلاث خصائص:

  1. النشاط (Activity): نسبة العزو غير الصفري ($1 - P_{0j}$، حيث $P_{0j} = \text{Pr}(U_j = 0)$).
  2. القوة (Strength): متوسط حجم العزو غير الصفري ($m_j$).
  3. الاستقرار (Stability): مقلوب الانحراف المعياري ($1/s_j$)، والذي يمثل نسبة الإشارة إلى الضجيج.

يُعرف المقياس كالتالي:
$$\text{RoSHAP}_j := (1 - P_{0j}) \frac{m_j^2}{s_j}$$
هذه الصيغة تعطي الأولوية للميزات التي تكون نشطة باستمرار، ولها مساهمات قوية، وتظهر تبايناً منخفضاً عبر عمليات إعادة أخذ العينات.

3. المساهمات الرئيسية

• الإطار التوزيعي: ينقل النموذج من تقدير النقطة لعزو الميزات إلى نمذجة التوزيع الكامل لدرجات العزو عبر البوتستراب وKDE.
• التبرير النظري: يثبت أنه تحت شروط الانتظام، يكون مجموع درجات عزو الميزة غاوسياً تقاربياً، مما يبرر استخدام ملخصات المتوسط والتباين لتقليل العبء الحسابي.
• المقياس المتين (RoSHAP): يقدم مقياساً مركباً يعاقب صراحةً عدم الاستقرار وعدم النشاط، مما يعالج قيود الترتيب القائم على الحجم التقليدي.
• التحقق التجريبي: يثبت فعالية الإطار عبر نماذج بيانات متنوعة (بيانات جدولية، جزيئية، مكانية، وبيانات صور) وأنواع مختلفة من النماذج (XGBoost, LightGBM, CatBoost, الشبكات العصبية، وViT).

4. النتائج

• الدراسات المحاكاتية:
  في محاكاة للتصنيف الثنائي بـ 1,000 ميزة (10 إشارات حقيقية)، نجح RoSHAP في تحديد 8 من أصل 10 ميزات إشارة ضمن أفضل 12 ترتيبًا باستخدام 1,000 تكرار بوتستراب. وحتى مع 10 تكرارات فقط، استعاد 8 إشارات في أفضل 12 مرتبة. في المقابل، حدد SHAP في تشغيل واحد فقط 4 إشارات في أفضل 12، كما أعطى أهمية تقترب من الصفر لأقوى ميزة إشارة ($x_1$). كما أظهرت مقاييس أخرى مثل كسب المعلومات (Information Gain) وLIME عدم استقرار في الترتيب.

  • التقريب الغاوسي: وُجد أن التوزيعات التجريبية لتقديرات الأهمية المتينة هي توزيعات غاوسية تقريباً، مما يؤكد صحة الاختزال النظري في عدد تكرارات البوتستراب المطلوبة.

• تجارب العالم الحقيقي:

  • Golub (علم الجينات): في بيئة عالية الأبعاد وصغيرة العينات (7,129 جيناً)، قدم RoSHAP ملخصاً أكثر وضوحاً للجينات المهمة باستمرار مقارنة بـ SHAP المعتمد على بذرة محددة. حققت النماذج المدربة على الميزات المختارة بواسطة RoSHAP أداءً مقارباً للنماذج ذات الميزات الكاملة مع استخدام عدد أقل من المتغيرات.
  • Musk (الجزيئات): تعامل RoSHAP مع البيانات غير المتوازنة والإشارات الموزعة بفعالية، مُظهراً أداءً مقارباً للطرق الأخرى ولكن مع اختيار ميزات أكثر استقراراً.
  • UJIIndoorLoc (الانحدار): في مهمة انحدار عالية الأبعاد (بصمة WiFi)، حقق RoSHHAP أداءً تنافسياً ومستقراً عبر مقاييس RMSE وMAE وMAPE.
  • CIFAR-10 (الصور): عند تطبيقه على نماذج Vision Transformers (ViT)، كشف الإطار أن تفسيرات الصور في التشغيل الواحد حساسة لعشوائية التدريب (على سبيل المثال، انتقال العزو من الماء إلى جسم السفينة عبر التشغيلات المختلفة). وفرت خريطة Ro_SHAP المجمعة تركيزاً مستقراً وقابلاً للتفسير على مناطق الكائن الصحيحة، مما ساعد في تشخيص أخطاء التنبؤ حيث ركزت النماذج على مناطق الخلفية غير ذات الصلة.

5. الأهمية والادعاءات

يدعي البحث أن RoSHAP يحسن الاستقرار والقابلية للتفسير لنماذج تعلم الآلة من خلال توفير أساس موثوق لترتيب الميزات يأخذ في الاعتبار التباين العشوائي.

• الموثوقية: يتيح رؤى متسقة للتحليل، مما يقلل من خطر استخلاص استنتاجات من نواتج تقسيم البيانات العشوائية أو البذور.
• الكفاءة: يسمح التقريب الغاوسي بتوفات كبيرة في الحسابات (تقليل تكرارات البوتستراب من 1,000 إلى 10) مع الحفاظ على الأداء المتين.
• الأثر العملي: تحقق النماذج المبنية باستخدام الميزات المختارة بواسطة RoSHAP أداءً تنبؤياً مقارباً للنماذج ذات الميزات الكاملة، ولكن بعدد أقل بكثير من المتغيرات، مما يسهل التطبيقات اللاحقة الأكثر كفاءة وقابلية للتفسير.

يضع المؤلفون RoSHAP ليس كبديل لطرق العزو الموجودة، بل كمكمل متين يعالج الفجوة الحرجة المتمثلة في عدم استقرار العزو، لا سيما في المجالات عالية المخاطر أو عالية الأبعاد.