ملخص تقني: GRALIS – إطار عمل موحد ومعياري لطرق العزو الخطي

1. بيان المشكلة

يعاني مجال الذكاء الاصطناعي القابل للتفسير (XAI) للشبكات العصبية العميقة حالياً من التجزئة. فأساليب العزو البارزة — مثل GradCAM وSHAP وLIME وIntegrated Gradients (IG) — تعمل على أسس نظرية متباينة، مما يجعلها غير قابلة للمقارنة رسمياً. تؤدي هذه التجزئة إلى اختيار الأساليب بناءً على التجربة بدلاً من المنهجية الصارمة، حيث لا يمكن مقارنة خرائط العزو المستخرجة من تقنيات مختلفة أو دمجها بشكل منهجي.

كانت المحاولات السابقة لتوحيد هذه الأساليب جزئية:

• Ancona et al. أثبتوا أن الأساليب القائمة على التدرج (مثل GradCAM) يمكن التعبير عنها كصيغة خطية من نوع "التدرج × المدخلات"، لكنهم لم يثبتوا أن هذا الهيكل ضروري ولم يشملوا SHAP أو LIME.
• Covert and Lee وحدوا LIME وSHAP وIG عبر ألعاب شابلي (Shapley games)، لكنهما استبعدا GradCAM لأن دالة ReLU في مرحلة ما بعد التجميع تنتهك الخطية المطلوبة في إطار عملهما.

وبناءً على ذلك، تظل هناك ست فجوات هيكلية في الأدبيات:

1. الأسس التعسفية (Arbitrary Baselines): يعتمد IG على أساس ثابت، مما يغير النتائج جذرياً بناءً على هذا الاختيار.
2. تجاهل الانحناء (Ignored Curvature): يقارن SHAP بين التحالفات (coalitions) لكنه يتجاهل المسار (الانحناء) بينها.
3. نقص الاكتمال (Lack of Completeness): معاملات LIME لا تلزم أن تجمع لتساوي الفرق في مخرجات النموذج.
4. القصور المكاني (Spatial Limitation): يقتصر GradCAM على خرائط الميزات في الشبكات العصبية الالتفافية (CNN) ولا ينطبق على الطبقات الكثيفة (dense layers) أو المحولات (Transformers).
5. تفاعلات مفقودة (Missing Interactions): تنتج معظم الأساليب عزوًا هامشياً، وتفشل في التقاط التفاعلات المتكاملة للميزات.
6. غياب التجميع متعدد المقاييس (No Multi-Scale Aggregation): لا يوجد أسلوب يجمع العزو عبر مستويات التجريد بأوزان مثالية رياضياً.

2. المنهجية: إطار عمل GRALIS

يقترح البحث GRALIS (Gradient-Riesz Averaged Locally-Integrated Shapley)، وهو إطار عمل رياضي يوحد أساليب العزو الخطي الجمعي تحت هيكل معياري فريد مشتق من مبرهنة تمثيل ريس (Riesz Representation Theorem).

الصيغة المعيارية

يفترض GRALIS أن كل دالة عزو جمعية، خطية، ومتصلة في $L^2(Q, \mu)$ تقبل تمثيلاً معيارياً فريداً:
$$\phi_i(f, x, x') = \int_Q w(q) \cdot \Delta_i(f, x, x', q) \, d\mu(q)$$
حيث:

• $Q$ هو فضاء مؤشر التكامل (مثل المسارات، أو التحالفات، أو خرائط الميزات).
• $w(q)$ هي دالة الوزن.
• $\Delta_i$ هي المساهمة الهامشية للميزة $i$.

هذه الصيغة تستوعب الأساليب الحالية كحالات خاصة:

• GradCAM-lin: نسخة خطية من GradCAM (بإزالة ReLU ما بعد التجميع) حيث تمثل $Q$ القنوات والمواقع.
• SHAP: حيث تمثل $Q$ التحالفات.
• LIME: حيث تمثل $Q$ الاضطرابات المحلية.
• Integrated Gradients: حيث تمثل $Q$ مسارات التكامل.

المكونات الخوارزمية الرئيسية

1. مسارات التكامل المشروطة (Conditioned Integration Paths): على عكس IG القياسي الذي يتكامل عبر مسار عالمي، يقوم GRALIS بالتكامل عبر مسارات مشروطة بتحالفات محددة $S$. تظل الميزات خارج $S$ عند مستوى الأساس خلال التكامل، مما يلتقط الانحناء الخاص بهذا التحالف.
2. GRALIS-MC: لمعالجة التعقيد الأسي لقيم شابلي الدقيقة ($O(2^n)$)، يقدم البحث تقريب مونت كارلو (Monte Carlo approximation). يقلل هذا من التعقيد إلى $O(m \cdot n \cdot k)$ مع حد خطأ صريح يجمع بين خطأ أخذ عينات مونت كارلو ($O(1/\sqrt{m})$) وخطأ تكامل ريمان ($O(1/k)$).
3. قيم التفاعل (Interaction Values): يستحث GRALIS لعبة تعاونية $v_G$ من الفضاء المستمر عبر إسقاط قابل للقياس $\rho$. ويقوم بحساب قيم تفاعل شابلي (SIVs) بدقة على هذه اللعبة المستحثة باستخدام تحويل موبيوس (Möbius transform)، بدلاً من التقريب.
4. التمدد متعدد المقاييس (MS-GRALIS): بالنسبة للنماذج ذات الطبقات المتعددة، يقوم GRALIS بتجميع العزو باستخدام أوزان $\lambda_\ell$ مشتقة من الوزن العكسي للتباين (inverse variance weighting)، مما يقلل من إجمالي تباين العزو.

3. المساهمات الرئيسية والضمانات النظرية

يضع البحث سبع مبرهنات رسمية توفر ضمانات غائبة في الأساليب الفردية:

• T1 (الصيغة المعيارية الموحدة): يثبت عبر مبرهنة ريس أن الصيغة التكاملية $(Q, w, \Delta)$ هي التمثيل الضروري والوحيد لأي دالة عزو جمعية، خطية، ومتصلة.
• T2 (الاكتمال الدقيق): يضمن أن مجموع العزو يساوي الفرق بين مخرجات النموذج والأساس ($f(x) - f(x')$).
• T3 (التقارب): يوفر حداً للتقارب لـ GRALIS-MC، موضحاً حدود الخطأ الصريحة لكل من أخذ العينات وتجزئة المسار.
• T4 (قيم SIVs الدقيقة): يثبت أن GRALIS يحسب قيم تفاعل شابلي (SIVs) بدقة على اللعبة التعاونية المستحثة $v_G$، متجنباً الدورات أو التقريبات الشائعة في تقدير التفاعل.
• T5 (تفكيك هوفدينج ANOVA): يوضح أنه في ظل استقلال الميزات، تتطابق حدود GRALIS مع تفكيك دالة هوفدينج.
• T6 (مؤشرات سوبول): يثبت أن مؤشرات حساسية سوبول هي حالة حدية محلية لـ GRALIS.
• T7 (تحسين تعدد المقاييس): يثبت أن الوزن العكسي للتباين يوفر الأوزان المثلى لتجميع تعدد المقاييس.

التبرير الجبري: يستخدم الملحق X تحويل موبيوس لتبرير الارتباط بين تكامل GRALIS المستمر وقيم تفاعل شابلي المنفصلة بدقة، مما يثبت أن GRALIS يبني لعبة تعاونية صالحة $v_G$ ويحسب قيم SIVs بدقة عليها.

4. التحقق التجريبي

يسجل البحث تحقُّقاً أولياً على مهمة تصنيف أنسجة الثدي باستخدام مجموعة بيانات BreaKHis (1,187 صورة) ونموذج DenseNet-121 مدرب بتقنية تقطير المعرفة (knowledge distillation).

• التنفيذ: استخدم تقسيم السوبر بيكسل (SLIC) ($n_{seg} \approx 25$)، و30 دورة مونت كارلو مع أخذ عينات مضادة (antithetic sampling)، و10 خطوات تكامل.
• الأمانة (Faithfulness): تم التقييم عبر حذف السوبر بيكسل. بالنسبة للصور الخبيثة، أدى حذف أعلى مناطق العزو إلى تقليل الثقة في الخباثة في 96% من الحالات (متوسط انخفاض +0.025 إلى +0.027). بالنسبة للصور الحميدة، كان التأثير متماثلاً ومتسقاً نظرياً (حذف الأدلة الحميدة زاد من الثقة في الخباثة).
• المقاييس:
  • SAL (البروز): 0.762 (تحديد المناطق المتماسكة دلالياً).
  • التماسك ($\phi_{active}$): 0.39، وهو تحسن بمقدار 19 ضعفاً عن متغيرات فضاء الميزات.
  • AUC الحذف: تشير التقديرات الأولية إلى وجود AUC إيجابي للصور الخبيثة وAUC سلبي متماثل للصور الحميدة، وهو ما يتوافق مع البنية الشرطية للفئة.

ملاحظة: يذكر المؤلفون صراحةً أن إجراء اختبار مقارنة كامل ضد الأساليب المرجعية (GradCAM, KernelSHAP, LIME, IG) مخطط له في ورقة بحثية مرافقة.

5. الأهمية والادعاءات

يدعي البحث أن GRALIS يحل مشكلة تجزئة الـ XAI من خلال توفير تبرير رياضي موحد لأساليب العزو الخطي. تكمن أهميته في:

1. التوحيد الرسمي: هو أول إطار عمل يستوعب في آن واحد GradCAM (الخطي)، وSHAP، وLIME، وIG تحت صيغة معيارية ضرورية واحدة.
2. الاكتمال الهيكلي: يستوفي مجموعة أوسع من الخصائص البديهية (13.5/14 في المقارنة الهيكلية للورقة) من أي أسلوب موجود، بما في ذلك الاكتمال، والحساسية، والمحلية، والتفاعلات الدقيقة.
3. الصرامة النظرية: ينتقل من مجرد الملاحظة التجريبية إلى إثبات أن الخطية هي ضرورة هيكلية للعزو الجمعي، مما يحل "الفجوة" بين الأساليب القائمة على التدرج والأساليب القائمة على نظرية الألعاب.
4. المثالية: يوفر أول أوزان مشتقة رياضياً للتجميع متعدد المقاييس.

يحافظ المؤلفون على موقف متواضع فيما يتعلق بنطاق التجارب، معترفين بأن التحقق الحالي هو إثبات مفهوم (proof-of-concept) على مجموعة بيانات وهيكل واحد. ويؤكدون أن المساهمات النظرية (المبرهنات 1-7) تسري دون شروط تحت شروط الخطية والاستمرارية المذكورة، وبغض النظر عن النتائج التجريبية. لا يغطي إطار العمل الأساليب غير الخطية (مثل GradCAM القياسي مع ReLU، أو خرائط الانتباه)، حيث تقع هذه الأساليب خارج شروط تمثيل ريس، وهو قصور أشار إليه المؤلفون صراحةً كعمل مستقبلي.