Soft-CAM: Making black box models self-explainable for medical image analysis

إليك ملخص تقني مفصل لورقة البحث بعنوان: "Soft-CAM: جعل النماذج الصندوقية السوداء ذاتية التفسير لتحليل الصور الطبية."

1. بيان المشكلة

حققت الشبكات العصبية الالتفافية (CNNs) أداءً فائقاً في تحليل الصور الطبية، لكنها لا تزال تُعتبر "صناديق سوداء"، مما يحد من اعتمادها في البيئات السريرية عالية المخاطر حيث تعد الشفافية والثقة أمراً بالغ الأهمية.

• قصور الطرق اللاحقة (Post-hoc Methods): تعتمد طرق التفسير الحالية بشكل كبير على أساليب الإسناد اللاحقة (مثل GradCAM، وIntegrated Gradients، وGuided Backpropagation). تقوم هذه الأساليب بتوليد خرائط بروز (Saliency Maps) بعد عملية التدريب لتقريب عملية استدلال النموذج.
  • غالباً ما تكون هذه الطرق غير أمينة (Unfaithful)، بمعنى أن التصورات الناتجة لا تعكس بدقة عملية اتخاذ القرار الداخلية للنموذج.
  • كما أنها حساسة للاضطرابات وتعتمد على افتراضات انتظام قوية.
  • تواجه صعوبة في تحديد المناطق ذات الصلة بالمرض بدقة في الصور الطبية بسبب ندرة التوصيفات (Annotations) المرجعية (Ground-truth).
• قصور النماذج ذاتية التفسير (Self-Explainable Models): على الرغم من وجود نماذج قابلة للتفسير بطبيعتها، إلا أنها غالباً ما تتطلب بنيات معمارية متخصصة لا تتعمم بشكل جيد على هياكل الـ CNN القياسية واسعة الاستخدام (مثل ResNet أو VGG)، وغالباً ما تعاني من انخفاض في الأداء التنبؤي.

2. المنهجية: SoftCAM

يقترح المؤلفون SoftCAM، وهو تعديل معماري خفيف الوزن يحول شبكات CNN القياسية "الصندوقية السوداء" إلى نماذج ذاتية التفسير دون الاعتماد على التقنيات اللاحقة.

التعديل المعماري الجوهري

يستبدل SoftCAM رأس التصنيف القياسي لشبكة CNN بطبقة دليل تعتمد على الالتفاف:

1. إزالة التجميع المتوسط العالمي (Global Average Pooling - GAP): يتم إزالة طبقة GAP التي تضغط المعلومات المكانية في متجه واحد.
2. استبدال الطبقات كاملة الاتصال (Fully Connected Layers - FCL): يتم استبدال المصنف النهائي كامل الاتصال بطبقة التفافية $1 \times 1$ (طبقة "دليل الفئة" - class-evidence layer).
   • إذا كان حجم خريطة الميزات هو $D$ وكان هناك $C$ من الفئات، فإن الطبقة تتكون من $C$ من النوى (Kernels) بحجم $1 \times 1$.
   • يقوم هذا بتحويل المخرجات من متجه إلى تنسور ثلاثي الأبعاد من خرائط الأدلة الخاصة بكل فئة ($A \in \mathbb{R}^{N \times M \times C}$).
3. آلية التنبؤ: يتم اشتقاق احتمالات الفئات النهائية مباشرة من خرائط الأدلة هذه عبر التجميع المتوسط المكاني متبوعاً بدالة Softmax.
   • $\hat{y} = \text{Softmax}(\text{AvgPool}(h_\psi(g_\phi(X))))$
   • يضمن هذا أن التنبؤ مرتبط جوهرياً بالأدلة المكانية المستخدمة للتفسير.

التنظيم من أجل القابلية للتفسير (Regularization)

لتعزيز جودة التفسيرات، يطبق المؤلفون تنظيم ElasticNet مباشرة على خرائط الأدلة أثناء التدريب. تُعرف دالة الخسارة كالتالي:
$$\mathcal{L} = \text{CE}(y, \hat{y}) + \lambda_1 \sum |A_{ij}^c| + \lambda_2 \sum \|A_{ij}^c\|^2$$

• Lasso ($\lambda_1$, $\ell_1$): يعزز التناثر (Sparsity). يعمل على كبح التنشيطات غير ذات الصلة (تقليل الإيجابيات الكاذبة)، مما ينتج عنه خرائط SoftCAM متناثرة تسلط الضوء فقط على المناطق الأكثر أهمية.
• Ridge ($\lambda_2$, $\ell_2$): يعزز النعومة (Smoothness). يمنع التنشيطات من أن تصبح صفراً تماماً، مما ينتج عنه خرائط Ridge SoftCAM تغطي مناطق أكبر وأكثر كثافة (مفيد للآفات الكبيرة).
• ElasticNet: هو مزيج خطي من كليهما، مما يسمح بالموازنة بين التناثر والكثافة بناءً على المهمة الطبية المحددة.

3. المساهمات الرئيسية

1. التفسير الذاتي المتأصل: يعمم SoftCAM مفهوم خريطة تنشيط الفئة (CAM) لجعل شبكات CNN القياسية قابلة للتفسير بطبيعتها في تمريرة أمامية واحدة (Single Forward Pass)، مما يلغي العبء الحسابي ومشكلات الأمانة المرتبطة بالطرق اللاحقة.
2. الاستقلالية المعمارية: يمكن تطبيق الطريقة على أي هيكل CNN قياسي (كما تم إثباته على ResNet-50 و VGG-16) ببساطة عن طريق استبدال رأس التصنيف، مما يحافظ على تعقيد النموذج وعدد المعلمات.
3. تكامل ElasticNet: يسمح إدخال تنظيم ElasticNet على خرائط الأدلة بقابلية تفسير قابلة للضبط، مما يوازن بين الحاجة إلى دقة التحديد (التناثر) مقابل تغطية المنطقة الكاملة (الكثافة).
4. التقييم الشامل: تم التحقق من صحة الإطار عبر ثلاثة أنواع مختلفة من التصوير الطبي (الشبكية، OCT، والأشعة السينية للصدر) وكلتا المهمتين: الثنائية ومتعددة الفئات.

4. النتائج التجريبية

قيم المؤلفون SoftCAM مقابل خمس طرق رائدة (GradCAM، وLayerCAM، وScoreCAM، وGuided BP، وIntegrated Gradients) على ثلاث مجموعات بيانات:

• Kaggle Diabetic Retinopathy (الشبكية)
• Retinal OCT
• RSNA Chest X-Ray (الالتهاب الرئوي)

أداء التصنيف

• التكافؤ مع الصناديق السوداء: حافظت متغيرات SoftCAM على دقة التصنيف وAUC مقاربة لنماذج الصندوق الأسود الأساسية (ResNet/VGG). وفي بعض الحالات، أدى التنظيم إلى تحسينات طفيفة.
• لا يوجد مقايضة في الأداء: على عكس العديد من النماذج القابلة للتفسير بطبيعتها، لم يضحِّ SoftCAM بالقدرة التنبؤية في سبيل القابلية للتفسير.

مقاييس القابلية للتفسير

استخدمت الدراسة مقايسات لـ دقة التحديد (المحاذاة مع ملاحظات الأطباء) و الأمانة/الحساسية (المحاذاة مع اتخاذ قرار النموذج عبر حجب الأجزاء/Patch Occlusion).

• التحديد (Localization): حقق Sparse SoftCAM (باستخدام Lasso) أعلى دقة في تحديد Top-k في مجموعات بيانات OCT والشبكية، متفوقاً على جميع الطرق اللاحقة. لقد نجح في تقليل الإيجابيات الكاذبة من خلال التركيز على الآفات ذات الصلة حقاً.
• الأمانة (Faithfulness): حقق Sparse SoftCAM عموماً أعلى درجة من الأمانة (أقل مساحة تحت منحنى الحذف/Area Under the Deletion Curve)، مما يشير إلى أن المناطق المظللة كانت هي المحركات الفعلية لتنبؤ النموذج.
• الآفات الكبيرة (الأشعة السينية للصدر): تفوق Ridge SoftCAM في حساسية التنشيط للمربعات المحيطة الكبيرة (الالتهاب الرئوي)، حيث غطى مساحة أكبر من المنطقة المرجعية مقارنة بالمتغيرات المتناثرة أو الطرق اللاحقة.
• التحليل النوعي: أظهرت التصورات أن خرائط SoftCAM كانت أكثر تركيزاً وذات صلة سريرية مقارنة بالخرائط الصاخبة أو الواسعة جداً التي تنتجها طرق مثل GradCAM أو Guided BP.

5. الأهمية والعمل المستقبلي

• الثقة السريرية: من خلال توفير تفسيرات تتسم بالأمانة تجاه منطق النموذج والمحاذاة مع الملاحظات السريرية، يعالج SoftCAM عائقاً حرجاً أمام اعتماد الذكاء الاصطناعي في الطب.
• الكفاءة: لا تتطلب الطريقة تمريرات أمامية إضافية أو معالجة لاحقة معقدة، مما يجعلها فعالة حسابياً للنشر السريري.
• القيود والتوجهات المستقبلية:
  • الدقة (Resolution): مثل خرائط CAM القياسية، يقتصر SoftCAM على الدقة المنخفضة لخرائط الميزات النهائية (مثلاً $16 \times 16$)، والتي قد تفتقر إلى الدقة على مستوى البكسل للمهام الدقيقة. العمل المستقبلي قد يتضمن دمج استخراج ميزات عالي الدقة أو بنيات هجينة (مثل ViTs).
  • النطاق: يقتصر التقييم الحالي على التصنيف. يهدف العمل المستقبلي إلى توسيع نطاق SoftCAM ليشمل التجزئة ضعيفة الإشراف (Weakly Supervised Segmentation) وكشف الأشياء (Object Detection).
  • التقييم: أشار المؤلفون إلى وجود تباين بين المقاييس "المحاذية للبشر" (التحديد) والمقاييس "المحاذية للنموذج" (الأمانة)، مما يشير إلى الحاجة لأطر تقييم جديدة تأخذ في الاعتبار كلا الجانبين معاً.

في الختام، يقدم SoftCAM حلاً عملياً وعالي الأداء لجعل نماذج التعلم العميق القياسية شفافة وجديرة بالثقة لتحليل الصور الطبية، مما يسد الفجوة بين دقة الصندوق الأسود وقابلية تفسير الصندوق الأبيض.