Learning Quantifiable Visual Explanations Without Ground-Truth

ملخص تقني: تعلم تفسيرات بصرية قابلة للقياس بدون حقيقة مرجعية

1. بيان المشكلة

تعد الذكاء الاصطناعي القابل للتفسير (XAI) أمراً بالغ الأهمية للتحقق من صحة وضمان الاستخدام المسؤول لنماذج التعلم العميق، لا سيما في المجالات عالية المخاطر التي تتطلب الشفافية. ومع ذلك، لا يزال تقييم جودة التفسيرات البصرية (مثل خرائط البروز/Saliency maps) يمثل تحدياً كبيًرا. يفتقر المجال إلى مقياس موحد لأن:

• الافتقار إلى الحقيقة المرجعية (Ground-Truth): لا تحتوي معظم مجموعات البيانات على تعليقات توضيحية على مستوى البكسل لما يشكل تفسيراً "صحيحاً".
• محدودية المقاييس الحالية: غالباً ما تفشل المقاييس القائمة على الاضطراب (مثل Insertion و Deletion و MoRF) في التوافق مع الحدس البشري. فقد تمنح درجات عالية لتفسيرات تغطي مناطق واسعة غير ذات صلة، أو تفشل في التمييز بين مسارات استدلال متعددة محتملة. كما أنها قد تعاقب الإيجاز أو تواجه صعوبة عندما توجد تفسيرات صالحة متعددة لتنبؤ واحد.

2. المنهجية

يقترح البحث مساهمة ثنائية الجانب: مقياس تقييم جديد وطريقة توليد تفسير جديدة مُحسّنة لهذا المقياس.

أ. مقياس تكامل الحد الأدنى والكفاية (MSI)
يقدم المؤلفون مقياس MSI، وهو مقياس قائم على الاضطراب مصمم لتقييم التفسيرات بناءً على مبدأين مستمدين من إطار عمل "عنق الزجاجة المعلوماتي" (Information Bottleneck):

1. الكفاية (Sufficiency): يجب أن يحتوي التفسير على معلومات كافية لجعل النموذج يقدم تنبؤاً صحيحاً.
2. الحد الأدنى (Minimality): يجب أن يكون التفسير مقتضباً قدر الإمكان، متجنباً المناطق غير ذات الصلة.

يتم حساب MSI كمجموع لـ درجة الأساس (Base Score) و عقوبة القناع (Mask Penalty):

• درجة الأساس: تقيس القدرة التمييزية للتفسير. فهي تقارن دقة تنبؤ النموذج عند الاحتفاظ فقط بالبكسلات "ذات الصلة" (فوق عتبة $\alpha_{min}$) مقابل الاحتفاظ فقط بالبكسلات "غير ذات الصلة". كما تتضمن المساحة تحت المنحنى (AUC) لأداء الاضطراب (سواء في الإدراج أو الحذف) المقتطع عند $\alpha_{min}$.
• عقوبة القناع: حد يعاقب نسبة البكسلات التي تُعتبر "مهمة" (فوق $\alpha_{min}$). وهذا يفرض مبدأ الاقتصاد، حيث يكافئ التفسيرات التي تحقق الكفاية بعدد أقل من البكسلات.
• الدرجة النهائية: $MSI = \text{BaseScore} - \text{MaskPenalty}$.

تم تصميم هذا المقياس للتعامل مع الحالات التي توجد فيها تفسيرات صالحة متعددة (على سبيل المثال، صورة بها كائنات متعددة ومتميزة يمكن أن تحفز تنبؤ الفئة) من خلال مكافأة الفصل بين المناطق ذات الصلة وغير ذات الصلة دون افتراض وجود قناع فريد وحيد للحقيقة المرجعية.

ب. إطار عمل التفسير عبر الموائم القابل للتعلم (LAX)
لاستغلال مقياس MSI، يقترح المؤلفون LAX، وهو أسلوب تعلم ذاتي التوجيه لتوليد التفسيرات دون الحاجة لتعليقات توضيحية للحقيقة المرجعية.

• البنية: يعمل LAX كموائم خفيف الوزن (Lightweight Adapter) يتم تدريبه فوق نموذج "الصندوق الأسود" مسبق التدريب وغير قابل للتغيير (مستقل عن البنية التحتية). يأخذ التمثيلات الميزات من العمود الفقري (Backbone) ويخرج خريطة حرارية لأهمية البكسل.
• هدف التحسين: يتم اشتقاق دالة الخسارة من مبدأ "عنق الزجاجة المعلوماتي"، والتي تم تقريبها لتكون قابلة للتطبيق:
  • الحد الأدنى ($I(X, T)$): يتم فرضه عبر تنظيم قائم على الإنتروبيا (Entropy-based regularization) للقناع. وبخلاف تنظيم $\ell_1$ القياسي، ينتج تنظيم الإنتروبيا أقنعة أكثر حدة وذات معنى دلالي، حيث تتركز على المناطق الحرجة.
  • الكفاية ($I(T, y)$): يتم فرضها من خلال تعظيم المعلومات المتبادلة بين المدخل المقنع $T$ والتسمية $y$. ويتم تقريب ذلك عن طريق تقليل خسارة الإنتروبيا المتقاطعة (Cross-entropy loss) بين تنبؤ النموذج على المدخل المقنع والتسمية الصحيحة.
• الخسارة النهائية: $L_{LAX} = L_{CE}(y, \hat{y}) + \lambda L_{entropy}(M)$.

يتم تدريب الوحدة لتوليد قناع يسم، عند تطبيقه على المدخل، يسمح للنموذج الثابت بالحفاظ على دقة تنبؤ عالية مع إبقاء القناع نادراً (Sparse) قدر الإمكان.

3. المساهمات الرئيسية

1. مقياس MSI: مقياس جديد وقابل للقياس لـ XAI يوازن بين الكفاية والحد الأدنى، ويعالج عدم قدرة المقاييس الحالية على التمييز بين التفسيرات المقتضبة والمنتشرة أو التعامل مع مسارات استدلال متعددة وصالحة.
2. إطار عمل LAX: مولد تفسيرات ذاتي التوجيه ومستقل عن النموذج، يتعلم إنتاج تفسيرات مقتضبة وسببية من خلال التحسين المباشر لهدف MSI (عبر مكونات الإنتروبيا والأمانة) دون الحاجة لخرائط بروز للحقيقة المرجعية.
3. التحقق التجريبي: إثبات أن التفسيرات المولدة بواسطة LAX تتفوق على النماذج المرجعية المتطورة (مثل Grad-CAM و Layer-CAM و Attention Rollout وغيرها) عبر مجموعات بيانات متعددة (Synthetic MNIST، CUB-200، CIFAR-10) وبنيات مختلفة (CNNs و Vision Transformers).

4. النتائج

أُجريت التجارب على ثلاث مجموعات بيانات ذات تعقيد متفاوت:

• Synthetic MNIST: تفوق LAX بشكل كبير على جميع النماذج المرجعية عبر جميع المقاييس، بما في ذلك MSI، مما أظهر قوة في الحد الأدنى والكفاية في بيئات منخفضة الغموض.
• CUB-200 (الطيور): بينما كانت المقاييس القياسية (الإدراج/الحذف) غالباً غير حاسمة أو أظهرت أداءً متشابهاً بين LAX و Grad-CAM، حقق LAX أعلى درجة في MSI، مما يشير إلى تركيز أكثر تمييزاً.
• CIFAR-10: تصدر LAX في مقاييس الإدراج. وفي السيناريوهات التي توجد فيها مناطق معلوماتية متعددة (مما يؤدي إلى نتائج مختلطة في مقاييس الحذف للنماذج المرجعية)، نجح MSI في تقييم LAX بدرجة عالية، بينما واجهت المقاييس التقليدية صعوبة في التمييز بين الجودة.
• Vision Transformers (ViT): حقق LAX أداءً فائقاً على نماذج ViT مقارنة بـ Attention Rollout و Grad-CAM، لا سيما في درجات MSI، مما يؤكد قابلية تطبيق الطريقة بما يتجاوز CNNs.

أظهر التحليل النوعي أن LAX ينتج خرائط حرارية أكثر حدة وتركيزاً مقارنة بخرائط البروز المنتشرة أو المشوشة التي تنتجها الطرق المنافسة.

5. الأهمية والادعاءات

يزعم البحث أن غياب مقياس تقييم موحد قد أعاق التقدم في مجال XAI. ومن خلال تقديم MSI، يقدم المؤلفون أداة تتوافق بشكل أفضل مع الحدس البشري حول جودة التفسير، حيث تكافئ التفسيرات التي تكون كافية للقرار ومقتضبة في نطاقها.

تكمن أهمية LAX في قدرته على توليد تفسيرات عالية الجودة لأي نموذج "صندوق أسود" مسبق التدريب دون الحاجة لتعليقات توضيحية للحقيقة المرجعية أو إعادة تدريب النموذج الأساسي. ويضع المؤلفون هذا كخطوة نحو أنظمة ذكاء اصطناعي أكثر موثوقية ومسؤولية، حيث يمكن التحقق من التفسيرات وتحسينها كمياً. ويشير العمل إلى أن الجهود المستقبلية في XAI يجب أن تركز على المقاييس التي تأخذ في الاعتبار المقايضة بين اكتمال المعلومات والاقتصاد (Parsimony)، وأن الأساليب القائمة على التحسين يمكن أن تتعلم بفعالية تحقيق هذه المعايير.