Why Self-Inconsistency Arises in GNN Explanations and How to Exploit It

ملخص تقني: لماذا ينشأ عدم الاتساق الذاتي في تفسيرات الشبكات العصبية الرسومية (GNN) وكيفية استغلاله

1. بيان المشكلة

تدمج الشبكات العصبية الرسومية ذات التفسير الذاتي (SI-GNNs) عملية توليد التفسيرات مباشرة في مسار التنبؤ، مما يوفر نظرياً تفسيرات أكثر موثوقية من الطرق اللاحقة (post-hoc). ومع ذلك، تشير الملاحظات الأخيرة إلى أن هذه الشبكات تعاني من عدم الاتساق الذاتي (self-inconsistency): فعند إعادة تطبيق النموذج على المجموعة الفرعية للرسم البياني التفسيري التي ولدها بنفسه، فإنه غالباً ما ينتج تفسيراً مختلفاً، إما عبر إزالة الحواف المختارة سابقاً أو إضافة حواف جديدة. هذا السلوك يقوض المصداقية والمنفعة العملية لشبكات SI-GNN. وبينما تم توثيق وجود هذه الظاهرة، إلا أن الآلية الكامنة المسببة لها لا تزال غير مفهومة بشكل جيد، كما تفتقر الأبحاث إلى استراتيجيات فعالة للتخفيف منها دون إعادة التدريب.

2. المنهجية والتحليل النظري

السبب الجذري: اضطراب السياق (Context Perturbation)
حدد المؤلفون اضطراب السياق الناجم عن إعادة التفسير كسبب مباشر لتباين الدرجات. في الشبكات العصبية الرسومية (GNNs)، يتم تحديث تمثيلات العقد عبر تمرير الرسائل (message passing). عندما تولد SI-GNN تفسيراً (رسم بياني فرعي مقنع/masked subgraph) وتغذيه في نفسها مرة أخرى، فإن عملية القناع (masking) على مستوى الحواف تغير سياق تمرير الرسائل المحلي. وبما أن درجات أهمية الحواف مشتقة من هذه التمثيلات العقدية، فإن السياق المضطرب يؤدي طبيعياً إلى درجات مختلفة في التمريرة الثانية.

فرضية تخصيص الإشارة الكامنة (Latent Signal Assignment Hypothesis)
لتفسير سبب إظهار حواف معينة فقط (عادةً غير المهمة) لعدم الاستقرار بينما تظل الحواف المهمة (الحقيقية) مستقرة، تقترح الورقة فرضية تخصيص الإشارة الكامنة. يقسم المؤلفون الحواف إلى ثلاث مجموعات منفصلة:

• $E_p$ (حواف الإشارة الإيجابية): الحواف التي تُخصص لها درجات عالية بناءً على ميزات جوهرية ثابتة السياق. وتظل هذه الحواف مستقرة عبر التمريرات.
• $E_n$ (حواف الإشارة السلبية): الحواف التي تُخصص لها درجات منخفضة بناءً على ميزات جوهرية. وهذه أيضاً تظل مستقرة.
• $E_c$ (الحواف المدفوعة بالسياق): الحواف التي تتحدد درجاتها أساساً من خلال سياق تمرير الرسائل المحلي. وتكون هذه الحواف شديدة الحساسية للاضطرابات الناتجة عن إعادة التفسير.

ويجادل المؤلفون بأن تنظيم الإيجاز (conciseness regularization) (الذي يحد من "الميزانية" الإجمالية لكتلة الأهمية التي يمكن أن يمتلكها التفسير) يشكل هذا التخصيص. ففي ظل قيود الميزانية الصارمة، يُجبر النموذج على إعادة تخصيص الأهمية، مما قد يدفع الحواف غير المهمة من حالة مدفوعة بالإشارة إلى حالة مدفوعة بالسياق، وبالتالي يزيد من حساسيتها للاضطرابات.

الحل المقترح: إزالة الضجيج الذاتي (Self-Denoising - SD)
بالاستفادة من الملاحظة القائلة بأن عدم الاتساق الذاتي يعمل كإشارة للضجيج، يقترح المؤلفون إزالة الضجيج الذاتي (SD)، وهي استراتيجية معالجة لاحقة (post-processing) مستقلة عن النموذج ولا تتطلب تدريباً.

• الآلية: تقوم SD بإجراء تمريرة أمامية ثانية على الرسم البياني التفسيري لقياس عدم الاستقرار ($\Delta s_{ij}$) لدرجة أهمية كل حافة.
• المعايرة: تقوم بمعاقبة الحواف ذات عدم الاستقرار العالي عن طريق تقليص درجاتها الأصلية: $\tilde{m}_{ij} = \max(0, (1 - \eta \Delta s_{ij})m^{(1)}_{ij})$، حيث تمثل $\eta$ معامل قوة إزالة الضجيج.
• اختيار المعلمات الفائقة (Hyperparameter Selection): للتعامل مع انزياح التوزيع الناتج عن SD، يقترح المؤلفون استراتيجية تكيف خفيفة الوزن: تجميد المفسر (explainer) والمشفر (encoder)، ثم ضبط المصنف (classifier) فقط على التفسيرات المعايرة. بعد ذلك، يتم اختيار قوة إزالة الضجيج $\eta$ بناءً على دقة التحقق (validation accuracy) لهذا المصنف المتكيف.

3. المساهمات الرئيسية

• الرؤية الآلية: تقدم الورقة أول تفسير نظري لعدم الاتساق الذاتي، وتنسبه إلى اضطرابات السياق المحلي وتوضح دور تخصيص الإشارة الكامنة تحت قيود الإيجاز.
• المعايرة الفعالة: تقدم SD، وهي استراتيجية معالجة لاحقة لا تتطلب إعادة تدريب وتحسن جودة التفسير بأقل قدر من التكلفة الحسابية (تمريرة أمامية واحدة إضافية فقط، تزيد التكلفة بنسبة ~4–6%).
• التكامل: توضح الدراسة أن SD تلتقط مصدراً متميزاً للضجيج (عدم الاتساق الذاتي لنموذج واحد) وهو أمر مكمل لطرق عدم الاتساق بين النماذج المختلفة مثل "تجميع التفسيرات" (Explanation Ensemble - EE).

4. النتائج التجريبية

أُجريت التجارب عبر أربعة أطر عمل ممثلة لـ SI-GNN (GAT, CAL, SMGNN, GSAT)، وعدة بنيات أساسية (GIN, GraphSAGE, GatedGCN)، وأربعة مجموعات بيانات مرجعية (BA-2MOTIFS, 3MR, BENZENE, MUTANGICITY).

• جودة التفسير: تحسن SD باستمرار قيمة AUC (المعقولية مقابل الحقيقة الأرضية) عبر جميع التكوينات الـ 16 المختبرة، مع مكاسب تصل إلى 3.9%. كما قللت بشكل كبير من SPA (الندرة الناعمة - Soft Sparsity)، مما يشير إلى تفسيرات أكثر إيجازاً وأقل تكراراً.
• المصداقية (Faithfulness): النتائج المتعلقة بـ FID (المصداقية) مختلطة، وهو ما يعزوه المؤلفون إلى انزياح التوزيع الذي تسببه SD وآليات نماذج معينة (مثل CAL). ومع ذلك، بعد التكيف الخفيف للمصنف، استقرت قيمة FID.
• الأداء التنبئي: يؤدي تطبيق SD بمفردها إلى تغييرات طفيفة في الدقة. وعند دمجها مع التكيف الخفيف للمصنف (SD*)، تتحسن دقة التصنيف اللاحقة باستمرار، مع مكاسب تصل إلى 8% في بعض الحالات.
• الكفاءة مقابل EE: على عكس "تجميع التفسيرات" (EE)، الذي يتطلب تدريب نماذج متعددة ويتسبب في عبء حسابي بنسبة ~400%، تتطلب SD نموذجاً واحداً فقط وتضيف عبئاً بنسبة ~4–6%. ويؤدي الجمع بين SD وEE إلى تحسينات إضافية، مما يشير إلى أن الطريقتين تعالجان مصادر ضجيج مختلفة.

5. الأهمية والادعاءات

تدعي الورقة أن عدم الاتساق الذاتي ليس مجرد نمط فشل، بل هو إشارة جوهرية يمكن استغلالها لمعايرة التفسيرات. ومن خلال فهم آلية اضطراب السياق وتخصيص الإشارة الكامنة، يوضح المؤلفون أن خطوة معالجة لاحقة بسيطة لا تتطلب تدريباً يمكن أن تعزز بشكل كبير موثوقية وإيجاز تفسيرات SI-GNN.

يتبنى المؤلفون موقفاً متواضعاً، ملاحظين أن:

• فرضية الإشارة الكامنة الخاصة بهم هي منظور آلي مستنتج من السلوك وليست نموذج متغير كامن يمكن تحديده بدقة رياضية صارمة.
• لا تضمن SD تفسيرات موثوقة تماماً، لأنها لا تستطيع التقاط جميع مصادر الضجيج (مثل تلك غير المرتبطة بعدم الاتساق الذاتي).
• صُممت الطريقة للمعايرة اللاحقة (post-hoc) للنماذج المدربة مسبقاً الموجودة بالفعل، مما يميزها عن النهج التي تتطلب إعادة التدريب باستخدام أهداف الاتساق الذاتي.

في النهاية، يهدف العمل إلى تحسين موثوقية أنظمة الذكاء الاصطناعي في المجالات عالية المخاطر (مثل اكتشاف الأدوية والاكتشاف العلمي) عن طريق كبح الضجيج المدفوع بالسياق في التفسيرات الرسومية دون الحاجة إلى تغييرات هيكلية أو إعادة تدريب.