A Comparative Study of Counterfactual Explainers for Graph Neural Networks Enabling Multiple Types of Graph Edit

في عالم الذكاء الاصطناي، هناك طلب متزايد لفهم كيفية اتخاذ الآلات للقرارات، خاصة عندما تؤثر تلك القرارات على حيوات حقيقية. تخيل برنامج حاسوب ينظر إلى شبكة معقدة من الاتصالات — مثل خريطة لكيفية تفاعل الأدوية المختلفة مع بعضها البعض، أو كيف يرتبط الناس في شبكة اجتماعية — ثم يتنبأ بنتيجة ما. هذه البرامج، المعروفة باسم الشبكات العصبية الرسومية (graph neural networks)، قوية للغاية، لكنها غالباً ما تعمل كصناديق سوداء، حيث تقدم تنبؤاً دون شرح السبب. ولإصلاح ذلك، طور الباحثون طريقة تسمى "التفسير المضاد للواقع" (counterfactual explanation). فبدلاً من مجرد الإشارة إلى الأجزاء التي كانت مهمة في الشبكة للوصول إلى الإجابة النهائية، تسأل هذه الطريقة سؤال "ماذا لو": ما هو أصغر تغيير واقعي يمكننا إجراؤه على الشبكة للحصول على نتيجة مختلفة تماماً؟ على سبيل المثال، إذا توقع نظام ما أن دواءين آمنان للاستخدام معاً، فإن التفسير المضاد للواقع سيظهر بالضبط أي اتصال جديد، لو كان موجوداً، سيجعل النظام يتنبأ بتفاعل خطير. يساعد هذا النهج الأطباء والعلماء والمهندسين على الثقة بالآلة من خلال إظهار الروافع الدقيقة التي تتحكم في منطقها.

قام فريق من الباحثين في معهد علوم الحاسوب في اليونان مؤخراً بمحاولة اختبار أفضل الأدوات المتاحة حالياً لتوليد سيناريوهات "ماذا لو" هذه في الشبكات الرسومية. وقد ركزوا على جيل جديد من الأدوات التي يمكنها القيام بأكثر من مجرد حذف الاتصالات؛ إذ يمكنها أيضاً إضافة اتصالات جديدة. هذه القدرة على إضافة وإزالة الروابط معاً أمر بالغ الأهمية لأن الشبكات في العالم الحقيقي نادراً ما تكون ثابتة؛ فهي تتطور، وفهم كيفية تغييرها يتطلب النظر في كلا الاتجاهين. جمع الباحثون ستة من أكثر البرامج الحاسوبية تقدماً والمصممة لهذه المهمة وأخضعوها لسلسلة صارمة من الاختبارات. لقد قاموا بتشغيل هذه البرامج على مجموعة متنوعة من البيانات، بما في ذلك الشبكات الاصطناعية المبنية لتكون ذات أنماط محددة، وبيانات من العالم الحقيقي تمثل كل شيء من الجزيئات الكيميائية إلى منشورات وسائل التواصل الاجتماعي والاستشهادات العلمية. لم يكن الهدف هو معرفة أي برنامج يمكنه إيجاد إجابة فحسب، بل الحكم على جودة تلك الإجابة: هل كان التغيير صغيراً بما يكفي ليكون قابلاً للتصديق؟ وهل أدى بالفعل إلى قلب التنبؤ؟ وهل استغرق وقتاً طويلاً في الحوسبة؟

كشفت الدراسة أنه لا يوجد بطل واحد يفوز في جميع الفئات. وجد الباحثون وجود مقايضة مستمرة بين سرعة التفسير، وحجم التغيير المطلوب، وموثوقية النتيجة. كانت بعض البرامج ممتازة في إيجاد تغييرات ضئيلة ودنيا قلبت التنبؤ، لكنها غالباً ما فشلت في إيجاد حل على الإطلاق للبيانات المعقدة من العالم الحقيقي. بينما كانت برامج أخرى موثوقة للغاية ويمكنها دائماً تقريباً إيجاد طريقة لتغيير النتيجة، إلا أن التغييرات التي اقترحتها كانت غالباً كبيرة ومعقدة لدرجة تجعل من المستحيل على البشر تفسيرها أو الوثوق بها. أحد البرامج، الذي استخدم تقنية مستوحاة من كيفية توليد الصور، كان دقيقاً جداً ووجد إجابات عالية الجودة، ولكنه كان بطيئاً للغاية لدرجة أنه استغرق ساعات لمعالجة رسم بياني واحد، مما يجعله غير عملي للعديد من الاستخدامات. وبرنامج آخر كان سريعاً وفعالاً للغاية، لكنه مال إلى إنتاج تفسيرات كبيرة جداً بحيث لا تكون مفيدة.

ولعل الاكتشاف الأكثر إثارة للدهشة هو أنه حتى أفضل الأدوات واجهت صعوبة في التركيز على الجزء الصحيح من الشبكة. في الاختبارات الاصطناعية، حيث عرف الباحثون بالضبط النمط من الاتصالات المسؤول عن التنبؤ، لا تزال العديد من البرامج تقترح تغييرات في مناطق غير ذات صلة من الشبكة. فقد كانت تضيف أو تزيل حوافاً بعيدة عن النمط الحرج، وكأنها تخمن في الظلام بدلاً من تحديد السبب الحقيقي بدقة. يشير هذا إلى أنه بينما تتحسن هذه الأدوات في إيجاد أي حل، إلا أنها ليست ثابتة بعد في إيجاد الحل الصحيح. كما لاحظ الباحثون أن معظم الأدوات الموجودة صُممت في المقام الأول لتصنيف الشبكات بأكملها، مثل تحديد ما إذا كانت الجزيئة سامة، لكنها أدت أداءً أسوأ بكثير عندما طُلب منها تفسير سلوك عقدة واحدة داخل الشبكة، مثل التنبؤ بموضوع ورقة بحثية معينة.

في نهاية المطاف، يعد هذا العمل بمثابة واقع تصحيحي لمجال يتحرك بسرعة كبيرة. ويخلص المؤلفون إلى أنه بينما تعد القدرة على إضافة وإزالة الاتصالات خطوة كبيرة للأمام، إلا أن الجيل الحالي من الأدوات لا يزال عملاً قيد التطوير. لا توجد طريقة واحدة حالياً تقدم التوازن المثالي بين السرعة والدقة والبساطة. تسلط الدراسة الضوء على أن الأبحاث المستقبلية تحتاج إلى تجاوز مجرد إيجاد أي إجابة والتركيز على توليد تفسيرات ليست صحيحة فحسب، بل ذات مغزى وفعالية أيضاً. وإلى أن يتم العثور على طريقة يمكنها باستمرار تحديد التغييرات الدنيا الدقيقة اللازمة لتغيير التنبؤ دون الغرق في التعقيد أو الوقت، ستظل الإمكانات الكاملة لهذه الأنظمة القوية من الذكاء الاصطناعي محجوبة جزئياً خلف حجاب من عدم اليقين.