NICE: Scale-Stable Perturbations for Graph Neural Network Explanations via Noise Corruption

في عالم الذكاء الاصطناعي، تبرز فئة متنامية من الأنظمة تُعرف باسم "الشبكات العصبية الرسومية" (Graph Neural Networks). هذه ليست أدوات التعرف على الصور القياسية الموجودة في هاتفك؛ بل هي مصممة لفهم البيانات التي توجد كشبكة من الروابط، مثل الجزيئات في مركب كيميائي، أو الشبكات الاجتماعية، أو مسارات المرور. ولاتخاذ قرار ما، تمرر هذه الأنظمة المعلومات عبر الروابط بين العقد، تماماً مثل إشاعة تنتشر وسط حشد من الناس. ولأن هذه الأنظمة معقدة للغاية وغالباً ما يكون منطقها الداخلي عبارة عن "صندوق أسود" متشابك، فقد طور العلماء "أدوات تفسير" (Explainers). وهي أدوات مصممة للنظر في قرار نهائي وتحديد أي الروابط أو قطع المعلومات المحددة كانت الأكثر أهمية. الطريقة القياسية لعمل هذه الأدوات تعتمد على لعب لعبة "ماذا لو"؛ حيث تأخذ اتصالاً معيناً، وتزيله أو تُسكنه، ثم تسأل الذكاء الاصطناعي: "هل يتغير جوابك؟". إذا تغيرت الإجابة بشكل جذري، تفترض الأداة أن هذا الاتصال كان حيوياً. هذه الطريقة كانت المعيار الصناعي لسنوات، لكنها تعتمد على افتراض هش: وهو أن عملية إزالة اتصال ما لا تؤدي بالضريد إلى كسر النظام بأكمله بطريقة لا علاقة لها بالاتصال نفسه.

لقد اكتشف فريق من الباحثين من جامعة سنترال ساوث، وجامعة هونغ كونغ المتعددة التقنيات، وجامعة غريفيث، أن هذه الطريقة القياسية معيبة جوهرياً. فقد وجدوا أن الطريقة التي تُسكت بها هذه الأدوات حالياً الروابط تُدخل تشوهاً خفياً يجعل إجابات الذكاء الاصطناعي غير موثوقة. فعندما تحاول أداة التفسير "إطفاء" رابط في الشبكة، فإنها تقوم عادةً بضرب المعلومات المتدفقة عبر هذا الرابط في رقم قريب من الصفر. وبينما ينجح هذا في إيقاف الرسالة المحددة، فإنه يقلص أيضاً الحجم الإجمالي للمعلومات المتحركة عبر الشبكة بأكملها. يطلق الباحثون على هذه الظاهرة اسم "انزياح المقياس" (Scale Drift). تخيل محادثة تطلب فيها من شخص أن يهمس بسر لصديقه، ولكنك أثناء القيام بذلك، تجبر الجميع في الغرفة عن غير قصد على التحدث بجزء ضئيل من حجم صوتهم الطبيعي. قد يختفي السر، ولكن المحادثة بأكملها ستصبح أيضاً خافتة ومشوهة. والذكاء الاصطناعي، الذي يتلقى هذه الإشارة المنكمشة، قد يغير رأيه ليس لأن السر كان مهماً، بل ببساطة لأن الغرفة بأكملها أصبحت هادئة جداً بحيث لا يمكن سماع أي شيء بوضوح. وقد أظهر الباحثون أن هذا الانزياح يتراكم مع كل خطوة تخطوها المعلومات عبر الشبكة، مما يعني أنه كلما تعمقت الشبكة، ابتعدت الحالة الداخلية للذكاء الاصطناعي عن الواقع، مما يجعل التفسير غير موثوق.

ولحل هذه المشكلة، اقترح الباحثون طريقة جديدة لاختبار الذكاء الاصطناعي تتجنب تقليص الإشارة. فبدلاً من مجرد إسكات الاتصال، قدموا طريقة تسمى "إفساد الضجيج" (Noise Corruption). فبدلاً من خفض مستوى الصوت إلى الصفر، تستبدل هذه الطريقة الرسالة الواضحة بنسخة عشووية مشوشة تمتلك نفس القوة الإجمالية أو "الجهارة". الأمر يشبه أخذ جملة واضحة واستبدالها بدفق من التشويش (الاستاتيكا) بنفس قوة الصوت الأصلي. يتم إفساد المعلومات، لكن الطاقة المتدفقة عبر الشبكة تظل مستقرة. ومن خلال الحفاظ على ثبات مستوى الصوت، ضمن الباحثون أن أي تغيير في إجابة الذكاء الاصطناعي يعود إلى فقدان المعنى المحدد، وليس إلى انهيار القوة الإجمالية للنظام. لقد بنوا إطار عمل جديداً حول هذه الفكرة، وأطلقوا عليه اسم "NICE". يقوم هذا النظام أولاً بتعلم حدود مقدار المعلومات التي يجب استعادتها لإعادة الذكاء الاصطناعي إلى قراره الأصلي، ثم يحسب بدقة أي الروابط ساهمت أكثر في تلك الاستعادة.

كانت نتائج هذا النهج الجديد كبيرة. فعند اختباره عبر ثمانية معايير مختلفة تشمل جزيئات كيميائية وهياكل معقدة أخرى، تفوقت الطريقة الجديدة على أفضل الأدوات الموجودة. فقد تمكنت من تحديد الروابط الحرجة الصحيحة بدقة أكبر، مما حسن قدرتها على إيجاد الإجابات الصحيحة بنسبة تزيد بمعدل 9% تقريباً مقارنة بأفضل الطرق السابقة. والأهم من ذلك، أكد الباحثون أن تقنيتهم الجديدة نجحت في القضاء على مشكلة "انزياح المقياس". فعندما قارنوا الطريقة القديمة لإسكات الروابط بطريقتهم الجديدة لإضافة الضجيج، وجدت الطريقة القديمة باستمرار أنها تدفع الحالة الداخلية للذكاء الاصطناعي بعيداً عن نطاق تشغيله الطبيعي، بينما أبقت الطريقة الجديدة الحالة الداخلية للذكاء الاصطناعي قريبة جداً مما كانت عليه قبل إجراء أي تغييرات. وهذا يشير إلى أنه لسنوات عديدة، ربما كانت العديد من التفسيرات الناتجة عن الذكاء الاصطناعي مضللة، ليس لأن الذكاء الاصطناعي كان مخطئاً، بل لأن الأدوات المستخدمة لتفسيره كانت تكسر النظام الذي تحاول فهمه دون قصد. ومن خلال إصلاح الطريقة التي يتم بها تغيير البيانات، قدم الباحثون وسيلة أكثر أمانة للنظر داخل عقل هذه الشبكات المعقدة.