Instance-wise Linearization of Neural Network for Model Interpretation

في العالم الحديث، أصبح الذكاء الاصطناعي شريكاً هادئاً في الحياة اليومية، يوجه القرارات من التشخيصات الطبية إلى الموافقات على القروض. وفي قلب هذه الأنظمة تكمن الشبكات العصبية، وهي برامج حاسوبية مصممة لتعلم الأنماط من البيانات تماماً كما يتعلم العقل البشري من الخبرة. تُبنى هذه الشبكات من طبقات من وحدات المعالجة البسيطة التي تمرر المعلومات، محولةً المدخلات الخام إلى إجابات نهائية. لسنوات، كانت هذه الأنظمة فعالة للغاية، ومع ذلك ظلت غامضة إلى حد كبير بالنسبة للأشخاص الذين يعتمدون عليها. فعندما تتخذ الشبكة قراراً، يكون من المستحيل غالباً معرفة أي أجزاء من المعلومات كانت الأكثر أهمية أو كيف جمع النظام بينها للوصول إلى تلك النتيجة. وقد أصبح هذا النقص في الشفافية عقبة كبيرة، حيث تطالب الحكومات والعلماء بشكل متزايد بأن تشرح هذه الأنظمة المؤتمتة منطقها قبل أن يمكن الوثوق بها في المهام الحرجة.

لقد اقترح فريق من الباحثين الآن طريقة لإزاحة الستار عن هذا "الصندوق الأسود"، ليس من خلال التخمين حول كيفية تفكير النظام، بل عبر تبسيط عملية تفكيره رياضياً للحظة زمنية واحدة. ويشير عملهم إلى أنه بينما تكون الشبكة العصبية معقدة للغاية عند النظر إليها ككل، فإن سلوكها لأي تنبؤ محدد هو في الواقع بسيط للغاية. ومن خلال التعامل مع أي تنبؤ واحد كحدث فريد، وجد الباحثون أن بإمكانهم تجريد الشبكة من تعقيداتها غير الخطية وإعادة كتابة عملية اتخاذ القرار بأكملها كحساب مباشر وبسيط ضمن منطقة محلية محددة. وتسمح هذه الطريقة برؤية كيف تساهم كل قطعة من بيانات المدخلات بالضبط في النتيجة النهائية، محولةً الخوارزمية الغامضة إلى خريطة شفافة للسبب والنتيية.

ويعتمد جوهر هذا الاكتشاف على ملاحظة بسيطة حول كيفية عمل هذه الشبكات. تستخدم الشبكات العصبية مكونات خاصة تسمى وحدات التنشيط لتقرر ما إذا كانت ستمرر إشارة للأمام أم ستوقفها. وتخلق هذه الوحدات سلوكاً غير خطي، مما يعني أن العلاقة بين المدخلات والمخرجات ليست خطاً مستقيماً، وهو ما يجعل النظام قوياً جداً ولكنه أيضاً صعب الفهم. ومع ذلك، لاحظ الباحثون أنه لأي تنبؤ واحد، تتبع الشبكة مساراً محدداً فقط عبر وحدات التنشيط هذه. وبمجرد اختيار هذا المسار، ينهار السلوك المعقد والمتعرج للشبكة إلى عملية خطية. في هذه الحالة المحددة، لم تعد الشبكة تتخذ قراراً معقداً ومنحنياً؛ بل هي ببساطة تضرب المدخلات في مجموعة من الأرقام وتضيف قيمة ثابتة.

ولإثبات ذلك، طور الفريق طريقة لإعادة كتابة الرحلة الأمامية للبيانات عبر شبكة عصبية. لقد أخذوا الطبقات القياسية المستخدمة في الرؤية الحاسوبية، مثل تلك التي تمسح الصور بحثاً عن الحواف أو الأشكال، وأظهروا أنه يمكن تحويل كل منها إلى عملية ضرب مصفوفات قياسية. ويشمل ذلك طبقات الالتفاف (convolution) التي تمسح الصور، وطبقات التجميع (pooling) التي تقلل حجم الصورة، وحتى وصلات التخطي (skip connections) التي تساعد الشبكات العميقة على التعلم بشكل أفضل. ومن خلال تحويل كل طبقة إلى هذا التنسيق الخطي، استطاعوا دمجها جميعاً في معادلة واحدة ضخمة. والنتيجة هي صيغة واحدة حيث تُضرب المدخلات في مصفوفة كبيرة من الأوزان ويُضاف إليها حد الانحياز (bias) لإنتاج المخرج. تعمل هذه الصيغة كتمثيل دقيق لقرار الشبكة لتلك الصورة المحددة ضمن منطقتها الخطية المحلية، مما يكشف بالضبط مقدار مساهمة كل بكسل في الدرجة النهائية.

اختبر الباحثون هذه الطريقة على عدة نماذج معروفة للتعرف على الصور، بما في ذلك تلك المدربة على تحديد الأرقام المكتوبة بخط اليد والأجسام المعقدة مثل السيارات والحيوانات. واكتشفوا انقساماً مفاجئاً في كيفية اتخاذ هذه الشبكات للقرارات. فبالنسبة للنماذج الأبسط المدربة على صور الأرقام الأساسية، كان جزء الحساب الرئيسي في الصيغة يحمل كل ثقل القرار تقريباً، بينما كان حد الإضافة الثابت ضئيلاً. أما بالنسبة للنماذج الأكثر تعقيداً المدربة على مجموعات بيانات صعبة، فقد أصبح الحد الثابت هو القوة المهيمنة. في هذه الشبكات المتقدمة، يمكن للقيمة الثابتة وحدها غالباً أن تحدد غالبية التنبؤ، بينما تلعب الحسابات التفصيلية لخصائص المدخلات دوراً أصغر. ويتحدى هذا الاكتشاف الافتراض الشائع بأن الحسابات الداخلية للشبكة هي دائماً المحرك الأساسي لخياراتها، مما يشير إلى أنه بالنسبة للعديد من الأنظمة الحديثة، فإن الانحياز الثابت هو الذي يقوم بالعمل الشاق.

توفر هذه الطريقة الجديدة للنظر في الشبكات العصبية أداة قوية لفهم ليس فقط ما يتنبأ به النموذج، بل كيف يصل إلى ذلك التنبؤ. ولأن هذه الطريقة تفكك القرار إلى مساهمة مباشرة من كل ميزة مدخلة، يمكنها إنشاء خريطة مفصلة توضح الأجزاء التي ساعدت الشبكة في اتخاذ قرار بشأن تسمية معينة، والأجزاء التي عملت ضدها. وفي تجارب مع الأرقام المكتوبة بخط اليد، أظهر الباحثون أن هذه الخريطة حددت بشكل صحيح الخطوط التي تشكل الرقم، مثل حلقة الرقم سبعة أو الخط العمودي للرقم واحد. وبخلاف الطرق الأخرى التي قد تخمن الأهمية، تقوم هذه الطريقة بحساب مساهمة كل بكسل بناءً على الرياضيات الفعلية للشبكة لتلك الصورة المحددة، بشرط أن تستخدم الشبكة دوال تنشيط خطية مجزأة.

تمتد فائدة هذه التقنية إلى ما وراء تصنيف الصور البسيط لتصل إلى مجال التعلم غير الخاضع للإشراف، حيث تُستخدم الشبكات لتنظيم البيانات دون تسميات بشرية. طبق الباحثون طريقتهم على تقنية تسمى (parametric t-SNE)، والتي تستخدم شبكة عصبية لضغط البيانات عالية الأبعاد إلى خريطة ثنائية الأبعاد للعرض البشري. عادةً، يصعب فهم سبب وضع الشبكة لنقطتي بيانات بالقرب من بعضهما البعض على هذه الخريطة. ومن خلال تطبيق طريقة التخطي الخطي الخاصة بهم، استطاع الفريق تتبع رحلة كل نقطة بيانات عبر الشبكة ورؤية الميزات التي تسببت بالضبط في استقرارها في مكان معين. ووجدوا أن العينات الموضوعة بالقرب من بعضها البعض غالباً ما تشترك في مساهمات ميزات متشابهة، ولكن في بعض الأحيان، كانت النقاط التي تبدو قريبة من بعضها البعض مدفوعة في الواقع بأسباب داخلية مختلفة تماماً، وهو فارق دقيق كان سيكون غير مرئي باستخدام أدوات التحليل التقليدية.

في نهاية المطاف، يوفر هذا العمل إطاراً مرناً لإزالة الغموض عن الشبكات العصبية دون الحاجة إلى إعادة بنائها من الصفر. ومن خلال الإدراك بأن التنبؤ الواحد هو حدث خطي ضمن منطقة محلية، أظهر الباحثون أنه يمكن إعادة صياغة عملية اتخاذ القرار في بيان رياضي واضح. وهذا لا يعني أن الشبكات بسيطة، بل يعني أن تعقيدها يمكن إيقافه وفحصه خطوة بخطوة. وسواء كان الهدف هو ضمان اتخاذ الذكاء الاصطناعي لقرارات عادلة أو مساعدة عالم في فهم كيفية رؤية النموذج للعالم، فإن هذا النهج يقدم نافذة مباشرة على منطق الآلة، مستبدلاً التكهنات بالحساب الدقيق.