Grad-CAM for Vision Transformers: A Systematic Taxonomy and Audit of Methodological Ambiguity in Explainable AI
تقدم هذه الورقة تصنيفاً ومنهجية تدقيق لـ 175 دراسة لكشف الغموض المنهجي واسع النطاق والافتقار إلى تفاصيل التنفيذ الصارمة في تكييف تقنية Grad-CAM لتناسب نماذج المحولات الرؤيوية (Vision Transformers)، محاجةً بأن التعامل معها كأنها امتداد بديهي لنظيرتها في الشبكات العصبية الالتفافية (CNN) يحجب الخيارات الجوهرية التي تؤثر على قابلية التكرار والتفسير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول فهم كيف يحل محقق بارع وسريع للغاية لغزاً ما. في الأيام الخوالي، كان هذا المحقق يستخدم مجموعة محددة من الأدوات: عدسة مكبرة تنظر إلى بقع صغيرة تشبه الشبكة من مسرح الجريمة، واحدة تلو الأخرى. كانت هذه الأداة تسمى Grad-CAM. كانت مشهورة بقدرتها على إضاءة النقاط الدقيقة في الصورة التي ساعدت المحقق على اتخاذ قرار مثل: "آها! هذا قط!" أو "هذه سيارة!". ولأن المحقق كان ينظر إلى الصورة في شبكة مرتبة، كان بإمكان الأداة بسهولة الإشارة إلى مربعات محددة والقول: "لقد رأينا أذن القطة في هذا المربع".
لكن مؤخراً، حصل المحقق على ترقية هائلة. فبدلاً من النظر إلى شبكة، ينظر المحقق الجديد (الذي يسمى Vision Transformer أو ViT) إلى الصورة بأكملة دفعة واحدة، حيث يفككها إلى قائمة طويلة من الملاحظات الصغيرة المسماة "رموزاً" (tokens). الأمر يشبه قراءة قصة حيث كل كلمة هي دليل، بدلاً من النظر إلى خريطة. المشكلة هي أن العدسة المكبرة القديمة (Grad-caM) صُممت للشبكات، وليس للقوائم. فهي لا تعرف كيف تشير إلى "كلمة" في قائمة وتقول: "هذه الكلمة مهمة!".
لذا، بدأ العلماء يحاولون فرض العدسة المكبرة القدية على قائمة ملاحظات المحقق الجديد. أرادوا معرفة لماذا اتخذ المحقق الجديد قراراته. لكن العقدة تكمن في أنه لم يتفق أحد على كيفية القيام بذلك. فبعض الناس أشاروا إلى الملاحظة الأولى، وبعضهم إلى المنتصف، وبعضهم إلى القائمة بأكملها، والبعض الآخر اكتفى بالتخمين. هذه الورقة البحثية تشبه مفتش المحققين الذي يأتي لتدقيق جميع التقارير. يريدون معرفة: "هل نستخدم الأداة بشكل صحيح حقاً، أم أننا نتظاهر بذلك فقط؟"
التدقيق: فوضى منهجية
قرر مؤلفو هذه الورقة، كيسي وول وفريقه، لعب دور المحققين بأنفسهم. لقد قاموا بعملية بحث واسعة في الأدبيات العلمية، بحثاً عن كل ورقة بحثية حاولت استخدام أداة "Grad-CAM" القديمة على محققي "Vision Transformer" الجدد. بدأوا بكومة ضخمة تضم أكثر من 550 ورقة بحثية. وبعد عملية فحص دقيقة للغاية، قلصوا العدد إلى 175 ورقة بحثية حاولت بالفعل تطبيق هذه الطريقة.
ما وجدوه كان فوضى نوعاً ما. اكتشفوا أن معظم هذه الأوراق كانت تعامل قائمة ملاحظات المحقق الجديد كما لو كانت لا تزال الشبكة القديمة. كانوا يستخدمون الأداة دون شرح حقيقي لكيفية جعلها تتناسب مع النموذج الجديد.
تقدم الورقة البحثية "تصنيفاً" (taxonomy)، وهو مجرد مصطلح منمق لقائمة مراجعة مفصلة أو قائمة خيارات. أدرك المؤلفون أنه عندما تحاول استخدام Grad-CAM على Vision Transformer، يجب عليك اتخاذ عدة قرارات كبيرة، ولم يقم أحد تقريباً بتدوينها:
- أين تنظر: هل تنظر إلى الملاحظة الأولى التي كتبها المحقق؟ أم المنتصف؟ أم الملخص النهائي؟
- ماذا تقيس: هل تقيس مدى أهمية ملاحظة معينة، أم مدى اهتمام "الفكرة الرئيسية" للمحقق (رمز [CLS]) بالملاحظات الأخرى؟
- كيف تدمجها: إذا كان لدى المحقق العديد من "الرؤوس" المختلفة (مثل وجهات نظر متعددة)، فهل تقوم بمتوسطها جميعاً، أم تنظر إليها واحدة تلو الأخرى؟
أجرى المؤلفون بعض الاختبارات لإظهار مدى أهمية هذه الاختيارات. أخذوا نموذجاً قياسياً ومرروا نفس الصورة عبره باستخدام إعدادات مختلفة من قائمتهم. والنتيجة؟ "الخرائط الحرارية" (الصور المتوهجة التي توضح ما رآه النموذج) بدت مختلفة تماماً اعتماداً على الاختيارات التي اتخذوها. فقد يسلط أحد الإعدادات الضوء على الكلب في الصورة، بينما يسلط آخر الضوء على العشب، وقد لا يظهر الثالث أي شيء على الإطلاق.
المشكلة الكبرى: "التوصيل والتشغيل" بدون تعليمات
وجدت الدراسة أنه من بين 175 ورقة بحثية راجعوها، قامت ورقة ضخمة قدرها 101 ورقة (حوالي 58%) بمجرد الاستشهاد بالورقة الأصلية الخاصة بالمحقق القديم القائم على الشبكة، ولم تشرح كيفية تطويعها للمحقق الجديد القائم على القائمة. كما أشارت 17 ورقة فقط إلى مكتبة برمجية (مستودع GitHub) دون شرح الرياضيات المستخدمة. بينما قامت 26 ورقة فقط (حوالي 15%) بتخصيص الوقت لشرح خياراتها المحددة أو الاستشهاد بورقة بحثية فعلت ذلك.
يرى المؤلفون أن هذه مشكلة خطيرة. فعندما يقول عالم: "استخدمنا Grad-CAM لنبين أن نموذجنا عادل"، لكنه لم يخبرك أي نسخة من Grad-CAM استخدم، فأنت لا تستطيع الوثوق بالنتيجة. الأمر يشبه لو قال طباخ: "لقد خبزت كعكة"، لكنه لم يخبرك ما إذا كان قد استخدم الدقيق أم الرمل، أو ما إذا كان قد خبزها لمدة 10 دقائق أو 10 ساعات. النتيجة قد تبدو ككعكة، لكن لا يمكنك التأكد من أنها نفس الكعكة التي يتحدث عنها الجميع.
ما تقوله الورقة (وما لا تقوله)
تلتزم الورقة البحثية بحذر شديد بعدم قول: "إليك الطريقة الصحيحة الوحيدة للقيام بذلك". بدلاً من ذلك، تقترح أنه لا توجد إجابة "صحيحة" واحدة بعد. لقد وجدوا أن المجال لم يستقر على طريقة معيارية للقيام بذلك.
لقد استبعدوا صراحةً فكرة أنه يمكنك ببساء أخذ الصيغة القديمة ووضعها فوق النموذج الجديد دون تفكير. لقد أظهروا أن القيام بذلك يخلق "غموضاً منهجياً"، وهو مصطلح معقد يعني "الارتباك حول كيفية عمل الأداة".
يقترح المؤلفون أنه لكي يتقدم المجال، يحتاج الباحثون إلى التوقف عن معاملة Grad-CAM على هذه النماذج الجديدة كخطوة تلقائية بسيطة. عليهم كتابة بالضبط أي "ميزة" اختاروا، وأي "تدرج" (gradient) قاسوا، وكيف أعادوا "تشكيل" البيانات لتصبح صورة مرة أخرى.
لماذا هذا مهم
هذا ليس مجرد تدقيق أكاديمي تافه. تُستخدم هذه الخرائط الحرارية لإثبات أن نماذج الذكاء الاصطناعي آمنة وعادلة وموثوقة، خاصة في الوظائف الهامة مثل التشخيص الطبي أو السيارات ذاتية القيادة. فإذا كان التفسير غامضاً، فلا يمكننا التأكد مما إذا كان الذكاء الاصطناعي ينظر بالفعل إلى الشيء الصحيح. وتخلص الورقة إلى أنه ما لم يبدأ العلماء في أن يكونوا محددين للغاية بشأن خياراتهم، فإن الصور المتوهجة التي نراها في الأوراق البحثية قد تكون تتعلق بالمظهر الجذاب أكثر من كونها تخبرنا بالحقيقة.
باختصار، تقترح الورقة أننا بحاجة إلى التوقف عن التخمين والبدء في تدوين وصفاتنا. وإلى أن يحدث ذلك، فإن "Grad-CAM" الذي نراه على نماذج الذكاء الاصطناعي الجديدة هو لغز بحد ذاته، ولا يمكننا التأكد مما يخبرنا به حقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.