Consistent Evidence, Robust Recognition: Faithful Attribution Regularization under Geometric Transformations
تقترح هذه الورقة إطار عمل لتنظيم العزو (attribution regularization) خالٍ من التوسيم، يستخدم البحث تحت الموديولي (submodular search) لاستخراج أدلة وفية وتمييزية للفئات، وتستحدث فقدان ترتيب تفاضلي لفرض الاتساق تحت التحويلات الهندسية، مما يؤدي إلى تحسين متانة النموذج واستقرار العزو بشكل كبير مع حد أدنى من التنازلات في الدقة.
تخيل أنك تعلم روبوتاً التعرف على قطة. تعرض عليه صورة، فيقول: "قطة!". ولكن كيف عرف ذلك؟ هل ينظر إلى الأذنين الناعمتين، أم أنه يخمن فقط لوجود طوق أحمر في الزاوية؟ في عالم الذكاء الاصطناي، يسمى هذا العزو (attribution): وهو تحديد أي أجزاء من الصورة أقنعت الكمبيوتر بالفعل باتخاذ قراره. عادةً، نحن نتحقق فقط مما إذا كان الروبوت مصيباً. ولكن ماذا لو كان الروبوت مصيباً لأسباب خاطئة؟ إذا قلبت الصورة رأساً على عقب، يجب أن يظل الروبوت الذكي يرى آذان القطة في نفس الموقع بالنسبة للوجه. إذا بدأ الروبوت فجأة في النظر إلى الخلفية، فهذا يعني أنه غير موثوق. تتناول هذه الورقة مشكلة كبيرة: كيف نعلم نماذج الذكاء الاصطناي هذه التوقف عن التخمين والبدء في الانتباه إلى الأدلة الحقيقية، حتى عندما يتم لف الصورة أو قلبها أو تدويرها؟
لاحظ الباحثون وراء هذه الدراسة أن العديد من الطرق الحالية للتحقق من "تفكير" الذكاء الاصطاني تشبه استخدام خريطة ضبابية. فهي تحاول جعل الذكاء الاصطناي متسقاً، لكنها غالباً ما تتحقق من الشيء الخطأ. لقد وجدوا أن مجرد إخبار الذكاء الاصطناي بأن "ينظر إلى نفس البقعة" لا ينجح إذا لم يكن الذكاء الاصطناي ينظر بالفعل إلى الدليل الصحيح في المقام الأول. ولحل هذه المشكلة، اخترعوا خدعة تدريبية جديدة. بدلاً من مجرد التخمين أين يجب أن ينظر الذكاء الاصطاي، جعلوا النموذج يلعب لعبة "أوجد الفروق" مع نفسه. لقد علموا النموذج أن يجد مجموعة صغيرة ومثالية من الأدلة التي تثبت أنها قطة، ثم أجبروه على إيجاد تلك الأدلة ذاتها بالضبط حتى بعد قلب الصورة.
إليك السحر الذي اكتشفوه: من خلال إجبار الذكاء الاصطناي على التمسك بهذه الأدلة الموثوقة، لم يصبح النموذج أفضل في شرح نفسه فحسب، بل أصبح أيضاً أكثر ذكاءً في التعرف على الأشياء في المواقف الصعبة. وفي اختبار واسع النطاق للصور يسمى ImageNet-100، جعلت طريقتهم "تفكير" الذكاء الاصطناي أكثر استقراراً، حيث قفز من درجة 0.14 إلى 0.27. كما جعلت تفسيرات الذكاء الاصطناي أفضل بنسبة 52.1% في إثبات وجود القطة، وقللت من "حذف" القطة من عقله بنسبة 62.2%. والأفضل من ذلك؟ لم يفقد الذكاء الاصطناي أيًا من ذكائه العام؛ إذ انخفضت دقته بنسبة ضئيلة جداً بلغت 0.28 نقطة مئوية. لقد أظهروا أنه عندما تعلم روبوتاً أن يثق في الأدلة الصحيحة، فإنه يصبح صديقاً أكثر موثوقية، حتى عندما يصبح العالم متذبذباً قليلاً.
ملخص تقني: أدلة متسقة، إدراك قوي
بيان المشكلة تُستخدم طرق الإسناد (Attribution methods) على نطاق واسع لتحديد الأدلة المدخلة الكامنة وراء تنبؤات الشبكات العصبية العميقة. ومع ذلك، لا يزال إمكانها في تحسين سلوك النموذج بشكل نشط غير مستكشف بشكل كافٍ. وتتمثل إحدى المشكلات الحرجة في عدم اتساق الإسناد تحت التحويلات الهندسية التي تحافظ على التسمية (مثل القلب أو التدوير). وبينما قد تظل الفئة المتنبأ بها دون تغيير، غالبًا ما يغير النموذج اعتماده من أدلة الكائن الأصلية إلى مناطق مختلفة أو غير ذات ص relevance. يشير هذا إلى حساسية تجاه التحويلات الهندسية مما يقوض المتانة (Robustness).
تعتمد النهج الحالية لتنظيم الإسناد (Attribution regularization) عادةً على أهداف اتساق ذاتية التوجيه مستمدة من الخرائط القائمة على التدرج (مثل Grad-CAM). ويتمثل القصور الجوهري لهذه الطرق في الأمانة (Faithfulness): فالخرائط القائمة على التدرج لا تعكس دائمًا بدقة الأدلة التي تقود قرار النموذج. وبناءً عليه، فإن محاذاة هذه الخرائط تضمن الاتساق في مخرجات التفسير ولكنها لا تضمن الاتساق في عملية اتخاذ القرار الكامنة. قد يحقق النموذج اتساقًا على مستوى التفسير بينما لا يزال يعتمد على أدلة حساسة للتحويلات. التحدي المركزي الذي يعالجه هذا العمل هو كيفية تحويل الإسناد المخلص المرتبط بالقرار إلى إشارة تدريب فعالة لفرض الاعتماد المتسق على الأدلة دون الحاجة إلى تسميات بشرية.
المنهجية يقترح المؤلفون إطار عمل لتنظيم الإسناد خالٍ من التسميات البشرية يعتمد على البحث الجزئي (Submodular search) عبر مناطق الصورة. تعمل الطريقة في مرحلتين:
مرحلة الاستعلام (توليد الإشراف): بدلاً من استخدام الخرائط الحرارية القائمة على التدرج، يستخدم إطار العمل طريقة إسناد قائمة على البحث (تحديدًا LIMA) لاستخراج أدلة مدمجة ومميزة للفئة. تقوم العملية باختيار مناطق الصورة بجشع (Greedily) لتعظيم دالة درجة جزئية (Submodular score function)، والتي تجمع بين مقاييس الاتساق، والثقة، والتعاون. يتوقف البحث عند الوصول إلى عتبة الاتساق.
التصفية: يتم الاحتفاظ فقط بالعينات المصنفة بشكل صحيح، والتي تتمتع بثقة عالية، وتنتج منطقة إسناد مدمجة. يضمن ذلك استقاء إشارة الإشراف من سلوك نموذج موثوق.
تسلسل الإشراف: يشكل التسلسل المرتب للمناطق المختارة وشرط التوقف "الإشراف المستمد من البحث".
مرحلة التدريب (خسارة التصنيف الجزئي): لتنظيم النموذج، يقوم إطار العمل بمحاذاة مسار بحث الإسناد لصورة محولة مع المسار المقابل مكانيًا للصورة الأصلية. ولأن عملية البحث منفصلة ومتسلسلة، فمن الضرية وجود بديل قابل للتفاضل. يقدم المؤلفون خسارة التصنيف الجزئي (Submodular Ranking Loss)، المكونة من حدين:
خسارة ترتيب الاختيار (LSelR): في كل خطوة من خطوات البحث الجشع على الصورة المحولة، يفرض هذا الحد أن المنطقة المستهدفة المقابلة مكانيًا (من التسلسل الأصلي) يجب أن تحتل مرتبة أعلى من جميع المرشحين غير المستهدفين المتبقين.
خسارة قطع الاختيار (LSelT): يشجع هذا الحد الأدلة المتراكمة للمسار المحول على استيفاء نفس معيار التوقف الخاص بتسلسل الاستعلام الأصلي عند الخطوة النهائية المستهدفة.
تجمع الدالة الإجمالية بين خسارة التصنيف القياسية وخسارة التصنيف الجزئي، الموزونة بمعامل فرط (Hyperparameter) λ. تم تنفيذ إطار العمل مع تحسينات مثل مساحات البحث المقيدة والتنظيم المتناثر لإدارة العبء الحسابي.
المساهمات الرئيسية
اشتراط الأمانة في الإسناد: يصيغ العمل تنظيم الإسناد حول مبدأ أن الإشراف يجب أن يمثل بأمانة الأدلة الكامنة وراء التنبؤ، متجاوزًا مجرد اتساق الخرائط.
إطار عمل خالٍ من التسميات: إطار عمل مبتكر يستمد تسلسلات إشراف مدمجة من عمليات بحث جزئية مصفاة، مما يلغي الحاجة إلى تسميات صلة مقدمة من البشر.
خسارة التصنيف الجزئي: دالة خسارة قابلة للتفاضل تقوم بمحاذاة اختيار المرشحين على طول المسارات المحولة وتفرض معايير التوقف، مما يوفر بديلًا لعملية اختيار الأدلة المنفصلة.
التحقق التجريبي: تجارب واسعة النطاق أظهرت تحسنًا في استقرار الأمانة ودقة الإسناد، إلى جانب متانة أقوى للمدخلات المحولة، مع تأثير ضئيل على دقة الصور النظيفة.
النتائج التجريبية تم تقييم الطريقة على مجموعات بيانات ImageNet-100 و ImageNet-1K باستخدام بنيات ViT-B/16، و ViT-L/16، و ResNet-50، و ConvNeXt-B.
جودة الإسناد (ImageNet-100, ViT-B/16):
زاد استقرار الإسناد من 0.14 إلى 0.27.
تحسن مقياس الإدراج (Insertion) بنسبة 52.1%.
انخفض مقياس الحذف (Deletion) بنسبة 62.2%.
انخفضت دقة التصنيف بمقدار 0.28 نقطة مئوية فقط.
المتانة (ImageNet-1K):
تحسنت دقة المدخلات المحولة المتوسطة بمقدار 0.55 (لـ ResNet-50) و 0.33 (لـ ConvNeXt-B) نقطة مئوية.
كان انخفاض الدقة للصور النظيفة محدودًا بـ 0.30 نقطة.
الكفاءة: تحقق الطريقة إنتاجية تدريب مقاربة لـ CGC وأسرع من CLIP-AFT، مع متطلبات ذاكرة GPU أقل بكثير من طرق التدرج من الدرجة الثانية.
الأهمية والادعاءات يزعم البحث أن الإسناد المخلص يعزز الاعتماد المتسق على الأدلة دون المساس بشكل مادي بالأداء التنبؤي. ومن خلال نقل التركيز من محاذاة خرائط التدرج التي قد تفتقر للأمانة إلى محاذاة عملية اختيار الأدلة الفعلية المستمدة من البحث الجزئي، تعالج الطريقة السبب الجذري لحساسية التحويل. تشير النتائج إلى أن فرض التكافؤ (Equivariance) على الأدلة ذات الصلة بالقرار، وليس فقط على مخرجات التفسير، يؤدي إلى نماذج أكثر متانة تعتمد على أدلة متناظرة مكانيًا عبر التحويلات الهندسية. ويشير المؤلفون إلى أنه سيتم إصدار الكود قريبًا لتسهيل المزيد من الأبحاث.