🤖 machine learning

eXplaining to Learn (eX2L): Regularization Using Contrastive Visual Explanation Pairs for Distribution Shifts

تقترح الورقة البحثية eX2L، وهو إطار عمل قابل للتفسير يخفف من حدة انزياحات التوزيع عن طريق معاقبة التشابه بين خرائط Grad-CAM لمصنف التسمية ومصنف المربك لفك الارتباط بين الميزات المربكة، مما يحقق أداءً هو الأفضل في فئته على معيار تحدي Spurious Many-to-Many Hard.

المؤلفون الأصليون: Paulo Mario P. Medina, Jose Marie Antonio Miñoza, Sebastian C. Ibañez

نُشر 2026-05-08

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Paulo Mario P. Medina, Jose Marie Antonio Miñoza, Sebastian C. Ibañez

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحث "الشرح من أجل التعلم (eX2L)" باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.

المشكلة الكبيرة: الطالب الذي يستخدم "ورقة الغش"

تخيل أنك تقوم بتدريب طالب للتعرف على أنواع مختلفة من الكلاب.

الهدف: يجب أن يتعلم الطالب التعرف على الكلب من خلال أذنيه، وأنف، وذيله.
المشكلة: في صور التدريب الخاصة بك، كل صورة لكلب من نوع "كورجي" (Corgi) تصادف وجوده على شاطئ، وكل صورة لكلب من نوع "داشهوند" (Dachshund) تصادف وجوده في غابة.

الطالب ذكي، لكنه كسول. فبدلاً من تعلم شكل الكلب الـ "كورجي"، تعلم "ورقة الغش": إذا كان هناك رمال، فهو كورجي. إذا كانت هناك أشجار، فهو داشهوند.

هذا يعمل بشكل رائع في الفصل الدراسي (بيانات التدريب). ولكن بمجرد أن تأخذ الطالب إلى حديقة جديدة حيث يركض كلب "كورجي" على العشب، سيفشل تماماً. إنه "يغش" بالاعتماد على الخلفية (الرمال) بدلاً من الموضوع الفعلي (الكلب). في الورقة البحثية، يُسمى هذا الاعتماد على "الارتباطات الزائفة" (Spurious Correlations).

الحلول القديمة: القوة الغاشمة

حاول العلماء إصلاح ذلك من قبل، لكن أساليبهم غالباً ما كانت تعاني من مشكلات:

التنظيم الأعمى (Blind Regularization): يحاولون إجبار الطالب على أن يكون "عادلاً" من خلال معاقبته إذا أخطأ في أسئلة معينة، لكنهم لا يشرحون له فعلياً لماذا أخطأ. الأمر يشبه قول: "لقد أخطأت، حاول بجهد أكبر"، دون شرح الخطأ.
نتائج غير متسقة: بعض الأساليب تعمل على مجموعة بيانات معينة ولكنها تفشل في أخرى. لا يوجد حل "واحد يناسب الجميع".
الصناديق السوداء (Black Boxes): العديد من الأساليب المتقدمة معقدة رياضياً لدرجة أنه لا يمكن لأحد شرح كيف قامت بإصلاح المشكلة. إذا لم تستطع شرح الأمر، فلا يمكنك الوثوق به.

الحل الجديد: eX2L (الشرح من أجل التعلم)

يقترح المؤلفون طريقة جديدة تسمى eX2L. فكر في هذا كـ معلم يجبر الطالب على النظر إلى الشيء الصحيح.

إليك كيف يعمل eX2L، خطوة بخطوة:

1. المعلمان

يضع eX2L جلسة تدريب مع معلمين:

المعلم (أ) (معلم التصنيف): يريد تحديد نوع الكلب (كورجي مقابل داشهوند).
المعلم (ب) (معلم المربك/المشتت): يريد تحديد الخلفية (شاطئ مقابل غابة).

2. "مصباح" الخريطة الحرارية

يستخدم كلا المعلمين مصباحاً خاصاً يسمى Grad-CAM. عندما ينظران إلى صورة، يسلط هذا المصباح الضوء على بكسلات محددة يركزان عليها لاتخاذ تخمينهما.

إذا كان المعلم (أ) (الكلب) يغش، فإن مصباحه سيسلط ضوءاً ساطعاً على الرمال.
إذا كان المعلم (ب) (الخلفية) يقوم بعمله، فإن مصباحه أيضاً سيسلط ضوءاً ساطعاً على الرمال.

3. قاعدة "عدم التداخل"

هذا هو الجزء السحري. يقدم eX2L قاعدة صارمة: يجب ألا يسلط المصباحان نفس المكان أبداً.

يقوم النظام باستمرار بفحص الخرائط الحرارية. إذا تداخل مصباح المعلم (أ) مع مصباح المعلم (ب) (بمعنى أن معلم الكلب ينظر إلى الرمال)، فإن النظام يفرض عليه عقوبة.

4. النتيجة: التركيز القسري

لتجنما العقوبة، يُجبر المعلم (أ) (معلم الكلب) على تحريك مصباحه بعيداً عن الرمال. يجب عليه مسح الصورة حتى يجد شيئاً يخص الكلب فقط—مثل شكل الأذن أو الخطم. لا يمكنه حرفياً استخدام الخلفية للغش بعد الآن.

لماذا هذا مهم؟

تدعي الورقة أن هذه الطريقة تحقق شيئين مذهلين:

تعمل بشكل أفضل: في الاختبارات الصعبة حيث تتغير الخلفية (مثل معيار "Hard Spurious")، حققت eX2L درجات أعلى بكثير من أفضل الأساليب الحالية. لقد تعلمت تجاهل الشاطئ والتركيز على الكلب.
الشفافية: على عكس أساليب "الصندوق الأسود"، يمكنك فعلياً رؤية الخرائط الحرارية. يمكنك النظر إلى الصورة وقول: "آه، أرى أن النموذج يتجاهل الشاطئ وينظر إلى الأذن". هذا يجعلها موثوقة.

مثال من الواقع من الورقة البحثية

اختبر المؤلفون هذا على مجموعة بيانات للطيور.

الفخ: في بيانات التدريب، كانت "طيور الماء" (Waterbirds) تتواجد دائماً تقرياً فوق الماء، و"طيور البر" (Landbirds) كانت دائماً على الأرض.
الطريقة القديمة: النماذج القياسية كانت تنظر إلى الماء لتخمين أنها "طائر مائي".
طريقة eX2L: لأن النظام عاقل على النظر إلى الماء (بما أن "معلم الخلفية" ينظر بالفعل إلى هناك)، فقد أُجبر النموذج على تعلم شكل منقار وجناح الطائر.
الدليل: عندما عرضوا على النموذج طائراً مائياً يقف على الأرض، فشلت النماذج القديمة، لكن نموذج eX2L أصاب الإجابة لأنه كان ينظر إلى الطائر، وليس إلى الأرض.

العيب (القيود)

الورقة صريحة بشأن أحد المتطلبات: يجب أن تعرف ما هو "الغش".
لاستخدام هذه الطريقة، يجب أن تخبر الكمبيوتر ما هي الخلفية أو المربك (على سبيل المثال: "هذا شاطئ"، "هذه غابة"). إذا لم تكن لديك تسميات للخلفية، فلن يتمكن النظام من إعداد المعلم الثاني لفرض القاعدة.

ملخص

eX2L يشبه مدرباً صارماً يراقب لاعبين: أحدهما يحاول تحديد الشيء والآخر يحاول تحديد الخلفية. يصرخ المدرب: "توقفوا عن النظر إلى نفس الشيء!". هذا يجبر محدد الشيء على التوقف عن الغش باستخدام أدلة الخلفية ويتعلم فعلياً شكل الشيء، مما يؤدي إلى ذكاء اصطناعي أكثر ذكاءً وموثوقية لا يرتبك عندما تتغير المناظر الطبيعية.

ملخص تقني: الشرح من أجل التعلم (eX2L)

بيان المشكلة
تعتمد نماذج تعلم الآلة القياسية على افتراض أن بيانات التدريب والاختبار موزعة بشكل مستقل ومتماثل (i.i.d.). وعندما يتم انتهاك هذا الافتراض، غالبًا ما تفشل النماذج في التعميم، وتعتمد بدلاً من ذلك على الارتباطات الزائفة (spurious correlations)—وهي أنماط إحصائية في بيانات التدريب ليست تنبؤية مفاهيميًا بالملصقات الفعلية. تتجلى هذه الانتهاكات بشكل أساسي في شكل تحولات في المجموعات الفرعية (تغيرات في نسب المتغيرات الديموغرافية أو السياقية) وتحديات تعميم النطاق (التعلم من نطاقات المصدر للأداء على نطاقات مستهدفة غير مرئية).

تواجه الخوارزميات الحالية المصممة للتخفيف من هذه التحولات ثلاث عقبات رئيسية:

التنظيم الأعمى (Blind Regularization): العديد من الطرق "الصندوق الأسود" لا تستهدف صراحةً الارتباطات الزائفة المحددة التي تسبب انخفاض الأداء.
الأداء غير المتسق: لا توجع خوارزمية واحدة باستمرار أفضل من تقليل المخاطر التجريبية (ERM) عبر جميع مجموعات البيانات، مما يعكس نظرية "لا يوجد غداء مجاني" (no-free-lunch theorem).
الافتقار إلى القابلية للتفسير: تعتمد الأساليب المتطورة مثل الشبكات العصبية التنافسية للنطاق (DANN) على آليات مثل عكس التدرج (gradient reversal) والتي يصعب شرحها لأصحاب المصلحة غير التقنيين، مما يعيق الثقة في عمليات النشر الحساسة.

تفترض الورقة أن القابلية للتفسير لا ينبغي أن تكون مقايضة مقابل المتانة التنبؤية. وهي تتساءل عما إذا كان معاقبة التداخل المكاني للتفسيرات القائمة على التدرج من مصنف الملصقات ومصنف المربكات (confounder classifier) يمكن أن يعمل كمنظم مباشر وقابل للتفسير لمتانة تحول التوزيع.

المنهجية: إطار عمل eX2L
يقترح المؤلفون إطار عمل الشرح من أجل التعلم (eX2L)، وهو إطار عمل قائم على التفسير يفك الارتباط بين الميزات المربكة والتمثيلات الكامنة للمصنف أثناء التدريب. وتتضمن الآلية الأساسية تدريب نموذجين متزامنين:

مصنف الملصقات الأساسي ( $f_y$ ) المدرب للتنبؤ بالملصق المستهدف $Y$ .
مصنف المربكات المتدرب بالتزامن ( $f_c$ ) المدرب للتنبؤ بالمتغير المربك $C$ (مثل الخلفية، الجنس، أو اللون).

آلية التنظيم
يحقق eX2L ثبات النطاق من خلال الفصل الصريح للتركيز البصري لموديل الملصق عن موديل المربكات. ويستخدم Grad-CAM (رسم خرائط تنشيط الفئة الموزونة بالتدرج) لإنشاء خرائط حرارية تمثل المناطق المكانية التي ينتبه إليها كل نموذج.

خصوصية الهدف: على عكس طرق تدرج المدخلات (مثل SHAP أو Integrated Gradients) التي قد تظل ثابتة تجاه إعادة بارامترية الشبكة، تم اختيار Grad-CAM لكونه أكثر أمانة لبارامترات النموذج المتعلمة.
الانتباه المنفصل: يعاقب الإطار التشابه المكاني بين خريطة الحرارة لـ Grad-CAM لنموذج الملصق ( $L_y$ ) ونموذج المربكات ( $L_c$ ). إذا اعتمدت النماذج على نفس البكسلات، فمن المرجح أن نموذج الملصق يستخدم "تعلم الاختصار" (shortcut learning) عبر إشارات الخلفية الزائفة.
دالة الخسارة: تجمع دالة التدريب الإجمالية $\hat{R}_{eX2L}$ بين خسائر المهام لكلا المصنفين مع خسارة تشابه ( $L_{sim}$ ):
$\hat{R}_{eX2L}(\theta, \phi) = \mathbb{E}_{(x,y,c) \sim D_{train}} [L(x, y; \theta) + \lambda_c L(x, c; \phi) + \lambda_{sim} L_{sim}(x, y, c; \theta, \phi)]$
هنا، تقيس $L_{sim}$ التداخل المكاني (باستخدام تشابه جيب التمام، أو متوسط الخطأ المطلق MAE، أو Soft Dice) بين خرائط Grad-CAM المنفصلة. تم فصل الخرائط (stop-gradient) لمعاملتها كأولويات مكانية ثابتة، لتجنب التكلفة الحسابية للمشتقات من الدرجة الثانية.

استراتيجية أخذ العينات
تؤكد الورقة على الدور الحاسم لـ أخذ العينات الموحد للمجموعات (Uniform Group Sampling). بخلاف أخذ العينات العشوائي، الذي يتبع توزيع التدريب، يضمن أخذ العينات الموحد للمجموعات احتواء كل دفعة (batch) على تمثيلات متوازنة لجميع مجموعات الملصق والمربك. وهذا يمنع النموذج من تعلم نسب الملصق والمربك المتأصلة كطريق مختصر، مما يجبره على الاعتماد على عقوبة Grad-CAM للتمييز بين الميزات الثابتة والميزات الزائفة.

المساهمات الرئيسية

التفسير كمحفز: يتحدى eX2L الافتراض السائد بأن النماذج الأكثر قابلية للتفسير هي بالضرورة أقل دقة. ويثبت أنه يمكن تحقيق ثبات النطاق الوظيفي من خلال فك الارتباط الصريح بين السمات (الملصق والمربك) على مستوى المجموعة باستخدام التنظيم القائم على التفسير.
استهداف مباشر للارتباطات الزائفة: على عكس المنظمات "العمياء"، يستهدف eX2L مباشرةً التداخل المكاني لخرائط الانتباه، مما يجبر نموذج الملصق على تحديد الميزات الفريدة والثابتة بدلاً من الاعتماد على المناطق المربكة.
الكفاءة في التعقيد: يتطلب الأسلوب نموذجين متزامنين فقط وملصقات المربكات (لا يتطلب أقنعة تقسيم حقيقية - ground-truth segmentation masks)، مما يوفر مسار تدريب مبسطاً من مرحلة واحدة مقارنة بالنهج القائم على البيانات ذي المرحلتين مثل Just Train Twice (JTT).

النتائج التجريبية
قيم المؤلفون eX2L على معايير قياسية لتحول المجموعات الفرعية (CMNIST، Waterbirds، CelebA) وعلى معيار Spurious الصارم لتعميم النطاق (تحديات One-to-One Easy و Many-to-Many Hard).

تحولات المجموعات الفرعية: في معيار Spurious Many-to-Many Hard، حقق eX2L (تحديداً نسخة MAE) متوسط دقة (AA) قدره 82.24% ± 3.87% ودقة أسوأ مجموعة (WGA) قدرها 66.31% ± 8.73%. وهذا يتفوق على أحدث التقنيات الحالية (GroupDRO) بنسبة 5.49% في AA و 10.90% في WGA.
الأدلة البصرية: تؤكد تصورات Grad-CAM أن eX2L يقيد التركيز على المناطق الثابتة دلاليًا (مثل أذن الكلب) بينما تشتت النماذج المرجعية مثل ERM و GroupDRO الانتباه عبر الخلفيات المربكة (مثل ملمس الشاطئ).
تحليل الفضاء الكامن: تظهر تصورات UMAP أن eX2L ينتج تمثيلات ملصقات متراصة ومنفصلة جيدًا مع MMD (تباعد المتوسط الأقصى) عالٍ للملصقات، بينما يحقق تداخلاً شبه كامل لميزات المربكات (low MMD للمربكات)، مما يشير إلى فك ارتباط ناجح.
مقايضة الكفاءة: بينما يتسبب eX2L في مضاعفة وقت التدريب تقريبًا مقارنة بـ ERM بسبب حسابات Grad-CAM، فإن هذه التكلفة تحقق مكاسب كبيرة في حالات تحول التوزيع الصعبة حيث تفشل الطرق المرجعية.

الأهمية والادعاءات
تدعي الورقة أن eX2L يوفر آلية شفافة لفك الارتباط بين الارتباطات الزائفة، وبالتالي التخفيف من تحولات التوزيع. وتؤكد أن القابلية للتفسير يمكن أن تعمل كمحفز للمتانة التنبؤية بدلاً من كونها مقايضة ضدها. وتعد هذه المنهجية مهمة بشكل خاص لإعدادات النشر عالية المخاطر (مثل الرعاية الصحية، والأنظمة ذاتية القيادة) حيث تكون القدرة على تدقيق عملية إزالة التحيز أمراً بالغ الأهمية للمساءلة.

يشير المؤلفون بتواضع إلى أن eX2L يتطلب تسميات (annotations) للمربكات على مستوى الصورة أثناء التدريب، مما يحد من قابليته للتطبيق في البيئات الاستكشافية حيث تكون السمات المزعجة غير معروفة. كما يقرون بأن اختيار مقياس التشابه (مثل MAE مقابل Cosine) يجب أن يستند إلى هندسة المربك (على سبيل المثال، العقوبات على مستوى البكسل تعمل جيدًا مع مربكات الخلفية، بينما المقاييس الأكثر مرونة أفضل للسمات المنتشرة مثل لون الشعر). وتخلص الورقة إلى أن eX2L يضع أساسًا للعدالة الخوارزمية من خلال إثبات أن فك الارتباط الصريح بين السمات يمكن أن يؤدي إلى تعميم متفوق دون التضحية بالقابلية للتفسير.