Beyond $L_2$: Generalizing Abductive Latent Explanations to Diverse Prototype-Based Architectures

ملخص تقني: ما وراء $L_2$: تعميم التفسيرات الكامنة الاستنباطية على البنى المتنوعة القائمة على النماذج الأولية

بيان المشكلة
تُعد الشبكات العصبية القائمة على النماذج الأولية (PBNs) بنى "قابلة للتفسير بالتصميم"، حيث تبرر تنبؤاتها من خلال الإشارة إلى أمثلة تدريب مشابهة (نماذج أولية). مؤخراً، تم تقديم التفسيرات الكامنة الاستنباطية (ALE) لتوفير تفسيرات رسمية ومضمونة رياضياً لهذه الشبكات عبر حساب حدود ضيقة لمسافات الفضاء الكامن. ومع ذلك، فإن صيغ ALE الحالية مقيدة بصرامة بالمساحات الكامنة الإقليدية باستخدام مسافات $L_2$. وهذا يخلق فجوة حرجة: إذ تستخدم النماذج الأولية الحديثة والمتطورة (SOTA) بشكل متزايد تمثيلات غير إقليدية، بما في ذلك المقاييس الكروية (تشابه جيب التمام)، والكثافات الغاوسية، والإسقاطات البعدية (softmax). إن طرق التفسير الرسمية الحالية غير متوافقة مع هذه الهياكل الهندسية المتنوعة، مما يمنع التحليل التفسيري الصارم عبر الطيف الكامل للبنى القائمة على النماذج الأولية.

المنهجية
يعمل المؤلفون على تعميم إطار عمل ALE لدعم بنى النماذج الأولية غير الإقليدية من خلال اشتقاق خوارزميات تحديد حدود محددة لمختلف المتغيرات الهندسية. يظل الهدف الجوهري كما هو: حساب مجموعات فرعية دنيا من النماذج الأولية التي تضمن تنبؤ النموذج عبر تضييق حدود قيم التنشيط بشكل تكراري.

1. تشابه جيب التمام (الهندسة الكروية): بالنسبة للبنى مثل TesNet التي تستخدم تشابه الضرب النقطي على كرة وحدة، قام المؤلفون بتكييف الاستدلال ليتناسب مع الهندسة الكرية. وبما أن تشابه جيب التمام لا يحقق متباينة المثلث القياسية، فقد استخدموا المسافة الزاوية ($d_\angle$) لاشتقاق الحدود. وقد قدموا تقريب تقاطع القمة الكروية، حيث يتم تحديد تقاطع قمتين كرويتين (المعرفتين برقعة ونموذجين أوليين) من خلال قمة كروية محيطة ذات نصف قطر أدنى. يسمح هذا باشتقاق حدود دنيا وعليا ضيقة للتشابه بين رقعة كامنة والنماذج الأولية غير الملحوظة.
2. الإسقاط البعدي (هندسة السيمبلكس/المنبسط): بالنسبة للبنى مثل PIP-Net التي ترسم التنشيطات إلى منبسط احتمالي عبر دالة softmax، ينتقل الاستدلال الهندسي من المسافات المكانية إلى حفظ الكتلة الاحتمالية. يقترح المؤلفون تفسيراً للمنبسط (Simplex Explanation) حيث يؤدي إضافة زوج $\langle \text{patch}, \text{prototype} \rangle$ إلى التفسير إلى "استهلاك" جزء من الكتلة الاحتمالية، مما يحد بصرامة من الحد الأعلى للنماذج الأولية المتبقية. كما قدموا أيضاً تفسيراً للأوزان المتفرقة (Sparse-Weight Explanation) للنماذج ذات رؤوس التصنيف المتفرقة وغير السالبة، مما يسمح بحساب دقيق للدرجة للفئة المتنبأ بها وتحديد حدود ضيقة للفئات المنافسة.
3. التشابه الغاوسي المتماثل المناحي (Isotropic Gaussian Similarity): بالنسبة للشبكات الاحتمالية (مثل ProtoGMM) حيث تكون النماذج الأولية عبارة عن توزيعات غاوسية، يقوم المؤلفون بإعادة صياغة المشكلة لتتوافق مع مساحة إقليدية عالمية. ومن خلال افتراض التباين المتماثل المناحي، يستعيدون مسافة إقليدية "حقيقية" من درجة التشابه. ثم يطبقون تقريب تقاطع الكرة الفائقة (HIA) في هذه المساحة الإقليدية الممسوحة، ثم يسقطون الحدود الهندسية الناتجة مرة أخرى في فضاء التنشيط الخاص بالنموذج.
4. التشابه البؤري (Focal Similarity): بالنسبة للبنى مثل ProtoPool التي تستخدم التجميع البؤري لقمع ضوضاء الخلفية، يوضح المؤلفون أن حدود ALE المكانية الحالية يمكن تجميعها لتقييد الإحصائيات التجميعية (القيم القصوى والمتوقعة) المطلوبة لعملية التجميع البؤري، دون تغيير الحل الهندسي الأساسي.

المساهمات الرئيسية

• تعميم ALE: يوسع البحث إطار عمل ALE ليتجاوز مساحات $L_2$ الإقليدية ليدعم المقاييس الكروية، والكثافات الغاوسية، والإسقاطات القائمة على المنبسط.
• خوارزميات تحديد حدود مبتكرة: يشتق المؤلفون بشكل منهجي كيفية ربط البنى المتنوعة بالحدود الموجودة أو بناء خوارزميات تحديد حدود جديدة خاصة بكل بنية (مثل تقاطع القمة الكروية، وحفظ كتلة المنبسط).
• إطار عمل موحد: من خلال توحيد هذه النماذج المتنوعة تحت إطار عمل رسمي واحد، يتيح هذا العمل أول مقارنة صارمة عبر البنى المختلفة لمستوى القدرة على التفسير.
• التحقق التجريبي: يتحقق المؤلفون من هذه البناءات النظرية عبر حساب التفسيرات الرسمية الدنيا للمجموعات الفرعية على مصنفات صور مدربة بالكامل عبر مجموعات بيانات متعددة (Oxford Flowers 102, Oxford IIIT Pet, CUB200) وبنى مختلفة (ProtoPNet, PIP-Net, TesNet, Gaussian ProtoPNet).

النتائج
تكشف التجارب عن مقايضات كبيرة بين حجم التفسير (القابلية للتفسير) والتكلفة الحسابية عبر النماذج المختلفة:

• PIP-Net: تحقق النماذج ذات الرؤوس الخطية المتفرقة وغير السالبة (PIP-Net) أصغر أحجام التفسير المطلقة وأسرع أوقات الحساب (حوالي 0.07 ثانية)، مما يشير إلى أنها أكثر توافقاً بطبيعتها مع التحقق الرسمي.
• نموذج المنبسط (Simplex Paradigm): يحقق نموذج تفسير المنبسط (لـ PIP-Net) أصغر حجم تفسير نسبي (0.1%–0.2%)، مما يشير إلى قدرة ممتازة على التوسع مع أبعاد الفضاء الكامن.
• النماذج الغاوسية: يوفر تقريب HIA المقياس (Scaled HIA) أصغر أحجام التفسير النسبية للنماذج الغاوسية (4.6%–6.2%) ولكنه يتسبب في أعلى تكلفة حسابية (تصل إلى 142 ثانية)، مع وجود بعض التكوينات التي تتجاوز الوقت المحدد في المجموعات البيانية الكبيرة.
• النماذج الكروية/تشابه جيب التمام: بينما يحقق Spherical HIA أحجام نسبية تنافسية، إلا أن كل من Cosine TI و Spherical HIA يعانيان من تباين عالٍ ومشاكل في التوسع، وغالباً ما يتجاوزان الوقت المحدد في مجموعة بيانات CUB200.
• المقياس: يقدم المؤلفون مقياس "الحجم النسبي" لتوحيد أحجام التفسير عبر النماذج المختلفة، مما يوفر مؤشراً قوياً للقدرة الجوهرية على التفسير بمعزل عن العدد الإجمالي للنماذج الأولية.

الأهمية
يزعم البحث أنه يقدم أول مقارنة كمية للقدرة على التفسير الرسمية عبر الشبكات المختلفة القائمة على النماذج الأولية. ومن خلال توسيع ALE ليشمل المساحات غير الإقليدية، فإنه يسد الفجوة بين الضمانات النظرية للذكاء الاصطناعي القابل للتفسير (Formal XAI) والواقع العملي للبنى الحديثة والمتنوعة القائمة على النماذج الأولية. يسلط العمل الضوء على مبادئ تصميم محددة—مثل استخدام الرؤوس المتفرقة وغير السالبة—التي تؤدي إلى قدرة أفضل على التفسير الرسمي. كما يثبت أنه بينما يمكن للدقة الهندسية (مثل النماذج الغاوسية أو الكروية) أن تحقق حدوداً ضيقة، إلا أنها غالباً ما تأتي بتكلفة حسابية باهظة، مما يؤكد الحاجة إلى تصميم معماري دقيق للموازنة بين ضمانات التفسير وقابلية التوسع.