Counterfactual Explanations on Robust Perceptual Geodesics

إليك ملخص تقني مفصل لورقة البحث بعنوان "Counterfactual Explanations on Robust Perceptual Geodesics" (ICLR 2026).

1. بيان المشكلة

تتناول الورقة خللاً جوهرياً في طرق التفسير المضاد في الفضاء الكامن (Latent-Space Counterfactual Explanation - CE). تهدف التفسيرات المضادة (CEs) إلى إيجاد أصغر تغيير دلالي (semantic perturbation) للمدخل $x$ يؤدي إلى تغيير تنبؤ النموذج إلى الفئة المستهدفة $y'$. بينما تقوم الطرق الحالية (مثل REVISE، وVSGD، وRSGD) بتحسين هذا في الفضاء الكامن للنماذج التوليدية (مثل GANs)، إلا أنها تعاني من ثلاثة أوجه فشل حرجة في مجالات الرؤية عالية الأبعاد:

1. العبور خارج المنطو (Off-Manifold Traversal): غالباً ما يتجاهل التحسين الانحناء الجوهري لمنطو البيانات (data manifold)، مما يؤدي إلى صور مولدة غير منطقية دلالياً أو "خارج المنطو" (أمثلة عدائية لا تبدو كبيانات حقيقية).
2. التحسين المتدرج المحلي (Local Gradient Optimization): تفتقر الطرق التي تعتمد على تحديثات التدرج المحلي (مثل SGD) إلى التوجيه الهيكلي العالمي، مما يؤدي بها إلى التقارب نحو مناطق عدائية "داخل المنطو" حيث تبدو الصورة حقيقية ولكن التغيير يكون هشاً وغير ذي معنى دلالي.
3. عدم توافق المقاييس (Metric Misalignment): المقاييس الموجودة حالياً (مثل $\ell_2$ على مستوى البكسل أو الميزات من مصنفات قياسية غير متينة) لا تتوافق مع الإدراك البشري؛ فهي تفشل في التمييز بين التغييرات الدلالية ذات المعنى وبين الضجيج العدائي، وغالباً ما تشجع على الأخير.

التحدي الجوهري هو أن المقاييس القياسية لا يمكنها التمييز بين التفسير المضاد الصالح (تغيير دلالي ذو معنى) والمثال العدائي (تغيير غير دلالي)، حتى عندما يقع كلاهما داخل منطو البيانات.

2. المنهجية: الجيوديسيا الإدراكية المضادة (Perceptual Counterfactual Geodesics - PCG)

تقترح المؤلفات طريقة PCG، وهي طريقة تصيغ توليد التفسيرات المضادة كمسألة تحسين عالمي مدرك للانحناء على منطو ريماني (Riemannian manifold). الابتكار الرئيسي هو استحثاث مقياس إدراكي متين في الفضاء الكامن لنموذج توليدي.

أ. المقياس المحيط الإدراكي المتين (Robust Perceptual Ambient Metric)

بدلاً من استخدام $\ell_2$ في فضاء البكسل أو الميزات من المصنفات القياسية، تبني PCG مقيساً محيطياً مركباً $G_R(x)$ في فضاء الصور باستخدام نماذج رؤية متينة مدربة عدائياً.

• المصدر: الطبقات المتوسطة لنموذج ResNet-50 متين (أو هيكل متين مشابه).
• البناء: المقياس هو مجموع موزون لعمليات السحب (pullbacks) للمقياس الإقليدي من فضاءات الميزات المتينة:
  $$G_R(x) = \sum_{k=1}^{K} w_k J_{h_k}(x)^\top J_{h_k}(x)$$
  حيث $J_{h_k}$ هو جاكوبي (Jacobian) لتنشيط الطبقة $k$-ثالثة $h_k$.
• التعليل: تتعلم النماذج المتينة تمثيلات حيث تتماشى التدرجات مع الإدراك البشري وتكون مقاومة للقفزات العدائية. استخدام هذه الميزات يضمن أن المقياس يعاقب الاتجاهات الهشة ويفضل التباينات الدلالية السلسة والصالحة.

ب. هندسة الفضاء الكامن

يستحث المولد $g: \mathcal{Z} \to \mathcal{X}$ مقيساً في الفضاء الكامن $G_Z(z)$ عبر سحب (pullback) المقياس المحيط المتين:
$$G_Z(z) = J_g(z)^\top G_R(g(z)) J_g(z)$$
تضمن هذه الهندسة أن المسافات في الفضاء الكامن تعكس التشابه الإدراكي في فضاء الميزات المتينة، وليس فقط التشابه في البكسلات.

ج. التحسين ثنائي المرحلة

تبحث PCG عن مسار سلس (جيوديسيا) $\gamma(t)$ يربط المدخل بالكود الكامن للفئة المستهدفة. يتم تقسيم التحسين إلى $T+1$ من النقاط ويمضي في مرحلتين:

1. المرحلة الأولى: بناء الجيوديسيا المتينة

   • الهدف: إيجاد أقصر مسار (جيوديسيا) بين الكود الكامن للمدخل $z_0$ والكود الكامن للفئة المستهدفة $z_T$ تحت المقياس المتين.
   • الهدف (Objective): تقليل الطاقة الإدراكية المتينة:
     $$E_{robust}(z) = \frac{1}{2} \sum_{i=0}^{T-1} \sum_{k=1}^{K} w_k \frac{1}{\delta t} \| h_k(g(z_{i+1})) - h_k(g(z_i)) \|_2^2$$
   • النتيجة: مسار سلس، داخل المنطو، يعبر المناطق الدلالية المتينة، متجنباً الاختصارات العدائية.

2. المرحلة الثانية: صقل نقطة النهاية

   • الهدف: ضبط المسار لضمان تصنيف نقطة النهاية $z_T$ للفئة المستهدفة $y'$ مع تقليل المسافة إلى المدخل الأصلي.
   • الهدف (Objective): تقليل خسارة مشتركة:
     $$L(z) = E_{robust}(z) + \lambda \cdot \ell(f(g(z_T)), y')$$
   • الآلية: تستخدم جدولة ديناميكية لـ $\lambda$ (تبدأ صغيرة، وتزديد بمرور الوقت) واستراتيجية إعادة الارتكاز (re-anchoring). بشكل دوري، تتم إعادة ضبط نقطة النهاية لتكون النقطة على المسار الحالي الأقرب للمدخل والتي لا تزال تحقق التصنيف المستهدف. هذا يمنع المسار من الانحراف بعيداً أو الانهيار عائداً إلى المدخل.

3. المساهمات الرئيسية

1. الجيوديسيا الإدراكية المضادة (PCG): إطار عمل مبتكر يولد التفسيرات المضادة عبر تتبع الجيوديسيا تحت مقياس ريماني مستحث من ميزات الرؤية المتينة.
2. حل الانقسام الدلالي: تثبت الورقة أن المقياس الريماني المتين يسمح للتحسين بعبور "القسم الدلالي"، مما ينتج تفسيرات مضادة صالحة بدلاً من الأمثلة العدائية داخل المنطو (on-manifold AEs).
3. الاستيفاء الجيوديسي الإدراكي: تمكن هذه الطريقة من إجراء استيفاءات (interpolations) سلسة ومتماسكة دلالياً بين الفئات، مما يحافظ على بنية الفئة ويتجنب عيوب "الدمج" الشائعة في الاستيفاء الخطي الكامن.
4. مقاييس التقييم المتينة: قدم المؤلفون واستخدموا مقاييس مسافة متينة (مثل $L_R$ و R-FID و R-LPIPS) للكشف عن أوجه الفشل التي تخفيها المقاييس القياسية (مثل $\ell_2$ للبكسل).

4. النتائج التجريبية

تم تقييم الطريقة على ثلاث مجموعات بيانات عالية الدقة: AFHQ (حيوانات)، FFHQ (وجوه)، و PlantVillage (أوراق نباتات)، باستخدام مولدات StyleGAN2/3.

• الأداء النوعي:
  • النماذج المرجعية (REVISE, VSGD, RSGD): أنتجت عيوباً خارج المنطو (أنسجة مشوهة، غموض في الفئة) أو أمثلة عدائية داخل المنطو (تغييرات هشة دلالياً).
  • PCG: ولدت تغييرات دنيا وصادقة دلالياً. حافظت الانتقالات على الهوية (في الوجوه) وبنية الأنواع (في الحيوانات) مع تغيير السمة المستهدفة بسلاسة.
• الأداء الكمي:
  • مقاييس المسافة: حققت PCG أدنى المسافات عبر جميع المقاييس، لا سيما تحت $L_R$ (مسافة السحب المتينة) و $L_F$ (سحب الميزات القياسية)، مما يشير إلى قرب إدراكي متفوق.
  • الواقعية (FID/R-FID): حققت PCG أدنى قيمة لـ R-FID (9.1 مقابل 28.3 لـ RSGD-C)، مما يثبت أن مخرجاتها أقرب إلى التوزيع المستهدف الحقيقي في فضاء الميزات المتينة.
  • محاذاة المنطو: أظهرت PCG أعلى درجة محاذاة المنطو (MAS) و هامش دلالي (SM)، مما يؤكد أن مساراتها تبقى ضمن منطو البيانات الصالح وتنتقل إلى المناطق المأهولة حقاً بالفئة المستهدفة.
  • السلاسة: أظهرت مقاييس المسار ($\Delta$-LPIPS) أن جيوديسيا PCG تغير المحتوى بشكل تدريجي أكثر بكثير من الاستيفاءات الخطية أو الكروية.

5. الأهمية والتأثير

• التقدم النظري: تتحدى الورقة الافتراض القائل بأن مقاييس المسافة لا يمكنها التمييز بين التفسيرات المضادة (CEs) والأمثلة العدائية (AEs). وتثبت أنه إذا تم تزويد الفضاء الكامن بـ هندسة متينة دلالياً، فإن التحسين يتجنب طبيعياً الأفخاخ العدائية.
• المنفعة العملية: توفر PCG أداة موثوقة لتوليد تفسيرات لنماذج التعلم العميق في المجالات الحرجة للسلامة (مثل التصوير الطبي، والقيادة الذاتية) حيث تكون التفسيرات "خارج المنطو" أو "الهشة" غير مقبولة.
• معيار التقييم: تسلط الضوء على عدم كفاية المقاييس القياسية (مثل $\ell_2$ للبكسل أو FID القياسي) لتقييم التفسيرات المضادة، وتدعو إلى استخدام مقاييس متينة ومدركة للهندسة كمعيار جديد لتقييم جودة التفسير.
• القابلية للتعميم: رغم تركيزها على StyleGANs، فإن إطار العمل الخاص باستحثاث المقاييس المتينة عبر السحب (pullback) قابل للتطبيق على عائلات توليدية أخرى، مما يمهد الطريق لتفسير متين وقابل للتفسير في مجالات الرؤية عالية الأبعاد.