ملخص تقني: DECAF – تفكيك الأدلة، والتناقض، والهشاشة في استجابات الاضطراب

1. بيان المشكلة

تعمل طرق التفسير القائمة على الاضطراب (Perturbation-based explanation methods) على تفسير قرارات النموذج من خلال قياس تغيرات التنبؤ تحت مدخلات معدلة. ومع ذلك، توجد فجوة دلالية جوهرية: المقياس القياسي، وهو مقدار الاستجابة (الفرق المطلق في التنبؤات)، يحدد مقدار رد فعل النموذج ولكنه يفشل في شرح معنى ذلك التفاعل.

تحدد الورقة أن مقادير الاستجابة المتطابقة يمكن أن تنشأ من ثلاثة أنماط سلوكية متميزة:

1. المحاذاة (Alignment): التفاعل يدعم الفرق الفعلي–المضاد للواقع النهائي.
2. المعارضة (Opposition): التفاعل يعارض الفرق النهائي (على سبيل المثال، خطوة وسيطة تقترح نتيجة معينة، لكن الحالة النهائية تقترح أخرى).
3. الهشاشة (Fragility): التفاعل يكون قوياً على طول مسار الاضطراب ولكنه يتلاشى عند نقطة النهاية، مما يشير إلى الحساسية لعملية الكشف بدلاً من وجود تأثير نهائي ذي معنى.

إن معاملة هذه السلوكيات المتميزة كأنها متكافئة يحجب معلومات تفسيرية بالغة الأهمية. غالبًا ما تختزل الطرق الحالية المسارات المعقدة إلى قيمة عددية واحدة أو تعتمد على إشارات داخلية قائمة على التدرج (gradient)، مما يؤدي إلى فقدان الدور الدلالي للاستجابات الوسيطة بالنسبة للتباين النهائي.

2. المنهجية: DECAF

يقدم المؤلف DECAF (تفكيك الأدلة، والتناقض، والهشاشة)، وهو إطار عمل مستقل عن النموذج يقوم بتفكيك استجابات الاضطراب المزدوجة إلى ثلاثة مكونات دلالية.

الإعداد الرسمي

بفرض أن دالة درجة النموذج هي $q$، والمدخل الفعلي هو $x^+$، والمضاد للواقع هو $x^-$، فإن التباين النهائي هو $d = q(x^+) - q(x^-)$. مسار الكشف المزدوج $(x^+(t), x^-(t))$ لـ $t \in [0, 1]$ يبدأ من حالة غير معلوماتية $x^0$ ويتقدم نحو النقاط النهائية. الاستجابة المرحلية الموقعة هي $r(t) = q(x^+(t)) - q(x^-(t))$.

التوجيه الدلالي (Semantic Routing)

يستخدم DECAF التباين النهائي $d$ كمرجع دلالي لتوجيه الاستجابات الوسيطة $r(t)$:

1. البوابة ($a$): تحدد بوابة ثنائية ما إذا كان التباين النهائي ذا معنى ($|d| \ge \epsilon$).
2. الاتجاه ($s$): يحدد إشارة $d$ ($s = \text{sign}(d)$) الاتجاه "الصحيح".
3. التفكيك: يتم توجيه الاستجابة إلى ثلاثة مكونات:
   • الأدلة ($E$): الاستجابات التي تتماشى مع الاتجاه النهائي عندما يكون التباين النهائي نشطاً ($a=1, s \cdot r(t) > 0$).
   • التناقض ($C$): الاستجابات التي تعارض الاتجاه النهائي عندما يكون التباين النهائي نشطاً ($a=1, s \cdot r(t) < 0$).
   • الهشاشة ($F$): الاستجابات التي تحدث عندما يكون التباين النهائي ضئيلاً ($a=0$)، وهي تمثل الحساسية التي لا تستمر حتى نقطة النهاية.

هذا التفكيك غير قابل للفقدان (lossless): $|r(t)| = e(t) + c(t) + f(t)$. المقاييس الإجمالية هي القيم المتوقعة لهذه المكونات عبر المسار ومجموعة البيانات.

الأسس النظرية

تثبت الورقة أنه بموجب ثلاثة بديهيات تشغيلية — الحفظ (لا يوجد مقدار مفقود)، وبوابة نقطة النهاية (عزل الهشاشة في النهايات الضئيلة)، والدعم الاتجاهي (فصل الأدلة/التناقض عبر الإشارة) — فإن هذا التوجيه هو فريد. علاوة على ذلك، يعد DECAF تحسيناً صارماً للمقدار العادي؛ فبينما يمكن اشتقاق المقدار من DECAF ($Abs = E + C + F$)، إلا أن العكس مستحيل، حيث يمكن لملفات تعريف سلوكية متميزة (مثل الأدلة الصرفة مقابل التناقض الصرف) أن تنتج مقادير متطابقة.

3. المساهمات الرئيسية

1. تحديد المشكلة: التعريف الصريح للفجوة الدلالية في تفسيرات الاضطراب حيث يفشل المقدار في التمييز بين المحاذاة، والانعكاس، والحساسية المعتمدة على المسار.
2. واجهة الكشف المزدوج (Paired Reveal Interface): تقديم إطار عمل لتتبع التباينات الفعلية–المضادة للواقع عبر مسارات متطابقة مع تقدم الكشف عن المعلومات.
3. خوارزمية DECAF: تفكيك غير قابل للفقد ويعتمد على التفرد للاستجابات إلى أدلة، وتناقض، وهشاشة بناءً على دلالات نقطة النهاية. لا يتطلب هذا النهج تدرجات، أو تنشيطات داخلية، أو نماذج تفسير متعلمة.
4. التحقق السلوكي: إثبات أن هذه المكونات تتبع سلوكيات مقاسة بشكل مستقل (الاعتماد على الاختصارات، انعكاس التأثير، والحساسية خارج المسار) عبر النماذج العصبية، والخطية، والشجرية.
5. الفائدة العملية: إظهار أن DECAF يستعيد الدلالات الاستجابية حتى عندما تتساوى المقادير، ويوفر تشخيصات مستقرة عبر البروتوكولات المختلفة.

4. النتائج التجريبية

التحقق المنضبط (الأشكال ثلاثية الأبعاد وCovertype)

• الأدلة: في مهام الرؤية ذات الاختصارات المترابطة (مثل لون الجدار مقابل شكل الجسم)، يرتبط مكون الأدلة ($E$) ارتباطاً قوياً (معامل سبيرمان $\rho = 0.936$) مع ضعف النموذج تجاه عكس الاختصار.
• الهشاشة: في المهام المصممة لاستحثاث الحساسية للحالات الوسيطة (مثل تغييرات لون الأرضية)، يتتبع مكون الهشاشة ($F$) معدل تغير التنبؤات للأزواج التي تكون فيها نقطة النهاية فارغة ($\rho = 0.974$).
• التناقض: في المهام التي ينعكس فيها اتجاه التأثير تحت تغير السياق، يتتبع التناقض ($C$) معدل تبديل التسمية ($\rho = 0.961$)، بينما يفشل المقدار العادي ($\rho = -0.036$).
• النقل للبيانات الجدولية: في مجموعة بيانات Covertype، تتبعت مكونات DECAF بنجاح عمليات الحفظ، والانعكاس، والتغيرات عند نقطة النهاية عبر 135 مصنفاً (خطية، شجرية، وعصبية)، متفوقة على SHAP وغيره من النماذج المرجعية في تحديد الآلية.

التدقيق في العالم الحقيقي (ImageNet-9)

• الاستعادة الدلالية: في حديقة تضم 72 نموذجاً (24 نموذجاً جاهزاً من ImageNet-1k و48 نموذجاً مضبوطاً من ImageNet-9)، حدد DECAF بشكل صحيح الدور السلوكي المهيمن (أدلة، تناقض، أو هشاشة) في 96.4% من الحالات التي تمتلك فيها النماذج مقادير استجابة متطابقة تقريباً. في المقابل، حقق المقدار وحده دقة قدرها 35.0% فقط.
• حساسية المسار: أدى تغيير مسار الكشف (مثلاً من مزج عالمي إلى كشف قطعة بقطعة) إلى زيادة إجمالي مقدار الاستجابة بنسبة تقارب 80%، ولكن هذه الزيادة كانت مدفوعة بالكامل تقريباً بـ الهشاشة والتناقض، بينما ظل الأدلة مستقراً. وهذا يثبت أن المقدار الأعلى لا يعني بالضرورة أدلة أقوى.
• استقرار التصنيف: كانت تصنيفات النماذ بناءً على المقدار العادي غير مستقرة للغاية عبر مسارات الكشف المختلفة ($\rho \approx 0.17$)، بينما ظلت التصنيفات القائمة على الأدلة والتناقض مستقرة ($\rho > 0.77$).

معايير التفسير والقياس

• الأداء: في مجموعات FunnyBirds وImageNet-1k، تفوقت مسارات DECAF القصيرة (3–9 مراحل) على نماذج التفسير العامة المختبرة (DeepLIFT، Integrated Gradients، SmoothGrad، RISE).
• الكفاءة: على نموذج DINOv2 بمليار معلمة، طابقت مسارات DECAF القصيرة جودة نموذج قوي قائم على التدرج (Integrated Gradients) مع وقت تشغيل أقل بـ 4.75 مرة وذاكرة ذروة أقل بـ 2.36 مرة، حيث يتطلب DECAF فقط عمليات التمرير الأمامي (forward passes).

5. الأهمية والادعاءات

تدعي الورقة أن DECAF يعالج غموضاً دلالياً متأصلاً في طرق الاضطراب. فمن خلال تفكيك مسار الاستجابة بالنسبة للتباين النهائي، فإنه يكشف عن نوع الاستجابة التي أنتجت مقداراً معيناً.

• القابلية للتفسير: يميز بين النموذج الذي يعتمد باستمرار على ميزة ما (أدلة)، والنموذ de الذي يشعر بالارتباك أو يعكس قراره (تناقض)، والنموذ الذي يتحسس لمسار الكشف المحدد وليس للحالة النهائية (هشاشة).
• المتانة: توفر المكونات تشخيصات أكثر استقراراً عبر بروتوكولات الاضطراب المختلفة مقارنة بالمقدار الخام.
• الكفاءة: يقدم طريقة تفسير عالية الجودة ومستقلة عن النموذج، وتتوسع بكفاءة مع النماذج الكبيرة دون الحاجة إلى تدرجات أو وصول داخلي.

يؤكد المؤلف أن هذه الأدوار نسبية للزوج المختار من المضادات للواقع، والدرجة، ومسار الكشف؛ فهي لا تستنتج آليات سببية كامنة بل تصف السلوك الملحوظ لاستجابة النموذج تجاه تدخل محدد. ويشير العمل إلى أن جهود التفسير المستقبلية يجب أن تتجاوز المقادير القياسية لتنظر في التكوين الدلالي لمسار الاستجابة.