ملخص تقني: AGOP-IxG لتخصيص السمات المحلية على البيانات الجدولية

بيان المشكلة

تنتشر خطوط أنابيب التعلم الآلي المؤتمت (AutoML) بشكل متزايد في النماذج "الصندوق الأسود" (black-box) في المجالات عالية المخاطر (مثل التقييم الائتماني، والمخاطر الطبية)، مما يستلزم تقديم تفسيرات لكل تنبؤ للمنظمين والمستخدمين النهائيين. وبينما تُعد طرق تخصيص السمات مثل SHAP وIntegrated Gradients (IG) وLIME معايير قياسية، فإن اختيارها غالبًا ما يكون مدفوعًا بالعرف بدلاً من الدقة المقاسة. توجد فجوة تقييم جوهرية: تفتقر البيانات الجدولية في العالم الحقيقي إلى حقيقة أساسية (ground-truth) لتخصيص السمات، مما يفرض الاعتماد على بدائل دائرية (مثل الاتفاق بين الطرق) أو مقاييس عالمية (مثل ROAR) التي لا تقيم جودة التفسيرات الفردية لكل عينة. وبناءً على ذلك، يفتقر الممارسون إلى أساس مبدئي لاختيار طريقة التخصيص التي توازن بين الدقة، والمتانة ضد الضوضاء، والتكلفة الحسابية.

المنهجية

الطريقة المقترحة: AGOP-IxG

يقترح المؤلفون AGOP-IxG، وهي طريقة سريعة لتخصيص السمات لكل عينة للنماذج التصنيفية الجدولية، تجمع بين InputXGradient ومرشح تدرج مشتق من مصفوفة متوسط حاصل الضرب الخارجي للتدرج (AGOP).

1. مرحلة التدريب (Fit):

   • لتدريب مجموعة من $n$ من العينات، يتم حساب تدرج درجة صنف التنبؤ ($g_i = \nabla_x \hat{s}_{c_i}(x_i)$) لكل عينة.
   • يتم إنشاء مصفوفة AGOP $M$ كحاصل الضرب الخارجي التجريبي للتدرج: $M = \frac{1}{n} \sum_{i=1}^n g_i g_i^\top$.
   • يتم إجراء تفكيك للقيم الذاتية للمصفوفة $M$ ($M = V\Lambda V^\top$). يتم تطبيق تقليص من الرتبة-$K$، حيث يتم الاحتفاظ فقط بالمتجهات الذاتية التي تتجاوز قيمها الذاتية 1% من أكبر قيمة ذاتية ($\lambda_{max}$). وهذا ينشئ إعادة بناء منخفضة الرتبة $M_K = V_K \Lambda_K V_K^\top$.
   • تعمل هذه العملية كمرشح للضوضاء، حيث تقوم بتضخيم مكونات التدرج المتوافقة مع اتجاهات التوزيع التدريبي عالية التباين، مع تصفير اتجاهات الضوضاء ذات القيم الذاتية المنخفضة.

2. مرحلة التخصيص (Test):

   • لعينة اختبار $x$ مع خط أساس $x'$ (متوسط التدريب لكل ميزة)، يتم حساب التدرج $g$.
   • يتم ضرب التدرج مسبقًا في مصفوفة AGOP المقلصة: $g_{attr} = g M_K$.
   • يتم حساب التخصيص النهائي $e_j$ كحاصل ضرب فرق الميزة في التدرج المفلتر: $e_j = (x_j - x'_j) \cdot (g_{attr})_j$.
   • يتم تطبيع التخصيصات لتلخص إلى 1.

الكفاءة الحسابية: من خلال استخدام التفكيك منخفض الرتبة ($M_K = V_K \Lambda_K V_K^\top$)، تتجنب الطريقة تشكيل المصفوفة الكاملة $d \times d$، مما يتطلب فقط عمليتي ضرب مصفوفة ومتجه. وينتج عن ذلك وقت تشغيل أسرع بحوالي 350 إلى 1,650 مرة من SHAP.

إطار التقييم

يقدم البحث معيارًا من جزأين:

1. الجزء 1: الاختبارات الاصطناعية المحكومة: تم إنشاء ثلاث مهام جدولية متعددة الفئات (خطية، غير خطية متفرقة، وتفاعل الميزات) حيث يمكن اشتقاق تخصيص الحقيقة الأساسية تحليليًا أو عددياً. تشمل المقاييس ارتباط رتب سبيرمان (Spearman rank correlation)، ودقة أعلى-$k$ (Top-$k$ precision)، وكتلة ميزة الضوضاء (النسبة المخصصة للميزات غير ذات الصلة).
2. الجزء 2: الإخلاص العالمي في العالم الحقيقي: يتم تطبيق بروتوكول ROAR (الإزالة وإعادة التدريب) على مجموعتي بيانات Adult Income وCredit Card Default لقياس دقة ترتيب الميزات العالمي.

المساهمات الرئيسية

1. خوارزمية AGOP-IxG: مخطط تخصيص مبتكر يجمع بين InputXGradient ومرشح تدرج AGOP المقلص من الرتبة العليا-$K$. وهي مصممة خصيصًا لدقة تخصيص السمات المحلية لكل عينة.
2. إطار تقييم محكوم: مجموعة اختبارات اصطناعية بارامترية (خطية، غير خطية متفرقة، تفاعل) ذات تخصيص حقيقة أساسية معروفة، مما يسمح بالتقييم المباشر لجودة كل عينة دون الاعتماد على مقاييس بديلة. الإطار مستقل عن النموذج ومصمم لإعادة الاستخدام في خطوط أنابيب AutoML.
3. التحليل التجريبي الشامل: مقارنة AGOP-IxG مع أربع طرق أساسية (SHAP, Integrated Gradients, InputXGradient, LIME)، مع تسليط الضوء على المقايضة بين الدقة المحلية والإخلاص العالمي.

النتائج

الجزء 1: الاختبارات الاصطناعية

• المتانة ضد الضوضاء: حققت AGOP-IxG أدنى كتلة لميزة الضوضاء في جميع المهام الاصطناعية الثلاث، متفوقة بشكل كبير على SHAP وIG وLIME. وهذا يؤكد فعالية تقليص AGOP في تصفية الضوضاء.
• ارتباط الرتب: تصدرت AGOP-IxG في ارتباط رتب سبيرمان في جميع المجموعات الثلاث.
• دقة أعلى-$k$:
  • المهمة الخطية: تفوقت LIME قليلاً على AGOP-IxG (0.915 مقابل 0.895)، وهو ما يتوافق مع ملاءمة LIME للعمليات الخطية.
  • غير الخطية المتفرقة: تعادلت AGOP-IxG مع SHAP تقريبًا (0.514 مقابل 0.515)، رغم أن AGOP-IxG تصدرت في ارتباط سبيرمان.
  • التفاعل: تصدرت AGOP-IxG على SHAP في جميع المقاييس (سبيرمان 0.534 مقابل 0.466).
• وقت التشغيل: كانت AGOP-IxG أسرع بعدة مراتب (0.02–0.10 ثانية لكل مجموعة بيانات) مقارنة بـ SHAP (~33 ثانية).

الجزء 2: بيانات العالم الحقيقي (ROAR)

• في مجموعتي بيانات Adult Income وCredit Card Default، أنتجت جميع الطرق الخمس نتائج متقاربة للغاية (انتشار AUC < 0.01).
• لم تهيمن طريقة واحدة على الترتيب العالمي للميزات. جاءت AGOP-IxX في المرتب-الأخير في Adult وفي المرتبة الثالثة في Credit، لكن الفروقات كانت ضئيلة (~1.7% تغير نسبي).
• يشير المؤلفون إلى أن هذا يتوافق مع تصميم AGOP-IxG: فهي تحسن الدقة المحلية لكل عينة، بينما يقيم ROAR الترتيب العالمي المستمد من متوسط المتجهات المطبوعة.

الأهمية والادعاءات

يزعم البحث أن AGOP-IxG توفر انحيازًا استقرائيًا قويًا لـ قابلية التفسير المحلية لكل تنبؤ دون التضحية بوقت التشغيل، مما يجعلها ذات قيمة تشغيلية في خطوط أنابيب AutoML ذات الميزانيات الزمنية الصارمة (مثل الاستدلال في الوقت الفعلي).

• توجيه اختيار الطريقة: تشير النتائج إلى أن اختيار طريقة التخصييد يجب أن يعتمد على المستهلك النهائي. بالنسبة لـ تفسيرات القرارات الفردية (مثل التقارير التنظيمية عن حالات الرفض المحددة)، تقدم AGOP-IxG دقة محلية ومتانة ضد الضوضاء فائقة. أما بالنسبة لـ اختيار الميزات العالمي داخل خط أنابيب AutoML، فإن اختيار الطريقة لا يهم كثيرًا، حيث تتقارب الطرق جنبًا إلى جنب في أداء الترتيب العالمي.
• قابلية النشر: تكلفة AG% الملي ثانية لكل عينة لـ AGOP-IxG تمكن من النشر في الوقت الفعلي (مثل إرفاق رموز الأسباب بكل قرار ائتماني مرفوض)، بينما زمن انتقال SHAP يجعلها غير مجدية على نطاق واسع (على سبيل المثال، شرح مليون قرار سيستغرق ~9 ساعات مع SHAP مقابل <2 دقيقة مع AGOP-IxG).
• فائدة المعيار: تعمل المولدات الاصطناعية المقترحة كأداة مستقلة عن الطريقة لأنظمة AutoML المستقبلية للاختيار التلقائي أو الضبط التلقائي لطرق التخصيص بناءً على الدقة المقاسة بدلاً من العرف.

يظل المؤلفون متواضعين، معترفين بأن النتائج تستند إلى نماذج MLP ومهام اصطناعية، وأن الحقيقة الأساسية للتخصيص غير متوفرة في البيانات الحقيقية. هم لا يدعون أن AGOP-IxG متفوقة عالميًا، بل يوضحون أنها تتفوق في نظام محدد وهو التخصيص المحلي، المتين ضد الضوضاء، وفي الوقت الفعلي.