ملخص تقني: استحالة العزو (The Attribution Impossibility)

1. بيان المشكلة

تتناول الورقة البحثية قيدًا جوهريًا في مجال الذكاء الاصطناعي القابل للتفسير (XAI): وهو موثوقية ترتيب أهمية الميزات عندما تكون ميزات المدخلات متداخلة خطيًا (Collinear). وبينما تُستخدم طرق مثل SHAP (تفسيرات شابل الإضافية) على نطاق واسع لتفسير تنبؤات النماذج، يوضح المؤلفون أنه بالنسبة للميزات المتداخلة خطيًا، فإن ترتيب الأهمية ليس خاصية مستقرة لعلاقة النموذج بالبيانات، بل هو أثر عشوائي ناتج عن عملية التدريب.

تحديدًا، تبحث الورقة فيما إذا كان يمكن لترتيب الميزات أن يحقق ثلاثة معايير في آن واحد:

1. الأمانة (Faithful): أن يعكس الترتيب عمليات العزو المحددة التي تعلمها نموذج فردي بعينه.
2. الاستقرار (Stable): أن يكون الترتيب قابلًا للتكرار عبر عمليات تدريب مختلفة (مثل بذور عشوائية مختلفة) لنفس بنية النموذج على نفس البيانات.
3. الاكتمال (Complete): أن يوفر الترتب تسلسلًا صارمًا لكل زوج من الميزات (أي لا توجد حالات تعادل).

الأطروحة المركزية هي أنه في ظل ظروف تداخل الميزات خطيًا (الارتباط $\rho > 0$)، من المستحيل رياضيًا تحقيق هذه الشروط الثلاثة معًا في وقت واحد.

2. المنهجية والإطار النظري

خاصية راشومون ومبرهنة الاستحالة

المساهمة النظرية الجوهرية هي مبرهنة استحالة العزو (المبرهنة 5). يعتمد الإثبات على خاصية راشومون (Rashomon Property)، والتي تفترض أنه بالنسبة للميزات المتداخلة خطيًا، توجد نماذج متعددة قريبة من المثالية (مجموعة راشومون) تقوم بترتيب الميزات المتماثلة بترتيبات متعاكسة.

• منطق الإثبات: إذا كان الترتيب مكتملًا، فيجب أن يختار ترتيبًا معينًا (مثل $j \succ k$). وإذا كان مستقرًا، فيجب أن يسري هذا الترتيب على جميع النماذج. ومع ذلك، تضمن خاصية راشومون وجود نموذج حيث يكون $k \succ j$. وبالتالي، لا يمكن للترتيب أن يكون أمينًا لتلك الميزة المحددة ومستقرًا عبر المجموعة في آن واحد.
• الحدود الكمية: تشتق الورقة حدودًا كمية لشدة عدم الاستقرار هذا لمجموعات مختلفة من النماذج:
  • تعزيز التدرج (GBDT): تتباعد نسبة العزو (هيمنة ميزة "المتحرك الأول") كـ $1/(1-\rho^2)$ (أو $1/(1-\alpha\rho^2)$ مع تصحيحات العمق).
  • لاسو (Lasso): النسبة هي مالانهاية ($\infty$) لأي $\rho > 0$ بسبب الاختيار الحاد.
  • الشبكات العصبية: عدم الاستقرار مشروط بالتهيئة وديناميكيات التدريب، ولكنه يتبع أنماط كسر التماثل نفسها.
  • الغابات العشوائية (Random Forests): تظهر انتهاكًا محدودًا ($1 + O(1/\sqrt{T})$) بسبب تدريب الأشجار المستقل، مما يتناقض مع عدم الاستقرار المتباعد لتعزيز التدرج المتسلسل.

ثنائية بايز المتماثلة

يعمم المؤلفون هذه النتيجة باستخدام ثنائية بايز المتماثلة (المبرهنة 37)، وهي مبرهنة من عائلتين في نظرية القرار الثابتة. ويظهرون أنه لأي مسألة قرار متماثلة (حيث يكون توزيع البيانات ثابتًا تحت تبديلات الميزات)، فإن مجموعة الحلول القابلة للتحقيق تنهار إلى عائلتين بالضبط:

• العائلة (أ) (النموذج الفردي): أمينة ومكتملة، لكنها غير مستقرة (عدم الأمانة $U = 1/2$ للأزواج المتماثلة).
• العائلة (ب) (المجموعة/Ensemble): مستقرة وأمينة لمتوسط المجتمع، لكنها غير مكتملة (تسجل حالات تعادل للميزات المتماثلة، $U=0$).
  ولا يوجد خيار ثالث.

الحل البنائي: DASH

لحل مشكلة الاستحالة، تقترح الورقة طريقة DASH (التجميع المتنوع لـ SHAP). وهي طريقة تجميع تعتمد على متوسط قيم SHAP عبر $M$ من النماذج المدربة بشكل مستقل.

• الآلية: من خلال المتوسط، يقوم DASH بإلغاء انحياز "المتحرك الأول" العشوائي المتأصل في النماذج الفردية، مما يؤدي إلى التقارب مع التوقع المجتمعي.
• المثالية: ثبت أن DASH مثالية باريتو (Pareto-optimal) بين عمليات التجميع غير المنحازة. فهي تحقق حد تباين كرامر-راو ($\sigma^2/M$) لاستقرار الترتيب.
• المقايضة: يضحي DASH بـ الاكتمال داخل المجموعة (فهو يسجل حالات تعادل للميزات المتماثلة) في سبيل الحصول على الاستقرار والأمانة بين المجموعات.

التحقق الرسمي

يتضمن جزء كبير من المنهجية التحقق الآلي باستخدام Lean 4.

• قام المؤلفون بصياغة الإطار النظري بأكمله رسميًا، بما في ذلك مبرهنة الاستحالة، والحدود الكمية، وإثبات مثالية DASH.
• تتكون الصياغة الرسمية من 305 مبرهنة تم فحص أنواعها عبر 54 ملفًا مع صفر من الـ sorry (أي لا توجد افتراضات غير مثبتة).
• تضمنت العملية 16 بديهية (14 خاصة بالمجال، و2 لتعقيد الاستعلام). ومن الجدير بالذكر أن مبرهنة الاستحالة الجوهرية لا تتطلب أي بديهيات سلوكية، بل تعتمد كليًا على خاصية راشومون.
• حددت عملية الصياغة الرسمية نفسها عدم اتساقين منطقيين وعدم تطابق في الأنواع في نظام البديهيات غير الرسمي الأصلي.

3. النتائج الرئيسية والتحقق التجريبي

النتائج التجريبية

تتحقق الورقة من النظرية عبر 77 مجموعة بيانات عامة وعدة تطبيقات للنماذج (XGBoost, LightGBM, CatBoost, Neural Networks).

• الانتشار: في مسح لـ 77 مجموعة بيانات، أظهرت 68% من المجموعات عدم استقرار في العزو (معدل الانقلاب > 10%) لأزواج الميزات المترابطة. وبالنسبة لمجموعات البيانات عالية الأبعاد ($P \ge 20$)، ترتفع هذه النسبة إلى 93%.
• معدلات الانقلاب: بالنسبة للأزواج شديدة الارتباط ($\rho \approx 0.9$) ذات الأهمية المتشابهة، يقترب معدل الانقلاب من الحد الأقصى النظري وهو 50% (رمية عملة) عبر عمليات إعادة التدريب.
• فعالية DASH: يقلل التجميع المتوسط مع $M \ge 25$ نموذجًا من معدل الانقلاب إلى أقل من 1%، مما يحل مشكلة عدم الاستقرار بفعالية.
• التشخيص: تقدم الورقة اختبار Z متعدد النماذج وفحص النموذج الواحد (بناءً على ترددات الانقسام) للكشف عن الأزواج غير المستقرة. ويظهر اختبار Z ارتباطًا سلبيًا قويًا ($r \approx -0.89$) مع معدلات الانقلاب المرصودة.

سلوك فئات النماذج المحددة

• GBDT: تظهر عدم استقرار متباعد. حيث تمتص ميزة "المتحرك الأول" الإشارة، تاركةً بقايا الإشارة للميزات الأخرى، مما يخلق فجوة عزو كبيرة تنقلب بناءً على الميزة التي يتم اختيارها أولاً.
• Lasso: تظهر عدم استقرار لانهائي لأنها تختار ميزة واحدة بالضبط من مجموعة مترابطة.
• الشبكات العصبية: تظهر عدم استقرار عالٍ (87% من الأزواج غير مستقرة في بيانات سرطان الثدي)، مدفوعة بمجموعة راشومون الأكبر وتباين KernelSHAP.
• الغابات العشوائية: تظهر عدم استقرار أقل بكثير بسبب غياب مشاركة البواقي المتسلسلة.

التوسعات

• العزو الشرطي: تثبت الورقة أن الانتقال إلى SHAP الشرطي لا يخرج من مشكلة الاستحالة إذا كانت التأثيرات السببية للميزات متساوية ($\beta_j = \beta_k$).
• تدقيق العدالة: يوضح المؤلفون أن عمليات تدقيق التمييز بالوكالة (proxy discrimination) القائمة على SHAP للنموذج الفردي هي غير موثوقة بطبيعتها تحت ظروف التداخل الخطي، حيث تكون النتيجة (أي ميزة هي الوكيل) مجرد رمية عملة.
• التحديد السببي: يشبه عدم الاستقرار صعوبة التحديد السببي تحت ظروف التداخل الخطي، حيث تتباعد التعقيد العيني (sample complexity) كـ $1/(1-\rho)^2$.

4. الأهمية والادعاءات

تدعي الورقة أنها تقدم أول نتيجة استحالة تم التحقق منها رسميًا في مجال الذكاء الاصطناعي القابل للتفسير. وتتحدد أهميتها في ثلاثة أبعاد:

1. الضرورة الرياضية: عدم الاستقرار ليس فشلًا هندسيًا (مثل سوء ضبط المعلمات الفائقة أو الأخطاء البرمجية) بل هو حتمية رياضية ناشئة عن هندسة سطح الخسارة ومجموعة راشومون. تعيد الورقة صياغة المشكلة من "كيفية إصلاح SHAP" إلى "ما هو الممكن تحقيقه في ظل هذه القيود".
2. توصيف فضاء التصميم: من خلال تعريف فضاء تصميم العزو، توضح الورقة أنه يجب على الممارسين الاختيار بين الاستقرار والاكتمال. لا يوجد "غداء مجاني" حيث يمكن لنموذج واحد أن يوفر ترتيبًا مستقرًا، وأمينًا، ومكتملًا في آن واحد.
3. الأثر التنظيمي والعملي:
   • الامتثال لقانون الذكاء الاصطناعي للاتحاد الأوروبي: تجادل الورقة بأن عدم استقرار العزو يشكل "ظرفًا معروفًا ومتوقعًا" بموجب المادة 13(3)(b)(ii) من قانون الذكاء الاصطناعي للاتحاد الأوروبي. يجب على المزودين الإفصاح عن عدم الاستقرار هذا بدلاً من تقديم ترتيبات تعسفية كحقائق.
   • العدالة: تُعتبر عمليات تدقيق العدالة أحادية النموذج غير موثوقة للميزات المترابطة، مما قد يؤدي إلى نتائج إيجابية أو سلبية خاطئة في اكتشاف التمييز بالوكالة.
   • أدوات قابلة للتنفيذ: توفر الورقة سير عمل ملموسًا (الفحص $\leftarrow$ اختبار Z $\leftarrow$ DASH) وصيغة لحجم المجموعة الأدنى ($M_{min}$) المطلوب لتحقيق مستوى الاستقرار المطلوب.

يخلص المؤلفون إلى أن المجال يجب أن يبتعد عن "نموذج النموذج الواحد" للتفسيرات في وجود التداخل الخطي، وأن يتبنى نهجًا قائمًا على المجموعات مثل DASH لتقديم تفسيرات صادقة، مستقرة، وقابلة للدفاع عنها.