Are Feature Selection and Feature Attribution the Same? A Comparative Survey -- Extended Version
تستقصي هذه الورقة العلاقة بين طرق اختيار الميزات وطرق عزو الميزات من خلال مسح شامل وإطار تقييم موحد، بهدف توضيح أوجه التشابه والاختلاف ونقاط القوة الفريدة لكل منهما لسد الفجوة بين هذين المجالين البحثيين.
المؤلفون الأصليون:Muhammad Rajabinasab, Arthur Zimek
في المشهد الشاسع لعلم البيانات الحديث، حيث تقوم الحواسيب بغربلة جبال من المعلومات لإيجية الأنماط، ظهرت أداتان متميزتان لمساعدة البشر على فهم ما تفعله الآلات. الأداة الأولى، المعروفة باسم "اختيار الميزات" (feature selection)، تعمل مثل محرر صارم؛ مهمتها هي النظر في مجموعة بيانات خام وتقرير أي قطع من المعلومات ضرورية حقًا لحل مشكلة ما، مستبعدةً الباقي للحفاظ على بساطة النموذج وكفاءته. إنها تسأل: "ما الذي نحتاج إلى معرفته؟". أما الأداة الثانية، وتسمى "إسناد الميزات" (feature attribution)، فهي تعمل بشكل مختلف؛ فهي لا تحاول تبسيط البيانات قبل أن يتعلم الكمبيوتر، بل تستجوب نموذجًا تم تدريبه بالفعل. إنها تسأل: "ما الذي استخدمه النموذج فعليًا لاتخاذ ذلك القرار المحدد؟". لقد أصبح هذا النهج الثاني حيويًا في مجال الذكاء الاصطناعي القابل للتفسير، حيث يطالب الناس بمعرفة المنطق وراء خيارات الكمبيوتر، بدءًا من التشخيصات الطبية وصولاً إلى الموافقات على القروض. لسنوات طويلة، عملت هاتان المجموعتان من الأساليب في دوائر منفصلة، حيث ركز الإحصائيون على الأولى، بينما ركز باحثو الذكاء الاصطناعي على الثانية، ونادرًا ما قارنوا بين نتائجهما بشكل مباشر.
قرر فريق من الباحثين في جامعة جنوب الدنمارك جسر هذه الفجوة عبر التعامل مع هذين النهجين كوجهين لعملة واحدة. فقد جمعوا اثنتي عشرة من أهم الأساليب من كلا العائلتين — ستة من جانب اختيار الميزات التقليدي وستة من جانب إسناد الميزات الحديث — ووضعوها في اختبار مواجهة صارم. أجروا هذه الأساليب على ثلاثة وعشرين مجموعة بيانات مختلفة عالية الأبعاد، والتي تضمنت معلومات معقدة من مجالات مثل علم الجينوم والتعرف على الصور، حيث غالبًا ما يتجاوز عدد نقاط البيانات عدد الأمثلة المتاحة. لم يكتفِ الباحثون بالنظر في مدى جودة أداء الأساليب فحسب، بل فحصوا أيضًا مدى تشابه الأسالب مع بعضها البعض، ومدى استقرار خياراتها عندما تتغير البيانات قليلًا، وكم من الوقت وقوة الحوسبة تطلب كل أسلوب. اختبروا هذه الأساليب في سيناريوهين مختلفين: أحدهما سمح باختيار نطاق واسع من الميزات، والآخر أجبر الأساليب على اختيار جزء ضئيل فقط من البيانات المتاحة، مما يحاكي الظروف القصوى حيث يمكن الاحتفاظ بالمعلومات الأكثر أهمية فقط.
كشفت النتائج عن انقسام مثير للاهل في الأداء يعتمد كليًا على هدف المهمة. فعندما كان الهدف هو التنبؤ بنتيجة محددة، مثل تصنيف صورة أو تشخيص حالة، تفوقت أساليب إسناد الميزات باستمرار على أساليب اختيار الميزات التقليدية. كانت الأساليب التي تسأل "ما الذي استخدمه النموذج" أفضل في تحديد الميزات التي دفعت نجاح الكمبيوتر فعليًا. يشير هذا إلى أنه بالنسبة للمهام التنبؤية، فإن فهم المنطق الداخلي لنموذج معقد يعد دليلًا أكثر فعالية من مجرد البحث عن الأنماط الإحصائية في البيانات الخام. ومع ذلك، تغيرت القصة تمامًا عندما انتقل الباحثون إلى المهام غير الخاضعة للإشراف، حيث يحاول الكمبيوتر إيجاد مجموعات طبيعية في البيانات دون إجابات محددة مسبقًا. في هذه الحالات، أثبتت أساليب اختيار الميزات التقليدية تفوقها؛ ولأن هذه الأساليب ليست منحازة لهدف تنبؤي محدد، فقد كانت أفضل في الحفاظ على البنية والشكل الطبيعي للبيانات، والحفاظ على المعلومات سليمة بطريقة قد تفقدها أساليب التركيز على النموذج.
كما كشفت الدراسة عن مقايضة كبيرة بين الدقة والسرعة. كانت أساليب اختيار الميزات التقليدية سريعة للغاية، حيث توسعت بكفاءة حتى مع نمو كمية البيانات لتصبح هائلة. في المقابل، كانت أساليب إسناد الميزات، رغم دقتها في التنبؤ، مكلفة حوسبيًا. لتوليد رؤية شاملة للأهمية، كان على هذه الأساليب حساب تأثير كل ميزة مفردة لكل نقطة بيانات مفردة، وهي عملية أصبحت بطيئة بشكل لا يحتمل في مجموعات البيانات الكبيرة. وجد الباحثون أن النهجين ليسا مختلفين كما يبدو؛ ففي كثير من الحالات، كانت الميزات المختارة بواسطة الأساليب التقليدية السريعة متطابقة تقريبًا مع تلك التي حددتها الأساليب القائمة على الإسناد البطيئة. يشير هذا التقارب إلى أنه على الرغم من أن كلا المجالين يطرحان أسئلة مختلفة، إلا أنهما غالبًا ما يصلان إلى نفس الإجابة.
في النهاية، تجادل الورقة البحثية بأن المسار الأفضل ليس باختيار طريقة على أخرى، بل باستخدامها معًا في تسلسل محدد. يقترح الباحثون خط معالجة هجين (hybrid pipeline) حيث تُستخدم الأساليب التقليدية السريعة أولاً لتصفية الغالبية العظمى من البيانات غير المفيدة بسرعة، مما يقلص المشكلة إلى حجم يمكن إدارته. بعد ذلك، يمكن تطبيق أساليب إسناد الميزات الأكثر دقة وبطئًا على هذه المجموعة الأصغر لتحديد الميزات النهائية والأكثر أهمية التي يعتمد عليها النموذج. يجمع هذا النهج بين سرعة وقابلية التوسع للجيل القديم وبين الدقة العالية للجيل الجديد، مما يوفر حلًا عمليًا للتعامل مع مجموعات البيانات الضخمة والمعقدة التي تحدد معالم الذكاء الاصطناعي الحديث. ويؤكد العمل أنه على الرغم من اختلاف الفلسفة وراء هذه الأساليب — أحدهما يسعى للبساطة والآخر للمساءلة — فإن تطبيقها العملي يكون أكثر قوة عندما يتم الجمع بينهما.
ملخص تقني: هل اختيار الميزات وعزو الميزات هما الشيء نفسه؟ مسح مقارن
بيان المشكلة
يُعد "اختيار الميزات" (Feature Selection - FS) و"عزو الميزات" (Feature Attribution - FA) مجالين بحثيين متميزين يظهران غالبًا بشكل متشابه وظيفيًا، لكنهما يعملان تحت نماذج فلسفية مختلفة. يهدف اختيار الميزات (FS)، المتجذر في مبدأ الإيجاز (موس أوكام)، إلى تحديد مجموعة فرعية دنيا من الميزات ذات الصلة لتقليل الأبعاد ومنع "لعنة الأبعاد" قبل تدريب النموذج. أما عزو الميزات (FA)، الناشئ من حركة الذكاء الاصطناعي القابل للتفسير (XAI)، فيسعى إلى عزو تنبؤ محدد للنموذج إلى ميزاته المدخلة لضمان المساءلة والشفافية، وغالبًا ما يتساءل: "ما الذي استخدمه النموذج بالفعل؟" بدلاً من "ما هو ذو الصلة موضوعيًا؟".
وعلى الرغم من تشابههما التقني — حيث ينتج كلاهما درجات وأوزان لأهمية الميزات — إلا أن هناك فجوة كبيرة في الأدبيات فيما يتعلق بالمقارنة النظرية والتجريبية الشاملة بين هاتين المجموعتين. إذ تركز المسوحات الحالية عادةً عليهما بشكل منفصل، حيث تركز إما على تقدم طرق اختيار الميزات أو طرق الذكاء الاصطناعي القابل للتفسير، دون معالجة ما إذا كانت آلياتهما الأساسية، ومعايير التقييم الخاصة بهما، وخصائص الأداء لديهما مختلفة جوهريًا أم أنها مجرد تنويعات لنفس العملية المطبقة بمستويات دقة مختلفة.
المنهجية
يجري المؤلفون مسحًا مقارنًا وتقييمًا تجريبيًا يتضمن 12 طريقة أساسية: 6 من عائلة "اختيار الميزات" (المعلومات المتبادلة، لاسو (LASSO)، درجة فيشر، التخلص المتكرر من الميزات، اختيار الميزات ذو الصندوق الأبيض، وReliefF) و6 من عائلة "عزو الميزات" (SHAP، LIME، التبديل (Permutation)، استئصال الميزات، Kernel SHAP، وSaabas). وقد تم استبعاد "التدرجات المتكاملة" (Integrated Gradients) و"مؤشرات سوبول" (Sobol Indices) صراحةً من التقييم التجريبي بسبب القيود (متطلبات النماذج القابلة للتفاضل والتكلفة الحسابية العالية، على التوالي).
الإعداد التجريبي:
مجموعات البيانات: 23 مجموعة بيانات مرجعية عالية الأبعاد من مستودع scikit-feature، تغطي مجالات الجينوميات، والبروتينات، والتعرف على الصور، حيث يتجاوز عدد الميزات في كثير من الأحيان عدد العينات.
إطار التقييم: تستخدم الدراسة إطار تقييم موحد حيث يتم تجميع طرق عزو الميزات (عبر متوسط القيم المطلقة) لإنتاج درجات أهمية عالمية، مما يسمح بتقييمها باستخدام مقاييس اختيار الميزات القياسية.
السيناريوهات: تم تحديد سيناريوهين تجريبيين:
الاختيار العام للميزات: اختيار 5% إلى 100% من الميزات.
الحد الأقصى لتقليل الأبعاد: اختيار 0.5% إلى 10% من الميزات لاختبار الفعالية في حالات الاختزال عالية المخاطر.
المقاييس:
الخاضعة للإشراف: دقة التصنيف (ACC)، والمساحة تحت منحنى خصائص التشغيل (AUC).
غير الخاضعة للإشراف: دقة التجميع (CLSACC)، والمعلومات المتبادلة الموحدة (NMI).
المستقلة عن النموذج/الهندسية: متوسط فرق الزاوية (AAD).
الاستقرار والتشابه: تشابه اختيار الميزات (تقاطع أفضل k من الميزات)، مقاييس الاستقرار، والقابلية للتوسع الحسابي.
تحليل الترتيب: تم تحليل النتائج باستخدام كل من إحصاءات الترتيب القياسية وإحصاءات الترتيب المدركة للمقدار (MARS) لمراعاة فجوات الأداء.
المساهمات الرئيسية
تصنيف ومراجعة موحدة: تقدم الورقة مراجعة تفصيلية للخلفيات النظرية والآليات التشغيلية لكل من طرق اختيار الميزات وعزو الميزات، ووضعها ضمن تصنيف متماسك (فلتر، غلاف، مدمج مقابل بديل، اضطراب، قائم على المسار).
جسر إطار التقييم: تقترح الورقة طريقة لتقييم طرق عزو الميزات باستخدام مقاييس اختيار الميزات القياسية عن طريق تجميع العزو المحلي في درجات عالمية، مما يتيح مقارنة مباشرة وعادلة.
مقارنة تجريبية شاملة: تعرض الدراسة نتائج تجريبية واسعة النطاق عبر 23 مجموعة بيانات، مع تحليل مسارات الأداء، وخرائط التشابه الحرارية، والقابلية للتوسع.
النقاش النظري: تعالج الورقة التوتر الفلسفي بين "الإيجاز" (التبسيط) و"القابلية للاستجواب" (المساءلة)، وتحلل كيف تتجلى هذه الفلسفات في الآليات التشغيلية ونتائج التقييم.
النتائج الرئيسية
المهام الخاضعة للإشراف (ACC, AUC): تفوقت طرق عزو الميزات (تحديدًا Tree SHA P، وSaabas، والاستئصال) باستمرار على فلاتر اختيار الميزات التقليدية (مثل درجة فيشر والمعلومات المتبادلة). ويعزو المؤلفون ذلك إلى قدرة طرق عزو الميزات على التقاط التفاعلات عالية الرتبة والحدود غير الخطية التي تعلمها النموذج التنبئي (الغابة العشوائية)، مما يحسن الأداء بفعالية للمهمة النهائية المحددة.
المهام غير الخاضعة للإشراف (CLSACC, NMI): أظهرت طرق اختيار الميزات التقليدية (خاصة درجة فيشر وReliefF) مرونة فائقة. نظرًا لأن طرق عزو الميزات مرتبطة بهدف تصنيف محدد، فقد تتجاهل الميزات الضرورية للهيكل العالمي للمجال (manifold structure) المطلوب للتجميع. أما فلاتر اختيار الميزات، لكونها مستقلة عن النموذج، فهي تحافظ بشكل أفضل على المجموعات الطبيعية للبيانات.
الحفاظ الهندسي (AAD): لوحظت مفارقة حيث أن الطرق التي حققت أفضل أداء في المهام الخاضعة للإشراف كانت الأسوأ في الحفاظ على الخصائص الهندسية الخام للبيانات (مقاسة بـ AAD). يشير هذا إلى أن تحقيق دقة تنبؤية عالية يتطلب غالبًا "كسر" هندسة البيانات الأصلية لإيجية مجال قابل للفصل.
التشابه والتقارب: لوحظ تشابه عالٍ بين LASSO (اختيار الميزات) وPermutation (عزو الميزات)، مما يشير إلى أنه بالنسبة للعديد من المشكلات عالية الأبعاد، فإن الميزات اللازمة لنموذج متفرق هي نفسها الميزات الأكثر تأثيرًا عند إزالتها من نموذج معقد.
القابلية للتوسع: تتوسع فلاتر اختيار الميزات الإحصائية (مثل فيشر وMI) بشكل خطي وتتميز بكفاءة حسابية. وفي المقابل، تعاني طرق عزو الميزات، التي تتطلب حساب العزو المحلي لكل حالة لاستخلاص الدرجات العالمية، من اختناقات حسابية كبيرة في البيئات عالية الأبعاد.
أداء LIME: أظهر LIME أداءً ضعيفًا باستمرار في التقييمات العالمية، ويُعزى ذلك إلى منظوره المحلي الشديد واعتماده على نماذج بديلة تواجه صعوبة في تعميم الأهمية العالمية.
الأهمية والادعاءات
تدعي الورقة أنها تسد الفجوة بين مجالي اختيار الميزات وعزو الميزات، موضحة أنه بينما يتشاركان في جوهر تشغيلي واحد (منطق الاضطراب والملاحظة)، إلا أنهما يخدمان أغراضًا متميزة بناءً على سياق المهمة.
التفوق المرتبط بالمهمة: يخلص المؤلفون إلى أنه لا توجد طريقة واحدة "مثلى". فمن حيث "تحسين المهمة المحددة" (التنبؤ الخاضع للإشراف)، يتفوق عزو الميزات لأنه يستجوب المنطق الداخلي للنموذج. أما اختيار الميزات، فهو يتفوق في "استكشاف البيانات والمهام غير الخاضعة للإشراف" لأنه يحافظ على البنية الجوهرية للبيانات دون تحيز للنموذج.
مقترح خط الإنتاج الهجين: بناءً على نتائج القابلية للتوسع والأداء، تقترح الورقة خط إنتاج هجين لتنقيب البيانات عالية الأبعاد: أولاً، استخدام فلاتر اختيار الميزات الفعالة لتقليل الأبعاد (إزالة الضجيج)، وثانيًا، تطبيق طرق عزو الميزات على المجموعة المختزلة لاختيار المجموعة النهائية بناءً على المساءلة للنموذج.
الاتفاق المعرفي: تسلط الدراسة الضوء على أنه رغم اختلاف نقاط الانطلاق الفلسفية، إلا أن المجالين غالبًا ما يتقاربان نحو نفس الميزات الحرجة، مما يؤكد قابلية نقل الرؤى بينهما.
يحافظ المؤلفون على التواضع بشأن ادعاءاتهم، مشيرين إلى أن تقييمهم اعتمد بشكل كبير على الغابة العشوائية (Random Forest) كنماذج خلفية، وأن استراتيجيات التجميع البديلة لطرق عزو الميزات قد تؤدي إلى نتائج مختلفة. وهم يضعون هذا العمل كخطوة تأسيسية نحو دمج الإيجاز الإحصائي مع المساءلة الخوارزمية في خطوط إنتاج تعلم الآلة المستقبلية عالية الأبعاد.