💻 computer science

Alike Parts: A Feature-Informed Approach to Local and Global Prototype Explanations

تقدم هذه الورقة "الأجزاء المتشابهة" (Alike Parts)، وهو إطار عمل يعزز التفسيرات القائمة على النماذج الأولية باستخدام درجات أهمية الميزات لتسليط الضوء على الميزات ذات الصلة المشتركة من أجل التفسير المحلي، ولتعزيز تنوع الميزات في اختيار النماذج الأولية العالمية دون المساس بدقة التنبؤ.

المؤلفون الأصليون: Jacek Karolczak, Jerzy Stefanowski

نُشر 2026-05-22

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jacek Karolczak, Jerzy Stefanowski

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك حاسوب "الصندوق الأسود" ذكي للغاية ولكنه غامض، يتخذ القرارات—مثل الموافقة على قرض، أو تشخيص مرض، أو فرز الفاكهة. أنت تثق به لأنه دقيق، لكنك لا تستطيع رؤية كيف يفكر. ولإصلاح ذلك، يستخدم العلماء غالبًا النماذج الأولية (Prototypes).

فكر في النموذج الأولي كـ "مثال ممثل". إذا قال الحاسوب "هذه التفاحة ناضجة"، فقد يشير إلى صورة محددة لتفاحة حمراء مثالية من بيانات التدريب الخاصة به ويقول: "أنا أقول ذلك لأنها تشبه هذه الصورة تمامًا".

المشكلة:
أحيانًا، لا يكون الإشارة إلى المثال بأكمله مفيدًا. فإذا كان النموذج الأولي عبارة عن صورة لسلة فواكه تحتوي على 20 عنصرًا مختلفًا، أو سجلًا طبيًا يحتوي على 50 رقمًا مختلفًا، فسيكون الأمر مربكًا. لن تعرف أي جزء محدد من هذا المثال كان هو المهم حقًا. هل كان اللون؟ الوزن؟ العمر؟ إن الحاسوب يخفي أهم الأدلة داخل بحر من البيانات.

الحل: "الأجزاء المتشابهة" (Alike Parts)

بدلاً من إظهار النموذج الأولي بأكمله لك، تعمل طريقتهم في تقديم التفسير كـ قلم تحديد (Highlighter). فهي تنظر إلى العنصر المحدد الذي سألت عنه ("الحالة") والمثال الممثل الذي تمت مقارنته به ("النموذج الأولي"). ثم تستخدم نظام تسجيل خاص للعثور على الميزات المشتركة التي يمتلكها كل من الحالة والنموذج الأولي معًا، والتي يعتقد الحاسوب أنها الأكثر أهمية للقرار.

التشبيه: تخيل أنك وصديقك ترتديان قبعات حمراء. إذا قرر الحاسوب أنكما تنتميان إلى "الفريق الأحمر"، فلا ينبغي له أن يريك زي صديقك بالكامل (الجينز، الحذاء، السترة). بل يجب أن يحدد فقط القبعات الحمراء التي تشتركان فيها، لأن تلك هي "الأجزاء المتشابهة" التي تسببت في القرار فعليًا.

كيف فعلوا ذلك (سحر الخطوتين):

التفسير المحلي (قلم التحديد):
عند شرح قرار واحد، يحسب النظام أي الميزات هي "المهمة" لكل من عنصرك والنموذج الأولي. بعد ذلك، ينشئ قناعًا يخفي كل شيء آخر، ليظهر لك فقط الميزات المشتركة والحرجة. هذا يمنعك من التشتت بالتفاصيل غير ذات الصلة.
التفسير العالمي (الفريق المتنوع):
عادةً، عندما يختار الحواسيب مجموعة من النماذج الأولية لتمثيل النظام بأكمله، فإنها تبحث فقط عن الأمثلة الأقرب رياضيًا للبيانات. لقد غير المؤلفون القواعد. فقد أخبروا الحاسوب: "لا تكتفِ باختيار الأمثلة الأقرب؛ بل اختر أمثلة تغطي نطاقًا متنوعًا من الميزات المهمة".

التشبيه: إذا كنت تبني فريقًا من الخبراء لشرح موضوع معقد، فأنت لا تريد خمسة خبراء يعرفون جميعًا الشيء نفسه بالضبط. بل تريد خبيرًا واحدًا في الميزانية، وآخر في الجدول الزمني، وثالث في التصميم. من خلال إجبار الحاسوب على اختيار "فريق متنوع" من النماذج الأولية، فإنهم يضمنون أنه عندما تنظر إلى المجموعة الكاملة، سترى مجموعة متنوعة من الأسباب التي تُتخذ بناءً عليها القرارات.

ماذا وجدوا:
اختبر الباحثون هذه الطريقة على ست مجموعات بيانات مختلفة (مثل التنبؤ بجودة النبيذ، أو مخاطر السكري، أو رضا الركاب).

لم تعطل الحاسوب: إضافة هذه القواعد الجديدة لاختيار النماذج الأولية لم تجعل الحاسوب أقل دقة. في الواقع، في كثير من الحالات، كان إصدار الحاسوب المبسط القائم على "النماذج الأولية" يعمل بنفس كفاءة النسخة الأصلية المعقدة.
وجدت أدلة أفضل: في اختبار لبيانات مرض السكري، سلطت الطريقة القديمة الضوء على مستويات "الجلوكوز" فقط. أما طريقة "الأجزاء المتشابهة" الجديدة، فقد سلطت الضوء أيضًا على "العمر" و"التاريخ العائلي"، وهي أمور ذات صلة طبية أكبر في الواقع.
أظهرت تنوعًا أكبر: ضمنت الطريقة الجديدة أن مجموعة النماذج الأولية المستخدمة لشرح النظام تغطي أنواعًا مختلفة من الميزات المهمة، بدلاً من تكرار نفس الأدلة القليلة مرارًا وتكرارًا.

باخت-مختصر:
تقدم هذه الورقة طريقة للتوقف عن إظهار "الصورة الفوضوية الكاملة" للمستخدمين والبدء في إظهار "الأدلة المشتركة المحددة" التي دفعت القرار بالفعل. إنها تجعل تفسيرات الذكاء الاصطناعي أكثر وضوحًا من خلال تسليط الضوء على "الأجزاء المتشابهة"، وتضمن أن مكتبة الأمثلة الخاصة بالذكاء الاصطناعي متنوعة بما يكفي لشرح أنواع مختلفة من القرارات دون فقدان دقتها.

ملخص تقني: الأجزاء المتشابهة: نهج قائم على الميزات لتفسيرات النماذج الأولية المحلية والعالمية

بيان المشكلة
تقدم التفسيرات القائمة على النماذج الأولية (Prototypes) طريقة بديهية قائمة على الأمثلة لتفسير المصنفات في التعلم الآلي "الصندوق الأسود" عبر ربط التنبؤات بنماذج تمثيلية من بيانات التدريب. ومع ذلك، يوجد قصور جوهري: فبينما توفر النماذج الأولية رؤية شاملة، إلا أنها غالبًا ما تفتقر إلى التفصيل على مستوى الميزات. يواجه المستخدمون صعوبة في تحديد أي ميزات محددة داخل النموذج الأولي هي الأكثر صلة بالتنبؤ، مما يؤدي إلى عبء معرفي عند التعامل مع البيانات الجدولية عالية الأبعاد. علاوة على ذلك، فإن اختيار النماذج الأولية العالمية غالبًا ما يعطي الأولوية للتوزيع المكاني أو تقليل المسافة دون ضمان التنوع في إسنادات الميزات للنماذج المختارة، مما قد يؤدي إلى تفويت حدود القرار الحرجة والمتنوعة.

المنهجية
يقترح المؤلفون إطار عمل يدمج درجات أهمية الميزات على مستويين متميزين لمعالجة هذه الفجوات: تحسين التفسير المحلي وتعزيز اختيار النماذج الأولية العالمية.

1. التفسيرات المحلية: "الأجزاء المتشابهة"
يقدم البحث طريقة لتحديد "الأجزاء المتشابهة"، والتي تُعرف بأنها مجموعات الميزات الفرعية الأكثر صلة والمشتركة بين حالة مصنفة ( $x_i$ ) وأقرب نموذج أولي لها ( $p_j$ ).

العملية: يتم حساب درجات أهمية الميزات ( $\phi$ ) لكل من الحالة والنموذج الأولي باستخدام مقدرات مستقلة عن النموذج أو خاصة بالنموذج (مثل Tree SHAP أو Tree Interpreter).
المحاذاة: تقوم الطريقة بحساب متجه وزن ( $w$ ) يمثل تشابه الأهمية بين الحالة والنموذج الأولي. ويتم تحقيق ذلك عبر عامل تشابه ( $\circ$ )، مثل حاصل الضرب هادامارد (الضرب العنصري)، أو مسافات $l_1$ أو $l_2$ العنصرية.
القناع (Masking): يتم إنشاء قناع ثنائي لتسليط الضوء على الميزات حيث يتجاوز محاذاة الأهمية عتبة معينة. وتشمل الاستراتيجيات عتبة المتوسط أو اختيار Top- $k$ التكيفي (مثل $k = \lceil\sqrt{d}\rceil$ أو $k = \lceil\log(d)\rceil$ ).
المخرج: يوجه هذا العملية انتباه المستخدم إلى مجموعة محدودة وعالية الصلة من الميزات المشتركة بين الحالة والنموذج الأولي، بدلاً من عرض ناقل الميزات بالكامل.

2. التفسيرات العالمية: دالة الهدف المعززة
يقوم المؤلفون بتعديل دالة هدف اختيار النماذج الأولية القياسية لتعزيز التنوع في إسنادات الميزات بشكل نشط.

الهدف القياسي: تقلل طرق $k$ -medoids التقليدية المسافة $d(x_i, p_j)$ بين حالات التدريب وأقرب نماذجها الأولية.
الهدف المعزز: يقدم المؤلفون حداً لإهمية الميزات ( $f_i$ ) مشتقاً من درجات المحاذاة المستخدمة في الطريقة المحلية. وتصبح دالة الهدف الجديدة:
$f(P) = \sum_{i=1}^{|S|} \min_{p_j \in P} (d(x_i, p_j) + \beta \cdot f_i(x_i, p_j))$
هنا، يعمل $\beta$ كمعامل موازنة بين مسافة المقياس ومحاذاة أهمية الميزات. وهذا يشجع على اختيار نماذج أولية لا تغطي فضاء البيانات فحسب، بل تمثل أيضاً مجموعات متنوعة من الميزات الهامة.

المساهمات الرئيسية

تحديد الأجزاء المتشابهة: طريقة مبتكرة لإنشاء أقنعة ثنائية تسلط الضوء على الميزات المشتركة عالية الأهمية بين الحالة وأقرب نموذج أولي لها، مما يعزز قابلية التفسير المحلية.
اختيار نماذج أولية متنوعة الميزات: امتداد لخوارزميات توليد النماذج الأولية (تحديداً G-KM و SM-A و A-PETE) التي تدمج أهمية الميزات في حلقة التحسين لضمان التنوع العالمي في إسنادات الميزات.
تقييم شامل: تقيم الدراسة خوارزميات متعددة لتوليد النماذج الأولية إلى جانب وظائف تقييم جديدة، وتستكشف مجموعة أوسع من خوارزميات أهمية الميزات (Tree SHAP، Tree Interpreter)، وتجري تحليل حساسية واسع النطاق للمعلمات الفائقة (مثل $\beta$ ، وعوامل التشابه، واستراتيجيات القناع).
الاستقلالية عن النموذج: تم تصميم الإطار ليكون متوافقاً مع مكونات مختلفة، رغم أن التجارب ركزت على مجموعات الغابات العشوائية (Random Forest) ومقاييس المسافة القائمة على الأشجار.

النتائج التجريبية
أُجريت التجارب على ست مجموعات بيانات مرجعية (Apple Quality، Australia Rain، Breast Cancer، Diabetes، Passenger Satisfaction، Wine Quality) باستخدام Random Forest كنموذج الصندوق الأسود.

الدقة (Fidelity): حافظت عملية الاختيار المعززة على دقة التنبؤ لنموذج البديل 1-Nearest Neighbor (1-NN) أو زادتها في بعض الحالات مقارنة باختيار النماذج الأولية الأصلية (الخام). وأشار التحليل الإحصائي (اختبار ويلكوكسون لمراتب الإشارات) إلى اتجاه إيجابي نحو تحسين الدقة ( $p \approx 0.068$ ) وتحسن ملحوظ مقارنة بالنماذج المرجعية القابلة للتفسير القياسية مثل Naive Bayes و Logistic Regression و Decision Trees ( $p < 0.05$ ).
تنوع الميزات: نجحت الطريقة القائمة على معلومات الميزات (FI-informed) في تحديد نماذج أولية ذات تنوع أكبر في الميزات. على سبيل المثال، في مجموعة بيانات Diabetes، سلطت الطريقة القائمة على FI الضوء على ميزات ذات صلة سريرية (العمر، وظيفة سلالة السكري) التي أغفلها أسلوب المسافة الخام فقط.
حساسية المعلمات الفائقة: وُجد أن حاصل الضرب هادامارد هو المقياس الأكثر فعالية عبر مجموعات البيانات. وأشارت الدراسة إلى أنه بينما كانت بعض الاتجاهات عالمية، فإن الضبط المخصص للمعلمات الفائقة (مثل تجاهل الاتجاه أو التطبيع) ظل ضرورياً لمجموعات بيانات محددة.
تكرار التنشيط: أكد تحليل ترددات تنشيط الميزات أن هدف FI-informed يقلل من تباين استخدام الميزات، مما يفرض اختيار مجموعة أكثر تنوعاً من النماذج الأولية.

الأهمية والادعاءات
يزعم البحث أن دمج أهمية الميزات في اختيار النماذج الأولية لا يخل بدقة التنبؤ؛ بل إن البحث عن إسنادات ميزات متنوعة يمكن أن يكون مكملاً للتغطية القائمة على المسافة. تكمن الأهمية الأساسية في سد الفجوة بين الأمثلة عالية المستوى للنماذج الأولية والاستدلال على مستوى الميزات المنخفض. ومن خلال تحديد "الأجزاء المتشابهة"، توجه الطريقة انتباه المستخدم إلى المنطق المشترك بين الحالة والنموذج الأولي، مما يعالج تحديات التفسير في البيانات الجدولية عالية الأبعاد. يؤكد المؤلفون أن هذا النهج يوازن بين قابلية التفسير والتنوع، مما يعزز كلاً من التفسيرات المحلية وعملية اختيار النماذج الأولية العالمية دون الحاجة إلى تعديلات في المنطق الداخلي للنموذج الأصلي.

يشير المؤلفون بتواضع إلى أنه بينما تحسن الطريقة جودة التفسير (عبر مقاييس وسيطة مثل الدقة وتنوع الميزات)، فإن الفرضية المركزية — وهي أن "الأجزاء المتشابهة" تحسن الفهم الفعلي للمستخدم — تتطلب تحقُّقاً مستقبلياً من خلال دراسات رسمية للتفاعل بين الإنسان والحاسوب. بالإضافة إلى ذلك، بينما يركز التنفيذ الحالي على مجموعات الأشجار، فإن التصميم التركيبي يسمح بالتكيف مع بنيات أخرى (مثل الشبكات العصبية) عبر استبدال مكونات المسافة وتقدير الأهمية.

أبحاث مشابهة