🤖 machine learning

Backward Compatibility in Tree-Based Explanations and Enhanced CART Algorithm

تقدم هذه الورقة مقياس فقدان التوافق مع الإصدارات السابقة في التفسيرات القائمة على الأشجار (BCLTX) وخوارزمية خفيفة الوزن مقابلة لها، CART-BCTX، لضمان حفاظ تحديثات نماذج أشجار القرار على تفسيرات هيكلية متسقة مع الحفاظ على دقة التنبؤ والكفاءة الحسابية.

المؤلفون الأصليون: Hirofumi Suzuki

نُشر 2026-08-11

📖 6 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Hirofumi Suzuki

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك محقق تحل لغزاً ما. لديك دفتر ملاحظات مليء بالأدلة ومجموعة من القواعد التي دونتها لتكتشف من هو الجاني. هذه القواعد تشبه الخريطة: "إذا شوهد المشتبه به بالقرب من المخبز، فافحص حجة الغياب؛ إذا كان في المنتزه، فافحص حالة الطقس". هكذا تعمل شجرة القرار (Decision Tree) في عالم الحواسيب. إنها أداة شائعة لاتخاذ القرارات لأنها شفافة للغاية؛ يمكنك النظر إلى الشجرة ومعرفة لماذا اتخذت خياراً معيناً. إنها تشبه المخطط الانسيابي الذي يمكن لأي شخص قراءته.

لكن الجزء الصعب هنا هو أن العالم يتغير. تظهر أدلة جديدة، وتصبح الأدلة القديمة غامضة، وأحياناً يغير الجاني عاداته. لذا، يتعين على المحقق تحديث دفتر ملاحظاته بقواعد جديدة. يُسمى هذا تحديث النموذج (Model Updating). والمشكلة هي أنه إذا رميت الدفتر القديم وكتبت واحداً جديداً تماماً من الصفر، فقد تتغير القواعد بشكل كلي. وفجأة، يصبح المشتبه به الذي تم تبرئته سابقاً لأنه كان عند المخبز الآن هو المشتبه به الرئيسي لأن القواعد الجديدة تقول "افحص المخبز أولاً". هذا يربك الأشخاص الذين يعتمدون على المحقق. لقد وثقوا في المنطق القديم، والآن يبدو المنطق الجديد وكأنه خيانة. هذه هي مشكلة التوافقية مع الإصدارات السابقة (Backward Compatibility): التأكد من أنك عندما تُحدث نظامك، لا تكسر الثقة أو المنطق الذي اعتمد عليه المستخدمون بالفعل.

لغز القواعد المتغيرة

في ورقة بحثية بعنوان "التوافقية مع الإصدارات السابقة في التفسيرات القائمة على الأشجار وخوارزمية CART المحسنة"، يتناول هيروفومي سوزوكي هذا الصداع تحديداً. يطرح المؤلف سؤالاً بسيطاً ولكنه حيوي: عندما نحدث شجرة قرار ببيانات جديدة، كيف يمكننا التأكد من أن الأسباب التي تقدمها لقراراتها لا تتغير بشكل جذري؟

فكر في شجرة القرار مثل لعبة "20 سؤالاً". تطرح الشجرة أسئلة مثل "هل الرقم أكبر من 5؟" لتضييق نطاق الإجابة. "التفسير" هو المسار المحدد من الأسئلة الذي سلكته الشجرة للوصة إلى الإجابة. إذا قمت بتحديث الشجرة، فقد تغير الأسئلة بالكامل. ربداً قد تسأل الشجرة الجديدة: "هل الرقم زوجي؟" بدلاً من ذلك. بالنسبة للحاسوب، قد يكون كلاهما صحيحاً، ولكن بالنسبة لإنسان يحاول فهم المنطق، فإن هذا التحول يكون مزعجاً.

تجادل الورقة بأن مجرد تحديث الشجرة لتكون أكثر دقة ليس كافياً. إذا قدمت الشجرة الجديدة "قصة" مختلفة لسبب اتخاذها قراراً ما، فقد يكون ذلك خطيراً، خاصة في المجالات عالية المخاطر مثل الرعاية الصحية أو التمويل حيث يحتاج الناس إلى الثقة في المنطق. يقترح المؤلف أننا بحاجة إلى طريقة لقياس مدى تغير "القصة"، ومن ثم بناء شجرة جديدة تحافظ على القصة كما هي تقريباً، حتى وهي تتعلم أشياء جديدة.

الأداة الجديدة: بطاقة تقييم "التوافقية"

لحل هذه المشكلة، اخترع المؤلف مقياساً جديداً يسمى BCLTX (خسارة التوافقية مع الإصدارات السابقة في التفسيرات القائمة على الأشجار). تخيل أن لديك خريطتين لنفس المدينة: القديمة والجديدة. BCLTX هو درجة تخبرك بمدى اختلاف الشوارع بين الخريطتين.

تقترح الورقة أربع طرق مختلفة لحساب هذا المقياس، لكنها جميعاً تتلخص في التحقق من شيئين:

أي الميزات تهم؟ هل بدأت الشجرة الجديدة بالاهتمام بأدلة مختلفة (مثل الانتقال من "المخبز" إلى "المنتزه")؟
ما مدى اتساع القواعد؟ هل تغيرت حدود القواعد؟ (على سبيل المثال، هل تغيرت القاعدة من "مخابز ضمن نطاق ميل واحد" إلى "مخابز ضمن نطاق 5 أميال"؟)

يسمي المؤلف هذا "مقياس خسارة"، وهو مجرد طريقة منمقة لقول "درجة لمدى سوء تنفيذنا للمنطق القديم". والهدف هو إبقاء هذه الدرجة منخفضة قدر الإمكان.

الحل: CART-BCTX

تقدم الورقة بعد ذلك خوارزمية جديدة تسمى CART-BCTX. إذا كنت تعرف كيف تتعلم الحواسيب، فقد تعرف CART (أشجار التصنيف والانحدار)، وهي الطريقة القياسية والشائعة لبناء هذه الأشجار القرارية. إنها تشبه الوصفة القياسية لخبز كعكة.

CART-BCTX هي مثل نسخة "فائقة القدرة" من تلك الوصفة. إنها نفس الكعكة، لكن الخباز (الخوارزمية) لديه قاعدة جديدة: "بينما تقوم بالخبز، تأكد من عدم تغيير شكل الكعكة كثيراً مقارنة بالكعكة السابقة".

تعمل الخوارزمية من خلال النظر في كل تقسيم محتمل في الشجرة وتسأل: "إذا قمت بهذا القطع، فهل سيساعدني في التنبؤ بشكل أفضل، وهل سيحافظ أيضاً على تشابه التفسير مع الشجرة القديمة؟" إنها توازن بين هذين الهدفين باستخدام مقبض يسمى $\lambda$ (لامدا).

إذا أدرت المقبض إلى الصفر، فستعمل مثل CART العادية، متجاهلة الشجرة القديمة تماماً.
إذا رفعت المقبض، فستصبح عنيدة جداً بشأن الحفاظ على المنطق القديم، حتى لو كان ذلك يعني أن تنبؤاتها ليست "مثالية" تماماً.

اختبر المؤلف هذه الطريقة على 10 مجموعات بيانات من العالم الحقيقي، تتراوح من تصنيف رسائل البريد الإلكتروني كرسائل مزعجة إلى التنبؤ بكمية النبيذ في الزجاجة. كانت النتائج واعدة. تشير الورقة إلى أن CART-BCTX يمكنها إيجاد "نقطة مثالية" حيث تصبح الشجرة أفضل في التنبؤ بالأشياء دون إعادة كتابة قصتها بالكامل.

ما تقوله الورقة (وما لا تقوله)

تظهر التجارب أن هذه الطريقة الجديدة تعمل بشكل جيد. وتحديداً، تجد الورقة أن:

إنها تعمل بسرعة: تستغ-رق الخوارزمية الجديدة تقريباً نفس الوقت الذي تستغرقه خوارزمية CART القياسية للعمل. إنها لا تبطئ الأمور بشكل كبير، حتى مع العمليات الحسابية الإضافية.
تحافظ على اتساق القصة: من خلال استخدام "مقياس الخسارة" الجديد، تظل التفسيرات (المسارات عبر الشجرة) أكثر استقراراً بكثير مما لو قمت بتحديث الشجرة بشكل عادي.
تساعد في التنبؤات أيضاً: ومن المثير للاهتمام، من خلال الحفاظ على استقرار التفسيرات، تميل الشجرة الجديدة أيضاً إلى الحفاظ على استقرار تنبؤاتها للأشياء التي نجحت في التنبؤ بها من قبل. وهذه نتيجة جانبية سعيدة.

كما تقارن الورقة هذه الطريقة بـ الأشجار القرارية المتزايدة (مثل VFDT و HAT)، المصممة لتعلم قطعة واحدة من البيانات في كل مرة، مثل التدفق المستمر. تشير النتائج إلى أنه بينما تعتبر هذه الأشجار المتدفقة جيدة في التعامل مع البيانات الجديدة التي تصل، إلا أنها لا تحافظ بالضرورة على اتساق "القصة" على المدى الطويل عند النظر في دفعات من البيانات. يبدو أن CART-BCTX تقوم بعمل أفضل في الحفاظ على هذه التوافقية مع الإصدارات السابقة عند تحديث النموذج بالكامل دفعة واحدة.

ومع ذلك، فإن المؤلف حذر من الادعاء بأن هذه الطريقة هي حل سحري. تشير الورقة إلى أن إيجاد الشجرة "المثالية" مستحيل رياضياً القيام به بسرعة، لذا تستخدم هذه الطريقة نهجاً "جشعاً" (اتخاذ أفضل قرار محلي في كل خطوة). كما تعترف بأنهم لم يختبروا بالكامل كيف يعمل هذا عند حدوث تغيير جذري في العالم (انزياح المفهوم) أو كيف يتفاعل البشر فعلياً تجاه هذه التغييرات في دراسة مستخدمين.

الخلاصة

باخت-صار، تقدم هذه الورقة طريقة عملية لتحديث "خرائط المنطق" التي تستخدمها الحواسيب، مما يضمن أنه عندما تتغير الخريطة، لا تختفي المعالم. إنها تقترح أنه من خلال إضافة "فحص توافق" بسيط إلى عملية بناء الشجرة القياسية، يمكننا تحديث نماذج الذكاء الاصطناعي الخاصة بنا دون إرباك الأشخاص الذين يعتمدون عليها. إنها خطوة نحو جعل تحديثات تعلم الآلة تبدو أقل شبهاً بالمفاجأة وأكثر شبهاً بالتطور الطبيعي.

ملخص تقني: التوافقية الرجعية في التفسيرات القائمة على الأشجار وخوارزمية CART المحسنة

1. بيان المشكلة

في دورة حياة أنظمة تعلم الآلة التشغيلية، تعد تحديثات النماذج ضرورية للحفاظ على الأداء مع تغير توزيع البيانات. ومع ذلك، غالبًا ما تؤدي تحديثات النماذج القياسية إلى تغيير سلوك النموذج بشكل كبير، مما قد يؤدي إلى تعطيل اتخاذ القرار اللاحق وتقويض ثقة المستخدم. وتعد هذه المسألة حرجة بشكل خاص في المجالات الحساسة للمخاطر (مثل الرعاية الصحية والتمويل) حيث يتم استخدام الذكاء الاصطناٍ القابل للتفسير (XAI).

بينما ركزت الأبحاث الحالية حول التوافقية الرجعية (قياس استقرار سلوك النموذج عبر التحديثات) على اتساق التنبؤ أو مساهمات الميزات القائمة على SHAP، إلا أن هذه النهج تفشل في معالجة التفسيرات القائمة على الأشجار. توفر أشجار القرار الشفافية من خلال قواعد (إذا-إذن-وإلا) المستمدة من فترات الميزات. وعند إعادة تدريب شجرة القرار على بيانات جديدة، يمكن أن تتغير نقاط التقسيم والفضاءات الفرعية للميزات (التفسيرات) بشكل جذري، حتى لو تحسنت الدقة التنبؤية. هذا النقص في التوافقية الرجعية في التفسيرات يمكن أن يربك المستخدمين الذين يعتمدون على قواعد منطقية متسقة لدعم القرار. ولا تستطيع الطرق الحالية معالجة استقرار هذه التفسيرات ذات الهيكل الشجري بفعالية.

2. المنهجية

2.1 المقياس المقترح: BCLTX

يقترح المؤلف فقدان التوافقية الرجعية في التفسيرات القائمة على الأشجار (BCLTX)، وهو مقياس فقدان مصمم لقياس التباعد بين تفسيرات شجرة قرار قديمة ( $T_1$ ) وشجرة قرار جديدة ( $T_2$ ) للعينات التي كان النموذج القديم صحيحًا فيها.

يُعرَّف تفسير شجرة القرار لمدخل $\mathbf{x}$ بأنه اقتران من فترات للميزات المحددة، متمثلاً بمتجهات الحدود الدنيا ( $l$ ) والعليا ( $u$ ). يقيس BCLTX الفرق بين $T_1$ و $T_2$ باستخدام أربعة متغيرات:

$\delta_{JAC}$ (القائم على جاكار - Jaccard): يقيس الفرق المتماثل في مجموعة الميزات المساهمة في التفسير (حيث تكون الحدود متناهية).
$\delta_{JLU}$ (جاكار للحدود الدنيا/العليا): يقيس بشكل منفصل الفرق المتماثل في الميزات المساهمة في الحدود الدنيا والحدود العليا.
$\delta_{MAE}$ (متوسط الخطأ المطلق): يقيس الفرق في فترات الميزات باستخدام الخطأ المطلق، مع تطبيعه بواسطة الانحراف المعياري للميزة وحصره ضمن نطاقات البيانات.
$\delta_{MSE}$ (متوسط مربع الخطأ): يقيس فروق الفترات باستخدام الخطأ المربع، وبشكل مشابه لـ $\delta_{MAE}$ من حيث التطبيع.

2.2 الخوارزمية: CART-BCTX

لتحسين BCLTX، يقترح المؤلف CART مع التوافقية الرجعية في التفسيرات القائمة على الأشجار (CART-BCTX). وهي خوارزمية جشعة خفيفة الوزن توسع خوارزمية CART القياسية.

دالة الهدف: تُقلل الخوارزمية دالة هدف مشتركة:
$f(T_1, T_2, D_2, \lambda) = \frac{1}{|D_2|} \sum \ell(T_2(\mathbf{x}), y) + \frac{\lambda}{|D_s|} \sum \delta(T_1, T_2, \mathbf{x})$
حيث $\ell$ هي خسارة المهمة المحددة (مثل خسارة 0-1 أو الخطأ التربيعي)، و $D_s$ هي مجموعة العينات التي تنبأ بها النموذج القديم $T_1$ بشكل صحيح، و $\delta$ هو متغير BCLTX المختار، و $\lambda$ يتحكم في المقايضة بين الأداء التنبؤي واستقرار التفسير.
اختيار التقسيم الجشع: أثناء نمو الشجرة، تحافظ CART-BCTX على حدود الفضاء الفرعي الحالي للميزات ( $\hat{l}, \hat{u}$ ) لكل عقدة. عند تقييم التقسيمات المرشحة، تقوم بحساب "كسب" (gain) لكل من خسارة المهمة ( $Gain_\ell$ ) وخسارة التوافقية الرجعية ( $Gain_\delta$ ). ويتم اختيار التقسيم الذي يعظم المجموع الموزون لهذه المكاسب.
- بالنسبة لـ $\delta_{JAC}$ و $\delta_{JLU}$ ، يكون حساب الكسب ثابتًا بالنسبة لنقطة التقسيم لميزة معينة.
- بالنسبة لـ $\delta_{MAE}$ و $\delta_{MSE}$ ، تحسب الخوارزمية تغييرات الكسب بكفاءة باستخدام أشجار بحث ثنائية متوازنة ذاتيًا (لـ MAE) أو تحديثات الجمع البسيطة (لـ MSE) أثناء تقسيم العينات.
التعقيد: تعقيد الحوسبة لـ CART-BCTX مشابه لـ CART القياسية. وهي $O(n m d_2)$ لمتغيرات Jaccard و JLU و MSE (حيث $n$ عدد العينات، $m$ عدد الميزات، $d_2$ عمق الشجرة) و $O(n m d_2 \log n)$ لمتغير MAE.
التقليم (Pruning): يوسع المؤلف تقليم تعقيد التكلفة (CCP) للتعامل مع BCLTX من خلال دمج دالة الخسارة المشتركة في معيار التقليم، مما يسمح بإزالة الأشجار الفرعية التي لا تحسن المقايضة بشكل كافٍ.

3. المساهمات الرئيسية

تعريف BCLTX: يقدم البحث أول مقاييس للتوافقية الرجعية المصممة خصيصًا للتفسيرات القائمة على الأشجار، والتي تلتقط الاختلافات في مجموعات الميزات وحدود الفترات.
خوارزمية CART-BCTX: خوارزمية تحديث جشعة وفعالة تدمج BCLTX في إطار عمل CART القياسي دون التضحية بقابلية التوسع.
التحليل النظري: إثبات أن الخوارزمية تحافظ على تعقيد حوسبي مماثل لـ CART القياسية، مع زيادة بمقدار عامل لوغاريتمي واحد فقط لمتغيرات خسارة معينة.
التحقق التجريبي: تجارب شاملة على 10 مجموعات بيانات من العالم الحقيقي (5 للتصنيف و 5 للانحدار) توضح فعالية الخوارزمية.

4. النتائج التجريبية

أُجريت التجارب على 10 مجموعات بيانات من مستودعات UCI و KEEL، مع مقارنة CART-BCTX مقابل تحديثات CART القياسية والأشجار القرارية المتزايدة (VFDT و HAT).

المقايضة بين التنبؤ و BCLTX: تحقق CART-BCTX مقايضة مواتية بين الأداء التنبؤي (معدل الخطأ/RMSE) وقيم BCLTX. مع زيادة معامل التنظيم $\lambda$ ، تتحسن قيم BCLTX (مما يشير إلى تفسيرات أكثر استقرارًا) بينما يكون تدهور الأداء التنبؤي ضئيلًا لقيم $\lambda$ الصغيرة.
تأثير التوافقية في التنبؤ: يحسن استخدام $\delta_{MAE}$ أو $\delta_{MSE}$ بشكل كبير من التوافقية الرجعية في التنبؤات (BCP)، مما يشير إلى أن استقرار التفسيرات يؤدي أيضًا إلى استقرار التنبؤات للعينات التي تعامل معها النموذج القديم بشكل صحيح.
وقت الحوسبة: تعمل CART-BCTX بأوقات حوسبة مماثلة لـ CART القياسية (تأخر بنحو ضعفين في أسوأ السيناريوهات)، مما يؤكد كفاءتها العملية.
المقارنة مع الأشجار المتزايدة: عند تقييمها على أساس دفعات (batch-wise)، تتفوق CART-BCTX على الأشجار المتزايدة (VFDT, HAT) في كل من دقة التنبؤ وقيم BCLTX. وبينما تحافظ الأشجار المتزايدة على بعض التوافقية في التنبؤ، إلا أنها تفشل في الحفاظ على استقرار التفسيرات القائمة على الأشجار على المدى المتوسط إلى الطويل مقارنة بـ CART-BCTX التي يتم تحديثها بنظام الدفعات.

5. الأهمية والادعاءات

يزعم البحث أن CART-BCTX توفر حلاً عمليًا لتحديث أشجار القرار في البيئات التي يكون فيها استقرار التفسير بنفس أهمية الدقة التنبؤية. ومن خلال كبح التغييرات الجذرية في حدود القرار وفترات الميزات، تدعم هذه الطريقة النشر الموثوق.

يؤكد المؤلف على أن:

مقاييس التوافقية الرجعية الموجودة (التي تركز على SHAP أو دقة التنبؤ) غير كافية لأشجار القرار.
الإطار المقترح يسمح بـ تحديثات متوافقة رجعيًا دون الحاجة إلى إعادة تصميم كاملة لخوار algorithm التعلم.
بينما يفترض العمل الحالي بيئة تعلم بالدفعات (batch learning)، يمكن تقييم مفهوم التوافقية الرجعية بطرق تعتمد على الدفعات حتى ضمن سياقات التعلم المتزايد، حيث قد تفشل الأشجار المتزايدة القياسية في الحفاظ على اتساق التفسير على المدى الطويل.

القيود التي لاحظها المؤلف:

الخوارزمية جشعة؛ لذا فإن إيجاد الشجرة المثلى عالميًا تحت ظل BCLTX أمر مستعصٍ حوسبيًا.
الصيغة الحالية لا تتعامل صراحة مع سيناريوهات انزياح المفهوم (concept drift) حيث قد يتغير تعريف "التنبؤات الصحيحة" بشكل جوهري.
تتطلب المعنوية العملية للمقاييس المقترحة مزيدًا من التحقق من خلال دراسات المستخدم في بيئات النشر الواقعية.