ArborEnum: Decision Tree Rashomon Sets over Continuous Features
تقدم هذه الورقة أول خوارزمية لحصر مجموعات راشون (Rashomon) لأشجار القرار بدقة عبر الميزات المستمرة من خلال الاستفيد من بنيتها المرتبة، إلى جانب طرق تقريبية وطرق "في أي وقت" (anytime) تتفوق بشكل كبير على النهج القائمة على التثنيت (binarization) الحالية من حيث السرعة والدقة مع الكشف عن التعدد التنبؤي الحرج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول حل عقدة ضخمة ومتشابكة من المشكلات. في عالم علوم الحاسوب، وتحديداً في مجال يسمى تعلم الآلة، غالباً ما نطلب من الحواسيب إيجاد "أفضل" طريقة لتقديم التنبؤات، مثل تخمين ما إذا كان العميل سيشتري منتجاً ما أو ما إذا كان المريض يعاني من حالة معينة. لفترة طويلة، اعتقد العلماء أنه يوجد عادةً إجابة واحدة مثالية، وهي "النموذج الذهبي" الأفضل على الإطلاق. لكن هناك تحولاً مذهلاً في هذه القصة يسمى تأثير راشومون (Rashomon effect). سُمي بهذا الاسم تيمناً بفيلم شهير حيث يروي أربعة شهود نسخاً مختلفة من نفس الحدث، ويصف هذا التأثير واقعاً يمكن فيه للعديد من النماذج المختلفة تماماً أن تؤدي أداءً متقارباً جداً. جميعها "جيدة بما يكفي"، لكنها قد تستخدم أدلة مختلفة أو تنظر إلى البيانات بطرق مختلفة تماماً.
لماذا يهم هذا الأمر؟ لأنك إذا نظرت فقط للبحث عن ذلك النموذج "الذهبي" الواحد، فقد تفوتك مجموعة كاملة من البدائل الجيدة بنفس القدر. بعض تلك البدائل قد تكون أكثر أماناً، أو أسهل في الفهم، أو أكثر عدلاً. ولدراسة هذا، يبحث الباحثون عن مجموعة راشومون (Rashomom set): وهي مجموعة تضم كل النماذج التي تكاد تكون مثالية. التحدي يكمن في أن العثور على هذه المجموعة يشبه محاولة عد كل حبة رمل على الشاطئ؛ إنها مهمة ضخمة وفوضوية، خاصة عندما لا تكون البيانات مجرد إجابات بسيطة بـ "نعم أو لا" (مثل أحمر أو أزرق)، بل تتضمن سمات مستمرة (continuous features) — وهي أرقام يمكن أن تكون أي شيء، مثل درجة الحرارة، أو الطول، أو السعر، والتي يمكن تقسيمها عند ملايين النقاط المختلفة.
هنا يأتي دور دراسة جديدة تقدم أداة ذكية تسمى آربورينوم (ArborEnum). فكر في الباحثين كأنهم مستكشفون يحاولون رسم خريطة لغابة كثيفة وضبابية. قبل ذلك، إذا أرادوا رسم خريطة للغابة، كان عليهم تقطيعها إلى مربعات شبكية مرتبة (عملية تسمى التثني/التحويل إلى ثنائي - binarization) فقط لجعلها قابلة للإدارة. ولكن من خلال القيام بذلك، كانوا غالباً ما يفقدون المسارات المخفية، والأشجار النادرة، والاختصارات المهمة التي كانت موجودة في الطبيعة المستمرة. وضع مؤلفو هذه الورقة نوعاً جديداً من البوصلة يسمح لهم باستكشاف الغابة تماماً كما هي، بكل منحنياتها الناعمة والمستمرة، دون الحاجة لتقطيعها أولاً. لقد وجدوا أنه من خلال تجاهل سلاسة البيانات، كانت الطرق القديمة تفقد قطعاً كبيرة من النماذج "الجيدة". يمكن لطريقتهم الجديدة سرد هذه النماذج بشكل أسرع بكثير — في بعض الأحيان بمئات المرات — من الطرق السابقة. والأفضل من ذلك، أنهم ابتكروا نسخة "ذكية" تبدأ برسم تخطيطي تقريبي للغابة ثم تستمر في تحسينه، لتصبح أكثر تفصيلاً كلما تركتها تعمل، بحيث يمكنك التوقف متى توفرت لديك المعلومات الكافية. لقد أثبتوا من خلال تجارب على بيانات حقيقية أن هذا النهج لا يوفر الوقت فحسب، بل يجد أيضاً سمات ونماذج هامة أغفلتها الطرق القديمة القائمة على الشبكات.
قصة الغابة والشبكة
تخيل أنك محقق تحاول حل لغز ما. لديك كومة من الأدلة، وعليك بناء شجرة قرار — مخطط انسيابي للأسئلة — لمعرفة من الفاعل. عادةً، ستطرح أسئلة مثل: "هل المشتبه به أطول من 6 أقدام؟" أو "هل يرتدي قبعة؟". في الأيام الخوالي، كان على علماء الحاسوب تحويل كل دليل إلى سؤال بسيط بـ "نعم أو لا" قبل البدء في بناء الشجرة. فإذا كان الدليل رقماً، مثل "طول المشتبه به 5 أقدام و11 بوصة"، كان عليهم تقطيعه إلى مجموعات: "هل هو تحت 5 أقدام و6 بوصات؟" "هل طوله بين 5 أقدٍ و6 بوصات و6 أقدٍ و0 بوصة؟" "هل هو فوق 6 أقدٍ؟".
عملية التقطيع هذه تسمى التثني (binarization). إنها تشبه أخذ نهر يتدفق بسلاسة وإجباره على الدخول في سلسلة من القنوات الخرسقية المربعة. المشكلة هي أنك من خلال إجبار المياه على الدخول في هذه الصناديق الصلبة، قد تفقد دوامة مثالية صغيرة أو تياراً خفياً يتدفق مباشرة بين الشقوق. في عالم تعلم الآلة، يعني هذا أنك قد تفقد طريقة مثالية لتقسيم البيانات لأن "شبكتك" لم تكن تحتوي على خط في المكان الذي تحتاجه البيانات بالضبط.
تأثير راشومون هو فكرة أنه لا يوجد مخطط انسيابي واحد مثالي. بل هناك عشرات، وربى مئات من المخططات الانسيابية المختلفة التي تحل اللغز بنفس الدقة العالية. بعضها قد يستخدم الطول، والبعض الآخر الوزن، أو مزيجاً من كليهما. مجموعة راشومون هي مجموعة كل هذه المخططات الانسيابية الجيدة. العثور على هذه المجموعة مفيد للغاية لأنه يساعدنا في فهم أي الأدلة مهمة حقاً وأيها مجرد تخمينات محظوظة. إذا ظهر دليل في معظم المخططات الجيدة، فمن المحتمل أنه مفتاح حقيقي للغز. أما إذا ظهر في واحد فقط، فقد يكون مجرد صدفة.
مشكلة الخرائط القديمة
لفترة طويلة، كانت الطريقة الوحيدة للعثور على مجموعة راشومون هي استخدام طريقة "القنوات الخرسانية" (التثني). كان الباحثون يقطعون الأرقام المستمرة إلى بضع مجموعات ثم يحاولون إيجاد كل الأشجار الجيدة. لكن هذا كان يسبب مشكلتين كبيرتين. أولاً، كانت مساحة البحث ضخمة بالفعل؛ فمع وجود 20 سمة ثنائية فقط، كان هناك عدد من الأشجار أكثر من حبات الرمل على الأرض. ثانياً، من خلال تقطيع البيانات، كانوا يتخلصون من المعلومات. قد يفوتهم تقسيم حدث عند رقم محدد جداً، مثل 5.99 بوصة، لأن مجموعاتهم كانت فقط 5.5 و6.0.
توضح الورقة أن هذا "التثني الخشن" يشبه محاولة العثور على إبرة في كومة قش عبر النظر فقط إلى الطبقة العليا من القش. قد تجد إبرة، لكنك ستفقد الأخرى التي قد تكون مدفونة بشكل أعمق أو التي لها أشكال مختلفة قليلاً. وجد المؤلفون أنه عندما أجبروا البيانات على الدخول في هذه المجموعات الخشنة، فقدوا العديد من الأشجار المهمة، والسمات المهمة، والتنوع الحقيقي للحلول (تعدد القدرة التنبؤية).
البوصلة الجديدة: ArborEnum
هنا يأتي دور ArborEnum. بنى المؤلفون أول خوارزمية يمكنها استكشاف "الغابة المستمرة" دون تقطيعها أولاً. بدلاً من إجبار البيانات على الدخول في صناديق مربعة، يحترم ArborEnum الترتيب الطبيعي للأرقام. إنه يعامل البيانات كخط سلس ويبحث عن أفضل الأماكن لقطعه، مدركاً أن هناك آلاف نقاط القطع المحتملة.
للقيام بذلك، استخدموا خدعة ذكية. تخيل أنك تبحث عن أفضل مكان لقطع حبل. لا تحتاج لاختبار كل مليمتر واحد. إذا كنت تعرف أن القطع عند 10 بوصات سيء، وأن القطع عند 11 بوصة أيضاً سيء، فيمكنك على الأرجح تخمين أن القطع عند 10.5 بوصة لن يكون جيداً أيضاً. طور المؤلفون طريقة لاستخدام هذه "الحدود" لتخطي أجزاء ضخمة من الحبل لا تحتاج للاختبار. يسمون هذا التقليم (pruning). إنه يشبه امتلاك خريطة تخبرك: "لا تتعب نفسك بالبحث في هذا الوادي بأكمله؛ الكنز ليس هناك".
كما قدموا نظام "الوكيل" (proxy). فكر في الوكيل كأنه تخمين سريع وخشن. قبل القيام بالعمل الشاق للتحقق من كل احتمال، تقوم الخوارزمية بتخمين سريع وتقريبي لترى ما إذا كان المسار يستحق الاستكشاف. إذا قال التخمين "مستحيل"، فإنها تتخطى الفرع بالكامل. وإذا قال "ربما"، فإنها تتعمق أكثر. هذا يجعل الخوارزمية سريعة للغاية. في اختباراتهم، كانت هذه الطريقة أسرع بـ 270 مرة من الطرق الموجودة في المتوسط، وفي بعض الحالات، كان الفرق أكثر دراماتيكية.
ميزة "في أي وقت": رسم تخطيطي يتحسن باستمرار
أحد أروع أجزاء ArborEnum هو خوارزمية "في أي وقت" (anytime algorithm). عادةً، إذا كنت تريد خريطة مثالية، يجب أن تنتظر حتى ينتهي الحاسوب من المهمة بأكملها. ولكن ماذا لو كنت بحاجة إلى إجابة الآن؟ نسخة "في أي وقت" من ArborEnum تبدأ برسم تخطيطي خشن جداً للغابة. قد تنظر فقط إلى عدد قليل من نقاط القطع الرئيسية. تعطيك قائمة بالأشجار الجيدة بناءً على ذلك الرسم الخشن.
ثم، بينما تتركها تعمل لفترة أطول، تضيف المزيد والمزيد من نقاط القطع إلى خريطتها. إنها تقوم بتحسين الرسم التخطيطي، وتملأ الفجوات. وكلما أعطيتها وقتاً أطول، أصبحت قائمة الأشجار أكثر تفصيلاً ودقة. في النهاية، إذا تركتها تعمل لفترة كافية، ستجد القائمة الدقيقة والمثالية لكل الأشجار الجيدة. والأفضل من ذلك؟ يمكنك إيقافها في أي وقت. إذا كنت بحاجة إلى إجابة في 5 دقائق، ستحصل على تقريب جيد. إذا كان لديك 5 ساعات، ستحصل على إجابة شبه مثالية. وجد المؤلفون أنه حتى مع هذا "البداية الخشنة"، استعادت الطريقة جميع الأشجار المهمة تقريباً، وكان الوقت الإضافي الذي استغرقه تحسين الخريطة ضئيلاً جداً — حوالي 2.7% فقط من الوقت مقارنة بتشغيل النسخة غير المحسنة على مجموعة النقاط النهائية.
ما وجدوه وما يعنيه ذلك
أجريت التجارب على 20 مجموعة بيانات مختلفة من الواقع، من التنبؤ باستئجار الدراجات إلى التعثر في سداد بطاقات الائتمان. وكانت النتائج واضحة:
- التثني الخشن يفتقد الكثير: عندما قارنوا الطريقة القديمة "المقطعة" بالطريقة الجديدة المستمرة، فات الطريقة القديمة العديد من الأشجار والسمات المهمة. كان الأمر يشبه النظر إلى صورة من خلال نافذة ضبابية؛ يمكنك رؤية الشكل العام، لكنك تفقد التفاصيل.
- السرعة حقيقية: كانت الطريقة الجديدة أسرع بعدة مراتب. في مجموعة بيانات تسمى "Bike"، انتهت الطريقة المثالية الجديدة بشكل أسرع بـ 63 مرة من الطريقة الوحيدة التي استطاعت العمل أصلاً.
- الدقة عالية: حتى عند استخدام طريقة "الوكيل" السريعة والتقريبية، استعادت الطريقة ما بين 94.5% إلى 100% من الأشجار التي وجدتها الطريقة المثالية. وهذا يعني أنه يمكنك الحصول على جميع فوائد مجموعة راشومون تقريباً دون الانتظار للأبد.
- نهج "في أي وقت" يعمل: أثبتت الطريقة التي تبدأ بشكل خشن وتتحسن أنها فعالة للغاية. لقد وجدت السمات المهمة في وقت مبكر، مما يعني أنه يمكنك الحصول على رؤى مفيدة بسرعة دون انتظار الحساب الكامل.
لا تدعي الورقة البحثية أنها حلت كل المشكلات في تعلم الآلة. هي لا تقول إن السمات المستمرة هي الطريقة الوحيدة للقيام بالأمور، أو أن هذه الطريقة تعمل لكل أنواع النماذج. لكنها تظهر، بأدلة قوية من التجارب، أنه بالنسبة لأشجار القرار، فإن معاملة البيانات المستمرة كبيانات مستمرة يعد تغييراً جذرياً لقواعد اللعبة. فهو يسمح لنا برؤية الصورة الكاملة لـ "مجموعة راشومون" دون أن نفقد عقولنا (أو حواسيبنا) بسبب التعقيد.
باختصار، ArborEnum هو طريقة جديدة لاستكشاف مشهد الحلول الجيدة. إنه يوقفنا عن إجبار العالم على الدخول في شبكة لا تناسبه، وبدلاً من ذلك يسمح لنا بالسير في المسارات المستمرة والناعمة حيث تختبئ الإجابات الحقيقية غالباً. سواء كنت عالماً للبيانات يبحث عن أفضل نموذج أو مجرد شخص فضولي يتساءل كيف تتخذ الحواسيب قراراتها، فإن هذا العمل يشير إلى أن هناك إجابات جيدة أكثر مما كنا نعتقد، وأننا نملك الآن طريقة أفضل لإيجادها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.