🔢 mathematics

DT-PBO: an Interpretable Tree-based Surrogate Model for Preferential Bayesian Optimization

تقترح الورقة البحثية نموذج DT-PBO، وهو نموذج بديل قائم على الأشجار وقابل للتفسير لعملية التحسين البايزي التفضلي (Preferential Bayesian Optimization)، والذي يحقق أداءً تنافسياً ومتانة مع توفير رؤى شفافة حول تفضيلات صانع القرار، مما يعالج قيود التفسير في النهج التقليدية القائمة على العمليات الغاوسية (Gaussian Process).

المؤلفون الأصليون: Nick Leenders, Thomas Quadt, Boris Cule, Roy Lindelauf, Herman Monsuur, Joost van Oijen, Mark Voskuijl

نُشر 2026-05-11

📖 4 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Nick Leenders, Thomas Quadt, Boris Cule, Roy Lindelauf, Herman Monsuur, Joost van Oijen, Mark Voskuijl

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول العثور على قطعة الكيك المثالية لصديق لك. أنت لا تطلب منه تقييم كل كعكة على مقياس من 1 إلى 10 (لأن ذلك صعب ومربك). بدلاً من ذلك، تسأله أسئلة بسيطة: "هل تفضل الشوكولاتة أم الجزر؟" "ماذا عن الشوكولاتة أم الفانيليا؟"

هذا هو جوهر التحسين البايزي التفضيلي (PBO): إيجاد الخيار "الأفضل" من خلال طرح سلسلة من أسئلة "أ أم ب؟".

لفترة طويلة، حلت الحواسيب هذه المشكلة باستخدام العمليات الغاوسية (GPs). فكر في العملية الغاوسية كساحر ذكي للغاية ولكنه غامض. يمكنه التنبؤ بأفضل كعكة بدقة مذهلة، لكنه يبقي منطقه داخل "صندوق أسود". إذا سألته: "لماذا اخترت كعكة الشوكولاتة؟" قد يقول: "بسبب معادلة رياضية معقدة تتعلق بالمسافة بين المكونات". هذا ليس مفيداً إذا كنت بحاجة لشرح اختيارك لطبيب، أو قاضٍ، أو مريض متشكك.

تقدم هذه الورقة البحثية DT-PBO، وهي طريقة جديدة لحل هذه المشكلة. بدلاً من الساحر الغامض، يستخدم DT-PBO شجرة قرار (Decision Tree).

تشبيه الشجرة: مخطط انسيابي للتفضيلات

تخيل مخططاً انسيابياً ضخماً (شجرة) معلقاً على الحائط.

الأغصان هي الأسئلة: تبدأ الشجرة من الأعلى بسؤال مثل: "هل الكعكة بنكهة الشوكولاتة؟"
الأوراق هي الإجابات: بينما تتبع الأغصان للأسفل، ستصل في النهاية إلى "ورقة" (نهاية الغصن). تخبرك هذه الورقة بـ "المنفعة" (مدى حب الشخص لهذا النوع من الكعك) وتمنحك قدراً بسيطاً من عدم اليقين (على سبيل المثال: "نحن متأكدون بنسبة 90% أنهم يحبون هذا").

يقوم DT-PBO ببناء هذه الشجرة مباشرة من إجابات "أ أو ب؟". فهو لا يخمن؛ بل ينظر إلى البيانات ويسأل: "ما هو السؤال الذي يفصل بين 'الفائزين' و'الخاسرين' بشكل أفضل؟"

كيف يعمل الأمر (الخدعة السحرية)

خوارزمية التقسيم (المحقق): تنظر الخوارزمية إلى جميع المقارنات. إذا كان معظم الأشخاص الذين يفضلون "الشوكولاتة" على "الجزر" يفضلون أيضاً "الشوكولاتة" على "الفانيليا"، فإن الشجرة تنشئ غصناً لـ "الشوكولاتة". تستخدم الخوارزمية خدعة رياضية خاصة تسمى "درجة الاتساق" (Consistency Score) لإيجاء الأسئلة الأكثر منطقية لطرحها تالياً.
الأوراق (الكرة البلورية): بمجرد بناء الشجرة، فإن نهايات الأغصان (الأوراق) ليست مجرد إجابات بسيطة بـ "نعم/لا". بل تحتوي على توزيع احتمالي. وهذا يعني أن الشجرة يمكنها القول: "بناءً على البيانات، هذه المجموعة من الخيارات هي الأفضل على الأرجح، ولكن هناك احتمال ضئيل بأن نكون مخطئين". هذا يسمح للنظام بالاستمرار في التعلم وطرح أسئلة أفضل.
خدعة "المتذبذب" (Straddler): أحياناً، تقع زوج من العناصر (مثل كعكة الشوكولاتة وكعكة الجزر) تماماً على الخط الفاصل بين فرعين. يتجاهل DT-PBO هذه العناصر "المتذبذبة" بذكاء عند بناء هيكل الشجرة. لماذا؟ لأن التقسيم الرئيسي (شوكولاتة مقابل جزر) قد حسم الفائز بالفعل. تجاهل هذه العناصر يحافظ على صغر حجم الشجرة، وبساطتها، وسهولة قراءتها، دون فقدان معلومات مهمة.

لماذا يهم هذا الأمر؟

تدعي الورقة ثلاث نقاط رئيسية:

إنه شفاف (الـ "صندوق الزجاجي"): على عكس الساحر (GP)، يمكنك النظر إلى الشجرة ورؤية لماذا تم اتخاذ القرار بالضبط. يمكنك تتبع المسار: "لقد اختار النظام هذا لأن المستخدم يحب المأكولات البحرية، ولا يحب الدهون العالية، ويفضل الأسعار المنخفضة". هذا أمر بالغ الأهمية في المجالات عالية المخاطر مثل الرعاية الصحية أو الدفاع، حيث لا يمكنك مجرد الثقة في صندوق أسود.
إنه سريع ومتين: اختبر المؤلفون DT-PBO على ثمانية "تضاريس" (مسائل رياضية).
- في التضاريس الناعمة والسهلة، كان أداؤه مشابهاً لأداء الساحر.
- في التضاريس "الوعرة" (حيث تكون الإجابة الأفضل مخفية في تضاريس متعرجة ومتعرجة)، تفوق DT-PBO فعلياً على الساحر.
- كان أيضاً أسرع بكثير (من 10 إلى 400 مرة أسرع) لأنه لا يحتاج إلى القيام بعمليات رياضية ثقيلة ومعقدة لكل خطوة.
إثبات من الواقع العملي:
- السوشي: استخدموه للعثور على نوع السوشي المفضل لشخص ما. كشفت الشجرة عن السبب (على سبيل المثال: "هذا المستخدم يحب المأكولات البحرية ولكنه يكره الدهون العالية")، وهو ما لم يستطع الصندوق الأسود فعله.
- رسائل المرضى: في اختبار عالي المخاطر يتعلق برسائل المرضى، ساعدت الشجرة الأطباء في تحديد الحالات العاجلة ذات الأولوية. أظهرت الشجرة أن "آلام الصدر" و"الضيق التنفسي" كانت المحركات الرئيسية للحالة الطارئة. وهذا أمر حيوي لأن الطبيب يحتاج لمعرفة لماذا تم تصنيف رسالة ما كحالة طوارئ، وليس فقط معرفة أنها كذلك.

القيود (تنبيهات الورقة الصريحة)

يلاحظ المؤلفون بعناية أين قد تواجه شجرتهم صعوبة:

الأبعاد العالية: إذا كان لديك الكثير من الميزات (أكثر من 7 أو 8)، فإن الشجرة تصبح تائهة قليلاً، خاصة في المسائل الناعمة. "الساحر" (GP) لا يزال أفضل في التعامل مع المنحنيات الناعمة وعالية الأبعاد.
اللامبالاة: يفترض النموذج أن لديك دائماً تفضيلاً (أ أفضل من ب). إنه لا يتعامل مع حالة "لا يهمني" (أ تساوي ب) بشكل جيد بعد.

الملخص

DT-PBO يشبه استبدال نظام GPS عالي التقنية وغامض يكتفي بقول "انعطف يساراً" بخريطة واضحة مرسومة يدوياً تشرح: "انعطف يساراً لأن هناك عائقاً أمامك". إنه يجد الحل الأفضل بنفس الكفاءة (وأحياناً بشكل أفضل في التضاريس الصعبة)، ولكنه يفعل ذلك بطريقة يمكن للبشر فهمها، والثقة بها، والتحقق منها.

ملخص تقني: DT-PBO – نموذج بديل قائم على الأشجار قابل للتفسير للتحسين البايزي التفضيلي

1. بيان المشكلة

يهدف التحسين البايزي التفضيلي (PBO) إلى تحديد الحل الأكثر تفضيلاً لصانع القرار (DM) ضمن مساحة بحث باستخدام أقل عدد ممكن من المقارنات الزوجية (PCs). وبينما تعتمد طرق PBO الحالية بشكل أساسي على نماذج العمليات الغاوسية (GP) البديلة، فإن هذه النماذج تعاني من قصور حرج وهو: الافتقار إلى القابلية للتفسير. تعمل الـ GPs كنماذج "صندوق أسود"، مما يجعل من الصعب على صناع القرار فهم لماذا يتم تفضيل حلول معينة. هذا الغموض يشكل عائقاً كبيراً في المجالات عالية المخاطر (مثل الرعاية الصحية والدفاع) حيث تفرض الأطر التنظيمية (مثل قانون GDPR في الاتحاد الأوروبي) والمبادئ التوجيهية الأخلاقية (مثل استراتيجية الناتو للذكاء الاصطناعي المسؤول) ضرورة القابلية للتفسير. علاوة على ذلك، فإن طرق التفسير اللاحقة (post-hoc) المستخدمة للـ GPs غالباً ما تكون غير أمينة للنموذج الأساسي، مما قد يوفر رؤى مضللة.

يعالج هذا البحث الحاجة إلى نموذج بديل يكون قابلاً للتفسير بطبيعته مع الحفاظ على القدرة على نمذجة عدم اليقين في التفضيلات ودعم التعلم النشط (كفاءة العينات).

2. المنهجية: DT-PBO

يقترح المؤلفون DT-PBO، وهو نموذج بديل جديد يعتمد على أشجار القرار (DT) مصمم خصيصاً لـ PBO. وخلافاً لأشجار القرار القياسية التي تُدرب على بيانات التصنيف أو الترتيب، يتعلم DT-PBO مباشرة من بيانات المقارنة الزوجية. تتبع الطريقة دورة تحسين PBO القياسية (الشكل 1) ولكنها تستبدل نموذج GP بهيكل قائم على الأشجار.

2.1 تقسيم المساحة (آلية التقسيم)

الابتكار الجوهري هو آلية تقسيم تعتمد على درجة الاتساق (Consistency Score) مصممة لتقسيم مساحة الميزات بناءً على التفضيلات المرصودة بدلاً من تسميات الترتيب.

الآلية: بالنسبة لعقدة $A$ تحتوي على مجموعة من المقارنات $D_A$ ، تقوم الخوارزمية بتقييم التقسيمات المرشحة (مؤشر الميزة $k$ والعتبة $t$ ).
درجة الاتساق ( $S_A$ ): يتم تقييم التقسيم بناءً على مدى نجاحه في فصل "الفائزين" عن "الخاسرين". وتحديداً، يحسب المتوسط التجريبي لمتغير $Z_i(s)$ ، والذي يكون $+1$ إذا كان الفائز في جانب واحد من التقسيم والخاسر في الجانب الآخر، و $-1 $إذا كان العكس، و$ 0$ إذا كان كلاهما في نفس الجانب. الدرجة هي القيمة المطلقة لهذا المتوسط.
استبعاد المتخبطين (Straddler Exclusion): الميزة الهيكلية الرئيسية هي استبعاد "المتخبطين" (الأزواج التي يقع أحد العناصر فيها في الابن الأيسر والآخر في الابن الأيمن) من مجموعات البيانات المستخدمة لتقسيمات الأبناء اللاحقة. يجادل المؤلفون رياضياً بأن المتخبطين لا يحتوي على معلومات حول البنية الداخلية لعقد الأبناء بمجرد إنشاء تقسيم الأب. هذا الاستبعاد يتحكم طبيعياً في نمو الشجرة، مفضلاً الأشجار الضحلة القابلة للتفسير دون الحاجة إلى ضبط مكثف للمعلمات الفائقة.

2.2 تقدير معلمات الأوراق

بمجرد تحديد هيكل الشجرة، يقوم النموذج بتعيين تقدير احتمالي لكل ورقة لدعم التعلم النشط.

الأوراق الاحتمالية: بدلاً من قيمة واحدة، يتم نمذجة كل ورقة $j$ كتوزيع غاوسي بمتوسط $f_j$ .
تقريب لابلابلاس (LA): يستخدم المؤلفون نهجاً بايزياً حيث تتبع قيم المنفعة الكامنة عبر الأوراق توزيع غاوسي متعدد المتغيرات مشترك. ويستخدمون تقريب لابلابلاس لإيجاد تقدير الحد الأقصى للاستدلال البعدي (MAP) والتباين اللاحق.
قابلية التحديد (Identifiability): لحل مشكلة عدم الثبات الترجمي المتأصل في احتمالات الأزواج (حيث لا يؤدي إضافة ثابت إلى جميع القيم إلى تغيير التفضيلات)، يتم تطبيق قيد المجموع الصفري ( $\sum f_i = 0$ ). يضمن هذا أن يكون النموذج قابلاً للتحديد ويزيل التباين غير القابل للاختزال في اتجاه الإزاحة الثابتة.
المعلمات الفائقة: يعتمد النموذج على نسبة تباين الضجيج إلى تباين الأصل ( $\sigma^2_{noise}/\sigma^2_{prior}$ )، والتي ثبت أنها المعلم الوحيد القابل للتحديد الذي يحكم عملية التحسين.

2.3 التعلم النشط

يستخدم النموذج دالة الاستحواذ qEUBO (المنفعة المتوقعة لأفضل خيار) لاختيار المقارنة الزوجية الأكثر إفادة تالية.

بين الأوراق مقابل داخل الأوراق: بينما تختار qEUBO بفعالية المقارنات بين الأوراق المختلفة، إلا أنها تنهار داخل الورقة الواحدة (حيث يكون المتوسط التنبؤي ثابتاً). لمعالجة ذلك، يستخدم المؤلفون آلية استدلالية لـ تحديد الأولويات داخل الورقة في الإعدادات المنفصلة، مع التركيز على استكشاف الورقة التي يُعتقد حالياً أنها تحتوي على الأمثل.

3. المساهمات الرئيسية

تعلم التفضيلات القائم على الأشجار: تطوير خوارزمية تتعلم أشجار قرار قابلة للتفسير مباشرة من بيانات المقارنة الزوجية باستخدام آلية تقسيم مبتكرة قائمة على الاتساق وتقدير احتمالي للأوراق.
التقييم العددي: التحقق التجريبي من أن DT-PBO يحقق تقارباً تنافسياً مع نماذج GP المتطورة (مثل SkewGP و LA-based GP)، لا سيما في الدوال ذات مشاهد التحسين الوعرة (مثل De Jong، Holder، Schweffel). أظهرت الطريقة سرعة زمن تشغيل أعلى بكثير (10-400 ضعف أسرع من نماذج GP).
دراسات حالة من الواقع: توضيح قابلية التفسير وفائدة النموذج في سيناريوهين متميزين:
- تفضيلات السوشي: إظهار قدرة النموذج على استعادة تفضيلات المستخدم والتعميم على عناصر غير مرئية.
- ترتيب رسائل المرضى (PMR): مهمة فرز سريرية عالية المخاطر حيث يحدد النموذج ميزات محددة (مثل "متلازمة العلامات الحمراء"، "قابلية إجراء الرسالة") التي تقود الاستعجال، مما يوفر رؤى غامضة لنماذج LLM أو GP.

లే 4. النتائج

التقارب: عبر ثماني دالات مرجعية، يؤدي DT-PBO أداءً تنافسياً. فهو يقل أداءً قليلاً في الدوال الناعمة (مثل Rosenbrock، Hartmann) ولكنه يتفوق على أو يماثل نماذج GP في الدوال الوعرة.
الكفاءة: يتفوق DT-PBO حاسوبياً، حيث تبلغ أوقات التشغيل حوالي 12 ثانية لـ 200 تكرار مقارنة بمئات أو آلاف الثواني لنماذج GP المتنوعة. ويعزى ذلك إلى تجنب تحسين المعلمات الفائقة لطول النواة وتقليل حجم مصفوفة هسيان من عدد العناصر الفريدة ( $m$ ) إلى عدد الأوراق ( $m_l$ ).
المتانة: النموذج متين تجاه الضجيج في التفضيلات وغير حساس للتغيرات الصغيرة في نسبة الضجيج/الأصل.
القابلية للتفسير: في دراسات الحالة، توفر الأشجار الناتجة (بعمق 4-6) قواعد واضحة وقابلة للقراءة البشرية (مثل "إذا كان ألم الصدر موجوداً، أعطِ الأولوية") والتي تتوافق مع المعرفة بالمجال، على عكس مخرجات الصندوق الأسود لـ GPs أو النماذج اللغوية الكبيرة (LLMs).

5. الأهمية والقيود

يزعم البحث أن DT-PBO يقدم بديلاً قابلاً للتفسير بطبيعته وفعالاً لنماذج GP "الصندوق الأسود" في مجال PBO. تكمن أهميته في سد الفجوة بين كفاءة العينات والحاجة إلى التفسير في مجالات اتخاذ القرار الحرجة. ومن خلال توفير نماذج شفافة، فإنه يسمح لصناع القرار بصقل تفضيلاتهم بثقة أكبر.

القيود التي أقر بها المؤلفون:

اللامبالاة: لا يمكن للنموذل الحالي نمذجة عبارات اللامبالاة ( $A \sim B$ ) بشكل صريح.
الأبعاد العالية: يتدهور الأداء في الدوال غير الوعرة مع زيادة الأبعاد ( $D > 7$ )، ويرجع ذلك على الأرجح إلى الطبيعة المحاذية للمحاور لتقسيمات أشجار القرار التي تواجه صعوبة في التعامل مع حدود القرار القطرية المعقدة الشائعة في الدوال الناعمة عالية الأبعاد.
استخراج الميزات: في دراسة حالة PMR، تعتمد جودة النموذج النهائي على موثوقية النموذج اللغوي الكبير (LLM) المستخدم لاستخراج الميزات.

يخلص المؤلفون إلى أنه رغم وجود قيود، فإن DT-PBO يثبت بنجاح أن النماذج البديلة القابلة للتفسير يمكنها تحقيق أداء تنافسي في PBO، خاصة في السيناريوهات التي يكون فيها التفسير شرطاً أساسياً للنشر.