Surrogate modeling for Bayesian optimization beyond a single Gaussian process

ملخص تقني: النمذجة البديلة للتحسين البايزي بما يتجاوز العمليات الغاوسية الفردية

بيان المشكلة
التحسين البايزي (BO) هو إطار عمل مبني على أسس متينة لتحسين الدوال "صعبة التقييم" (black-box functions)، مثل تلك الموجودة في ضبط المعلمات الفائقة (hyperparameter tuning)، واكتشاف الأدوية، والروبوتات. يعتمد التحسين البايزي القياسي عادةً على نموذج بديل إحصائي (surrogate model) لاختيار نقاط الاستعلام بالتتابع، موازناً بين الاستكشاف والاستغلال. ومع ذلك، تعتمد النهج الحالية عادةً على عملية غاوسية (GP) واحدة مع دالة نواة (kernel function) مختارة مسبقاً. يتطلب هذا التصميم خبرة واسعة في المجال لاختيار نوع النواة المناسب والمعلمات الفائقة الخاصة بها. علاوة على ذلك، غالباً ما تفتقر خوارزميات التحسين البايزي إلى ضمانات تقارب صارمة، كما أن موازاة التقييمات (parallelizing evaluations) لتقليل وقت التقارب غالباً ما تتطلب معلمات فائقة إضافية أو قواعد اختيار معقدة لضمان تنوع الاستعلامات. تعالج هذه الورقة الحاجة إلى طريقة للتحسين البايزي تقلل من جهود الضبط، وتدعم التشغيل المتوازي، وتوفر ضمانات تقارب نظرية.

المنهجية: EGP-TS
يقدم الأسلوب المقترح، EGP-TS (العملية الغاوسية المجمعة مع أخذ عينات تومسون)، إطار عمل مبتكر يتجاوز الاعتماد على عملية غاوسية واحدة كنموذج بديل.

1. مجموعة من العمليات الغاوسية (EGP): بدلاً من نواة واحدة، تستخدم الطريقة مجموعة من $M$ من العمليات الغاوسية، حيث تستخدم كل عملية $m$ دالة نواة $\kappa_m$ مختارة من قاموس محدد مسبقاً $\mathcal{K}$. يتم نمذجة التوزيع القبلي لدالة الهدف $f(x)$ كخليط مرجح من هذه العمليات الغاوسية:
   $$f(x) \sim \sum_{m=1}^M w_m^0 \mathcal{GP}(0, \kappa_m(x, x'))$$
   يتم تحديث الأوزان $w_m^t$ بشكل تكيفي ومستمر بناءً على البيانات المرصودة $D_t$ باستخدام قاعدة بايز، مما يؤدي فعلياً إلى اختيار النموذج البديل الأكثر ملاءمة للمرحلة الحالية من التحسين.

2. أخذ عينات تومسون (TS) للاستحواذ: لاختيار نقطة الاستعلام التالية، تستخدم الطريقة "أخذ عينات تومسون". فبدلاً من تحسين دالة استحواذ معقدة، يقوم أخذ عينات تومسون بسحب تحقق دالي (function realization) $\tilde{f}_t(x)$ من توزيع الخليط البعدي، ثم يختار القيمة العظمى لهذه الدالة المسحوبة. لا يتطلب هذا النهج أي معلمات تصميم إضافية.

3. القابلية للتوسع عبر الميزات العشوائية (RF): لضمان القابلية للتوسع، خاصة في خطوة أخذ العينات المطلوبة لـ TS، تستخدم الطريقة تقريب النواة القائم على الميزات العشوائية لكل عملية غاوسية في المجموعة. يحول هذا التعلم غير البارامتري للعملية الغاوسية إلى تعلم بارامتري، مما يسمح بأخذ عينات دالية فعالة وتحديثات بايزية تكرارية لمعلمات النموذج (الأوزان والمتوسطات/التباينات البعدية).

4. التوازي: يستوعب إطار عمل EGP-TS بشكل طبيعي عمليات تقييم الدوال المتوازية المتزامنة وغير المتزامنة. في الإعداد المتوازي مع $K$ من العمال (workers)، يتم توليد نقاط استعلام متعددة عن طريق أخذ عينات من الخليط البعدي الحالي دون الحاجة إلى معلمات فائقة إضافية لفرض التنوع، وهو مطلب شائع في التحسين البايزي المتوازي باستخدام حدود الثقة العليا (UCB) أو التحسين المتوقع (EI).

المساهمات الرئيسية
تحدد الورقة أربع مساهمات رئيسية:

• اختيار النموذج التكيفي: تستبدل العملية الغاوسية الواحدة ذات النواة المختارة مسبقاً بمجموعة من العمليات الغاوسية التي تعدل أوزان كل عملية تكيفياً في الوقت الفعلي، مما يلغي الحاجة إلى الاختيار اليدوي للنواة.
• التوازي الخالي من المعلمات: يدعم نهج EGP-TS الناتج تقييمات متوازية متزامنة وغير متزامنة دون الحاجة إلى معلمات تصميم إضافية.
• ضمانات التقارب: يثبت المؤلفون تقارب EGP-TS إلى القيمة المثلى العالمية من خلال اشتقاق حدود الندم البايزي (Bayesian regret bounds) دون خطية لكل من الإعدادات المتتالية والمتوازية. وتكيف التحليلات تقنيات من "البانديت الخطية" (linear bandits) مع التوزيعات القبلية المختلطة لتناسب سياق التحسين البايزي، معالجةً التحديات التي يفرضها التوزيع القبلي لـ EGP.
• التحقق التجريبي: أظهرت الاختبارات المكثفة على الدوال الاصطناعية، ومهام الروبوتات (دفع الروبوت)، ومهام ضبط المعلمات الفائقة الحقيقية (لنماذج FNN وSVM وGradient Boosting) تفوق طريقة EGP-TS على كل من GP-TS ذات النوى المختارة مسبقاً، وGP-TS البايزية الكاملة، والنهج المجمعة الأخرى.

النتائج
أُجريت التجارب العددية على معايير اصطناعية قياسية (Ackley-5d, Zakharov, DropWave, Eggholder) وتطبيقات واقعية.

• الدوال الاصطناعية: حققت EGP-TS باستمرار ندمًا بسيطًا (simple regret) أقل مقارنة بـ GP-TS ذات النوى المختارة مسبقاً (RBF, Matérn) والأساليب المجمعة الأخرى مثل BanditBO وEXP3BO. كما تفوقت أيضاً على GP-TS البايزية الكاملة.
• الروبوتات: في مهام دفع الروبوت ثلاثية ورباعية الأبعاد، أظهرت EGP-TS أداءً فائقاً في تقليل المسافة إلى موقع الهدف مقارنة بجميع النماذج المرجعية، بينما كانت أسرع بكثير من GP-TS البايزية الكاملة.
• ضبط المعلمات الفائقة: لضبط نماذج FNN وSVM وGradient Boosting على مجموعات بيانات مثل Breast Cancer وIris وWine، حققت EGP-TS دقة تحقق أعلى بعدد أقل من تقييمات الدالة مقارنة بالمنافسين.
• دراسة الاستئصال (Ablation): أظهرت النتائج الأولية لربط نموذج EGP مع التحسين المتوقع (EGP-EI) أيضاً أداءً محسناً مقارنة بـ GP-EI القياسي، مما يشير إلى أن فوائد النموذج المجمع تمتد إلى ما وراء أخذ عينات تومسون.

الأهمية والادعاءات
تدعي الورقة أن EGP-TS توفر حلاً قوياً لعنق الزجاجة المتمثل في "جهد التصميم". فمن خلال أتمتة اختيار النواة عبر نهج المجموعة واستخدام أخذ عينات تومسون، تقلل الطريقة من الاعتماد على المعرفة الخبيرة في المجال. وتكمن المساهمة النظرية في وضع حدود ندم بايزي صارمة لخوارزمية تحسين بايزي قائمة على المجموعات، مما يثبت أن الطريقة تتقارب نحو القيمة المثلى العالمية مع تناقص متوسط الندم. ويؤكد المؤلفون أنه بينما تم استخدام مفهوم المجموعات في التعلم الخاضع للإشراف، فإن تطويعه في التحسين البايزي لاختيار النواة، مقترناً بالقابلية للتوسع المتوازي والتحليل التقاربي، يعد مساهمة جديدة. يضع هذا العمل EGP-TS كطريقة توازن بين التعبيرية التي يوفرها تعلم المجموعات والكفاءة والضمانات النظرية المطلوبة لمهام التحسين عالية التكلفة والعملية.