A Unified Framework for Entropy Search and Expected Improvement in Bayesian Optimization

ملخص تقني: إطار عمل موحد للبحث عن الإنتروبيا والتحسين المتوقع في التحسين البايزي

بيان المشكلة
يُعد التحسين البايزي (Bayesian Optimization - BO) تقنية قياسية لتحسين الدوال ذات الصندوق الأسود المكلفة، حيث يعتمد على دوال الاستحواذ (Acquisition Functions - AFs) للموازنة بين الاستكشاف والاستغلال. يوجد نموذجان مهيمنان:

1. التحسين المتوقع (Expected Improvement - EI): دالة استحواذ قائمة على الاستدلال (Heuristic)، تهدف إلى تعظيم التحسن المتوقع فوق أفضل قيمة مرصودة حالية. وهي فعالة حاسبياً وتُستخدم على نطاق واسع، ولكن غالباً ما يُنظر إليها على أنها متميزة جوهرياً عن الطرق القائمة على نظرية المعلومات.
2. دوال الاستحواذ القائمة على نظرية المعلومات (مثل البحث عن إنتروبيا القيمة القصوى - Max-value Entropy Search - MES): تهدف هذه الطرق إلى تقليل عدم اليقين حول موقع أو قيمة القيمة المثلى العالمية باستخدام مقاييس الإنتروبيا. ورغم أنها متجذرة نظرياً، إلا أنها تُعت-بر غالباً متميزة عن EI بسبب اختلاف الفلسفات الكامنة وراءها.

إن المنظور السائد في مجتمع التحسين البايزي يعامل EI ودوال الاستحواذ القائمة على نظرية المعلومات كمنهجيات منفصلة. تتحدى هذه الورقة هذا الرأي، محتجةً بوجود صلة نظرية أعمق بينهما لم يتم التعرف عليها سابقاً.

المنهجية: البحث عن الإنتروبيا المتغير (Variational Entropy Search - VES)
يقدم المؤلفون البحث عن الإنتروبيا المتغير (VES)، وهو إطار نظري موحد يفسر EI كتقريب استدلال متغير (Variational Inference Approximation) لـ "البحث عن إنتروبيا القيمة القصوى" (MES) القائم على نظرية المعلومات.

• التوحيد النظري: يؤسس الإطار حداً أدنى لدالة الاستحواذ MES باستخدام حد "باربر-أجاكوف" (Barber-Agakov bound). ومن خلال تعريف عائلة متغير (Variational Family) $Q$ لتقريب الكثافة الشرطية $p(y^* | D_t, y_x)$ (حيث $y^*$ هي القيمة القصوى العالمية)، يستنتج المؤلفون "الحد الأدنى للبحث عن الإنتروبيا" (ESLBO).
• استعادة EI: عندما يتم تقييد العائلة المتغيرة $Q$ بالتوزيعات الأسية، فإن تعظيم ESLBO يؤدي إلى حل مطابق لـ "التحسين المتوقع" (EI) القياسي. وهذا يثبت أن EI هو حالة خاصة من MES تحت تقريب متغير محدد.
• VES-Gamma: إدراكاً بأن التوزيع الأسي شديد الصلابة ولا يمكنه التقاط البنية الحقيقية لـ $p(y^* | D_t, y_x)$ (التي غالباً ما تكون غير رتيبة)، يقترح المؤلفون VES-Gamma. تستخدم هذه الدالة الجديدة (AF) توزيع "غاما" كعائلة متغيرة، حيث يعمم توزيع غاما التوزيع الأسي، مما يسمح بتقريب أكثر مرونة وقدرة على التقاط شكل الكثافة بشكل أفضل.
• التحسين: يستخدم خوارزمية VES-Gamma نهجاً يشبه "توقع التوقع الأقصى" (Expectation-Maximization - EM). حيث يعمل بشكل تكراري على:
  1. تقدير المعلمات ($k, \beta$) لتوزيع غاما التي تعظم ESLBO لنقطة مرشحة ثابتة $x$.
  2. تحديث النقطة المرشحة $x$ لتعظيم ESLBO بناءً على المعلمات الحالية.
     يتم تحديد المعلمات $k$ و $\beta$ تلقائياً عبر تحليل المشتقات والتنظيم (Regularization)، مما يوازن ديناميكياً بين مكونات دالة الهدف.

المساهمات الرئيسية

1. إطار عمل موحد: تقديم إطار عمل VES، الذي يثبت أن EI هو تقريب متغير لـ MES، مما يوحد نموذجي دوال الاستحواذ اللذين كانا متميزين سابقاً.
2. دالة استحواذ مبتكرة: اقتراح VES-Gamma، وهي دالة استحواذ ترث نقاط قوة الأداء من EI مع دمج مبادئ نظرية المعلومات من خلال تقريب متغير لتوزيع غاما الأكثر مرونة.
3. تقييم شامل: تقييمات تجريبية واسعة النطاق عبر معايسات (Benchmarks) اصطناعية منخفضة وعالية الأبعاد، وعينات العمليات الغاوسية (GP)، ومشكلات من العالم الحقيقي.

النتائج
تقيم الورقة VES-Gamma مقابل EI و MES وغيرها من الطرق الحديثة (مثل UCB و LogEI) عبر معايسات متنوعة:

• المعايسات الاصطناعية: في دوال مثل Branin و Levy و Hartmann و Griewank، تؤدي VES-Gamma أداءً تنافسياً باستمرار. حيث تحقق أفضل أداء في Branin و Hartmann، بينما تضاهي أو تتفوق قليلاً على EI في Levy و Griewank.
• عينات GP: في تجارب على نماذج GP ذات 100 بُعد، تتفوق VES-Gamma بشكل كبير على كل من EI و MES عند المقاييس الطولية الصغيرة ($\ell = 0.05, 0.1, 0.25$)، حيث تميل EI و MES إلى التقارب نحو حلول دون المستوى الأمثل.
• معايسات العالم الحقيقي: في المسائل عالية الأبعاد (60D Rover, 124D Mopta08, 180D Lasso-DNA, 388D SVM)، تظهر VES-Gamma أداءً قوياً. فهي تتفوق بشكل كبير على جميع الطرق الأخرى في معيار SVM وتصنف ضمن أفضل المؤدين في Mopta08 و Lasso-DNA.
• التحقق النظري: يؤكد اختبار "كولموغوروف-سميرنوف" (Kolmogorov-Smirnov) التكافؤ التجريبي بين VES-Exp (النسخة الأسية) و EI، مع معدلات اجتياز تتجاوز 90% عبر مختلف المعايسات.

الأهمية والادعاءات
تدعي الورقة أن إطار عمل VES يوفر رؤية نظرية جديدة: وهي أن دالة الاستحواذ الأكثر شعبية (EI) ليست متميزة جوهرياً عن الطرق القائمة على نظرية المعلومات، بل هي بالأحرى تقريب متغير محدد لها.

من خلال جسر هذه المنظورات، يقدم المؤلفون VES-Gamma كدالة استحواذ قوية ومتعددة الاستخدامات، تجمع بفعالية بين نقاط القوة لكل من EI (الأداء والبساطة) و MES (تقليل عدم اليقين). تشير النتائج إلى أن VES-Gamma مرشح قوي لمشكلات التحسين المتنوعة، لا سيالما في المسائل عالية الأبعاد حيث قد تواجه الطرق التقليدية صعوبات. ويشير المؤلفون إلى أنه بينما تتحمل VES-Gamma تكلفة حاسوبية أعلى لكل تكرار مقارنة بـ EI أو MES، إلا أن هذه التكلفة غالباً ما تكون ضئيلة مقارنة بتكلفة تقييم الدوال ذات الصندوق الأسود المكلفة في التطبيقات الواقعية. وقد تم تحديد العمل المستقبلي في استكشاف التوزيعات المتغيرة البديلة وتوسيع الإطار ليشمل البيئات ذات الضجيج (Noisy settings).