🔬 materials science

Choosing a Suitable Acquisition Function for Batch Bayesian Optimization: Comparison of Serial and Monte Carlo Approaches

تقارن هذه الورقة بين دوال الاستحواذ المتسلسلة ودوال مونت كارلو للدفعة في التحسين البايزي على مجموعات بيانات اصطناعية وتجريبية، وتخلص إلى أن حد الثقة العلوي q (qUCB) هو الخيار الافتراضي الأكثر متانة لتحسين الدوال المجهولة ذات الصندوق الأسود في ما يصل إلى ستة أبعاد.

المؤلفون الأصليون: Imon Mia, Mark Lee, Weijie Xu, William Vandenberghe, Julia W. P. Hsu

نُشر 2026-04-08

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Imon Mia, Mark Lee, Weijie Xu, William Vandenberghe, Julia W. P. Hsu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك صائد كنوز تحاول العثور على أفضل بقعة واحدة على جزيرة ضخمة يغطيها الضباب للحفر بحثًا عن الذهب. ليس لديك خريطة، ولا تعرف كيف تبدو التضاريس. الطريقة الوحيدة للتعلم هي حفر حفرة، ومعرفة كمية الذهب التي ستجدها، ثم تقرر أين ستحفر في المرة القادمة.

ولكن، هناك عقبة: الحفر مكلف. فهو يستغرق الكثير من الوقت والمال والطاقة. لا يمكنك مجرد حفر حفر عشوائية في كل مكان على الجزيرة. أنت بحاجة إلى استراتيجية ذكية للعثور على "منجم الذهب" بأقل عدد ممكن من عمليات الحفر.

هذا بالضبط ما تفعله التحسين البايزي (Bayesian Optimization) للعلماء والمهندسين. إنه خوارزمية حاسوبية ذكية تساعدهم على العثور على أفضل الإعدادات للتجارب المعقدة (مثل صنع خلايا شمسية جديدة أو أدوية) دون إضاعة الموارد.

المشكلة: حفر حفرة واحدة مقابل حفر مجموعة من الحفر

عادةً، تحفر حفرة واحدة في كل مرة. ولكن في العالم الحقيقي، يمكنك أحيانًا حفر مجموعة صغيرة من الحفر (دفعة واحدة - "batch") في نفس الوقت بتكلفة تقارب تكلفة حفر حفرة واحدة فقط. ربما لديك فريق مكون من 4 أشخاص، أو آلة يمكنها اختبار 4 عينات في وقت واحد.

السؤال الكبير الذي تجيب عليه هذه الورقة البحثية هو: عندما يكون لديك فريق من 4 حفارين، كيف يجب أن توجههم أين يقفون؟

هل يجب عليك:

النهج المتسلسل (The Serial Approach): تخبر الحفار رقم 1 أين يذهب، ثم تنتظر النتيجة، ثم تخبر الحفار رقم 2 أين يذهب بناءً على تلك النتيجة، وهكذا؟
النهج المتوازي (Monte Carlo Approach): ترسل جميع الحفارين الأربعة معًا في وقت واحد، وتخمن أين توجد أفضل البقع بناءً على الاحتمالات، دون انتظار انتهاء الأول من عمله؟

المتنافسون: الاستراتيجيات

اختبر المؤلفون ثلاث استراتيجيات رئيسية (تسمى "دوال الاستحواذ" - Acquisition Functions) لمعرفة أي منها يجد الذهب بشكل أسرع:

UCB/LP (المخطط المتسلسل): هذا يشبه المخطط الحذر الذي يعمل خطوة بخوة. يختار البقعة الأولى، ثم يستخدم "جزاءً محليًا" لضمان عدم وقوف الحفارين التاليين بجانب الأول مباشرة. إنه يجبرهم على الانتشار قليلاً ولكن مع البقاء قريبين من المنطقة الواعدة. إنه استراتيجية حتمية (دقيقة جدًا، لا تعتمد على التخمين).
qUCB (المقامر الواثق): هذه استراتيجية متوازية. ترسل الفريق بأكمله في وقت واحد. تستخدم طريقة "عشوائية" (stochastic) لاختيار بقع يُحتمل أن تكون جيدة، لكنها تحتفظ أيضًا بقدر قليل من "الاستكشاف" للتأكد من أنها لن تفوت جيبًا مخفيًا من الذهب بالقرب منها.
qlogEI (الحالم المتفائل): تركز هذه الاستراتيجية بشدة على العثور على أفضل بقعة فورًا. إنها متفائلة للغاية ولكن يمكن أن ترتبك بسهولة، خاصة إذا كانت التضاريس صعبة.

تجارب القيادة

لمعرفة أي استراتيجية تعمل بشكل أفضل، أجرى المؤلفون عمليات محاكاة على ثلاث "جزر" مختلفة:

"إبرة في كومة قش" (دالة Ackley): تخيل حقلًا شاسعًا من القش (بقع سيئة) مع إبرة واحدة صغيرة وحادة (الذهب) بارزة منه. من الصعب جدًا العثور عليها.
- النتيجة: نجح كل من المخطط المتسلسل (UCB/LP) والمقامر الواثق (qUCB) في العثة الإبرة بسرعة. أما الحالم المتفائل (qlogEI) فقد تاه في القش واستسلم.
"منجم الذهب المزيف" (دالة Hartmann): تخيل منظرًا طبيعيًا به تلتان. إحداهما هي منجم الذهب الحقيقي، والأخرى هي منجم مزيف يبدو تمامًا مثل الجيد تقريبًا. من السهل أن تُخدع.
- النتيجة: أدى كل من المخطط المتسلسل والمقامر الواثق أداءً جيدًا. أما الحالم فكان أبطأ وأكثر عرضة للخداع من قبل التل المزيف.
"الجزيرة الضبابية والمزعجة" (بيانات الخلايا الشمسية الحقيقية): كانت هذه محاكاة مبنية على تجارب حقيقية لصنع خلايا شمسية. كانت البيانات فوضوية (مزعجة)، مثل محاولة الحفر في الضباب.
- النتيجة: عندما أصبح الضباب كثيفًا (ضجيج عالٍ)، ارتبك المخطط المتسلسل وبدأ يحفر في أماكن خاطئة. ومع ذلك، تعامل المقامر الواثق (qUCB) مع الضجيج بشكل رائع؛ فقد استمر في العثور على بقع جيدة حتى عندما كانت البيانات فوضوية. أما "الحالم" مع تعديلات الضجيج فلم يكن أفضل حالًا من المقامر.

الحكم النهائي: من الفائز؟

تخلص الورقة البحثية إلى أنه إذا كنت عالمًا أو مهندسًا تبدأ تجربة جديدة ولا تعرف شكل التضاريس (هل هي إبرة؟ أم تل مزيف؟ أم ضبابية؟)، فيجب عليك استخدام qUCB.

لماذا؟

إنه أداة متعددة الاستخدامات: يعمل بشكل جيد على معظم أنواع التضاريس.
مقاوم للضجيج: لا يرتبك عندما تكون البيانات فوضوية أو غير كاملة.
كفء: يجد أفضل النتائج باستخدام أقل عدد من عمليات "الحفر" (التجارب) المكلفة.

الخلاصة البسيطة

إذا كنت تحاول تحسين عملية معقدة (مثل صنع بطارية أفضل أو دواء جديد) ويمكنك اختبار بعض الأشياء في وقت واحد، فلا تبالغ في التفكير في الاستراتيجية.

لا تحاول أن تكون مخططًا مثاليًا خطوة بخطوة (متسلسل) أو حالمًا متفائلًا للغاية. بدلاً من ذلك، استخدم المقامر الواثق (qUCB). إنه الأداة الأكثر موثوقية لمساعدتك في العثور على "منجم الذهب" في أقصر وقت ممكن، حتى عندما تكون الخريطة ضبابية والتضاريس صعبة. إنه "الإعداد الافتراضي" الذي يجب استخدامه عندما تعمل وأنت لا ترى ما أمامك.

1. بيان المشكلة

تعد التحسين البايزي (Bayesian Optimization - BO) تقنية قياسية لتعلم الآلة تُستخدم لتحسين الدوال "الصندوق الأسود" المكلفة، حيث تكون العلاقة بين المدخلات ( $X$ ) والمخرجات ( $y$ ) غير معروفة وتتطلب تكلفة عالية للتقييم. في العديد من السياقات العلمية والهندسية (مثل تخليق المواد)، يكون من الفعال اختبار دفعة (batch) مكونة من $q$ من العينات في وقت واحد بدلاً من الاختبار المتسلسل (التحسين المتسلسل).

يكمن التحدي الجوهري الذي تعالجه هذه الورقة في اختيار دالة استحواذ دفعة (batch acquisition function) مناسبة عندما يكون شكل دالة الهدف غير معروف. وتحديداً، تقارن المؤلفة بين نهجين خوارمانييين متميزين:

النهج المتسلسل (Serial Approaches): يختار النقاط بشكل متتابع داخل الدفعة، وغالباً ما يستخدم طرقاً عددية حتمية (مثل العقاب المحلي - Local Penalization). تعاني هذه الطرق في الأبعاد العالية (أكبر من 5-6) ويمكن أن تكون مكلفة حاسوبياً.
النهج المتوازي (المنهج المونت كارلو - Parallel/Monte Carlo Approaches): يختار الدفعة بأكملها في آن واحد عن طريق التكامل فوق دالة كثافة احتمالية مشتركة باستخدام أخذ العينات العشوائية (مثل طرق مونت كارلو). وهي أكثر ملاءمة للفضاءات عالية الأبعاد.

تسعى الورقة إلى تحديد أي النهجين يقدم أفضل توازن بين سرعة التقارب، والدقة، والمتانة تجاه الضجيج في سياق التحسين التجريبي الواقعي.

2. المنهجية

أجرى المؤلفون دراسة مقارنة شاملة باستخدام ثلاث حالات اختبار متميزة تمثل أنواعاً مختلفة من مشاهد التحسين:

أ. دوال الاختبار:

دالة آكيلي (Ackley Function - 6D): تمثل مشكلة "إبرة في كومة قش". وهي غير متجانسة للغاية مع وجود قيمة قصوى عالمية حادة محاطة بمنطقة شاسعة ومسطحة من القيم المنخفضة.
دالة هارتمان (Hartmann Function - 6D): تمثل مشكلة "الأمثل الزائف". تحتوي على قمة محلية ثانوية ذات قيمة قريبة جداً من القمة العالمية، مما يجعل من السهل على الخوارزميات الاستقرار على القمة الخاطئة.
- الاختلافات: تم اختبارها في كل من الظروف الخالية من الضجيج والضجيج الغاوسي (يتراوح من 1% إلى 20% من سعة الذروة إلى الذروة).
نموذج خلايا بيروفسكيت الشمسية (PCE) التجريبي (4D): وهو نموذج انحدار مبني من بيانات تجريبية حقيقية تتعلق بكفاءة تحويل الطاقة لخلايا بيروفسكيت الشمسية المرنة. يتضمن هذا النموذج ضجيجاً واقعياً، وأخطاءً منهجية، ومشهد "هضبة مسطحة" بالقرب من النقطة المثلى.

ب. دوال الاستحواذ التي تمت مقارنتها:

UCB/LP (متسلسل): حد الثقة العلوي مع العقاب المحلي (Upper Confidence Bound with Local Penalization). يستخدم طرق شبه نيوتونية حتمية.
qUCB (متوازي/مونت كارلو): حد الثقة العلوي بطريقة مونت كارلو (Monte Carlo Upper Confidence Bound).
qlogEI (متوازي/مونت كارلو): تحسين التوقع اللوغاريتمي بطريقة مونت كارلو (Monte Carlo log Expected Improvement).
qlogNEI (متوازي/مونت كارلو): النسخة المدمجة للضجيج من qlogEI، المصممة خصيصاً للبيئات ذات الضجيج العالي.

ج. الإعداد التجريبي:

النموذج البديل (Surrogate Model): انحدار العمليات الغاوسية (GPR) مع نواة (ARD Matern 5/2).
التهيئة (Initialization): 99 مجموعة تدريب أولية متميزة تم إنشاؤها باستخدام أخذ العينات بالتقسيم اللاتيني (Latin Hypercube Sampling - LHS) لضمان المتانة الإحصائية.
حجم الدفعة: $q = 4$ .
التكرارات: حُددت بـ 50 تكراراً لكل تشغيل (بإجمالي 224 نقطة بيانات بما في ذلك التهيئة).
المقاييس: الندم اللحظي (Instantaneous Regret - IR) والندم التراكمي (Cumulative Regret - CR) لكل من قيمة الهدف ( $y$ ) ومتجه المدخلات ( $X$ ).

3. النتائج الرئيسية

أ. دالة آكيلي (إبرة في كومة قش):

الأداء: تفوق كل من UCB/LP وqUCB بشكل كبير على qlogEI.
التقارب: تقارب UCB/LP وqUCB إلى القيمة القصوى العالمية خلال حوالي 15 تكراراً.
الآلية: أظهر UCB/LP (الحتمي) دقة نهائية أفضل قليلاً في نمذجة القمة الحادة لأن استراتيجية العقاب المحلي لديه تعمل على استغلال المنطقة بقوة بمجرد العثور على نقطة واعدة. أما qUCB (العشوائي) فقد نشر النقاط بشكل أوسع، مما جعله أقل كفاءة قليلاً بالنسبة للقمة الحادة ولكنه ظل فعالاً للغاية.
حالة الفشل: فشلت qlogEI في نمذجة الدالة بشكل صحيح دون تقنيات تضييق النطاق (مثل TuRBO). وحتى مع استخدام TuRBO، ظلت أدنى مستوى من UCB/LP وqUCB.

ب. دالة هارتمان (الأمثل الزائف):

بدون ضجيج: أدت جميع الدوال أداءً مقبولاً، لكن UCB/LP وqUCB كانا متفوقين على qlogEI. نجح كلاهما في تجنب القمة القصوى الزائفة في حوالي 70% من التشغيلات.
مع وجود ضجيج:
- تفوق طريقة مونت كارلو: تفوقت جميع دوال مونت كارلو (qUCB, qlogEI, qlogNEI) بشكل كبير على UCB/LP المتسلسل، خاصة عند مستويات الضجيج العالية (20%).
- المتانة: أصبح UCB/LP حساساً للغاية للظروف الأولية وفشل في نمذجة القيمة القصوى العالمية بدقة تحت الضجيج العالي.
- qUCB مقابل qlogNEI: رغم أن qlogNEI صُممت للضجيج، إلا أنها لم تقدم ميزة كبيرة عن qUCB. أظهر qUCB أفضل أداء إجمالي في نمذجة قيمة الهدف تحت تأثير الضجيج.

ج. نموذج PCE التجريبي (بيانات واقعية):

تحدي المشهد: تميز المشهد بهضبة عريضة ومسطحة بالقرب من الحد الأقصى، مما يعني أن العديد من متجهات المدخلات المختلفة تعطي كفاءة قريبة من المثالية.
الأداء: وجد qUCB ظروف المدخلات التي تحقق قيم PCE قريبة من المثالية في عدد تكرارات أقل (~~30–40) مقارنة بـ UCB/LP وqlogNEI (~~50).
الحساسية: كان qUCB أقل حساسية للظروف الأولية مقارنة بالطرق الأخرى.
الاستنتاج: في السيناريوهات الواقعية حيث يكون الوصول إلى القيمة القصوى العالمية الدقيقة ( $X_{max}$ ) أقل أهمية من تحقيق قيمة هدف عالية ( $y_{max}$ ) ضمن هامش الخطأ التجريبي، كان qUCB هو الأكثر كفاءة.

4. المساهمات الرئيسية

المقارنة المباشرة: تقديم أول مقارنة صارمة واسعة النطوال (99 حالة أولية لكل دالة) بين دوال الاستحواذ للدفعة المتسلسلة (الحتمية) والمتوازية (المونت كارلو) عبر أنواع مختلفة من المشاهد.
تحليل المتانة تجاه الضجيج: إثبات أنه بينما تتفوق الطرق المتسلسلة (UCB/LP) في سيناريوهات القمة الحادة الخالية من الضجيج، فإن طرق مونت كارلو (وتحديداً qUCB) هي الأكثر متانة تجاه الضجيج التجريبي والأمثل الزائف.
التحقق التجريبي: التحقق من النتائج الاصطناعية باستخدام مشكلة واقعية من علوم المواد (خلايا بيروفسكيت الشمسية)، مما جسر الفجوة بين المعايير النظرية والتطبيق العملي.
دمج الضجيج: إظهار أن دمج الضجيج صراحة في دالة الاستحواذ (qlogNEI) لا يتفوق بالضرورة على طريقة مونت كارلو القياسية UCB (qUCB) في إعدادات الدفعة.

5. الأهمية والتوصيات

خلصت الورقة إلى أنه بالنسبة لـ التحسين البايزي للدفعة في عمليات تخليق المواد وتجارب الهندسة (التي تتراوح عادة بين 4 إلى 6 أبعاد) حيث تكون خصائص المشهد والضجيج غير معروفة:

الخيار الافتراضي الموصى به: qUCB (حد الثقة العلوي بطريقة مونت كارلو).
المبررات: يوفر qUCB أفضل توازن بين:
- الموثوقية: أداء ثابت عبر مشاهد "الإبرة في كومة القش"، و"الأمثل الزائف"، و"الهضبة المسطحة".
- المناعة ضد الضجيج: تقارب فائق في البيئات ذات الضجيج مقارنة بالطرق المتسلسلة.
- الكفاءة: يقلل من عدد التكرارات التجريبية المكلفة المطلوبة للوصول إلى القيمة المثلى بثقة.
- البساطة: لا يتطلب تعديلات معقدة لدمج الضجيج (مثل qlogNEI) للتعامل مع البيانات الواقعية.

ينصح المؤلفون بعدم استخدام qlogEI للمشكلات عالية الأبعاد، ويقترحون أنه بينما يكون UCB/LP فعالاً لمهام محددة عالية الدقة وخالية من الضجيج، فإن qUCB هو الخيار الافتراضي الأكثر أماناً وتعدداً في الاستخدام للحملات التجريبية العامة.