Scalable Batch Bayesian Optimization Via Subspace Acquisition Functions

तकनीकी सारांश: सबस्पेस अधिग्रहण फलनों के माध्यम से स्केलेबल बैच बायेसियन ऑप्टिमाइज़ेशन

समस्या विवरण

बायेसियन ऑप्टिमाइज़ेशन (BO) महंगे, ब्लैक-बॉक्स अनुकूलन समस्याओं को हल करने के लिए एक शक्तिशाली ढांचा है। जबकि मानक BO क्रमिक रूप से कार्य करता है, जो एक बार में एक नमूना बिंदु चुनता है, यह दृष्टिकोण तब अक्षम होता है जब समानांतर कंप्यूटिंग संसाधनों का उपयोग किया जा सकता है। समानांतरता का लाभ उठाने के लिए, बैच बायेसियन ऑप्टिमाइज़ेशन एल्गोरिदम की आवश्यकता होती है जो कई नमूनों को एक साथ मूल्यांकित कर सके।

हालाँकि, मौजूदा बैच दृष्टिकोण बढ़ते बैच आकार ($q$) के साथ महत्वपूर्ण स्केलेबिलिटी समस्याओं का सामना करते हैं:

• मल्टी-पॉइंट एक्सपेक्टेड इम्प्रूवमेंट (qEI): हालांकि सैद्धांतिक रूप से सुदृढ़ है, qEI को अनुकूलित करने में $d \times q$ का खोज स्थान शामिल है (जहाँ $d$ समस्या का आयाम है)। जैसे-जैसे $q$ बढ़ता है, बहुभिन्नरूपी संचयी वितरण फलन (multivariate cumulative distribution function) का मूल्यांकन करने की कम्प्यूटेशनल लागत और अधिग्रहण फलन (acquisition function) को अनुकूलित करने की कठिनाई तेजी से बढ़ती है, जिससे qEI और इसके वेरिएंट (जैसे, FqEI, qLogEI) बड़े बैच आकारों (आमतौर पर $q > 10$) के लिए अव्यवहारिक हो जाते हैं।
• अनुमानी दृष्टिकोण (जैसे, क्रिगिंग बिलीवर, कॉन्स्टेंट लायर, लोकल पेनलाइजेशन): ये विधियाँ अक्सर बैच प्रभावों को सिम्युलेट करने के लिए "नकली" बिंदुओं या कृत्रिम दंड कार्यों (artificial penalty functions) पर निर्भर करती हैं। जैसे-जैसे बैच का आकार बढ़ता है, इन कृत्रिम बिंदुओं का संचय गॉसियन प्रोसेस (GP) मॉडल की सटीकता को कम कर देता है, जिससे खोज की दिशा गलत हो सकती है और अनुकूलन दक्षता घट सकती है।
• बहु-उद्देश्य और बहु-मॉडल दृष्टिकोण: ऐसी विधियाँ जो कई सरोगेट मॉडल प्रशिक्षित करती हैं या बहु-उद्देश्य अनुकूलन समस्याओं को हल करती हैं, वे उच्च कम्प्यूटेशनल लागत उठाती हैं जो बड़े बैच आकारों के साथ अच्छी तरह से स्केल नहीं कर पाती हैं।

यह कार्य जिस मुख्य चुनौती का समाधान करता है वह एक ऐसा बैच अधिग्रहण रणनीति डिजाइन करना है जो आयामीता के अभिशाप (curse of dimensionality) या मॉडल गिरावट से ग्रस्त हुए बिना बड़े पैमाने के बैच मूल्यांकन के लिए कम्प्यूटेशनल रूप से व्यवहार्य और प्रभावी बनी रहे।

कार्यप्रणाली (Methodology)

लेखक एक नया दृष्टिकोण प्रस्तावित करते हैं जिसे सबस्पेस अधिग्रहण फलन (Subspace Acquisition Functions) कहा जाता है, जो मौजूदा अधिग्रहण फलनों (विशेष रूप से एक्सपेक्टेड इम्प्रूवमेंट, लेकिन PI और UCB के लिए भी अनुकूलनीय) को यादृच्छिक रूप से चयनित, एक्सिस-अलाइन्ड (axis-aligned) सबस्पेस के भीतर संचालित करने के लिए विस्तारित करता है।

मुख्य अवधारणा: सबस्पेस एक्सपेक्टेड इम्प्रूवमेंट (SSEI)

पूरे $d$-आयामी डिज़ाइन स्पेस में $q$ बिंदुओं को एक साथ खोजने के बजाय, यह विधि:

1. सबस्पेस का चयन करती है: यादृच्छिक रूप से एक्सिस-अलाइन्ड सबस्पेस का एक सेट चुनती है। एक $k$-आयामी एक्सिस-अलाइन्ड सबस्पेस को मूल $d$ आयामों में से $k$ निर्देशांकों को चुनकर और शेष $d-k$ निर्देशांकों को वर्तमान सर्वश्रेष्ठ समाधान ($x_{min}$) के मानों पर स्थिर करके परिभाषित किया जाता है।
2. स्थानीय रूप से अनुकूलित करती है: प्रत्येक चयनित सबस्पेस के लिए, मानक अधिग्रहण फलन (जैसे, EI) को केवल $k$ सक्रिय चरों पर अनुकूलित किया जाता है। अनचयनित चर $x_{min}$ पर स्थिर रहते हैं।
3. बैच उत्पन्न करती है: प्रत्येक अद्वितीय सबस्पेस से एक क्वेरी पॉइंट चुना जाता है। यदि आवश्यक बैच आकार $q$ उपलब्ध सबस्पेस की संख्या ($N = 2^d - 1$) से अधिक है, तो विधि सबस्पेस मल्टी-पॉइंट एक्सपेक्टेड इम्प्रूवमेंट (SSqEI) का उपयोग करती है, जो एक ही सबस्पेस के भीतर कई बिंदुओं को अनुकूलित करती है।

कम्प्यूटेशनल ढांचा

प्रस्तावित एल्गोरिथ्म (एल्गोरिदम 1) इस प्रकार कार्य करता है:

• आरंभीकरण (Initialization): प्रारंभिक नमूने उत्पन्न करें और एक GP मॉडल प्रशिक्षित करें।
• सबस्पेस चयन: एक पूर्णांक $k \in [1, d]$ को यादृच्छिक रूप से खींचें और फिर एक सबस्पेस बनाने के लिए $k$ निर्देशांकों का एक यादृच्छिक संयोजन चुनें। यह सभी संभावित सबस्पेस की गणना करने के कम्प्यूटेशनल खर्च से बचता है।
• अधिग्रहण अनुकूलन (Acquisition Optimization):
  • यदि $q \le N$: $q$ अलग-अलग सबस्पेस चुनें और प्रति सबस्पेस एक बिंदु खोजने के लिए प्रत्येक में मानक SSEI को अनुकूलित करें।
  • यदि $q > N$: उपलब्ध $N$ सबस्पेस में $q$ बिंदुओं को वितरित करें (एक ही सबस्पेस में कई बिंदुओं को अनुकूलित करने के लिए SSqEI का उपयोग करके)।
• मूल्यांकन (Evaluation): बिंदुओं के $q$ बैच का समानांतर में मूल्यांकन करें।
• अपडेट: नए अवलोकनों के साथ GP मॉडल को अपडेट करें और दोहराएं।

अधिग्रहण फलन के लिए अनुकूलन की आयामेंता $d \times q$ से घटकर लगभग $k \times 1$ (या SSqEI के लिए $k \times q_i$) हो जाती है, जहाँ अपेक्षित आयाम $E[k] \approx d/2$ है। यह अधिग्रहण अनुकूलन की जटिलता को काफी कम कर देता है।

मुख्य योगदान

1. स्केलेबल बैच रणनीति: यह पेपर अधिग्रहण फलन के $d \times q$ आयामेंता के अभिशाप से बचते हुए, बैच चयन को स्वतंत्र या निम्न-आयामी सबस्पेस अनुकूलन में विघटित करके बायेसियन ऑप्टिमाइज़ेशन को बड़े बैच आकारों तक विस्तारित करने की एक विधि पेश करता है।
2. सरलता और व्यापकता: इस दृष्टिकोण के लिए किसी अतिरिक्त हाइपरपैरामीटर की आवश्यकता नहीं है और यह EI, PI और UCB सहित अधिग्रहण फलनों की एक विस्तृत श्रृंखला पर लागू किया जा सकता है। यह वैचारिक रूप से सरल है: "सबस्पेस खींचें, स्थानीय रूप से अनुकूलित करें, एकत्रित करें।"
3. आयामेंता के प्रति मजबूती: वर्तमान सर्वश्रेष्ठ समाधान पर केंद्रित एक्सिस-अलाइन्ड सबस्पेस में खोज को प्रतिबंधित करके, यह विधि स्वाभाविक रूप से वैश्विक अन्वेषण (यादृच्छिक सबस्पेस चयन के माध्यम से) और स्थानीय शोषण (स्थिर चरों के माध्यम से) के बीच संतुलन बनाती है, जिससे यह उच्च-आयामी स्थानों में विशेष रूप से प्रभावी हो जाती है।

प्रयोगात्मक परिणाम

लेखकों ने 60 सिंथेटिक बेंचमार्क समस्याओं (GPMean, SumSquares, Rosenbrock, आदि) पर आयाम $d \in \{2, 4, 8, 10, 20, 30\}$ और बैच आकार $q \in \{1, 2, 4, 8, 16, 32, 64, 128\}$ के तहत दस अत्याधुनिक बैच एल्गोरिदम (qEI, qLogEI, FqEI, TuRBO, MSMR, MACE, PEI, EIMI, KB, और रैंडम सर्च सहित) के विरुद्ध प्रस्तावित विधि (SSEI) का मूल्यांकन किया।

• क्रमिक BO बनाम प्रदर्शन: जब $q=1$ होता है, तो SSEI कम-आयामी समस्याओं पर मानक EI के समान प्रदर्शन करता है लेकिन उच्च-आयामी समस्याओं ($d \ge 8$) पर इसे काफी पीछे छोड़ देता है। लेखक इसका श्रेय इस तथ्य को देते हैं कि क्रमिक EI उच्च आयामों में अधिग्रहण फलन को अनुकूलित करने में संघर्ष करता है, जबकि SSEI का स्थानीय सबस्पेस खोज अधिग्रहण फलन के लिए बेहतर स्थानीय इष्टतम (local optima) पाता है।
• बैच आकार के साथ स्केलेबिलिटी:
  • छोटे से मध्यम बैच ($q \le 32$): SSEI वॉल-क्लॉक टाइम (इटरेशन) के संदर्भ में लगभग रैखिक गति (linear speedup) प्राप्त करता है, जबकि फंक्शन इवैल्यूएशन के मामले में अन्य बैच विधियों के बराबर या बेहतर प्रदर्शन बनाए रखता है।
  • बड़े बैच ($q = 128$): SSEI सभी तुलना किए गए बैच एल्गोरिदम को काफी पीछे छोड़ देता है, जिसमें qEI वेरिएंट शामिल हैं जो इस पैमाने पर विफल हो जाते हैं या काफी खराब प्रदर्शन करते हैं। प्रस्तावित विधि तेजी से अभिसरण (converge) करती है और बेहतर अंतिम समाधान पाती है।
• विशिष्ट एल्गोरिदम के साथ तुलना:
  • बनाम qEI/qLogEI/FqEI: SSEI श्रेष्ठ है, विशेष रूप से जैसे-जैसे $d$ और $q$ बढ़ते हैं, क्योंकि यह $d \times q$ आयामेंता के अभिशाप से बचता है।
  • बनाम TuRBO: SSEI प्रतिस्पर्धी प्रदर्शन करता है, अक्सर निम्न-से-मध्य आयामों पर TuRBO को पीछे छोड़ देता है और उच्च आयामों पर इसके बराबर रहता है।
  • बनाम दंड-आधारित विधियाँ (PEI, EIMI, KB): SSEI लगातार इन विधियों से बेहतर प्रदर्शन करता है, जो बैच आकार बढ़ने के साथ मॉडल गिरावट से ग्रस्त होते हैं।
• सामान्यीकरण (Generalizability): सबस्पेस दृष्टिकोण को सफलतापूर्वक SSPI और SSUCB पर लागू किया गया था, जो उनके मल्टी-पॉइंट समकक्षों (qPI, qUCB) पर समान प्रदर्शन लाभ दिखाते हैं।

महत्व और दावे

पेपर दावा करता है कि प्रस्तावित सबस्पेस अधिग्रहण फलन बैच बायेसियन ऑप्टिमाइज़ेशन के लिए एक सरल, कुशल और स्केलेबल समाधान प्रदान करते हैं। प्राथमिक महत्व मौजूदा विधियों से जुड़ी कम्प्यूटेशनल बाधाओं या सटीकता में गिरावट के बिना बड़े पैमाने के समानांतर कंप्यूटिंग संसाधनों (बड़े $q$) के उपयोग को सक्षम करने में निहित है।

लेखक इस बात पर जोर देते हैं कि:

• यह विधि अधिग्रहण फलन अनुकूलन में आयामेंता के अभिशाप को प्रभावी ढंग से कम करती है।
• यह वैश्विक अन्वेषण (यादृच्छिक सबस्पेस चयन के माध्यम से) और स्थानीय शोषण (गैर-चयनित चरों को स्थिर करके) के बीच एक व्यावहारिक समझौता प्रदान करती है।
• यह एक "प्लग-एंड-प्ले" विस्तार है जिसे विभिन्न अधिग्रहण फलनों पर लागू किया जा सकता है और यह उन महंगे अनुकूलन समस्याओं के लिए विशेष रूप से मूल्यवान है जहाँ समानांतर मूल्यांकन संभव है।

कार्य इस निष्कर्ष पर समाप्त होता है कि कई अलग-अलग सबस्पेस से क्वेरी पॉइंट चुनना बड़े पैमाने के बैच बायेसियन ऑप्टिमाइज़ेशन के लिए एक आशाजनक रणनीति है, जो वर्तमान अत्याधुनिक दृष्टिकोणों की तुलना में अभिसरण गति और समाधान की गुणवत्ता में महत्वपूर्ण सुधार प्रदान करता है।