📊 statistics

Posterior Inference in Latent Space for Scalable Constrained Black-box Optimization

यह शोधपत्र उच्च-आयामी (high-dimensional) बाधित ब्लैक-बॉक्स अनुकूलन के लिए एक स्केलेबल विधि प्रस्तावित करता है जो समस्या को फ्लो-आधारित जनरेटिव मॉडल के लेटेंट स्पेस (latent space) के भीतर पोस्टीरियर इन्फरेंस (posterior inference) के रूप में पुनर्गठित करता है, जिसमें मोड कोलैप्स (mode collapse) से बचने के लिए आशाजनक उम्मीदवारों को कुशलतापूर्वक नमूना लेने हेतु आउटसोर्स किए गए डिफ्यूजन मॉडल्स का उपयोग किया जाता है।

मूल लेखक: Kiyoung Om, Kyuil Sim, Taeyoung Yun, Hyeongyu Kang, Jinkyoo Park

प्रकाशित 2026-05-08

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Kiyoung Om, Kyuil Sim, Taeyoung Yun, Hyeongyu Kang, Jinkyoo Park

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, धुंधले जंगल में एक नया शहर बनाने के लिए सबसे उत्तम स्थान खोजने की कोशिश कर रहे हैं। यह जंगल एक उच्च-आयामी ब्लैक-बॉक्स ऑप्टिमाइज़ेशन समस्या (high-dimensional black-box optimization problem) का प्रतिनिधित्व करता है।

यहाँ एक पेच है:

धुंध: आप इलाके को स्पष्ट रूप से नहीं देख सकते। आप केवल एक स्काउट को एक विशिष्ट स्थान पर भेज सकते हैं, यह देख सकते हैं कि वह अच्छा है या नहीं, और एक रिपोर्ट प्राप्त कर सकते हैं। आपके पास कोई मानचित्र नहीं है।
जाल (Traps): अदृश्य "नो-गो ज़ोन" (प्रतिबंध/constraints) हर जगह बिखरे हुए हैं। यदि आप उनमें निर्माण करते हैं, तो शहर ढह जाएगा। ये ज़ोन कठिन से कठिन होते हैं और अक्सर अधिकांश भूमि पर कब्जा कर लेते हैं।
लक्ष्य: आप उच्चतम संभव पहाड़ी (सर्वश्रेष्ठ ऑब्जेक्टिव वैल्यू) चाहते हैं जो किसी "नो-गो ज़ोन" के भीतर न हो।

पारंपरिक तरीके (जैसे मानक बायेसियन ऑप्टिमाइज़ेशन) ऐसे हैं जैसे स्काउट्स को एक-एक करके भेजना और मानचित्र का अनुमान लगाने की कोशिश करना। लेकिन जब जंगल बहुत विशाल (उच्च-आयामी) हो और नो-गो ज़ोन पेचीदा हों, तो ये स्काउट्स भटक जाते हैं, छोटी घाटियों में फंस जाते हैं, या उन स्थानों की जाँच करने में समय बर्बाद करते हैं जो स्पष्ट रूप से खराब हैं।

CiBO से मिलिए (Constrained Inference in Black-box Optimization)।

लेखक इसे "जेनरेटिव मॉडल्स" (पैटर्न सीखने वाले AI) और "लेटेंट स्पेस" (दुनिया का एक सरल, छिपा हुआ संस्करण) का उपयोग करके एक चतुर दो-चरणीय नृत्य के माध्यम से हल करने का प्रस्ताव देते हैं।

मुख्य विचार: "शैडो वर्ल्ड" (छाया जगत) की उपमा

कल्पना कीजिए कि वास्तविक जंगल एक अराजक, ऊबड़-खाबड़ पहाड़ी श्रृंखला है जिसमें गहरे, छिपे हुए गुफाएँ (नो-गो ज़ोन) हैं। सीधे नेविगेट करना एक दुःस्वप्न जैसा है।

पेपर एक "शैडो वर्ल्ड" (Latent Space) बनाने का सुझाव देता है। इस छाया जगत में, ऊबड़-खाबड़ पहाड़ चिकनी, लुढ़कती पहाड़ियों में बदल जाते हैं। डरावने, ऊबड़-खाबड़ किनारे अब नरम, आसानी से पहचाने जाने वाले वक्र बन जाते हैं।

CiBO इस प्रकार कार्य करता है:

चरण 1: मानचित्र और नियमों को सीखना

सबसे पहले, AI दो चीजें बनाता है जो स्काउट्स द्वारा पहले ही जाँचे गए कुछ स्थानों के आधार पर होती हैं:

द शेप शिफ्टर (फ्लो-आधारित मॉडल): यह "उम्मीदवार" क्षेत्रों के सामान्य आकार को सीखता है। यह समझता है कि स्काउट्स कहाँ गए थे और परिदृश्य सामान्य रूप से कैसा दिखता है।
द ओरकल (सरोगेट मॉडल्स): ये स्मार्ट भविष्यवक्ता हैं। एक अनुमान लगाता है कि किसी भी स्थान पर पहाड़ी कितनी ऊँची है, और अन्य यह अनुमान लगाते हैं कि क्या कोई स्थान "नो-गो ज़ोन" (प्रतिबंध उल्लंघन) है।

महत्वपूर्ण बात यह है कि AI केवल डेटा को देखता नहीं है; यह इसे रीवेट (reweight) करता है। यह उन स्थानों पर अधिक ध्यान देता है जो ऊँचे और सुरक्षित थे, और उन्हें अनदेखा करता है जो कम ऊँचे या खतरनाक थे।

चरण 2: "शैडो" खोज

सीधे ऊबड़-खाबड़ पहाड़ों पर चढ़ने या यादृच्छिक (randomly) रूप से स्काउट भेजने के बजाय, AI कुछ अधिक स्मार्ट करता है:

शैडो वर्ल्ड में अनुवाद करें: यह "शेप शिफ्टर" का उपयोग करके समस्या को शैडो वर्ल्ड में प्रोजेक्ट करता है। इस सरलीकृत स्थान में, जटिल, ऊबड़-खाबड़ "नो-गो ज़ोन" और "सर्वश्रेष्ठ स्थान" बहुत चिकने, आसानी से नेविगेट करने योग्य परिदृश्य बन जाते हैं।
डिफ्यूजन सैंपलर (एक निर्देशित दौरा): AI एक विशेष उपकरण जिसका नाम डिफ्यूजन सैंपलर है (एक बहुत ही स्मार्ट, निर्देशित टूर गाइड की तरह) का उपयोग करता है। यह गाइड केवल भटकता नहीं है; यह विशेष रूप से उच्चतम, सुरक्षित पहाड़ियों को खोजने के लिए "शैडो वर्ल्ड" के माध्यम से चलने के लिए सीखता है।
- शैडो वर्ल्ड क्यों? क्योंकि वास्तविक दुनिया में, "सर्वश्रेष्ठ स्थान" छोटे, अलग-थलग द्वीपों के रूप में बिखरे हो सकते हैं (मल्टी-मोडल)। शैडो वर्ल्ड में, ये द्वीप चिकने पुलों से जुड़े होते हैं, जिससे AI के लिए बिना फंसे उन्हें खोजना बहुत आसान हो जाता है।
वापस प्रोजेक्ट करें: एक बार जब गाइड शैडो वर्ल्ड में सबसे अच्छी जगह ढूंढ लेता है, तो AI उस समन्वय (coordinate) को वास्तविक जंगल में वापस अनुवादित करता है।
फ़िल्टर और दोहराएं: AI कई संभावित स्थानों को उत्पन्न करता है, उन स्थानों को फ़िल्टर करता है जो उसके "ओरकल" भविष्यवाणियों के आधार पर जोखिम भरे दिखते हैं, और सबसे अच्छे कुछ वास्तविक स्काउट्स को उन्हें जाँचने के लिए भेजता है। फिर, यह अपने मानचित्र को अपडेट करता है और प्रक्रिया को दोहराता है।

यह एक बड़ी बात क्यों है?

"ट्रैप" से बचना: पारंपरिक तरीके अक्सर "मोड कोलैप्स" में फंस जाते हैं, जहाँ वे एक ही छोटे, सुरक्षित स्थान को बार-बार खोजते रहते हैं और पास के वास्तव में अद्भुत स्थानों को मिस कर देते हैं। चिकने शैडो वर्ल्ड में खोज करके, CiBO बिना फंसे व्यापक रूप से अन्वेषण कर सकता है।
असंभव को संभालना: उच्च-आयामी समस्याओं में (जैसे 200 भागों वाले अणु का डिज़ाइन या 100 वेरिएबल्स वाली रोबोट पॉलिसी), "नो-गो ज़ोन" इतने जटिल होते हैं कि मानक गणित विफल हो जाता है। CiBO इस कठिन गणित को सरल बनाए गए शैडो वर्ल्ड में करके इसे दरकिनार कर देता है।
गति और दक्षता: पेपर दिखाता है कि CiBO पुराने तरीकों की तुलना में कम "स्काउट ट्रिप्स" (मूल्यांकन) के साथ बेहतर समाधान पाता है, यहाँ तक कि सैकड़ों आयामों और दर्जनों बाधाओं वाले कार्यों में भी।

निष्कर्ष

पेपर का दावा है कि समाधान की खोज को एक पोस्टीरियर इन्फरेंस समस्या (जो हम जानते हैं उसके आधार पर सबसे संभावित अच्छे स्थान को खोजना) के रूप में मानकर और एक सरलीकृत, चिकने "शैडो वर्ल्ड" में यह खोज करके, हम जटिल इंजीनियरिंग और वैज्ञानिक समस्याओं को पहले की तुलना में बहुत तेज़ी से और अधिक विश्वसनीयता के साथ हल कर सकते हैं।

उन्होंने सिंथेटिक गणितीय पहेलियों और रोवर पथों की योजना बनाने, रोबोट आंदोलनों को डिज़ाइन करने और वाहन द्रव्यमान को अनुकूलित करने जैसे वास्तविक दुनिया के कार्यों पर इनका परीक्षण किया। हर मामले में, उनकी विधि ने प्रतिस्पर्धा की तुलना में बेहतर, सुरक्षित समाधान खोजे।

तकनीकी सारांश: स्केलेबल कंस्ट्रेंड ब्लैक-बॉक्स ऑप्टिमाइज़ेशन के लिए लेटेंट स्पेस में पोस्टीरियर इन्फरेंस

समस्या की परिभाषा

यह शोध पत्र कंस्ट्रेंड ब्लैक-बॉक्स ऑप्टिमाइज़ेशन (CBBO) को संबोधित करता है, जो मशीन लर्निंग, ड्रग डिस्कवरी और इंडस्ट्रियल डिज़ाइन जैसे वैज्ञानिक और इंजीनियरिंग डोमेन में एक मौलिक कार्य है। इसका लक्ष्य एक ऐसा इनपुट $x^*$ खोजना है जो $M$ ब्लैक-बॉक्स बाधाओं (constraints) $g^{(m)}(x) \leq 0$ के अधीन एक ऑब्जेक्टिव फंक्शन $f(x)$ को मैक्सिमाइज करे।

लेखक रेखांकित करते हैं कि CBBO अनकन्स्ट्रेंड ऑप्टिमाइज़ेशन की तुलना में काफी कठिन है, जिसके दो मुख्य कारण हैं:

इंट्रैक्टेबल फिएसिबल रीजन्स (Intractable Feasible Regions): फिएसिबल क्षेत्र विश्लेषणात्मक रूप से अनिर्धारित हैं और अक्सर खोज स्थान (search space) के एक बहुत छोटे हिस्से में होते हैं।
उच्च आयामीता (High Dimensionality): मौजूदा विधियाँ, विशेष रूप से बेयसियन ऑप्टिमाइज़ेशन (BO), उच्च-आयामी स्थानों (जैसे, $D=200$ ) तक स्केल करने में संघर्ष करती हैं। जबकि BO नए एक्विजिशन फंक्शन्स या लैग्रेंजियन रिलैक्सेशन के माध्यम से बाधाओं को संभालता है, यह खराब स्केलेबिलिटी और जटिल, कंस्ट्रेंड लैंडस्केप्स में सरोगेट मॉडल का सटीक अनुमान लगाने में कठिनाई से ग्रस्त है।

जेनरेटिव मॉडल्स एक विकल्प के रूप में उभरे हैं, लेकिन उच्च आयामों में व्यवहार्य (feasible), उच्च-स्कोरिंग उम्मीदवारों के टार्गेट डिस्ट्रीब्यूशन से सैंपलिंग करना अक्सर मल्टी-मोडैलिटी (multi-modality) और बड़े फ्लैट क्षेत्रों (large flat regions) के कारण इंट्रैक्टेबल होता है। मानक दृष्टिकोण जैसे मार्कोव चेन मोंटे कार्लो (MCMC) खराब तरीके से स्केल करते हैं, और जेनरेटिव मॉडल्स को फाइन-ट्यून करना अक्सर मोड कोलैप्स (mode collapse) का कारण बनता है।

कार्यप्रणाली: CiBO

लेखक CiBO (Constrained Inference-based Black-box Optimization) प्रस्तावित करते हैं, जो कैंडिडेट सिलेक्शन को जेनरेटिव मॉडल्स के लेटेंट स्पेस (latent space) में किए गए पोस्टीरियर इन्फरेंस (posterior inference) के रूप में पुनर्गठित करता है। यह विधि दो चरणों वाले एक इटरेटिव लूप में संचालित होती है:

चरण 1: मॉडल्स को प्रशिक्षित करना

अवलोकित इनपुट, ऑब्जेक्टिव और कंस्ट्रेंट वायलेशन के डेटासेट $\mathcal{D}_r$ के साथ:

प्रायर ट्रेनिंग (Prior Training): एक फ्लो-बेस्ड मॉडल $p_\theta(x)$ को वर्तमान डेटासेट के वितरण को कैप्चर करने के लिए प्रशिक्षित किया जाता है। यह रीवेटेड ट्रेनिंग (reweighted training) के साथ फ्लो मैचिंग का उपयोग करके किया जाता है, जहाँ डेटा पॉइंट्स को एक लैग्रेंजियन-ऑगमेंटेड स्कोर $l(y, c) = y - \lambda \sum \max(0, c_m)$ के आधार पर वेट दिया जाता है। यह प्रायर को आशाजनक, व्यवहार्य क्षेत्रों पर केंद्रित करता है।
सरोगेट ट्रेनिंग (Surrogate Training): अनिश्चितता को मापने के लिए ऑब्जेक्टिव वैल्यूज ( $\mu_\phi, \sigma_\phi$ ) की भविष्यवाणी करने के लिए $K$ न्यूरल नेटवर्क्स का एक एन्सेम्बल प्रशिक्षित किया जाता है। प्रत्येक बाधा $g^{(m)}$ के लिए अलग-अलग प्रॉक्सी प्रशिक्षित किए जाते हैं। इन्हें भी रीवेटेड लॉस का उपयोग करके प्रशिक्षित किया जाता है।

चरण 2: उम्मीदवारों का सैंपलिंग (Sampling Candidates)

फ्लो-बेस्ड प्रायर को फाइन-ट्यून करने के बजाय (जिसमें मोड कोलैप्स का जोखिम है), CiBO कैंडिडेट सिलेक्शन को एक पोस्टीरियर डिस्ट्रीब्यूशन से सैंपलिंग के रूप में प्रस्तुत करता है:
$p_{post}(x) \propto p_\theta(x) \exp(\beta \cdot r_\phi(x))$
जहाँ $r_\phi(x)$ एक रिवॉर्ड फंक्शन है जो सरोगेट के मीन, अनिश्चितता बोनस और कंस्ट्रेंट पेनल्टी को जोड़ता है।

मुख्य नवाचार: लेटेंट स्पेस अमोर्टाइज्ड इन्फरेंस (Latent Space Amortized Inference)
लेखक देखते हैं कि जबकि डेटा स्पेस में $p_{post}(x)$ अत्यधिक मल्टी-मोडल और जटिल है, लेटेंट स्पेस ( $z$ ) में संगत पोस्टीरियर काफी स्मूथ होता है।

आउटसोर्स्ड डिफ्यूजन सैंपलर (Outsourced Diffusion Sampler): वे लेटेंट पोस्टीरियर $p_{post}(z) \propto p(z) \exp(\beta \cdot r_\phi(f_\theta(z)))$ को अनुमानित करने के लिए एक अलग डिफ्यूजन मॉडल $p_\psi(z)$ को प्रशिक्षित करते हैं।
ट्रैजेक्टरी बैलेंस (Trajectory Balance - TB): डिफ्यूजन सैंपलर को ट्रैजेक्टरी बैलेंस ऑब्जेक्टिव का उपयोग करके प्रशिक्षित किया जाता है, जो ऑफ-पॉलिसी ट्रेनिंग (off-policy training) की अनुमति देता है। यह मल्टीपल मोड्स को कवर करने और लेटेंट स्पेस में मोड कोलैप्स से बचने के लिए महत्वपूर्ण है।
प्रोजेक्शन और फ़िल्टरिंग (Projection and Filtering): $p_\psi(z)$ से सैंपल लिए जाते हैं, उन्हें डिटर्मिनिस्टिक मैपिंग $x = f_\theta(z)$ के माध्यम से डेटा स्पेस में प्रोजेक्ट किया जाता है, और रिवॉर्ड फंक्शन $r_\phi(x)$ के आधार पर टॉप- $B$ उम्मीदवारों को चुनने के लिए फ़िल्टर किया जाता है।

मुख्य योगदान

पोस्टीरियर इन्फरेंस के रूप में पुनर्गठन: यह पेपर कंस्ट्रेंड कैंडिडेट सिलेक्शन को एक पोस्टीरियर डिस्ट्रीब्यूशन से सैंपलिंग के रूप में औपचारिक रूप देता है, जो हाई-डायमेंशनल डेटा स्पेस में डायरेक्ट सैंपलिंग की कठिनाइयों को बायपास करने के लिए लेटेंट स्पेस की स्मूथनेस का लाभ उठाता है।
लेटेंट स्पेस अमोर्टाइजेशन: सैंपलिंग प्रक्रिया को लेटेंट स्पेस में नॉइज़ जनरेशन स्टेप और एक डिटर्मिनिस्टिक प्रोजेक्शन में अलग करके, यह विधि जटिल, मल्टी-मोडल टार्गेट डिस्ट्रीब्यूशन पर सीधे फ्लो-बेस्ड मॉडल्स को फाइन-ट्यून करने से जुड़ी मोड कोलैप्स की समस्याओं से बचती है।
स्केलेबिलिटी: लाइटवेट MLP-आधारित सरोगेट्स और फ्लो/डिफ्यूजन मॉडल्स का उपयोग करने से यह विधि उच्च आयामों (वास्तविक कार्यों में 180 आयाम तक) तक स्केल करने की अनुमति देती है जहाँ पारंपरिक BO विधियाँ विफल हो जाती हैं।
इंडिकेटर कंस्ट्रेंट्स (Indicator Constraints): फ्रेमवर्क को "इंडिकेटर कंस्ट्रेंट्स" (केवल बाइनरी फिएसिबिलिटी फीडबैक) को संभालने के लिए दिखाया गया है, जो एक चुनौतीपूर्ण सेटिंग है जहाँ ग्रेडिएंट-बेस्ड या कंटीन्यूअस कंस्ट्रेंट इंफॉर्मेशन उपलब्ध नहीं होती है।

प्रयोगात्मक परिणाम

लेखक तीन सिंथेटिक बेंचमार्क (Rastrigin, Ackley, Rosenbrock at $D=200$ ) और चार वास्तविक कार्यों (Rover Planning, HalfCheetah, Mopta, Lasso DNA) पर मूल्यांकन करते हैं, जिनके आयाम 60 से 180 तक हैं।

प्रदर्शन (Performance): CiBO लगातार स्टेट-ऑफ-द-आर्ट बेसलाइन्स, जिनमें BO वेरिएंट्स (cEI, LogcEI, SCBO, PCAGP-SCBO, FuRBO), इवोल्यूशनरी एल्गोरिदम (CMA-ES), और अन्य जेनरेटिव अप्रोच (DiffOPT) शामिल हैं, को पछाड़ देता है।
फिएसिबिलिटी (Feasibility): सिंथेटिक कार्यों में, CiBO 5-10 बैचों के भीतर लगभग पूर्ण फिएसिबिलिटी रेश्यो प्राप्त करता है, जो BO बेसलाइन्स की तुलना में काफी तेज़ है। वास्तविक कार्यों में, यह अक्सर Mopta और DNA-180D जैसे कठिन बेंचमार्क पर फिएसिबल सॉल्यूशंस खोजने वाला एकमात्र तरीका होता है।
सैंपल एफिशिएंसी (Sample Efficiency): विधि प्रतिस्पर्धियों की तुलना में कम इवैल्यूएशन के साथ उच्च-गुणवत्ता वाले फिएसिबल सॉल्यूशंस खोजकर बेहतर सैंपल एफिशिएंसी प्रदर्शित करती है।
एब्लेशन स्टडीज (Ablation Studies): प्रयोग पुष्टि करते हैं कि रीवेटेड ट्रेनिंग, फ़िल्टरिंग और डिफ्यूजन सैंपलर की ऑफ-पॉलिसी ट्रेनिंग महत्वपूर्ण घटक हैं। विधि लैग्रेंज मल्टीप्लायर $\lambda$ और बफर साइज $L$ जैसे हाइपरपैरामीटर के बदलावों के प्रति मजबूत है।
रनटाइम (Runtime): प्रत्येक राउंड में कई मॉडल्स को प्रशिक्षित करने के बावजूद, CiBO पारंपरिक BO द्वारा आवश्यक महंगे गॉसियन प्रोसेस (GP) फिटिंग से बचकर, BO-आधारित विधियों के बराबर या उससे कम प्रति-राउंड रनटाइम बनाए रखता है।

महत्व और दावे

पेपर का दावा है कि CiBO स्केलेबल कंस्ट्रेंड ब्लैक-बॉक्स ऑप्टिमाइज़ेशन के लिए एक महत्वपूर्ण कदम है। इसका प्राथमिक महत्व निम्नलिखित में निहित है:

कंस्ट्रेंट्स के "कर्स ऑफ डायमेंशनैलिटी" पर विजय: लेटेंट स्पेस में इन्फरेंस करके, यह विधि जटिल, मल्टी-मोडल फिएसिबल रीजन्स को प्रभावी ढंग से नेविगेट करती है जो स्टैंडर्ड BO या डायरेक्ट जेनरेटिव मॉडल फाइन-ट्यूनिंग के लिए इंट्रैक्टेबल हैं।
मजबूती (Robustness): फ्रेमवर्क बाइनरी कंस्ट्रेंट फीडबैक और बड़ी संख्या में कंस्ट्रेंट्स वाले विविध कार्यों में मजबूत है।
व्यावहारिक प्रयोज्यता (Practical Applicability): यह विधि उन वास्तविक डिज़ाइन और कंट्रोल समस्याओं के लिए कम्प्यूटेशनल रूप से कुशल है जहाँ इवैल्यूएशन बजट सीमित है।

लेखक विनम्रतापूर्वक सीमाओं को नोट करते हैं, विशेष रूप से प्रत्येक राउंड में मॉडल्स को फिर से प्रशिक्षित करने की आवश्यकता और फ्लो-बेस्ड ट्रेनिंग तथा डिफ्यूजन सैंपलर्स में प्रगति का लाभ उठाकर भविष्य के सुधारों की संभावना। वे इस बात पर जोर देते हैं कि उनका कार्य अधिक मजबूत, कंस्ट्रेंट-अवेयर ऑप्टिमाइज़ेशन फ्रेमवर्क्स के लिए एक आधार प्रदान करता है।