🔢 mathematics

A trust-region funnel algorithm for gray-box optimization

यह शोध पत्र ग्रे-बॉक्स अनुकूलन (gray-box optimization) के लिए एक नवीन ट्रस्ट-रीजन फनल एल्गोरिदम प्रस्तावित करता है जो पैरामीटर ट्यूनिंग को सरल बनाने और वैश्विक अभिसरण (global convergence) सुनिश्चित करने के लिए पारंपरिक फ़िल्टर मानदंड को एक एक-आयामी फनल से प्रतिस्थापित करता है, जो ओपन-सोर्स बेंचमार्क में शास्त्रीय फ़िल्टर-आधारित विधियों के तुलनीय या बेहतर प्रदर्शन प्रदर्शित करता है।

मूल लेखक: Gul Hameed, Tao Chen, Antonio del Rio Chanona, Lorenz T. Biegler, Michael Short

प्रकाशित 2026-04-15

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Gul Hameed, Tao Chen, Antonio del Rio Chanona, Lorenz T. Biegler, Michael Short

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, धुंधली घाटी में सबसे निचले बिंदु को खोजने की कोशिश कर रहे हैं (ऑप्टिमाइज़ेशन प्रॉब्लम/इष्टतमीकरण समस्या)। आप जितनी जल्दी हो सके नीचे पहुँचना चाहते हैं, लेकिन एक पेंच है: घाटी का एक हिस्सा साफ और मानचित्रित है (ग्लास-बॉक्स), जबकि बाकी हिस्सा घनी धुंध से ढका हुआ है जहाँ आप इलाके को नहीं देख सकते या ढलान के बारे में नहीं जान सकते (ब्लैक-बॉक्स)।

इंजीनियरिंग और विज्ञान में, इसे ग्रे-बॉक्स ऑप्टिमाइज़ेशन कहा जाता है। आपके पास कुछ समीकरण हैं जिन्हें आप पूरी तरह समझते हैं, लेकिन सिस्टम के अन्य हिस्से "ब्लैक बॉक्स" की तरह हैं—आप इनपुट डालते हैं, आउटपुट प्राप्त करते हैं, लेकिन आप उसके अंदर की गणित नहीं जानते, और मार्गदर्शन के लिए ढलान की गणना करना आसान नहीं है।

यह पेपर इस धुंधली घाटी में नेविगेट करने के एक नए, स्मार्ट तरीके को पेश करता है जिसे ट्रस्ट-रीजन फनल एल्गोरिदम (Trust-Region Funnel Algorithm) कहा जाता है। यह कैसे काम करता है, यहाँ सरल भाषा में समझाया गया है:

1. पुराना तरीका: "फ़िल्टर" (एक सख्त द्वारपाल)

पहले, इसे हल करने का सबसे अच्छा तरीका ट्रस्ट-रीजन फ़िल्टर था। कल्पना कीजिए कि आप एक सख्त द्वारपाल के साथ चल रहे हैं।

हर बार जब आप एक कदम उठाते हैं, तो द्वारपाल दो चीजें जाँचता है: "क्या आप नीचे की ओर करीब आए?" (ऑब्जेक्टिव) और "क्या आप रास्ते पर रहे?" (फिजिबिलिटी)।
द्वारपाल उन सभी अच्छे स्थानों की एक लंबी सूची रखता है जहाँ आपने यात्रा की है। एक नया कदम स्वीकार करने के लिए, आपको यह साबित करना होगा कि आप उस सूची के कम से कम एक स्थान की तुलना में या तो नीचे पहुँचने में या रास्ते पर बने रहने में बेहतर हैं।
समस्या: इस सूची को रखना जटिल है। इसके लिए कई "नॉब्स और डायल" (पैरामीटर्स) को ट्यून करने की आवश्यकता होती है। यदि आप उन्हें गलत तरीके से ट्यून करते हैं, तो द्वारपाल भ्रमित हो जाता है, और आप गोल-गोल घूमने या बहुत छोटे, धीमे कदम उठाने में फंस सकते हैं।

2. नया तरीका: "फनल" (एक मार्गदर्शक स्लाइड)

लेखक एक ट्रस्ट-रीजन फनल का प्रस्ताव करते हैं। पिछले "सूची-जाँचने वाले" द्वारपाल के बजाय, कल्पना कीजिए कि आप एक विशाल, संकीर्ण होते हुए फनल (कीप) से नीचे फिसल रहे हैं।

लक्ष्य: फनल "अनुमत क्षेत्र" (allowed zone) का प्रतिनिधित्व करता है। ऊपर, फनल चौड़ा है, इसलिए आप थोड़े अव्यवस्थित हो सकते हैं और फिर भी ठीक रहेंगे। जैसे-जैसे आप नीचे जाते हैं, फरल संकरा होता जाता है।
यह कैसे काम करता है:
- चरण 1 (ट्रैक पर आना): शुरुआत में, फनल चौड़ा होता है। एल्गोरिदम का ध्यान आपको फनल के अंदर लाने पर होता है (ब्लैक बॉक्स की त्रुटियों को ठीक करना)। यह सही रास्ते पर आने के लिए बड़े कदम लेता है।
- चरण 2 (नीचे फिसलना): एक बार जब आप अंदर आ जाते हैं, तो फनल तंग हो जाता है। एल्गोरिदम आपको संकरी दीवारों के भीतर रहने के लिए मजबूर करता है। यह स्वाभाविक रूप से आपको बिना किसी जटिल पिछले चरणों की सूची के, पूर्ण समाधान की ओर धकेलता है।
जादू: आपको "अच्छे स्थानों" की सूची याद रखने की ज़रूरत नहीं है। आपको बस यह सुनिश्चित करना है कि आप वर्तमान चौड़ाई के भीतर फिट बैठते हैं। यदि आप फिट होते हैं, तो आप आगे बढ़ते हैं। यदि नहीं, तो आप अपने कदम का आकार छोटा कर देते हैं और फिर से प्रयास करते हैं।

3. "ट्रस्ट रीजन" (एक सुरक्षा क्षेत्र)

ट्रस्ट रीजन को आपकी वर्तमान स्थिति के चारों ओर एक सुरक्षा बुलबुले (safety bubble) के रूप में सोचें।

क्योंकि "ब्लैक बॉक्स" वाला हिस्सा धुंधला है, आप अपने नक्शे पर बहुत दूर तक भरोसा नहीं कर सकते।
एल्गोरिदम कहता है, "मैं केवल अपने आस-पास के एक छोटे, सुरक्षित क्षेत्र के आधार पर निर्णय लूँगा।"
यदि नक्शा (मॉडल) उस छोटे बुलबुले में सटीक दिखता है, तो आप एक बड़ा कदम उठाते हैं। यदि नक्शा अस्थिर दिखता है, तो आप बुलबुले को सिकोड़ देते हैं और एक छोटा, सावधानी भरा कदम उठाते हैं।

4. यह बेहतर क्यों है?

इस पेपर ने इस नए "फनल" तरीके का परीक्षण 7 अलग-अलग समस्याओं पर किया, जो सरल गणितीय पहेलियों से लेकर जटिल रासायनिक संयंत्र डिजाइनों (जैसे बायोमास से हाइड्रोजन बनाना) तक फैली हुई हैं।

सरल: यह एक जटिल स्विस आर्मी नाइफ (जिसमें 50 उपकरण हों) को एक एकल, पूरी तरह से डिज़ाइन किए गए स्क्रूड्राइवर से बदलने जैसा है। इसमें ट्यून करने के लिए कम "नॉब्स" की आवश्यकता होती है।
तेज़: कई परीक्षणों में, फनल विधि ने फ़िल्टर विधि की तुलना में कम "यात्राओं" (कंप्यूटर गणनाओं) के साथ घाटी के नीचे तक तेज़ी से पहुँचा।
मजबूत (Robust): यह समस्या के "धुंधले" हिस्सों को बेहतर ढंग से संभालता है, विशेष रूप से तब जब शुरुआती बिंदु समाधान से दूर हो।

निचोड़

लेखकों ने एक नया, ओपन-सोर्स टूल (पायथन में लिखा गया) बनाया है जो इंजीनियरों को उन जटिल समस्याओं को हल करने में मदद करता है जहाँ सिस्टम के कुछ हिस्से रहस्यमय हैं। एक जटिल "सूची-जाँचने" वाली प्रणाली को एक सरल "संकीर्ण होते फनल" से बदलकर, उन्होंने सर्वोत्तम समाधान खोजने की प्रक्रिया को सरल, तेज़ और अधिक विश्वसनीय बना दिया है।

यह एक ऐसे जीपीएस (GPS) से अपग्रेड करने जैसा है जो ट्रैफिक रिपोर्ट के विशाल डेटाबेस के आधार पर लगातार अपना रास्ता बदलता रहता है, बनाम एक ऐसे जीपीएस के जो बस आपको एक संकीर्ण स्लाइड के माध्यम से धीरे से निर्देशित करता है, यह सुनिश्चित करता है कि चाहे सड़क कितनी भी धुंधली क्यों न हो, आप कभी खो न जाएं।

यहाँ शोध लेख "A Trust-region Funnel Algorithm for Grey-Box Optimisation" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र ग्रे-बॉक्स ऑप्टिमाइज़ेशन (Grey-Box Optimisation) के अंतर्गत आने वाली समस्याओं को संबोधित करता है, जो प्रोसेस सिस्टम इंजीनियरिंग में सामान्य हैं। इन समस्याओं में ऑब्जेक्टिव फंक्शन और बाधाएं (constraints) दो अलग-अलग प्रकार के मॉडलों से मिलकर बनी होती हैं:

ग्लास-बॉक्स (स्पष्ट/Explicit) मॉडल: ज्ञात विश्लेषणात्मक डेरिवेटिव वाले बीजगणितीय समीकरण (जैसे द्रव्यमान/ऊर्जा संतुलन)।
ब्लैक-बॉक्स (अस्पष्ट/Implicit) मॉडल: महंगे सिमुलेशन या मालिकाना टूल्स (जैसे CFD, Aspen Plus) जिनमें विश्लेषणात्मक डेरिवेटिव का अभाव होता है और जिन्हें इवैल्यूएट करना कम्प्यूटेशनल रूप से महंगा होता है।

चुनौतियां:

पारंपरिक नॉनलीनर प्रोग्रामिंग (NLP) सॉल्वर ब्लैक-बॉक्स घटकों की उपस्थिति में संघर्ष करते हैं क्योंकि उनमें ग्रेडिएंट्स का अभाव होता है।
मौजूदा ट्रस्ट-रीजन (TR) फ़िल्टर विधियाँ (जो वर्तमान में स्टेट-ऑफ-द-आर्ट हैं) मजबूत तो हैं, लेकिन वे निम्नलिखित कारणों से प्रभावित होती हैं:
- कई पैरामीटर्स (जैसे फ़िल्टर पैरामीटर्स $\lambda_\theta, \lambda_f$ ) को ट्यून करने की जटिलता।
- गैर-प्रभावी जोड़ों (ऑब्जेक्टिव बनाम इनफीज़िबिलिटी) की एक सूची बनाए रखने की आवश्यकता, जो कम्प्यूटेशनल रूप से भारी हो सकती है।
- जब रिड्यूस्ड मॉडल (RM) एरर प्रक्रिया पर हावी हो जाते हैं, तो संभावित ठहराव (stalling)।
अन्य विकल्प जैसे DEFT-FUNNEL या ARGONAUT अक्सर एल्गोरिदम की दृष्टि से जटिल होते हैं, उनके ओपन-सोर्स कार्यान्वयन की कमी है, या वे ग्लोबल मल्टी-स्टार्ट रणनीतियों पर निर्भर करते हैं जो बड़े पैमाने के NLPs के लिए स्केलेबल नहीं हैं।

2. कार्यप्रणाली: द ट्रस्ट-रीजन फनल एल्गोरिदम (Methodology: The Trust-Region Funnel Algorithm)

लेखक एक नया ट्रस्ट-रीजन (TR) फनल एल्गोरिदम प्रस्तावित करते हैं जो इनफीज़िबिलिटी को संभालने के लिए पारंपरिक फ़िल्टर स्वीकृति मानदंड के स्थान पर एक "फनल" तंत्र का उपयोग करके TR विधियों की मजबूती को एकीकृत करता है।

मुख्य फॉर्मूलेशन:

डिकपलिंग (Decoupling): समस्या को सहायक चरों (auxiliary variables) को पेश करके पुनर्गठित किया जाता है ताकि स्पष्ट ग्लास-बॉक्स समीकरणों को अस्पष्ट ब्लैक-बॉक्स मैपिंग $t(w)$ से अलग किया जा सके।
रिड्यूस्ड मॉडल्स (RMs): एक विशिष्ट सैंपलिंग क्षेत्र ( $\sigma^{(k)}$ ) के भीतर ब्लैक-बॉक्स घटकों के लिए स्थानीय सरोगेट्स (लीनियर, क्वाड्रेटिक, टेलर सीरीज़, या गॉसियन प्रोसेस) बनाए जाते हैं।
$\kappa$ -फुली लीनियर प्रॉपर्टी: RMs के लिए यह आवश्यक है कि वे सैंपलिंग रेडियस के अनुपात में एरर बाउंड्स को संतुष्ट करें, जिससे वर्तमान इटरेट के पास सटीकता सुनिश्चित हो सके।

फनल तंत्र (The Funnel Mechanism):
एक फ़िल्टर के बजाय, जो (ऑब्जेक्टिव, इनफीज़िबिलिटी) जोड़ों के सेट को प्रबंधित करता है, फनल विधि इनफीज़िबिलिटी मेजर $\theta(x)$ (RM प्रेडिक्शन और वास्तविक ब्लैक-बॉक्स रिस्पॉन्स के बीच का अंतर) पर एक मोनोटोनिकली नॉन-इंक्रीजिंग अपर बाउंड (जिसे "फनल विड्थ" $\phi^{(k)}$ कहा जाता है) बनाए रखती है।

स्टेप एक्सेप्टेंस: एक ट्रायल स्टेप तब स्वीकार किया जाता है जब वह फनल कंडीशन $\theta(x^{(k)} + s^{(k)}) \leq \phi^{(k)}$ को संतुष्ट करता है।
स्टेप के प्रकार:
- $f$ -प्रकार के स्टेप्स: ऑब्जेक्टिव फंक्शन में सुधार करते हैं और फनल कंडीशन को संतुष्ट करते हैं। इसमें फनल विड्थ अपरिवर्तित रहती है।
- $\theta$ -प्रकार के स्टेप्स: इनफीज़िबिलिटी मेजर को कम करते हैं। इसमें फनल विड्थ को एक विशिष्ट अपडेट नियम के अनुसार कम (tighten) किया जाता है।
ग्लोबलाइजेशन (Globalisation): एल्गोरिदम डायनेमिक रूप से ट्रस्ट-रीजन रेडियस ( $\Delta^{(k)}$ ) और सैंपलिंग रेडियस ( $\sigma^{(k)}$ ) को एडजस्ट करता है। महत्वपूर्ण रूप से, जबकि $\sigma^{(k)}$ RM सटीकता और अभिसरण (convergence) सुनिश्चित करने के लिए सिकुड़ता है, $\Delta^{(k)}$ ग्लास-बॉक्स चरों में महत्वपूर्ण कदम उठाने के लिए बड़ा बना रह सकता है।

एल्गोरिदम प्रवाह (Algorithmic Flow):

क्रिटिकैलिटी चेक: KKT पॉइंट के निकटता का आकलन करें। यदि पास है, तो सैंपलिंग रेडियस कम करें।
कंपैटिबिलिटी चेक: सुनिश्चित करें कि स्थानीय TR सबप्रॉब्लम (TRSP) वर्तमान RM के साथ व्यवहार्य (feasible) है। यदि नहीं, तो रेस्टोरेशन फेज में प्रवेश करें।
TRSP सॉल्यूशन: उम्मीदवार स्टेप खोजने के लिए सबप्रॉब्लम को हल करें।
एक्सेप्टेंस लॉजिक:
- यदि स्टेप ऑब्जेक्टिव में सुधार करता है ( $f$ -प्रकार) और आर्मिजो (Armijo) स्थितियों को संतुष्ट करता है, तो इसे स्वीकार करें और TR का विस्तार करें।
- यदि स्टेप इनफीज़िबिलिटी को कम करता है ( $\theta$ -प्रकार) और फनल डिक्रीज कंडीशन को संतुष्ट करता है, तो इसे स्वीकार करें और फनल विड्थ को कम करें।
- अन्यथा, स्टेप को रिजेक्ट करें और TR रेडियस को कम करें।

3. मुख्य योगदान (Key Contributions)

नया एल्गोरिदम: ग्रे-बॉक्स ऑप्टिमाइज़ेशन के लिए विशेष रूप से डिज़ाइन किया गया एक TR फनल एल्गोरिदम पेश करना, जो जटिल फ़िल्टर तंत्र के स्थान पर एक सरल, सिंगल-पैरामीटर फनल बाधा का उपयोग करता है।
कठोर अभिसरण प्रमाण (Rigorous Convergence Proof): पेपर एक ग्लोबल कन्वर्जेंस प्रूफ प्रदान करता है जो यह दर्शाता है कि एल्गोरिदम मूल ग्रे-बॉक्स समस्या के प्रथम-क्रम KKT पॉइंट (स्टेशनरी पॉइंट) की ओर अभिसरित होता है। यह प्रमाण TR रेडियस के बजाय सैंपलिंग रेडियस $\sigma^{(k)}$ के संकुचन (contraction) पर निर्भर करता है।
ओपन-सोर्स कार्यान्वयन: एल्गोरिदम को Pyomo, एक ओपन-सोर्स पायथन फ्रेमवर्क में लागू किया गया है। यह कई RM रूपों (लीनियर, क्वाड्रेटिक, टेलर, गॉसियन प्रोसेस) का समर्थन करता है और उपयोगकर्ताओं को फ़िल्टर और फनल रणनीतियों के बीच स्विच करने की अनुमति देता है।
सरलीकृत ट्यूनिंग: फ़िल्टर सेट और संबंधित ह्यूरिस्टिक पैरामीटर्स ( $\lambda_\theta, \lambda_f$ ) की आवश्यकता को हटाकर, यह विधि पैरामीटर ट्यूनिंग के प्रति संवेदनशीलता को कम करती है, जिससे यह औद्योगिक अनुप्रयोगों के लिए अधिक सुलभ हो जाती है।

4. परिणाम (Results)

लेखकों ने सात समस्याओं के माध्यम से शास्त्रीय TR फ़िल्टर विधि के विरुद्ध TR फनल एल्गोरिदम का बेंचमार्किंग किया: तीन संख्यात्मक बेंचमार्क (Colville, Himmelblau, Loeppky) और चार इंजीनियरिंग/प्रोसेस डिज़ाइन समस्याएं (Wing Weight, Welded Beam, Williams-Otto, Biomass Hydrogen)।

मुख्य निष्कर्ष:

प्रदर्शन: TR फनल विधि ने सात समस्याओं में TR फ़िल्टर के सापेक्ष तुलनीय या बेहतर प्रदर्शन किया।
- संख्यात्मक बेंचमार्क (जैसे Quadratic RMs के साथ Colville) में, फनल विधि को 4-135 गुना कम बाहरी ब्लैक-बॉक्स इवैल्यूएशन की आवश्यकता पड़ी और काफी कम CPU समय लगा।
- इंजीनियरिंग समस्याओं (Wing Weight, Welded Beam) के लिए, दोनों विधियां समान इष्टतम मानों पर अभिसरित हुईं, लेकिन फनल विधि को अक्सर कम इटरेशन और इवैल्यूएशन की आवश्यकता पड़ी, विशेष रूप से कम-फिडेलिटी RMs का उपयोग करने पर।
स्टेप एफिशिएंसी: फ़िल्टर विधि की तुलना में फनल विधि ने $f$ -प्रकार के स्टेप्स (ऑप्टिमैलिटी स्टेप्स) का उच्च अनुपात और $\theta$ -प्रकार के स्टेप्स (फिजिबिलिटी करेक्शन स्टेप्स) का कम अनुपात प्रदर्शित किया। यह एक सुचारू अभिसरण पथ को दर्शाता है जहाँ व्यवहार्यता (feasibility) को अधिक कुशलता से बनाए रखा जाता है।
मजबूती (Robustness): एल्गोरिदम ने अत्यधिक इनफीज़िबल शुरुआती बिंदुओं (जैसे 9.1 की प्रारंभिक इनफीज़िबिलिटी के साथ Welded Beam) को सफलतापूर्वक संभाला, जो ऑब्जेक्टिव मिनिमाइजेशन में स्विच करने से पहले रेस्टोरेशन और $\theta$ -स्टेप्स के माध्यम से तेजी से इनफीज़िबिलिटी को कम करता है।
स्केलेबिलिटी: विधि ने बड़े पैमाने की प्रोसेस समस्याओं (जैसे 83 वेरिएबल्स और 69 कंस्ट्रेंट्स के साथ Biomass Hydrogen) को अच्छी तरह से संभाला, जो 193 इटरेशन में स्थिर व्यवहार्यता प्रवर्तन के साथ अभिसरित हुई।

5. महत्व (Significance)

यह शोध ग्रे-बॉक्स ऑप्टिमाइज़ेशन के लिए व्यापक रूप से उपयोग की जाने वाली TR फ़िल्टर विधि के लिए एक सरल, विस्तार योग्य और सैद्धांतिक रूप से सुदृढ़ विकल्प प्रदान करता है।

व्यावहारिक प्रभाव: ब्लैक-बॉक्स इवैल्यूएशन के लिए मैनुअल पैरामीटर ट्यूनिंग की आवश्यकता को कम करके और कम्प्यूटेशनल लागत को कम करके, यह विधि जटिल औद्योगिक प्रोसेस डिज़ाइन और ऑप्टिमाइज़ेशन के लिए अधिक उपयुक्त है।
सैद्धांतिक प्रगति: ग्रे-बॉक्स संदर्भ में फनल दृष्टिकोण के लिए ग्लोबल कन्वर्जेंस प्रूफ का व्युत्पन्न NLP थ्योरी और व्यावहारिक डेरिवेटिव-फ्री ऑप्टिमाइज़ेशन के बीच के अंतर को पाटता है।
पहुंच (Accessibility): Pyomo का ओपन-सोर्स कार्यान्वयन उन्नत ग्रे-बॉक्स ऑप्टिमाइज़ेशन तकनीकों को लोकतांत्रिक बनाता है, जिससे शोधकर्ता और इंजीनियर आसानी से फनल-आधारित रणनीतियों को अपने वर्कफ़्लो में एकीकृत कर सकते हैं।

निष्कर्षतः, TR फनल एल्गोरिदम ग्रे-बॉक्स समस्याओं में व्यवहार्यता और इष्टतमता के बीच के संतुलन को प्रभावी ढंग से प्रबंधित करता है, जो उन बड़े पैमाने के प्रोसेस सिस्टम इंजीनियरिंग के लिए एक मजबूत उपकरण प्रदान करता है जहाँ डेरिवेटिव जानकारी आंशिक रूप से अनुपलब्ध होती है।