तकनीकी सारांश: एक $(\epsilon, \delta)$-सटीक लेवल सेट अनुमान (Level Set Estimation) के लिए स्टॉपिंग क्राइटेरिया (Stopping Criterion)

समस्या विवरण (Problem Statement)

लेवल सेट एस्टीमेशन (LSE) का लक्ष्य एक उम्मीदवार सेट (candidate set) के भीतर उन क्षेत्रों की पहचान करना है जहाँ एक अज्ञात, लागत-गहन फलन (function) $f(x)$, एक निर्दिष्ट थ्रेशोल्ड $\theta$ से अधिक (या कम) होता है। हालाँकि सक्रिय शिक्षण (active learning) रणनीतियों का उपयोग $\epsilon$-सटीक समाधानों को खोजने के लिए किया गया है, लेकिन स्टॉपिंग क्राइटेरिया (stopping criteria) के सैद्धांतिक निर्माण में एक महत्वपूर्ण अंतर बना हुआ है।

मौजूदा विधियाँ अक्सर $\epsilon$-सटीक समाधानों (एक मार्जिन के साथ) को खोजने के लिए अनुक्रमिक अनुकूलन (sequential optimization) पर निर्भर करती हैं, लेकिन उनमें कठोर स्टॉपिंग नियमों का अभाव है। सामान्य दृष्टिकोणों में शामिल हैं:

• बजट-आधारित स्टॉपिंग (Budget-based stopping): प्रयोगों की एक निश्चित संख्या के बाद रुक जाना, जिससे संसाधनों की बर्बादी हो सकती है या पर्याप्त सटीकता प्राप्त नहीं हो पाती।
• F-स्कोर सैंपलिंग (FS): तब रुकना जब F-स्कोर का एक सैंपल्ड पर्सेंटाइल लक्षित मान से अधिक हो जाता है। हालाँकि, इसके लिए पूर्व में ही अधिकतम प्राप्त करने योग्य F-स्कोर का ज्ञान होना आवश्यक है, जो अक्सर स्पष्ट नहीं होता। इसके अलावा, स्टॉपिंग पॉइंट पर वास्तविक F-स्कोर वांछित लक्ष्य को पूरा नहीं भी कर सकता है, और यह विधि गणनात्मक रूप से महंगी सैंपलिंग पर निर्भर करती है।
• फुली क्लासिफाइड (FC) मानदंड: केवल तब रुकना जब सभी बिंदुओं को वर्गीकृत कर लिया गया हो। यह शोर (noise) की उपस्थिति में टर्मिनेशन (समाप्ति) में विफल रहता है, क्योंकि थ्रेशोल्ड के पास स्थित बिंदु अनिश्चित काल तक "अनिर्धारित" (undetermined) रह जाते हैं।

यह शोध एक ऐसे अधिग्रहण रणनीति (acquisition strategy) की आवश्यकता को संबोधित करता है जो एक सैद्धांतिक रूप से आधारित स्टॉपिंग क्राइटेरिया को शामिल करती है, ताकि यह सुनिश्चित किया जा सके कि एल्गोरिदम तब रुक जाए जब आगे का अन्वेषण (exploration) सुधार लाने की संभावना न रखता हो, जिससे अनावश्यक मूल्यांकन को कम किया जा सके और सटीकता पर संभाव्य गारंटी (probabilistic guarantees) प्रदान की जा सके।

कार्यप्रणाली (Methodology)

1. गॉसियन प्रोसेस फ्रेमवर्क (Gaussian Process Framework)

यह विधि अज्ञात फलन को गॉसियन प्रोसेस रिग्रेशन (GPR) का उपयोग करके मॉडल करती है। एक डेटासेट $S_N$ दिए जाने पर, एक नए बिंदु $x^*$ पर फलन के मान का पोस्टीरियर वितरण (posterior distribution) गॉसियन $N(\mu_N(x^*), \sigma_N^2(x^*))$ होता है।

2. प्रस्तावित अधिग्रहण फलन (Proposed Acquisition Function)

गलत वर्गीकरण की संभावना ($p_{min}(x)$) पर आधारित पारंपरिक अधिग्रहण फलन उन बिंदुओं का चयन करते हैं जहाँ पोस्टीरियर वेरिएंस उच्च होता है या माध्य थ्रेशोल्ड के करीब होता है। लेखक तर्क देते हैं कि इससे उन बिंदुओं के अनावश्यक अन्वेषण की ओर ले जाया जा सकता है जहाँ वास्तविक फलन मान स्वाभाविक रूप से थ्रेशोल्ड के करीब होता है (मार्जिन क्षेत्र), जिससे घटते प्रतिफल (diminishing returns) मिलते हैं।

इसे संबोधित करने के लिए, यह शोध एक मार्जिन $\epsilon > 0$ पेश करता है। एक बिंदु को न केवल इसलिए "वर्गीकृत करने में कठिन" माना जाता है क्योंकि $f(x) \approx \theta$, बल्कि इसलिए भी क्योंकि $f(x) \in (\theta - \epsilon/2, \theta + \epsilon/2]$ है। लक्ष्य $\epsilon$-सटीकता प्राप्त करना है, जहाँ अनुमानित सेट $\tilde{H}_\theta$ (ऊपरी), $\tilde{L}_\theta$ (निचला), और $\tilde{U}_\theta$ (अनिर्धारित/मार्जिन) वास्तविक सेटों के संबंध में विशिष्ट समावेशन गुणों को संतुष्ट करते हैं।

प्रस्तावित अधिग्रहण फलन $r_{min}(x)$ को इस प्रकार परिभाषित किया गया है:
$$r_{min}(x) = \min \{ \Pr(x \in H_\theta), \Pr(x \in L_\theta), \Pr(x \notin U_\theta) \}$$
जहाँ:

• $\Pr(x \in H_\theta)$ और $\Pr(x \in L_\theta)$ ऊपरी और निचले लेवल सेट्स में होने की संभावनाएँ हैं।
• $\Pr(x \notin U_\theta)$ की संभावना है कि फलन का मान मार्जिन क्षेत्र $U_\theta = \{x \mid |f(x) - \theta| \le \epsilon/2\}$ के बाहर है।

एल्गोरिदम अगला बिंदु $x_{new} = \arg \max_{x \in X} r_{min}(x)$ चुनता है। यह फलन उन बिंदुओं को प्राथमिकता देता है जो या तो वर्गीकृत करने में कठिन हैं (निम्न $H_\theta$ या $L_\theta$ की संभावना) अथवा जहाँ मार्जिन क्षेत्र में होने की अनिश्चितता अधिक है। महत्वपूर्ण रूप से, यदि किसी बिंदु का गहनता से अन्वेषण किया जाता है और पोस्टीरियर वेरिएंस कम हो जाता है, तो मार्जिन में होने की संभावना ($\Pr(x \in U_\theta)$) बढ़ जाती है, जिससे $\Pr(x \notin U_\theta)$ कम हो जाता है। यह स्वाभाविक रूप से उन बिंदुओं के लिए अधिग्रहण मान (acquisition value) को कम कर देता है जो पहले से ही $\epsilon$ टॉलरेंस के भीतर "सुलझे हुए" हैं, जिससे अनंत लूप (infinite loops) को रोका जा सकता है।

3. स्टॉपिंग क्राइटेरिया (Stopping Criterion)

एल्गोरिदम तब रुकता है जब निम्नलिखित असमानता (inequality) एक कॉन्फिडेंस पैरामीटर $\delta \in (0, 1)$ के लिए संतुष्ट होती है:
$$1 - \sum_{x \in X} r_{min}(x) \ge \delta$$
यह स्थिति सुनिश्चित करती है कि सभी उम्मीदवार बिंदुओं में से "अनिश्चितता" (acquisition values) का योग पर्याप्त रूप से कम है।

4. सैद्धांतिक गारंटी (Theoretical Guarantees)

यह शोध थ्योरम 3.1 (Theorem 3.1) को सिद्ध करता है: यदि वर्गीकरण नियम संबंधित संभावनाओं को अधिकतम करने के आधार पर बिंदुओं को $\tilde{H}_\theta$, $\tilde{L}_\theta$, या $\tilde{U}_\theta$ में आवंटित करता है, तो स्टॉपिंग क्राइटेरिया को संतुष्ट करने पर, ट्रिपलेट $(\tilde{H}_\theta, \tilde{L}_\theta, \tilde{U}_\theta)$ कम से कम $\delta$ की संभावना के साथ $\epsilon$-सटीक होता है।

इसके अतिरिक्त, प्रपोजिशन 3.2 (Proposition 3.2) यह स्थापित करता है कि यह सैद्धांतिक गारंटी प्रदर्शन मेट्रिक्स (performance metrics) तक विस्तृत है। विशेष रूप से, F-स्कोर, सटीकता (accuracy), रिकॉल (recall), प्रिसिजन (precision) और स्पेसिफिसिटी (specificity) को $1 - \sum r_{min}(x)$ की संभावना के साथ निश्चित निचली सीमाओं (lower bounds) से ऊपर रहने की गारंटी दी जाती है। पिछली विधियों (जैसे, Qing et al., 2022b) के विपरीत जो सैंपलिंग के माध्यम से F-स्कोर बाउंड्स का अनुमान लगाती हैं, यह विधि विश्लेषणात्मक निचली सीमाएँ प्रदान करती है।

5. पैरामीटर चयन (Parameter Selection)

• $\delta$ (कॉन्फिडेंस): इसे 1 के करीब (जैसे, 0.99) सेट किया जाता है। स्टॉपिंग टाइम को 1 के पास $\delta$ के छोटे बदलावों के प्रति असंवेदनशील दिखाया गया है।
• $\epsilon$ (मार्जिन): $\epsilon$ को सीधे सेट करने के बजाय (जो फलन रेंज और शोर पर निर्भर करता है), यह शोध एक पैरामीटर $L$ (प्रभावी अवलोकनों की न्यूनतम संख्या का प्रतिनिधित्व करने वाला) पर आधारित एक अनुकूली (adaptive) विधि प्रस्तावित करता है। $\epsilon$ को पोस्टीरियर वेरिएंस $\sigma_N(x)$ और $L$ से व्युत्पन्न किया जाता है, जो इसे शोर वेरिएंस और फलन स्केल के प्रति मजबूत बनाता है।

मुख्य योगदान (Key Contributions)

1. नया अधिग्रहण फलन (Novel Acquisition Function): वर्गीकरण कठिनाई के वितरण पर आधारित एक अधिग्रहण फलन जो मार्जिन क्षेत्र को स्पष्ट रूप से ध्यान में रखता है, जिससे उन बिंदुओं के अनावश्यक अन्वेषण को रोका जा सके जहाँ वास्तविक मान थ्रेशोल्ड के करीब है।
2. सैद्धांतिक स्टॉपिंग क्राइटेरिया (Theoretical Stopping Criterion): एक स्टॉपिंग नियम जो $(\epsilon, \delta)$-सटीकता की गारंटी देता है। एल्गोरिदम तब रुकता है जब समाधान के $\epsilon$-सटीक होने की संभावना $1-\delta$ से अधिक हो जाती है।
3. प्रदर्शन मेट्रिक्स की गारंटी (Performance Metric Guarantees): विश्लेषणात्मक रूप से गणना योग्य निचली सीमाएँ प्रदान करने वाले प्रदर्शन मेट्रिक्स (F-score, accuracy, recall, precision, और specificity) के लिए सैद्धांतिक प्रमाण।
4. गणना दक्षता (Computational Efficiency): स्टॉपिंग क्राइटेरिया मानक नॉर्मल डिस्ट्रीब्यूशन के संचयी वितरण फलन (CDF) पर निर्भर करता है, जिसके परिणामस्वरूप उम्मीदवार बिंदुओं की संख्या के सापेक्ष रैखिक गणना जटिलता (linear computational complexity) प्राप्त होती है। यह F-स्कोर सैंपलिंग विधियों के विपरीत है जिन्हें मोंटे कार्लो सैंपलिंग के कारण द्विघात जटिलता (quadratic complexity) की आवश्यकता होती है।

प्रयोगात्मक परिणाम (Experimental Results)

इस विधि का मूल्यांकन सिंथेटिक टेस्ट फंक्शन्स (Rosenbrock, Branin, Cross in tray) और सौर सेल के लिए सिलिकॉन इंगोट्स में "रेड ज़ोन" (अशुद्धि क्षेत्र) के अनुमान से जुड़े एक वास्तविक अनुप्रयोग पर किया गया।

• प्रदर्शन (Performance): प्रस्तावित विधि ने मौजूदा अत्याधुनिक अधिग्रहण फलनों (Straddle, MILE, RMILE, MELK, Uncertainty Sampling) के तुलनीय F-स्कोर प्राप्त किए।
• स्टॉपिंग दक्षता (Stopping Efficiency):
  • फुली क्लासिफाइड (FC): शोर वाले वातावरण में अधिकांश विधियों के लिए रुकने में विफल रहा, क्योंकि थ्रेशोल्ड के पास के बिंदु अनिर्धारित रह गए।
  • F-स्कोर सैंपलिंग (FS): अक्सर F-स्कोर अभिसरण (converge) होने से पहले ही समय से पहले रुक गया, या इसके लिए लक्षित F-स्कोर को फाइन-ट्यून करने की आवश्यकता थी जो व्यवहार में निर्धारित करना कठिन है। कुछ मामलों में, स्टॉपिंग पॉइंट पर वास्तविक F-स्कोर वांछित थ्रेशोल्ड से नीचे था।
  • प्रस्तावित विधि: सफलतापूर्वक एल्गोरिदम को पर्याप्त अनुमान सटीकता प्राप्त होने के बाद समाप्त किया, चाहे अंतिम अभिसरण F-स्कोर मान कुछ भी हो। इसने बिना किसी समस्या-विशिष्ट ट्यूनिंग के विभिन्न शोर स्तरों और फलन आकृतियों में मजबूती प्रदर्शित की।
• वास्तविक अनुप्रयोग (Real-world Application): सिलिकॉन इंगोट प्रयोग में, प्रस्तावित विधि ने उच्च F-स्कोर बनाए रखते हुए LSE प्रक्रिया को प्रभावी ढंग से जल्दी समाप्त कर दिया, जबकि FC मानदंड पूरे बजट के समाप्त होने तक जारी रहा।

महत्व और दावे (Significance and Claims)

यह शोध लेवल सेट एस्टीमेशन में एक महत्वपूर्ण अंतराल को संबोधित करने का दावा करता है: प्रभावी, सैद्धांतिक रूप से आधारित स्टॉपिंग क्राइटेरिया का अभाव। $\epsilon$-सटीकता की अवधारणा के माध्यम से अधिग्रहण रणनीति में स्टॉपिंग कंडीशन को एकीकृत करके, यह विधि सुनिश्चित करती है कि एल्गोरिदम तब समाप्त हो जाए जब आगे का अन्वेषण निर्दिष्ट टॉलरेंस के भीतर वर्गीकरण में सुधार लाने की संभावना न रखता हो।

लेखक जोर देते हैं कि उनका दृष्टिकोण लेवल सेट एस्टीमेशन और मानक प्रदर्शन मेट्रिक्स के निचले स्तरों के लिए संभाव्य गारंटी (probabilistic guarantees) प्रदान करता है। यह मौजूदा ह्यूरिस्टिक या सैंपलिंग-आधारित स्टॉपिंग नियमों के विपरीत है जिनमें ऐसा सैद्धांतिक आधार नहीं होता है। इस विधि को अनुकूलित प्रयोगात्मक डिजाइन के लिए एक व्यावहारिक समाधान के रूप में प्रस्तुत किया गया है जहाँ लागत और समय सीमित होते हैं, जिससे शोधकर्ता यह विश्वास के साथ प्रयोग रोक सकते हैं कि उनके परिणाम एक पूर्व-निर्धारित सटीकता मानक को पूरा करते हैं। शोध में विनम्रतापूर्वक उल्लेख किया गया है कि हालांकि यह विधि रूढ़िवादी (conservative) है (जो सुरक्षा-महत्वपूर्ण अनुप्रयोगों के लिए फायदेमंद हो सकता है), इन सैद्धांतिक गारंटियों और अधिक आक्रामक स्टॉपिंग के बीच संतुलन बनाना भविष्य के कार्य के लिए एक खुला क्षेत्र है।