📊 statistics

Conformal Candidate Certification for Offline Model-Based Optimization

यह शोधपत्र कॉन्फॉर्मल कैंडिडेट सर्टिफिकेशन (CCC) प्रस्तुत करता है, जो एक पोस्ट-हॉक फ्रेमवर्क है जो वेटेड कॉन्फॉर्मल प्रेडिक्शन के लिए महत्व भार (इम्पॉर्टेंस वेट्स) उत्पन्न करने हेतु एंट्रॉपी-रेगुलराइज्ड सरोगेट मैक्सिमाइजेशन का लाभ उठाता है, जिससे ऑफलाइन मॉडल-आधारित अनुकूलन में आउट-ऑफ-डिस्ट्रीब्यूशन डिजाइनों के लिए विश्वसनीय कवरेज सुनिश्चित करने वाले सांख्यिकीय रूप से वैध प्रति-कैंडिडेट लोअर बाउंड्स प्रदान किए जाते हैं।

मूल लेखक: Seungjin Choi

प्रकाशित 2026-06-16

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Seungjin Choi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक टैलेंट स्काउट हैं जो अगले ओलंपिक स्वर्ण पदक विजेता की तलाश में हैं। आपके पास पिछले एथलीटों का एक विशाल फोटो एल्बम है (आपका ऐतिहासिक डेटासेट), और आपने एक सुपर-स्मार्ट AI कोच (सरोगेट मॉडल) को प्रशिक्षित किया है जो तस्वीरों के आधार पर भविष्यवाणी कर सकता है कि कौन जीतेगा।

समस्या यह है कि AI कोच बहुत अधिक उत्साही है। वह ऐसे "परफेक्ट" एथलीटों के सपने देखने लगता है जो कागजों पर तो शानदार दिखते हैं लेकिन वास्तव में कभी देखे ही नहीं गए। ये "ड्रीम एथलीट्स" आउट-ऑफ-डिस्ट्रीब्यूशन (वितरण से बाहर) हैं—वे आपके फोटो एल्बम में मौजूद किसी भी व्यक्ति से इतने अलग हैं कि AI बस अंदाज़ा लगा रहा है। वह कह सकता है, "यह नया एथलीट 2 मिनट में एक मील दौड़ लेगा!" जबकि असलियत में, शायद वह अपने जूतों के फीतों में ही उलझकर गिर जाए।

विज्ञान और इंजीनियरिंग की दुनिया में (जैसे नए प्रोटीन या सामग्री डिजाइन करना), आप केवल अनुमान नहीं लगा सकते। आपको उन डिजाइनों को लैब में टेस्ट करने से पहले यह तरीका चाहिए जिससे आप कह सकें, "मुझे 99% यकीन है कि यह डिजाइन काम करेगा।"

यह पेपर एक नई सुरक्षा जाल पेश करता है जिसे कॉन्फॉर्मल कैंडिडेट सर्टिफिकेशन (CCC) कहा जाता है। यह इस प्रकार काम करता है:

1. समस्या: "अति-आत्मविश्वासी" कोच

मौजूदा तरीके AI के अति-आत्मविश्वास को ठीक करने के लिए उसे अधिक रूढ़िवादी बनाने की कोशिश करते हैं, लेकिन वे प्रत्येक नए विचार के लिए कोई विशिष्ट गारंटी नहीं देते हैं। यह एक कोच की तरह है जो कहता है, "मुझे लगता है कि ये 100 नए एथलीट अच्छे हैं," बिना यह बताए कि वास्तव में किन पर दांव लगाना सुरक्षित है। यदि आप उन सभी का परीक्षण करते हैं, तो आप विफलताओं पर पैसा बर्बाद करते हैं।

2. समाधान: "सेफ्टी इंस्पेक्टर" (CCC)

लेखक एक "पोस्ट-हॉक" (बाद में होने वाला) सेफ्टी इंस्पेक्टर प्रस्तावित करते हैं जो AI कोच और लैब के बीच बैठता है।

चरण 1: ड्रीम टीम। AI कोच सपनों के उम्मीदवारों की एक सूची बनाता है (कुछ असली रत्न हैं, कुछ जंगली अंदाज़े)।
चरण 2: रियलिटी चेक। CCC इंस्पेक्टर प्रत्येक उम्मीदवार को व्यक्तिगत रूप से देखता है। वह पूछता है: "हमारे पास वास्तव में जो डेटा उपलब्ध है, उसके आधार पर, क्या हम गणितीय रूप से गारंटी दे सकते हैं कि यह उम्मीदवार एक विशिष्ट लक्ष्य को पूरा करेगा?"
चरण 3: निर्णय। इंस्पेक्टर हर उम्मीदवार के साथ एक "लोअर बाउंड" (निचली सीमा) जोड़ता है। इसे एक "सबसे खराब स्थिति वाले परिदृश्य" के स्कोर के रूप में समझें।
- यदि सबसे खराब स्कोर अभी भी आपके लक्ष्य को पूरा करने के लिए पर्याप्त रूप से उच्च है, तो उम्मीदवार को "सर्टिफिकेट ऑफ ट्रस्ट" मिलता है और उसे लैब भेजा जाता है।
- यदि सबसे खराब स्कोर बहुत कम है (भले ही AI कोच को लगे कि यह बहुत अच्छा है), तो उम्मीदवार को खारिज कर दिया जाता है।

3. सीक्रेट सॉस: "गिब्स टिल्ट" (द वेटेड स्केल)

यहाँ दिलचस्प हिस्सा है। आमतौर पर, जब आपके पास लोगों का एक नया समूह होता है (उम्मीदवार) जो आपके पुराने फोटो एल्बम (प्रशिक्षण डेटा) से बहुत अलग दिखता है, तो मानक सांख्यिकीय नियम टूट जाते हैं। यह ईंटों के लिए कैलिब्रेट किए गए तराजू का उपयोग करके एक पंख को तौलने जैसा है।

यह पेपर खोजता है कि AI कोच इन सपनों के उम्मीदवारों को चुनते समय स्वाभाविक रूप से एक विशिष्ट पैटर्न बनाता है। यह एक चुंबक की तरह है जो उच्च स्कोर की ओर खींचता है। लेखकों ने महसूस किया कि वे इस चुंबक पैटर्न का उपयोग एक विशेष वेटेड स्केल (भारित पैमाने) बनाने के लिए कर सकते हैं।

हर पुराने फोटो को समान महत्व देने के बजाय, CCC इंस्पेक्टर उन फोटो को अधिक "भार" (वेट) देता है जो सपनों के उम्मीदवारों जैसे दिखते हैं और उन्हें कम भार देता है जो नहीं दिखते। यह इंस्पेक्टर को तब भी सटीक भविष्यवाणियां करने की अनुमति देता है जब उम्मीदवार बिल्कुल नए हों।

4. परिणाम: भरोसेमंद, न कि केवल सुरक्षित

लेखकों ने इसे एक सिम्युलेटेड वातावरण में टेस्ट किया:

पुराना तरीका (नेइव): AI कोच अपने 100% सपनों के उम्मीदवारों को लैब में भेजता था। केवल 41% वास्तव में काम कर पाए।
मानक सुरक्षा का तरीका (स्टैंडर्ड): एक मानक सांख्यिकीय जांच बुरी तरह विफल रही क्योंकि वह "चुंबक" पैटर्न को नहीं समझ पाई, जिसके परिणामस्वरूप 58% विफलता दर आई (उसने सोचा कि यह सुरक्षित है, लेकिन यह नहीं था)।
CCC का तरीका: इंस्पेक्टर बहुत सख्त था। इसने लैब में केवल 16.7% उम्मीदवारों को भेजा। लेकिन जादू यहाँ है: जो भी उसने भेजा, उनमें से 99% वास्तव में काम कर गए।

निचोड़

CCC AI को रचनात्मक या आक्रामक होने से नहीं रोकता है। इसके बजाय, यह एक सख्त द्वारपाल के रूप में कार्य करता है। यह "प्रस्ताव" (विचारों को जन्म देना) को "प्रमाणन" (यह साबित करना कि वे सुरक्षित हैं) से अलग करता है।

यह इस प्रश्न का उत्तर देता है: "मुझे पता है कि आपको लगता है कि यह डिजाइन बहुत अच्छा है, लेकिन क्या आप मुझे सांख्यिकीय निश्चितता के साथ यह साबित कर सकते हैं कि यह विफल नहीं होगा?" यदि उत्तर हाँ है, तो आप इसका परीक्षण करते हैं। यदि उत्तर नहीं है, तो आप अपना पैसा बचाते हैं और आगे बढ़ जाते हैं।

संक्षेप में: यह एक जंगली अनुमान को गणितीय रूप से गारंटीकृत दांव में बदल देता है, यह सुनिश्चित करता है कि जब आप अंततः एक नया डिजाइन टेस्ट करते हैं, तो आप केवल उम्मीद नहीं कर रहे होते कि यह काम करेगा—आपके पास एक सर्टिफिकेट होता है जो कहता है कि यह लगभग निश्चित रूप से काम करेगा।

तकनीकी सारांश: ऑफलाइन मॉडल-आधारित अनुकूलन के लिए कॉन्फॉर्मल कैंडिडेट सर्टिफिकेशन (Conformal Candidate Certification)

समस्या विवरण (Problem Statement)
ऑफलाइन मॉडल-आधारित अनुकूलन (MBO) का लक्ष्य उच्च-प्रदर्शन वाले डिज़ाइनों $x$ (जैसे प्रोटीन इंजीनियरिंग या सामग्री विज्ञान में) की पहचान करना है, जो केवल एक निश्चित ऐतिहासिक डेटासेट $D$ का उपयोग करके किया जाता है, बिना किसी आगे के ऑरेकल एक्सेस (oracle access) के। मानक पाइपलाइन $D$ पर एक सरोगेट मॉडल $\hat{f}_\theta$ को प्रशिक्षित करती है और प्रस्तावित उम्मीदवारों (candidates) के लिए इसे अनुकूलित करती है। हालाँकि, यह प्रक्रिया स्वाभाविक रूप से उम्मीदवारों को आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) क्षेत्रों की ओर ले जाती है जहाँ सरोगेट अविश्वसनीय होता है, जिससे व्यवस्थित अति-अनुमान (systematic overestimation) होता है।

मौजूदा विधियाँ प्रस्ताव तंत्र (proposal mechanism) को संशोधित करके इसे कम करने का प्रयास करती हैं (जैसे, रूढ़िवादी सरोगेट्स, इनवेरिएंट रिप्रजेंटेशन, या कंडीशनल जेनेरेटिव मॉडल)। एक महत्वपूर्ण अंतराल बना हुआ है: ये विधियाँ एक प्रति-उम्मीदवार सांख्यिकीय प्रमाण (per-candidate statistical certificate) प्रदान नहीं करती हैं कि एक प्रस्तावित डिज़ाइन $x^*$ एक लक्षित थ्रेशोल्ड $\tau$ (अर्थात, $f(x^*) \ge \tau$ ) को एक गारंटीकृत आत्मविश्वास स्तर के साथ संतुष्ट करता है। प्रस्ताव (जनरेशन) और प्रमाणन (वैलिडेशन) कार्यों को मिलाने से या तो अत्यधिक रूढ़िवादिता का दंड मिलता है या व्यक्तिगत उम्मीदवारों के लिए कठोर कवरेज गारंटी का अभाव होता है।

कार्यप्रणाली: कॉन्फॉर्मल कैंडिडेट सर्टिफिकेशन (CCC)
लेखक कॉन्फॉर्मल कैंडिडेट सर्टिफिकेशन (CCC) का प्रस्ताव करते हैं, जो एक पोस्ट-हॉक रैपर (post-hoc wrapper) है जो किसी भी उम्मीदवार द्वारा उत्पन्न किए गए उम्मीदवार के साथ एक कैलिब्रेटेड वन-साइडेड लोअर बाउंड (one-sided lower bound) जोड़ता है। CCC प्रस्ताव कार्य को प्रमाणन कार्य से अलग करता है, और प्रमाणन को एक कोवेरिएट-शिफ्ट (covariate-shift) कॉन्फॉर्मल प्रेडिक्शन समस्या के रूप में मानता है।

कार्यप्रणाली के मुख्य घटक हैं:

गिब्स टिल्ट (Gibbs Tilt) के माध्यम से कोवेरिएट शिफ्ट मॉडलिंग:
लेखक प्रस्ताव वितरण $Q_X$ (जिससे उम्मीदवार निकाले जाते हैं) को ऐतिहासिक डेटा वितरण $P_X$ के गिब्स-टिल्टेड संस्करण के रूप में मॉडल करते हैं। यह एंट्रॉपी-रेगुलराइज्ड सरोगेट मैक्सिमाइजेशन से स्वाभाविक रूप से उत्पन्न होता है:
$q_T(x) \propto p_X(x) \exp\{\hat{f}_\theta(x)/T\}$
महत्वपूर्ण रूप से, वही सरोगेट $\hat{f}_\theta$ जिसका उपयोग शिफ्ट उत्पन्न करने के लिए किया जाता है, इम्पॉर्टेंस वेट्स (importance weights) $w(x) = dQ_X/dP_X(x)$ भी प्रदान करता है, जिससे एक अलग डेंसिटी-रेशियो एस्टीमेशन चरण की आवश्यकता समाप्त हो जाती है।
तापमान अनुमान (Temperature Estimation):
तापमान पैरामीटर $T$ का अनुमान मोमेंट-मैचिंग (moment-matching) के माध्यम से लगाया जाता है। जब उम्मीदवार वैलिडेशन सेट के सापेक्ष OOD होते हैं, तो डिजेनरेट वेट्स से बचने के लिए, लेखक संदर्भ वितरण के ऊपरी टेल (upper tail) को स्थिर करने के लिए वैलिडेशन सेट $D_{val}$ को उम्मीदवार सरोगेट स्कोर के साथ मिलाते हैं।
वेटेड कॉन्फॉर्मल प्रेडिक्शन (IW-CP):
CCC को कोवेरिएट शिफ्ट के तहत मार्जिनल वैधता को बहाल करने के लिए इम्पॉर्टेंस-वेटेड कॉन्फॉर्मल प्रेडिक्शन का उपयोग करने के लिए डिज़ाइन किया गया है।

स्कोर फंक्शन: एक वन-साइडेड नॉन-कॉन्फॉर्मिटी स्कोर को $s(x, y) = (\mu(x) - y)/\sigma(x)$ के रूप में परिभाषित किया गया है, जहाँ $\mu$ और $\sigma$ सरोगेट का माध्य और अनिश्चितता हैं। यह अंशांकन (calibration) संभावना को लोअर टेल (ओवरएस्टिमेशन) पर केंद्रित करता है।
वेटेड क्वांटाइल: एक उम्मीदवार $x^*$ के लिए, विधि गिब्स-व्युत्पन्न वेट्स का उपयोग करके अंशांकन स्कोर का वेटेड क्वांटाइल कंप्यूट करती है। यदि टेस्ट पॉइंट का वेट, कैलिब्रेशन सेट के सापेक्ष बहुत अधिक है, तो बाउंड वैक्यूअस (vacuous) हो जाएगा (जो अपर्याप्त सपोर्ट को सही ढंग से दर्शाता है)।
प्रमाणन (Certification): लोअर बाउंड को $y(x^*) = \mu(x^*) - \hat{q}^w_{1-\alpha}(x^*)\sigma(x^*)$ द्वारा कंप्यूट किया जाता है। एक उम्मीदवार तभी प्रमाणित होता है यदि $y(x^*) \ge \tau$ हो।

मुख्य योगदान

फॉर्मूलेशन: यह पेपर ऑफलाइन MBO के लिए पोस्ट-हॉक कैंडिडेट सर्टिफिकेशन को एक कोवेरिएट-शिफ्ट कॉन्फॉर्मल प्रेडिक्शन समस्या के रूप में तैयार करता है, जो प्रमाणन को प्रस्ताव से स्पष्ट रूप से अलग करता है।
गिब्स-टिल्टेड प्रस्ताव: यह प्रदर्शित करता है कि एंट्रॉपी-रेगुलराइज्ड सरोगेट मैक्सिमाइजेशन एक गिब्स-टिल्टेड प्रस्ताव वितरण को प्रेरित करता है, जिससे सरोगेट स्वयं आवश्यक इम्पॉर्टेंस वेट्स प्रदान कर सकता है, जिससे बाहरी डेंसिटी एस्टीमेशन की आवश्यकता समाप्त हो जाती है।
सैद्धांतिक वैधता: लेखक ऑरेकल वेट्स को मानते हुए, फ्रेश कैंडिडेट के लिए फाइनाइट-सैंपल मार्जिनल लोअर-बाउंड वैधता ( $P\{Y^* \ge y(X^*)\} \ge 1-\alpha$ ) को सिद्ध करते हैं।
अनुभवजन्य प्रदर्शन: एक सिंथेटिक अध्ययन यह सत्यापित करता है कि CCC सफलतापूर्वक आक्रामक प्रस्तावों के एक गैर-तुच्छ उपसमुच्चय को प्रमाणित करता है जिसमें लगभग शून्य गलत प्रमाणन (false certifications) होते हैं, जबकि मानक (अनवेटेड) कॉन्फॉर्मल प्रेडिक्शन कोवेरिएट शिफ्ट के तहत विफल हो जाता है।

प्रायोगिक परिणाम
एक नियंत्रित सिंथेटिक अध्ययन में, जिसमें एक आक्रामक बोल्ट्ज़मैन प्रस्ताव पूल शामिल था:

नेइव सरोगेट (Naive Surrogate): इसने सभी उम्मीदवारों को स्वीकार किया लेकिन केवल 41% वास्तविक परिशुद्धता (true precision) प्राप्त की (कई फाल्स पॉजिटिव्स)।
अनवेटेड कॉन्फॉर्मल प्रेडिक्शन: कोवेरिएट शिफ्ट को अनदेखा करने के कारण, इसका अनुभवजन्य कवरेज (empirical coverage) 0.4- के नामांकित लक्ष्य के विरुद्ध 0.416 था, जिसमें 22.7% फाल्स-एक्सेप्टेंस रेट था।
CCC: इसने उम्मीदवार पूल के 16.7% को प्रमाणित किया। महत्वपूर्ण रूप से, इसने 0.90 के नामांकित स्तर पर 0.990 का अनुभवजन्य कवरेज बनाए रखा, जिसमें फाल्स-एक्सेप्टेंस रेट 0.5% से कम था। यह विभिन्न नामांकित स्तरों ( $\alpha \in \{0.05, \dots, 0.20\}$ ) में रूढ़िवादी लेकिन नॉन-वैक्यूअस बना रहा।

महत्व और दावे
पेपर का दावा है कि CCC उस प्रश्न का एक सिद्धांत-आधारित समाधान प्रदान करता है जिसे ऑफलाइन MBO ने अनसुलझा छोड़ दिया है: "कौन से प्रस्तावित उम्मीदवार परीक्षण के लिए पर्याप्त विश्वसनीय हैं?"

चिंताओं का पृथक्करण (Separation of Concerns): किसी भी मौजूदा MBO एल्गोरिदम को रैप करके, CCC यह अनुमति देता है कि प्रस्ताव तंत्र आक्रामक बना रहे, जबकि यह सुनिश्चित करता है कि केवल वे ही उम्मीदवार महंगे प्रयोगात्मक मूल्यांकन के लिए आगे बढ़ें जिनके पास पर्याप्त अनुभवजन्य समर्थन (कैलिब्रेटेड लोअर बाउंड के माध्यम से) है।
शिफ्ट के प्रति मजबूती: यह विधि कोवेरिएट शिफ्ट के तहत मानक कॉन्फॉर्मल प्रेडिक्शन की विफलता मोड को स्पष्ट रूप से संबोधित करती है, जो ऑफलाइन MBO की प्रमुख विशेषता है।
मामूली सीमाएँ: लेखक स्वीकार करते हैं कि फाइनाइट-सैंपल गारंटी सख्ती से केवल ऑरेकल वेट्स के लिए लागू होती है। व्यवहार में, अनुमानित गिब्स वेट्स का उपयोग करने का अर्थ है कि गारंटी सटीक नहीं है, हालांकि अनुभवजन्य परिणाम बताते हैं कि विधि एंटी-कंजर्वेटिव होने के बजाय रूढ़िवादी (नामांकित स्तर से ऊपर कवरेज बनाए रखना) बनी रहती है। पेपर नोट करता है कि शोर वाले मापन (noisy measurements) के लिए, लेटेंट ऑब्जेक्टिव $f(x^*)$ को सीधे प्रमाणित करने के लिए अतिरिक्त धारणाओं की आवश्यकता है, क्योंकि वर्तमान गारंटी मापे गए रिस्पॉन्स $Y^*$ पर लागू होती है।

संक्षेप में, CCC एक पोस्ट-हॉट सर्टिफिकेशन लेयर प्रदान करता है जो आक्रामक, संभावित रूप से अविश्वसनीय MBO प्रस्तावों को कठोर सांख्यिकीय गारंटी वाले उम्मीदवारों में बदल देता है, जो ऑफलाइन अनुकूलन और विश्वसनीय ऑनलाइन निर्णय लेने के बीच के अंतर को पाटता है।

1. समस्या: "अति-आत्मविश्वासी" कोच

2. समाधान: "सेफ्टी इंस्पेक्टर" (CCC)

3. सीक्रेट सॉस: "गिब्स टिल्ट" (द वेटेड स्केल)

4. परिणाम: भरोसेमंद, न कि केवल सुरक्षित

निचोड़

इसी तरह के और पेपर