📊 statistics

SpeedCP: Fast Kernel-based Conditional Conformal Prediction

SpeedCP एक तेज़, स्थिर एल्गोरिदम है जो पूर्ण समाधान पथ (full solution path) को कुशलतापूर्वक कंप्यूट करके और लो-रैंक एम्बेडिंग्स को एकीकृत करके, RKHS-आधारित कंडीशनल कॉन्फॉर्मल प्रेडिक्शन के सैद्धांतिक वादे और अत्यधिक कम्प्यूटेशनल लागत के बीच के अंतर को पाटता है, जिससे पूर्ववर्ती विधियों की तुलना में 40 गुना गति वृद्धि और 30% छोटे अंतराल प्राप्त होते हैं।

मूल लेखक: Yating Liu, Yeo Jin Jung, Zixuan Wu, So Won Jeong, Claire Donnat

प्रकाशित 2026-05-29

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yating Liu, Yeo Jin Jung, Zixuan Wu, So Won Jeong, Claire Donnat

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही स्मार्ट लेकिन रहस्यमय "ब्लैक बॉक्स" कंप्यूटर है जो भविष्यवाणियाँ करता है—जैसे कि किसी मरीज को ट्यूमर है या नहीं, किसी घर की कीमत कितनी होगी, या किसी अणु (molecule) का क्या प्रभाव होगा। आप इस कंप्यूटर पर भरोसा करते हैं, लेकिन आप यह भी जानते हैं कि यह गलतियाँ भी करता है।

कन्फॉर्मल प्रेडिक्शन (Conformal Prediction) एक सुरक्षा जाल (safety net) की तरह है। केवल एक संख्या देने के बजाय (जैसे, "घर की कीमत $500,000 होगी"), यह आपको एक सीमा (range) देता है (जैसे, " $480,000 और$ 520,000 के बीच")। इसका लक्ष्य यह सुनिश्चित करना है कि यह सीमा इतनी चौड़ी हो कि वह 90% बार सही उत्तर को पकड़ सके।

हालाँकि, एक पेच है: एक मानक सुरक्षा जाल "एक ही आकार सबके लिए" (one size fits all) वाला होता है। यह शहरों में घरों की भविष्यवाणी करने के लिए तो एकदम सही हो सकता है, लेकिन ग्रामीण इलाकों के घरों के लिए यह बहुत अधिक चौड़ा (बेकार) हो सकता है, या आलीशान महलों के लिए बहुत संकीर्ण (खतरनाक) हो सकता है। इसे कंडीशनल कवरेज (conditional coverage) कहा जाता है: हम चाहते हैं कि सुरक्षा जाल हर विशिष्ट स्थिति के लिए सही आकार का हो, न कि केवल औसत रूप से।

समस्या: "अत्यधिक महंगी" सुरक्षा जाल

वैज्ञानिकों ने हाल ही में एक तरीका खोजा है जिससे वे रिप्रोड्यूसिंग कर्नेल हिलबर्ट स्पेस (RKHS) नामक एक फैंसी गणितीय उपकरण का उपयोग करके कस्टम, स्थिति-विशिष्ट सुरक्षा जाल बना सकते हैं। इसे एक सुपर-सटीक मूर्तिकार के रूप में समझें जो डेटा के आकार के अनुसार सुरक्षा जाल को पूरी तरह से तराश सकता है।

लेकिन एक बड़ी समस्या है: यह अविश्वसनीय रूप से धीमा है।
पिछना तरीका (गिब्स एट अल., 2025 द्वारा) ऐसा था जैसे हर बार हजारों अलग-अलग छेनी (chisels) का परीक्षण करके, बार-बार हाथ से एक सटीक जाल को तराशने की कोशिश करना। यदि आप एक बड़े डेटासेट के लिए ऐसा करना चाहते, तो इसमें कई दिन या सप्ताह लग जाते। यह व्यावहारिक रूप से उपयोग करने के लिए बहुत महंगा था।

समाधान: SpeedCP (द "फास्ट-फॉरवर्ड" मूर्तिकार)

यह पेपर SpeedCP पेश करता है, जो बिल्कुल वही काम करता है लेकिन 40 गुना तेज़ है।

यहाँ बताया गया है कि उन्होंने यह कैसे किया, एक सरल उपमा (analogy) का उपयोग करते हुए:

पुराना तरीका (बाइनरी सर्च - Binary Search):
कल्पना कीजिए कि आप केक के लिए सही तापमान खोजने की कोशिश कर रहे हैं। पुराना तरीका ऐसा था जैसे आप ओवन को 300°, फिर 350°, फिर 325°, फिर 337°... पर चेक करते हैं। आपको हर अनुमान के लिए एक नया केक बनाना पड़ता है (एक जटिल गणना चलानी पड़ती है) यह देखने के लिए कि क्या वह सही है। यह धीमा है।

SpeedCP का तरीका (द सॉल्यूशन पाथ - The Solution Path):
SpeedCP एक स्मार्ट बेकर की तरह है जो यह समझ जाता है कि जैसे-जैसे आप डायल घुमाते हैं, केक का घोल (batter) एक सीधी रेखा में बदलता है। यादृच्छिक (random) तापमान का अनुमान लगाने के बजाय, SpeedCP उस पूरे पथ (path) की गणना करता है कि ठंडा से गर्म होने तक डायल घुमाने पर केक कैसे बदलता है।

यह हर कदम पर केक बनाने के लिए नहीं रुकता है।
यह केवल तभी रुकता है जब कुछ दिलचस्प होता है (जैसे कि बैटर की बनावट अचानक बदल जाती है)।
क्योंकि यह "बैटर" के पीछे के गणित को जानता है, यह सभी उबाऊ चरणों को छोड़ सकता है और सीधे सही तापमान पर पहुँच सकता है।

दो प्रमुख तकनीकें जिनका SpeedCP उपयोग करता है

1. "एल्बो" शॉर्टकट (The "Elbow" Shortcut)
गणित में, डेटा बिंदुओं का एक समूह है जो सुरक्षा जाल के "बिल्कुल किनारे पर बैठा" है। लेखक इसे एल्बो सेट (Elbow Set) कहते हैं।

अंतर्दृष्टि (Insight): अधिकांश समय, यह समूह बहुत छोटा होता है।
ट्रिक: सभी डेटा बिंदुओं पर भारी गणित करने के बजाय (जो धीमा है), SpeedCP केवल इस छोटे "एल्बो" समूह पर ही भारी काम करता है। यह एक पहेली को पहले केवल कोने के टुकड़ों पर ध्यान केंद्रित करके हल करने जैसा है, न कि हर एक टुकड़े को फिट करने की कोशिश करने जैसा। यह गणना को बिजली की तरह तेज़ बना देता है।

2. "लो-रैंक" मैप (उच्च आयामों के लिए - The "Low-Rank" Map)
कभी-कभी डेटा इतना जटिल होता है (जैसे कि एक अणु के लिए 10,000 अलग-अलग विशेषताएं) कि पैटर्न खोजना असंभव हो जाता है। यह पहाड़ के आकार के घास के ढेर में सुई खोजने जैसा है।

ट्रिक: SpeedCP पहले उस विशाल पहाड़ के डेटा को एक छोटे, प्रबंधनीय "मैप" (कम-आयामी स्थान) में सिकोड़ देता है जो सबसे महत्वपूर्ण आकारों को बनाए रखता है।
इसके बाद यह उस छोटे मैप पर सुरक्षा जाल बनाता है। यह विशाल, अस्त-व्यस्त पहाड़ पर जाल बनाने की तुलना में बहुत आसान और अधिक सटीक है।

उन्होंने क्या पाया?

लेखकों ने वास्तविक दुनिया की समस्याओं पर SpeedCP का परीक्षण किया, जिसमें शामिल हैं:

आणविक गुण (Molecular properties): रसायन व्यवहार कैसे करते हैं, इसकी भविष्यवाणी करना।
ब्रेन ट्यूमर एमआरआई स्कैन (Brain tumor MRI scans): स्वस्थ ऊतक और ट्यूमर ऊतक के बीच अंतर करना।
सिंथेटिक डेटा (Synthetic data): गणित का परीक्षण करने के लिए बनाए गए काल्पनिक परिदृश्य।

परिणाम:

गति (Speed): यह पिछले सर्वश्रेष्ठ तरीके की तुलना में लगभग 40 गुना तेज़ है।
सटीकता (Accuracy): यह पुराने तरीके की तुलना में 30% अधिक सटीक (tighter) सुरक्षा जाल बनाता है, जिसका अर्थ है कि आप सुरक्षा खोए बिना एक बेहतर उत्तर प्राप्त करते हैं।
विश्वसनीयता (Reliability): यह सभी अलग-अलग प्रकार के डेटा में, यहाँ तक कि कठिन या असमान डेटा में भी, वादा की गई 90% कवरेज दर को बनाए रखता है।

सारांश में

SpeedCP एक नया एल्गोरिदम है जो "स्मार्ट सुरक्षा जाल" बनाने के एक शक्तिशाली लेकिन धीमे गणितीय विचार को वास्तविक दुनिया में उपयोग करने के लिए तेज़ बनाता है। यह गणित के माध्यम से एक चतुर "शॉर्टकट" (सॉल्यूशन पाथ) खोजकर और जटिल डेटा को जाल बनाने से पहले एक प्रबंधनीय मैप में सरल बनाकर यह काम करता है। यह कंप्यूटरों को विशिष्ट स्थितियों के लिए सटीक और विश्वसनीय भविष्यवाणियाँ देने की अनुमति देता है, बिना उत्तर के लिए दिनों तक प्रतीक्षा किए।

तकनीकी सारांश: SpeedCP

समस्या विवरण (Problem Statement)

कॉन्फॉर्मल प्रेडिक्शन (Conformal prediction) एक ऐसा ढांचा प्रदान करता है जो न्यूनतम वितरण संबंधी धारणाओं के तहत सीमित-नमूना मार्जिनल कवरेज गारंटी के साथ प्रेडिक्शन सेट्स बनाने में सक्षम है। हालाँकि, मार्जिनल कवरेज कंडीशनल कवरेज (conditional coverage) सुनिश्चित नहीं करता है—अर्थात यह गारंटी कि प्रत्येक विशिष्ट इनपुट $x$ के लिए प्रेडिक्शन सेट में वास्तविक लेबल $1-\alpha$ की प्रायिकता के साथ मौजूद होगा। उच्च-जोखिम वाले अनुप्रयोगों में, महत्वपूर्ण सबग्रुप्स पर व्यवस्थित अंडर-कवरेज (under-coverage) अविश्वसनीय परिणामों की ओर ले जा सकता है।

जबकि गिब्स एट अल. [2025] के पूर्व कार्य ने एक रिप्रोडसिंग कर्नेल हिल्बर्ट स्पेस (RKHS) के भीतर एक उपयोगकर्ता-निर्दिष्ट फंक्शन क्लास $\mathcal{F}$ के लिए आवश्यकता को शिथिल करके कंडीशनल वैधता को संबोधित किया, उनका दृष्टिकोण अत्यधिक कम्प्यूटेशनल लागत से ग्रस्त है। विशेष रूप से, उनकी विधि को एक इमप्यूटेड टेस्ट स्कोर $S$ के प्रत्येक संभावित मान के लिए बाइनरी सर्च के माध्यम से RKHS क्वांटाइल रिग्रेशन को फिट करने की आवश्यकता होती है, और यह अक्सर हाइपरपैरामीटर्स के लिए एक पूर्व-निर्धारित ग्रिड पर निर्भर करती है। यह विधि बड़े पैमाने या उच्च-आयामी (high-dimensional) सेटिंग्स ( $p \gg n$ ) के लिए अव्यवहारिक हो जाती है, जहाँ कच्चे कोवेरियेट स्पेस (raw covariate spaces) में दूरी-आधारित समानताएं कम विभेदक हो जाती हैं।

कार्यप्रणाली (Methodology): SpeedCP

लेखक SpeedCP का प्रस्ताव करते हैं, जो एक तेज़ और स्थिर एल्गोरिदम है जो रेगुलराइज्ड RKHS कॉन्फॉर्मल ऑप्टिमाइज़ेशन समस्या के पूर्ण सॉल्यूशन पाथ (solution path) की गणना करता है। यह विधि दो प्राथमिक चरणों में कार्य करती है:

1. लो-रैंक लेटेंट एम्बेडिंग्स (Low-Rank Latent Embeddings)

उच्च-आयामी कोवेरियेट्स ( $X \in \mathbb{R}^p, p \gg n$ ) को संभालने के लिए, SpeedCP पहले इनपुट्स को एक सिमेट्रिक लो-रैंक एम्बेडिंग मैप (जैसे PCA, लेटेंट डिरिचलेट एलोकेशन, या न्यूरल नेटवर्क लेयर एम्बेडिंग्स) का उपयोग करके एक निम्न-आयामी लेटेंट स्पेस $\hat{\pi}(X) \in \mathbb{R}^K$ ( $K \ll p$ ) में मैप करता है। RKHS कर्नेल $\psi^*$ इस लेटेंट स्पेस पर परिभाषित है, जो सिग्नल-टू-नॉइज़ अनुपात में सुधार करता है और कच्चे स्पार्स कोवेरियेट्स के बजाय लेटेंट रिप्रेजेंटेशन पर सार्थक कंडीशनल कवरेज को सक्षम बनाता है।

2. $(\lambda, S)$ -पाथ एल्गोरिदम

मुख्य नवाचार रेगुलराइज्ड RKHS क्वांटाइल रिग्रेशन पैरामीटर्स के लिए पीसवाइज़-लीनियर (piecewise-linear) सॉल्यूशन पाथ का व्युत्पन्न है, जो बार-बार रिफिटिंग या बाइनरी सर्च की आवश्यकता को समाप्त करता है।

$\lambda$ -पाथ (स्मूथनेस कंट्रोल): एल्गोरिदम जैसे-जैसे रेगुलराइजेशन पैरामीटर $\lambda$ घटता है, रेगुलराइज्ड क्वांटाइल रिग्रेशन के समाधान को ट्रैक करता है। LARS एल्गोरिदम और ली एट अल. [2007] से प्रेरित होकर, समाधान गुणांक (coefficients) $\lambda$ के पीसवाइज़-लीनियर फंक्शन के रूप में विकसित होते हैं। एल्गोरिदम केवल तभी समाधान को अपडेट करता है जब "एल्बो सेट" (उन अवलोकनों का सेट जिनका अवशेष/रेसिडुअल बिल्कुल शून्य है) बदलता है। यह पूर्ण ग्रिड सर्च के बिना क्रॉस-वैलिडेशन के माध्यम से इष्टतम हाइपरपैरामीटर ( $\lambda$ और कर्नेल बैंडविड्थ $\gamma$ ) के कुशल ट्यूनिंग को सक्षम बनाता है।
$S$ -पाथ (प्रेडिक्शन सेट निर्माण): एक बार इष्टतम हाइपरपैरामीटर्स निर्धारित हो जाने के बाद, एल्गोरिदम जैसे-जैसे इमप्यूटेड टेस्ट स्कोर $S$ बढ़ता है, समाधान को ट्रैक करता है। लेखक सिद्ध करते हैं कि मैपिंग $S \mapsto \hat{\upsilon}_S$ (जहाँ $\hat{\upsilon}$ वे RKHS गुणांक हैं) नॉन-डिक्रीजिंग और पीसवाइज़-एफाइन (piecewise-affine) है। यह संरचना एल्गोरिदम को सीधे अधिकतम स्कोर कटऑफ $S^*$ की गणना करने की अनुमति देती है ताकि प्रेडिक्शन सेट की स्थिति बनी रहे, जिससे गिब्स एट अल. [2025] द्वारा उपयोग किए गए बाइनरी सर्च की आवश्यकता समाप्त हो जाती है।
रैंडमाइजेशन (Randomization): सटीक कंडीशनल गारंटी सुनिश्चित करने और कवरेज इन्फ्लेशन को कम करने के लिए, विधि एक यूनिफॉर्म वेरिएबल $U \sim \text{Unif}(-\alpha, 1-\alpha)$ से प्राप्त रैंडमाइज्ड कटऑफ $S_{rand}$ का उपयोग करती है।

सैद्धांतिक गारंटी (Theoretical Guarantees)

यह शोध पत्र अनुमानित लेटेंट एम्बेडिंग $\hat{\pi}(X)$ के संबंध में अनुमानित कंडीशनल कवरेज के लिए सीमित-नमूना गारंटी स्थापित करता है।

कवरेज वैधता (Coverage Validity): विधि RKHS क्लास $\mathcal{F}^*$ में किसी भी मापने योग्य फलन $f$ पर मार्जिनल गारंटी को संतुष्ट करती है, जो लेटेंट पड़ोस (latent neighborhoods) पर कंडीशनल कवरेज को दर्शाता है।
अनुमान त्रुटि के प्रति मजबूती (Robustness to Estimation Error): कवरेज गारंटी लो-रैंक प्रोजेक्शन $\hat{\pi}(\cdot)$ में त्रुटियों के प्रति मजबूत है। जबकि अनुमान त्रुटि प्रेडिक्शन सेट्स की टाइटनेस (आकार) को प्रभावित कर सकती है, यह कवरेज गारंटी की वैधता से समझौता नहीं करती है।
ग्रुप-कंडीशनल कवरेज (Group-Conditional Coverage): यह ढांचा स्वाभाविक रूप से ग्रुप-कंडीशनल कवरेज में विस्तारित होता है जब लीनियर घटक $\Phi^*(X)$ लेटेंट एम्बेडिंग से प्राप्त क्लस्टर असाइनमेंट को एनकोड करता है।

मुख्य योगदान (Key Contributions)

एल्गोरिद्मिक दक्षता: लेखक RKHS-आधारित कॉन्फॉर्मल प्रेडिक्शन के लिए एक स्थिर, तेज़ सॉल्यूशन-पाथ एल्गोरिदम पेश करते हैं। $\lambda$ और इमप्यूटेड स्कोर $S$ दोनों पर सॉल्यूशन पाथ के एफाइन स्ट्रक्चर का लाभ उठाकर, वे गिब्स एट अल. [2025] की तुलना में 40 गुना गति वृद्धि प्राप्त करते हैं, जबकि समान सैद्धांतिक ढांचे को बनाए रखते हैं।
उच्च-आयामी अनुकूलन (High-Dimensional Adaptation): यह विधि सीखे गए लो-रैंक एम्बेडिंग्स पर कंडीशन करके कंडीशनल कॉन्फॉर्मल प्रेडिक्शन को उच्च-आयामी सेटिंग्स तक विस्तारित करती है। यह दृष्टिकोण बेहतर-कैलिब्रेटेड प्रेडिक्शन सेट्स प्रदान करता है, विशेष रूप से कम-घनत्व वाले डेटा क्षेत्रों में जहाँ कच्चे-स्पेस कंडीशनिंग विफल हो जाता है।
हाइपरपैरामीटर ट्यूनिंग: एल्गोरिदम क्रॉस-वैलिडेशन के माध्यम से स्मूथनेस ( $\lambda$ ) और कर्नेल बैंडविड्थ ( $\gamma$ ) के समवर्ती चयन के लिए एक क्लोज्ड-फॉर्म मैकेनिज्म प्रदान करता है, जिससे संयुक्त ग्रिड सर्च की कम्प्यूटेशनल बाधा से बचा जा सकता है।
सैद्धांतिक लक्षण वर्णन (Theoretical Characterization): पेपर इस बात का लक्षण वर्णन करता है कि एम्बेडिंग अनुमान त्रुटियां कवरेज वैधता को कैसे प्रभावित करती हैं और कवरेज गैप पर बाउंड प्रदान करता है, जो यह दिखाता है कि यह रेगुलराइजेशन पैरामीटर $\lambda$ के साथ घटता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखक सिंथेटिक एडमिक्सचर डेटा, मॉलिक्यूलर प्रॉपर्टी प्रेडिक्शन (QM9, QM7b, ESOL), और ब्रेन ट्यूमर एमआरआई विश्लेषण पर SpeedCP का मूल्यांकन करते हैं।

कवरेज: SpeedCP विभिन्न लेटेंट स्पेस पार्टिशन और सबग्रुप्स में नाममात्र स्तर (0.9) के करीब यूनिफॉर्म कवरेज प्राप्त करता है, जो SplitCP (जो स्थानीय रूप से अंडर-कवर करता है) और PCP/RLCP (जो अक्सर ओवर-कवर करते हैं) जैसे बेसलाइन से बेहतर प्रदर्शन करता है।
दक्षता: सिंथेटिक प्रयोगों में, SpeedCP CondCP (गिब्स एट अल. [2025]) की तुलना में लगभग 50 गुना तेज़ चलता है। मॉलिक्यूलर डेटासेट में, यह 40-60x की गति वृद्धि प्राप्त करता है।
प्रेडिक्शन सेट का आकार: SpeedCP वैध कवरेज बनाए रखते हुए CondCP की तुलना में काफी टाइट प्रेडिक्शन सेट्स बनाता है (इंटरवल लेंथ में ~30% का सुधार)। यह स्कोर वितरण की स्थानीय विषमता (local heterogeneity) के अनुकूल होता है, जबकि SplitCP एक एकल ग्लोबल कटऑफ पर निर्भर करता है।
मजबूती (Robustness): विधि कम-गुणवत्ता वाले बेस प्रेडिक्टर्स (जैसे लीनियर रिग्रेशन) के साथ भी प्रभावी रहती है और उन उच्च-आयामी फीचर स्पेस में भी काम करती है जहाँ अन्य विधियाँ लोकैलिटी (locality) का लाभ उठाने में विफल रहती हैं।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि SpeedCP उच्च-आयामी डेटा के लिए लचीले कंडीशनल कॉन्फॉर्मल प्रेडिक्शन को कम्प्यूटेशनल रूप से व्यवहार्य बनाता है। बार-बार होने वाली RKHS रिफिटिंग और बाइनरी सर्च को एक्टिव सेट पाथ ट्रैकिंग से बदलकर, यह विधि बिना कम्प्यूटेशनल व्यवहार्यता से समझौता किए जटिल, डेटा-संचालित लेटेंट स्पेस के उपयोग को सक्षम बनाती है।

लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण आधुनिक ब्लैक-बॉक्स प्रेडिक्टर्स के लिए विश्वसनीय कंडीशनल कवरेज प्रदान करता है और साथ ही कम्प्यूटेशनल बोझ को काफी कम करता है। वे नोट करते हैं कि हालांकि विधि एक्सचेंजेबिलिटी (exchangeability) और सिमेट्रिक एम्बेडिंग एस्टीमेशन को मानती है, लेकिन यह मॉडल मिसस्पेसिफिकेशन और एम्बेडिंग एस्टीमेशन त्रुटियों के प्रति मजबूत है, जो इसे न्यूनतम वितरण संबंधी धारणाओं के तहत व्यावहारिक अनुप्रयोगों के लिए उपयुक्त बनाता है। यह कार्य RKHS-आधारित कंडीशनल वैधता के सैद्धांतिक वादे और बड़े पैमाने के मशीन लर्निंग की व्यावहारिक सीमाओं के बीच के अंतर को पाटता है।