📊 statistics

Parameter-Free and Group Conditional Online Conformal Prediction

यह शोध पत्र ग्रुप-कंडीशनल ऑनलाइन कॉन्फॉर्मल प्रेडिक्शन के लिए एक नवीन पैरामीटर-मुक्त एल्गोरिदम का प्रस्ताव करता है जो अज्ञात डेटा शिफ्ट के प्रति मजबूती को निष्पक्षता गारंटी के साथ एकीकृत करता है, जिससे अच्छी तरह से ट्यून किए गए तरीकों के तुलनीय प्रेडिक्शन इंटरवल आकार बनाए रखते हुए इष्टतम ग्रुप-कंडीशनल कवरेज प्राप्त होता है।

मूल लेखक: Beepul Bharti, Ambar Pal, Jacopo Teneggi, Jeremias Sulam

प्रकाशित 2026-06-02

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Beepul Bharti, Ambar Pal, Jacopo Teneggi, Jeremias Sulam

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मौसम विज्ञानी हैं। आपका काम केवल यह बताना नहीं है कि बारिश होगी या नहीं; आपका काम एक "कॉन्फिडेंस इंटरवल" (विश्वास अंतराल) देना भी है, जैसे कि "2 से 4 इंच के बीच बारिश होगी।"

मशीन लर्निंग की दुनिया में, इसे अनसर्टेन्टी क्वांटिफिकेशन (Uncertainty Quantification) कहा जाता है। लेकिन यहाँ एक पेंच है: दुनिया बदलती रहती है। गर्मियों के मौसम पर प्रशिक्षित किया गया मॉडल सर्दियों के आने पर बुरी तरह विफल हो सकता है। यह डेटा शिफ्टिंग (Data Shifting) की समस्या है।

यह शोध पत्र एक नया टूल पेश करता है जिसे POGO (पोर्टफोलियो फॉर ऑनलाइन ग्रुप कॉन्फॉर्मल) कहा जाता है ताकि इसे ठीक किया जा सके। यह कैसे काम करता है, इसे सरल उपमाओं के माध्यम से समझाया गया है।

समस्या: "औसत" का जाल

कल्पना कीजिए कि आप एक स्कूल की कैंटीन का प्रबंधन कर रहे हैं। आप यह सुनिश्चित करना चाहते हैं कि हर किसी के लिए पर्याप्त भोजन हो।

पुराना तरीका (मार्जिनल कवरेज): आप औसत छात्र को देखते हैं। आप कहते हैं, "95% छात्रों को भोजन मिल जाता है।" बहुत अच्छा! लेकिन क्या होगा यदि भोजन न मिलने वाले 5% छात्र सभी गंभीर एलर्जी वाले छात्र हों? "औसत" अच्छा दिखता है, लेकिन एक विशिष्ट समूह भूखा मर रहा है।
वास्तविक दुनिया की समस्या: अस्पतालों या बैंकों में, यदि कोई मॉडल कुल मिलाकर "95% सटीक" है, तो यह किसी विशिष्ट अल्पसंख्यक समूह (जैसे कि एक विशिष्ट आयु, जाति या बीमा प्रकार) के लिए लगातार विफल हो सकता है। यह अनुचित और खतरनाक है।

पुराना समाधान: "ट्यून्ड" थर्मोस्टेट

पिछले तरीकों ने हर समूह के लिए एक अलग "थर्मोस्टेट" बनाकर इसे ठीक करने की कोशिश की (जैसे, समूह A के लिए एक सेटिंग, समूह B के लिए एक)।

दोष: इन थर्मोस्टेट्स को एक लर्निंग रेट (Learning Rate) की आवश्यकता होती थी (एक डायल जिसे आपको मैन्युअल रूप से घुमाना पड़ता था)।
- यदि आप डायल को बहुत धीरे घुमाते हैं, तो सिस्टम सुस्त हो जाता है और डेटा बदलने पर (जैसे अचानक फ्लू फैलने पर) प्रतिक्रिया नहीं दे पाता।
- यदि आप इसे बहुत तेज़ घुमाते हैं, तो सिस्टम अनियंत्रित हो जाता है।
- दुविधा: आपको शुरू करने से पहले ही एक आदर्श डायल सेटिंग का अनुमान लगाना पड़ता है। लेकिन चूंकि भविष्य का डेटा अप्रत्याशित (विपरीत या दुर्भावनापूर्ण) हो सकता है, इसलिए आप कभी भी सुनिश्चित नहीं हो सकते कि आपने सही अनुमान लगाया है।

नया समाधान: POGO (एक "स्व-समायोजित" पोर्टफोलियो)

लेखकों ने POGO बनाया है, जिसे किसी डायल, ट्यूनिंग या अनुमान की आवश्यकता नहीं है।

उपमा: स्टॉक मार्केट पोर्टफोलियो

मशीन लर्निंग मॉडल को स्टॉक्स का पोर्टफोलियो प्रबंधित करने वाले एक ट्रेडर के रूप में सोचें।

लक्ष्य: ट्रेडर चाहता है कि उनके द्वारा सेवा दिए जाने वाले प्रत्येक समूह के लिए उनकी "संपत्ति" (सटीकता) लगातार बढ़ती रहे।
रणनीति: लर्निंग रेट का अनुमान लगाने के बजाय, POGO समस्या को निवेश (Investing) की तरह देखता है।
- यह प्रत्येक समूह के लिए एक "बाजार" बनाता है।
- यदि मॉडल समूह A के लिए गलती करता है, तो समूह A का "स्टॉक" एक बड़ा इनाम देता है।
- यदि मॉडल सही है, तो स्टॉक एक छोटा इनाम देता है।
- POGO स्वचालित रूप से अपने "पैसे" (अपने प्रेडिक्शन इंटरवल्स) को उन समूहों की ओर स्थानांतरित कर देता है जो संघर्ष कर रहे हैं, ठीक वैसे ही जैसे एक स्मार्ट निवेशक अपने पैसे को सबसे अच्छा प्रदर्शन करने वाली संपत्तियों की ओर स्थानांतरित करता है।

क्योंकि यह यूनिवर्सल पोर्टफोलियो ऑप्टिमाइजेशन नामक गणितीय रणनीति का उपयोग करता है, इसे किसी मानव द्वारा "लर्निंग रेट" सेट करने की आवश्यकता नहीं है। यह स्वचालित रूप से अनुकूलित होता है, चाहे डेटा का प्रवाह कितना भी अजीब या अप्रत्याशित क्यों न हो।

POGO क्या हासिल करता है

सभी के लिए निष्पक्षता: यह गारंटी देता है कि प्रत्येक समूह (केवल औसत नहीं) को सही स्तर का कवरेज मिले। यदि आप 95% सटीकता मांगते हैं, तो हर एक समूह को लगभग 95% मिलता है, भले ही डेटा तेजी से बदल रहा हो।
कोई ट्यूनिंग आवश्यक नहीं: यह "पैरामीटर-फ्री" है। आपको सेटिंग्स को ठीक करने में हफ्तों बिताने की आवश्यकता नहीं है। बस इसे चालू करें, और यह अपने आप सही गति का पता लगा लेगा।
छोटे अंतराल: यह सुरक्षित रहने के लिए केवल अनुमान नहीं लगाता। यह सटीक रहते हुए भी अपने प्रेडिक्शन इंटरवल्स (पूर्वानुमान सीमा) को यथासंभव सटीक रखता है।

परिणाम (प्रमाण)

लेखकों ने इसका परीक्षण किया:

सिंथेटिक डेटा: चालाकी भरे डेटा पर जिसे अचानक बदलाव और बढ़ती त्रुटियों के साथ डिज़ाइन किया गया था। POGO ने इन बदलावों को पुराने तरीकों की तुलना में बेहतर ढंग से संभाला, जो या तो अटक गए थे या क्रैश हो गए थे।
वास्तविक डेटा:
- अस्पताल: मरीज आईसीयू (ICU) में कितने समय तक रहते हैं, इसकी भविष्यवाणी करना (जाति, बीमा और लिंग के डेटा का उपयोग करके)।
- शेयर बाजार: एप्पल, डेल्टा और बोइंग के दैनिक शेयर मूल्यों की भविष्यवाणी करना।

दोनों मामलों में, POGO ने मौजूदा सर्वोत्तम तरीकों के प्रदर्शन की बराबरी की या उनसे बेहतर प्रदर्शन किया, लेकिन बिना मैनुअल ट्यूनिंग के सिरदर्द के। इसने सभी समूहों के लिए निष्पक्ष कवरेज प्रदान किया और बाजार या रोगी आबादी के बदलने पर तेजी से अनुकूलित हुआ।

संक्षेप में

POGO अनिश्चितता के लिए एक सेल्फ-ड्राइविंग कार है। पुराने तरीके ऐसे थे जहाँ आपको सड़क की स्थितियों के आधार पर स्टीयरिंग व्हील की संवेदनशीलता को मैन्युअल रूप से समायोजित करना पड़ता था (और आप अक्सर गलत अनुमान लगाते थे)। POGO एक ऐसी कार है जो स्वचालित रूप से सड़क को महसूस करती है, प्रत्येक यात्री (समूह) के लिए अपने स्टीयरिंग को समायोजित करती है, और बिना आपके किसी डायल को छुए सुरक्षित रूप से चलती है।

तकनीकी सारांश: पैरामीटर-मुक्त और ग्रुप कंडीशनल ऑनलाइन कॉन्फॉर्मल प्रेडिक्शन

1. समस्या सेटिंग और प्रेरणा

मशीन लर्निंग मॉडल तेजी से उच्च-दांव वाले, गैर-स्थिर (non-stationary) वातावरण (जैसे, मेडिकल ट्राइएज, स्वायत्त वाहन) में तैनात किए जा रहे हैं जहाँ डेटा वितरण समय के साथ बदलता रहता है, जो मानक कॉन्फॉर्मल प्रेडिक्शन (CP) के लिए आवश्यक विनिमय क्षमता (exchangeability) की धारणा का उल्लंघन करता है। ऑनलाइन कॉन्फॉर्मल प्रेडिक्शन (OCP) इसे एडवर्सरियल डेटा स्ट्रीम के लिए प्रेडिक्शन सेट्स उत्पन्न करके संबोधित करता है। हालाँकि, मानक OCP विधियाँ आमतौर पर केवल सीमांत कवरेज (marginal coverage) (अर्थात, समग्र त्रुटि दर $1-\alpha$ के करीब पहुँचती है) की गारंटी देती हैं। यह सीमांत गारंटी विशिष्ट उप-जनसंख्याओं के लिए व्यवस्थित कम-कवरेज (under-coverage) को छिपा सकती है, जिससे निष्पक्षता और सुरक्षा संबंधी मुद्दे उत्पन्न हो सकते हैं।

जबकि पिछले कार्यों ने विशिष्ट समूहों के लिए कवरेज गारंटी सुनिश्चित करने के लिए ग्रुप-कंडीशनल OCP (G-OCP) प्रस्तावित किया है, मौजूदा विधियाँ (जैसे, GCACI) लर्निंग रेट्स (learning rates/step sizes) पर निर्भर करती हैं जिन्हें मैन्युअल रूप से ट्यून करना आवश्यक होता है। एडवर्सरियल या बदलते डेटा वातावरण में, लर्निंग रेट्स को ट्यून करना समस्यात्मक है क्योंकि:

ट्यूनिंग के लिए कोई वैलिडेशन सेट उपलब्ध नहीं होता है।
मनमाने डेटा शिफ्ट्स एक पहले से "अच्छे" लर्निंग रेट को अनुपयुक्त बना सकते हैं।
मौजूदा पैरामीटर-मुक्त (parameter-free) OCP विधियाँ (जैसे, UP-OCP) केवल सीमांत कवरेज प्राप्त करती हैं, ग्रुप-कhetical गारंटी नहीं।

मूल समस्या एक ऐसे पैरामीटर-मुक्त OCP एल्गोरिदम के डिजाइन की है जो बिना किसी मैनुअल हाइपरपैरामीटर ट्यूनिंग के कठोर ग्रुप-कंडीशनल कवरेज गारंटी प्रदान करता है।

2. कार्यप्रणाली: POGO

लेखक POGO (पोर्टफोलियो फॉर ऑनलाइन ग्रुप कॉन्फॉर्मल) प्रस्तावित करते हैं, जो ग्रुप-कंडीशनल OCP के लिए पहला पैरामीटर-मुक्त एल्गोरिदम है। यह कार्यप्रणाली यूनिवर्सल पोर्टफोलियो (UP) अनुकूलन की अवधारणा पर आधारित है, जिसे पहले मार्जिनल OCP (UP-OCP) के लिए लागू किया गया था, और इसे कई ओवरलैपिंग समूहों को संभालने के लिए विस्तारित किया गया है।

2.1 समस्या निरूपण (Problem Formulation)

डेटा स्ट्रीम $(X_t, Y_t)$ और प्रेडिक्टर $\hat{Y}_t$ दिए जाने पर, लक्ष्य रेडियस (radius) $\tau_t$ का एक क्रम सीखना है ताकि प्रेडिक्शन इंटरवल $I_t = [\hat{Y}_t - \tau_t, \hat{Y}_t + \tau_t]$ निम्नलिखित को संतुष्ट करे:
$\lim_{T \to \infty} \left| \frac{1}{T_j} \sum_{t=1}^T \mathbb{1}\{Y_t \in I_t\} c_j(X_t) - (1-\alpha) \right| = 0$
सभी $k$ समूहों के लिए, जहाँ $c_j(X_t) \in [0, 1]$ समूह सदस्यता के लिए एक सॉफ्ट इंडिकेटर फंक्शन है, और $T_j$ समूह $j$ की संचयी गणना है।

2.2 लीनियर पैरामीट्राइजेशन (Linear Parameterization)

मानक OCP के विपरीत जो एक स्केलर रेडियस सीखता है, POGO एक $k$ -आयामी पैरामीटर वेक्टर $\theta_t \in \mathbb{R}^k$ सीखता है। रेडियस को समूह सदस्यता वेक्टर $c(X_t)$ के एक लीनियर फंक्शन के रूप में पैरामीटराइज़ किया गया है:
$\tau_t(X_t) = \langle \theta_t, c(X_t) \rangle$
यह एल्गोरिदम को एक सैंपल की विशिष्ट समूह सदस्यता के आधार पर अलग-अलग रेडियस असाइन करने की अनुमति देता है, जबकि एक ही एकीकृत प्रेडिक्शन इंटरवल सुनिश्चित करता है।

2.3 पोर्टफोलियो ऑप्टिमाइजेशन मैकेनिज्म

POGO $\theta_t$ को सीखने के लिए एक पोर्टफोलियो ऑप्टिमाइजेशन समस्या के रूप में मानता है।

सबग्रेडिएंट्स के रूप में त्रुटियाँ (Subgradients as Errors): एल्गोरिदम प्रत्येक समूह के लिए एक क्वांटाइल लॉस (पिनबॉल लॉस) को परिभाषित करता है। इस लॉस का सबग्रेडिएंट $g_t$ मिसकवरेज त्रुटि को मापता है। विशेष रूप से, संचयी सबग्रेडिएंट योग $\sum g_{t,j}$ का $j$ -वाँ प्रविष्टि समूह $j$ के लिए मिसकवरेज त्रुटि को दर्शाती है।
वेल्थ प्रोसेसेज (Wealth Processes): प्रत्येक समूह $j$ $j$ के लिए, POGO दो स्टॉक्स के साथ एक "मार्केट" बनाता है। इन स्टॉक्स के रिटर्न इस बात पर निर्भर करते हैं कि वर्तमान प्रेडिक्शन वास्तविक लेबल को कवर करता है या नहीं:
- यदि प्रेडिक्शन मिस होता है (अंडर-कवरेज), तो एक स्टॉक उच्च रिटर्न देता है।
- यदि प्रेडिक्शन कवर करता है, तो दूसरा स्टॉक मध्यम रिटर्न देता है।
यूनिवर्सल पोर्टफोलियो (UP): POGO प्रत्येक समूह $j$ के लिए पोर्टफोलियो वेट्स $\lambda_{t,j}$ सीखने के लिए यूनिवर्सल पोर्टफोलियो एल्गोरिदम का उपयोग करता है। लक्ष्य प्रत्येक समूह से जुड़ी "वेल्थ" $W_{t,j}$ के लॉगरिदमिक विकास को अधिकतम करना है।
पैरामीटर अपडेट: पैरामीटर्स $\theta_{t,j}$ को सीधे वेल्थ प्रोसेसेज $W_{t,j}$ और पोर्टफोलियो वेट्स $\lambda_{t,j}$ से प्राप्त किया जाता है, जिससे यह सुनिश्चित होता है कि संचयी सबग्रेडिएंट्स धीरे-धीरे बढ़ें। यह धीमी वृद्धि सीधे तौर पर सीमित ग्रुप-कंडीशनल मिसकवरेज में परिवर्तित होती है।

महत्वपूर्ण रूप से, यह प्रक्रिया पैरामीटर-मुक्त है; इसके लिए लर्निंग रेट $\eta$ या स्टेप साइज की आवश्यकता नहीं है, बल्कि यह यूनिवर्सल पोर्टफोलियो एल्गोरिदम के अंतर्निहित गुणों पर निर्भर करती है।

3. मुख्य योगदान

प्रथम पैरामीटर-मुक्त G-OCP एल्गोरिदम: POGO का परिचय, जो लर्निंग रेट्स को मैन्युअल रूप से ट्यून किए बिना ग्रुप-कंडीशनल कवरेज गारंटी प्रदान करता है।
कठोर फाइनाइट-टाइम गारंटी: लेखक POGO के लिए कवरेज बाउंड्स स्थापित करते हैं। समूह $j$ के लिए मिसकवरेज दर इस प्रकार सीमित है:
$\text{MisCov}_T(c_j) \leq \frac{1}{T_j} \left[ U_T(k) + \sqrt{2T_j \alpha(1-\alpha) U_T(k)} \right]$
जहाँ $U_T(k)$ , समूहों की संख्या $k$ और समय $T$ के साथ लॉगरिदमिक रूप से स्केल करता है। यह सर्वोत्तम ज्ञात फाइनाइट-टाइम ग्रुप-कवरेज परिणाम है।
बेहतर स्केलेबिलिटी: सैद्धांतिक विश्लेषण दिखाता है कि POGO का एरर बाउंड समूहों की संख्या $k$ के लॉगरिदमिक रूप से ( $O(\ln k)$ ) निर्भर करता है, जबकि मौजूदा पैरामीटर-डिपेंडेंट विधियाँ (जैसे, GCACI) $\sqrt{k}$ के साथ स्केल करती हैं और लर्निंग रेट के चुनाव पर अत्यधिक निर्भर करती हैं।
सिंगल-इंटरवल आउटपुट: प्रत्येक समूह के लिए अलग-अलग OCP एल्गोरिदम चलाने (जो $k$ अलग-अलग रेडियस उत्पन्न करते हैं) के बजाय, POGO प्रत्येक सैंपल के लिए एक एकल रेडियस $\tau_t$ उत्पन्न करता है, जिससे विरोधाभासी इंटरवल्स और समूह सदस्यता के बारे में संभावित गोपनीयता लीक की समस्याओं से बचा जा सकता है।

4. प्रयोगात्मक परिणाम

लेखक सिंथेटिक और वास्तविक दुनिया के डेटासेट पर POGO का मूल्यांकन करते हैं, और इसकी तुलना GCACI (ग्रुप-कंडीशनल OCP के लिए वर्तमान मानक) और UP-OCP (पैरामीटर-मुक्त मार्जिनल OCP) से करते हैं।

4.1 सिंथेटिक प्रयोग

बाउंडेड, धीरे-धीरे बदलने वाले स्कोर: POGO सभी समूहों के लिए लक्षित कवरेज दरों को 3% के भीतर प्राप्त करता है और GCACI वेरिएंट की तुलना में सबसे छोटे औसत रेडियस उत्पन्न करता है। यह उच्च अनुकूलनशीलता बनाए रखता है, जिसमें लगातार मिसकवरेज घटनाओं का सबसे लंबा क्रम सर्वोत्तम-ट्यून किए गए GCACI के बराबर है।
अचानक बदलाव (Abrupt Shifts): जब डेटा वितरण अचानक बदल जाता है, तो POGO मजबूत रहता है। इसके विपरीत, एक निश्चित लर्निंग रेट वाला GCACI (यहाँ तक कि $\eta=0.01$ जैसा अच्छी तरह से ट्यून किया गया रेट भी) खराब अनुकूलनशीलता प्रदर्शित करता है, और तब तक मिसकवरेज की लंबी श्रृंखला दिखाता है जब तक कि लर्निंग रेट प्रभावी रूप से "री-ट्यून" न हो जाए।
अनबाउंडेड ग्रोइंग स्कोर: उन परिदृश्यों में जहाँ किसी विशिष्ट समूह के लिए नॉन-कनफॉर्मिटी स्कोर द्विघातीय (quadratically) रूप से बढ़ते हैं, अधिकांश GCACI वेरिएंट लक्षित कवरेज प्राप्त करने में विफल रहते हैं। POGO लगातार लक्षित स्तरों के करीब कवरेज प्राप्त करता है, विशेष रूप से उच्च कवरेज आवश्यकताओं ( $1-\alpha \in [0.9, 0.95]$ ) के मामले में।

4.2 वास्तविक दुनिया का डेटा

MIMIC-IV (ICU स्टे ड्यूरेशन): रोगी डेटा (रेस, इंश्योरेंस, सेक्स जैसे समूह) का उपयोग करते हुए, POGO कवरेज के मामले में GCACI के समान प्रदर्शन करता है लेकिन छोटे प्रेडिक्शन सेट आकार (रेडियस) के साथ।
स्टॉक मार्केट (Apple, Delta, Boeing): दैनिक मूल्य भविष्यवाणी के लिए, POGO फिर से प्रतिस्पर्धी प्रदर्शन प्रदर्शित करता है, GCACI की तुलना में छोटे सेट आकार के साथ लक्षित कवरेज प्राप्त करता है।
ट्रेड-ऑफ: हालांकि POGO विशिष्ट स्टैटिक रिजीम में कुछ मामलों में सर्वश्रेष्ठ-ट्यून GCACI की तुलना में थोड़ा लंबा लगातार मिसकवरेज स्ट्रेक दिखा सकता है, यह गतिशील या बदलते रिजीम में GCACI से काफी बेहतर प्रदर्शन करता है जहाँ ट्यूनिंग असंभव है।

5. महत्व और दावे

पेपर का दावा है कि POGO बदलते वातावरण में निष्पक्ष और मजबूत अनिश्चितता मात्रा निर्धारण (uncertainty quantification) के लिए एक आधार तैयार करता है। ग्रुप-कंडीशनल कवरेज को पैरामीटर-मुक्त ऑनलाइन लर्निंग के साथ एकीकृत करके, यह विधि मैनुअल हाइपरपैरामीटर ट्यूनिंग की आवश्यकता को समाप्त करती है, जो एडवर्सरियल या गैर-स्थिर सेटिंग्स में एक महत्वपूर्ण बाधा है।

लेखक इस बात पर जोर देते हैं कि:

POGO सर्वोत्तम ज्ञात फाइनाइट-टाइम ग्रुप-कवरेज बाउंड्स प्रदान करता है।
यह लर्निंग रेट चयन की नाजुकता के बिना ये गारंटी प्राप्त करता है।
यह उच्च-दांव वाले अनुप्रयोगों के लिए एक व्यावहारिक समाधान प्रदान करता है जहाँ उप-जनसंख्याओं के लिए निष्पक्षता आवश्यक है, और जहाँ डेटा वितरण को स्थिर या विनिमय योग्य (exchangeable) नहीं माना जा सकता है।

पेपर विनम्रतापूर्वक निष्कर्ष निकालता है कि, हालांकि POGO रेडियस के लिए एक लीनियर स्पेसिफिकेशन का उपयोग करता है, भविष्य के कार्य रेडियस के लिए समृद्ध मॉडल तलाश सकते हैं और इन उपकरणों को अनिश्चितता मात्रा निर्धारण के अन्य रूपों, जैसे कैलिब्रेशन तक विस्तारित कर सकते हैं।