📊 statistics

Online conformal inference with retrospective adjustment for faster adaptation to distribution shift

यह शोध पत्र एक नवीन ऑनलाइन कॉन्फॉर्मल इन्फरेंस पद्धति प्रस्तावित करता है जो वितरण परिवर्तनों (डिस्ट्रीब्यूशन शिफ्ट्स) के अनुकूल तेजी से होने के लिए कुशल लीव-वन-आउट अपडेट के माध्यम से रेट्रोस्पेक्टिव एडजस्टमेंट का उपयोग करती है, जिससे मौजूदा फॉरवर्ड-ओनली दृष्टिकोणों की तुलना में भविष्यवाणियों के अंतराल की चौड़ाई को काफी कम करते हुए लगभग नाममात्र कवरेज प्राप्त किया जाता है।

मूल लेखक: Jungbin Jun, Ilsang Ohn

प्रकाशित 2026-07-14

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jungbin Jun, Ilsang Ohn

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप कल के मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं। आपके पास पिछले मौसम के डेटा से भरी एक नोटबुक है, और आप यह अनुमान लगाने के लिए उसका उपयोग करते हैं कि क्या बारिश होगी। एक आदर्श दुनिया में, पिछले साल के मौसम के पैटर्न आज के मौसम के पैटर्न के बिल्कुल समान होने चाहिए। लेकिन वास्तविक दुनिया में, मौसम बदलता है, और कभी-कभी जलवायु अचानक बदल जाती है।

यह वही समस्या है जिसे यह शोध पत्र संबोधित करता है। यह कॉन्फॉर्मल प्रेडिक्शन (Conformal Prediction) नामक एक विधि के बारे में है, जो AI भविष्यवाणियों के लिए एक "सुरक्षा जाल" (safety net) की तरह है। केवल यह कहने के बजाय कि "तापमान 75°F होगा," यह एक सीमा देता है, जैसे कि "तापमान 70°F और 80°F के बीच होगा," और यह वादा करता है कि वास्तविक तापमान 90% बार इसी बॉक्स के भीतर रहेगा।

समस्या यह है कि अधिकांश सुरक्षा जाल ऐसी दुनिया के लिए बनाए गए हैं जहाँ अतीत भविष्य जैसा दिखता है। लेकिन जब डेटा बदलता है (एक "डिस्ट्रीब्यूशन शिफ्ट"), जैसे कि अचानक गर्मी का बढ़ना या कोई नया आर्थिक संकट, तो पुराने सुरक्षा जाल फंस जाते हैं। वे पुराने, आउटडेटेड नियमों का उपयोग करते रहते हैं, और उनके बॉक्स या तो बहुत बड़े (बेकार) हो जाते हैं या बहुत छोटे (गलत)।

पुराना तरीका: "फॉरवर्ड-ओनली" ट्रेन

शोध पत्र का तर्क है कि वर्तमान विधियाँ एक ऐसी ट्रेन की तरह हैं जो केवल आगे बढ़ती है। जब एक नया डेटा पॉइंट (जैसे आज का तापमान) आता है, तो सिस्टम कल के लिए अपने मॉडल को अपडेट करता है, लेकिन यह अपने पिछले सभी भविष्यवाणियों को वैसा ही छोड़ देता है जैसा वे थे।

यदि मौसम अचानक बदल जाता है, तो ट्रेन अपने पुराने मानचित्र के साथ चलती रहती है। सुरक्षा जाल को यह समझने और अपने बॉक्स के आकार को समायोजित करने में बहुत समय लगता है कि नियम बदल गए हैं। शोध पत्र दिखाता है कि ये विधियाँ "अनुकूलन में धीमी" (slow to adapt) हैं, जिसका अर्थ है कि वे अचानक बदलाव के बाद सही 90% सटीकता तक पहुँचने के लिए संघर्ष करती हैं।

नया विचार: "रिट्रोस्पेक्टिव" टाइम-ट्रैवलर

लेखक, जुंगबिन जुन और इलसांग ओहन, एक नई विधि प्रस्तावित करते हैं जिसे RetroAdj (रिट्रोस्पेक्टिव एडजस्टमेंट) कहा जाता है।

इसे केवल एक ट्रेन के रूप में नहीं, बल्कि एक स्मार्ट संपादक के रूप में सोचें जिसके पास टाइम मशीन है। जब नया डेटा आता है, तो RetroAdj केवल आगे नहीं देखता; यह पीछे भी देखता है। यह कहता है, "रुको, दुनिया बदल गई है। चलो, हमने अभी जिन हालिया दिनों की भविष्यवाणियाँ की थीं, उन सभी के लिए सुरक्षा जाल की फिर से गणना करते हैं।"

यह एक चतुर गणितीय ट्रिक (जो 'कर्नेल रिज रिग्रेशन' पर आधारित है) का उपयोग करता है ताकि पिछली भविष्यवाणियों को तुरंत फिर से लिखा जा सके। पुराने डेटा को फेंकने या मॉडल के धीरे-धीरे सीखने का इंतजार करने के बजाय, यह तुरंत हर एक पिछली भविष्यवाणी को नवीनतम वास्तविकता के साथ संरेखित (align) कर देता है।

जादुई ट्रिक: असंभव को तेजी से करना

यहाँ पेंच यह है: अतीत को फिर से लिखना अविश्वसनीय रूप से धीमा लगता है। यदि आपके पास 1,000 दिनों का डेटा है, तो आपको लगेगा कि आपको हर दिन 1,000 बार गणित को फिर से चलाना होगा। यह एक नए कार के गुजरने पर पूरे शहर को फिर से पेंट करने की कोशिश करने जैसा होगा—इसमें अनंत समय लगेगा।

शोध पत्र यह सिद्ध करता है कि विशिष्ट गणितीय शॉर्टकट्स (जिन्हें "लीव-वन-आउट" फॉर्मूला कहा जाता है) का उपयोग करके, वे इस पुनर्गणना को बहुत तेज़ी से कर सकते हैं। उन्होंने काम को एक विशाल, असंभव कार्य (जिसे वे $O(n^4)$ जटिलता कहते हैं) से घटाकर एक प्रबंधनीय कार्य ( $O(n^2)$ ) में बदल दिया है। यह एक जादुई ब्रश रखने जैसा है जो एक अकेले घर को पेंट करने के समय में पूरे शहर को फिर से पेंट कर सकता है।

आंकड़े क्या कहते हैं

लेखकों ने इस विचार का परीक्षण दो तरीकों से किया:

नकली डेटा (Fake Data): उन्होंने कंप्यूटर सिमुलेशन बनाए जहाँ डेटा अचानक बदल गया (जैसे कि एक लीनियर मॉडल के नियमों का पलटना या एक गैर-रेखीय "बम्प" का आना)।
वास्तविक डेटा (Real Data): उन्होंने समुदायों में अपराध दर, बिजली की कीमतों और 2008 के वित्तीय संकट के दौरान AIG स्टॉक की कीमतों सहित वास्तविक दुनिया के डेटासेट पर इसे आजमाया।

परिणाम:

तेजी से रिकवरी: जब डेटा में बदलाव आया, तो RetroAdj लगभग तुरंत सही 90% कवरेज पर वापस आ गया। पुरानी विधियों को पीछे छूटने में काफी समय लगा।
टाइट बॉक्सेस (Tighter Boxes): क्योंकि RetroAdj इतनी जल्दी अनुकूलित हुआ, इसलिए इसे सुरक्षित रहने के लिए अपने प्रेडिक्शन बॉक्स को बहुत बड़ा करने की आवश्यकता नहीं पड़ी। सिमुलेशन में, इसने पुराने तरीकों की तुलना में प्रेडिक्शन इंटरवल की चौड़ाई को 30% तक कम कर दिया।
सटीकता: इसने "फॉरवर्ड-ओनली" विधियों की तुलना में लक्षित कवरेज (90% के निशान को छूना) को बहुत अधिक निरंतरता के साथ बनाए रखा, जो अक्सर बहुत अधिक रूढ़िवादी (बहुत बड़े बॉक्स बनाना) या बहुत जोखिम भरे हो जाते थे।

यह क्या नहीं है (और यह अभी क्या नहीं कर सकता)

शोध पत्र बहुत स्पष्ट है कि यह विधि क्या नहीं है।

यह हर प्रकार के AI मॉडल के लिए कोई जादुई समाधान नहीं है। यह वर्तमान में केवल विशिष्ट प्रकार के रिग्रेशन मॉडल (जैसे कर्नेल रिज रिग्रेशन) के साथ अच्छी तरह काम करता है जिनमें ये विशेष गणितीय शॉर्टकट होते हैं। यह अभी किसी भी "ब्लैक बॉक्स" मॉडल के साथ काम नहीं करता है।
यह मुफ्त नहीं है। हालांकि यह "नेइव" (naive) तरीके की तुलना में तेज़ है, फिर भी यह मानक ऑनलाइन लर्निंग की तुलना में अधिक कम्प्यूटेशनल रूप से भारी है। इसके लिए अधिक मेमोरी और प्रोसेसिंग पावर की आवश्यकता होती है, इसलिए यह अत्यंत उच्च-गति वाले डेटा स्ट्रीम (जैसे माइक्रोसेकंड में होने वाले स्टॉक ट्रेड) के लिए बहुत धीमा हो सकता है।
यह एक "विंडो साइज" (एक सेटिंग जिसे $w$ कहा जाता है) पर निर्भर करता है। लेखकों ने पाया कि यदि यह विंडो बहुत बड़ी है, तो मॉडल बदलने में धीमा है; यदि यह बहुत छोटी है, तो यह अस्थिर (jittery) हो जाता है। उन्होंने अभी तक यह हल नहीं किया है कि सटीक विंडो साइज को स्वचालित रूप से कैसे चुना जाए; यह भविष्य के शोध का काम है।

निष्कर्ष

इन सिमुलेशन और वास्तविक दुनिया के परीक्षणों में, RetroAdj विधि यह सुझाव देती है कि जैसे ही नया डेटा आता है, हमारी पिछली भविष्यवाणियों को देखकर और उन्हें अपडेट करके, हम ऐसे AI सुरक्षा जाल बना सकते हैं जो अधिक सुरक्षित (सही कवरेज प्राप्त करना) और अधिक सटीक (टाइट, अधिक उपयोगी रेंज देना) दोनों हैं। यह एक ऐसे AI की ओर एक कदम है जो न केवल भविष्य से सीखता है, बल्कि बदलती दुनिया के साथ तालमेल बिठाने के लिए अपने अतीत का भी लगातार पुनर्मूल्यांकन करता है।

तकनीकी सारांश: रेट्रोस्पेक्टिव एडजस्टमेंट के साथ ऑनलाइन कॉन्फॉर्मल इन्फरेंस (Online Conformal Inference with Retrospective Adjustment)

समस्या विवरण (Problem Statement)

कॉन्फॉर्मल प्रेडिक्शन (Conformal prediction) कवरेज की गारंटी देने वाले प्रेडिक्शन सेट्स बनाने के लिए एक डिस्ट्रीब्यूशन-फ्री फ्रेमवर्क प्रदान करता है, जो मुख्य रूप से डेटा एक्सचेंजेबिलिटी (data exchangeability) की धारणा पर निर्भर करता है। हालांकि, ऑनलाइन लर्निंग परिवेश में जहाँ डेटा वितरण समय के साथ विकसित होता है (नॉन-स्टेशनरी टाइम सीरीज़, कॉन्सेप्ट ड्रिफ्ट), इस धारणा का अक्सर उल्लंघन होता है। जबकि हाल के तरीकों ने वितरण बदलावों (distribution shifts) को संबोधित करने का प्रयास किया है, वे आमतौर पर धीमी अनुकूलन क्षमता (slow adaptation) से ग्रस्त होते हैं।

मौजूदा दृष्टिकोण, जैसे कि एडेप्टिव कॉन्फॉर्मल इन्फरेंस (ACI), विशुद्ध रूप से फॉरवर्ड मैनर (forward manner) में अपडेट करते हैं: जब एक नया डेटा पॉइंट आता है, तो वर्तमान मॉडल के आधार पर एक भविष्यवाणी की जाती है, जबकि पहले से गणना किए गए प्रेडिक्शन और रेसिडुअल्स (residuals) स्थिर रहते हैं। फलस्वरूप, जैसे-जैसे डेटा वितरण बदलता है, ऐतिहासिक कैलिब्रेशन सेट वर्तमान डेटा-जनरेटिंग प्रक्रिया के साथ असंगत हो जाता है, जिससे नाममात्र कवरेज स्तर (nominal coverage level) की रिकवरी में देरी होती है और प्रेडिक्शन इंटरवल अत्यधिक रूढ़िवादी (चौड़े) हो जाते हैं। इसके अलावा, एक ऐसे तरीके को लागू करना जो पिछले प्रेडिक्शन को अपडेट करता है (रेट्रोस्पेक्टिव एडजस्टमेंट), कम्प्यूटेशनल रूप से अत्यधिक महंगा है, जिसमें प्रति टाइम स्टेप $O(n^4)$ की जटिलता के साथ बार-बार मॉडल रिट्रेनिंग की आवश्यकता होती है।

कार्यप्रणाली (Methodology)

लेखक RetroAdj का प्रस्ताव करते हैं, जो एक नवीन ऑनलाइन कॉन्फॉर्मल इन्फरेंस विधि है जो रेट्रोस्पेक्टिव एडजस्टमेंट (retrospective adjustment) के माध्यम से तेज़ अनुकूलन प्राप्त करती है। केवल एक कैलिब्रेशन सेट में नए रेसिडुअल्स जोड़ने के बजाय, RetroAdj वर्तमान टाइम विंडो के सभी सक्रिय डेटा पॉइंट्स के लिए पूरे पिछले रेसिडुअल्स और प्रेडिक्शन्स को गतिशील रूप से संशोधित करता है।

मुख्य तंत्र (Core Mechanism)

रेट्रोस्पेक्टिव रीकैलिब्रेशन (Retrospective Recalibration): एक नए डेटा पॉइंट $(X_t, Y_t)$ के आगमन पर, विधि बेस रिग्रेशन मॉडल को अपडेट करती है और महत्वपूर्ण रूप से, वर्तमान सक्रिय डेटा विंडो के सभी डेटा पॉइंट्स के लिए लीव-वन-आउट (LOO) रेसिडुअल्स की पुनर्गणना करती है। यह पूरे कैलिब्रेशन सेट को नवीनतम डेटा वितरण के अनुरूप बनाता है।
लीनियर स्मूथर्स (Linear Smoothers) के माध्यम से कुशल कार्यान्वयन: $O(n^4)$ $O (n^{4})$ जटिलता से बचने के लिए, विधि अंतर्निहित रिग्रेशन एस्टिमेटर को लीनियर स्मूथर्स (विशेष रूप से कर्नेल रिज रिग्रेशन, KRR) तक सीमित करती है जो क्लोज्ड-फॉर्म LOO अपडेट फॉर्मूला को स्वीकार करते हैं।
- लेम्मा 1 और 2 (Lemma 1 & 2): LOO रेसिडुअल्स और प्रेडिक्शन्स को फुल-मॉडल फिट के सरल सुधार के रूप में व्यक्त करने के लिए KRR के सेल्फ-स्टेबल गुण का उपयोग करते हैं, जिससे रिफिटिंग (refitting) से बचा जा सके।
- मैट्रिक्स अपडेट्स (Matrix Updates): एल्गोरिदम स्लाइडिंग विंडो के चलते हुए इनवर्स कर्नेल मैट्रिक्स को कुशलतापूर्वक अपडेट करने के लिए रैंक-वन मैट्रिक्स अपडेट्स (शेरमैन-मोरिसन फॉर्मूला) और सिमेट्रिक रैंक-वन "डाउनडेट्स" का उपयोग करता है। यह प्रति टाइम स्टेप कम्प्यूटेशनल जटिलता को $O(n^4)$ से घटाकर $O(n^2)$ कर देता है।
ACI के साथ एकीकरण: यह विधि एडेप्टिव कॉन्फॉर्मल इन्फरेंस (ACI) फ्रेमवर्क के भीतर कार्य करती है। यह कवरेज इंडिकेटर्स के आधार पर मिसकवरेज लेवल $\alpha_t$ को अपडेट करती है, लेकिन मानक ACI के विपरीत, यह पूरी तरह से अपडेट किए गए रेट्रोस्पेक्टिव रेसिडुअल्स का उपयोग करके प्रेडिक्शन इंटरवल $\hat{C}_t$ का पुनर्निर्माण करती है।

एल्गोरिदम अवलोकन (Algorithm Overview)

इनपुट: विंडो साइज $w$ , टारगेट मिसकवरेज $\alpha$ , प्रारंभिक डेटा।
प्रक्रिया:
1. $X_t$ को देखें और वर्तमान रेट्रोस्पेक्टिव रेसिडुअल्स के साथ जैकनीफ+ (Jackknife+) फॉर्मूला का उपयोग करके एक प्रेडिक्शन इंटरवल जेनरेट करें।
2. $Y_t$ को देखें।
3. लेम्मा 3 और 4 (रैंक-वन अपडेट/डाउनडेट्स) का उपयोग करके बेस KRR एस्टिमेटर और इनवर्स कर्नेल मैट्रिक्स को अपडेट करें।
4. सक्रिय विंडो के लिए सभी LOO रेसिडुअल्स और प्रेडिक्शन्स की पुनर्गणना करें।
5. ACI-आधारित नियम (जैसे मानक ACI, SFOGD, DtACI) का उपयोग करके $\alpha_{t+1}$ को अपडेट करें।

प्रमुख योगदान (Key Contributions)

रेट्रोस्पेक्टिव एडजस्टमेंट मैकेनिज्म: एक ऐसे तरीके का परिचय जो नए डेटा के आने पर कैलिब्रेशन रेसिडुअल्स के पूरे सेट को अपडेट करता है, न कि उन्हें केवल क्रमिक रूप से जोड़ता है। यह अनुकूलन डायनेमिक्स को मौलिक रूप से बदल देता है, जिससे कैलिब्रेशन सेट वितरण बदलावों को तुरंत ट्रैक कर पाता है।
कुशल $O(n^2)$ कार्यान्वयन: एक ऐसा एल्गोरिदम विकसित करना जो KRR के लिए रैंक-वन मैट्रिक्स अपडेट का लाभ उठाता है, जिससे रेट्रोस्पेक्टिव एडजस्टमेंट कम्प्यूटेशनल रूप से व्यवहार्य हो जाता है और जटिलता को प्रति स्टेप $O(n^4)$ से घटाकर $O(n^2)$ कर देता है।
सैद्धांतिक गारंटी: लॉन्ग-रन कवरेज गारंटी की स्थापना। लेखक सिद्ध करते हैं कि प्रस्तावित विधि, बिना एक्सचेंजेबिलिटी धारणा के भी, नाममात्र कवरेज स्तर $\alpha$ तक मिसकवरेज रेट के एसिम्प्टोटिक कैलिब्रेशन (एसीआई के अर्थ में) को प्राप्त करती है, बशर्ते कि मिसकवरेज लेवल $\alpha_t$ को मानक ACI डायनेमिक्स के माध्यम से अपडेट किया जाए।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने सिंथेटिक और वास्तविक दुनिया के डेटासेट पर विभिन्न रिग्रेशन मॉडल्स (KRR, FIMT-DD, AMRules, AMF) और ACI वेरिएंट्स का उपयोग करते हुए FW (फॉरवर्ड-अपडेट) बेसलाइन्स के विरुद्ध RetroAdj का मूल्यांकन किया।

सिंथेटिक डेटा (अचानक बदलाव/Abrupt Shifts): अचानक वितरण बदलावों (लीनियर और नॉन-लीनियर मॉडल्स) वाले सेटिंग्स में, RetroAdj ने मौजूदा फॉरवर्ड तरीकों की तुलना में प्रेडिक्शन इंटरवल की चौड़ाई को लगभग 30% कम करते हुए, नाममात्र कवरेज (0.9) के करीब कवरेज हासिल किया। विधि ने शिफ्ट के तुरंत बाद कवरेज की तीव्र रिकवरी प्रदर्शित की, जबकि बेसलाइन्स ने धीमा अनुकूलन और लंबे समय तक ओवर-कवरेज दिखाया।
वास्तविक दुनिया का डेटा: 'कम्युनिटीज एंड क्राइम', 'इलेक्ट्रिक2' (बिजली की कीमतें), और 'AIG स्टॉक प्राइस' डेटासेट के प्रयोगों ने पुष्टि की कि RetroAdj शासन परिवर्तन (regime changes) के दौरान स्थिर कवरेज और संकीर्ण अंतराल बनाए रखता है। बेसलाइन्स ने बदलावों के दौरान कवरेज में भारी गिरावट और इंटरवल की चौड़ाई में उछाल दिखाया, जिसके बाद धीरे-धीरे रिकवरी हुई। RetroAdj ने स्थिर अवधियों के दौरान इंटरवल की चौड़ाई में लगभग कोई गिरावट नहीं दिखाई, जो दर्शाता है कि स्थिर डेटा के लिए कोई सांख्यिकीय दक्षता लागत (statistical efficiency cost) नहीं है।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि RetroAdj ऑनलाइन कॉन्फॉर्मल प्रेडिक्शन में सांख्यिकीय दक्षता (संकीर्ण अंतराल) और अनुकूलन क्षमता (कवरेज रिकवरी की गति) के बीच मौलिक ट्रेड-ऑफ को संबोधित करता है।

तेज़ अनुकूलन: पिछले प्रेडिक्शन्स को अपडेट करके, विधि वितरण शिफ्ट होने के तुरंत बाद एम्पिरिकल कवरेज को लक्षित स्तर पर बहाल कर देती है, जिसे "रिकवरी टाइम" में कमी के रूप में परिभाषित किया गया है।
सांख्यिकीय दक्षता: विधि मौजूदा ऑनलाइन कॉन्फॉर्मल तरीकों की तुलना में काफी छोटे प्रेडिक्शन इंटरवल बनाती है, विशेष रूप से नॉन-स्टेशनरी वातावरण में, बिना कवरेज वैधता से समझौता किए।
कम्प्यूटेशनल व्यवहार्यता: यह कार्य प्रदर्शित करता है कि रेट्रोस्पेक्टिव रीकैलिब्रेशन के सांख्यिकीय लाभों को बिना अत्यधिक कम्प्यूटेशनल लागत के प्राप्त किया जा सकता है, बशर्ते कि अंतर्निहित मॉडल एक लीनियर स्मूथर हो।

लेखक सीमाओं को स्वीकार करते हुए नोट करते हैं कि $O(n^2)$ जटिलता अभी भी लीनियर-टाइम स्ट्रीमिंग एल्गोरिदम से अधिक है और इस पद्धति के लिए निश्चित विंडो साइज की आवश्यकता होती है। वे डेटा-ड्रिवन विंडो चयन और व्यापक वर्ग के रिग्रेशन मॉडल्स तक LOO स्थिरता अवधारणा के विस्तार में भविष्य के कार्य का सुझाव देते हैं।