🤖 machine learning

Robust Conditional Conformal Prediction via Branched Normalizing Flow

यह शोध पत्र ब्रैन्च्ड नॉर्मलाइजिंग फ्लो (BNF) को प्रस्तुत करता है, जो एक नवीन विधि है जो वितरण बदलाव (distribution shift) के तहत कॉन्फॉर्मल प्रेडिक्शन में कंडीशनल कवरेज त्रुटियों को सीमित करने और उन्हें कम करने के लिए इनवर्टिबल ट्रांसपोर्ट का लाभ उठाती है, जिससे विविध डेटासेट्स में मजबूती में महत्वपूर्ण सुधार होता है।

मूल लेखक: Rui Xu, Xingyuan Chen, Wenxing Huang, Minxuan Huang, Weiyan Chen, Sihong Xie, Hui Xiong

प्रकाशित 2026-05-05

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Rui Xu, Xingyuan Chen, Wenxing Huang, Minxuan Huang, Weiyan Chen, Sihong Xie, Hui Xiong

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मौसम विज्ञानी हैं। आप लोगों को केवल यह नहीं बताना चाहते कि "कल बारिश होगी," बल्कि यह कहना चाहते हैं कि "कल 1 से 3 इंच के बीच बारिश होगी।" यह सीमा आपका प्रेडिक्शन सेट (prediction set) है।

AI की दुनिया में, इसे कॉन्फ़ॉर्मल प्रेडिक्शन (Conformal Prediction - CP) कहा जाता है। इसका मुख्य काम यह गारंटी देना है कि बारिश की वास्तविक मात्रा एक निश्चित प्रतिशत समय (मान लीजिए 90% समय) के भीतर आपके द्वारा अनुमानित सीमा में आए।

समस्या: "वही पुरानी" गलती

आमतौर पर, AI मॉडल को "कैलिब्रेशन डेटा" (बीता हुआ मौसम) पर प्रशिक्षित किया जाता है और "टेस्ट डेटा" (भविष्य का मौसम) पर परखा जाता है। मानक तरीका तब बहुत अच्छा काम करता है जब भविष्य बिल्कुल अतीत जैसा ही हो।

लेकिन क्या होगा यदि जलवायु बदल जाए? क्या होगा यदि "टेस्ट" वाले दिन अचानक पहले के मुकाबले बहुत अधिक गर्म या हवादार हों? इसे डिस्ट्रीब्यूशन शिफ्ट (distribution shift) कहा जाता है।

मौजूदा तरीके इसे ठीक करने के लिए औसत त्रुटि (average error) को देखते हैं। वे कहते हैं, "औसत रूप से, हमारा 90% का गारंटी वाला नियम लागू होता है।" लेकिन यह ऐसा कहने जैसा है, "औसत रूप से, मेरा छाता मुझे बारिश से बचाता है।" यह तब काम नहीं आता जब आप एक विशिष्ट स्थान पर खड़े हों जहाँ बारिश तिरछी और तेज़ हो रही हो और आपका छाता बहुत छोटा हो।

यह लेख बताता है कि जबकि औसत गारंटी अभी भी बनी रह सकती है, यह गारंटी विशिष्ट, कठिन स्थितियों के लिए विफल हो जाती है। यदि AI किसी विशेष प्रकार के दिन (जैसे, अचानक आई हीटवेव) के बारे में अनिश्चित है, तो यह एक बहुत ही छोटी भविष्यवाणी सीमा दे सकता है, जो वास्तविक उत्तर को पकड़ने में विफल रहती है।

समाधान: "आकार बदलने वाला अनुवादक" (The Shape-Shifting Translator)

लेखक एक नई विधि प्रस्तावित करते हैं जिसे ब्रांच्ड नॉर्मलाइजिंग फ्लो (Branched Normalizing Flow - BNF) कहा जाता है, विशेष रूप से इसका एक ऑगमेंटेड (Augmented) संस्करण।

AI की भविष्यवाणी प्रक्रिया को एक फैक्ट्री असेंबली लाइन के रूप में सोचें:

इनपुट: एक नया, अजीब मौसम का दिन आता है (टेस्ट डेटा)।
समस्या: यह दिन उन दिनों जैसा बिल्कुल नहीं है जिन पर फैक्ट्री को प्रशिक्षित किया गया था। यदि हम सीधे भविष्यवाणी करने की कोशिश करते हैं, तो फैक्ट्री भ्रमित हो जाती है और एक गलत सीमा देती है।
अनुवादक (BNF): नए दिन को फैक्ट्री द्वारा देखे जाने से पहले, BNF एक आकार बदलने वाले अनुवादक के रूप में कार्य करता है। यह इस नए, अजीब दिन को गणितीय रूप से "मोड़ता" (warp) है ताकि यह बिल्कुल उन पुराने, परिचित दिनों जैसा दिखे जिन्हें फैक्ट्री जानती है।
- उपमा: कल्पना कीजिए कि आप एक चौकोर टुकड़े को गोल छेद में फिट करने की कोशिश कर रहे हैं। टुकड़े को ज़बरदस्ती फिट करने के बजाय, आपके पास एक जादुई उपकरण है जो अस्थायी रूप से उस चौकोर टुकड़े को गोल बना देता है ताकि वह पूरी तरह से फिट हो सके।
भविष्यवाणी: अब चूंकि वह दिन फैक्ट्री के लिए "सामान्य" दिखता है, फैक्ट्री एक भविष्यवाणी सीमा तैयार करती है जो गारंटी के साथ सही होती है (90% कवरेज), क्योंकि वह परिचित डेटा के साथ काम कर रही है।
रिवर्स अनुवादक: यहाँ असली जादू है। BNF प्रतिवर्ती (invertible) है। एक बार जब फैक्ट्री "सामान्य" भविष्यवाणी सीमा दे देती है, तो BNF उस सीमा को वापस मोड़ने के लिए अपने "जादुई उपकरण" का उपयोग करता है ताकि वह मूल, अजीब मौसम के दिन के अनुकूल हो सके।

चूंकि यह उपकरण प्रतिवर्ती है और सावधानीपूर्वक डिज़ाइन किया गया है, इसलिए अजीब मौसम के दिन के लिए अंतिम भविष्यवाणी सीमा उतनी ही विश्वसनीय होती है जितनी सामान्य दिन के लिए।

"ब्रांच्ड" और "ऑगमेंटेड" क्यों?

लेखक इसे काम करने के योग्य बनाने के लिए दो विशेष विशेषताएं पेश करते हैं:

शाखाएं (The Branches): अनुवादक की दो अलग-अलग भुजाएं हैं। एक भुजा विशेषताओं (features) (तापमान, हवा, आदि) को संभालती है, और दूसरी परिणाम (outcome) (बारिश की मात्रा) को संभालती है।
- क्यों? जब आप कल के लिए भविष्यवाणी कर रहे होते हैं, तो आप तापमान (विशेषताएं) जानते हैं, लेकिन आप बारिश (परिणाम) को अभी तक नहीं जानते। "ब्रांच" डिज़ाइन अनुवादक को उत्तर जानने से पहले विशेषताओं को ठीक करने की अनुमति देता है। यह कैमरे के लेंस को फोटो लेने से पहले एडजस्ट करने जैसा है, बिना यह जाने कि फोटो कैसी दिखेगी।
ऑगमेंटेशन (The "Noise" Ingredient): मूल विचार थोड़ा बहुत कठोर था। जटिल, वास्तविक दुनिया के डेटा को संभालने के लिए पर्याप्त लचीला बनाने के लिए, लेखक इसमें थोड़ा रैंडम नॉइज़ (random noise) जोड़ते हैं (जैसे किसी रेसिपी में थोड़ा नमक छिड़कना)।
- उपमा: कल्पना कीजिए कि आप दो बहुत अलग मिट्टी की मूर्तियों को मिलाने की कोशिश कर रहे हैं। यदि आप केवल मिट्टी को खींचते हैं, तो वह फट सकती है। लेकिन यदि आप थोड़ा "जादुई धूल" (नॉइज़) जोड़ते हैं जो मिट्टी को अधिक स्वतंत्र रूप से बहने देती है, तो आप बिना तोड़े उसे पूरी तरह से नया आकार दे सकते हैं। यह शोर मॉडल को जटिल आकृतियों को सीखने में मदद करता है जिन्हें एक कठोर मॉडल नहीं संभाल सकता।

परिणाम

टीम ने नौ अलग-अलग वास्तविक दुनिया के परिदृश्यों पर इसका परीक्षण किया, जिनमें शामिल हैं:

बाइक रेंटल: लोग दिन के विभिन्न समयों पर कितनी बाइक किराए पर लेंगे, इसकी भविष्यवाणी करना।
ट्रैफिक: विभिन्न शहरों में ट्रैफिक की गति की भविष्यवाणी करना।
हेल्थकेयर: एक मरीज आईसीयू (ICU) में कितने समय तक रह सकता है, इसकी भविष्यवाणी करना।
महामारी: महामारी के विभिन्न चरणों के दौरान फ्लू के मामलों की भविष्यवाणी करना।

इन सभी मामलों में, जहाँ डेटा में "शिफ्ट" (बदलाव) आया था, उनकी विधि ने भविष्यवाणी सीमाओं को विश्वसनीय बनाए रखा। इसने न केवल औसत सफलता दर को बनाए रखा; इसने यह भी सुनिश्चित किया कि AI विशेष रूप से सबसे कठिन, असामान्य दिनों पर विफल न हो।

संक्षेप में

यह शोध पत्र कहता है: "केवल औसत पर भरोसा न करें। यदि आपका AI अजीब, नई स्थितियों का सामना करने वाला है, तो उसे एक प्रतिवर्ती अनुवादक (reversible translator) दें जो उन अजीब स्थितियों को परिचित स्थितियों में बदल सके, भविष्यवाणी कर सके, और फिर उत्तर को वापस मोड़ सके। यह आपके सुरक्षा जाल को मजबूत रखता है, भले ही आपके पैरों के नीचे की ज़मीन बदल रही हो।"

तकनीकी सारांश: ब्रैंच्ड नॉर्मलाइजिंग फ्लो के माध्यम से सुदृढ़ सशर्त कॉन्फॉर्मल प्रेडिक्शन (Robust Conditional Conformal Prediction via Branched Normalizing Flow)

1. समस्या विवरण (Problem Statement)

कॉन्फॉर्मल प्रेडिक्शन (CP) वितरण शिफ्ट (जहाँ परीक्षण वितरण $Q_{XY}$ , कैलिब्रेशन वितरण $P_{XY}$ से भिन्न होता है) की उपस्थिति में मार्जिनल कवरेज गारंटी प्रदान करता है, यह मानते हुए कि कैलिब्रेशन और परीक्षण डेटा स्वतंत्र और समान रूप से वितरित (i.i.d.) हैं। हालाँकि, मौजूदा विधियाँ आमतौर पर केवल मार्जिनल कॉन्फॉर्मल स्कोर वितरणों को संरेखित करती हैं। जबकि यह मार्जिनल कवरेज को बनाए रखता है, यह व्यक्तिगत परीक्षण इनपुट के लिए सशर्त कवरेज (conditional coverage) को नियंत्रित करने में विफल रहता है। फलस्वरूप, विशिष्ट क्षेत्रों में जहाँ सशर्त स्कोर वितरणات बेमेल होते हैं, CP सेट अविश्वसनीय हो सकते हैं, जिससे विशिष्ट इनपुट के लिए या तो अंडर-कवरेज (under-coverage) या अत्यधिक ओवर-कवरेज (over-coverage) हो सकता है। मुख्य चुनौती यह सुनिश्चित करना है कि बिना परीक्षण लेबल के ज्ञान के, संयुक्त वितरण शिफ्ट के तहत भी सुदृढ़ सशर्त कवरेज गारंटी ( $Pr(Y \in C(X) | X=x) \ge 1-\alpha$ ) सुनिश्चित की जा सके।

2. कार्यप्रणाली (Methodology)

प्रस्तावित समाधान वितरण शिफ्ट और सशर्त कवरेज क्षरण (degradation) के बीच संबंध स्थापित करने वाला एक सैद्धांतिक ढांचा और इसे कम करने के लिए एक नवीन आर्किटेक्चर पेश करता है।

सैद्धांतिक ढांचा (Theoretical Framework):

कंडीशनल कवरेज गैप (CCG): लेखक CCG को परिभाषित करते हैं ताकि $Q_{XY}$ के तहत परीक्षण इनपुट के सशर्त कवरेज और $P_{XY}$ के तहत गारंटी के बीच के अंतर को मापा जा सके।
इंटीग्रेटेड कवरेज गैप (ICG): इसे परीक्षण फीचर वितरण $Q_X$ पर CCG के प्रत्याशा (expectation) के रूप में परिभाषित किया गया है, जो एक समग्र सुदृढ़ता मीट्रिक के रूप में कार्य करता है।
वासरस्टीन बाउंड (Wasserstein Bound): शोध पत्र संयुक्त कैलिब्रेशन और परीक्षण वितरणों ( $P_{XY}$ और $Q_{XY}$ ) के बीच वासरस्टीन दूरी ( $W$ ) का उपयोग करके ICG के लिए एक ऊपरी बाउंड व्युत्पन्न करता है। विशेष रूप से, $ICG(P, Q) \le \sqrt{2\kappa L} (\eta \cdot W(P_{XY}, Q_{XY}) + 1/4)$ । यह बाउंड दर्शाता है कि वितरणों के बीच वासरस्टीन दूरी को कम करना सैद्धांतिक रूप से सुदृढ़ सशर्त कवरेज को बढ़ावा दे सकता है।

एल्गोरिदम: ब्रैंच्ड नॉर्मलाइजिंग फ्लो (BNF)
वासरस्टीन बाउंड को क्रियान्वित करने के लिए, लेखक ब्रैंच्ड नॉर्मलाइजिंग फ्लो (BNF) प्रस्तावित करते हैं, जो एक व्युत्क्रमणीय मैपिंग (invertible mapping) $f_\theta(x, y) = (f_{\theta_X}(x), f_{\theta_Y}(y))$ है जिसे परीक्षण वितरण $Q_{XY}$ को कैलिब्रेशन वितरण $P_{XY}$ से मिलाने के लिए डिज़ाइन किया गया है।

आर्किटेक्चर: BNF दो स्वतंत्र शाखाओं (branches) का उपयोग करता है। $X$ -शाखा ( $f_{\theta_X}$ ) परीक्षण इनपुट को सामान्य (normalize) करती है, जबकि $Y$ -शाखा ( $f_{\theta_Y}$ ) लेबल्स को रूपांतरित करती है। महत्वपूर्ण रूप से, शाखाएं पैरामीटर साझा नहीं करती हैं, यह सुनिश्चित करते हुए कि $X$ का रूपांतरण अनपेक्षित परीक्षण लेबल $Y$ पर निर्भर नहीं है।
अनुमान प्रक्रिया (Inference Process):
1. एक परीक्षण इनपुट $X_{n+1}$ को एक सामान्यीकृत इनपुट $\bar{X}_{n+1} = f_{\theta_X}(X_{n+1})$ में रूपांतरित करें।
2. कैलिब्रेशन वितरण $P_{XY}$ (जैसे, कॉन्फॉर्मलाइज्ड क्वांटाइल रिग्रेशन के माध्यम से) का उपयोग करके एक सशर्त प्रेडिक्शन सेट $CC(\bar{X}_{n+1})$ का निर्माण करें।
3. अंतिम सुदृढ़ प्रेडिक्शन सेट $C_{BNF}(X_{n+1})$ प्राप्त करने के लिए सेट को $f_{\theta_Y}^{-1}$ का उपयोग करके वापस टेस्ट स्पेस में रूपांतरित करें।
ऑगमेंटेड BNF (Augmented BNF): उन जटिल वितरणों को संभालने के लिए जहाँ यूनिवेरिएट मोनोटोनिक रूपांतरण (सरल व्युत्क्रम मैपिंग के लिए आवश्यक) अपर्याप्त हैं, लेखक ऑगमेंटेड BNF पेश करते हैं। यह संस्करण $Y$ -शाखा रूपांतरण ( $f_{\theta_Y}^{aug}(y; \epsilon)$ ) में एक स्टोकेस्टिक नॉइज़ घटक $\epsilon \sim \mathcal{N}(0,1)$ जोड़ता है। यह अभिव्यक्ति (expressiveness) को बढ़ाता है लेकिन अनुमान के दौरान प्रेडिक्शन सेट बनाने के लिए रूट-फाइंडिंग (root-finding) समस्या (या ग्रिड सर्च) को हल करने की आवश्यकता होती है, क्योंकि रूपांतरण अब पूरी तरह से मोनोटोनिक नहीं है।
मल्टी-सोर्स डोमेन जनरलाइजेशन (MSDG): उन परिदृश्यों में जहाँ परीक्षण वितरण $K$ स्रोत वितरणों का मिश्रण है, यह विधि समान मिक्सिंग वेट्स को मानते हुए, कैलिब्रेशन सेट और रूपांतरित स्रोत सेटों के बीच औसत वासरस्टीन दूरी को कम करती है।

3. प्रमुख योगदान (Key Contributions)

सुदृढ़ता का परिमाणीकरण (Quantification of Robustness): कंडीशनल कवरेज गैप (CCG) और इंटीग्रेटेड कवरेज गैप (ICG) की परिभाषा वितरण शिफ्ट के तहत सशर्त कवरेज सुदृढ़ता का मूल्यांकन करने के लिए एक सैद्धांतिक मीट्रिक प्रदान करती है।
सैद्धांतिक बाउंड (Theoretical Bound): संयुक्त वितरणों के बीच वासरस्टीन दूरी के संदर्भ में ICG के लिए एक ऊपरी बाउंड का व्युत्पन्न, जो ट्रांसपोर्ट मिनिमाइजेशन और सशर्त कवरेज संरक्षण के बीच एक सैद्धांतिक संबंध स्थापित करता है।
ब्रैंच्ड नॉर्मलाइजिंग फ्लो (BNF): एक दो-शाखा व्युत्क्रमणीय आर्किटेक्चर का परिचय जो परीक्षण इनपुट को कैलिब्रेशन जैसे वितरण में बदलने में सक्षम बनाता है, जिसमें परीक्षण लेबल की आवश्यकता नहीं होती है, जिससे व्युत्क्रम रूपांतरण पर सशर्त गारंटी बनी रहती है।
ऑगमेंटेड BNF: जटिल वितरणों के लिए फिटिंग क्षमता में सुधार के लिए स्टोकेस्टिक ऑग्मेंटेशन का उपयोग करते हुए एक विस्तार, जो मोनोटोनिसिटी के नुकसान के बावजूद सशर्त गारंटी को पुनः प्राप्त करने के तरीके के साथ जुड़ा हुआ है।

4. प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन मल्टी-सोर्स डोमेन जनरलाइजेशन (MSDG) सेटिंग्स के तहत सिंथेटिक शिफ्ट और वास्तविक दुनिया की चुनौतियों (बिक्री पूर्वानुमान, ट्रैफ़िक पूर्वानुमान, चिकित्सा निर्णय लेना और महामारी मॉडलिंग) को कवर करने वाले नौ डेटासेट पर किया गया था।

मीट्रिक्स: प्रदर्शन को मार्जिनल कवरेज, वर्स्ट-स्लाइस कवरेज (WSC), और प्रस्तावित वर्स्ट-स्लाइस कवरेज गैप (WSCG) का उपयोग करके मापा गया, जो अंडर- और ओवर-कवरेज दोनों को दंडित करता है।
निष्कर्ष:
- सुदृढ़ता (Robustness): ऑगमेंटेड BNF और कॉन्फॉर्मलाइज्ड क्वांटाइल रिग्रेशन (CQR) के संयोजन ने सभी डेटासेट और कॉन्फिडेंस लेवल के लिए लगातार सबसे कम WSCG प्राप्त किया, जो स्प्लिट CP, इम्पोर्टेंस-वेटेड CP, वर्स्ट-केस CP और वासरस्टीन-रेगुलराइज्ड CP सहित बेसलाइन से बेहतर रहा।
- कवरेज (Coverage): विधि ने लक्षित कॉन्फिडेंस लेवल ( $1-\alpha = 0.9$ ) के करीब मार्जिनल कवरेज और WSC बनाए रखा, जबकि सशर्त स्लाइस में लक्ष्य से विचलन को काफी कम कर दिया।
- दक्षता (Efficiency): जबकि मानक ऑगमेंटेड BNF ने स्रोत अनिश्चितता को ध्यान में रखते हुए बड़े प्रेडिक्शन सेट बनाए, एक "ऑगमेंट-कंडीशन्ड" वेरिएंट (जो अनुमान के दौरान ज्ञात स्रोत पर आधारित है) ने कवरेज बनाए रखते हुए सेट के आकार को काफी कम कर दिया।
- सामान्यीकरण (Generalization): विधि ने विभिन्न सैंपल साइज़, स्रोत डोमेन की संख्या ( $K$ ), और विभिन्न कॉन्फिडेंस लेवल के तहत सुदृढ़ता प्रदर्शित की।

5. महत्व और दावे (Significance and Claims)

यह शोध दावा करता है कि इसकी प्राथमिक महत्ता वितरण शिफ्ट के तहत कॉन्फॉर्मल प्रेडिक्शन के कंडीशनल कवरेज क्षरण (conditional coverage degradation) को संबोधित करने में है, जो कि मौजूदा मार्जिनल-केंद्रित विधियों द्वारा काफी हद तक अनछुआ है। संयुक्त वितरण के माध्यम से वासरस्टीन दूरी के जरिए कंडीशनल इनवैलिडिटी को बाउंड करके और इसे एक व्युत्क्रमणीय ब्रैंच्ड फ्लो के माध्यम से लागू करके, यह कार्य यह सुनिश्चित करने के लिए एक सैद्धांतिक रूप से पुष्ट और अनुभवजन्य रूप से प्रभावी तंत्र प्रदान करता है कि अनिश्चितता का परिमाणन (uncertainty quantification) व्यक्तिगत परीक्षण इनपुट के लिए विश्वसनीय बना रहे, भले ही डेटा वितरण बदल जाए। लेखक इसे सुरक्षित AI अनुप्रयोगों (जैसे स्वास्थ्य सेवा, ट्रैफ़िक, महामारी मॉडलिंग) की दिशा में एक कदम के रूप में देखते हैं जहाँ वितरण शिफ्ट अपरिहार्य हैं और सशर्त विश्वसनीयता सर्वोपरि है।

यह शोध सीमाओं को भी स्वीकार करता है, जिसमें ऑगमेंटेड BNF में रूट-फाइंडिंग की कम्प्यूटेशनल लागत, प्रेडिक्शन सेट्स की स्टोकेस्टिक प्रकृति, और मल्टीवेरिएट इनपुट के लिए आर्किटेक्चरल बाधाएं शामिल हैं। यह यह भी नोट करता है कि हालांकि कैलिब्रेशन डेटा का उपयोग फ्लो ट्रेनिंग के लिए किया जाता है (एक संभावित ट्यूनिंग बायस), एब्लेशन अध्ययन बताते हैं कि व्यवहार में इसका प्रभाव न्यूनतम है।