📊 statistics

Estimate Level Adjustment For Inference With Proxies Under Random Distribution Shifts

यह शोध पत्र एक नवीन अनुमान-स्तर (estimate-level) ढांचे को प्रस्तुत करता है जो संचित ऐतिहासिक डेटा से प्राप्त यादृच्छिक प्रभावों (random effects) के रूप में प्रॉक्सी-प्राथमिक विसंगतियों को मॉडल करके, यादृच्छिक वितरण परिवर्तनों के तहत प्रॉक्सी-आधारित सांख्यिकीय अनुमान को अनुभवजन्य रूप से कैलिब्रेट करता है, जिससे व्यक्तिगत-स्तरीय प्रतिक्रिया डेटा या सख्त पहचान संबंधी धारणाओं की आवश्यकता के बिना पूर्वाग्रहों को सुधारा जा सके।

मूल लेखक: Steven Wilkins-Reeves, Alexandra N. M. Darmon, Deeksha Sinha

प्रकाशित 2026-05-08

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Steven Wilkins-Reeves, Alexandra N. M. Darmon, Deeksha Sinha

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

बड़ी समस्या: "शॉर्टकट" का जाल

कल्पना कीजिए कि आप एक किसान हैं जो कटाई के समय अपने कद्दू के अंतिम वजन का अनुमान लगाने की कोशिश कर रहे हैं। एक विशाल कद्दू को तौलना कठिन, गंदा और समय लेने वाला काम है। इसलिए, आप कद्दू की परिधि (circumference) मापने का निर्णय लेते हैं। आप जानते हैं कि बड़ी परिधि का मतलब आमतौर पर अधिक वजन होता है, इसलिए आप आकार के आधार पर वजन का अनुमान लगाने के लिए एक फॉर्मूले का उपयोग करते हैं।

वैज्ञानिक और कंपनियाँ अक्सर यही करती हैं। वे वास्तविक चीज़ (primary outcome) को सीधे मापना कठिन या महंगा होने के कारण, उसका अनुमान लगाने के लिए एक प्रॉक्सी (proxy) (जैसे परिधि) का उपयोग करते हैं।

पेंच यहाँ है: यह फॉर्मूला एकदम सटीक नहीं होता। कभी-कभी कद्दू चौड़ा तो होता है लेकिन हल्का (हवा से भरा हुआ), और कभी-कभी वह संकरा लेकिन भारी (सघन) होता है। यदि आप केवल अपने परिधि वाले फॉर्मूले पर भरोसा करते हैं, तो आपको लग सकता है कि आपके कद्दू वास्तव में जितने भारी हैं, उससे कहीं अधिक भारी हैं। यदि आप एक "कॉन्फिडेंस इंटरवल" (एक ऐसी सीमा जहाँ आप 95% सुनिश्चित हैं कि वजन उसी के बीच होगा) बनाते हैं, तो वह बहुत संकीर्ण (narrow) हो सकता है। आप बहुत अधिक आत्मविश्वासी हो सकते हैं, और आपका अनुमान गलत हो सकता है। उदाहरण के लिए, आप "95% सुनिश्चित" हो सकते हैं कि कद्दू का वजन 10 पाउंड है, लेकिन वास्तव में उसका वजन 15 पाउंड हो सकता है। आप अति-आत्मविश्वासी हैं, और आपका अनुमान गलत है।

पेपर का समाधान: "इतिहास की जाँच" (The History Check)

लेखक, स्टीवन विल्किंस-रीव्स और उनके सहयोगियों ने, बिना पिछले हर एक कद्दू को दोबारा तौले, इस अति-आत्मविश्वास को ठीक करने का एक तरीका प्रस्तावित किया है।

आमतौर पर, एक खराब फॉर्मूले को ठीक करने के लिए, आपको पुराने डेटा (पिछले साल के वास्तविक वजन और परिधि) को देखना पड़ता है ताकि यह देखा जा सके कि फॉर्मूला कितना गलत था। लेकिन अक्सर, कंपनियाँ जगह बचाने के लिए विस्तृत व्यक्तिगत डेटा को हटा देती हैं; वे केवल सारांश संख्याएँ (summary numbers) रखती हैं (जैसे, "पिछले महीने, अनुमानित औसत वजन 10 पाउंड था, और वास्तविक औसत वजन 12 पाउंड था")।

लेखक कहते हैं: "हमें व्यक्तिगत कद्दूों की आवश्यकता नहीं है। हमें बस अतीत के सारांश आंकड़ों की आवश्यकता है।"

उन्होंने एक ऐसा तरीका बनाया है जो गलतियों के इतिहास को देखता है।

अतीत को देखें: वे कई पिछले प्रयोगों या समय अवधियों से सारांश अनुमान एकत्र करते हैं।
"बायस" (Bias) को मापें: वे गणना करते हैं कि उन पिछले परिदृश्यों में प्रॉक्सी (परिधि) वास्तविक चीज़ की तुलना में लगातार कितनी चूक गई थी।
जाल को चौड़ा करें: वे वर्तमान भविष्यवाणी के लिए कॉन्फिडेंस इंटरवल को "फुलाने" (चौड़ा करने) के लिए इस इतिहास के गलतियों का उपयोग करते हैं।

उपमा: मौसम विज्ञानी (The Weather Forecaster)

एक मौसम विज्ञानी के बारे में सोचें जो बादलों के आवरण (प्रॉक्सी) के आधार पर बारिश की भविष्यवाणी करता है।

पुराना तरीका: मौसम विज्ञानी आज के बादलों को देखता है और कहता है, "बारिश की 95% संभावना है।" लेकिन वे इस बात को नजरअंदाज कर देते हैं कि उनका बादल मापने वाला उपकरण पिछले 10 वर्षों से थोड़ा गलत चल रहा है।
नया तरीका (यह पेपर): मौसम विज्ञानी पिछले 10 वर्षों की लॉगबुक देखता है। वे देखते हैं कि जब भी उपकरण ने "95% संभावना" कही, वास्तव में केवल 80% बार ही बारिश हुई थी।
समायोजन (Adjustment): "95% संभावना" कहने के बजाय, मौसम विज्ञानी कहता है, "हमारी गलतियों के इतिहास के आधार पर, आइए हम अपने जाल को चौड़ा करें। हम वास्तव में केवल 80% निश्चित हैं।"

पेपर का तरीका गणितीय रूप से बिल्कुल यही करता है। यह पिछले प्रयोगों के "सारांश लॉग" लेता है, गणना करता है कि प्रॉक्सी वास्तविकता से कितनी दूर भटक जाती है, और उस "भटकाव" (drift) को वर्तमान अनिश्चितता गणना में जोड़ देता है।

गणित के दो तरीके

पेपर दो उपकरण प्रदान करता है जो इस बात पर निर्भर करते हैं कि आपके पास कितना इतिहास है:

"बड़ा इतिहास" टूल (मेथड ऑफ मोमेंट्स): यदि आपके पास कई पिछले प्रयोगों (जैसे 25 अलग-अलग वर्ष) का डेटा है, तो आप गलतियों को औसत निकालने और अपने वर्तमान अंतराल को चौड़ा करने के लिए एक सरल फॉर्मूले का उपयोग कर सकते हैं।
"छोटा इतिहास" टूल (डोमेन बूटस्ट्रैप): यदि आपके पास केवल कुछ ही पिछले प्रयोग हैं (जैसे 5 वर्ष), तो गणित अस्थिर हो जाता है। इस स्थिति में, लेखक एक "रीसैंपलिंग" (resampling) तकनीक का सुझाव देते हैं। कल्पना कीजिए कि आप अपने पिछले 5 वर्षों को लेते हैं, उन्हें इधर-उधर मिलाते हैं, और यह मान लेते हैं कि वे इतिहास के अलग सेट हैं ताकि यह देखा जा सके कि उत्तर कैसे बदलता है। यह सुनिश्चित करने में मदद करता है कि आप छोटे डेटासेट के किसी संयोग (fluke) से धोखा न खा जाएं।

वास्तविक दुनिया के परीक्षण

लेखकों ने इस विचार का दो वास्तविक परिदृश्यों में परीक्षण किया:

विषाक्त टिप्पणियाँ (Toxic Comments): उन्होंने अनुमान लगाने की कोशिश की कि वेबसाइट पर कितनी टिप्पणियाँ "विषाक्त" थीं। उन्होंने अनुमान लगाने के लिए एक AI मॉडल (प्रॉक्सी) का उपयोग किया क्योंकि मनुष्य सब कुछ नहीं पढ़ सकते। AI अक्सर विशिष्ट तरीकों से गलत था। उनके समायोजन का उपयोग करके, "सुरक्षा जाल" (कॉन्फिडेंस इंटरवल) अधिक विस्तृत और सटीक हो गया, जिससे वास्तविक विषाक्तता दर अधिक बार पकड़ी गई।
दीर्घकालिक प्रयोग: उन्होंने उन व्यावसायिक प्रयोगों को देखा जहाँ वास्तविक परिणाम दिखने में लंबा समय लगता है। उन्होंने अल्पकालिक भविष्यवाणी को प्रॉक्सी के रूप में उपयोग किया। फिर से, समायोजन ने अति-आत्मविश्वास को ठीक करने में मदद की, यह सुनिश्चित करते हुए कि जब वे किसी प्रयोग को सफल मानते थे, तो वे वास्तव में सही थे।

निष्कर्ष (The Bottom Line)

यह पेपर प्रॉक्सी (शॉर्टकट) को पूर्ण बनाने की कोशिश नहीं करता है। इसके बजाय, यह स्वीकार करता है कि शॉर्टकट त्रुटिपूर्ण है और यह बताने के लिए पिछले गलतियों का उपयोग करता है कि आज आपको शॉर्टकट पर कितना भरोसा करना चाहिए।

यदि प्रॉक्सी आमतौर पर सटीक है: तो समायोजन छोटा होगा, और आप बहुत अधिक सटीकता नहीं खोते हैं।
यदि प्रॉक्सी आमतौर पर गलत है: तो समायोजन आपके कॉन्फिडेंस इंटरवल को बहुत चौड़ा कर देगा, जो चेतावनी देता है, "हे, सावधान रहें, आंकड़े गलत हो सकते हैं।"

यह एक सुरक्षा तंत्र है जो एक संभावित रूप से खतरनाक, अति-आत्मविश्वासी अनुमान को एक विश्वसनीय, सतर्क अनुमान में बदल देता है, और यह केवल उस सारांश डेटा का उपयोग करता है जिसे कंपनियाँ पहले से ही रखती हैं।

तकनीकी सारांश: रैंडम डिस्ट्रीब्यूशन शिफ्ट के तहत प्रॉक्सी के साथ इन्फरेंस के लिए एस्टीमेट लेवल एडजस्टमेंट

समस्या विवरण
वैज्ञानिक और औद्योगिक प्रयोगों में, शोधकर्ता अक्सर प्राथमिक परिणामों (primary outcomes) के बारे में निष्कर्ष निकालने के लिए प्रॉक्सी परिणामों (जैसे, अल्पकालिक मेट्रिक्स, सरोगेट एंडपॉइंट्स, या मॉडल प्रेडिक्शन) पर निर्भर करते हैं, जिन्हें मापना कठिन, महंगा या विलंबित हो सकता है। जबकि प्रॉक्सी तेज़ निर्णय लेने की सुविधा प्रदान करते हैं, प्रॉक्सी डेटा से प्राप्त सांख्यिकीय गारंटी (जैसे, अनबायस्डनेस या वैध कॉन्फिडेंस इंटरवल) स्वतः ही प्राथमिक एस्टिमैंड (primary estimand) पर लागू नहीं होती हैं।

प्रॉक्सी बायस को ठीक करने वाली मौजूदा विधियाँ (जैसे, सरोगसी धारणाएँ, कोवेरिएट शिफ्ट एडजस्टमेंट, या प्रेडिक्शन-पावर्ड इन्फरेंस - PPI) सख्त आइडेंटिफाइंग धारणाओं (identifying assumptions) पर निर्भर करती हैं। ये धारणाएँ अक्सर सत्यापन के लिए कठिन होती हैं और अनऑब्जर्व्ड डिस्ट्रीब्यूशन शिफ्ट (जैसे, कॉन्सेप्ट ड्रिफ्ट) द्वारा बाधित हो सकती हैं। जब ऐसी धारणाएँ विफल होती हैं, तो प्रॉक्सी-आधारित कॉन्फिडेंस इंटरवल व्यवस्थित रूप से मिसकैलिब्रेटेड हो सकते हैं, जिससे बायस्ड पैरामीटर एस्टीमेट्स और वास्तविक प्राथमिक पैरामीटर के अंडर-कवरेज का जोखिम बढ़ जाता है। एक महत्वपूर्ण व्यावहारिक बाधा यह है कि मॉडलों को फिर से फिट या री-कैलिब्रेट करने के लिए आवश्यक व्यक्तिगत-स्तर का ऐतिहासिक डेटा अक्सर उपलब्ध नहीं होता है; आमतौर पर केवल एग्रीगेट मेट्रिक एस्टीमेट्स और अनसर्टेटी समरी ही रिटेन किए जाते हैं।

कार्यप्रणाली (Methodology)
लेखक व्यक्तिगत-स्तर के ऐतिहासिक डेटा की आवश्यकता के बिना प्रॉक्सी-आधारित इन्फरेंस को अनुभवजन्य रूप से कैलिब्रेट करने के लिए एक जेनेरिक, एस्टीमेट-लेवल फ्रेमवर्क प्रस्तावित करते हैं। मुख्य दृष्टिकोण अवशेष बायस (residual bias) को एक लेटेंट रैंडम वेरिएबल के रूप में मानता है।

लेटेंट-बायस मॉडल:
विधि यह मानती है कि $K$ डोमेन (जहाँ $K-1$ ऐतिहासिक ट्रेनिंग डोमेन हैं और $K$ टारगेट डोमेन है) में, प्रॉक्सी एस्टीमेटर ( $\hat{\theta}^*_k$ ) और प्राइमरी एस्टीमेटर ( $\hat{\theta}_k$ ) के बीच का अंतर एक एडिटिव गॉसियन बायस मॉडल का पालन करता है:
$\phi_k := \theta^*_k - \theta_k \sim N(\rho, \gamma^2)$
यहाँ, $\rho$ औसत बायस (mean bias) को दर्शाता है और $\gamma^2$ बायस के बिटवीन-डोमेन वेरिएंस (between-domain variance) को दर्शाता है। यह फॉर्मूलेशन विधि को केवल ऐतिहासिक एग्रीगेट एस्टीमेट्स और उनके कोवेरिएंस स्ट्रक्चर का उपयोग करके अवशेष प्रॉक्सी बायस के वितरण को मॉडल करने की अनुमति देता है।
मेथड-ऑफ-मोमेंट्स के माध्यम से एस्टीमेशन:
ऐतिहासिक डोमेन का उपयोग करते हुए, लेखक डोमेन के भीतर के अंतर $d_k = \hat{\theta}^*_k - \hat{\theta}_k$ को परिभाषित करते हैं। वे बायस डिस्ट्रीब्यूशन पैरामीटर्स $(\rho, \gamma^2)$ के लिए एक मेथड-ऑफ-मोमेंट्स एस्टीमेटर व्युत्पन्न करते हैं:

$\hat{\rho} = \frac{1}{K-1} \sum d_k$
$\hat{\gamma}^2 = \frac{1}{K-1} \sum (d_k - \hat{d})^2 - \frac{1}{K-1} \sum \tilde{\sigma}^2_k$
जहाँ $\tilde{\sigma}^2_k$ अंतर $d_k$ के अनुमानित वेरिएंस का प्रतिनिधित्व करता है। फिनिट-सैंपल नॉइज़ को संभालने के लिए $\hat{\gamma}^2$ को शून्य पर ट्रंकेट किया जाता है।

इन्फरेंस और एडजस्टमेंट:

लार्ज $K$ (प्लग-इन): जब ऐतिहासिक डोमेन की संख्या अधिक होती है, तो अनुमानित बायस पैरामीटर्स को ज्ञात माना जाता है। विधि लक्षित प्राथमिक मेट्रिक $\theta_K$ के लिए एक वाल्ड-स्टाइल (Wald-style) कॉन्फिडेंस इंटरवल बनाने के लिए उपयोग करती है, जो डीबायस्ड एस्टीमेट $(\hat{\theta}^*_K - \hat{\rho})$ पर केंद्रित होता है और बिटवीन-डोमेन बायस वेरिएंस ( $\hat{\gamma}^2$ ) को शामिल करने के लिए वेरिएंस को इन्फ्लेट करता है।
स्मॉल $K$ (डोमेन बूटस्ट्रैप): जब ऐतिहासिक डोमेन सीमित होते हैं, तो $(\hat{\rho}, \hat{\gamma}^2)$ में अनसर्टेटी कवरेज को प्रभावित कर सकती है। लेखक एक डोमेन बूटस्ट्रैप प्रक्रिया प्रस्तावित करते हैं जो अनसर्टेटी को प्रोपेगेट करने के लिए ऐतिहासिक डोमेन को री-सैंपल करती है, जिससे लक्षित पैरामीटर के लिए एक एम्पिरिकल डिस्ट्रीब्यूशन उत्पन्न होता है।

इवैल्यूएशन प्रोटोकॉल:
लेखक इंटरवल कैलिब्रेशन का मूल्यांकन करने के लिए "लीव-वन-डोमेन-आउट" (LOO) डायग्नोस्टिक पेश करते हैं। प्रत्येक ऐतिहासिक डोमेन को एक टारगेट के रूप में मानकर (उसका प्राइमरी आउटकम छिपाकर) और यह जाँचकर कि क्या एडजस्ट किया गया प्रॉक्सी इंटरवल वास्तविक प्राइमरी इंटरवल के साथ ओवरलैप होता है, यह विधि मिस-कैलिब्रेशन के लिए एक कंजर्वेटिव, ऑब्जर्वेबल प्रॉक्सी प्रदान करती है।

प्रमुख योगदान

प्रॉक्सी बायस के लिए जेनेरिक फ्रेमवर्क: पेपर प्रॉक्सी एस्टीमेटर्स में निहित बायस को एक लेटेंट वेरिएबल समस्या के रूप में औपचारिक रूप देता है, जो सैंपलिंग डिस्ट्रीब्यूशन की जॉइंट नॉर्मलिटी को मानता है। यह सख्त आइडेंटिफाइंग धारणाओं के बिना अवशेष बायस के लक्षण वर्णन की अनुमति देता है।
स्केलेबल एडजस्टमेंट प्रक्रिया: लेखक एक क्लोज्ड-फॉर्म मेथड-ऑफ-मोमेंट्स एस्टीमेटर और एक डोमेन बूटस्ट्रैप प्रक्रिया पेश करते हैं जो केवल ऐतिहासिक एग्रीगेट एस्टीमेट्स पर निर्भर करते हैं। यह उन सेटिंग्स में स्केलेबल डिप्लॉयमेंट को सक्षम बनाता है जहाँ व्यक्तिगत-स्तर का डेटा उपलब्ध नहीं है।
सिलेक्टिव इन्फ्लेशन और एम्पिरिकल वैलिडेशन: यह विधि एक पोस्ट-प्रोसेसिंग स्टेप के रूप में कार्य करती है जो केवल तभी कॉन्फिडेंस इंटरवल को चुनिंदा रूप से इन्फ्लेट करती है जब ऐतिहासिक डायग्नोस्टिक्स अंडर-कवरेज का संकेत देते हैं। व्यापक सिमुलेशन और वास्तविक दुनिया के अनुप्रयोग दर्शाते हैं कि यह दृष्टिकोण विभिन्न प्रॉक्सी प्रक्रियाओं और डिस्ट्रीबशन शिफ्ट्स के तहत कैलिब्रेशन और कवरेज में सुधार करता है।

परिणाम

सिमुलेशन: कोवेरिएट शिफ्ट और कॉन्सेप्ट ड्रिफ्ट वाले मल्टी-डोमेन सिमुलेशन में, अन-एडजस्टेड प्रॉक्सी एस्टीमेटर्स ने लगातार अंडर-कवरेज दिखाया। जबकि मानक सुधार (जैसे, वेटेड PPI) स्थिर सेटिंग्स में कैलिब्रेशन में सुधार करते थे, वे स्ट्रॉन्ग कॉन्सेप्ट ड्रिफ्ट के तहत खराब प्रदर्शन करते थे। प्रस्तावित रैंडम-बायस एडजस्टमेंट ने सभी ड्रिफ्ट लेवल्स के तहत कवरेज को स्थिर कर दिया। विशेष रूप से, उच्च अवशेष बायस वाले एस्टीमेटर्स के लिए, सैंपल साइज बढ़ने के साथ इंटरवल की लंबाई स्थिर (plateau) हो गई, जो सही ढंग से दर्शाता है कि अनसर्टेटी सैंपलिंग नॉइज़ के बजाय क्रॉस-डोमेन बायस द्वारा नियंत्रित थी।
वास्तविक दुनिया के अनुप्रयोग:
- सिविल कमेंट्स डेटासेट: वेब पब्लिकेशन्स में टॉक्सिक कमेंट्स की व्यापकता का अनुमान लगाने में, एडजस्टेड प्रॉक्सी इंटरवल्स ने वास्तविक प्राइमरी इंटरवल्स के साथ ओवरलैप रेट को 0.64 से बढ़ाकर 0.96 ( $\alpha=0.05$ पर) कर दिया, जिसके साथ नॉर्मलाइज्ड इंटरवल विड्थ 0.5 से बढ़कर 1.3 हो गई।
- लॉन्ग-टर्म एक्सपेमेंट्स: मॉडल-प्रेडिक्टेड प्रॉक्सी का उपयोग करके एवरेज ट्रीटमेंट इफेक्ट्स (ATE) का अनुमान लगाने में, एडजस्टमेंट ने ओवरलैप रेट को 0.68 से बढ़ाकर 1.0 कर दिया। विधि ने उन प्रयोगों में अनसर्टेटी को प्रभावी ढंग से इन्फ्लेट किया जहाँ सैंपलिंग वेरिएबिलिटी की तुलना में अवशेष बायस बड़ा था।

महत्ता और दावे
पेपर व्यक्तिगत-स्तर के ऐतिहासिक डेटा की अनुपस्थिति में प्रॉक्सी-आधारित इन्फरेंस की विश्वसनीयता में सुधार करने के लिए एक व्यावहारिक, मॉड्यूलर समाधान प्रदान करने का दावा करता है। अवशेष बायस को एक रैंडम इफेक्ट के रूप में मॉडल करके, यह विधि एक "सेफ्टी नेट" के रूप में कार्य करती है जो मानक आइडेंटिफाइंग धारणाओं (जैसे, कोवेरिएट शिफ्ट या सरोगसी) के उल्लंघन के लिए एडजस्ट करती है।

लेखक इस बात पर जोर देते हैं कि यह दृष्टिकोण स्वयं प्रॉक्सी एस्टीमेटर को बेहतर नहीं बनाता है, बल्कि इसके साथ जुड़ी अनसर्टेटी क्वांटिफिकेशन (uncertainty quantification) को बेहतर बनाता है। इसे मौजूदा करेक्शन मेथड्स (जैसे, PPI या इम्पॉर्टेंस वेटिंग) के ऊपर एक लेयर के रूप में लगाया जा सकता है। इसकी महत्ता ओवरकॉन्फिडेंट प्रॉक्सी इन्फरेंस से होने वाले फॉल्स पॉजिटिव को रोकने की क्षमता में निहित है, जिससे बड़े पैमाने के प्रयोगों और वैज्ञानिक डोमेन में सुरक्षित और अधिक कठोर निर्णय लेना संभव होता है जहाँ प्राथमिक परिणाम विलंबित या अनऑब्जर्वेबल होते हैं। लेखक विनम्रतापूर्वक नोट करते हैं कि विधि की प्रभावशीलता ऐतिहासिक डोमेन की सूचनात्मकता (informativeness) पर निर्भर करती है और गॉसियन बायस धारणा जटिल बायस पैटर्न के लिए समृद्ध मॉडल की आवश्यकता वाले एक वर्किंग एप्रोक्सिमेशन के रूप में कार्य करती है।