Focused median bias reduction

तकनीकी सारांश: केंद्रित माध्यिका पूर्वाग्रह न्यूनीकरण (Focused Median Bias Reduction)

समस्या विवरण
अधिकतम संभावना अनुमानक (Maximum likelihood estimators - MLEs) अपनी निरंतरता (consistency) और स्पर्शोन्मुखी दक्षता (asymptotic efficiency) के कारण सांख्यिकीय अभ्यास में मानक हैं। हालांकि, परिमित नमूनों में—विशेष रूप से छोटे से मध्यम नमूना आकार, उच्च-आयामी मापदंडों, या प्रतिबंधित मापदंड स्थानों के साथ—MLEs अक्सर महत्वपूर्ण पूर्वाग्रह (bias) प्रदर्शित करते हैं। जबकि माध्य पूर्वाग्रह न्यूनीकरण विधियाँ (जैसे, Firth, 1993) अच्छी तरह से स्थापित हैं, विषम वितरणों या प्रतिबंधित श्रेणियों वाले मापदंडों के लिए माध्यिका पूर्वाग्रह (median bias) अधिक उपयुक्त होता है, क्योंकि यह अति-अनुमान और अल्प-अनुमान की समान संभावनाओं को सुनिश्चित करता है और एकल-दिष्ट परिवर्तनों (monotone transformations) के तहत अपरिवर्तनीय रहता है।

"फोकस मापदंडों" (एक चुने गए संदर्भ पैरामीट्राइजेशन के सुचारू अदिश रूपांतरण) के माध्यिका पूर्वाग्रह न्यूनीकरण के लिए मौजूदा विधियाँ पर्याप्त सीमाएँ सामना करती हैं। निहित विधियाँ (Implicit methods), जैसे कि संशोधित हस्ताक्षरित संभावना मूल (modified signed likelihood root) या समायोजित प्रोफाइल स्कोर (Kenne Pagui etal., 2017) पर आधारित, अनुमानित समीकरणों के गैर-रेखीय प्रणालियों को हल करने, पूर्णतः निर्दिष्ट उप-मापदंड (nuisance parameterization) और बार-बार बाधित अनुकूलन (constrained optimization) की मांग करती हैं। ये दृष्टिकोण गणनात्मक रूप से श्रमसाध्य, बीजगणितीय रूप से जटिल और संख्यात्मक रूप से नाजुक हैं, विशेष रूप से तब जब फोकस मापदंड कैनोनिकल पैरामीट्राइजेशन के घटक नहीं होते हैं।

कार्यप्रणाली
लेखक एक चुने गए संदर्भ पैरामीट्राइजेशन के सुचारू अदधल रूपांतरण के रूप में परिभाषित फोकस मापदंडों के लिए एक स्पष्ट माध्यिका पूर्वाग्रह-सुधारित अनुमानक (explicit median bias-corrected estimator) प्रस्तावित करते हैं। कार्यप्रणाली केंद्रित और स्केल्ड MLE के कॉर्निश-फिशर विस्तार (Cornish-Fisher expansion) पर आधारित है।

1. ओरेकल अनुमानक (Oracle Estimator): सैद्धांतिक रूप से, एक तृतीय-क्रम का माध्यिका निष्पक्ष अनुमानक $\tilde{\psi}^{(o)}$ बनाया जा सकता है यदि फोकस मापदंड का पूर्वाग्रह $B(\psi)$, विचरण $K_2$, और तृतीय संचयी क्षण (third cumulant) $K_3$ ज्ञात हो। विस्तार इस प्रकार है:
   $$\tilde{\psi}^{(o)} = \hat{\psi} - B(\psi) + \frac{1}{6}\frac{K_3}{K_2}$$
   जहाँ $\hat{\psi}$ फोकस मापदंड का मानक MLE है।

2. गैर-ओरेकल अनुमानक (Non-Oracle Estimator): चूंकि $B(\psi)$, $K_2$, और $K_3$ शायद ही कभी बंद रूप (closed form) में उपलब्ध होते हैं, लेखक गैर-ओरेकल संस्करण प्राप्त करते हैं जहाँ इन मात्राओं को एक प्रारंभिक अनुमानक (आमतौर पर MLE या एक न्यूनीकृत माध्य-पूर्वाग्रह अनुमानक) पर मूल्यांकित किए गए उनके स्पर्शोन्मुखी सन्निकटन द्वारा प्रतिस्थापित किया जाता है। $B(\psi)$ को संदर्भ पैरामीटर वेक्टर के पूर्वाग्रह विस्तार के अग्रणी पद का उपयोग करके अनुमानित किया जाता है, जिसमें रूपांतरण का ग्रेडिएंट और हेसियन (Hessian) तथा लॉग-लाइक्लीहुड डेरिवेटिव्स के उत्पादों ($P_t$ और $Q_t$ मैट्रिसेस) की अपेक्षाएं शामिल हैं।

3. गणना (Computation): आवश्यक अपेक्षाएं ($P_t, Q_t$) कई मानक मॉडलों (जैसे, GLMs, घातीय परिवारों) के लिए बंद रूप में उपलब्ध हैं। सामान्य मॉडलों के लिए, लेख में प्रदर्शित किया गया है कि इन मात्राओं को मोंटे कार्लो सिमुलेशन (Monte Carlo simulation) के माध्यम से कुशलतापूर्वक अनुमानित किया जा सकता है, जिसके लिए केवल लॉग-लाइक्लीहुड फंक्शन और एक सिमुलेशन तंत्र की आवश्यकता होती है।

4. अनुमान (Inference): सुधारा गया अनुमानक तृतीय-क्रम का माध्यिका निष्पक्ष (median unbiased) है। लेख इसे हल-आधारित कॉन्फिडेंस (Hull-based Confidence - HulC) प्रक्रियाओं (Kuchibhotla etal., 2024) के साथ एकीकृत करता है। डेटा विभाजनों के भीतर सुधार लागू करके, यह विधि बिना किसी स्पष्ट विचरण अनुमान या सीमित वितरण धारणाओं की आवश्यकता के, लगभग-नाममात्र परिमित-नमूना कवरेज प्राप्त करती है, बशर्ते कि माध्यिका पूर्वाग्रह नियंत्रित हो।

प्रमुख योगदान

• स्पष्ट सूत्रीकरण (Explicit Formulation): यह शोध पत्र फोकस मापदंडों के लिए एक सीधा, स्पष्ट सूत्र प्रदान करता है जो समायोजित स्कोर समीकरणों को हल करने की आवश्यकता वाली निहित विधियों से बचता है।
• लचीलापन (Flexibility): यह विधि चुने गए संदर्भ पैरामीट्राइजेशन के लिए प्रत्येक विशिष्ट फोकस हेतु अलग से उप-मापदंड (nuisance parameterization) की आवश्यकता के बिना, मनमाने सुचारू अदधल फोकस मापदंडों (जैसे, महलानोबिस दूरी, क्वांटाइल्स, मार्जिनल प्रभाव, ऑर्डिनल सुपिरियोरिटी मेजर्स) को समायोजित करती है।
• गणनात्मक दक्षता (Computational Efficiency): यह निहित विधियों की तुलना में गणनात्मक बोझ को काफी कम कर देता है। जब फोकस मापदंड संदर्भ पैरामीट्राइजेशन के घटक होते हैं, तो स्पष्ट सुधार को Kenne Pagui et al. (2017) के निहित माध्यिका पूर्वाग्रह-न्यूनीकृत अनुमानक की ओर एक क्वाजी-फिशर स्कोरिंग स्टेप (one quasi-Fisher scoring step) के बराबर दिखाया गया है।
• सिमुलेशन-आधारित कार्यान्वयन (Simulation-Based Implementation): ढांचा उन मॉडलों के लिए एक व्यावहारिक दृष्टिकोण शामिल करता है जहाँ लाइक्लीहुड मात्राओं के विश्लेषणात्मक डेरिवेटिव उपलब्ध नहीं हैं, जिसमें आवश्यक पूर्वाग्रह और संचयी (cumulant) पदों का अनुमान लगाने के लिए मोंटे कार्लो सिमुलेशन का उपयोग किया जाता है।
• तुल्यता गुण (Equivariance Properties): हालांकि स्पष्ट अनुमानक पुन: पैरामीट्राइजेशन के तहत सटीक रूप से तुल्य (equivariant) नहीं है (MLE या निहित विधियों के विपरीत), यह फोकस मापदंड के एकल-दिष्ट रूपांतरणों के तहत तृतीय-क्रम की माध्यिका निष्पक्षता को बनाए रखता है।

परिणाम
लेखक व्यापक सिमुलेशन और वास्तविक-डेटा उदाहरणों के माध्यम से ढांचे को मान्य करते हैं:

• महलानोबिस दूरी (Mahalanobis Distance): बहुभिन्नरूपी सामान्य सेटिंग्स में, सुधारा गया अनुमानक अल्प-अनुमान की संभावना को काफी कम कर देता है (इसे 50% के करीब लाता है) और MLE की तुलना में परिमित-नमून माध्य पूर्वाग्रह और RMSE में सुधार करता है।
• सामान्यीकृत रैखिक मॉडल (GLMs): व्यक्तिगत मार्जिनल प्रभावों के लिए प्रोबिट रिग्रेशन में, यह विधि माध्यिका पूर्वाग्रह को लगभग पूरी तरह से ठीक करती है। हालांकि इससे माध्य पूर्वाग्रह और RMSE में मामूली वृद्धि होती है, यह अन-सुधारित या माध्य-पूर्वाग्रह-सुधारित अनुमानकों पर आधारित वाल्ड-टाइप अंतराल की तुलना में, नाममात्र कवरेज के साथ HulC अंतरालों का निर्माण सक्षम बनाती है।
• वेबुल क्वांटाइल्स (Weibull Quantiles): क्वांटाइल अनुमान के लिए, स्पष्ट सुधार $r^*$-आधारित अनुमानक (जो संशोधित हस्ताक्षरित संभावना मूल को हल करता है) के तुल्य प्रदर्शन करता है, लेकिन बहुत कम गणनात्मक लागत के साथ, क्योंकि यह बार-बार बाधित अनुकूलन और स्प्लाइन इंटरपोलेशन से बचता है।
• ऑर्डिनल रिग्रेशन (Ordinal Regression): डेटा सेपरेशन के मामलों में जहाँ MLE अनंत होते हैं, यह विधि ऑर्डिनल सुपिरियोरिटी मेजर्स के परिमित, माध्यिका पूर्वाग्रह-सुधारित अनुमान उत्पन्न करने के लिए एक न्यूनीकृत माध्य-पूर्वाग्रह प्रारंभिक अनुमानक (जैसे, Firth का अनुमानक) का उपयोग करती है।
• फोकस्ड इंफॉर्मेशन क्राइटेरियन (FIC): पोस्ट-सिलेक्शन इन्फरेंस में, यह विधि FIC के माध्यम से चयनित फोकस मापदंडों के लिए मजबूत विश्वास अंतराल प्रदान करती है, और कवरेज गुणों को बनाए रखती है भले ही चयनित मॉडल गलत (misspecified) हो।

महत्व और दावे
लेख का दावा है कि प्रस्तावित ढांचा तृतीय-क्रम की माध्यिका निष्पक्षता के लिए एक गणनात्मक रूप से सरल और व्यापक रूप से लागू होने वाला मार्ग प्रदान करता है। यह निहित माध्यिका पूर्वाग्रह न्यूनीकरण की सैद्धांतिक इष्टतमता और अनुप्रयुक्त सांख्यिकी की व्यावहारिक बाधाओं के बीच के अंतर को पाटता है।

महत्व के संबंध में प्रमुख दावे शामिल हैं:

• विधि निहित माध्यिका पूर्वाग्रह न्यूनीकरण के लिए एक-चरणीय सन्निकटन (one-step approximations) प्रदान करती है, जो गैर-रेखीय प्रणालियों को हल करने या जटिल उप-मापदंडों को संभालने की आवश्यकता के बिना समान क्रम की सटीकता प्रदान करती है।
• यह स्वाभाविक रूप से HulC पद्धति के साथ एकीकृत होती है, जो विशिष्ट स्थितियों के तहत छठे-क्रम की सटीक कवरेज (sixth-order accurate coverage) गारंटी के साथ विश्वास अंतराल प्रदान करती है, जो एक ऐसा स्तर की सटीकता है जिसे जटिल उच्च-क्रम लाइक्लीहुड अनुमान के बिना प्राप्त करना दुर्लभ है।
• दृष्टिकोण फोकस पैरामीटर के रूप में मॉडल-स्वतंत्र (model-agnostic) है, जो जटिल व्युत्पन्न मात्राओं (जैसे, जोखिम अंतर, मार्जिनल प्रभाव) के लिए उपयुक्त है जहाँ पारंपरिक उच्च-क्रम लाइक्लीहुड विधियाँ अव्यवहार्य हैं।
• यह सीमा संबंधी मुद्दों (boundary issues) को प्रभावी ढंग से संभालता है, जिससे परिमित प्रारंभिक मान सुनिश्चित करने के लिए न्यूनीकृत माध्य-पूर्वाग्रह प्रारंभिक अनुमानकों (जैसे, Firth का अनुमानक) का उपयोग किया जा सकता है, जो произво적인 फोकस मापदंडों के लिए निहित माध्यिका पूर्वाग्रह न्यूनीकरण में हमेशा गारंटी नहीं दी जाती है।

लेखक निष्कर्ष निकालते हैं कि जबकि स्पष्ट अनुमानक पुन: पैरामीट्राइजेशन के तहत सटीक तुल्यता का त्याग करता है, यह व्यापारिक विनिमय (trade-off) विविध प्रकार के सांख्यिकीय मॉडलों में परिमित नमूनों में अनुमान और निष्कर्ष में सुधार के लिए एक व्यावहारिक, मजबूत और कुशल उपकरण प्रदान करता है।