Distributionally Robust Transfer Learning with Structurally Missing Covariates, with Application to Cross-National Cardiac Arrest Prediction

तकनीकी सारांश: संरचनात्मक रूप से लुप्त सहचरों (Covariates) के साथ वितरण रूप से सुदृढ़ स्थानांतरण शिक्षण (Distributionally Robust Transfer Learning)

समस्या विवरण
यह शोध पत्र नैदानिक भविष्यवाणी मॉडल (clinical prediction models) को विविध स्वास्थ्य प्रणालियों में तैनात करने की एक महत्वपूर्ण चुनौती को संबोधित करता है: वह परिदृश्य जहाँ एक उच्च-संसाधन वाले "स्रोत" (source) परिवेश में प्रशिक्षित मॉडल, जो $(X, A)$ के समृद्ध सहचरों पर निर्भर करता है, एक ऐसे "लक्ष्य" (target) परिवेश में तैनात किया जाता है जहाँ डेटा संग्रह बुनियादी ढांचे के संरचनात्मक अंतरों के कारण विशिष्ट, अत्यधिक भविष्य कहने वाले सहचर $A$ पूरी तरह से अनुपस्थित होते हैं। मानक लुप्त डेटा (missing data) के विपरीत, जहाँ व्यक्तिगत अवलोकन अधूरे होते हैं, यह "संरचनात्मक लुप्तता" (structural missingness) चरों की जनसंख्या-स्तरीय अनुपस्थिति का प्रतिनिधित्व करती है। इसके अतिरिक्त, लक्ष्य डोमेन में लेबल किए गए परिणाम डेटा (labeled outcome data) का अभाव होता है, जो पर्यवेक्षित अनुकूलन (supervised adaptation) या पुन: प्रशिक्षण को रोकता है।

मौजूदा दृष्टिकोण इस सेटिंग में विफल रहते हैं। इम्प्यूटेशन (Imputation) विधियों के लिए लक्ष्य डोमेन में $A$ के वितरण के बारे में परीक्षण योग्य धारणाओं की आवश्यकता होती है। कोवेरिएट शिफ्ट सुधार (जैसे, महत्व भारण/importance weighting) केवल देखे गए चरों $X$ के अंतर को संबोधित करते हैं और $A$ की अनुपस्थिति से खोई गई जानकारी को पुनः प्राप्त नहीं कर सकते हैं। मानक वितरण रूप से सुदृढ़ अनुकूलन (Distributionally Robust Optimization - DRO) आमतौर पर सभी चरों के संयुक्त वितरण पर अनिश्चितता सेट बनाता है, जो अत्यधिक रूढ़िवादी (conservative) होता है और स्थिर देखे गए सहचरों तथा संरचनात्मक रूप से लुप्त सहचरों के बीच अंतर करने में विफल रहता है।

कार्यप्रणाली: DRUM ढांचा
लेखक DRUM (संरचनात्मक रूप से लुप्त सहचरों के साथ वितरण रूप से सुदृढ़ अनसुपरवाइज्ड ट्रांसफर लर्निंग) प्रस्तावित करते हैं, जो उन अनलेबल लक्ष्य आबादी में भविष्यवाणी मॉडल को स्थानांतरित करने के लिए डिज़ाइन किया गया है जहाँ $A$ अनुपस्थित है। मुख्य दर्शन यह है कि अज्ञात लक्ष्य सशर्त वितरण $A|X$ के ऊपर अनिश्चितता सेट के लिए सबसे खराब स्थिति के भविष्य कहने वाले प्रदर्शन (worst-case predictive performance) के लिए अनुकूलित किया जाए, न कि $A$ को इम्प्यूट करने या यह मानने के लिए कि $A|X$ स्थिर रहता है।

कार्यप्रणाली तीन चरणों में आगे बढ़ती है:

1. समस्या का सूत्रकरण (Problem Formulation):
   लक्ष्य केवल साझा सहचरों $X$ का उपयोग करके एक भविष्यवक्ता $m(X)$ सीखना है। लेखक इसे एक मिनिमैक्स समस्या के रूप में सूत्रित करते हैं:
   $$\min_{m(\cdot)} \max_{P_{A|X} \in \mathcal{C}(\delta)} \mathbb{E}_{X \sim Q_X, A \sim P_{A|X}, Y \sim P^S_{Y|X,A}} \left[ Y^2 - (Y - m(X))^2 \right]$$
   यहाँ, $\mathcal{C}(\delta)$ लक्ष्य डोमेन में $A|X$ के लिए सशर्त वितरणों का एक अनिश्चितता सेट है, जिसे मजबूती पैरामीटर $\delta$ द्वारा नियंत्रित किया जाता है। उद्देश्य शून्य भविष्यवक्ता (null predictor) के सापेक्ष वर्ग त्रुटि (squared error) में सबसे खराब स्थिति के न्यूनीकरण को अधिकतम करना है।

2. जेनरेटर-आधारित पैरामीट्रिकरण और DRO:
   सशर्त वितरणों के अनंत-आयामी स्थान पर सीधा अनुकूलन करना अव्यवहार्य है। DRUM, एक न्यूरल नेटवर्क जेनरेटर $g_\phi(X, \epsilon)$ का उपयोग करके $A|X$ के सशर्त वितरण को पैरामीट्राइज़ करता है, जहाँ $\epsilon$ एक लेटेंट नॉइज़ (latent noise) है।

   • अनिश्चितता सेट (Uncertainty Set): अनिश्चितता सेट को एनर्जी डिस्टेंस (Engression फ्रेमवर्क के माध्यम से) का उपयोग करके परिभाषित किया गया है। सेट $\mathcal{C}_g(\delta)$ उन जेनरेटर्स को समाहित करता है जिनके ऊर्जा स्कोर स्रोत सशर्त जेनरेटर $g^S$ से $\delta$ से अधिक विचलित होते हैं। यह मॉडल को बिना घनत्व अनुमान (density estimation) के स्रोत से अलग होने वाले सशर्त वितरणों का पता लगाने की अनुमति देता है।
   • अनुकूलन (Optimization): समस्या को प्राइमल-डुअल दृष्टिकोण के माध्यम से हल किया जाता है। एक "सबसे खराब स्थिति" वाले जेनरेटर को लक्ष्य $X$ पर अपेक्षित वर्ग त्रुटि को कम करने के लिए प्रशिक्षित किया जाता है (जेनरेटर-प्रेरित वितरण पर मार्जिनलाइज करते हुए), जो ऊर्जा दूरी बाधा के अधीन है।

3. बायस सुधार (Neyman Orthogonality):
   लेखक पहचानते हैं कि "प्लग-इन" एस्टिमेटर (जो स्रोत आउटकम मॉडल $\hat{f}(X, A)$ को उत्पन्न $A$ पर औसत निकालता है) $\hat{f}$ के अनुमान से प्रथम-क्रम के पूर्वाग्रह (first-order biases) विरासत में प्राप्त करता है। इसे कम करने के लिए, वे नेमन-ऑर्थोगोनल अनुमान (Neyman-orthogonal estimation) और क्रॉस-फिटिंग पर आधारित एक बायस-करेक्टेड एस्टिमेटर का निर्माण करते हैं।

   • वे एक छद्म-परिणाम (pseudo-outcome) $F_i$ का निर्माण करते है जो स्रोत अवशेषों (residuals) को (घनत्व अनुपात $\hat{\omega}$ द्वारा पुन: भारित, जो जेनरेटर-प्रेरित वितरण से मेल खाता है) और लक्ष्य प्लग-इन भविष्यवाणियों के साथ जोड़ता है।
   • इस छद्म-परिणाम को $X$ पर रिग्रेट करने से एक ऐसा एस्टिमेटर प्राप्त होता है जो न्युसेंस फंक्शन्स ($\hat{f}$ और $\hat{\omega}$) के अनुमान में प्रथम-क्रम की त्रुटियों के प्रति सुदृढ़ है, जिससे उत्पाद-दर-दर (product-of-rates) स्थितियों के तहत पैरामीट्रिक अभिसरण दरें प्राप्त होती हैं।

प्रमुख योगदान

1. संरचनात्मक लुप्तता के लिए एक नया DRO ढांचा: DRUM विशेष रूप से पूरे संयुक्त वितरण के बजाय $A|X$ के सशर्त वितरण पर अनिश्चितता को अलग करता है, जो अनिश्चितता सेट को पैरामीट्राइज़ करने के लिए एक जेनेरेटिव मॉडल का उपयोग करता है। यह अनंत-आयामी अनुकूलन की जटिलता से बचता है।
2. बायस-करेक्टेड एस्टीमेशन: शोध पत्र एक डिबायस्ड एस्टिमेटर का वर्णन करता है जो न्युसेंस फंक्शन अनुमान त्रुटियों के प्रति संवेदनशीलता को कम करता है, जिससे सिमुलेशन और वास्तविक अनुप्रयोगों में काफी बेहतर परिमित-नमूना प्रदर्शन (finite-sample performance) मिलता है।
3. क्रॉस-नेशनल OHCA भविष्यवाणी में अनुप्रयोग: इस ढांचे को आउट-ऑफ-हॉस्पिटल कार्डियक अरेस्ट (OHCA) के न्यूरोलॉजिकल परिणामों की भविष्यवाणी करने के लिए लागू किया गया है, जो US-ROC रजिस्ट्री (समृद्ध प्री-हॉस्पिटल डेटा) से एशियाई PAROS रजिस्ट्रियों (जहाँ एपिनेफ्रीन खुराक और रक्त pH जैसे प्री-हॉस्पिटल चर संरचनात्मक रूप से लुप्त हैं) में मॉडल को स्थानांतरित करता है।

परिणाम

• सिमुलेशन: रैखिक और गैर-रैखिक सशर्त संबंधों और लुप्त सहचरों के विभिन्न आयामों वाली सेटिंग्स में, DRUM (विशेष रूप से डिबायस्ड वेरिएंट) ने मानक बेसलाइनों (ERM, DRO, महत्व भारण) और छद्म-लेबल इम्प्यूटेशन विधियों को काफी पीछे छोड़ दिया। इसने वितरण परिवर्तन के विभिन्न स्तरों के तहत कम माध्य और सबसे खराब स्थिति के सामान्यीकृत MSE (Mean Squared Error) को प्राप्त किया।
• वास्तविक अनुप्रयोग (OHCA):
  • कैलिब्रेशन: सिंगापुर, जापान और कोरिया में लागू होने पर, DRUM ने बेसलाइनों की तुलना में काफी बेहतर-कैलिब्रेटेड भविष्यवाणियां दीं। मानक बेसलाइन, प्रवलता परिवर्तन (prevalence shift) और लुप्त सहचरों के कारण व्यवस्थित रूप से अनुकूल परिणामों की अधिक भविष्यवाणी करते थे, जबकि DRM ने देखे गए घटना दरों के करीब ट्रैक किया।
  • प्रदर्शन: DRUM-Debiased वेरिएंट ने सबसे कम ब्रायर स्कोर (Brier scores) और अपेक्षित कैलिब्रेशन त्रुटि (ECE) प्राप्त की।
  • नैदानिक उपयोगिता: प्रासंगिक क्लिनिकल ट्राइएज के लिए निश्चित संभाव्यता थ्रेसहोल्ड पर, DRUM-Debiled ने उच्च परिशुद्धता (precision) और विशिष्टता (specificity) प्रदर्शित की, जो यह दर्शाता है कि इसकी कैलिब्रेटेड संभावनाएँ मिसकैलिब्रेशन से जूझ रहे बेसलाइनों की तुलना में अधिक विश्वसनीय सकारात्मक वर्गीकरण की ओर ले जाती हैं।

महत्व और दावे
शोध पत्र का दावा है कि DRUM नैदानिक AI परिनियोजन में वर्तमान द्विभाजन (dichotomy) के लिए एक सिद्धांतपूर्ण विकल्प प्रदान करता है: या तो समान डेटा बुनियादी ढांचे वाले स्थलों तक मॉडलों को सीमित करना या लुप्त सहचरों को अनदेखा करके भविष्य कहने वाली जानकारी को त्याग देना। $A|X$ के अनपेक्षित सशर्त वितरण में अनिश्चितता को स्पष्ट रूप से शामिल करके, बिना किसी अप्रति xạ परीक्षण योग्य धारणाओं पर भरोसा किए, DRUM कम-संसाधन वाले सेटिंग्स में उच्च-संसाधन वाले मॉडलों की तैनाती को सक्षम बनाता है।

लेखक इस बात पर जोर देते हैं कि उनकी विधि का प्राथमिक लाभ वैश्विक भेदभाव (AUROC) के बजाय कैलिब्रेशन और जोखिम स्तरीकरण (ब्रायर स्कोर, ECE, फिक्स्ड-थ्रेसहोल्ड प्रिसिजन) में निहित है, जो वर्ग-त्रुटि (squared error) दंड देने वाले 'वर्स्ट-केस' उद्देश्य के अनुरूप है। यह ढांचा किसी भी ऐसे ट्रांसफर लर्निंग समस्या के लिए एक सामान्य समाधान के रूप में प्रस्तुत किया गया है जहाँ प्रशिक्षण के दौरान भविष्य कहने वाले सहचर उपलब्ध होते हैं लेकिन परिनियोजन के दौरान वे अनुपस्थित या प्रतिबंधित होते हैं।