तकनीकी सारांश: भविष्यवाणियाँ सरोगेट के रूप में: AI के युग में सरोगेट परिणामों का पुनरावलोकन

1. समस्या विवरण

कई वैज्ञानिक क्षेत्रों में, वास्तविक परिणाम चर $Y$ को प्राप्त करना महंगा, समय लेने वाला या आक्रामक होता है, जिससे ऐसे डेटासेट बनते हैं जहाँ $Y$ केवल आंशिक रूप से देखा जाता है। शोधकर्ता अक्सर सरोगेट परिणामों (सहायक चर $\hat{Y}$) पर भरोसा करते हैं जो $Y$ के साथ सहसंबंधित होते हैं और जिन्हें प्राप्त करना सस्ता है। जबकि जैव सांख्यिकी (biostatistics) और अर्थशास्त्र में पारंपरिक सरोगेट मॉडल स्थापित किए जा चुके हैं, AI ने एक नया वर्ग पेश किया है: पूर्व-प्रशिक्षित मशीन लर्निंग मॉडलों (जैसे, लार्ज लैंग्वेज मॉडल्स, कंप्यूटर विजन मॉडल्स) से भविष्यवाणियाँ।

यह शोध पत्र प्रेडिक्शन-पावर्ड इन्फरेंस (PPI) में एक अंतराल की पहचान करता है, जो एक उभरता हुआ क्षेत्र है जो इन AI भविष्यवाणियों को सांख्यिकीय अनुमान (statistical inference) में शामिल करने का प्रयास करता है। मौजूदा PPI विधियाँ अक्सर भविष्यवाणियों को परिणामों के प्रत्यक्ष प्रतिस्थापन के रूप में मानती हैं या सरल रैखिक सुधार (linear corrections) लागू करती हैं। हालाँकि, ये दृष्टिकोण निम्नलिखित सीमाओं का सामना करते हैं:

1. अक्षमता (Inefficiency): वे अर्ध-पैरामीट्रिक दक्षता सीमा (semiparametric efficiency bound) प्राप्त करने में विफल हो सकते हैं, विशेष रूप से तब जब भविष्यवाणियाँ पक्षपाती हों या वास्तविक परिणाम से व्यवस्थित रूप से विचलित हों।
2. ओवरफिटिंग बायस (Overfitting Bias): जब लचीले मशीन लर्निंग मॉडलों का उपयोग सरोगेट और परिणामों के बीच संबंध सीखने के लिए किया जाता है, तो सीखने और अनुमान लगाने के लिए एक ही डेटा का उपयोग करना (same-sample fitting) प्रथम-क्रम का पूर्वाग्रह (first-order bias) उत्पन्न कर सकता है, जो कॉन्फिडेंस इंटरवल को अमान्य कर देता है।
3. मोडैलिटी और वितरण बेमेल (Modality and Distribution Mismatches): पूर्व-प्रशिक्षित मॉडल अक्सर मोडैलिटी बेमेल (उदाहरण के लिए, छवियों से भविष्यवाणी करना जबकि अनुमान के लिए सारणीबद्ध कोवेरियेट्स की आवश्यकता होती है) या वितरण बदलाव (सामान्य डेटा पर प्रशिक्षित, विशिष्ट उप-जनसंख्याओं पर लागू) से ग्रस्त होते हैं, जिससे भविष्यवाणियाँ गलत कैलिब्रेटेड हो जाती हैं।

मुख्य समस्या एक सांख्यिकीय रूप से कठोर, कम्प्यूटेशनल रूप से व्यवहार्य और कुशल ढांचा विकसित करना है जो AI भविष्यवाणियों का लाभ उठाते हुए उनके अंतर्निहित पूर्वाग्रहों को ठीक करे और वैध अनुमान सुनिश्चित करे।

2. कार्यप्रणाली: रीकैलिब्रेटेड प्रेडिक्शन-पावर्ड इन्फरेंस (RePPI)

लेखक रीकैलिब्रेटेड प्रेडिक्शन-पावर्ड इन्फरेंस (RePPI) प्रस्तावित करते हैं, जो आधुनिक PPI के साथ शास्त्रीय सरोगेट आउटकम साहित्य (विशेष रूप से रॉबिन्स एट अल. [1994] और चेन एवं चेन [2000] के कार्य) को एकीकृत करता है।

2.1 सैद्धांतिक आधार

लक्ष्य पैरामीटर $\theta^\star$ को एक अनुमान लगाने वाले समीकरण $E[U_{\theta}(X, Y)] = 0$ (या समकक्ष रूप से, एक उत्तल हानि $E[\ell_\theta(X, Y)]$ को न्यूनतम करना) के माध्यम से परिभाषित किया गया है। डेटा में $n$ लेबल वाले नमूने $(Y, X, \hat{Y})$ और $N$ बिना लेबल वाले नमूने $(X, \hat{Y})$ शामिल हैं।

लेखक स्थापित करते हैं कि इष्टतम इमप्यूटेड लॉस (optimal imputed loss) $g_\theta$, जो एस्टिमेटर की स्पर्शोन्मुखी भिन्नता (asymptotic variance) को कम करता है, निम्न द्वारा दिया गया है:
$$\nabla g_\theta^\star(X, \hat{Y}) = \frac{1}{1+r} E[\nabla \ell_\theta(X, Y) \mid X, \hat{Y}]$$
जहाँ $r = \lim n/N$ है। यह इष्टतम स्कोर, सरोगेट और कोवेरियेट्स के दिए गए होने पर वास्तविक ग्रेडिएंट की सशर्त अपेक्षा (conditional expectation) को दर्शाता है।

2.2 RePPI एल्गोरिदम

इस सिद्धांत को संचालित करने के लिए, RePPI दो प्रमुख नवाचारों का उपयोग करता है:

1. मशीन लर्निंग के माध्यम से लचीला पुनर्मूल्यांकन (Recalibration): सशर्त अपेक्षा के लिए एक पैरामीट्रिक रूप मानने के बजाय, RePPI इष्टतम स्कोर फंक्शन $s(X, \hat{Y}) \approx E[\nabla \ell_{\hat{\theta}_0}(X, Y) \mid X, \hat{Y}]$ का अनुमान लगाने के लिए लचीले मशीन लर्निंग एल्गोरिदम (जैसे, रैंडम फॉरेस्ट, न्यूरल नेटवर्क) का उपयोग करता है, जहाँ $\hat{\theta}_0$ एक प्रारंभिक एस्टिमेटर है (उदाहरण के लिए, केवल लेबल वाले डेटा से)।
2. क्रॉस-फिटिंग (Cross-Fitting): लचीले लर्नर्स का उपयोग करते समय ओवरफिटिंग बायस को रोकने के लिए, लेबल वाले डेटा को फोल्ड्स में विभाजित किया जाता है। स्कोर फंक्शन को एक उपसमूह पर प्रशिक्षित किया जाता है और दूसरे पर मूल्यांकन (आउट-ऑफ-सैंपल) किया जाता है। यह वैध स्पर्शोन्मुखी सिद्धांत के लिए आवश्यक स्वतंत्रता सुनिश्चित करता है।
3. मैट्रिक्स पावर ट्यूनिंग (कंट्रोल वेरिएट्स): यह गारंटी देने के लिए कि स्कोर अनुमान अपूर्ण होने पर भी दक्षता बनी रहे, RePPI अनुमानित स्कोर पर एक रैखिक रूपांतरण मैट्रिक्स $\hat{M}$ लागू करता है। यह मैट्रिक्स वास्तविक ग्रेडिएंट और अनुमानित स्कोर के बीच अनुभवजन्य सहप्रसरण (empirical covariance) के रूप में अनुमानित किया जाता है, जिसे स्कोर के विचरण (variance) द्वारा सामान्यीकृत किया जाता है। यह एक इष्टतम कंट्रोल वेरिएंट के रूप में कार्य करता है, यह सुनिश्चित करता है कि एस्टिमेटर "XY-केवल" बेसलाइन (जो भविष्यवाणियों को अनदेखा करता है) से कभी खराब न हो।

अंतिम एस्टिमेटर एक रैकीकृत अनुभवजन्य जोखिम (linearized empirical risk) को न्यूनतम करता है:
$$\hat{\theta}_{RePPI} = \arg\min_\theta \left( \frac{1}{n}\sum_{i=1}^n \ell_\theta(X_i, Y_i) - \frac{1}{n}\sum_{i=1}^n \hat{g}_\theta(X_i, \hat{Y}_i) + \frac{1}{N}\sum_{i=n+1}^{n+N} \hat{g}_\theta(X_i, \hat{Y}_i) \right)$$
जहाँ $\hat{g}_\theta$ को पुनर्मूल्यांकित (recalibrated) स्कोर का उपयोग करके बनाया गया है।

3. मुख्य योगदान

1. एकीकृत ढांचा: यह शोध पत्र दशकों पुराने सरोगेट आउटकम साहित्य को उभरते हुए PPI क्षेत्र से औपचारिक रूप से जोड़ता है, यह स्पष्ट करते हुए कि पूर्व-प्रशिक्षित मॉडल की भविष्यवाणियाँ एक विशिष्ट प्रकार का सरोगेट हैं।
2. रीकैलिब्रेटेड PPI (RePPI): लेखक एक नया एस्टिमेटर पेश करते हैं जो:
   • यदि इष्टतम स्कोर सुसंगत रूप से अनुमानित है, तो अर्ध-पैरामीट्रिक दक्षता (semiparametric efficiency) प्राप्त करता है।
   • भविष्यवाणियों को पूरी तरह से अनदेखा करने वाले "XY-केवल" एस्टिमेटर की तुलना में हमेशा अधिक कुशल होता है (कंट्रोल वेरिएंट तंत्र के कारण, भले ही स्कोर अनुमान असंगत हो)।
   • रैकीकृत इमप्यूटेड लॉस का उपयोग करके अनुकूलन उद्देश्य (optimization objective) की उत्तलता (convexity) को बनाए रखता है (कुछ पिछले PPI प्रस्तावों के विपरीत)।
3. सैद्धांतिक गारंटी: शोध पत्र क्रॉस-फिटिंग के तहत स्पर्शोन्मुखी सामान्यता (asymptotic normality) और दक्षता के लिए कठोर प्रमाण प्रदान करता है, यह प्रदर्शित करते हुए कि विधि उच्च-क्षमता वाले लचीले लर्नर्स के उपयोग के प्रति मजबूत है।
4. पुनर्मूल्यांकन (Recalibration) लाभों का विश्लेषण: लेखक तीन विशिष्ट परिदृश्यों का सैद्धांतिक और संख्यात्मक विश्लेषण करते हैं जहाँ पुनर्मूल्यांकन महत्वपूर्ण है:
   • मोडैलिटी बेमेल: जब भविष्यवाणियाँ असंरचित डेटा (जैसे, चित्र) पर आधारित होती हैं लेकिन अनुमान के लिए संरचित कोवेरियेट्स की आवश्यकता होती है।
   • वितरण बदलाव (Distribution Shift): जब भविष्यवाणियां मॉडल का प्रशिक्षण वितरण अनुमान जनसंख्या से भिन्न होता है।
   • डिस्क्रीट भविष्यवाणियाँ: जब मॉडल मोटे, अन-कैलिब्रेटेड डिस्क्रीट श्रेणियों (जैसे, 1-5 स्टार) को आउटपुट करता है।

4. परिणाम

शोध पत्र वास्तविक दुनिया के अनुप्रयोगों का उपयोग करके RePPI को सत्यापित करता है।

4.1 सैद्धांतिक दक्षता लाभ

शैलीकृत मॉडलों में, RePPI लगातार मौजूदा विधियों (XY-केवल, मानक PPI, और PPI++) की तुलना में कम स्पर्शोन्मुखी विचरण प्राप्त करता है:

• मोडैलिटी बेमेल: RePPI असंरचित मोडैलिटी में जानकारी का प्रभावी ढंग से उपयोग करते हुए और भविष्यवाणियों में संरचित कोवेरियेट्स की कमी को ठीक करते हुए विचरण को कम करता है।
• वितरण बदलाव: RePPI उस पूर्वाग्रह को ठीक करता है जो तब उत्पन्न होता है जब भविष्यवाण मॉडल का प्रशिक्षण वितरण अनुमान जनसंख्या से भिन्न होता है, जबकि मानक PPI इन मामलों में XY-केवल बेसलाइन से भी खराब प्रदर्शन कर सकता है।
• डिस्क्रीट भविष्यवाणियाँ: RePPI डिस्क्रीट भविष्यवाणियों से आउटकम स्केल तक एक गैर-रैखिक मैपिंग सीखता है, जो रैखिक सुधारों पर निर्भर PPI++ से बेहतर प्रदर्शन करता है।

4.2 अनुभवजन्य अनुप्रयोग

तीन वास्तविक दुनिया के अनुप्रयोग प्रभावी नमूना आकार (लक्ष्य कॉन्फिडेंस इंटरवल चौड़ाई प्राप्त करने के लिए आवश्यक लेबल वाले डेटा में कमी) में महत्वपूर्ण लाभ प्रदर्शित करते हैं:

1. एक्स-रे निदान (NIH ChestX-ray14): प्ल्यूरल एफ्यूजन की भविष्यवाणी करने के लिए CheXpert पर प्रशिक्षित DenseNet-121 मॉडल का उपयोग करते हुए। RePPI ने समान इंटरवल लंबाई प्राप्त करने के लिए PPI++ की तुलना में आवश्यक लेबल वाले नमूना आकार को ~5.7% कम कर दिया।
2. विषाक्तता माप (CivilComments-WILDS): समाचार टिप्पणियों में विषाक्तता की भविष्यवाणी करने के लिए Wikipedia टिप्पणियों पर प्रशिक्षित DistilBERT मॉडल का उपयोग करते हुए (वितरण बदलाव)। RePPI ने आवश्यक लेबल वाले नमूना आकार को ~5.8% कम कर दिया।
3. वाइन समीक्षाएं (WineEnthusiast): टेक्स्ट समीक्षाओं से रेटिंग की भविष्यवाणी करने के लिए GPT-5.4 का उपयोग करते हुए (डिस्क्रीट भविष्यवाणियाँ)। RePPI ने PPI++ की तुलना में आवश्यक लेबल वाले नमूना आकार को ~17.6% से 19% तक कम कर दिया, जो डिस्क्रीट सरोगेट्स के लिए गैर-रैखिक पुनर्मूल्यांकन के पर्याप्त लाभ को उजागर करता है।

इन सभी मामलों में, RePPI ने वैध 95% कॉन्फिडेंस इंटरवल कवरेज बनाए रखा, जबकि मानक PPI अक्सर गलत कैलिब्रेशन के कारण व्यापक इंटरवल या अमान्य कवरेज उत्पन्न करता था।

5. महत्व और दावे

यह शोध पत्र दावा करता है कि RePPI सांख्यिकीय अनुमान के लिए AI का लाभ उठाने में एक महत्वपूर्ण कदम है क्योंकि यह:

• सिद्धांत और व्यवहार को जोड़ता है: यह अर्ध-पैरामीट्रिक सांख्यिकी में स्थापित सैद्धांतिक दक्षता सीमाओं को प्राप्त करने के लिए एक व्यावहारिक कम्प्यूटेशनल रणनीति (क्रॉस-फिटिंग + रैकीकृत लॉस) प्रदान करता है, जो पहले लचीले मशीन लर्निंग मॉडलों के साथ कठिन था।
• मजबूती (Robustness): उन पिछली विधियों के विपरीत जो पक्षपाती होने पर विफल या अक्षम हो सकती हैं, RePPI को "सुरक्षित" बनाया गया है, जो भविष्यवाणियों को पूरी तरह से अनदेखा करने की तुलना में सुधार की गारंटी देता है।
• AI युग को संबोधित करना: यह विशेष रूप से पूर्व-प्रशिक्दम फाउंडेशन मॉडल्स (उच्च आयामी, असंरचित डेटा, वितरण बदलाव) को सरोगेट के रूप में उपयोग करने की अनूठी चुनौतियों को संबोधित करता है, जो केवल पूर्ण या सरल रैखिक रूपांतरण होने की धारणा से आगे बढ़ता है।

लेखक मामूली सीमाओं का उल्लेख करते हैं, जिसमें स्पर्शोन्मुखी सिद्धांत पर निर्भरता, i.i.d. डेटा की धारणा, और वर्तमान में समृद्ध मॉडल आउटपुट जैसे एम्बेडिंग्स का सीधे उपयोग करने के बजाय भविष्यवाणियों को सरोगेट के रूप में उपयोग करने पर ध्यान केंद्रित करना शामिल है। फिर भी, यह कार्य AI के युग में "प्रेडिक्शन-पावर्ड" विज्ञान के लिए एक मजबूत आधार स्थापित करता है।