📊 statistics

ShrinkageTrees: An R Package for Bayesian Tree Ensembles for Survival Analysis and Causal Inference

यह शोध पत्र ShrinkageTrees को प्रस्तुत करता है, जो एक R पैकेज है जो उन्नत नियमितीकरण रणनीतियों (regularization strategies), जिसमें नवीन 'हॉर्सशू फॉरेस्ट' (Horseshoe Forest) भी शामिल है, के साथ बेयसियन एडिटिव रिग्रेशन ट्री मॉडल को लागू करता है, ताकि उच्च-आयामी परिवेशों में सुदृढ़ उत्तरजीविता विश्लेषण (survival analysis) और कारण अनुमान (causal inference) को सक्षम बनाया जा सके।

मूल लेखक: Tijn Jacobs

प्रकाशित 2026-06-11

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tijn Jacobs

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक डॉक्टर हैं जो यह अनुमान लगाने की कोशिश कर रहे हैं कि किसी मरीज की मृत्यु के निदान के बाद वह कितने समय तक जीवित रहेगा, या शायद आप यह पता लगाने की कोशिश कर रहे हैं कि क्या एक नई दवा वास्तव में पुरानी दवा से बेहतर काम करती है। आपके पास बहुत सारा डेटा है: आयु, रक्तचाप, और शायद हजारों जीन रीडिंग। यह एक उलझा हुआ, जटिल पहेली है, खासकर जब कुछ मरीज अध्ययन के अंत से पहले ही बाहर हो जाते हैं (इसलिए आपको यह पता नहीं चलता कि उनकी मृत्यु वास्तव में कब हुई) या जब आपको केवल यह पता होता है कि कोई घटना पिछले महीने और इस महीने के बीच "कहीं" हुई है।

यह शोध पत्र एक नया टूल पेश करता है जिसे ShrinkageTrees कहा जाता है। इसे एक अत्यंत बुद्धिमान, अत्यधिक अनुशासित जासूसों की टीम (एक "ट्री एन्सेम्बल") के रूप में समझें, जिसे विशेष रूप से इन चिकित्सा पहेलियों को हल करने के लिए डिज़ाइन किया गया है।

यह कैसे काम करता है, इसे सरल अवधारणाओं में विभाजित किया गया है:

1. जासूसों की टीम (पेड़/Trees)

कल्पना कीजिए कि आप केवल एक विशेषज्ञ की राय नहीं लेते; आप सौ विशेषज्ञों से पूछते हैं। प्रत्येक विशेषज्ञ एक "डिसीजन ट्री" (निर्णय वृक्ष) है।

वे कैसे काम करते हैं: प्रत्येक पेड़ सरल हाँ/ना वाले प्रश्न पूछता है जैसे, "क्या मरीज 50 वर्ष से अधिक आयु का है?" या "क्या जीन X उच्च है?" इन उत्तरों के आधार पर, पेड़ परिणाम के बारे में एक छोटा सा अनुमान लगाता है।
टीम का प्रयास: अंतिम भविष्यवाणी सभी छोटे अनुमानों का योग है। चूंकि पेड़ों की संख्या बहुत अधिक है, इसलिए वे उन जटिल पैटर्न को पकड़ सकते हैं जिन्हें एक एकल विशेषज्ञ छोड़ सकता है।

2. समस्या: बहुत सारे सुराग, बहुत कम संदिग्ध

आधुनिक चिकित्सा में, आपके पास अक्सर हजारों सुराग (जीन) होते हैं लेकिन अध्ययन के लिए बहुत कम मरीज होते हैं।

पुराना तरीका: यदि आप जासूसों की टीम को बेकाबू छोड़ देते हैं, तो वे रैंडम शोर (noise) से विचलित हो सकते हैं। वे संयोगों के आधार पर नियम बनाना शुरू कर सकते हैं (जैसे, "नीले मोजे पहनने वाले मरीज लंबे समय तक जीवित रहते हैं") ताकि वे डेटा के साथ पूरी तरह फिट बैठ सकें। इसे "ओवरफिटिंग" (overfitting) कहा जाता है। यह कागजों पर बहुत अच्छा दिखता है लेकिन वास्तविक दुनिया में विफल हो जाता है।
श्रिंकेज समाधान: लेखकों ने टीम में एक "अनुशासक" जोड़ा है। यह श्रिंकेज (Shrinkage) वाला हिस्सा है। यह एक सख्त संपादक की तरह कार्य करता है जो कहता है, "यदि कोई नियम साक्ष्य द्वारा मजबूती से समर्थित नहीं है, तो हम उसे शून्य तक सिकोड़ (shrink) देंगे।"
- हॉर्सशू (Horseshoe) रूपक: पेपर एक विशिष्ट प्रकार के श्रिंकेज को उजागर करता है जिसे "हॉर्सशू" कहा जाता है। एक हॉर्सशू चुंबक की कल्पना करें। इसमें बीच में बहुत मजबूत खिंचाव होता है (कमजोर, बेकार सुरागों को शून्य तक सिकोड़ना) लेकिन इसके सिरों पर एक चौड़ा, खुला वक्र होता है (मजबूत, महत्वपूर्ण सुरागों को बिना छेड़े गुजरने देना)। यह सुनिश्चित करता है कि मॉडल शोर को अनदेखा करे लेकिन वास्तविक संकेतों को स्पष्ट रखे।

3. लापता या अस्पष्ट सुरागों को संभालना (Censoring)

सर्वाइवल स्टडीज (survival studies) में, डेटा अक्सर अधूरा होता है।

राइट-सेन्सर्ड (Right-Censoring): एक मरीज अध्ययन समाप्त होने तक जीवित है। हम जानते हैं कि वे कम से कम उस समय तक जीवित रहे, लेकिन यह नहीं जानते कि उनकी मृत्यु ठीक कब होगी।
इंटरवल-सेन्सर्ड (Interval-Censoring): हमें केवल यह पता है कि मरीज अपने पिछले चेक-अप और अगले चेक-अप के बीच निधन हुआ।
नवाचार: मौजूदा अधिकांश उपकरण इन अस्पष्ट समयसीमाओं के साथ संघर्ष करते हैं। ShrinkageTrees इन "धुंधली" समयसीमाओं को स्वाभाविक रूप से संभालने के लिए बनाया गया है, जो सटीकता खोए बिना गणितीय रूप से अंतराल को भर देता है।

4. "दो-सिर वाला" जासूस (Causal Inference)

कभी-कभी आप केवल यह नहीं जानना चाहते कि क्या होगा, बल्कि यह भी कि वह क्यों हुआ। क्या मरीज दवा के कारण जीवित रहा, या केवल इसलिए क्योंकि वह कम उम्र का था?

पुराना तरीका: मानक उपकरण परिणाम और दवा के प्रभाव दोनों का अनुमान एक साथ लगाने की कोशिश करते हैं, जिससे भ्रम पैदा हो सकता है।
नया तरीका ( $\tau$ -learner): ShrinkageTrees काम को दो विशिष्ट जासूसों में विभाजित करता है:
1. प्रोगनोस्टिक डिटेक्टिव (पूर्वानुमान लगाने वाला जासूस): यह भविष्यवाणी करता है कि उपचार के बिना (मरीज की आयु, जीन आदि के आधार पर) मरीज कैसा प्रदर्शन करता।
2. ट्रीटमेंट डिटेक्टिव (उपचार संबंधी जासूस): यह दवा के अतिरिक्त प्रभाव की भविष्यवाणी करता है।
  इन दोनों को अलग करके, मॉडल आपको सटीक रूप से बता सकता है कि दवा ने कितना मदद की, भले ही मरीज का मूल स्वास्थ्य दूसरों से बहुत भिन्न क्यों न रहा हो।

5. यह पेपर वास्तव में क्या सिद्ध करता है

लेखकों ने इस टूल का परीक्षण दो मुख्य चीजों पर किया:

वास्तविक डेटा: उन्होंने ओवेरियन कैंसर के रोगियों के एक डेटासेट का उपयोग किया जिसमें 1,000 जीन रीडिंग थीं। उन्होंने दिखाया कि जबकि पुराने तरीके "बहुत आत्मविश्वासी" (शोर को फिट करना) हो गए, ShrinkageTrees विधि अधिक यथार्थवादी थी और बेहतर अनिश्चितता अनुमान प्रदान करती है।
सिम्युलेटेड डेटा: उन्होंने नकली डेटा बनाया जहाँ वे "सत्य" जानते थे। उन्होंने टूल का परीक्षण तब किया जब जीनों की संख्या बहुत अधिक थी (5,000 जीन) लेकिन मरीजों की संख्या कम थी। ShrinkageTrees विधि (विशेष रूप से हॉर्सशू संस्करण) ही एकमात्र थी जो सटीक रही और डेटा की विशाल मात्रा से भ्रमित नहीं हुई।

सारांश

ShrinkageTrees एक नया सॉफ्टवेयर पैकेज है जो शोधकर्ताओं को सर्वाइवल डेटा (समय-से-घटना) और कारण संबंधी प्रश्नों (क्या उपचार ने काम किया?) का विश्लेषण करने में मदद करता है। यह निर्णय वृक्षों (decision trees) की एक टीम का उपयोग करता है लेकिन इसमें एक विशेष "श्रिंकेज" फिल्टर जोड़ा गया है ताकि बेकार डेटा को अनदेखा किया जा सके और केवल उसी पर ध्यान केंद्रित किया जा सके जो महत्वपूर्ण है। यह उच्च-आयामी सेटिंग्स (जहाँ आपके पास मरीजों की तुलना में अधिक चर/variables हैं) में अस्पष्ट समयसीमाओं (इंटरवल-सेन्सर्ड) को संभालने और रोगी की विशेषताओं से उपचार के प्रभावों को अलग करने वाला अपनी तरह का पहला टूल है।

पेपर का दावा है कि यह टूल तेज है, उच्च-दांव वाले परिदृश्यों में अधिक सटीक है, और पिछले तरीकों की तुलना में अनिश्चितता की अधिक स्पष्ट तस्वीर प्रदान करता है।

"ShrinkageTrees: सर्वाइवल एनालिसिस और कॉज़ल इन्फरेंस के लिए बेयसियन ट्री एन्सेम्बल्स हेतु एक R पैकेज" का तकनीकी सारांश

समस्या विवरण (Problem Statement)
उच्च-आयामी सेटिंग्स ( $p \gg n$ ) में सर्वाइवल एनालिसिस तीन प्राथमिक चुनौतियों का सामना करता है: (1) कोवेरिएट्स और टाइम-टू-इवेंट आउटकम्स के बीच जटिल, अज्ञात संबंध जिसके लिए लचीले नॉन-पैरामीट्रिक मॉडल की आवश्यकता होती है; (2) अपूर्ण अवलोकनों (observations) की व्यापकता, विशेष रूप से राइट-सेंसर्ड (right-censored) और इंटरवल-सेंसर्ड (interval-censored) डेटा; और (3) सेंसिंग और कन्फाउंडिंग के तहत कॉज़ल ट्रीटमेंट इफेक्ट्स का अनुमान लगाने में कठिनाई, विशेष रूप से जब ट्रीटमेंट इफेक्ट्स सबग्रुप्स में भिन्न होते हैं। मौजूदा बेयसियन एडिटिव रिग्रेशन ट्रीज़ (BART) कार्यान्वयन इन तीनों को एक साथ संबोधित करने में विफल रहते हैं। विशेष रूप से, कोई भी R पैकेज वर्तमान में इंटरवल-सेंसर्ड आउटकम्स के लिए बेयसियन ट्री एन्सेम्बल्स प्रदान नहीं करता है, $\tau$ -लर्नर आर्किटेक्चर (जो प्रोग्नोस्टिक और ट्रीटमेंट इफेक्ट्स को अलग करता है) को टाइम-टू-इवेंट एंडपॉइंट्स के लिए लागू नहीं किया गया है, और मानक BART रेगुलराइजेशन अक्सर उच्च-आयामी जीनोमिक सेटिंग्स में अपर्याप्त होता है जहाँ ओवरफिटिंग का जोखिम होता है।

कार्यप्रणाली (Methodology)
यह पेपर एक एसेलेरेटेड फेलियर टाइम (AFT) फ्रेमवर्क के भीतर बेयसियन ट्री एन्सेम्बल्स को लागू करने वाले ShrinkageTrees नामक एक R पैकेज पेश करता है। मुख्य मॉडल मानक BART फॉर्मूलेशन का विस्तार करता है:
$\log T_i = \sum_{j=1}^m g(x_i; T_j, H_j) + \epsilon_i, \quad \epsilon_i \sim N(0, \sigma^2)$
जहाँ $T_i$ इवेंट टाइम है, $x_i$ कोवेरिएट्स हैं, और योग $m$ उथले (shallow) डिसीजन ट्रीज़ के एक एन्सेम्बल का प्रतिनिधित्व करता है। यह पैकेज गिब्स सैंपलर (Gibbs sampler) में डेटा ऑगमेंटेशन के माध्यम से राइट- और इंटरवल-सensed डेटा को हैंडल करता है।

कार्यप्रणाली दो प्रकार के रेगुलराइजेशन के बीच अंतर करती है, जो दोनों लागू हैं और संयोजनीय (combinable) हैं:

ट्री स्ट्रक्चर रेगुलराइजेशन: प्रासंगिक वेरिएबल्स के एक उपसमुच्चय (subset) पर स्प्लिटिंग को प्रोत्साहित करने के लिए, पैकेज डिरिचलेट स्प्लिटिंग प्रायर (DART) को लागू करता है। यह स्प्लिटिंग प्रोबेबिलिटीज पर डिरिचलेट प्रायर लगाता है, जिससे स्ट्रक्चरल स्पर्सिटी (structural sparsity) उत्पन्न होती है।
स्टेप हाइट रेगुलराइजेशन: अनइंफॉर्मेटिव लीव्स को शून्य की ओर सिकोड़ने (shrink) के लिए जबकि स्ट्रॉन्ग सिग्नल्स को सुरक्षित रखा जाए, पैकेज लीफ वैल्यूज़ ( $H_j$ ) पर ग्लोबल-लोकल श्रिंकेज प्रायर्स लागू करता है। पेपर हॉर्सशू फॉरेस्ट (Horseshoe Forest) पर प्रकाश डालता है, जो स्टेप हाइट्स पर हॉर्सशू प्रायर लगाता है। यह ग्लोबल श्रिंकेज पैरामीटर ( $\tau$ ) और लोकल स्केल पैरामीटर्स ( $\lambda_\ell$ ) के साथ एक स्केल मिक्सचर ऑफ नॉर्मल्स रिप्रेजेंटेशन का उपयोग करता है। हॉर्सशू प्रायर एडेप्टिव श्रिंकेज की अनुमति देता है, जो प्रभावी रूप से $p \gg n$ रिजीम को संभालता है।

कॉज़ल इन्फरेंस के लिए, पैकेज सर्वाइवल आउटकम्स के लिए अनुकूलित $\tau$ -लर्नर (बेयसियन कॉज़ल फॉरेस्ट्स) को लागू करता है। यह आउटकम को एक प्रोग्नोस्टिक फंक्शन $\mu(x, \hat{e}(x))$ और एक ट्रीटमेंट इफेक्ट फंक्शन $\tau(x)$ में विभाजित करता है, जिसे अलग-अलग फॉरेस्ट द्वारा मॉडल किया जाता है। यह प्रोग्स्टिक और कॉज़ल घटकों के लिए अलग-अलग रेगुलराइजेशन और कॉम्प्लेक्सिटी कंट्रोल की अनुमति देता है।

मुख्य योगदान (Key Contributions)

सर्वाइवल के लिए हॉर्सशू फॉरेस्ट्स का प्रथम कार्यान्वयन: पैकेज उच्च-आयामी सर्वाइवल एनालिसिस को सक्षम करने के लिए स्टेप हाइट्स पर हॉर्सशू प्रायर लगाते हुए, हॉर्सशू फॉरेस्ट्स का पहला कार्यान्वयन प्रदान करता है।
इंटरवल-सेंसर्ड सपोर्ट: यह इंटरवल-सेंसर्ड सर्वाइवल आउटकम्स के लिए बेयसियन ट्री एन्सेम्बल्स प्रदान करने वाला पहला R पैकेज है।
सर्वाइवल के लिए कॉज़ल इन्फरेंस: यह टाइम-टू-इवेंट एंडपॉइंट्स के लिए $\tau$ -लर्नर को लागू करता है, जिससे सर्वाइवल कॉन्टेक्स्ट में हेट्रोजेनियस ट्रीटमेंट इफेक्ट्स (CATE) और एवरेज ट्रीटमेंट इफेक्ट्स (ATE) का अनुमान लगाना संभव होता है।
लचीला रेगुलराइजेशन: यह एक मॉड्यूलर फ्रेमवर्क प्रदान करता है जहाँ उपयोगकर्ता स्ट्रक्चरल रेगुलराइजेशन (डिरिचलेट स्प्लिटिंग) को स्टेप-हाइट रेगुलराइजेशन (हॉर्सशू, हाफ-कॉची, या स्टैंडर्ड नॉर्मल) के साथ संयोजित कर सकते हैं।
सॉफ्टवेयर कार्यान्वयन: पैकेज में Rcpp के माध्यम से एक कुशल C++ बैकएंड है, यह मल्टी-चेन MCMC का समर्थन करता है, और एक पूर्ण S3 वर्कफ़्लो (फिटिंग, प्रेडिक्शन, coda के माध्यम से कन्वर्जेंस डायग्नोस्टिक्स, और विज़ुअलाइज़ेशन) प्रदान करता है।

परिणाम (Results)
पेपर एक सेमी-सिंथेटिक ओवेरियन कैंसर डेटासेट और एक सिमुलेशन स्टडी के माध्यम से कार्यप्रणाली को मान्य करता है:

ओवेरियन डेटासेट: एक उच्च-आयामी सेटिंग ( $n=357, p=1004$ ) में, मानक BART ने लगभग परफेक्ट ट्रेनिंग C-इंडेक्स (0.989) प्राप्त किया, जो ओवरफिटिंग का संकेत है। इसके विपरीत, हॉर्सशू फॉरेस्ट ने कम ट्रेनिंग C-इंडेक्स (0.727) दिया लेकिन बेहतर-कैलिब्रेटेड अनसर्टेन्टी (uncertainty) प्रदान की। कॉज़ल एनालिसिस ने कार्बोंप्लाटिन बनाम सिस्प्लैटिन के लिए एक छोटा, गैर-महत्वपूर्ण एवरेज ट्रीटमेंट इफेक्ट अनुमानित किया, जिसमें टाइट क्रेडिबल इंटरवल्स थे।
सिमुलेशन स्टडी: ज्ञात ग्राउंड ट्रुथ और इंटरवल-सेंसर्ड आउटकम्स के साथ एक सिमुलेशन ने $p \in \{50, 500, 5000\}$ आयामों में स्टैंडर्ड BART, DART और हॉर्सशू फॉरेस्ट की तुलना की। हॉर्सशू फॉरेस्ट ने लगातार सबसे कम रूट मीन स्क्वेर्ड एरर (RMSE), सबसे टाइट क्रेडिबल इंटरवल्स और सभी आयामों में निकट-नॉमिनल 95% कवरेज रेट हासिल किया। स्टैंडर्ड BART ने अत्यधिक वाइड इंटरवल्स (ओवर-कवरेज) उत्पन्न किए, जबकि DART ने आयामीता बढ़ने के साथ अंडर-कवरेज दिखाया।
कंप्यूटेशनल प्रदर्शन: बेंचमार्क दिखाते हैं कि हालांकि हॉर्सशू फॉरेस्ट्स, कंजुगेट-प्रायर मॉडल्स की तुलना में कम्प्यूटेशनल रूप से अधिक महंगे हैं (रिवर्सिबल जंप MCMC और लोकल स्केल्स की सैंपलिंग के कारण), वे सैंपल साइज के साथ रैखिक रूप से स्केल करते हैं और कंजुगेट मॉडल्स के लिए मौजूदा BART कार्यान्वयनों की गति के बराबर हैं।

महत्ता और दावे (Significance and Claims)
पेपर दावा करता है कि ShrinkageTrees सर्वाइवल एनालिसिस, कॉज़ल इन्फरेंस और हाई-डायमेंशनल रेगुलराइजेशन को एकीकृत करके मौजूदा बेयशियन ट्री एन्सेम्बल लिटरेचर के महत्वपूर्ण अंतराल को भरता है। यह पैकेज को एक ऐसे टूल के रूप में प्रस्तुत करता है जो बेयसियन ट्री एन्सेम्बल्स को उन उच्च-आयामी सेटिंग्स तक विस्तारित करता है जहाँ मानक BART विफल हो जाता है। लेखक जोर देते हैं कि यह पैकेज सर्वाइवल एंडपॉइंट्स के लिए $\tau$ -लर्नर प्रदान करने वाला पहला पैकेज है और हॉर्सशू फॉरेस्ट्स को इस उद्देश्य के लिए लागू करने वाला पहला पैकेज है। यह कार्य जैकब्स एट अल. (2025) द्वारा विकसित कार्यप्रणाली का एक व्यावहारिक कार्यान्वयन है, जिसका लक्ष्य बेयसियन ट्री एन्सेम्बल्स में नए अभ्यासकर्ताओं और उन अनुभवी उपयोगकर्ताओं दोनों को लक्षित करना है जिन्हें BART, dbarts, या bcf जैसे मौजूदा पैकेज में उपलब्ध न होने वाली कार्यक्षमता की आवश्यकता है। लेखक विनम्रतापूर्वक सीमाओं का उल्लेख करते हैं, जैसे कि न्यूमेरिक कोवेरिएट्स की आवश्यकता (जिसके लिए अनऑर्डर्ड कैटेगरी के लिए डमी एनकोडिंग आवश्यक है) और AFT फ्रेमवर्क में नॉर्मली डिस्ट्रिब्यूटेड एरर्स का अनुमान।