📊 statistics

Estimating Joint Interventional Distributions from Marginal Interventional Data

यह शोध पत्र अवलोकनात्मक डेटा (observational data) के साथ मार्जिनल इंटरवेंशनल डेटा (marginal interventional data) का लाभ उठाने के लिए कॉज़ल मैक्सिमम एंट्रॉपी विधि का विस्तार करता है, जो संयुक्त इंटरवेंशनल वितरणों के अनुमान और प्रभावी कॉज़ल फीचर चयन को सक्षम बनाता है जो मौजूदा मर्जिंग तकनीकों से बेहतर प्रदर्शन करता है और पूर्ण संयुक्त अवलोकनों (full joint observations) की आवश्यकता वाली विधियों के प्रदर्शन के बराबर है।

मूल लेखक: Sergio Hernan Garrido Mejia, Elke Kirschbaum, Armin Kekić, Bernhard Schölkopf, Atalanti Mastakouri

प्रकाशित 2026-04-20

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sergio Hernan Garrido Mejia, Elke Kirschbaum, Armin Kekić, Bernhard Schölkopf, Atalanti Mastakouri

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं: क्या चीज़ किस कारण से होती है?

वास्तविक दुनिया में, हम अक्सर जटिल सवालों के जवाब जानना चाहते हैं जैसे: "यदि मैं एक मरीज को दवा A और दवा B दूँ, और साथ ही उनका आहार भी बदल दूँ, तो उनके स्वास्थ्य में क्या बदलाव आएगा?"

इसका उत्तर देने के लिए 'गोल्ड स्टैंडर्ड' एक रैंडमाइज्ड कंट्रोल्ड ट्रायल (RCT) है। आप लोगों का एक बहुत बड़ा समूह लेते हैं, उन्हें दवाओं और आहार के हर संभव संयोजन (combination) के लिए रैंडमली असाइन करते हैं, और देखते हैं कि क्या होता है। लेकिन यहाँ समस्या यह है: यह बहुत महंगा और बहुत धीमा है। यदि आपके पास 10 अलग-अलग कारक हैं, तो संयोजनों की संख्या अत्यधिक हो जाएगी। आप उन सभी का परीक्षण नहीं कर सकते।

इसलिए, शोधकर्ता आमतौर पर छोटे, सस्ते प्रयोग करते हैं:

वे केवल दवा A का परीक्षण करते हैं।
वे केवल दवा B का परीक्षण करते हैं।
वे बस स्वाभाविक रूप से होने वाली घटनाओं को देखते हैं (अवलोकन संबंधी डेटा/observational data) बिना कुछ बदले।

बड़ी समस्या: आपके पास ये अलग-अलग पहेली के टुकड़े (दवा A पर डेटा, दवा B पर डेटा, और सामान्य अवलोकन) हैं, लेकिन आपके पास उस तस्वीर का डेटा नहीं है जो तब बनती है जब आप उन्हें मिलाते हैं। पारंपरिक तरीके अक्सर कहते हैं, "क्षमा करें, हम इन टुकड़ों को एक साथ नहीं जोड़ सकते क्योंकि हमारे पास पूरी तस्वीर नहीं है।"

समाधान: "मैक्सिमम एंट्रॉपी" जासूस

यह पेपर एक नई विधि पेश करता है जिसे i-CMAXENT (इंटरवेंशनल कॉज़ल मैक्सिमम एंट्रॉपी) कहा जाता है। इसे एक सुपर-स्मार्ट जासूस के रूप में सोचें जो केवल उन बिखरे हुए सुरागों का उपयोग करके पूरे रहस्य की तस्वीर को फिर से बना सकता है जो उसके पास हैं, बिना उस असंभव और महंगे प्रयोग को किए जिसकी आवश्यकता होती है।

यह कैसे काम करता है, इसके लिए कुछ उपमाओं (analogies) का उपयोग किया गया है:

1. "सबसे उबाऊ" अनुमान (मैक्सिमम एंट्रॉपी)

कल्पना कीजिए कि आप किसी ऐसे शहर के मौसम का अनुमान लगाने की कोशिश कर रहे हैं जहाँ आप कभी नहीं गए। आप जानते हैं कि गर्मी का मौसम है, लेकिन आपको सटीक तापमान नहीं पता।

एक साधारण अनुमान (Naive Guess): आप अनुमान लगा सकते हैं कि कड़ाके की ठंड है।
एक स्मार्ट अनुमान (Max Entropy): आप अनुमान लगाते हैं कि "औसत गर्मी का मौसम" है। आप कुछ भी अतिरिक्त नहीं मानते जब तक कि आप मजबूर न हों। आप तथ्य नहीं गढ़ते; आप बस सबसे "तटस्थ" या "निष्पक्ष" परिदृश्य चुनते हैं जो उन तथ्यों के अनुकूल है जो आपके पास हैं।

सांख्यिकी (statistics) में, इसे मैक्सिमम एंट्रॉपी सिद्धांत कहा जाता है। यह डेटा के सबसे "ईमानदार" वितरण को खोजता है जो बिना कोई अतिरिक्त कहानी बनाए आपके द्वारा दिए गए प्रतिबंधों (constraints) के अनुकूल हो।

2. "क्या होगा अगर" वाले सुराग जोड़ना (इंटरवेंशनल डेटा)

लेखकों ने महसूस किया कि हालांकि "तटस्थ अनुमान" अच्छा है, लेकिन यदि हमारे पास "क्या होगा अगर" वाले सुराग हों, तो हम बेहतर कर सकते हैं।

अवलोकन संबंधी डेटा (Observational Data): "जब बारिश हुई, तो लोगों ने छतरियां इस्तेमाल कीं।" (सिर्फ देखना)।
इंटरवेंशनल डेटा (Interventional Data): "जब हमने बारिश होने के लिए मजबूर किया (बगीचे में पानी देकर), तो लोगों ने छतरियां इस्तेमाल कीं।" (दुनिया को बदलना)।

नई विधि, i-CMAXENT, इन "क्या होगा अगर" वाले सुरागों (जैसे, अकेले दवा A का परीक्षण करने जैसे एकल प्रयोगों से प्राप्त डेटा) को लेती है और "तटस्थ अनुमान" को उन्हें मानने के लिए मजबूर करती है। यह पूछता है: "पूरे सिस्टम की सबसे तटस्थ, निष्पक्ष तस्वीर क्या है जो दवा A अकेले, दवा B अकेले, और सामान्य अवलोकनों के डेटा के अनुकूल है?"

3. जादू का खेल: पहेली को फिट करना

यह पेपर गणितीय रूप से सिद्ध करता है कि जब आप ऐसा करते हैं, तो उत्तर हमेशा एक व्यवस्थित, अनुमानित आकार (जिसे एक्सपोनेंशियल फैमिली कहा जाता है) में आता है। यह ऐसा है जैसे यह पता लगाना कि चाहे सुराग कितने भी अस्त-व्यस्त क्यों न हों, अंतिम तस्वीर हमेशा एक विशिष्ट फ्रेम में फिट बैठती है।

इस कारण से, यह विधि दो अद्भुत चीजें कर सकती है:

कार्य A: माता-पिता की खोज (Parental Discovery)
कल्पना कीजिए कि आपके पास संदिग्धों (चर/variables) की एक सूची है और एक पीड़ित (परिणाम/outcome) है। आप जानना चाहते हैं कि वास्तव में अपराध किसने किया।
- पुराने तरीकों को यह जानने के लिए कि किसने किया, पूरे अपराध स्थल को एक साथ (सभी वेरिएबल्स एक साथ) देखने की आवश्यकता थी।
- i-CMAXENT व्यक्तिगत रूप से संदिग्धों के सुरागों को देख सकता है (जैसे, "जब हमने लाइटें बंद करने के लिए मजबूर किया, तो संदिग्ध A को घटनास्थल के पास देखा गया था") और यह पता लगा सकता है कि असली अपराधी कौन है, भले ही संदिग्ध अध्ययन के दौरान एक ही कमरे में न मिले हों।
- परिणाम: यह लगभग उतना ही अच्छा काम करता है जितना कि पूरा अपराध स्थल का वीडियो देखना, लेकिन इसे केवल बिखरी हुई गवाह रिपोर्टों की आवश्यकता थी।
कार्य B: संयोजन के प्रभाव की भविष्यवाणी करना (Predicting the Combo Effect)
आप जानना चाहते हैं कि दवा A + दवा B का प्रभाव क्या होगा। आपके पास केवल दवा A अकेले और दवा B अकेले का डेटा है।
- i-CMAXENT इन अलग-अलग साक्ष्यों को जोड़कर संयोजन के परिणाम की भविष्यवाणी करता है। यह एक ऐसे शेफ की तरह है जिसने सॉस को अकेले चखा है और मसाले को अकेले चखा है, और वह वास्तव में व्यंजन बनाए बिना ही भविष्यवाणी कर सकता है कि वे मिलकर कैसे लगेंगे।

यह क्यों महत्वपूर्ण है

वास्तविक दुनिया में, हमें शायद ही कभी हर एक कारक के हर संयोजन का परीक्षण करने का अवसर मिलता है। हमें आमतौर पर खंडित डेटा (fragmented data) के साथ काम करना पड़ता है।

चिकित्सा में: हम मनुष्यों पर हर दवा के संयोजन का परीक्षण नहीं कर सकते। हम उन्हें एक-एक करके या छोटे समूहों में परीक्षण कर सकते हैं। यह विधि हमें बड़े चित्र की भविष्यवाणी करने में मदद करती है।
कृषि में: हम हर खेत पर उर्वरक और बारिश के हर मिश्रण का परीक्षण नहीं कर सकते। हम उन्हें अलग-अलग परीक्षण कर सकते हैं और इस विधि का उपयोग करके सबसे अच्छे संयोजन का अनुमान लगा सकते हैं।

निष्कर्ष

यह पेपर हमें एक गणितीय "गोंद" देता है जो हमें अलग-अलग, छोटे प्रयोगों (जहाँ हमने एक चीज़ बदली थी) और सामान्य अवलोकनों को जोड़ने की अनुमति देता है ताकि दुनिया कैसे काम करती है, इसकी एक पूर्ण, विश्वसनीय तस्वीर बनाई जा सके। यह हमें बड़े, जटिल "क्या होगा अगर?" वाले सवालों के जवाब देने में सक्षम बनाता है, बिना उन असंभव, महंगे प्रयोगों को किए जिन्हें सामान्यतः आवश्यक माना जाता है।

यह एक पूरे जंगल को देखने जैसा है—हेलीकॉप्टर से पूरे जंगल के ऊपर से उड़ने के बजाय, सावधानी से कुछ व्यक्तिगत पेड़ों और हवा के पैटर्न का अध्ययन करके।

यहाँ गैरिडो मेजिया और अन्य द्वारा लिखित शोध पत्र "Estimating Joint Interventional Distributions from Marginal Interventional Data" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र कॉज़ल मार्जिनल प्रॉब्लम (Causal Marginal Problem) को संबोधित करता है, जो एक ऐसी स्थिति है जहाँ शोधकर्ताओं के पास चरों (variables) के विलगित उपसमुच्चयों (disjoint subsets) का डेटा (मार्जनल डेटा) होता है, न कि पूर्ण संयुक्त (joint) डेटासेट। विशेष रूप से, लेखक संयुक्त हस्तक्षेप वितरणों (joint interventional distributions) (जैसे, $P(Y | do(X_1, X_2))$ ) के अनुमान की चुनौती का समाधान करते हैं, जब केवल निम्नलिखित उपलब्ध हों:

अवलोकन संबंधी मार्जनल डेटा (जैसे, $P(X)$ , $P(Y|X_i)$ )।
चरों के उपसमुच्चयों के लिए एकल-चर हस्तक्षेप डेटा (जैसे, $P(Y | do(X_i))$ )।

संदर्भ: चिकित्सा या कृषि जैसे क्षेत्रों में, सभी संभावित संयोजनों (संयुक्त हस्तक्षेपों) के लिए रैंडमाइज्ड कंट्रोल्ड ट्रायल्स (RCTs) आयोजित करना अक्सर संयोजन विस्फोट (combinatorial explosion) के कारण अत्यधिक महंगा होता है। शोधकर्ताओं के पास अलग-अलग अध्ययनों से डेटा (जैसे, अकेले ड्रग A का प्रभाव, अकेले ड्रग B का प्रभाव, या अवलोकन संबंधी डेटा) हो सकता है, लेकिन उनके पास संयुक्त वितरण (joint distribution) का अभाव होता है जो संयुक्त हस्तक्षेपों के परिणाम का अनुमान लगाने या कारणत्मक माता-पिता (causal parents) निर्धारित करने के लिए आवश्यक है। कॉज़ल डिस्कवरी (जैसे ICP या KCI) के मौजूदा तरीके आमतौर पर पूर्ण संयुक्त अवलोकन संबंधी डेटा की आवश्यकता रखते हैं, जो इस सेटिंग में उपलब्ध नहीं होता है।

2. कार्यप्रणाली: इंटरवेंशनल कॉज़ल मैक्सिमम एंट्रॉपी (i-CMAXENT)

लेखक i-CMAXENT प्रस्तावित करते हैं, जो कॉज़ल मैक्सिमम एंट्रॉपी (CMAXENT) सिद्धांत का एक विस्तार है।

मुख्य अवधारणा (Core Concept)

मैक्सिमम एंट्रॉपी (MAXENT) सिद्धांत उस प्रायिकता वितरण (probability distribution) का चयन करता है जो दिए गए सांख्यिकीय बाधाओं (statistical constraints) को पूरा करते हुए एंट्रॉपी को अधिकतम करता है (यानी यूनिफॉर्म के सबसे करीब होता है)। CMAXENT इसे कॉज़ल सेटिंग्स में अनुकूलित करने के लिए चरों को एक कॉज़ल ग्राफ के अनुसार क्रमबद्ध करता है।

विस्तार (The Extension):
लेखक हस्तक्षेप संबंधी बाधाओं (interventional constraints) को शामिल करने के लिए CMAXENT का विस्तार करते हैं।

अनुकूलन उद्देश्य (Optimization Objective): $H(Y|X)$ $H (Y ∣ X)$ की कंडीशनल एंट्रॉपी को अधिकतम करना, निम्नलिखित के अधीन:
- अवलोकन संबंधी बाधाएं (मार्जनल और कंडीशनल अपेक्षाएं)।
- हस्तक्षेप संबंधी बाधाएं: एकल-चर हस्तक्षेपों से प्राप्त अपेक्षाएं, जैसे $E[h_l(Y, x_{S^I_l}, x_{S^C_l}) | do(X_{S^I_l})]$ ।
पहचान योग्यता धारणा (Identifiability Assumption): यह विधि मानती है कि हस्तक्षेप संबंधी अपेक्षाओं को अवलोकन संबंधी वितरणों के फलन (functionals) के रूप में व्यक्त किया जा सकता है (नॉनपैरामीट्रिक पहचान)। यह धारणा 5 (Weak Causal Sufficiency) पर निर्भर करता है, जो यह मानती है कि प्रभाव $Y$ और उसके संभावित कारणों $X$ के बीच कोई अज्ञात कंफ़ाउंडर (unobserved confounder) नहीं है, हालांकि $X$ के बीच कंफ़ाउंडर्स की अनुमति है।
सैद्धांतिक परिणाम (Theorem 8): लैग्रेंज द्वैतता (Lagrange duality) का उपयोग करते हुए, लेखक सिद्ध करते हैं कि i-CMAXENT अनुकूलन समस्या का समाधान एक्सपोनेंशियल फैमिली (exponential family) में निहित है। परिणामी वितरण इस रूप में होता है:
$p_\lambda(y|x) = \exp\left( \sum \lambda_k f_k + \sum \lambda_j g_j + \sum \lambda_l h_l + \beta(x) \right)$
जहाँ $h_l$ हस्तक्षेप संबंधी फलनों (interventional functions) का प्रतिनिधित्व करता है। यह पुष्टि करता है कि हस्तक्षेप संबंधी डेटा को शामिल करने से MAXENT समाधान की गणितीय संरचना टूटती नहीं है।

पैरेंटल डिस्कवरी तंत्र (Parental Discovery Mechanism)

यह विधि समाधान के लैग्रेंज मल्टीप्लायर्स (Lagrange multipliers) का विश्लेषण करके कॉज़ल पैरेंट्स का अनुमान लगाती है।

प्रपोजिशन 9 (Proposition 9): यदि किसी चर $X_j$ का $Y$ के अलावा कोई अन्य संतान (child) नहीं है, तो $P(Y | do(X_j))$ को शेष चरों को एडजस्टमेंट सेट के रूप में उपयोग करके पहचाना जा सकता है।
मॉडल को फिट करके, विशिष्ट चरों से जुड़े गैर-शून्य लैग्रेंज मल्टीप्लायर्स एक कॉज़ल लिंक का संकेत देते हैं, जिससे मार्जनल डेटा के माध्यम से भी पैरेंटल डिस्कवरी संभव हो पाती है।

3. प्रमुख योगदान (Key Contributions)

CMAXENT का विस्तार: यह शोध पत्र प्रयोगात्मक स्थितियों (हस्तक्षेपों) से प्राप्त डेटा को शामिल करने के लिए कॉज़ल मैक्सिमम एंट्रॉपी सिद्धांत को औपचारिक रूप से विस्तारित करता है, जिससे i-CMAXENT बनता है।
सैद्धांतिक प्रमाण: यह सिद्ध करता है कि हस्तक्षेप संबंधी बाधाओं के साथ अनुकूलन समस्या का समाधान एक्सपोनेंशियल फैमिली के भीतर ही रहता है, जो पिछले MAXENT परिणामों को कॉज़ल सिमेंटिक्स तक सामान्यीकृत करता है।
नॉनपैरामीट्रिक पहचान: यह प्रदर्शित करता है कि किन परिस्थितियों में संयुक्त हस्तक्षेप वितरणों को अवलोकन संबंधी और एकल-चर हस्तक्षेप मार्जनल डेटा के मिश्रण से नॉनपैरामीट्रिक रूप से पहचाना जा सकता है, भले ही कारणों के बीच कंफ़ाउंडिंग मौजूद हो।
मार्जनल बाधाओं के तहत पैरेंटल डिस्कवरी: यह केवल मार्जनल डेटा का उपयोग करके कॉज़ल पैरेंट्स की पहचान करने का एक तरीका प्रदान करता है, जो पिछले CMAXENT संस्करणों की सीमा को दूर करता है जो केवल अवलोकन संबंधी डेटा का उपयोग कर सकते थे।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन अलग-अलग ग्राफ संरचनाओं (बदलते कंफ़ाउंडिंग और कनेक्टिविटी के स्तरों के साथ) का उपयोग करके सिंथेटिक डेटा पर i-CMAXENT का मूल्यांकन किया।

कार्य 1: पैरेंटल डिस्कवरी (Parental Discovery)

तुलना: i-CMAXENT की तुलना मानक CMAXENT (केवल अवलोकन संबंधी) और कर्नेल कंडीशनल इंडिपेंडेंस (KCI) टेस्ट (जो पूर्ण संयुक्त वितरण तक पहुंच मानता है) से की गई।
निष्कर्ष:
- i-CMAXENT ने लगातार CMAXENT को पछाड़ दिया।
- इसने KCI के समान सटीकता प्राप्त की, जबकि KCI के पास पूर्ण संयुक्त वितरण $P(X, Y)$ तक पहुंच थी और i-CMAXENT के पास केवल मार्जनल डेटा था।
- हस्तक्षेप संबंधी डेटा वाले चरों का अनुपात बढ़ने पर प्रदर्शन में सुधार हुआ।

कार्य 2: संयुक्त हस्तक्षेप वितरणों का अनुमान लगाना (Estimating Joint Interventional Distributions)

लक्ष्य: केवल एकल-चर हस्तक्षेप डेटा ( $P(Y | do(X_i))$ ) और/या कंडीशनल डेटा का उपयोग करके $P(Y | do(X_1, X_2))$ का अनुमान लगाना।
निष्कर्ष:
- बाधाओं (चाहे हस्तक्षेप संबंधी हों या कंडीशनल) को जोड़ने से अनकन्स्ट्रेंड (unconstrained) MAXENT की तुलना में अवशेष त्रुटि (residual error) काफी कम हो गई।
- i-CMAXENT ने केवल एकल-चर हस्तक्षेप या कंडीशनल जानकारी पर निर्भर रहने के बावजूद अवशेषों को लगभग 5% तक कम कर दिया।
- विधि ने बिना किसी वितरण संबंधी धारणा (जैसे रैखिकता या गाऊसीता) या एडिटिव नॉइज़ मॉडल के, सफलतापूर्वक संयुक्त हस्तक्षेप वितरणों का पुनर्निर्माण किया।

5. महत्व और निहितार्थ (Significance and Implications)

डेटा अंतराल को पाटना (Bridging Data Gaps): यह विधि अलग-अलग अध्ययनों (जैसे, विभिन्न दवाओं के लिए अलग-अलग क्लिनिकल ट्रायल) से प्राप्त डेटा को मिलाने के लिए एक सिद्धांत आधारित ढांचा प्रदान करती है ताकि संयुक्त उपचारों के प्रभावों का अनुमान लगाया जा सके, जो जटिल डोमेन (जैसे चिकित्सा और नीति) में एक महत्वपूर्ण आवश्यकता है।
दक्षता (Efficiency): यह उच्च-आयामी (high-dimensional) RCTs की महंगी आवश्यकता को कम करता है, क्योंकि यह मौजूदा एकल-चर हस्तक्षेप डेटा और अवलोकन संबंधी डेटा का लाभ उठाता है।
मजबूती (Robustness): कई पैरामीट्रिक दृष्टिकोणों के विपरीत, i-CMAXENT नॉनपैरामीट्रिक है और इसे कार्यात्मक रूप (functional form) या एडिटिव नॉइज़ मॉडल की आवश्यकता नहीं है, जिससे यह वास्तविक दुनिया की प्रणालियों के लिए अधिक उपयुक्त बनता है।
सीमाएँ (Limitations): इस विधि के लिए बाधाओं को तैयार करने हेतु यह जानना आवश्यक है कि किन चरों पर हस्तक्षेप किया गया था। यह हस्तक्षेप संबंधी वितरणों की पहचान योग्यता (identifiability) पर भी निर्भर करता है, जो अंतर्निहित कॉज़ल ग्राफ संरचना (विशेष रूप से कारणों से प्रभाव तक बैकडोर पथों की अनुपस्थिति) पर निर्भर करता है।

संक्षेप में, यह शोध पत्र मार्जनल हस्तक्षेप डेटा को संयोजित करने के लिए एक कठोर सैद्धांतिक और व्यावहारिक आधार स्थापित करता है, जिससे उन कॉज़ल इन्फरेंस समस्याओं को हल किया जा सकता है जो पूर्ण संयुक्त अवलोकन के बिना पहले असंभव थीं।