Consistent Bayesian causal discovery for structural equation models with equal error variances

यहाँ शोध पत्र "Consistent Bayesian causal discovery for structural equation models with equal error variances" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र कारण खोज (causal discovery) की समस्या को संबोधित करता है: केवल अवलोकन संबंधी डेटा (observational data) से चरों के एक समूह के बीच कारण संबंधों को दर्शाने वाले वास्तविक अंतर्निहित निर्देशित अचक्रीय ग्राफ (Directed Acyclic Graph - DAG) को पुनः प्राप्त करना।

• मॉडल: डेटा एक रैखिक, पुनरावर्ती संरचनात्मक समीकरण मॉडल (Linear, Recursive Structural Equation Model - SEM) द्वारा उत्पन्न होता है।
• मुख्य धारणा: त्रुटि पद (error terms) स्वतंत्र हैं, उनके विचरण समान (equal variances) ($\sigma^2$) हैं, लेकिन वे अनिवार्य रूप से गाऊसी (Gaussian) नहीं हैं।
• चुनौती: यह ज्ञात है कि समान त्रुटि विचरण की धारणा के तहत वास्तविक DAG अद्वितीय रूप से पहचानने योग्य (identifiable) है (सामान्य मामले के विपरीत जहाँ केवल मार्कोव तुल्यता वर्ग ही पहचानने योग्य होता है), लेकिन मौजूदा बायेसियन (Bayesian) विधियों में इस सेटिंग के लिए सैद्धांतिक गारंटी (विशेष रूप से, पोस्टीरियर कंसिस्टेंसी) का अभाव है। अधिकांश बायेसियन दृष्टिकोण गाऊसी धारणाओं पर निर्भर करते हैं या जटिल गैर-गाऊसी प्रायर (priors) की आवश्यकता रखते हैं जिन्हें मॉडल मिसस्पेसिफिकेशन (model misspecification) के तहत विश्लेषण करना कठिन होता है।

2. कार्यप्रणाली (Methodology)

लेखक एक बायेसियन DAG चयन विधि का प्रस्ताव करते हैं जो एक "वर्किंग मॉडल" (working model) का उपयोग करती है जो वास्तविक डेटा-जनरेटिंग प्रक्रिया से भिन्न हो सकता है लेकिन सुसंगत (consistent) परिणाम देता है।

A. वर्किंग मॉडल (The Working Model)

वास्तविक गैर-गाऊसी त्रुटियों को मॉडल करने के बजाय, लेखक समान त्रुटि विचरणों के साथ एक गाऊसी SEM को वर्किंग मॉडल के रूप में मानते हैं:
$$X_j = X_{pa_\gamma(j)}^T b_j^\gamma + e_j^\gamma, \quad e_j^\gamma \sim \mathcal{N}(0, \theta^\gamma)$$
जहाँ $b_j^\gamma$ प्रतिगमन गुणांक (regression coefficients) हैं और $\theta^\gamma$ सामान्य त्रुटि विचरण है।

B. प्रायर विनिर्देश (Prior Specification)

• गुणांक ($b_j^\gamma$): प्रत्येक नोड के लिए SEM गुणांकों पर स्वतंत्र $g$-priors रखे गए हैं। विशेष रूप से, $b_j^\gamma | \theta^\gamma, D_{j,n} \sim \mathcal{N}(0, g\theta^\gamma (D_{j,n}^T D_{j,n})^{-1})$।
• विचरण ($\theta^\gamma$): एक गैर-सूचनात्मक जेफ्रीज़ प्रायर (non-informative Jeffreys prior) का उपयोग किया गया है: $\pi(\theta^\gamma) \propto 1/\theta^\gamma$।
• DAG प्रायर ($\pi(\gamma)$): DAGs ($\Gamma_p$) के स्थान पर एक जेनेरिक प्रायर, जिसके लिए केवल यह आवश्यक है कि वह सभी DAGs को सख्ती से सकारात्मक द्रव्यमान (positive mass) प्रदान करे (जैसे, एक यूनिफॉर्म प्रायर)।

C. मार्जिनल लाइकलीहुड (Marginal Likelihood)

गुणांकों और विचरण को समाहित (integrate out) करके, लेखक एक DAG $\gamma$ के लिए मार्जिनल लाइकलीहुड (साक्ष्य) के लिए एक बंद-रूप अभिव्यक्ति (closed-form expression) प्राप्त करते हैं:
$$m(D_n | \gamma) \propto (V_n + g R_n^\gamma)^{-np/2} (1+g)^{(np - |\gamma|)/2}$$
जहाँ:

• $V_n$ कुल विचरण से संबंधित डेटा-निर्भर पद है।
• $R_n^\gamma$ $\gamma$ में अपने माता-पिता (parents) पर प्रत्येक चर के प्रतिगमन से प्राप्त अवशिष्ट योग वर्ग (residual sum of squares - RSS) का योग है।
• $|\gamma|$ में मौजूद किनारों (edges) की संख्या है।

3. प्रमुख सैद्धांतिक योगदान (Key Theoretical Contributions)

प्रमेय 1: न्यूनतम त्रुटि का अभिलक्षण (Characterization of Minimum Error)

शोध पत्र न्यूनतम अपेक्षित वर्ग त्रुटियों ($r_\gamma$) के योग के संबंध में एक महत्वपूर्ण गुण के लिए एक वैकल्पिक प्रमाण प्रदान करता है।

• परिणाम: किसी भी DAG $\gamma$ के लिए, मान लें कि $r_\gamma$ प्रत्येक चर की भविष्यवाणी करने के लिए उसके माता-पिता का उपयोग करने पर न्यूनतम अपेक्षित वर्ग त्रुटियों का योग है।
• गुण: $r_\gamma \geq r_{\gamma^*}$ (जहाँ $\gamma^*$ वास्तविक DAG है)।
• समानता की स्थिति: $r_\gamma = r_{\gamma^*}$ तभी और केवल तभी जब $\gamma$, वास्तविक DAG का एक सुपरग्राफ (supergraph) हो ($\gamma \supseteq \gamma^*$)।
• प्रमाण तकनीक: प्रमाण चोलेस्की गुणनखंडन (Cholesky factorization) के उपयोग पर आधारित है। यह दिखाता है कि चोलेस्की कारक के विकर्ण पद (diagonal entries) न्यूनतम भविष्यवाणी त्रुटियों के अनुरूप होते हैं, और इन पदों का गुणनफल क्रमपरिवर्तन (permutation) के तहत अपरिवर्तित रहता है, जिससे AM-GM असमानता के माध्यम से न्यूनीकरण परिणाम प्राप्त होता है।

प्रमेय 2: पोस्टीरियर कंसिस्टेंसी (Posterior Consistency)

मुख्य सैद्धांतिक परिणाम यह स्थापित करता है कि प्रस्तावित बायेसियन विधि नमूना आकार $n \to \infty$ होने पर वास्तविक DAG का सुसंगत चयन करती है।

• शर्त: $g$-prior में स्केलिंग पैरामीटर को $g = n$ पर सेट किया गया है।
• परिणाम: वास्तविक DAG $\gamma^*$ की पोस्टीरियर प्रायिकता प्रायिकता में 1 की ओर अभिसरित होती है:
  $$1 - \pi(\gamma^* | D_n) \leq O_p(n^{-1/2}) + \exp\left(-\frac{np}{2}(\delta^* + o_p(1))\right)$$
  जहाँ $\delta^* > 0$ वास्तविक DAG और किसी भी गैर-सुपरग्राफ के बीच त्रुटि विचरण के अंतर को दर्शाता है।
• महत्व: यह तब भी मान्य है जब वास्तविक त्रुटियाँ गैर-गाऊसी हों। विधि त्रुटि वितरण के संबंध में मॉडल मिसस्पेसिफिकेशन के प्रति सुदृढ़ (robust) है, जो केवल समान विचरण धारणा पर निर्भर करती है।

4. सिमुलेशन अध्ययन (Simulation Study)

लेखकों ने अपने सैद्धांतिक निष्कर्षों को मान्य करने के लिए एक सिमुलेशन अध्ययन किया:

• सेटअप: एक 4-चरों वाले DAG का उपयोग गैर-गाऊसी त्रुटियों (Laplace, Normal, और t-distribution) के साथ किया गया, जिनमें सभी का विचरण समान था।
• प्रक्रिया: डेटा बढ़ते नमूना आकार ($n = 1600, 3200, 6400, 12800$) के लिए उत्पन्न किया गया। प्रत्येक आकार के लिए 100 पुनरावृत्तियों (replications) के लिए वास्तविक DAG की पोस्टीरियर प्रायिकता की गणना की गई।
• परिणाम: जैसे-जैसे $n$ बढ़ा, वास्तविक DAG की पोस्टीरियर प्रायिकता तीव्रता से 1 के आसपास केंद्रित हो गई, जो प्रमेय 2 द्वारा स्थापित निरंतरता (consistency) की पुष्टि करती है।

5. महत्व और प्रभाव (Significance and Impact)

1. सिद्धांत और व्यवहार को जोड़ना: यह कार्य समान त्रुटि विचरणों के तहत रैखिक SEMs के लिए एक सैद्धांतिक रूप से सुव्यवस्थित बायेसियन ढांचे को प्रदान करके साहित्य के अंतराल को भरता है। पिछले बायेसियन दृष्टिकोणों में अक्सर गैर-गाऊसी सेटिंग्स में निरंतरता गारंटी का अभाव था।
2. सुदृढ़ता (Robustness): यह विधि प्रदर्शित करती है कि एक गाऊसी वर्किंग मॉडल को मानना निरंतरता के लिए पर्याप्त है, भले ही वास्तविक डेटा गैर-गाऊसी हो, बशर्ते समान विचरण की धारणा बनी रहे। यह कार्यान्वयन को काफी सरल बनाता है।
3. गणना दक्षता (Computational Efficiency): एक बंद-रूप मार्जिनल लाइकलीहुड का व्युत्पन्न एक DAG के लिए कुशल गणना की अनुमति देता है, जिससे महंगे MCMC सैंपलिंग की आवश्यकता के बिना पोस्टीरियर प्रायिकताओं की गणना संभव होती है, जिसकी अक्सर सामान्य संरचनात्मक शिक्षण (structure learning) में आवश्यकता होती है।
4. मौलिक अंतर्दृष्टि: चोलेस्की गुणनखंडन का उपयोग करके प्रमेय 1 का वैकल्पिक प्रमाण एक नया दृष्टिकोण प्रदान करता है कि क्यों सुपरग्राफ वर्ग के योग (sum of squared errors) को कम करते हैं, जो कारण खोज की ज्यामितीय व्याख्या को सुदृढ़ करता है।

निष्कर्ष (Conclusion)

यह शोध पत्र समान त्रुटि विचरणों वाले रैखिक SEMs में कारण संरचनाओं की खोज के लिए एक सुदृढ़, सुसंगत और गणनात्मक रूप से कुशल बायेसियन दृष्टिकोण प्रस्तुत करता है। $g$-priors और एक गाऊसी वर्किंग मॉडल का लाभ उठाकर, लेखक सिद्ध करते हैं कि वास्तविक DAG को प्रायिकता के एक के करीब प्राप्त किया जा सकता है, चाहे त्रुटि वितरण कुछ भी हो, बशर्ते त्रुटियाँ स्वतंत्र और होमोसेडास्टिक (homoscedastic) हों।