Autoregressive networks with dependent edges

यहाँ चांग एट अल. के शोध पत्र "Autoregressive Networks with Dependent Edges" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

गतिशील नेटवर्क मॉडलिंग (Dynamic network modeling) विकसित होती प्रणालियों (जैसे, सामाजिक संपर्क, जैविक नेटवर्क) को समझने के लिए अत्यंत महत्वपूर्ण है। इस क्षेत्र में एक बड़ी चुनौती डिपेंडेंट एडजेस (dependent edges) यानी आश्रित किनारों को मॉडल करना है। वास्तविक दुनिया के नेटवर्क में, दो नोड्स के बीच एक किनारे (edge) का बनना या टूटना अक्सर न केवल उस विशिष्ट किनारे के इतिहास पर, बल्कि नेटवर्क के अन्य किनारों की अवस्थाओं पर भी निर्भर करता है (जैसे, ट्रांजिटिविटी (transitivity), रेसिप्रोसिटी (reciprocity), डिग्री हेटेरोजेनिटी (degree heterogeneity))।

मौजूदा दृष्टिकोणों में सीमाएँ हैं:

• मानक AR मॉडल: अक्सर स्नैपशॉट्स के बीच 'एज-वाइज इंडिपेंडेंस' (edge-wise independence) मानते हैं, जिससे वे ट्रांजिटिविटी जैसी जटिल निर्भरताओं को पकड़ने में विफल रहते हैं।
• TERGMs (Temporal Exponential Random Graph Models): हालांकि ये लचीले हैं, लेकिन ये अक्सर डिजेनेरेसी (degeneracy) की समस्याओं, बड़े नेटवर्क के लिए कम्प्यूटेशनल जटिलता, और उच्च-आयामी एसिम्प्टोटिक थ्योरी (high-dimensional asymptotic theory) की कमी से जूझते हैं, विशेष रूप से जब नोड्स की संख्या ($p$) नमूना आकार ($n$) के साथ बढ़ती है।
• लेटेंट वेरिएबल मॉडल (Latent variable models): निर्भरता को अप्रत्यक्ष रूप से प्रेरित करते हैं, जिससे विशिष्ट संरचनात्मक विशेषताओं जैसे ट्रांजिटिविटी को स्पष्ट रूप से कॉन्फ़िगर करना कठिन हो जाता है।

यह शोध पत्र एक ऐसे फ्रेमवर्क की आवश्यकता को संबोधित करता है जो डिस्क्रीट-टाइम डायनेमिक नेटवर्क में स्पष्ट रूप से डिपेंडेंट एडजेस को मॉडल कर सके, उच्च-आयामी सेटिंग्स ($p \to \infty$) को समायोजित कर सके, और बिना सख्त स्टेशनैरिटी (stationarity) धारणाओं पर निर्भर रहे कठोर सांख्यिकीय अनुमान (statistical inference) प्रदान कर सके।

2. कार्यप्रणाली (Methodology)

2.1 मॉडल फ्रेमवर्क: डिपेंडेंट-एज AR(m)

लेखक डिपेंडेंट-एज ऑटोरेग्रेसिव (dep. edge AR) मॉडलों की एक श्रेणी प्रस्तावित करते हैं।

• परिभाषा: नेटवर्क प्रक्रिया $\{X_t\}$ एक $m$-वें क्रम की मार्कोव चेन (Markov chain) है। पिछले $m$ स्नैपशॉट्स ($X_{t-1}, \dots, X_{t-m}$) की स्थिति में, किनारे (edges) $X_{t,ij}$ परस्पर स्वतंत्र होते हैं।
• ट्रांजिशन प्रोबेबिलिटी (Transition Probabilities): एक किनारे के बनने ($X_{t-1,ij}=0$ होने पर $X_{t,ij}=1$) या टूटने ($X_{t-1,ij}=1$ होने पर $X_{t,ij}=0$) की संभावना को स्पष्ट रूप से निम्नलिखित के फलन (function) के रूप में मॉडल किया जाता है:
  1. विशिष्ट किनारे का इतिहास।
  2. नेटवर्क के अन्य किनारों का इतिहास (जो ट्रांजिटिविटी जैसी निर्भरताओं को कैप्चर करता है)।
• फॉर्मूलेशन (Formulation):
  $$\alpha_{t-1, ij} = P(X_{t,ij}=1 | \text{past}) = f_{ij}(\cdot; \theta)$$
  $$\beta_{t-1, ij} = P(X_{t,ij}=0 | \text{past}) = g_{ij}(\cdot; \theta)$$
  जहाँ $\theta$ एक पैरामीटर वेक्टर है जिसमें दोनों ग्लोबल पैरामीटर्स (जो सभी किनारों को प्रभावित करते हैं, जैसे ट्रांजिटिविटी स्ट्रेंथ) और लोकल पैरामीटर्स (नोड-विशिष्ट, जैसे किनारे बनाने/तोड़ने में हेटेरोजेनिटी) शामिल हैं।

2.2 प्रस्तावित विशिष्ट मॉडल

इस फ्रेमवर्क को तीन मॉडलों के साथ स्थापित किया गया है जो प्रमुख नेटवर्क विशेषताओं को कैप्चर करते हैं:

1. डिग्री हेटेरोजेनिटी मॉडल (Degree Heterogeneity Model): यह "रिच-गेट-रिचर" (rich-get-richer) प्रभावों को कैप्चर करता है जहाँ उच्च-डिग्री वाले नोड्स के नए किनारे बनाने की अधिक संभावना होती है।
2. परसिस्टेंस मॉडल (Persistence Model): यह किनारे की अवस्थाओं (जुड़े हुए या अलग हुए) के कई समय चरणों में अपरिवर्तित रहने की प्रवृत्ति को मॉडल करता है (AR(3))।
3. ट्रांजिटिविटी मॉडल (Transitivity Model): यह स्पष्ट रूप से "फ्रेंड ऑफ अ फ्रेंड" प्रभाव को मॉडल करता है, जहाँ एक किनारे के बनने की संभावना साझा पड़ोसियों ($U_{t-1, ij}$) और विलगित (disjoint) पड़ोसियों ($V_{t-1, ij}$) की संख्या पर निर्भर करती है।

2.3 अनुमान प्रक्रिया (Estimation Procedure)

उच्च आयामीता (चूंकि स्थानीय पैरामीटर्स का आकार $p$ के साथ बढ़ता है) के कारण, मानक मैक्सिमम लाइकलीहुड एस्टीमेशन (MLE) धीमी अभिसरण दर (convergence rate) से ग्रस्त होता है। लेखक एक दो-चरणीय अनुमान रणनीति प्रस्तावित करते हैं:

1. प्रारंभिक अनुमान (पार्शियल लाइकलीहुड - Partial Likelihood):

   • पैरामीटर्स को ग्लोबल ($\theta_G$) और लोकल ($\theta_{G^c}$) में विभाजित किया गया है।
   • ग्लोबल पैरामीटर्स को पूर्ण लॉग-लाइकलीहुड को अधिकतम करके अनुमानित किया जाता है।
   • लोकल पैरामीटर्स को पार्शियल लॉग-लाइकलीहुड को अधिकतम करके अनुमानित किया जाता है जो विशिष्ट घटकों को अलग करता है, जिससे उच्च-आयामी न्युसेंस पैरामीटर्स (nuisance parameters) के प्रभाव को कम किया जा सके।
   • परिणाम: सुसंगत अनुमानक (Consistent estimators), लेकिन धीमी अभिसरण दर ($O_p(n^{-1/4}p^{1/4})$) के साथ।

2. सुधारित अनुमान (प्रोजेक्टेड स्कोर - Projected Score):

   • तेज़ अभिसरण प्राप्त करने के लिए, लेखक एक प्रोजेक्शन रणनीति (चांग एट अल., 2021, 2023 से प्रेरित) का उपयोग करते हैं।
   • लक्षित पैरामीटर के लिए स्कोर फंक्शन को एक ऐसी दिशा पर प्रोजेक्ट किया जाता है जो न्युसेंस पैरामीटर्स (बाकी वेक्टर) के प्रभाव को न्यूनतम करती है।
   • इसमें प्रोजेक्शन वेक्टर $\hat{\phi}_l$ खोजने के लिए एक लीनियर प्रोग्रामिंग समस्या को हल करना शामिल है।
   • अंतिम अनुमानक $\hat{\theta}$ को प्रोजेक्टेड स्कोर समीकरण को हल करके प्राप्त किया जाता है।
   • परिणाम: सुधारा गया अनुमानक ग्लोबल पैरामीटर्स के लिए $O_p(n^{-1/2}p^{-1})$ और लोकल पैरामीटर्स के लिए $O_p((np)^{-1/2})$ की तेज़ अभिसरण दर प्राप्त करता है।

2.4 एसिम्प्टोटिक थ्योरी (Asymptotic Theory)

• मार्टिंगेल स्ट्रक्चर (Martingale Structure): लेखक कंडीशनल इंडिपेंडेंस धारणा के आधार पर एक मार्टिंगेल डिफरेंस सीक्वेंस का निर्माण करते हैं, जिससे नेटवर्क प्रक्रिया की स्टेशनैरिटी का अनुमान लगाए बिना एसिम्प्टोटिक विश्लेषण संभव होता है।
• लिमिटिंग डिस्ट्रीब्यूशन (Limiting Distribution): यह दिखाया गया है कि सुधारा गया अनुमानक सामान्य (सामान्य वितरण या नॉर्मल्स का मिश्रण) है। यदि प्रक्रिया मिक्सिंग स्थितियों (mixing conditions) को पूरा करती है, तो लिमिटिंग डिस्ट्रीब्यूशन सख्ती से नॉर्मल होता है।
• उच्च-आयामी निरंतरता (High-Dimensional Consistency): सिद्धांत तब भी प्रभावी रहता है जब $p$, $n$ के साथ बढ़ता है (विशेष रूप से $p \ll n^\delta$), एक ऐसा क्षेत्र जहाँ मानक एर्गोडिसिटी तर्क विफल हो जाते हैं।

3. मुख्य योगदान (Key Contributions)

1. नया मॉडलिंग फ्रेमवर्क: डिपेंडेंट-एज AR क्लास की शुरुआत, जो स्पष्ट रूप से समय के साथ और स्नैपशॉट्स के भीतर किनारों के बीच निर्भरता की अनुमति देता है, जो सरल AR मॉडल और जटिल TERGMs के बीच के अंतर को पाटता है।
2. उच्च-आयामी अनुमान (High-Dimensional Inference): गतिशील नेटवर्क के लिए एक कठोर एसिम्प्टोटिक विश्लेषण का विकास जहाँ नोड्स की संख्या नमूना आकार के साथ बढ़ती है, जो स्टेशनैरिटी की कमी वाली स्थितियों में भी काम करता है।
3. कुशल अनुमान एल्गोरिदम: एक प्रोजेक्टेड स्कोर विधि का प्रस्ताव जो उच्च-आयामी नेटवर्क सेटिंग्स में MLE की अभिसरण दर में काफी सुधार करता है, जिससे बड़े नेटवर्क के लिए अनुमान संभव हो जाता है।
4. सॉफ्टवेयर कार्यान्वयन: लेखक अनुमान और निष्कर्ष प्रक्रियाओं को लागू करने के लिए एक ओपन-सोर्स R पैकेज (arnetworks) प्रदान करते हैं।

4. परिणाम (Results)

4.1 सिमुलेशन अध्ययन (Simulation Studies)

• सटीकता (Accuracy): ट्रांजिटिविटी मॉडल पर सिमुलेशन दर्शाते हैं कि सुधारा गया अनुमानक मीन एब्सोल्यूट एरर (MAE) के मामले में प्रारंभिक अनुमानक की तुलना में काफी बेहतर प्रदर्शन करता है। उदाहरण के लिए, विशिष्ट सेटिंग्स में ग्लोबल पैरामीटर्स के लिए त्रुटि ~1.2 से गिरकर ~0.05 हो गई।
• कवरेज (Coverage): व्युत्पन्न एसिम्प्टोटिक वितरण का उपयोग करके निर्मित 95% कॉन्फिडेंस इंटरवल, नाममात्र स्तर (लगभग 95%) के करीब कवरेज प्रोबेबिलिटी प्राप्त करते हैं।
• स्केलेबिलिटी (Scalability): विधि बड़े नेटवर्क ($p=500$) और बदलते नमूना आकारों के लिए भी प्रभावी बनी रहती है।

4.2 वास्तविक डेटा विश्लेषण: ईमेल इंटरैक्शन (Email Interactions)

• डेटासेट: एक पोलिश मैन्युफैक्चरिंग कंपनी में ईमेल एक्सचेंज (106 नोड्स, 39 साप्ताहिक स्नैपशॉट्स)।
• निष्कर्ष:
  • ट्रांजिटिविटी: ट्रांजिटिविटी का मजबूत प्रमाण; साझा पड़ोसियों वाले नोड्स के बीच किनारे बनने की अधिक संभावना होती है।
  • हेटेरोजेनिटी: महत्वपूर्ण नोड-स्तरीय हेटेरोजेनिटी। प्रबंधकों (पदानुक्रम में ऊपर) ने गैर-प्रबंधकों की तुलना में नए किनारे बनाने की अधिक प्रवृत्ति दिखाई।
  • मॉडल फिट: प्रस्तावित ट्रांजिटिविटी AR मॉडल ने प्रतिस्पर्धी मॉडलों (ग्लोबल AR, एजवाइज AR, एजवाइज मीन) की तुलना में सबसे कम BIC (बायेसियन इंफॉर्मेशन क्राइटेरियन) प्राप्त किया, जो फिट और जटिलता के बीच बेहतर संतुलन को दर्शाता है।
  • पूर्वानुमान (Forecasting): लिंक प्रेडिक्शन कार्यों (ROC कर्व्स) में, ट्रांजिटिविटी AR मॉडल प्रतिस्पर्धी प्रदर्शन करता है, जो सरल मॉडलों पर हावी है और यह दिखाता है कि एज डिपेंडेंस को कैप्चर करने से पूर्वानुमान सटीकता में सुधार होता है।

5. महत्व (Significance)

यह शोध पत्र गतिशील नेटवर्क के सांख्यिकीय विश्लेषण में एक महत्वपूर्ण प्रगति है:

• सैद्धांतिक कठोरता: यह डिस्क्रीट-टाइम डायनेमिक नेटवर्क मॉडलों के लिए पहला औपचारिक उच्च-आयामी एसिम्प्टोटिक विश्लेषण प्रदान करता है जिन्हें स्टेशनैरिटी की आवश्यकता नहीं है।
• व्यावहारिक उपयोगिता: ट्रांजिटिविटी और डिग्री हेटेरोजेनिटी जैसी निर्भरताओं को स्पष्ट रूप से मॉडल करके, यह फ्रेमवर्क स्वतंत्र-एज मॉडलों की तुलना में सामाजिक और जैविक प्रणालियों का अधिक यथार्थवादी प्रतिनिधित्व प्रदान करता है।
• कम्प्यूटेशनल व्यवहार्यता: प्रस्तावित प्रोजेक्शन-आधारित अनुमान बड़े पैमाने के डायनेमिक नेटवर्क पर कठोर सांख्यिकीय अनुमान करना संभव बनाता है, जो पहले मानक अनुमानकों की कम्प्यूटेशनल जटिलता और धीमी अभिसरण दर के कारण बाधित था।
• मौजूदा साहित्य के साथ संबंध: यह AR मॉडलों और TERGMs के बीच संबंध को स्पष्ट करता है, यह दिखाते हुए कि कंडिशनली इंडिपेंडेंट TERGMs प्रस्तावित फ्रेमवर्क का एक विशेष मामला है, जबकि एक अधिक सुलभ अनुमान पथ भी प्रदान करता है।

संक्षेप में, यह शोध पत्र डिपेंडेंट एडजेस वाले जटिल डायनेमिक नेटवर्क को मॉडल करने और अनुमान लगाने के लिए एक मजबूत, सैद्धांतिक रूप से सुदृढ़ और कम्प्यूटेशनल रूप से कुशल फ्रेमवर्क पेश करता है।