तकनीकी सारांश: विलुप्त समूह संरचनाओं के साथ बहु-संबंधी नेटवर्क ऑटोरेग्रेशन मॉडल

1. समस्या विवरण

यह शोध पत्र उच्च-आयामी टेंसर-मूल्यवान समय श्रृंखला (tensor-valued time series) पर बहु-संबंधी नेटवर्क (multi-relational networks) के प्रभावों को मॉडल करने और उन्हें मापने की चुनौती का समाधान करता है। कई वास्तविक दुनिया के परिदृश्यों में (जैसे सोशल मीडिया समीक्षाएं, अंतर्राष्ट्रीय व्यापार, वित्तीय बाजार), संस्थाएं कई अलग-अलग नेटवर्क परतों (जैसे सामाजिक संबंध, स्थानिक निकटता, उत्पाद समानता) के माध्यम से परस्पर क्रिया करती हैं। मौजूदा साहित्य मुख्य रूप से निम्नलिखित पर केंद्रित रहा है:

• एकल-नेटवर्क ऑटोरेग्रेशन: एक एकल नेटवर्क संरचना के भीतर समय श्रृंखला का मॉडलिंग करना।
• वेक्टर ऑटोरेग्रेशन (VAR): टेंसर डेटा को वेक्टर्स में स्टैक करना, जो अंतर्निहित बहुआयामी संरचना को नष्ट कर देता है और मापदंडों की संख्या में विस्फोट ($O(\prod N_l^2)$) का कारण बनता है, जिससे अनुमान लगाना कठिन और व्याख्या अस्पष्ट हो जाती है।
• टेंसर फैक्टर मॉडल: आयामी कमी (dimension reduction) के लिए प्रभावी होने के बावजूद, इनमें अक्सर विशिष्ट नेटवर्क प्रभावों के संबंध में प्रत्यक्ष व्याख्यात्मकता का अभाव होता है और ये विभिन्न नेटवर्क आयामों में विषम समूह संरचनाओं को स्पष्ट रूप से मॉडल नहीं करते हैं।

इसके अतिरिक्त, नोडल विषमता (nodal heterogeneity) प्रचलित है; एक ही नेटवर्क के भीतर संस्थाएं अक्सर अलग-अलग व्यवहारिक पैटर्न प्रदर्शित करती हैं। जबकि पैनल डेटा और एकल-नेटवर्क समय श्रृंखला में विलुप्त समूह संरचनाओं (latent group structures) का उपयोग किया गया है, बहु-संबंधी टेंसर समय श्रृंखला में इन्हें विस्तारित करना महत्वपूर्ण सैद्धांतिक चुनौतियां पेश करता है क्योंकि इसमें विभिन्न नेटवर्क आयामों में समूह संरचनाओं के बीच जटिल अंतःक्रियाएं होती हैं।

2. कार्यप्रणाली: GTNAR मॉडल

लेखक ग्रुप टेंसर-वैल्यूड नेटवर्क ऑटोरेग्रेशन (GTNAR) मॉडल प्रस्तावित करते हैं।

2.1 मॉडल सूत्रीकरण

मान लीजिए कि $Y_t \in \mathbb{R}^{N_1 \times \dots \times N_q}$ एक टेंसर-मूल्यवान समय श्रृंखला है जिसे समय $t$ पर देखा गया है, जो $q$ अलग-अलग नेटवर्क द्वारा अनुक्रमित है जिनके एडजेसेंसी मैट्रिसेस (adjacency matrices) $A^{(1)}, \dots, A^{(q)}$ हैं। मॉडल यह मानता है कि प्रत्येक नेटवर्क $l$ में $G_l$ समूहों के साथ एक विलुप्त समूह संरचना है।

मॉडल को इस प्रकार परिभाषित किया गया है:
$$Y_{i_1 \dots i_q, t} = \sum_{l=1}^q \lambda^{(l)}_{g^{(l)}_{i_l}} \sum_{k=1}^{N_l} \frac{a^{(l)}_{i_l k}}{n_{l i_l}} Y_{i_1 \dots i_{l-1} k i_{l+1} \dots i_q, t-1} + \alpha_{g^{(1)}_{i_1} \dots g^{(q)}_{i_q}} Y_{i_1 \dots i_q, t-1} + \sum_{l=1}^q x^{(l)\top}_{i_l t} \zeta^{(l)}_{g^{(l)}_{i_l}} + \varepsilon_{i_1 \dots i_q, t}$$
जहाँ:

• नेटवर्क मुख्य प्रभाव (Network Main Effects): पद $\lambda^{(l)}_{g^{(l)}_{i_l}}$ नेटवर्क $l$ के लिए ऑटोरेग्रेसिव गुणांक का प्रतिनिधित्व करता है। महत्वपूर्ण रूप से, यह गुणांक नेटवर्क $l$ में नोड $i_l$ की समूह सदस्यता $g^{(l)}_{i_l}$ पर निर्भर करता है, जो नेटवर्क के भीतर विषमता की अनुमति देता है।
• स्व-संवेग (Self-Momentum): पद $\alpha_{g^{(1)}_{i_1} \dots g^{(q)}_{i_q}}$ स्व-चालित प्रभाव को कैप्चर करता है, जो सभी $q$ नेटवर्कों में संयुक्त समूह सदस्यता पर निर्भर करता है।
• कोवेरिएट प्रभाव (Covariate Effects): बाह्य कोवेरिएट्स $x^{(l)}$ के गुणांक $\zeta^{(l)}$ भी समूह सदस्यता के अनुसार भिन्न होते हैं।
• टेंसर प्रतिनिधित्व: मॉडल को पंक्ति-सामान्यीकृत एडजेसेंसी मैट्रिसेस $W^{(l)}$ और समूह मापदंडों के डायगोनल मैट्रिसेस का उपयोग करके टेंसर बीजगणित के माध्यम से संक्षिप्त रूप में लिखा जा सकता है।

2.2 अनुमान एल्गोरिदम (Estimation Algorithm)

लेखक मॉडल मापदंडों ($\xi$) और विलुप्त समूह सदस्यताओं ($G$) को एक साथ अनुमानित करने के लिए एक पुनरावृत्ति एल्गोरिदम (iterative algorithm) विकसित करते हैं:

1. पैरामीटर अपडेट: निश्चित समूह सदस्यताओं के दिए जाने पर, मॉडल एक रैखिक प्रतिगमन (linear regression) समस्या में बदल जाता है। मापदंडों का अनुमान न्यूनतम वर्ग (least squares) के माध्यम से लगाया जाता है (वर्ग त्रुटियों के योग को कम करते हुए)।
2. सदस्यता अपडेट: निश्चित मापदंडों के दिए जाने पर, समूह सदस्यताओं को प्रत्येक नेटवर्क आयाम के लिए क्रमिक रूप से अपडेट किया जाता है। प्रत्येक नोड के लिए, एल्गोरिदम उसे उस समूह में असाइन करता है जो अन्य आयामों के नोड्स की वर्तमान सदस्यताओं के अधीन, स्थानीय वर्ग त्रुटि को कम करता है।
3. आरंभीकरण (Initialization): ऑब्जेक्टिव फंक्शन की गैर-कन्वेक्सिटी (non-convexity) को कम करने के लिए, कई आरंभीकरण रणनीतियों का उपयोग किया जाता है, जिसमें न्यूनतम हानि वाले समाधान का चयन किया जाता है।

2.3 समूह संख्या चयन

प्रत्येक नेटवर्क के लिए समूहों की संख्या ($G_1, \dots, G_q$) चुनने के लिए एक सूचना मानदंड (Information Criterion - QIC) प्रस्तावित किया गया है:
$$\text{QIC}(G) = \log\{Q(\hat{\xi}(G), \hat{G}(G))\} + \lambda(G)$$
जहाँ $\lambda(G)$ एक दंड (penalty) पद है। लेखक ऐसी सैद्धांतिक स्थितियाँ प्रदान करते हैं जिसके तहत यह मानदंड सत्य समूह संख्याओं को लगातार चुन सकता है।

3. प्रमुख योगदान

1. नवीन मॉडलिंग ढांचा: GTNAR मॉडल का परिचय, जो टेंसर-मूल्यवान समय श्रृंखला के लिए बहु-संबंधी नेटवर्क संरचनाओं को विलुप्त समूह विषमता के साथ एकीकृत करता है। यह नोडल विषमता को ध्यान में रखते हुए नेटवर्क प्रभावों का सीधा परिमाणीकरण करने की अनुमति देता है।
2. सहवर्ती अनुमान (Simultaneous Estimation): मॉडल मापदंडों और विलुप्त समूह सदस्यताओं को कई नेटवर्क आयामों में एक साथ अनुमानित करने के लिए एक पुनरावृत्ति एल्गोरिदम का विकास, जो एकल-नेटवर्क समूह अनुमान की तुलना में अधिक जटिल कार्य है।
3. सैद्धांतिक गारंटी:
   • संगति (Consistency): सिद्ध किया गया कि समूह-वार मापदंडों और समूह सदस्यताओं दोनों का निरंतर अनुमान लगाया जा सकता है, भले ही समूहों की संख्या ओवर-स्पेसिफाइड (अर्थात, $G_l \ge G_{l,0}$) हो।
   • सुदृढ़ संगति (Strong Consistency): स्थापित किया गया कि अनुमानित समूह सदस्यताएँ लेबल क्रमपरिवर्तन (label permutation) तक, 1 के करीब प्रायिकता के साथ सत्य सदस्यताओं की ओर अभिसरित होती हैं।
   • अनंतस्पर्शी सामान्यता (Asymptotic Normality): पैरामीटर अनुमानकर्ताओं की अनंतस्पर्शी सामान्यता को प्राप्त किया गया, जिससे वैध सांख्यिकीय निष्कर्ष (जैसे कॉन्फिडेंस इंटरवल) सक्षम होते हैं।
   • समूह संख्या चयन: प्रस्तावित QIC अधिकांश सिमुलेशन पुनरावृत्तियों में सत्य समूह संख्याओं की सफलतापूर्वक पहचान करता है।
4. मॉडल विस्तार: ढांचे को इंटरैक्टिव नेटवर्क प्रभावों (परतों में गुणात्मक) और समूह-विशिष्ट त्रुटि प्रसरणों (Weighted Least Squares) को संभालने के लिए विस्तारित किया गया है।

4. परिणाम

4.1 सिमुलेशन अध्ययन

लेखकों ने स्टोकेस्टिक ब्लॉक मॉडल (SBM) और पावर-लॉ नेटवर्क संरचनाओं के तहत $q=2$ नेटवर्कों के साथ व्यापक सिमुलेशन किए।

• अनुमान सटीकता: जब समूह संख्या सही ढंग से निर्दिष्ट या ओवर-स्पेसिफाइड होती है, तो रूट मीन स्क्वेर्ड एरर (RMSE) नमूना आकार ($N$) और समय लंबाई ($T$) बढ़ने के साथ घटता है, जो "ओरेकल" अनुमानकर्ताओं (जो सत्य सदस्यता जानते हैं) के प्रदर्शन के करीब पहुंच जाता है।
• अनुमान (Inference): 95% कॉन्फिडेंस इंटरवल की कवरेज प्रोबेबिलिटी (CP) नमूना आकार बढ़ने के साथ नाममात्र स्तर (0.95) के करीब पहुंच जाती है।
• अंडर-स्पेसिफिकेशन: जब समूहों की संख्या अंडर-स्पेसिफाइड होती है, तो अनुमान पूर्वाग्रह (bias) उच्च रहता है, और सदस्यता क्लस्टरिंग सटीकता काफी गिर जाती है, जो सही या ओवर-स्पेसिफिकेशन की आवश्यकता की पुष्टि करती है।
• समूह चयन: QIC ने अधिकांश सिमुलेशन पुनरावृत्तियों में सत्य समूह संख्याओं की सफलतापूर्वक पहचान की।

4.2 वास्तविक डेटा अनुप्रयोग (Yelp डेटासेट)

मॉडल का उपयोग पांच उत्तरी अमेरिकी शहरों (2010-2018) को कवर करने वाले Yelp समीक्षा डेटासेट पर किया गया। प्रतिक्रिया चर (response variable) समय $t$ पर उपयोगकर्ता $i$ द्वारा जिला $j$ में दी गई समीक्षाओं की लॉग-ट्रांसफॉर्म की गई संख्या थी।

• नेटवर्क: सामाजिक नेटवर्क (उपयोगकर्ता मित्रता) और स्थानिक नेटवर्क (जिला आसन्नता/adjacency)।
• निष्कर्ष:
  • विषमता: प्रत्येक शहर में उपयोगकर्ताओं और जिलों के लिए विशिष्ट समूह संरचनाओं की पहचान की गई।
  • स्थानिक प्रभाव (Spatial Effects): स्थानिक नेटवर्क प्रभाव लगातार सकारात्मक थे, जो इंगित करते हैं कि पड़ोसी जिलों में समीक्षाएं एक-दूसरे को प्रभावित करती हैं। इस प्रभाव का परिमाण जिला समूह द्वारा भिन्न होता है (जैसे, केंद्रीय व्यावसायिक जिलों में अधिक)।
  • सामाजिक प्रभाव (Social Effects): सामाजिक नेटवर्क प्रभाव उपयोगकर्ता समूह के अनुसार काफी भिन्न थे। कुछ समूहों (जैसे, दीर्घकालिक उपयोगकर्ताओं) के लिए प्रभाव नकारात्मक था, जबकि अन्य (जैसे, अत्यधिक जुड़े हुए उपयोगकर्ताओं) के लिए यह सकारात्मक था।
  • स्व-संवेग (Self-Momentum): सकारात्मक स्व-संवेग प्रभाव देखे गए, जो समीक्षा गतिविधि में निरंतरता (persistence) को दर्शाते हैं।

5. महत्व और दावे

यह शोध पत्र दावा करता है कि GTNAR मॉडल उच्च-आयामी टेंसर समय श्रृंखला में बहु-नेटवर्क प्रभावों पर वैध निष्कर्ष के लिए एक कठोर सांख्यिकीय ढांचा प्रदान करके साहित्य में एक महत्वपूर्ण अंतर को भरता है।

• व्याख्यात्मकता: उन दृष्टिकोणों के विपरीत जो नेटवर्क संरचना को अस्पष्ट कर देते हैं, GTNAR यह स्पष्ट व्याख्या प्रदान करता है कि कैसे विशिष्ट नेटवर्क परतें और समूह सदस्यताएं अस्थायी गतिशीलता (temporal dynamics) को संचालित करती हैं।
• दक्षता: समूह संरचनाओं और नेटवर्क वेटिंग मैट्रिसेस का लाभ उठाकर, मॉडल पैरामीटर स्पेस को $O(\prod N_l^2)$ से घटाकर $O(\sum G_l p_l + \prod G_l)$ कर देता है, जिससे बड़े नेटवर्क के लिए अनुमान संभव हो जाता है।
• मजबूती (Robustness): सैद्धांतिक परिणाम दर्शाते हैं कि विधि समूह संख्या के ओवर-स्पेसिफिकेशन के प्रति मजबूत है, जो कि एक सामान्य व्यावहारिक चिंता है जहाँ समूहों की वास्तविक संख्या अज्ञात होती है।
• अनुप्रयोग क्षमता: लेखक आपूर्ति श्रृंखला लिंकेज, अंतर्राष्ट्रीय व्यापार और प्रासंगिक अनुशंसा प्रणाली (contextual recommendation systems) जैसे उदाहरणों का हवाला देते हुए, अर्थशास्त्र, वित्त और सामाजिक विज्ञान जैसे विविध क्षेत्रों में मॉडल की उपयोगिता को रेखांकित करते हैं।

लेखक भविष्य की दिशाओं के संबंध में एक विनम्र स्वर बनाए रखते हैं, उच्च-आयामी कोवेरिएट्स, गुणात्मक नेटवर्क प्रभाव, छिपे हुए कारक संरचनाओं और श्रेणीबद्ध प्रतिक्रियाओं (categorical responses) के लिए संभावित विस्तार का सुझाव देते हैं, साथ ही यह भी नोट करते हैं कि मिनिमैक्स कन्वर्जेंस रेट प्राप्त करना एक खुला सैद्धांतिक प्रश्न बना हुआ है।