तकनीकी सारांश: ऑर्थोगोनल लर्निंग के माध्यम से नेटवर्क पर विषम विषमतापूर्ण कारण प्रभाव का अनुमान लगाना

1. समस्या विवरण

यह शोध पत्र नेटवर्क वाले डेटा में विषम विषमतापूर्ण कारण प्रभावों (heterogeneous causal effects) का अनुमान लगाने की चुनौती को संबोधित करता है, जहाँ एक इकाई का उपचार न केवल उसके अपने परिणाम को प्रभावित करता है बल्कि उसके पड़ोसियों के परिणामों को भी प्रभावित करता है (नेटवर्क हस्तक्षेप)। दो प्राथमिक कठिनातियों की पहचान की गई है:

1. विषमता (Heterogeneity): विविध नोड विशेषताओं और कनेक्शन शक्ति के कारण कारण प्रभाव विभिन्न इकाइयों और किनारों (edges) पर काफी भिन्न होते हैं। मानक विधियाँ अक्सर केवल जनसंख्या-स्तर के औसत का अनुमान लगाती हैं, जो इन सूक्ष्म विविधताओं को पकड़ने में विफल रहती हैं।
2. कन्फाउंडिंग (Confounding): नेटवर्क होमोफिली (समान नोड्स का जुड़ने की प्रवृत्ति) और गुप्त निर्भरता जटिल कन्फाउंडिंग संरचनाएं बनाती हैं। वास्तविक कारण स्पिलओवर (spillovers) को गैर-कारण सहसंबंधों से अलग करने के लिए उच्च-आयामी सह-चरों (covariates) और गुप्त संबंधात्मक संरचनाओं के लिए समायोजन की आवश्यकता होती है।

मौजूदा दृष्टिकोण एक ट्रेड-ऑफ का सामना करते हैं: शास्त्रीय विधियाँ जनसंख्या-स्तर के औसत के लिए कठोर अनुमान प्रदान करती हैं लेकिन प्रतिबंधात्मक संरचनात्मक धारणाओं पर निर्भर करती हैं, जबकि हालिया ग्राफ न्यूरल नेटवर्क (GNN) दृष्टिकोण लचीलापन प्रदान करते हैं लेकिन अक्सर "ब्लैक बॉक्स" के रूप में कार्य करते हैं, जिससे किनारे-स्तर के प्रभावों की व्याख्या करना कठिन और अनिश्चितता मात्रा निर्धारण (UQ) चुनौतीपूर्ण हो जाता है।

2. कार्यप्रणाली

लेखक एक दो-चरणीय ऑर्थोगोनल लर्निंग फ्रेमवर्क प्रस्तावित करते हैं जिसे विषम प्रत्यक्ष और स्पिलओवर प्रभावों का अनुमान लगाने के लिए डिज़ाइन किया गया है, जो प्रथम-चरण के अनुमान त्रुटियों के प्रति सुदृढ़ (robust) है।

2.1 समस्या सेटअप और पहचान

• फ्रेमवर्क: समस्या को हस्तक्षेप के तहत पोटेंशियल आउटकम्स (potential outcomes) फ्रेमवर्क के भीतर तैयार किया गया है।
• धारणाएँ:
  • स्थानीय हस्तक्षेप (Local Interference): परिणाम केवल एक बंद एक-हॉप (one-hop) पड़ोस के भीतर उपचारों पर निर्भर करते हैं।
  • पड़ोस गैर-कन्फाउंडेडनेस (Neighborhood Unconfoundedness): एक बड़े $K$-हॉप पड़ोस के सह-चरों की स्थिति में, स्थानीय उपचार संभावित परिणामों से स्वतंत्र होते हैं।
  • योगात्मक स्थानीय हस्तक्षेप (Additive Local Interference - मुख्य संरचनात्मक धारणा): अपेक्षित परिणाम को एक प्रत्यक्ष प्रभाव और पड़ोसियों के युग्मवार स्पिलओवर प्रभावों के योग के रूप में मॉडल किया जाता है। विशेष रूप से, $E[Y_i] = \mu_0 + \tau_i T_i + \sum_{j \in N_1(i)} \tau_{ij} T_j$। यह हस्तक्षेप स्थान की घातीय जटिलता को रैखिक में बदल देता है, जिससे किनारे-स्तर की पहचान संभव हो पाती है।
• लक्ष्य अनुमानित (Target Estimands): यह विधि हस्तक्षेप मैट्रिक्स $\Gamma$ को लक्षित करती है, जहाँ $\Gamma_{ii} = \tau_i$ (प्रत्यक्ष प्रभाव) और $\Gamma_{ij} = \tau_{ij}$ ( $j$ से $i$ तक स्पिलओवर प्रभाव) है। नोड-स्तरीय प्रभाव (IDE, ISE) और जनसंख्या-स्तरीय औसत (ADE, ASE) को $\Gamma$ के रैखिक फलनals के रूप में प्राप्त किया जाता है।

2.2 ऑर्थोगोनल अनुमान फ्रेमवर्क

अनुमान निम्नलिखित नेयमैन ऑर्थोगनालाइज़ेशन (Neyman orthogonalization) रणनीति का पालन करता है (R-Learner से प्रेरित), जो उपद्रव पैरामीटर (nuisance parameter) अनुमान से होने वाले पूर्वाग्रह को कम करने के लिए है:

1. चरण 1 (उपद्रव अनुमान - Nuisance Estimation):
   • सशर्त परिणाम माध्य $m^*(X, A) = E[Y|X, A]$ और प्रपेंसिटी स्कोर $e^*(X, A) = P(T=1|X, A)$ का अनुमान लगाने के लिए ग्राफ न्यूरल नेटवर्क (GNNs) का उपयोग करता है।
   • नेटवर्क निर्भरता को संभालने और ओवरफिटिंग को रोकने के लिए क्रॉस-फिटिंग (ग्राफ दूरी के आधार पर नेटवर्क को स्वतंत्र फोल्ड्स में विभाजित करना) का उपयोग करता है।
2. चरण 2 (ऑर्थोगोनल रिग्रेशन):
   • चरण 1 के अनुमानों का उपयोग करके परिणाम और उपचार को अवशेषित (residualize) करता है: $\tilde{Y}_i = Y_i - \hat{m}_i$ और $\tilde{T}_i = T_i - \hat{e}_i$।
   • अवशेषित चरों का उपयोग करके हस्तक्षेप गुणांक $\Gamma$ का अनुमान लगाने के लिए लीस्ट-स्क्वायर समस्या को हल करता है।
   • सैद्धांतिक गारंटी: विशिष्ट नियमितता स्थितियों के तहत, कारण प्रभावों की अनुमान त्रुटि केवल उच्च क्रम पर उपद्रव अनुमान त्रुटि पर निर्भर करती है (जैसे, $O(r^4)$)। यदि उपद्रव अनुमानकर्ता $O(n^{-1/8})$ की दर से अभिसरित होते हैं, तो कारण अनुमानकर्ता $O(n^{-1/2})$ की पैरामेट्रिक दर प्राप्त करता है, जो ज्ञात उपद्रव फलनों वाले ओरेकल (oracle) के समान है।

2.3 अटेंशन-आधारित हस्तक्षेप मॉडल

विषम और असममित स्पिलओवर को कैप्चर करने के लिए, हस्तक्षेप मैट्रिक्स $\Gamma$ को एक अटेंशन-आधारित मॉडल के माध्यम से पैरामीटराइज किया जाता है:

• प्रत्यक्ष प्रभाव: एक MLP के माध्यम से $\tau_i = \tilde{W}(X_i)$।
• स्पिलओवर प्रभाव: $\tau_{ij} = \alpha_{ij} w_{ij}$, जहाँ $w_{ij}$ संयोजित विशेषताओं $(X_i, X_j)$ पर आधारित एक सीखा गया युग्मवार प्रभाव स्कोर है, और $\alpha_{ij}$ एक सीखने योग्य टेम्परेचर पैरामीटर $\beta$ के साथ सॉफ्टमैक्स फंक्शन से प्राप्त अटेंशन वेट्स हैं।
• यह संरचना मॉडल को विसरित (diffuse) और केंद्रित स्पिलओवर के बीच अंतर करने और हस्ताक्षरित (signed), किनारे-स्तर के प्रभावों को पुनः प्राप्त करने की अनुमति देती है।

2.4 अनिश्चितता मात्रा निर्धारण (Uncertainty Quantification)

लेखक अनुमानित स्पिलओवर मैट्रिक्स के लिए एक मल्टीप्लायर बूटस्ट्रैप प्रक्रिया विकसित करते हैं:

• यह यादृच्छिक मल्टीप्लायर्स का उपयोग करके दूसरे चरण के लॉस फंक्शन को विक्षोभ (perturb) करता है।
• प्रत्येक बूटस्ट्रैप सैंपल के लिए MLP को फिर से फिट करने की कम्प्यूटेशनल लागत से बचने के लिए, एक वन-स्टेप लीनियराइजेशन (लॉस के हेसियन का उपयोग करके) का उपयोग किया जाता है।
• यह किनारे-स्तर ($\tau_{ij}$) और नोड-स्तर ($ISE_i$) प्रभावों के लिए पॉइंटवाइज और सिमुल्टेनियस कॉन्फिडेंस इंटरवल के निर्माण को सक्षम बनाता है।

3. प्रमुख योगदान

1. ऑर्थोगोनल लर्निंग फ्रेमवर्क: एक नवीन दो-चरणीय दृष्टिकोण जो लचीले GNN-आधारित उपद्रव मॉडलिंग को एक व्याख्या योग्य अटेंशन-आधारित हस्तक्षेप मॉडल के साथ जोड़ता है, जो प्रथम-चरण की अनुमान त्रुटियों के प्रति सुदृढ़ है।
2. किनारे-स्तर की विषमता (Edge-Level Heterogeneity): केवल समग्र औसत के बजाय हस्ताक्षरित, युग्मवार स्पिलओवर प्रभावों ($\tau_{ij}$) का अनुमान लगाने और व्याख्या करने की क्षमता, जो प्रभावशाली पड़ोसियों और विषम अंतःक्रिया पैटर्न का पता लगाने में मदद करती है।
3. वैध अनिश्चितता मात्रा निर्धारण: एक बूटस्ट्रैप-आधारित प्रक्रिया जो विषम किनारे- और नोड-स्तर के प्रभावों के लिए सिमुल्टेनियस इन्फरेंस प्रदान करती है, जो पिछले कार्यों के जनसंख्या-स्तर के फोकस से आगे बढ़ती है।
4. सैद्धांतिक गारंटी: प्रमाण कि यह अनुमानित (estimator) स्थानीय योगात्मक हस्तक्षेप और सशर्त पड़ोस निर्भरता धारणाओं के तहत ओरेकल-समान अभिसरण दर प्राप्त करता है।

4. प्रयोगात्मक परिणाम

विधि का मूल्यांकन वास्तविक सोशल नेटवर्क (BlogCatalog, Flickr) से प्राप्त अर्ध-सिंथेटिक डेटा और सिंथेटिक स्टोकेस्टिक ब्लॉक मॉडल (SBM) नेटवर्क पर किया गया।

• बेंचमार्क प्रदर्शन: प्रस्तावित अनुमानित ("Proposedest") ने विषम प्रभावों (IDE और ISE) के नोड-स्तर के अनुमान में महत्वपूर्ण रूप से बेन्चमार्क (CFR, NetEst, TNet, GDML, आदि) को पीछे छोड़ दिया, जिसे PEHE द्वारा मापा गया। इसने जनसंख्या-स्तरीय मेट्रिक्स (ADE, ASE) पर बेन्चमार्क के बराबर या उससे बेहतर प्रदर्शन किया।
• उपद्रव त्रुटि के प्रति सुदृढ़ता: प्रस्तावित विधि और "ओरेकल" (सत्य उपद्रव फलनों का उपयोग करने वाला) के बीच प्रदर्शन का अंतर न्यूनतम था, जो GNN अनुमान त्रुटियों से पूर्वाग्रह को कम करने की ऑर्थोगोनल डिज़ाइन की क्षमता को प्रमाणित करता है।
• व्याख्यात्मकता:
  • स्पिलओवर साइन रिकवरी: विधि ने युग्मवार प्रभावों के संकेतों को पुनः प्राप्त करने में लगभग पूर्ण सटीकता प्राप्त की, जो EdgeConv से बेहतर है।
  • प्रभावशाली पड़ोसी का पता लगाना: इसने उच्च रिकॉल और NDCG के साथ शीर्ष 20% प्रभावशाली पड़ोसियों को सफलतापूर्वक पहचाना, जो ओरेकल प्रदर्शन के बहुत करीब है।
• अनिश्चितता अंशांकन (Uncertainty Calibration): बूटस्ट्रैप कॉन्फिडेंस इंटरवल ने किनारे और नोड दोनों प्रभावों के लिए नाममात्र स्तरों (90% और 95%) के करीब कवरेज दर प्राप्त की। ओरेकल उपद्रवों की तुलना में अनुमानित उपद्रवों का उपयोग करने पर अंतराल अधिक चौड़े थे, जो प्रथम-चरण के अनुमान की लागत को दर्शाता है, लेकिन नमूना आकार बढ़ने के साथ वे अभिसरित हुए।
• वास्तविक दुनिया का अनुप्रयोग: वायु प्रदूषण (DAPSm डेटासेट) पर एक केस स्टडी ने उत्सर्जन-नियंत्रण तकनीक अपनाने के प्रत्यक्ष और अप्रत्यक्ष प्रभावों का अनुमान लगाने की विधि की क्षमता प्रदर्शित की, जिससे ओजोन में प्रत्यक्ष और स्पिलओवर दोनों तरह की कमी के सकारात्मक अनुमान प्राप्त हुए।

5. महत्व और दावे

यह शोध पत्र लचीले, ब्लैक-बॉक्स रिप्रजेंटेशन लर्निंग और सिद्धांत-आधारित, व्याख्या योग्य कारण अनुमान के बीच के अंतर को पाटने का दावा करता है। ऑर्थोगनल लर्निंग का लाभ उठाकर, यह विस्तृत, विषम कारण प्रभावों (किनारे के स्तर तक) का अनुमान लगाने में सक्षम बनाता है, जबकि सांख्यिकीय वैधता और व्याख्यात्मकता बनाए रखता है।

लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण उन अनुप्रयोगों के लिए विशेष रूप से मूल्यवान है जिनमें डाउनस्ट्रीम विश्लेषण की आवश्यकता होती है, जैसे प्रभावशाली नोड्स की पहचान करना या स्पिलओवर की दिशात्मकता को समझना (जैसे, राजनीतिक ध्रुवीकरण या सोशल मीडिया अभियान में)। वे स्वीकार करते हैं कि योगात्मक स्थानीय हस्तक्षेप धारणा एक प्रथम-क्रम सन्निकटन (first-order approximation) है; हालाँकि, प्रयोग बताते हैं कि विधि मध्यम उपचार अंतःक्रियाओं की उपस्थिति में भी सुदृढ़ रहती है, और यदि आवश्यक हो तो फ्रेमवर्क को इंटरेक्शन टर्म्स को शामिल करने के लिए विस्तारित किया जा सकता है।

यह कार्य नेटवर्क कारण अनुमान को अधिक सूक्ष्म और कार्रवाई योग्य बनाने की दिशा में एक कदम के रूप में स्थापित होता है, जो औसत उपचार प्रभावों से आगे बढ़कर यह विस्तृत मानचित्र प्रदान करता है कि हस्तक्षेप जटिल सामाजिक संरचनाओं के माध्यम से कैसे प्रसारित होते हैं।