🤖 machine learning

Inductive Subgraphs as Shortcuts: Causal Disentanglement for Heterophilic Graph Learning

यह शोध पत्र CD-GNN का प्रस्ताव करता है, जो एक कॉज़ल डिसेंटैंगलमेंट फ्रेमवर्क है जो हेटरोफिलिक ग्राफ में नोड वर्गीकरण सटीकता और मजबूती को सुधारने के लिए स्प्यूरियस इंडक्टिव सबग्राफ शॉर्टकट्स की पहचान करता है और उन्हें रोकता है।

मूल लेखक: Xiangmeng Wang, Qian Li, Haiyang Xia, Hao Miao, Qing Li, Guandong Xu

प्रकाशित 2026-04-22

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xiangmeng Wang, Qian Li, Haiyang Xia, Hao Miao, Qing Li, Guandong Xu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Inductive Subgraphs as Shortcuts: Causal Disentanglement for Heterophilic Graph Learning" शोध पत्र का सरल अवधारणाओं और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।

बड़ी तस्वीर: जब "पैटर्न" AI को धोखा देते हैं

कल्पना कीजिए कि आप एक बच्चे को विभिन्न प्रकार के जानवरों की पहचान करना सिखा रहे हैं।

सही तरीका (Homophily): आप उसे एक कुत्ते की तस्वीर दिखाते हैं, और तस्वीर में अन्य सभी कुत्ते भी कुत्तों जैसे ही दिखते हैं। बच्चा सीखता है, "अगर यह कुत्ते जैसा दिखता है, तो यह कुत्ता है।" यह बहुत अच्छा काम करता है।
गलत तरीका (Heterophily): अब, एक अराजक दृश्य की कल्पना करें जहाँ एक कुत्ता एक बिल्ली, एक पक्षी और एक मछली के पास खड़ा है। इस दुनिया में, कुत्ते के "पड़ोसी" कुत्ते नहीं हैं। यदि बच्चा जानवर का अनुमान लगाने के लिए केवल पड़ोसियों को देखता है, तो वह हर बार गलत होगा।

AI की दुनिया में, इस अराजक दुनिया को हेटरोफिलिक ग्राफ (Heterophilic Graph) कहा जाता है। अधिकांश वर्तमान AI मॉडल (ग्राफ न्यूरल नेटवर्क, या GNNs) "सही तरीके" की अपेक्षा के साथ प्रशिक्षित होते हैं। जब वे "गलत तरीके" का सामना करते हैं, तो वे भ्रमित हो जाते हैं और गलतियाँ करते हैं।

समस्या: "शॉर्टकट" का जाल

इस शोध पत्र के लेखकों ने खोजा कि ये AI मॉडल क्यों विफल होते हैं। उन्होंने पाया कि AI शॉर्टकट (Shortcuts) के चक्कर में फंस रहा है।

उपमा: नकल करने वाला छात्र
कल्पना कीजिए कि एक छात्र परीक्षा दे रहा है।

वास्तविक कौशल (Causal): छात्र वास्तव में सामग्री का अध्ययन करता है और अवधारणाओं को समझता है।
शॉर्टकट (Inductive Subgraph): छात्र एक पैटर्न देख लेता है: "हर बार जब शिक्षक इतिहास से संबंधित प्रश्न पूछता है, तो उत्तर 'C' होता है।" छात्र इतिहास पढ़ना छोड़ देता है और बस हर बार 'C' का अनुमान लगाने लगता है।

एक सामान्य कक्षा (होमोफिलिक ग्राफ) में, यह शॉर्टकट काम करता है क्योंकि पैटर्न सच है। लेकिन एक अराजक कक्षा (हेटरोफिलिक ग्राफ) में, शिक्षक नियम बदल देता है। इतिहास के प्रश्नों का उत्तर 'A' या 'B' हो सकता है। शॉर्टकट पर निर्भर रहने वाला छात्र बुरी तरह विफल हो जाता है।

यह शोध पत्र तर्क देता है कि AI मॉडल ऐसे नकल करने वाले छात्रों की तरह हैं। वे डेटा में बार-बार आने वाले छोटे पैटर्न (जिन्हें इंडक्टिव सबग्राफ कहा जाता है) को ढूंढ लेते हैं जो याद करना आसान है। सामान्य ग्राफ में, ये पैटर्न मददगार होते हैं। अराजक ग्राफ में, ये भ्रामक शॉर्टकट (spurious shortcuts) हैं जो AI को गलत भविष्यवाणियों की ओर ले जाते हैं।

समाधान: कॉज़ल डिसेंटैंगलमेंट (CD-GNN)

लेखकों ने एक नया AI मॉडल प्रस्तावित किया है जिसे CD-GNN (कॉज़ल डिसेंटैंगल्ड GNN) कहा जाता है। इस मॉडल को एक सख्त शिक्षक के रूप में सोचें जो छात्र को नकल करना बंद करने और वास्तव में सत्य सीखने के लिए मजबूर करता है।

यह यहाँ कैसे काम करता है, चरण-दर-चरण देखें:

1. जासूसी कार्य (Causal Analysis)

शोधकर्ताओं ने महसूस किया कि AI इसलिए भ्रमित है क्योंकि दो चीजें आपस में मिल गई हैं:

वास्तविक कारण (Causal Subgraph): वे वास्तविक विशेषताएं जो उत्तर निर्धारित करती हैं (जैसे, जानवर के कान का आकार)।
भटकाव (Shortcut Subgraph): भ्रामक पैटर्न (जैसे, बैकग्राउंड का रंग)।

एक अराजक ग्राफ में, AI बैकग्राउंड का रंग देखता है और सोचता है, "ओह, लाल बैकग्राउंड का मतलब 'बिल्ली' है!" लेकिन वास्तव में, लाल बैकग्राउंड का जानवर से कोई लेना-देना नहीं है।

2. "जादुई फिल्टर" (Disentanglement)

CD-GNN मॉडल में एक विशेष तंत्र है जो एक छंटनी मशीन (sorting machine) की तरह काम करता है। यह AI द्वारा देखे जाने वाले अव्यवस्थित सूचनाओं को लेता है और उन्हें दो अलग-अलग ढेरों में विभाजित करता है:

ढेर A (सत्य): इसमें केवल उत्तर के वास्तविक, कारण संबंधी कारण शामिल हैं।
ढेर B (शोर/Noise): इसमें आसानी से पहचाने जाने वाले लेकिन भ्रामक शॉर्टकट शामिल हैं।

3. प्रशिक्षण रणनीति

मॉडल को एक चतुर तकनीक के साथ प्रशिक्षित किया जाता है:

शोर को बढ़ाना (Amplify the Noise): यह पहले AI के एक हिस्से को शॉर्टकट पर वास्तव में ध्यान केंद्रित करने के लिए मजबूर करता है (नकल करने वाला हिस्सा)। इससे मॉडल को यह पहचानने में मदद मिलती है कि शॉर्टकट वास्तव में कैसे दिखते हैं।
शोर को रोकना (Block the Noise): एक बार जब मॉडल जान जाता है कि शॉर्टकट क्या हैं, तो यह एक "कॉज़ल फिल्टर" का उपयोग करके उन्हें बाहर निकाल देता है। यह निर्णय लेने के लिए केवल ढेर A (सत्य) का उपयोग करने के लिए मजबूर करता है।

उपमा: नॉइज़-कैंसलिंग हेडफ़ोन
कल्पना कीजिए कि आप एक शोर वाले कॉफी शॉप (अराजक ग्राफ) में एक पॉडकास्ट (सच्चा सिग्नल) सुनने की कोशिश कर रहे हैं।

पुराना AI: यह सब कुछ सुनने की कोशिश करता है, कॉफी शॉप के शोर से अभिभूत हो जाता है, और पॉडकास्ट को मिस कर देता है।
CD-GNN: नॉइज़-कैंसलिंग हेडफ़ोन लगा लेता है। यह सक्रिय रूप से कॉफी शॉप के शोर (शॉर्टकट) की पहचान करता है और उसे रद्द कर देता है, जिससे केवल पॉडकास्ट की स्पष्ट आवाज़ बचती है (कॉज़ल सिग्नल)।

यह क्यों महत्वपूर्ण है

यह शोध पत्र गणितीय रूप से और प्रयोगों के माध्यम से सिद्ध करता है कि:

शॉर्टकट दुश्मन हैं: अराजक ग्राफ में, "आसान पैटर्न" ही वास्तव में AI की विफलता का कारण हैं।
अलगाव ही कुंजी है: "आसान पैटर्न" को "वास्तविक कारणों" से अलग करके, AI बहुत अधिक स्मार्ट हो जाता है।
बेहतर परिणाम: वास्तविक दुनिया के डेटा (जैसे धोखाधड़ी का पता लगाना या सोशल नेटवर्क का विश्लेषण करना) पर परीक्षण किए जाने पर, इस नए मॉडल (CD-GNN) ने पिछले सभी सर्वश्रेष्ठ मॉडलों को पछाड़ दिया।

एक वाक्य में सारांश

लेखकों ने पाया कि अराजक नेटवर्क में AI इसलिए भ्रमित होता है क्योंकि वह आसान-लेकिन-गलत पैटर्न (शॉर्टकट) पर निर्भर करता है, इसलिए उन्होंने एक नया मॉडल बनाया जो एक फिल्टर की तरह काम करता है, उन भ्रामक पैटर्न को ब्लॉक करता है ताकि डेटा के पीछे के वास्तविक कारणों पर ध्यान केंद्रित किया जा सके।

यहाँ शोध पत्र "Inductive Subgraphs as Shortcuts: Causal Disentanglement for Heterophilic Graph Learning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

ग्राफ में हेटरोफिली (Heterophily) उस घटना को संदर्भित करती है जहाँ जुड़े हुए नोड्स के पास अक्सर अलग-अलग विशेषताएं और लेबल होते हैं (जैसे, टेलीकॉम धोखाधड़ी का पता लगाने में, स्कैमर वैध उपयोगकर्ताओं से संपर्क करते हैं)। यह गुण GCN और GAT जैसे अधिकांश मानक ग्राफ न्यूरल नेटवर्क (GNNs) के अंतर्निहित होमोफिली अनुमान (homophily assumption) का उल्लंघन करता है, जिससे प्रदर्शन में महत्वपूर्ण गिरावट आती है।

जबकि पिछले कार्यों ने गैर-स्थानीय पड़ोसी विस्तार (non-local neighbor extension) या वास्तुशिल्प सुधारों (जैसे, स्पेक्ट्रल फिल्टर) के माध्यम से इसे संबोधित करने का प्रयास किया है, गलत वर्गीकरण का मौलिक कारण स्पष्ट नहीं है। लेखक एक विशिष्ट, अनदेखे पूर्वाग्रह के स्रोत की पहचान करते हैं: इंडक्टिव सबग्राफ (Indctive Subgraphs)।

मुख्य मुद्दा: वास्तविक दुनिया के ग्राफ में, आवर्ती स्थानीय संरचनात्मक पैटर्न (motifs) इंडक्टिव सबग्राफ के रूप में कार्य करते हैं।
शॉर्टकट प्रभाव (The Shortcut Effect): होमोफिलिक ग्राफ में, ये पैटर्न फायदेमंद होते हैं। हालाँकि, हेटरोफिलिक ग्राफ में, वे भ्रामक शॉर्टकट (spurious shortcuts) के रूप में कार्य करते हैं। GNNs इन आवर्ती संरचनात्मक मोटिफ्स को आसानी से सीख लेते हैं क्योंकि वे सांख्यिकीय रूप से बार-बार आते हैं, लेकिन ये मोटिफ्स अक्सर गैर-कारण सहसंबंधों (non-causal correlations) को एनकोड करते हैं (उदाहरण के लिए, एक विशिष्ट आकार जो हेटरोफिलिक संदर्भ में अक्सर गलत लेबल के साथ दिखाई देता है)।
परिणाम: मॉडल वास्तविक कारण संकेतों (causal signals) के बजाय इन आसानी से फिट होने वाले शॉर्टकट पर निर्भर हो जाता है, जिससे पक्षपाती भविष्यवाणियां और खराब सामान्यीकरण (generalization) होता है।

2. कार्यप्रणाली: सीज़ल डिसेंटैंगल्ड GNN (CD-GNN)

लेखक एक सीज़ल डिसेंटैंगल्ड GNN (CD-GNN) प्रस्तावित करते हैं, जो भ्रामक इंडक्टिव सबग्राफ को वास्तविक कारण कारकों से अलग करने के लिए कॉज़ल इन्फरेंस (causal inference) पर आधारित एक ढांचा है।

A. कॉज़ल विश्लेषण और स्ट्रक्चरल कॉज़ल मॉडल (SCM)

लेखक सीखने की प्रक्रिया का विश्लेषण करने के लिए एक कॉज़ल ग्राफ का निर्माण करते हैं, जो दो अनब्लॉक किए गए पथों (paths) की पहचान करता है जो पूर्वाग्रह का कारण बनते हैं:

कन्फाउंडिंग पाथ ( $C \leftarrow S \rightarrow N \rightarrow E \rightarrow Y$ ): शॉर्टकट सबग्राफ ( $S$ ), कॉज़ल सबग्राफ ( $C$ ) और पड़ोस ( $N$ ) के बीच एक कन्फाउंडर के रूप में कार्य करता है, जो $S$ और लेबल ( $Y$ ) के बीच एक भ्रामक सहसंबंध बनाता है।
स्पिलओवर पाथ ( $S \leftrightarrow C$ ): एक द्विदिश "नेटवर्क इंटरफेरेंस" जहाँ शॉर्टकट पड़ोसी, कॉज़ल पड़ोसियों को प्रभावित करते हैं, जो स्टेबल यूनिट ट्रीटमेंट वैल्यू एश्योरेंस (SUTVA) का उल्लंघन करता है।

लक्ष्य: दोनों पथों को ब्लॉक करना ताकि भविष्यवाणियां केवल कॉज़ल सबग्राफ ( $C$ ) पर निर्भर हों।

B. CD-GNN ढांचा

यह मॉडल सीखने योग्य एज (edge) और फीचर मास्क का उपयोग करके ग्राफ को कॉज़ल सबग्राफ ( $G_c$ ) और शॉर्टकट सबग्राफ ( $G_s$ ) में अलग करने के लिए एक डुअल-ब्रांच आर्किटेक्चर का उपयोग करता है।

ग्राफ डिसेंटैंगलमेंट (Graph Disentanglement):
- शॉर्टकट एम्प्लीफिकेशन ( $L_s$ ): यह "शॉर्टकट GNN" शाखा को आसानी से सीखने योग्य इंडक्टिव पैटर्न को तेजी से पकड़ने और बढ़ाने के लिए मजबूर करने हेतु जनरलाइज्ड क्रॉस-एन्ट्रॉपी (GCE) लॉस का उपयोग करता है। यह शॉर्टकट संकेतों को अलग करता है।
- कॉज़ल लर्निंग ( $L_c$ ): यह डिफिकल्टी-वेटेड लॉस का उपयोग करता है ताकि "कॉज़ल GNN" शाखा को कठिन, जटिल, लेकिन वास्तव में भविष्य कहने वाले कॉज़ल पैटर्न पर ध्यान केंद्रित करने के लिए मजबूर किया जा सके।
स्पिलओवर कंट्रोल (Spillover Control):
- काउंटरफैक्चुअल लॉस ( $L_{cf}$ ): स्पिलओवर पाथ ( $S \leftrightarrow C$ ) को तोड़ने के लिए, मॉडल एक मिनी-बैच के भीतर शॉर्टकट फीचर्स को रैंडमली परम्यूट (permute) करके काउंटरफैक्चुअल शॉर्टकट एम्बेडिंग्स उत्पन्न करता है। यह सुनिश्चित करता है कि कॉज़ल ब्रांच विशिष्ट शॉर्टकट कॉन्फ़िगरेशन के बिना लेबल की भविष्यवाणी करना सीखे।
- हिल्बर्ट-श्मिट इंडिपेंडेंस क्राइटेरियन ( $L_{HSIC}$ ): कॉज़ल एम्बेडिंग्स ( $h_{Gc}$ ) और शॉर्टकट एम्बेडिंग्स ( $h_{Gs}$ ) के बीच सांख्यिकीय स्वतंत्रता लागू करने के लिए नोड स्तर पर लगाया गया एक रेगुलराइज़र, जो किसी भी अवशेष एंटैंगलमेंट (residual entanglement) को सुनिश्चित करता है।
ऑप्टिमाइज़ेशन ऑब्जेक्टिव (Optimization Objective):
कुल लॉस डिसेंटैंगलमेंट लॉस और स्पिलओवर कंट्रोल रेगुलराइज़र को जोड़ता है:
$\mathcal{L} = \mathcal{L}_s + \mathcal{L}_c + \lambda_1 \mathcal{L}_{cf} + \lambda_2 \mathcal{L}_{HSIC}$

3. मुख्य योगदान

नया सैद्धांतिक अंतर्दृष्टि: यह शोध पत्र पहली बार अनुभवजन्य और सैद्धांतिक प्रमाण प्रदान करता है कि इंडक्टिव सबग्राफ हेटरोफिलिक ग्राफ में भ्रामक शॉर्टकट के रूप में कार्य करते हैं। यह (थ्योरम 3.1 और 3.2 के माध्यम से) सिद्ध करता है कि ये सबग्राफ मैसेज पासिंग की "प्रभावी होमोफिली" को कम करते हैं, जिससे क्लास-संबंधित संकेत गहराई के साथ गुणात्मक रूप से कम होते जाते हैं।
कॉज़ल डिसेंटैंगलमेंट ढांचा: CD-GNN हेटरोफिलिक ग्राफ में संरचनात्मक मोटिफ्स द्वारा प्रेरित कन्फाउंडिंग और स्पिलओवर पथों को स्पष्ट रूप से मॉडल करने और ब्लॉक करने वाला पहला तरीका है, जो अंतर्निहित GNN आर्किटेक्चर (जैसे, स्पेक्ट्रल फिल्टर) को बदले बिना किया जाता है।
सैद्धांतिक गारंटी: लेखक सिद्ध करते हैं कि कॉज़ल ब्रांच में शॉर्टकट सबग्राफ के प्रभुत्व को कम करके, प्रभावी होमोफिली बढ़ जाती है, जिससे क्लास-संबंधित संकेतों को संरक्षित करने और वर्गीकरण मार्जिन में सुधार करने में मदद मिलती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने 7 बेंचमार्क डेटासेट्स पर CD-GNN का मूल्यांकन किया: (5 अत्यधिक हेटरोफिलिक: Chameleon, Squirrel, Roman-empire, Amazon-ratings, Cornell; 2 होमोफिलिक: Computers, Questions)।

प्रदर्शन: CD-GML ने 7 में से 6 डेटासेट्स पर स्टेट-ऑफ-द-आर्ट (SOTA) परिणाम प्राप्त किए, जो मानक GNNs (GCN, GAT), कॉज़ल बेसलाइन्स (CIE, CAT), और हेटरोफिली-विशिष्ट मॉडल्स (FAGCN, GGGC, LatGRL) से काफी बेहतर रहे।
- उदाहरण: अत्यधिक हेटरोफिलिक Roman-empire डेटासेट ( $h_L \approx 0.94$ ) पर, CD-GNN ने 65.85% सटीकता प्राप्त की, जो रनर-अप (GGCN) से ~0.5% और मानक GCN से >30% बेहतर है।
एब्लेशन स्टडीज (Ablation Studies): किसी भी घटक (शॉर्टकट एम्प्लीफिकेशन, कॉज़ल लर्निंग, काउंटरफैक्चुअल लॉस, या HSIC) को हटाने से सटीकता में उल्लेखनीय गिरावट आई, जिससे पुष्टि हुई कि प्रभावी डिसेंटैंगलमेंट के लिए सभी भाग आवश्यक हैं।
जटिलता: HSIC गणना के कारण इसकी समय जटिलता $O(N^2)$ है, जो सामान्य ग्राफ स्केल के लिए स्वीकार्य है।

5. महत्व (Significance)

यह कार्य हेटरोफिलिक ग्राफ लर्निंग के प्रतिमान को रिप्रेजेंटेशन डायनेमिक्स (जैसे, ओवरस्मूथिंग) से बदलकर स्ट्रक्चरल इंडक्टिव बायस की ओर ले जाता है।

व्याख्यात्मकता (Interpretability): ग्राफ को डिसेंटैंगल करके, CD-GNN सबग्राफ-स्तर की व्याख्या प्रदान करता है, जिससे पता चलता है कि ग्राफ का कौन सा हिस्सा वास्तव में कॉज़ल है बनाम भ्रामक है।
मजबूती (Robustness): यह उन ग्राफों पर सीखने के लिए एक सिद्धांत आधारित समाधान प्रदान करता जहाँ "समान नोड्स जुड़े हुए नहीं होते हैं," जो धोखाधड़ी का पता लगाने, जैविक नेटवर्क और सामाजिक अनुशंसा प्रणालियों में एक सामान्य परिदृश्य है।
सामान्यीकरण (Generalizability): कॉज़ल डिसेंटैंगलमेंट दृष्टिकोण का उपयोग अन्य डोमेन में भी किया जा सकता है जहाँ पुनरावर्ती संरचनात्मक पैटर्न से भ्रामक सहसंबंध उत्पन्न होते हैं।