🤖 machine learning

CoRe-GNN: Multilevel Message passing on Coarsened graphs

CoRe-GNN एक स्केलेबल ग्राफ न्यूरल नेटवर्क फ्रेमवर्क है जो समानांतर इंटर-क्लस्टर और इंट्रा-क्लस्टर मैसेज पासिंग को निष्पादित करके ग्राफ कोर्सनिंग और क्लस्टर-GCN को एकीकृत करता है, जिससे बड़े पैमाने के ग्राफों के लिए मेमोरी दक्षता बनाए रखते हुए लॉन्ग-रेंज सूचना कैप्चर और प्रति-नोड डिस्क्रिमिनेबिलिटी प्राप्त होती है।

मूल लेखक: Antonin Joly, Nicolas Keriven, Aline Roumy

प्रकाशित 2026-08-04

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Antonin Joly, Nicolas Keriven, Aline Roumy

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, अत्यंत बुद्धिमान रोबोट को एक विशाल शहर को समझना सिखाने की कोशिश कर रहे हैं। यह शहर इमारतों और सड़कों से नहीं, बल्कि लोगों और उनकी दोस्ती से बना है। कंप्यूटर विज्ञान की दुनिया में, इसे एक "ग्राफ" (graph) कहा जाता है, और रोबोट एक "ग्राफ न्यूरल नेटवर्क" (GNN) है। एक GNN को एक ऐसे जासूस की तरह समझें जो पड़ोसियों से बात करके रहस्य सुलझाता है। किसी व्यक्ति को समझने के लिए, जासूस अपने दोस्तों से पूछता है, फिर अपने दोस्तों के दोस्तों से पूछता है, और इसी तरह। जासूस जितने अधिक परतों तक दोस्तों की जांच करता है, वह उतना ही स्मार्ट होता जाता है। लेकिन यहाँ एक पेंच है: यदि शहर में लाखों लोग हैं, तो जासूस अभिभूत (overwhelmed) हो जाता है। वह हर एक बातचीत को याद नहीं रख सकता, और काम पूरा करने से पहले ही उसकी नोटबुक (कंप्यूटर की मेमोरी) भर जाती है। यह वही बड़ी समस्या है जिसे वैज्ञानिक हल करने की कोशिश कर रहे हैं: हम इन डिजिटल जासूसों को विशाल शहरों को समझने के लिए कैसे सिखाएं ताकि वे थकान से बेहोश न हो जाएं?

आप जो पेपर पढ़ने जा रहे हैं वह CoRe-GNN (जिसका अर्थ है Coarsen and Restore) नामक एक चतुर नई रणनीति पेश करता है। लेखकों, एंटोनिन जोली, निकोलस केरि्वन और एलीन रूमी ने महसूस किया कि इस मेमोरी समस्या को हल करने के पिछले प्रयास एक छोटी प्याली से पानी निकालने या छेद को पूरी तरह से अनदेखा करने जैसे थे। उन्होंने एक हाइब्रिड दृष्टिकोण प्रस्तावित किया जो एक साथ दोनों काम करता है, जिससे रोबोट विशाल ग्राफ से कुशलतापूर्वक सीख पाता है और साथ ही हर एक व्यक्ति के अनूठे विवरणों को भी याद रखता है।

समस्या: जासूस की दुविधा

यह समझने के लिए कि Co-Re-GNN एक बड़ी बात क्यों है, आइए इस "बहुत बड़ा है याद रखने के लिए" वाली समस्या को हल करने के दो मुख्य तरीकों को देखें जिन्हें वैज्ञानिक अब तक आज़माते आ रहे हैं।

विधि 1: "ग्रुप हग" (ग्राफ कोआर्सनिंग - Graph Coarsening)
कल्पना कीजिए कि जासूस व्यक्तियों से बात करना बंद करने और इसके बजाय लोगों को मोहल्लों में समूह बनाने का निर्णय लेता है। वे एक पूरे मोहल्ले को एक एकल "सुपर-पर्सन" के रूप में देखते हैं। इसे ग्राफ कोआर्सनिंग कहा जाता है। यह मेमोरी के लिए बहुत अच्छा है क्योंकि 1 मिलियन लोगों को ट्रैक करने के बजाय, जासूस केवल 10,000 मोहल्लों को ट्रैक करता है।

पेंच: यदि आप एक पूरे मोहल्ले को एक व्यक्ति मानते हैं, तो आप व्यक्तिगत विवरण खो देते हैं। यदि मोहल्ले में एक व्यक्ति डॉक्टर है और दूसरा बेकर है, तो "सुपर-पर्सन" दोनों का एक भ्रमित मिश्रण बन जाता है। ग्राफ की दुनिया में, इसका मतलब है कि रोबोट उन पड़ोसियों के बीच अंतर नहीं कर पाएगा जो वास्तव में अलग हैं, जो एक बड़ी समस्या है यदि शहर विविध लोगों से भरा है।

विधि 2: "बाड़" (क्लस्टर-जीसीएन - Cluster-GCN)
दूसरा दृष्टिकोण यह है कि मोहल्लों के चारों ओर बाड़ बनाई जाए और जासूस को केवल अपने ही मोहल्ले के लोगों से बात करने के लिए कहा जाए। इसे Cluster-GCN कहा जाता है। यह बहुत कुशल है क्योंकि जासूस एक बार में एक मोहल्ले पर काम कर सकता है, जिससे उसकी मेमोरी का उपयोग कम रहता है।

पेंच: बाड़ बनाकर, जासूस दूसरे मोहल्लों के लोगों से बात करना बंद कर देता है। वे बड़े चित्र (big picture) को देखने से चूक जाते हैं। यदि कोई रहस्य पूरे शहर में फैलता है, तो मोहल्ला A का जासूस उसके बारे में कभी नहीं सुन पाएगा क्योंकि बाड़ ने संदेश को रोक दिया। वे लंबी दूरी के कनेक्शनों के प्रति "अंधे" हो जाते हैं।

समाधान: CoRe-GNN (दोनों दुनियाओं का सर्वश्रेष्ठ)

इस पेपर के लेखकों ने महसूस किया कि ये दोनों विधियाँ वास्तव में एक ही सिक्के के दो पहलू हैं। एक विवरण खो देता है लेकिन बड़े चित्र को देखता है; दूसरा विवरण रखता है लेकिन बड़े चित्र को खो देता है। उन्होंने पूछा: क्यों न दोनों को एक साथ किया जाए?

यहाँ CoRe-GNN आता है। कल्पना कीजिए कि हमारे जासूस के पास एक जादुई दो-भाग वाला मस्तिष्क है:

"बड़े चित्र" वाला मस्तिष्क: यह हिस्सा शहर को "ग्रुप हग" के लेंस के माध्यम से देखता है। यह सुपर-लोगों के रूप में मोहल्लों को देखता है और उनके बीच तेजी से संदेश भेजता है। यह जासूस को लंबी दूरी के कनेक्शनों और शहर की समग्र संरचना को समझने में मदद करता है बिना थके।
"विवरण" वाला मस्तिष्क: यह हिस्सा शहर को "बाड़" के लेंस के माध्यम से देखता है। यह विशिष्ट मोहल्लों पर ज़ूम करता है, व्यक्तियों से बात करता है ताकि उनके अद्वितीय गुणों को सीखा जा सके।

यहाँ जादू का मंत्र है: CoRe-GNN दोनों मस्तिष्कों को समानांतर (parallel) में चलाता है। सीखने की प्रक्रिया के हर चरण में, रोबोट पूरे शहर में (मोहल्लों के माध्यम से) एक संदेश भेजता है और स्थानीय मोहल्ले के भीतर एक संदेश भेजता है। फिर, यह इन दोनों संदेशों को मिला देता है।

"बड़े चित्र" वाला मस्तिष्क यह सुनिश्चित करता है कि जासूस लंबी दूरी के रहस्यों को मिस न करे।
"विवरण" वाला मस्तिष्क यह सुनिश्चित करता है कि वह एक डॉक्टर को बेकर समझने की गलती न करे सिर्फ इसलिए क्योंकि वे एक ही पड़ोस में रहते हैं।

उन्होंने क्या पाया

लेखकों ने इस नए रोबोट का कई प्रकार के "शहरों" (डेटासेट्स) पर परीक्षण किया, जिसमें छोटे साइटेशन नेटवर्क (जहाँ पेपर अन्य पेपरों को उद्धृत करते हैं) से लेकर लाखों नोड्स वाले विशाल सड़क नेटवर्क और सोशल मीडिया ग्राफ तक शामिल हैं।

यह हर जगह काम करता है: उन ग्राफ्स पर जहाँ पड़ोसी समान होते हैं (जैसे एक ही क्षेत्र में पेपर उद्धृत करने वाले लोग), CoRe-GNN मौजूदा सर्वोत्तम विधियों के समान प्रदर्शन करता है।
यह विविध ग्राफ्स पर चमकता है: उन ग्राफ्स पर जहाँ पड़ोसी बहुत भिन्न होते हैं (heterophilic graphs), CoRe-GNN ने "ग्रुप हग" विधि की तुलना में काफी बेहतर प्रदर्शन किया। क्योंकि इसने व्यक्तियों को एक ही पहचान साझा करने के लिए मजबूर नहीं किया, यह उन्हें एक-दूसरे से अलग पहचान सका।
यह दूर तक देखता है: उन ग्राफ्स पर जहाँ सूचना को लंबी दूरी तय करनी होती है (जैसे सड़क नेटवर्क), Co-Re-GNN ने "बाड़" (Fence) विधि को हरा दिया। क्योंकि इसने "बड़े चित्र" वाले मस्तिष्क को सक्रिय रखा, यह ग्राफ के दूरस्थ हिस्सों को जोड़ सका जिन्हें बाड़ विधि अनदेखा कर देती थी।
यह मेमोरी में फिट बैठता है: महत्वपूर्ण रूप से, उन्होंने दिखाया कि यह जटिल दो-मस्तिष्क प्रणाली मानक कंप्यूटर चिप्स (GPUs) पर भी लाखों नोड्स वाले ग्राफ के लिए चलाई जा सकती है। उन्होंने यह इसलिए किया क्योंकि उन्होंने "विवरण" वाले मस्तिष्क को छोटे बैचों (एक बार में एक मोहल्ला) में प्रोसेस किया जबकि "बड़े चित्र" वाले मस्तिष्क को बैकग्राउंड में चलते रहने दिया।

निष्कर्ष

पेपर गणितीय रूप से सिद्ध करता है कि CoRe-GNN "ग्रुप हग" विधि की सर्वोत्तम गारंटियों (यह सूचना के सुचारू प्रवाह को बनाए रखता है) को विरासत में प्राप्त करता है, जबकि इसकी सबसे बड़ी कमजोरी (व्यक्तिगत पहचान खोना) को ठीक करता है। यह "बाड़" विधि की लंबी दूरी के कनेक्शनों के प्रति अंधापन को भी ठीक करता है।

लेखक सुझाव देते हैं कि यह दृष्टिकोण विशाल डेटासेट्स पर AI को प्रशिक्षित करने की दिशा में एक बड़ा कदम है। उन्होंने केवल अनुमान नहीं लगाया; उन्होंने सिस्टम बनाया, वास्तविक दुनिया के डेटा पर इसे चलाया, और दिखाया कि यह लगातार पुराने तरीकों को मात देता है। हालांकि वे उल्लेख करते हैं कि यह हर संभव AI आर्किटेक्चर (विशेष रूप से वे जो सीखते समय अपने नियम बदलते हैं) के लिए काम नहीं करता है, लेकिन इन नेटवर्क्स के मानक तरीके के लिए, Co-Re-GNN विवरण देखने की क्षमता खोए बिना भविष्य के विशाल ग्राफ तक स्केल करने का एक तरीका प्रदान करता है।

संक्षेप में, CoRe-GNN हमारे जासूस को क्षितिज के लिए दूरबीन और गली के कोने के लिए आवर्धक लेंस (magnifying glass) देने जैसा है, जिससे वे बिना कभी मेमोरी खत्म हुए पूरे शहर के रहस्य को सुलझा सकते हैं।

तकनीकी सारांश: CoRe-GNN: संकुचित ग्राफ पर मल्टीलेवल मैसेज पासिंग (Multilevel Message Passing on Coarsened Graphs)

समस्या विवरण (Problem Statement)

बड़े पैमाने के ग्राफ पर ग्राफ न्यूरल नेटवर्क (GNNs) को प्रशिक्षित करना मौलिक रूप से परतों (layers) में मध्यवर्ती नोड रिप्रेजेंटेशन को स्टोर करने के लिए आवश्यक मेमोरी लागत द्वारा बाधित होता है। मानक मैसेज-पासिंग आर्किटेक्चर में, एक नोड का रिप्रेजेंटेशन लेयर $l$ पर उसके $l$ -हॉप पड़ोस (neighborhood) पर निर्भर करता है। बड़े ग्राफों के लिए, यह पड़ोस गहराई के साथ तेजी से बढ़ता है, जिससे मेमोरी बॉटलनेक्स उत्पन्न होते हैं जो ट्रेनिंग और इन्फरेंस दोनों के दौरान GPU मेमोरी को संतृप्त (saturate) कर देते हैं।

मौजूदा स्केलेबल दृष्टिकोण आम तौर पर दो श्रेणियों में आते हैं, जिनमें से दोनों की पूरक सीमाएँ (complementary limitations) हैं:

ग्राफ कोर्सनिंग (Graph Coarsening): Coarsen-GNN जैसे तरीके मूल नोड्स को "सुपरनोड्स" में मैप करके एक छोटा ग्राफ बनाते हैं। हालांकि यह कुशल प्रसार (propagation) को सक्षम बनाता है और स्पेक्ट्रल गारंटी प्रदान करता है, लेकिन यह एक सुपरनोड के भीतर के सभी नोड्स को एक ही रिप्रेजेंटेशन साझा करने के लिए मजबूर करता है। यह "एकरूपता" (uniformity) प्रति-नोड विभेदन क्षमता (per-node discriminability) को सीमित करती है, विशेष रूप से हेटरोफिलिक (heterophilic) सेटिंग्स में जहाँ आसन्न नोड्स के लेबल अलग-अलग हो सकते हैं।
क्लस्टर-आधारित प्रतिबंध (Cluster-Based Restriction): Cluster-GCN जैसे तरीके केवल इंट्रा-क्लस्टर कनेक्शन तक मैसेज पासिंग को प्रतिबंधित करते हैं, इंटर-क्लस्टर किनारों (edges) को हटा देते हैं। यह क्लस्टर्स को स्वतंत्र सब-ग्राफ के रूप में मानकर कुशल बैचिंग को सक्षम करता है। हालाँकि, इंटर-क्लस्टर कनेक्शन को काटने से लॉन्ग-रेंज डिपेंडेंसीज़ समाप्त हो जाती हैं, जिससे कई हॉप्स के माध्यम से सूचना एकत्रीकरण (information aggregation) की आवश्यकता वाले कार्यों पर प्रदर्शन गिर जाता है।

दोनों दृष्टिकोण ग्राफ को नोड्स के समूहों में विभाजित करने पर निर्भर करते हैं लेकिन वे लॉन्ग-रेंज स्ट्रक्चर को संरक्षित करने और लोकल नोड विभेदन क्षमता के बीच संतुलन बनाने में विफल रहते हैं।

कार्यप्रणाली: CoRe-GNN

लेखक CoRe-GNN (Coarsen and Restore) प्रस्तावित करते हैं, जो एक ऐसा आर्किटेक्चर है जिसे ग्राफ कोर्सनिंग की सटीकता की सीमा और Cluster-GCN की लॉन्ग-रेंज अंधता (blindness) को एक साथ संबोधित करने के लिए डिज़ाइन किया गया है।

एकीकृत मैट्रिक्स फॉर्मूलेशन (Unified Matrix Formulation)

पेपर पहले एक कॉम्प्रेस्ड-ग्राफ GNN के एकीकृत परिप्रेक्ष्य को मानक प्रोपेगेशन मैट्रिक्स $S$ के संरचित संशोधनों के रूप में देखकर स्थापित करता है।

Coarsen-GNN $S$ को $\Pi S \Pi$ से बदल देता है, जहाँ $\Pi = QP$ एक ब्लॉक-कांस्टेंट ऑपरेटर है जो नोड्स को सुपरनोड्स में मैप करता है और वापस लाता है।
Cluster-GCN $S$ को $S_{intra}$ से बदल देता है, जो केवल इंट्रा-क्लस्टर किनारों को बनाए रखने वाला एक ब्लॉक-डायगोनल मैट्रिक्स है।

CoRe-GNN आर्किटेक्चर

CoRe-GNN प्रत्येक लेयर पर दो समानांतर प्रसार (parallel propagations) करता है, जो कोर्सन्ड स्पेस और ओरिजिनल नोड स्पेस को जोड़ता है:

इंटर-क्लस्टर प्रोपेगेशन (कोर्सन्ड): एक टर्म $S_{inter}^c$ कोर्सन्ड ग्राफ (सुपरनोड्स) पर कार्य करता है। यह कुशलतापूर्वक लॉन्ग-रेंज स्ट्रक्चरल जानकारी कैप्चर करता है।
इंट्रा-क्लस्टर प्रोपेगेशन (लोकल): एक टर्म $S_{intra}$ ओरिजिनल नोड स्पेस पर कार्य करता है, जो क्लस्टर्स के भीतर प्रति-नोड विभेदन क्षमता को बनाए रखता है।

लेयर $l$ के लिए अपडेट नियम है:
$H^{(l)} = Q \sigma(S_{inter}^c P H^{(l-1)} \theta_c^{(l)}) + \sigma(S_{intra} H^{(l-1)} \theta^{(l)})$
यहाँ, $P$ और $Q$ ग्राफ पार्टीशन से प्राप्त रिडक्शन और लिफ्टिंग मैट्रिसेस हैं। आर्किटेक्चर दो समानांतर स्टेट्स बनाए रखता है: कोर्सन्ड स्पेस में $H_c^{(l)}$ और ओरिजिनल स्पेस में $H^{(l)}$ । वेट्स $\theta^{(l)}$ और $\theta_c^{(l)}$ स्वतंत्र हैं, जिससे नेटवर्क को लोकल और लॉन्ग-रेंज इंटरैक्शन के लिए अलग-अलग ट्रांसफॉर्मेशन सीखने की अनुमति मिलती है।

बैचिंग स्कीम (Batching Scheme)

लाखों नोड्स वाले ग्राफों तक स्केल करने के लिए, CoRe-GNN एक स्वाभाविक बैचिंग रणनीति पेश करता है:

इंटर-क्लस्टर टर्म: हर स्टेप में सभी $n$ सुपरनोड्स (जहाँ $n \ll N$ ) पर कंप्यूट किया जाता है, जो कि कम्प्यूटेशनल रूप से सस्ता है।
इंट्रा-क्लस्टर टर्म: केवल वर्तमान बैच $B$ के क्लस्टर्स के लिए कंप्यूट किया जाता है। गैर-बैच वाले सुपरनोड्स के लिए, ट्रेनिंग के दौरान कोर्सन्ड स्पेस में एक सेल्फ-लूप प्रॉक्सी द्वारा इंट्रा-क्लस्टर टर्म का अनुमान लगाया जाता है।
यह दृष्टिकोण मेमोरी कॉम्प्लेक्सिटी को $O(K(n+b)d)$ तक कम कर देता है, जो कुल नोड्स $N$ से स्वतंत्र है, जिससे उन ग्राफ्स पर ट्रेनिंग संभव होती है जो अन्यथा GPU मेमोरी की सीमा से बाहर होते।

सटीक इन्फरेंस (Exact Inference): जबकि ट्रेनिंग बैचिंग स्कीम एक अनुमान का उपयोग करती है, लेखक एक गैर-तुच्छ सटीक इन्फरेंस प्रक्रिया (non-trivial exact inference procedure) निकालते हैं जो इस बाधा से बचती है। इस मोड में, इंटर-क्लस्टर टर्म को सभी सुपरनोड्स पर GPU पर कंप्यूट किया जाता है, जबकि इंट्रा-क्लस्टर टर्म को क्लस्टर-दर-क्लस्टर कंप्यूट किया जाता है, जिसमें CPU से GPU पर ब्लॉक्स को मांग पर लोड किया जाता है और तुरंत हटा दिया जाता है। यह बिना पूरे कंप्यूटेशनल ग्राफ को रिटेन किए, बहुत बड़े ग्राफों पर सटीक इन्फरेंस की अनुमति देता है।

सैद्धांतिक गारंटी (Theoretical Guarantees)

लेखक सिद्ध करते हैं कि CoRe-GNN ग्राफ कोर्सनिंग के समान एप्रोक्सिमेशन गारंटी विरासत में प्राप्त करता है। विशेष रूप से, वे Restricted Spectral Approximation (RSA) कांस्टेंट का उपयोग करके ओरिजिनल ग्राफ पर मैसेज पासिंग और CoRe-GNN के बीच एरर को बाउंड करते हैं। CoRe-GNN के लिए सैद्धांतिक बाउंड पूर्ण ग्राफ के बजाय इंटर-क्लस्टर सबग्राफ ( $S_{inter}$ ) के गुणों पर निर्भर करता है, जो यह सुझाव देता है कि जैसे-जैसे कोर्सनिंग रेशियो बढ़ता है, स्टैंडर्ड कोर्सनिंग की तुलना में एरर बाउंड्स में सुधार हो सकता है।

मुख्य योगदान (Key Contributions)

एकीकृत परिप्रेक्ष्य: पेपर एक मैट्रिक्स फॉर्मूलेशन प्रदान करता है जो दिखाता है कि ग्राफ कोर्सनिंग और Cluster-GCN, प्रोपेगेशन मैट्रिक्स के पूरक संरचित संशोधन हैं, जो उनकी संबंधित सीमाओं को स्पष्ट करता है।
CoRe-GNN आर्किटेक्चर: एक नया आर्किटेक्चर जो समानांतर में इंटर-क्लस्टर (कोर्सन्ड) और इंट्रा-क्लस्टर (लोकल) प्रोपेगेशन को जोड़ता है, जो कोर्सनिंग में विभेदन क्षमता की हानि और क्लस्टरिंग में लॉन्ग-रेंज जानकारी की हानि को कम करता है।
स्केलेबल बैचिंग: एक स्वाभाविक बैचिंग स्कीम जो लाखों नोड्स वाले ग्राफ पर CoRe-GNN को प्रशिक्षित करने की अनुमति देती है, साथ ही एक सटीक इन्फरेंस प्रक्रिया भी प्रदान करती है जो अनुमान से बचती है।
सैद्धांतिक विश्लेषण: CoRe-GNN के लिए प्रोपेगेशन गारंटी का व्युत्पन्न, जो दिखाता है कि यह इंटर-क्लस्टर स्ट्रक्चर पर निर्भर स्मूथ सिग्नल को संरक्षित करता है।
अनुभवजन्य सत्यापन (Empirical Validation): होमोफिलिक, हेटरोफिलिक, बड़े पैमाने के और लॉन्ग-रेंज बेंचमार्क पर व्यापक मूल्यांकन।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने विविध डेटासेट्स पर CoRe-GNN का मूल्यांकन किया, जिनमें शामिल हैं:

होमोफिलिक (Homophilic): Cora, CiteSeer, PubMed.
हेटेरोफिलिक (Heterophilic): Chameleon, Squirrel, Amazon Ratings.
बड़े पैमाने के (Large-scale): ogbn-arxiv, Reddit, ogbn-products.
लॉन्ग-रेंज (Long-range): Paris और London रोड नेटवर्क।

मुख्य निष्कर्ष:

प्रदर्शन: Co-Re-GNN सभी श्रेणियों में दोनों Coarsen-GNN और Cluster-GCN बेसलाइन्स को लगातार पछाड़ता है।
लॉन्ग-रेंज टास्क: Paris और London डेटासेट्स पर, CoRe-GNN उच्चतम सटीकता प्राप्त करता है, जो Cluster-GCN द्वारा छोड़ी गई लॉन्ग-रेंज डिपेंडेंसीज़ और शुद्ध Coarsen-GNN द्वारा खोई गई विभेदन क्षमता को कैप्चर करने की इसकी क्षमता को प्रदर्शित करता है।
हेटेरोफिली (Heterophily): हेटरोफिलिक डेटासेट्स (जैसे Squirrel) पर, CoRe-GNN, Coarsen-GNN से काफी बेहतर प्रदर्शन करता है, जो तब संघर्ष करता है जब एक ही सुपरनोड के नोड्स के लेबल अलग-अलग होते हैं।
स्केलेबिलिटी: Reddit और ogbn-products जैसे बड़े पैमाने के डेटासेट्स पर, मानक GCN और नॉन-बैच्ड CoRe-GNN मेमोरी की कमी (OOM) का सामना करते हैं। CoRe-GNN का बैच्ड वेरिएंट सफलतापूर्वक प्रशिक्षित होता है और Cluster-GCN की तुलना में प्रतिस्पर्धी या बेहतर सटीकता प्राप्त करता है।
एब्लेशन (Ablation): प्रयोग पुष्टि करते हैं कि दोनों शाखाओं के लिए स्वतंत्र वेट्स का उपयोग करना और पूर्ण कोर्सन्ड मैट्रिक्स के बजाय इंटर-क्लस्टर विशिष्ट प्रोपेगेशन मैट्रिक्स ( $S_{inter}^c$ ) का उपयोग करना बेहतर प्रदर्शन देता है।

महत्व और दावे (Significance and Claims)

पेपर दावा करता है कि CoRe-GNN ग्राफ कोर्सनिंग और क्लस्टर-आधारित प्रतिबंध के लाभों को सफलतापूर्वक एकीकृत करता है। समानांतर प्रसार करके, यह मौजूदा स्केलेबल तरीकों की "पूरक विफलताओं" को दूर करता है: कोर्सनिंग में नोड-स्तरीय विवरण की हानि और क्लस्टरिंग में लॉन्ग-रेंज डिपेंडेंसीज़ का टूटना।

लेखक इस बात पर जोर देते हैं कि CoRe-GNN एक ऐसा फ्रेमवर्क प्रदान करता है जो:

स्मूथ सिग्नल प्रोपेगेशन के लिए स्पेक्ट्रल गारंटी बनाए रखता है।
हेटरोफिलिक सेटिंग्स में प्रति-नोड विभेदन क्षमता को सुरक्षित रखता है।
जटिल ग्राफ कार्यों के लिए आवश्यक लॉन्ग-रेंज डिपेंडेंसीज़ को कैप्चर करता है।
एक मेमोरी-एफिशिएंट बैचिंग स्कीम के माध्यम से लाखों नोड्स तक स्केल करता है।

यह कार्य बताता है कि ग्राफ को समूहों में विभाजित करने का अर्थ सटीकता और स्केलेबिलिटी के बीच समझौता करना नहीं है; बल्कि, एक मल्टी-लेवल दृष्टिकोण दोनों को प्राप्त कर सकता है। लेखक नोट करते हैं कि फ्रेमवर्क वर्तमान में निश्चित प्रोपेगेशन मैट्रिसेस वाले GNNs तक सीमित है (अटेंशन मैकेनिज्म को छोड़कर) और भविष्य के कार्य रेसिडुअल कनेक्शन और एसिंक्रोनस फेडरेटेड लर्निंग परिदृश्यों में विस्तार की खोज कर सकते हैं।