📊 statistics

Different Statistical Perspectives for Understanding Generalisation in Graph Neural Networks

यह शोध पत्र ग्राफ न्यूरल नेटवर्क के सामान्यीकरण (generalization) को समझने के लिए तीन अलग-अलग सांख्यिकीय ढाँचों की समीक्षा करता है: लर्निंग थ्योरी-आधारित बाउंड्स, अनंत-चौड़ाई या अनंत-आकार सीमाओं के माध्यम से एसिम्प्टोटिक सन्निकटन (asymptotic approximations), और रैंडम ग्राफ मॉडल के तहत नॉन-एसिम्प्टोटिक विश्लेषण, जबकि प्रत्येक के लिए प्रमुख परिणामों, सीमाओं और खुले प्रश्नों पर प्रकाश डालता है।

मूल लेखक: Nil Ayday, Mahalakshmi Sabanayagam, Debarghya Ghoshdastidar

प्रकाशित 2026-05-26

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nil Ayday, Mahalakshmi Sabanayagam, Debarghya Ghoshdastidar

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक विशाल, उलझा हुआ पारिवारिक वृक्ष (एक "ग्राफ") है जहाँ हर कोई रिश्तों से जुड़ा हुआ है, और प्रत्येक व्यक्ति का एक अनूठा व्यक्तित्व (नोड फीचर्स) है। आप एक स्मार्ट कंप्यूटर प्रोग्राम बनाना चाहते हैं, जिसे ग्राफ न्यूरल नेटवर्क (GNN) कहा जाता है, ताकि आप इस परिवार के बारे में कुछ पता लगा सकें, जैसे कि कौन किस शाखा से संबंधित है या भविष्य के रिश्तों की भविष्यवाणी कर सकें।

हालाँकि ये प्रोग्राम वास्तविक दुनिया में अद्भुत रूप से काम करते हैं, वैज्ञानिक अभी भी यह समझने की कोशिश कर रहे हैं कि वे ठीक से क्यों काम करते हैं और वे कब विफल हो सकते हैं। यह शोध पत्र एक मानचित्र की तरह है जो उन विभिन्न तरीकों को व्यवस्थित करता है जिनसे गणितज्ञ और सांख्यिकीविद इस रहस्य को सुलझाने की कोशिश कर रहे हैं। उन्होंने अपने दृष्टिकोणों को तीन मुख्य "लेंस" या परिप्रेक्ष्यों में वर्गीकृत किया है।

यहाँ उन तीन परिप्रेक्ष्यों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. "नियम पुस्तिका" परिप्रेक्ष्य (लर्निंग थ्योरी)

उपमा: कल्पना कीजिए कि आप एक छात्र को विभिन्न प्रकार की कारों को पहचानना सिखाने की कोशिश कर रहे हैं। आप उसे एक नियम पुस्तिका (हाइपोथीसिस क्लास) देते हैं। नियम पुस्तिका कहती है, "यदि कार के 4 पहिये और एक ट्रंक है, तो यह एक सेडान है।"
शोध पत्र क्या कहता है:
यह परिप्रेक्ष्य GNN को एक सख्त नियम पुस्तिका का पालन करने वाले छात्र के रूप में देखता है। शोधकर्ता पूछते हैं: "यह नियम पुस्तिका कितनी जटिल है?"

जटिलता: यदि नियम पुस्तिका बहुत सरल है, तो छात्र सेडान और ट्रक के बीच अंतर नहीं कर पाएगा (इसे इंडक्टिव बायस कहा जाता है)। यदि नियम पुस्तिका बहुत जटिल है, तो छात्र केवल उन विशिष्ट कारों को याद कर सकता है जिन्हें उसने कक्षा में देखा था, लेकिन वह एक नई कार को पहचानने में विफल हो सकता है (यह ओवरफिटिंग है)।
"आइसोमोर्फिज्म" परीक्षण: पत्र में एक प्रसिद्ध परीक्षण का उल्लेख है जिसे वेइसफिलेर-लेमैन (WL) टेस्ट कहा जाता है। इसे एक खेल के रूप में सोचें जहाँ आप दो समान दिखने वाले जुड़वा बच्चों में से अंतर करने की कोशिश करते हैं। पत्र बताता है कि मानक GNN एक विशिष्ट प्रकार के जासूस की तरह हैं जो केवल एक व्यक्ति के निकटतम पड़ोसियों को देख सकते हैं। यदि दो समूह एक ही जैसे दिखते हैं (भले ही वे वास्तव में अलग हों), तो GNN उनके बीच अंतर नहीं कर पाता है। यह GNN की "बुद्धिमत्ता" को सीमित करता है।
निष्कर्ष: यह दृष्टिकोण हमें सुरक्षा गारंटी (गणितीय सीमाएँ) देता है कि GNN कैसा प्रदर्शन करेगा, लेकिन ये गारंटी अक्सर बहुत ढीली होती हैं—जैसे यह कहना कि, "आप शायद परीक्षा पास कर लेंगे, लेकिन हमें यकीन नहीं है कि कितने अंकों से।"

2. "अनंत पैमाना" परिप्रेक्ष्य (डीप लर्निंग एसिम्प्टोटिक्स)

उपमा: कल्पना कीजिए कि आपके पास कुछ तख्तों से बना एक छोटा, डगमगाता हुआ पुल है। यह अनुमान लगाना कठिन है कि हवा में यह वास्तव में कैसे हिलेगा। लेकिन, यदि आप एक ऐसे पुल की कल्पना करें जो अनंत तख्तों से बना हो, या एक ऐसा पुल जो अनंत तक फैला हो, तो गणित बहुत अधिक सुचारू और अनुमानित हो जाता है।
शोध पत्र क्या कहता है:
वास्तविक, सीमित GNN को देखने के बजाय, यह परिप्रेक्ष्य यह कल्पना करता है कि क्या होता है यदि हम नेटवर्क को अनंत रूप से चौड़ा (अनंत न्यूरॉन्स जोड़कर) बनाते हैं या यदि ग्राफ स्वयं अनंत रूप से बड़ा हो जाता है।

गौसियन प्रोसेस (GP): जब नेटवर्क अनंत रूप से चौड़ा होता है, तो GNN एक जटिल, अव्यवस्थित मस्तिष्क की तरह व्यवहार करना बंद कर देता है और एक सुचारू, अनुमानित वक्र (गौसियन प्रोसेस) की तरह व्यवहार करने लगता है। यह एक अराजक जैज़ इम्प्रोवाइजेशन को एक पूर्णतः रचित शास्त्रीय सिम्फनी में बदलने जैसा है। यह वैज्ञानिकों को यह समझने में मदद करता है कि GNN कभी-कभी बहुत अधिक "स्मूथ आउट" क्यों हो जाते हैं और विवरण खो देते हैं।
न्यूरल टेंगेंट कर्नेल (NTK): यह नेटवर्क को सरल बनाने का एक और तरीका है। यह प्रशिक्षण प्रक्रिया को इस तरह मानता है जैसे कि नेटवर्क एक सरल मशीन लर्निंग मॉडल है जो सीखने के दौरान अपना "आकार" बहुत कम बदलता है।
ग्राफोन (Graphon): यह तब है जब ग्राफ अनंत रूप से बड़ा हो जाता है। एक शहर के मानचित्र की कल्पना करें जो बढ़ता ही जा रहा है। अंततः, वह मानचित्र अलग-अलग बिंदुओं और रेखाओं के बजाय एक सुचारू, निरंतर तरल बन जाता है। यह वैज्ञानिकों को यह समझने में मदद करता है कि क्या एक छोटे शहर पर प्रशिक्षित GNN एक विशाल महानगर पर काम करेगा।
निष्कर्ष: ये तरीके बताते हैं कि GNN बहुत गहरे या बहुत चौड़े होने पर कैसा व्यवहार करते हैं, लेकिन वे आदर्श "अनंत" परिदृश्यों पर निर्भर करते हैं जो वास्तविक, सीमित नेटवर्क से पूरी तरह मेल नहीं खाते।

3. "नियंत्रित प्रयोग" परिप्रेक्ष्य (रैंडम ग्राफ मॉडल)

उपमा: कल्पना कीजिए कि आप परीक्षण करना चाहते हैं कि क्या एक नई दवा काम करती है। पूरे अराजक विश्व के बजाय, आप रोगियों को एक नियंत्रित लैब में रखते हैं जहाँ विशिष्ट स्थितियाँ हैं (जैसे, सभी का आहार, आयु समान है)।
शोध पत्र क्या कहता है:
पहले दो परिप्रेक्ष्य अक्सर डेटा की विशिष्ट संरचना को अनदेखा करते हैं। यह तीसरा परिप्रेक्ष्य कहता है, "आइए एक नकली, आदर्श दुनिया (एक रैंडम ग्राफ मॉडल) बनाएं जहाँ हम जानते हैं कि डेटा को ठीक से कैसे उत्पन्न किया गया था, और फिर वहां GNN का परीक्षण करें।"

कॉन्टेक्स्टुअल स्टोकेस्टिक ब्लॉक मॉडल (CSBM): यह एक विशिष्ट "लैब" है जहाँ नोड्स (लोग) दो छिपे हुए समूहों (जैसे, दो राजनीतिक दल) में विभाजित होते हैं। उनके बीच के संबंध और उनके व्यक्तित्व लक्षण एक विशिष्ट सेट के नियमों द्वारा उत्पन्न किए जाते हैं।
निष्कर्ष: इस नियंत्रित लैब में, शोधकर्ता यह सिद्ध कर सकते हैं कि एक GNN कब सफल या विफल होगा। उदाहरण के लिए, उन्होंने पाया कि यदि डेटा में "शोर" (noise) बहुत अधिक है, तो एक GNN समूहों को अलग करने में विफल हो सकता है, भले ही ऐसा लगे कि यह काम करना चाहिए। उन्होंने यह भी खोजा कि कभी-कभी, केवल व्यक्तित्व लक्षणों को देखना (संबंधों को अनदेखा करना) स्थिति के आधार पर GNN का उपयोग करने से बेहतर काम करता है।
निष्कर्ष: यह त्रुटि दरों के बारे में बहुत सटीक उत्तर देता है, लेकिन केवल इन विशिष्ट, कृत्रिम "लैब" दुनियाओं के लिए। यह अभी तक पूरी तरह से यह नहीं समझा पाता है कि वास्तविक, अस्त-व्यस्त दुनिया में क्या होता है।

सारांश: क्या गायब है?

शोध पत्र हमारे ज्ञान के अंतराल की ओर इशारा करते हुए समाप्त होता है:

"प्रशिक्षण" का अंतराल: अधिकांश सिद्धांत या तो प्रशिक्षित होने से पहले GNN को देखते हैं या यह मान लेते हैं कि यह एक सरल रैखिक मॉडल है। हमारे पास अभी तक कोई पूर्ण गणितीय प्रमाण नहीं है कि एक जटिल, गैर-रैखिक GNN वास्तविक डेटा पर पूरी तरह से प्रशिक्षित होने के बाद कैसा व्यवहार करता है।
"विरल" (Sparse) का अंतराल: कई सिद्धांत तब अच्छा काम करते हैं जब ग्राफ घना (dense) होता है (हर कोई एक-दूसरे को जानता है), लेकिन वास्तविक दुनिया के ग्राफ अक्सर विरल (sparse) होते हैं (हर कोई बहुत कम लोगों को जानता है)। हमें इन विरल स्थितियों के लिए बेहतर गणित की आवश्यकता है।
"किनारे" (Edge) का अंतराल: हम किसी व्यक्ति के बारे में भविष्यवाणी करने (नोड प्रेडिक्शन) के बारे में बहुत कुछ जानते हैं, लेकिन इन सांख्यिकीय उपकरणों का उपयोग करके उनके बीच के संबंधों (एज प्रेडिक्शन) की भविष्यवाणी करने के बारे में हम बहुत कम जानते हैं।

संक्षेप में, यह शोध पत्र एक मार्गदर्शिका है जो हमें दिखाती है कि वैज्ञानिक ग्राफ न्यूरल नेटवर्क के रहस्य को नेविगेट करने के लिए किन तीन मानचित्रों का उपयोग कर रहे हैं। प्रत्येक मानचित्र उपयोगी है, लेकिन उनमें से कोई भी अभी तक पूरे क्षेत्र को पूरी तरह से नहीं दिखाता है।

तकनीकी सारांश: ग्राफ न्यूरल नेटवर्क में सामान्यीकरण (Generalisation) को समझने के लिए विभिन्न सांख्यिकीय दृष्टिकोण

समस्या विवरण

ग्राफ न्यूरल नेटवर्क (GNNs) ग्राफ-संरचित डेटा पर सीखने के लिए प्रमुख दृष्टिकोण बन गए हैं, फिर भी उनके सांख्यिकीय सामान्यीकरण प्रदर्शन की गणितीय समझ सीमित है। जबकि GNNs का उपयोग विविध क्षेत्रों में किया जा रहा है, सैद्धांतिक विश्लेषण अभी भी प्रारंभिक अवस्था में है। संबोधित की जाने वाली मुख्य समस्या यह है कि एक सांख्यिकीय नियम से लिए गए नमूनों (samples) पर प्रशिक्षित GNNs के सामान्यीकरण त्रुटि (test error) का लक्षण वर्णन करना है। यह शोध पत्र पहचानता है कि मौजूदा सैद्धांतिक दृष्टिकोण खंडित हैं, जो ग्राफ सिद्धांत, रैंडम ग्राफ, गैर-यूक्लिडियन ज्यामिति और डीप लर्निंग थ्योरी से उत्पन्न होते हैं, और इन सबको एक सुसंगत सांख्यिकीय ढांचे में संश्लेषित करने का प्रयास करता है।

कार्यप्रणाली

यह शोध पत्र मौजूदा साहित्य का सर्वेक्षण करता है और उसे तीन व्यापक सांख्यिकीय ढांचों में व्यवस्थित करता है, जो ग्राफ-स्तरीय कार्यों (पूरे ग्राफ के लिए लेबल की भविष्यवाणी करना, जैसे प्रोटीन वर्गीकरण) और नोड-स्तरीय कार्यों (एक ही ग्राफ के भीतर नोड्स के लिए लेबल की भविष्यवाणी करना, जैसे कम्युनिटी डिटेक्शन) के बीच अंतर करता है।

सांख्यिकीय शिक्षण सैद्धांतिक ढांचा (Statistical Learning Theoretic Framework):
- दृष्टिकोण: GNNs पर शास्त्रीय शिक्षण सिद्धांत उपकरणों, विशेष रूप से यूनिफॉर्म कन्वर्जेंस बाउंड्स (uniform convergence bounds) को लागू करता है।
- तंत्र: सामान्यीकरण त्रुटि $R(\hat{f})$ को प्रशिक्षण त्रुटि $\hat{R}(\hat{f})$ और परिकल्पना वर्ग (hypothesis class) $\mathcal{F}$ की जटिलता (जिसे VC-dimension या Rademacher complexity द्वारा पहचाना जाता है) के संदर्भ में बांधता है।
- मुख्य अंतर्दृष्टि: GNNs की अभिव्यंजकता (expressivity) को वेइसफेलर-लेमैन (WL) ग्राफ आइसोमोर्फिज्म टेस्ट से जोड़ता है। एक GNN द्वारा ग्राफों को अलग करने की क्षमता (और इस प्रकार उसका इंडक्टिव बायस) WL परीक्षणों (जैसे मानक GCNs के लिए 1-WL) की शक्ति द्वारा सीमित होती है।
डीप लर्निंग एसिम्प्टोटिक्स (अनंत चौड़ाई/आकार):
- दृष्टिकोण: अनंत छिपे हुए-परत की चौड़ाई ( $d_\ell \to \infty$ ), अनंत गहराई ( $L \to \infty$ ), या अनंत ग्राफ आकार ( $n \to \infty$ ) जैसे एसिम्प्टोटिक रिजीम में विश्लेषण करके GNNs की गैर-रेखीय प्रशिक्षण गतिशीलता को सरल बनाता है।
- तंत्र:
  - न्यूरल नेटवर्क गॉसियन प्रोसेस (NNGP): अनंत-चौड़ाई की सीमा में, रैंडमली इनिशियलाइज्ड GNNs एक गॉसियन प्रोसेस की ओर अभिसरित होते हैं।
  - न्यूरल टेंगेंट कर्नेल (NTK): अनंत-चौड़ाई की सीमा में, GNNs की प्रशिक्षण गतिशीलता को NTK द्वारा परिभाषित एक लीनियर कर्नेल मशीन द्वारा अनुमानित किया जा सकता है।
  - ग्राफोन न्यूरल नेटवर्क: अनंत ग्राफ आकार ( $n \to \infty$ ) की सीमा में, डिस्क्रीट GNNs ग्राफों (graphons - मापने योग्य फलन $A: [0,1]^2 \to [0,1]$ ) पर निरंतर ऑपरेटरों में अभिसरित होते हैं।
- लक्ष्य: ये सीमाएं स्थिरता (stability), ओवरस्मूथिंग (oversmoothing) और ट्रांसफ़रेबिलिटी के विश्लेषण को सुलभ बनाती हैं, जो अक्सर ग्राफ कन्वोल्शन के संरचनात्मक गुणों को बनाए रखती हैं।
सांख्यिकीय नेटवर्क मॉडल दृष्टिकोण (रैंडम ग्राफ्स):
- दृष्टिकोण: विशिष्ट संभाव्यता ग्राफ मॉडलों, मुख्य रूप से कॉन्टेक्स्टुअल स्टोकेस्टिक ब्लॉक मॉडल (CSBM) के तहत GNNs का अध्ययन करता है।
- तंत्र: हाई-डायमेंशनल स्टैटिस्टिक्स टूल्स का उपयोग करके नॉन-एसिम्प्टोटिक एरर रेट्स निकालता है। यह ढांचा नोड फीचर्स और ग्राफ टोपोलॉजी के संयुक्त वितरण को स्पष्ट रूप से मॉडल करता है।
- लक्ष्य: सटीक सामान्यीकरण त्रुटि दरें प्रदान करना जो अनुभवजन्य अवलोकनों की व्याख्या करती हैं (उदाहरण के लिए, ग्राफ होमोफिली या फीचर एलाइनमेंट के आधार पर GNN क्यों सफल या विफल होते हैं) और GNN प्रदर्शन की तुलना इष्टतम सांख्यिकीय अनुमानकों (estimators) से करना।

मुख्य योगदान और परिणाम

1. लर्निंग थ्योरेटिक बाउंड्स

ग्राफ-स्तरीय: प्रमेय 1 स्थापित करता है कि सामान्यीकरण त्रुटि आर्किटेक्चर के इंडक्टिव बायस और परिकल्पना वर्ग की Rademacher complexity द्वारा बंधी होती है। एक $L$ -लेयर GNN के लिए, जटिलता $O(d \cdot L \cdot \hat{b}/\sqrt{m})$ के साथ स्केल करती है, जहाँ $\hat{b}$ अधिकतम नोड डिग्री है।
नोड-स्तरीय: प्रमेय 2 ट्रांसडक्टिव रेडमेकर कॉम्प्लेक्सिटी का उपयोग करके बाउंड प्रदान करता है। यह रेखांकित करता है कि त्रुटि कन्वोल्शन ऑपरेटर $S$ और नोड फीचर्स ($SX$) के बीच की अंतःक्रिया पर निर्भर करती है। महत्वपूर्ण रूप से, मानक VC-dimension बाउंड्स को इस सेटिंग में निरर्थक (trivial) दिखाया गया है।
अभिव्यंजकता (Expressivity): यह पेपर GNN अभिव्यंजकता और WL टेस्ट के बीच संबंध को औपचारिक रूप देता है, यह नोट करते हुए कि मानक मैसेज-पासिंग GNNs (MP-GNNs) $k$ -WL पदानुक्रम द्वारा सीमित हैं, जो कुछ गैर-आइसोमोर्फिक ग्राफों (जैसे $C_{10}$ बनाम $C_5 \cup C_5$ ) को अलग करने की उनकी क्षमता को बाधित करता है।

2. एसिम्प्टोटिक लक्षण वर्णन

गॉसियन प्रोसेस और NTK: यह विवरण देता है कि कैसे चौड़ाई बढ़ने के साथ GNNs, Graph NNGPs और Graph NTKs में परिवर्तित होते हैं।
- NNGP: कार्यों (functions) पर प्रायर (prior) का प्रतिनिधित्व करता है; बेयसियन इन्फरेंस के लिए उपयोगी है लेकिन केवल अंतिम परत के भार (weights) को सीखता है।
- NTK: प्रशिक्षण गतिशीलता का प्रतिनिधित्व करता है; इष्टतम मापदंडों को चरित्रित करने और कर्नेल-आधारित सामान्यीकरण बाउंड प्राप्त करने की अनुमति देता है।
- निष्कर्ष: ये सीमाएं ओवरस्मूथिंग (जहाँ $L \to \infty$ होने पर नोड रिप्रेजेंटेशन अविभेद्य हो जाते हैं) जैसी घटनाओं की व्याख्या करती हैं और दर्शाती हैं कि विशिष्ट आर्किटेक्चरल विकल्प (जैसे रो-नॉर्मलाइज्ड कन्वोल्शन, स्किप कनेक्शन, अटेंशन हेड्स) प्रदर्शन को कैसे प्रभावित करते हैं।
ग्राफोन लिमिट्स: घने ग्राफों के लिए $O(n^{-1/2})$ की दर के साथ डिस्क्रीट GNNs का Graphon Neural Networks में अभिसरण स्थापित किया गया है। इस ढांचे का उपयोग विभिन्न ग्राफ आकारों के बीच GNN की स्थिरता और ट्रांसफ़रेबिलिटी का अध्ययन करने के लिए किया जाता है।

3. रैंडम ग्राफ मॉडल (CSBM) के तहत विश्लेषण

प्रमेय 4: 1-लेयर GCN और GATs का उपयोग करके एक CSBM में लेटेंट कम्युनिटीज के सटीक रिकवरी का विश्लेषण करता है।
- परिणाम: एक 1-लेयर GCN नोड फीचर्स के रैखिक रूप से अलग (linearly separable) न होने पर भी समुदायों को सटीक रूप से रिकवर कर सकता है, बशर्ते कि ग्राफ सेमी-स्पार्स हो और सिग्नल-टू-नॉइज़ रेशियो पर्याप्त हो।
- GAT सूक्ष्मता: प्रभावी अटेंशन सीखने के लिए GATs को मजबूत फीचर सेपरेशन ( $\|\mu\| = \omega(\sqrt{\log n})$ ) की आवश्यकता होती है; अन्यथा, वे $\Omega(n)$ नोड्स को गलत वर्गीकृत कर सकते हैं।
प्रशिक्षण गतिशीलता: पेपर नोट करता है कि जबकि फिक्स्ड-पैरामीटर विश्लेषण आम है, हाल के कार्यों ने प्रशिक्षित लीनियर GCNs के लिए सामान्यीकरण त्रुटि निकाली है, जिसमें ग्राफ सिग्नल-टू-नॉइज़ रेशियो द्वारा नियंत्रित डबल डिसेंट घटना (double descent phenomenon) देखी गई है।

महत्व और सीमाएं

पेपर तर्क देता है कि कोई भी एकल दृष्टिकोण GNN सामान्यीकरण की पूर्ण तस्वीर पेश नहीं करता है:

लर्निंग थ्योरी डेटा-अज्ञेयवादी (data-agnostic) बाउंड प्रदान करती है लेकिन अक्सर ढीले अनुमान देती है जो प्रशिक्षित, ओवर-पैरामीटराइज्ड नेटवर्क के प्रदर्शन को प्रतिबिंबित नहीं करते हैं।
एसिम्प्टोटिक्स प्रशिक्षित नेटवर्क (स्थिरता, स्केलिंग) के व्यवहार के बारे में गहरी अंतर्दृष्टि प्रदान करते हैं, लेकिन अक्सर अनंत पैरामीटर या ग्राफ आकार मानते हैं, जो परिमित-नमूना प्रभावों (finite-sample effects) को अस्पष्ट कर सकते हैं।
रैंडम ग्राफ मॉडल सटीक, डेटा-निर्भर त्रुटि दरें प्रदान करते हैं, लेकिन वर्तमान में विशिष्ट मॉडलों (जैसे CSBM) तक सीमित हैं और अक्सर लीनियर या फिक्स्ड-पैरामीटर विश्लेषण तक ही सीमित हैं।

पहचाने गए खुले अनुसंधान प्रश्न:

नोड-स्तरीय: आंशिक लेबल वाले स्पार्स CSBM के तहत प्रशिक्षित गैर-रेखीय GNNs के लिए सामान्यीकरण त्रुटि बाउंड प्राप्त करना, और उनकी तुलना इष्टतम स्पेक्ट्रल या मैसेज-पासिंग अनुमानकों से करना।
ग्राफ-स्तरीय: रैंडम ग्राफों (जैसे ग्राफों या ERGMs के तहत) के लिए सुसंगत GNN-आधारित दो-नमूना परीक्षण (two-sample tests) डिजाइन करना और WL परीक्षणों को हाइपोथीसिस टेस्टिंग से जोड़ना।
एज-स्तरीय: सामान्य ग्राफ मॉडलों के तहत GNN-आधारित लिंक प्रेडिक्शन के लिए सांख्यिकीय गारंटी स्थापित करना और ग्राफ संरचना को संशोधित करने में अटेंशन मैकेनिज्म की भूमिका को कठोरता से समझाना।

लेखक निष्कर्ष निकालते हैं कि क्षेत्र इन दृष्टिकोणों को एकीकृत करने की ओर बढ़ रहा है, विशेष रूप से प्रशिक्षित GNNs के Graphon NTKs में अभिसरण का अध्ययन करके, जब ग्राफ का आकार और चौड़ाई दोनों अनंत की ओर बढ़ते हैं, ताकि व्यावहारिक, प्रशिक्षित मॉडलों के लिए नॉन-एसिम्प्टोटिक त्रुटि दरें प्राप्त की जा सकें।