🤖 machine learning

TN-SHAP-G: Graph-Structured Tensor Network Surrogates for Shapley Values and Interactions

यह शोध पत्र TN-SHAP-G को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो ग्राफ-संरचित इनपुट के लिए सटीक शापली मानों (Shapley values) और उच्च-क्रम की अंतःक्रियाओं (higher-order interactions) को कुशलतापूर्वक रूप से गणना करने के लिए ग्राफ-संरेखित टेंसर नेटवर्क सरोगेट्स का उपयोग करता है, जिससे पारंपरिक विधियों में निहित घातांकीय जटिलता और सैंपलिंग विचरण (sampling variance) पर विजय प्राप्त होती है।

मूल लेखक: Farzaneh Heidari, Guillaume Rabusseau

प्रकाशित 2026-06-02

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Farzaneh Heidari, Guillaume Rabusseau

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक जटिल, ब्लैक-बॉक्स मशीन है जो एक अणु (परमाणुओं और बंधों का एक ग्राफ) की तस्वीर लेती है और भविष्यवाणी करती है कि वह खतरनाक है या सुरक्षित। आप जानना चाहते हैं: कौन से विशिष्ट परमाणु उस भविष्यवाणी के लिए जिम्मेदार हैं? और इससे भी महत्वपूर्ण बात यह है कि क्या परमाणुओं के कुछ समूह मिलकर उस परिणाम को जन्म देते हैं?

यहीं पर शैपली वैल्यूज (Shapley values) काम आती हैं। इन्हें एक निष्पक्ष तरीके के रूप में समझें जिससे खेल के सभी खिलाड़ियों (परमाणुओं) के बीच "क्रेडिट" को विभाजित किया जा सके। हालाँकि, इस क्रेडिट की गणना करना एक दुःस्वप्न जैसा है। यह जानने के लिए कि एक परमाणु कितना योगदान देता है, आपको परमाणुओं के हर संभावित संयोजन का परीक्षण करना होगा (कुछ को रखना, दूसरों को छिपाना) और देखना होगा कि भविष्यवाणी कैसे बदलती है। यदि आपके पास 20 परमाणु हैं, तो दस लाख से अधिक संयोजन हैं। यदि 50 हैं, तो संख्या इतनी विशाल होगी कि उन्हें जांचने में ब्रह्मांड की आयु से भी अधिक समय लग जाएगा।

वर्तमान विधियाँ यादृच्छिक (random) संयोजनों का नमूना लेकर उत्तर का अनुमान लगाने की कोशिश करती हैं, लेकिन यह धीमा, शोर भरा (noisy) होता है, और अक्सर परमाणुओं के बीच सूक्ष्म टीम वर्क को पकड़ने में विफल रहता है।

TN-SHAP-G एक नया तरीका है जो एक स्मार्ट अनुवादक और शॉर्टकट की तरह काम करके इसे हल करता है। यह कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग किया गया है:

1. "शैडो पपेट" (द सरोगेट/प्रतिरूप)

ब्लैक-बॉक्स मशीन को केवल कुछ सौ परीक्षण चलाने के लिए कहने के लिए, बजाय इसके कि वह लाखों परीक्षण चलाए (जैसे कि रेसिपी का अनुमान लगाने के लिए अलग-अलग सामग्रियों के साथ सूप चखना), TN-SHAP-G उसे केवल कुछ सौ परीक्षण चलाने के लिए कहता है।

इसके बाद यह मशीन का एक सरलीकृत "शैडो पपेट" संस्करण बनाता है। यह कोई रैंडम अनुमान नहीं है; यह एक गणितीय संरचना है जिसे टेन्सर नेटवर्क (Tensor Network) कहा जाता है।

उपमा: कल्पना कीजिए कि अणु एक शहर का नक्शा है। ब्लैक-बॉक्स मशीन एक जटिल ट्रैफिक सिस्टम है। TN-SHAP-G उस शहर का एक सरलीकृत मॉडल बनाता है जहाँ सड़कें (परमाणुओं के बीच संबंध) संरक्षित रहती हैं, लेकिन ट्रैफिक के नियम एक संक्षिप्त, आसानी से गणना योग्य मानचित्र में बदल दिए जाते हैं।
मुख्य बात: यह सरलीकृत मानचित्र इस तरह बनाया गया है कि यह अणु के आकार के बिल्कुल समान दिखे। यदि अणु का आकार एक रिंग (वलय) जैसा है, तो गणितीय मॉडल का आकार भी एक रिंग जैसा होगा। यह इसे बिना पूरे ब्रह्मांड का अनुकरण किए, यह समझने की अनुमति देता है कि परमाणु अपने पड़ोसियों को कैसे प्रभावित करते हैं।

2. "जादुई सूत्र" (डिटरमिनिस्टिक रिकवरी)

एक बार जब यह सरलीकृत "शैडो पपेट" प्रशिक्षित हो जाता है, तो जादू शुरू होता है। क्योंकि यह मॉडल एक विशिष्ट प्रकार के गणित (मल्टीलीनर पॉलिनोमियल) का उपयोग करके बनाया गया है, लेखकों ने प्रत्येक परमाणु के लिए सटीक क्रेडिट की गणना करने के लिए एक क्लोज्ड-फॉर्म फॉर्मूला (closed-form formula) खोज निकाला है।

उपमा: आमतौर पर, कार की औसत गति ज्ञात करने के लिए, आप इसे 1,000 बार समय दे सकते हैं और औसत ले सकते हैं (सैंपलिंग)। TN-SHAP-G कार के इंजन का एक सटीक ब्लूप्रिंट रखने जैसा है। आपको कार को 1,000 बार चलाने की आवश्यकता नहीं है; आप बस कैलकुलेटर में ब्लूप्रिंट डालते हैं, और यह तुरंत आपको सटीक गति बता देता है।
परिणाम: एक बार जब मॉडल प्रशिक्षित हो जाता है, तो यह हर परमाणु और हर जोड़ी परमाणु के महत्व को तुरंत और पूरी तरह से निकाल सकता है, जिसमें कोई अनुमान या रैंडमनेस नहीं होती।

3. यह बेहतर क्यों है ("टीमवर्क" का लाभ)

अधिकांश विधियाँ यह समझने में संघर्ष करती हैं कि दो परमाणु एक साथ कैसे काम करते हैं (इंटरैक्शन)। वे लोगों को रैंडमली हाथ मिलाते हुए देखने के बजाय एक गुप्त हैंडशेक का अनुमान लगाने की कोशिश करने जैसी हैं।

TN-SHAP-G एक ब्लूप्रिंट पर स्लो मोशन में हैंडशेक होते हुए देखने जैसा है। यह सटीक रूप से गणना कर सकता है कि दो परमाणुओं के बीच कितनी "सिनर्जी" (तालमेल) मौजूद है (जैसे, "नाइट्रोजन और ऑक्सीजन मिलकर अकेले होने की तुलना में 10 गुना अधिक खतरनाक हैं") बिना अतिरिक्त परीक्षणों की आवश्यकता के।
दक्षता (Efficiency): जबकि अन्य विधियों को एक अच्छा उत्तर प्राप्त करने के लिए 5,000 या 50,000 क्वेरी की आवश्यकता हो सकती है, TN-SHAP-G अक्सर केवल 50 से 100 क्वेरी के साथ एक लगभग पूर्ण उत्तर प्राप्त कर लेता है।

4. उन्होंने क्या परीक्षण किया

लेखकों ने इसका परीक्षण अणुओं (जैसे दवाओं और प्रोटीन) पर किया।

छोटे अणु: उन्होंने इसकी तुलना "गोल्ड स्टैंडर्ड" (प्रत्येक संयोजन की जाँच करना) से की। TN-SHAP-G ने गोल्ड स्टैंडर्ड के लगभग पूरी तरह से मिलान किया (99%+ सटीकता), लेकिन इसने इसे हजारों गुना तेजी से किया।
बड़े अणु: उन्होंने बड़े प्रोटीन संरचनाओं पर इसका परीक्षण किया जहाँ अन्य विधियाँ या तो क्रैश हो जाती हैं या बहुत अधिक समय लेती हैं। TN-PHAP-G ने सैकड़ों नोड्स वाले ग्राफ तक सहजता से काम किया।

सारांश

TN-SHAP-G एक ऐसा टूल है जो यह सीखता है कि एक ब्लैक-बॉक्स मॉडल निर्णय कैसे लेता है, इसके लिए एक संक्षिप्त, आकार-जागरूक "चीट शीट" (शॉर्टकट नोट्स) बनाता है। एक बार जब इसके पास यह चीट शीट होती है, तो यह तुरंत और पूरी तरह से गणना कर सकता है कि ग्राफ के कौन से हिस्से (जैसे एक अणु) महत्वपूर्ण हैं और वे एक साथ कैसे काम करते हैं, बिना ब्लैक-बॉक्स मॉडल से लाखों उत्तर मांगे। यह एक ऐसी समस्या को हल कर देता है जिसके लिए आमतौर पर एक सुपरकंप्यूटर और प्रतीक्षा करने के लिए एक जीवनकाल की आवश्यकता होती है, इसे एक मानक कंप्यूटर पर सेकंडों में हल करने योग्य बना देता है।

तकनीकी सारांश: TN-SHAP-G

समस्या विवरण

ब्लैक-बॉक्स ग्राफ न्यूरल नेटवर्क्स (GNNs) के भविष्यवाणियों की व्याख्या करने के लिए व्यक्तिगत नोड्स और उनकी अंतःक्रियाओं (interactions) को महत्व देना आवश्यक है। जबकि शापली मान (Shapley values) और उच्च-क्रम अंतःक्रिया सूचकांक (higher-order interaction indices) सिद्धांततः और अक्षिय (axiomatic) एट्रिब्यूशन प्रदान करते हैं, उनकी सटीक गणना ग्राफों के लिए अव्यवहारिक है, जो $n$ नोड्स के लिए $O(2^n)$ के रूप में स्केल करती है। मौजूदा सन्निकटन विधियाँ (approximation methods) महत्वपूर्ण समझौतों का सामना करती हैं: आर्किटेक्चर-विशिष्ट व्याख्याकार (जैसे GNNExplainer) सामान्य ब्लैक-बॉक्स मॉडल पर लागू नहीं होते हैं, जबकि सैंपलिंग-आधारित दृष्टिकोण (जैसे GraphSVX, SHAP-IQ) को हजारों मॉडल मूल्यांकनों की आवश्यकता होती है और उच्च-क्रम की अंतःक्रियाओं के लिए उच्च विचरण (high variance) से ग्रस्त होते हैं। इसके अलावा, ये सैंपलिंग विधियाँ अक्सर बड़े ग्राफों तक स्केल करने में विफल रहती हैं जहाँ सटीक गणना असंभव है।

कार्यप्रणाली: TN-SHAP-G

लेखक TN-SHAP-G का प्रस्ताव करते हैं, जो ग्राफ-संरचित इनपुट के संरचनात्मक गुणों का लाभ उठाकर शापली मानों और अंतःक्रियाओं की कुशलतापूर्वक और नियत रूप से (deterministically) गणना करता है। मुख्य विचार एक कॉम्पैक्ट, ग्राफ-अलाइन्ड टेंसर नेटवर्क (TN) सरोगेट सीखना है जो प्रेडिक्टर के मास्क किए गए-इनपुट व्यवहार को सन्निकट (approximate) करता है।

1. द मास्केड ग्राफ गेम (The Masked Graph Game)

यह विधि ग्राफ व्याख्या को नोड मास्किंग द्वारा प्रेरित एक सहकारी खेल (cooperative game) के रूप में औपचारिक रूप देती है। एक निश्चित इनपुट ग्राफ $G=(V, E)$ के लिए जिसमें फीचर्स $X$ और बेसलाइन $X^0$ है, एक गठबंधन (coalition) $S \subseteq V$ एक मास्क किए गए फीचर मैट्रिक्स $X_S$ को परिभाषित करता है जहाँ $S$ के नोड्स अपने मूल फीचर्स बनाए रखते हैं और $S$ के बाहर के नोड्स को बेसलाइन फीचर्स से बदल दिया जाता है। गेम वैल्यू $\nu(S) = f(G, X_S)$ है, जहाँ $f$ एक ब्लैक-बॉक्स प्रेडिक्टर है।

2. मल्टीलीनर एक्सटेंशन और टेंसर कॉन्ट्रैक्शन (Multilinear Extension and Tensor Contraction)

प्रत्यक्ष शापली मान गणना के लिए $2^n$ गठबंधनों पर योग करने की आवश्यकता होती है। लेखक मल्टीलीनर एक्सटेंशन $\hat{\nu}(z)$ का उपयोग करते हैं, जो $z \in [0, 1]^n$ पर परिभाषित असतत खेल का एक निरंतर विश्रांति (continuous relaxation) है।

टेंसर फॉर्मूलेशन: मल्टीलीनर एक्सटेंशन को एक टेंसर कॉन्ट्रैक्शन के रूप में सटीक रूप से व्यक्त किया जा सकता है: $\hat{\nu}(z) = \sum_{s \in \{0,1\}^n} T_s \prod_{v=1}^n b_v(z_v)^{s_v}$ , जहाँ $T$ एक गठबंधन टेंसर है और $b_v(z_v)$ बर्नौली सेलेक्टर वेक्टर्स हैं।
नियत रिकवरी (Deterministic Recovery): शापली मान और अंतःक्रिया सूचकांक विकर्ण $z = t\mathbf{1}$ के साथ $\hat{\nu}$ के आंशिक डेरिवेटिव्स के इंटीग्रल्स (integrals) के अनुरूप हैं। क्योंकि $\hat{\nu}$ मल्टीलीनर है, ये डेरिवेटिव्स अधिकतम $n-1$ डिग्री के यूनिवेरिएटता (univariate) बहुपद हैं। इस प्रकार, वेंडरमोंड इंटरपोलेशन (Vandermonde interpolation) के माध्यम से कुछ प्रोब पॉइंट्स से सटीक एट्रिब्यूशंस को पुनः प्राप्त किया जा सकता है, जो मोंटे कार्लो विचरण (Monte Carlo variance) को समाप्त करता है।

3. ग्राफ-अलाइन्ड टेंसर नेटवर्क सरोगेट (Graph-Aligned Tensor Network Surrogate)

चूंकि पूर्ण गठबंधन टेंसर $T$ में $2^n$ प्रविष्टियाँ होती हैं, TN-SHAP-G मल्टीलीनर एक्सटेंशन को सन्निकट करने के लिए एक ग्राफ-अलाइन्ड टेंसर नेटवर्क सरोगेट $\hat{\nu}$ सीखता है।

टोपोलॉजी: TN टोपोलॉजी इनपुट ग्राफ $G$ को प्रतिबिंबित करती है। प्रत्येक नोड $v$ एक कोर टेंसर $A^{(v)}$ के अनुरूप होता है जिसमें एक फिजिकल इंडेक्स (गठबंधन सदस्यता को एनकोड करने के लिए) और पड़ोसियों से जुड़ने वाले बॉन्ड इंडेक्स होते हैं।
अभिव्यक्ति क्षमता (Expressivity): बॉन्ड डायमेंशन $\chi$ ग्राफ सेपरेटरों के माध्यम से सूचना प्रवाह की क्षमता को नियंत्रित करता है। लेखक सिद्ध करते हैं कि कम कट-रैंक (low cut-rank) वाले खेलों के लिए (जो कई GNNs में स्थानीय निर्भरता पैटर्न का एक गुण है), यह ग्राफ-अलाइन्ड संरचना चेन-आधारित फैक्टरइज़ेशन जैसे टेंसर ट्रेन्स (TT) की तुलना में कम पैरामीटर्स के साथ उच्च अभिव्यक्ति क्षमता प्राप्त करती है, जो चक्रीय या जटिल ग्राफों पर रैंक इन्फ्लेशन से ग्रस्त होते हैं।
प्रशिक्षण: सरोगेट को decrete (sampled) गठबंधनों के एक छोटे सेट ( $M \ll 2^n$ ) पर एम्पिरिकल रिस्क मिनिमाइजेशन के माध्यम से प्रशिक्षित किया जाता है। सैद्धांतिक गारंटी दिखाती है कि बाउंडेड-डिग्री ग्राफों के लिए आवश्यक क्वेरी बजट नोड्स की संख्या के लगभग रैखिक (near-linearly) रूप से स्केल करता है।

4. इन्फरेंस (Inference)

एक बार प्रशिक्षित होने के बाद, सरोगेट निम्नलिखित की नियत (deterministic) गणना सक्षम बनाता है:

प्रथम-क्रम शापली मान: विकर्ण डेरिवेटिव के 1D इंटीग्रेशन के माध्यम से।
उच्च-क्रम अंतःक्रियाएं: मिक्स्ड पार्शियल डेरिवेटिव्स और इंटीग्रेशन के माध्यम से।
सभी मात्राओं की गणना बिना अतिरिक्त ब्लैक-बॉक्स मॉडल क्वेरी के, एकल प्रशिक्षित सरोगेट से की जाती है।

मुख्य योगदान

सिद्धांतिक ग्राफ-अलाइन्ड प्रतिनिधित्व: एक टेंसर-नेटवर्क सरोगेट का परिचय जो घातांकीय (exponential) गठबंधन-वैल्यू टेबल को एक लो-रैंक, ग्राफ-अलाइन्ड मल्टीलीनर प्रतिनिधित्व में संकुचित करता है। यह सरोगेट के इंडक्टिव बायस को ग्राफ प्रेडिक्टर्स में स्थानीय निर्भरता पैटर्न के साथ संरेखित करता है।
एमोर्टाइज्ड डिटरमिनिस्टिक कंप्यूटेशन: वेंडरमोंड इंटरपोलेशन के माध्यम से शापली मानों और अंतःक्रियाओं की गणना के लिए मल्टीलीनर संरचना का लाभ उठाना। इसके लिए केवल $O(n)$ सरोगेट मूल्यांकन की आवश्यकता होती है और इसमें कोई मोंटे कार्लो विचरण नहीं होता है। एक एकल सरोगेट सभी प्रथम- और उच्च-क्रम सूचकांकों की गणना को एमोर्टाइज (amortize) करता है।
सैद्धांतिक गारंटी:
- यह प्रमाण कि सीखा गया सरोगेट मल्टीलीनर एक्सटेंशन को अद्वितीय रूप से निर्धारित करता है, जो सरोगट पर सटीक एट्रिब्यूशन रिकवरी सुनिश्चित करता है।
- कट-रैंक तर्कों के माध्यम से अभिव्यक्ति क्षमता का लक्षण वर्णन, जो सिद्ध करता है कि ग्राफ-अलाइन्ड TNs, चेन-आधारित फैक्टरइज़ेशन (जैसे TT) की तुलना में बेहतर प्रदर्शन करते हैं।
- बाउंडेड-डिग्री ग्राफों के लिए नियर-लीनियर टीचर-क्वेरी कॉम्प्लेक्सिटी बाउंड्स।
- स्थिरता गारंटी जो गेम एप्रोक्सिमेशन एरर को शापली एरर से जोड़ती है।
अनुभवजन्य प्रदर्शन (Empirical Performance): मॉलिक्यूलर बेंचमार्क पर उच्च सटीकता प्राप्त करते हुए, सटीक शापली मानों के साथ $>0.99$ कोसाइन समानता (cosine similarity) हासिल की गई, जो केवल 50 मॉडल मूल्यांकनों के साथ संभव हुआ (बेसलाइन्स से 10–100 $\times$ कम)।

प्रयोगात्मक परिणाम

लेखकों ने मॉलिक्यूलर बेंचमार्क (Mutagenicity, Benzene) और प्रोटीन ग्राफ (PROTEINS) पर TN-SHAP-G का मूल्यांकन किया।

सटीकता (Correctness): छोटे ग्राफों ( $n \le 20$ ) पर, TN-SHAP-G सटीक शापली मानों (O1) और इंटरेक्शन इंडेक्स (O2) के करीब पहुंचता है, जो सटीकता और विचरण दोनों में GraphSVX और परम्यूटेशन सैंपलिंग से काफी बेहतर प्रदर्शन करता है।
क्वेरी दक्षता: TN-SHAP-G सैंपलिंग-आधारित अनुमानकों (SHAP-IQ, GraphSVX) की तुलना में 10–100 $\times$ कम मॉडल क्वेरी के साथ उच्च एट्रिब्यूशन सटीकता प्राप्त करता है।
स्केलेबिलिटी: यह विधि 600 नोड्स तक के ग्राफों के लिए कुशलतापूर्वक स्केल करती है, जबकि सटीक गणना और सैंपलिंग-आधारित विधियां अव्यवहारिक हो जाती हैं।
स्ट्रक्चर एब्लेशन: ग्राफ-अलाइन्ड TNs लगातार पैरामीटर-मैच्ड स्थितियों के तहत टेंसर ट्रेन (TT) सरोगेट्स से बेहतर प्रदर्शन करते हैं, जो टोपोलॉजी-अलाइन्ड फैक्टरइज़ेशन के सैद्धांतिक लाभ की पुष्टि करते हैं।
फिडेलिटी प्रॉक्सी: सरोगेट के टेस्ट $R^2$ और रिकवर किए गए शापली मानों की कोसाइन समानता के बीच एक मजबूत सहसंबंध देखा गया, जो एट्रिब्यूशन सटीकता के व्यावहारिक प्रॉक्सी के रूप में $R^2$ को मान्य करता है।

महत्व और दावे

लेख दावा करते हैं कि TN-SHAP-G ग्राफ व्याख्यात्मकता (explainability) के क्षेत्र में अत्याधुनिक स्थिति (state of the art) को आगे बढ़ाता है, जो शापली गणना की घातांकीय जटिलता को दूर करने के लिए एक सिद्धांतिक, मॉडल-अग्नोस्टिक फ्रेमवर्क प्रदान करता है। ग्राफ-संरचित सहकारी खेलों में निहित लो-रैंक संरचना का लाभ उठाकर, यह विधि नियर-लीनियर क्वेरी कॉम्प्लेक्सिटी के साथ नियत, विचरण-मुक्त एट्रिब्यूशन को सक्षम बनाती है।

लेखक इस बात पर जोर देते हैं कि यह दृष्टिकोण सीमित कम्प्यूटेशनल संसाधनों वाले अभ्यासकर्ताओं के लिए कठोर व्याख्या विधियों तक पहुंच को लोकतांत्रिक बनाता है, विशेष रूप से ड्रग डिस्कवरी और मॉलिक्यूलर प्रॉपर्टी प्रेडिक्शन जैसे उच्च-जोखिम वाले डोमेन में। यह फ्रेमवर्क लचीला है, विभिन्न गेम सेमेंटिक्स (जैसे नोड मास्किंग, नोड रिमूवल, मायर्सन वैल्यूज) और फीचर प्रकारों का समर्थन करता है, और मानक मैसेज-पासिंग GNNs से परे अन्य ग्राफ प्रेडिक्टर्स तक विस्तारित है। यह कार्य टेंसर नेटवर्क को न केवल संपीड़न उपकरण के रूप में, बल्कि संरचित डेटा पर सुलभ गेम-थ्योरेटिक विश्लेषण के लिए एक मौलिक तंत्र के रूप में स्थापित करता है।