🤖 machine learning

Causally Fair Node Classification on Non-IID Graph Data

यह शोध पत्र नेटवर्क स्ट्रक्चरल कॉज़ल मॉडल फ्रेमवर्क पर आधारित एक मैसेज पासिंग वेरिएशनल ऑटोएनकोडर (MPVA) प्रस्तावित करता है ताकि कॉज़ल मैकेनिज्म हेटेरोजेनिटीटी को संबोधित करके और बायस को कम करने के लिए इंटरवेंशनल डिस्ट्रीब्यूशंस की गणना करके नॉन-IID ग्राफ डेटा पर कॉज़ली फेयर नोड क्लासिफिकेशन प्राप्त किया जा सके।

मूल लेखक: Yucong Dai, Lu Zhang, Yaowei Hu, Susan Gauch, Yongkai Wu

प्रकाशित 2026-06-23

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yucong Dai, Lu Zhang, Yaowei Hu, Susan Gauch, Yongkai Wu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Causally Fair Node Classification on Non-IID Graph Data" शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ हिंदी अनुवाद दिया गया है।

बड़ी समस्या: "दोस्ती का पूर्वाग्रह" (Friendship Bias) का जाल

कल्पना कीजिए कि आप एक बैंक हैं जो यह तय करने की कोशिश कर रहे हैं कि किसे ऋण (loan) मिलना चाहिए। आपके पास आवेदकों की एक सूची है, लेकिन आप यह भी जानते हैं कि उनके दोस्त कौन हैं। वास्तविक दुनिया में, लोग अलग-थलग द्वीप नहीं होते; वे आपस में जुड़े होते हैं। यदि आपका मित्र ऋण चुकाने में विफल रहता है, तो यह आपको भी ऋण चुकाने में विफल होने की अधिक संभावना बना सकता है, केवल इसलिए क्योंकि आपकी आदतें समान हैं या आप एक ही पड़ोस में रहते हैं।

अधिकांश पारंपरिक AI निष्पक्षता उपकरण (fairness tools) यह मान लेते हैं कि हर कोई एक स्वतंत्र द्वीप है (जैसे कंचों का एक थैला जहाँ एक कंचा दूसरे के बारे में कुछ नहीं जानता)। वे यह सुनिश्चित करने की कोशिश करते हैं कि AI नस्ल या लिंग जैसे संवेदनशील गुणों को "न देखे"। लेकिन एक जुड़ी हुई दुनिया (एक "ग्राफ") में, यह दृष्टिकोण विफल हो जाता है। यदि AI इस बात को अनदेखा करता है कि आपके दोस्त आपको प्रभावित करते हैं, तो यह अभी भी अन्यायपूर्ण हो सकता है, भले ही वह आपकी नस्ल के प्रति "अंधा" होने का दावा करे।

इसके अलावा, अधिकांश निष्पक्षता उपकरण यह मान लेते हैं कि दुनिया के नियम सभी के लिए एक समान हैं। वे मानते हैं कि "ऋण न चुका पाने वाले उधारकर्ता का मित्र होना" हर किसी को बिल्कुल एक ही तरह से प्रभावित करता है। लेकिन वास्तव में, नियम आपके दोस्तों के विशिष्ट समूह के आधार पर बदल जाते हैं। 50 दोस्तों वाले व्यक्ति का "कारण तंत्र" (causal mechanism) उस व्यक्ति से अलग होता है जिसके केवल 2 दोस्त हैं।

समाधान: संबंधों को देखने का एक नया तरीका

लेखक, यूकोंग दाई (Yucong Dai) और उनकी टीम, MPVA (Message Passing Variational Autoencoder) नामक एक नई विधि प्रस्तावित करते हैं। वे इस समस्या को एक जासूस की तरह देखते हुए हल करते है जो यह पता लगाने की कोशिश कर रहा है कि क्या होगा यदि हम जादू से दुनिया को बदल सकें, बजाय इसके कि केवल यह देखें कि क्या हुआ था।

यहाँ वे इसे विस्तार से समझाते हैं:

1. "कलर-कोड" सिस्टम (WL ग्राफ आइसोमोर्फिज्म)

कल्पना कीजिए कि एक विशाल पार्टी चल रही है जहाँ हर कोई एक शर्ट पहने हुए है। यह समझने के लिए कि लोग एक-दूसरे को कैसे प्रभावित करते हैं, शोधकर्ता वेइसफ़िलर-लेमन (WL) टेस्ट नामक एक चतुर ट्रिक का उपयोग करते हैं।

इसे "टेलीफोन" के खेल के रूप में सोचें जहाँ हर कोई अपने पड़ोसियों को एक संदेश भेजता है।

राउंड 1: हर कोई अपनी शर्ट और अपने आस-पास के पड़ोसियों की शर्ट देखता है। वे इन रंगों को आपस में मिलाकर अपने लिए एक नया, अनूठा "सुपर-कलर" बनाते हैं।
राउंड 2: वे अपने नए सुपर-कलर और अपने पड़ोसियों के नए सुपर-कलर्स को देखते हैं, और उन्हें फिर से मिलाते हैं।

कुछ राउंड के बाद, दो लोग तभी एक ही "सुपर-कलर" के मालिक होंगे यदि उनके स्थानीय सामाजिक दायरे (संरचनात्मक रूप से) बिल्कुल एक जैसे हों। यह AI को न केवल इस आधार पर नहीं, बल्कि इस आधार पर भी लोगों को समूह में बाँटने की अनुमति देता है कि उनका सामाजिक नेटवर्क कैसे बना है।

2. दो स्वर्णिम नियम

शोध पत्र का दावा है कि उनका तरीका काम करता है यदि दो शर्तें पूरी होती हैं। इन्हें खेल के नियमों के रूप में समझें:

नियम 1: डिकम्पोजेबिलिटी (एक असेंबली लाइन): किसी व्यक्ति का परिणाम कैसे तय किया जाता है, इसकी प्रक्रिया को दो चरणों में विभाजित किया जा सकता है।
1. पड़ोस मिक्सर (The Neighborhood Mixer): एक मशीन जो आपके दोस्तों से सारी जानकारी लेती है और उसे एक एकल सारांश संख्या में मिला देती है (आइए इसे "सामाजिक दबाव" कहें)।
2. आंतरिक इंजन (The Internal Engine): एक अलग मशीन जो "सामाजिक दबाव" और आपके व्यक्तिगत गुणों को लेती है और आपके परिणाम का निर्णय करती है।
- यह क्यों मायने रखता है: भले ही आपके दोस्त मेरे जैसे न हों, यदि हमारा "सामाजिक दबाव" स्कोर एक ही है, तो आंतरिक इंजन हम दोनों के लिए एक ही तरह से काम करेगा। यह उस "अपरिवर्तनीयता" (invariance) को बहाल करता है जिसकी पारंपरिक गणित को आवश्यकता होती है।
नियम 2: ग्राफ स्वतंत्रता (यादृच्छिक शोर/Random Noise): किसी व्यक्ति को प्रभावित करने वाले "रैंडम लक" या छिपे हुए कारक (जैसे अचानक नौकरी छूटना) उनके सामाजिक नेटवर्क के आकार से बंधे नहीं होने चाहिए।
- यह क्यों मायने रखता है: यदि आपके नेटवर्क का आकार गुप्त रूप से आपकी बुरी किस्मत को निर्धारित करता है, तो गणित विफल हो जाएगा। लेकिन यदि आपके नेटवर्क का आकार और आपकी बुरी किस्मत एक-दूसरे से स्वतंत्र हैं, तो गणित सही रहता है।

3. "टाइम-ट्रैवल" मशीन (MPVA)

एक बार जब उनके पास ये नियम होते हैं, तो वे MPVA नामक एक डीप लर्निंग मॉडल बनाते हैं। आप इस मॉडल को एक टाइम-ट्रैवल सिम्युलेटर के रूप में देख सकते हैं।

चरण A (एब्डक्शन - Abduction): मॉडल एक वास्तविक व्यक्ति और उसके वास्तविक दोस्तों को देखता है। यह उस "सामाजिक दबाव" स्कोर का पता लगाता है जो अभी मौजूद है।
चरण B (एक्शन - Action): मॉडल एक "जादुई हस्तक्षेप" करता है। यह कहता है, "ठीक है, मान लीजिए कि दुनिया में हर कोई एक अलग जनसांख्यिकीय समूह (जैसे, मान लीजिए कि हर कोई समूह A से है) से है।" यह इस नए, काल्पनिक संसार के आधार पर "सामाजिक दबाव" स्कोर की पुनर्गणना करता है।
चरण C (प्रेडिक्शन - Prediction): यह इन नए स्कोर का उपयोग करके "आंतरिक इंजन" को फिर से चलाता है ताकि यह देखा जा सके कि परिणाम क्या होता।

"वास्तविक दुनिया" के सिमुलेशन और "काल्पनिक दुनिया" के सिमुलेशन के परिणामों की तुलना करके, मॉडल सटीक रूप से माप सकता है कि संवेदनशील गुण (जैसे नस्ल) कितनी नाइंसाफी से परिणाम को प्रभावित कर रहा है, भले ही इसमें दोस्त शामिल हों।

परिणाम: एक निष्पक्ष न्यायाधीश

लेखकों ने इसे कृत्रिम डेटा (जहाँ वे वास्तविक स्थिति जानते थे) और वास्तविक दुनिया के डेटा (जैसे क्रेडिट कार्ड डिफॉल्ट) दोनों पर परखा।

उन्होंने पाया कि उनका "टाइम-ट्रैवल सिम्युलेटर" (MPVA) पुराने तरीकों की तुलना में पूर्वाग्रह को पहचानने और हटाने में बहुत बेहतर था। पुराने तरीके दोस्तों को अनदेखा करने की कोशिश करते थे, जो काम नहीं आया। MPVA ने दोस्तों को स्वीकार किया, उनके द्वारा पैदा किए गए विशिष्ट "सामाजिक दबाव" को समझा, और फिर एक ऐसी दुनिया का अनुकरण किया जहाँ यह दबाव सभी पर समान रूप से लागू किया गया था, चाहे उनकी पृष्ठभूमि कुछ भी हो।

संक्षेप में: यह शोध पत्र तर्क देता है कि जुड़ी हुई दुनिया में वास्तव में निष्पक्ष होने के लिए, आप कनेक्शनों को अनदेखा नहीं कर सकते। आपको उन कनेक्शनों की संरचना को समझना होगा, यह सिमुलेट करना होगा कि क्या होगा यदि आप नियमों को सभी के लिए समान रूप से बदल दें, और उस सिमुलेशन का उपयोग एक निष्पक्ष AI को प्रशिक्षित करने के लिए करना होगा।

तकनीकी सारांश: गैर-IID ग्राफ डेटा पर कारण-आधारित निष्पक्ष नोड वर्गीकरण (Causally Fair Node Classification on Non-IID Graph Data)

समस्या विवरण (Problem Statement)

मौजूदा निष्पक्ष मशीन लर्निंग अनुसंधान मुख्य रूप से यह मानकर चलता है कि डेटा के उदाहरण स्वतंत्र और समान रूप से वितरित (IID) हैं। हालांकि, वास्तविक दुनिया का ग्राफ डेटा (जैसे, सामाजिक नेटवर्क, क्रेडिट सिस्टम) स्वाभाविक रूप से इस धारणा का उल्लंघन करता है, क्योंकि नोड के परिणाम पड़ोसी नोड्स के गुणों और व्यवहारों से प्रभावित होते हैं (गैर-IID सेटिंग्स)। जबकि निष्पक्षता की अवधारणाओं को ग्राफ सेटिंग्स में विस्तारित किया गया है, कारण-आधारित निष्पक्षता (causality-based fairness) को इन वातावरणों में लागू करने में एक महत्वपूर्ण अंतर बना हुआ है।

यह कार्य जिस मुख्य चुनौती को संबोधित करता है, वह है ग्राफ में नोड्स के बीच कारण तंत्र की विषमता (heterogeneity of causal mechanisms)। नेटवर्क वाले डेटा में, एक नोड का परिणाम उसके अपने गुणों और उसके पड़ोसियों के एकत्रित गुणों पर निर्भर करता है। फलस्वरूप, भिन्न नेटवर्क संरचना वाले नोड्स अलग-अलग प्रभावी कारण तंत्रों का पालन करते हैं। यह परिवर्तनशीलता शास्त्रीय स्ट्रक्चरल कॉज़ल मॉडल्स (SCMs) के लिए आवश्यक अपरिवर्तनीयता (invariance) की धारणाओं का उल्लंघन करती है और do-calculus के अनुप्रयोग को भी बाधित करती है, जिससे मानक कारण अनुमान तकनीकें (जैसे कि interventional distributions $P(x|do(s))$ की गणना करना) गैर-IID सेटिंग्स में अप्रभावी या पक्षपाती हो जाती हैं।

कार्यप्रणाली (Methodology)

लेखक ग्राफ डेटा में कारण अनुमान और निष्पक्षता को संबोधित करने के लिए नेटवर्क स्ट्रक्चरल कॉज़ल मॉडल (NSCM) पर आधारित एक ढांचा प्रस्तावित करते हैं। कार्यप्रणाली तीन मुख्य चरणों में आगे बढ़ती है:

1. सैद्धांतिक आधार: अपरिवर्तनीयता की बहाली (Restoring Invariance)
पेपर यह स्थापित करता है कि स्थानीय संरचनात्मक जानकारी को एनकोड करके कारण तंत्रों को नोड्स के बीच अपरिवर्तनीय बनाया जा सकता है।

नेटवर्क स्ट्रक्चरल कॉज़ल मॉडल (NSCM): लेखक एक NSCM को $\langle G, U, V, F \rangle$ टुपल के रूप में परिभाषित करते हैं, जो एक नेटवर्क $G$ (व्यक्तियों के बीच हस्तक्षेप का प्रतिनिधित्व करता है) और एक कॉज़ल डायग्राम $C$ (विशेषताओं के संबंधों का प्रतिनिधित्व करता है) को जोड़ता है।
वेइसफेलर-लेमन (WL) एनकोडिंग: संरचनात्मक विषमता को संभालने के लिए, लेखक WL ग्राफ आइसोमोर्फिज्म टेस्ट से प्राप्त 'नोड कलर्स' का उपयोग करते हैं। समान कंप्यूटेशन ट्री वाले नोड्स एक ही रंग $c(i)$ प्राप्त करते हैं, जो एक संरचनात्मक प्रतिनिधित्व के रूप में कार्य करता है।
मुख्य शर्तें: लेखक दो शर्तों को पेश करते हैं जिनके तहत विषम नेटवर्क प्रक्रिया को एक साझा कॉज़ल मॉडल में बदला जा सकता है:
- विघटन क्षमता (Decomposability): स्ट्रक्चरल समीकरण को एक मैसेज-पासिंग तंत्र $f^{MP}$ (पड़ोस की जानकारी को एकत्रित करना) और एक आंतरिक तंत्र $f^{INT}$ (नोड-स्तरीय प्रभावों को नियंत्रित करना) में विभाजित किया जा सकता है। यह एक मध्यवर्ती चर $A = g(S, C)$ के माध्यम से पड़ोस के प्रभावों के एकत्रीकरण की अनुमति देता है।
- ग्राफ स्वतंत्रता (Graph Independence): एक नोड को प्रभावित करने वाले बाह्य चर (exogenous variables), नोड के रंग (संरचनात्मक संदर्भ) से स्वतंत्र होते हैं।
पहचान क्षमता (Identifiability): इन शर्तों के तहत, लेखक सिद्ध करते हैं कि interventional distribution $P(x|do(s)=s) $को संरचनात्मक चर$ C$ पर समायोजन (adjustment) के माध्यम से पहचाना जा सकता है। वे एक प्रतिनिधित्व (Theorem 4) प्राप्त करते हैं जो दर्शाता है कि observational और interventional वितरण एक सामान्य लेटेंट फंक्शनल घटक साझा करते हैं, जो केवल संरचनात्मक चर $C$ पर औसत निकालने के तरीके में भिन्न होता है।

2. अनुमान ढांचा: मैसेज पासिंग वेरिएशनल ऑटोएन्कोडर (MPVA)
लेटेंट वेरिएबल्स को स्पष्ट रूप से रिकवर किए बिना interventional distributions का अनुमान लगाने के लिए, लेखक MPVA प्रस्तावित करते हैं, जो एक डीप लर्निंग फ्रेमवर्क है और निम्नलिखित को जोड़ता है:

मैसेज पासिंग न्यूरल नेटवर्क्स (MPNN): मध्यवर्ती प्रतिनिधित्व $\hat{A}$ को सीखने के लिए, जो पड़ोसियों से कॉज़ल प्रभावों को एकत्रित करके संदेश-पासिंग तंत्र $g(S, C)$ का अनुमान लगाता है।
कंडीशनल वेरिएशनल ऑटोएन्कोडर (cVAE): मध्यवर्ती प्रतिनिधित्व और परिणाम के बीच साझा फंक्शनल घटक को पकड़ने के लिए $P(X|\hat{A}, Z)$ के कंडीशनल डिस्ट्रीब्यूशन को मॉडल करने के लिए।
अनुमान प्रक्रिया (Inference Process): फ्रेमवर्क एक Abduction-Action-Prediction संरचना का पालन करता है:
1. Abduction: लेटेंट वेरिएबल्स का अनुमान लगाने के लिए देखे गए परिणामों को एनकोड करना।
2. Action: MPNN के माध्यम से मध्यवर्ती प्रतिनिधित्व $\hat{A}$ पर हस्तक्षेप $do(s)$ लागू करना।
3. Prediction: Interventional परिणाम का अनुमान लगाने के लिए हस्तक्षेप किए गए प्रतिनिधित्व को डिकोड करना।

3. निष्पक्ष नोड वर्गीकरण (Fair Node Classification)
अनुमानित interventional distributions को एक कॉज़ल फेयरनेस रेगुलराइजेशन टर्म के माध्यम से नोड वर्गीकरण कार्य में एकीकृत किया जाता है। उद्देश्य हस्तक्षेप के तहत अनुकूल ( $s^+$ ) और प्रतिकूल ( $s^-$ ) जनसांख्यिकीय समूहों के बीच भविष्यवाणियों में विसंगति को कम करना है:
$\ell_f = E[h(\tilde{x})|do(s^+)] - E[h(\tilde{x})|do(s^-)]$
इस टर्म को मानक वर्गीकरण लॉस (classification loss) में जोड़ा जाता है, जिससे मॉडल को ऐसे प्रतिनिधित्व सीखने में मदद मिलती है जो भविष्य कहनेवाला सटीकता बनाए रखते हुए 'कॉज़ली फेयर' हों।

मुख्य योगदान (Key Contributions)

सैद्धांतिक विस्तार: पेपर NSCM को औपचारिक रूप देकर और अपरिवर्तनीयता बहाल करने वाली शर्तों (Decomposability और Graph Independence) की पहचान करके, गैर-IID ग्राफ डेटा के लिए कारण अनुमान (विशेष रूप से do-calculus) को विस्तारित करने के लिए एक कठोर सैद्धांतिक आधार प्रदान करता है।
नवीन फ्रेमवर्क: यह MPVA पेश करता है, जो एक नया आर्किटेक्चर है जो विषम नेटवर्क में interventional distributions का अनुमान लगाने के लिए MPNNs और cVAEs को जोड़ता है, जिससे प्रत्यक्ष do-calculus अनुप्रयोग की सीमाओं को दूर किया जा सकता है।
निष्पक्षता रेगुलराइजेशन: यह अनुमानित interventional distributions का लाभ उठाकर नोड क्लासिफायर्स के प्रशिक्षण में सीधे कॉज़ल फेयरनेस बाधाओं को शामिल करने की एक विधि प्रस्तावित करता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखक अर्ध-सिंथेटिक डेटासेट्स (नियंत्रित कॉज़ल मैकेनिज्म के साथ Credit Dataset से प्राप्त) और वास्तविक दुनिया के डेटासेट्स (Credit Defaulter और German Credit) दोनों पर MPVA का मूल्यांकन करते हैं।

प्रदर्शन: प्रयोगात्मक परिणाम दर्शाते हैं कि MPVA interventional distributions का अनुमान लगाने में पारंपरिक तरीकों (जिनमें IID मान लिया गया है और मौजूदा ग्राफ फेयरनेस बेसलाइन्स शामिल हैं) से बेहतर प्रदर्शन करता है।
निष्पक्षता: विधि प्रतिस्पर्धी भविष्यवाणी सटीकता बनाए रखते हुए बेहतर निष्पक्षता मेट्रिक्स (विशेष रूप से रिस्क डिफरेंस और कॉज़ल विसंगतियों को कम करना) प्राप्त करती है।
सामान्यीकरण (Generalizability): यह फ्रेमवर्क उन परिदृश्यों में प्रभावी है जहाँ कॉज़ल मैकेनिज्म स्थानीय नेटवर्क संरचनाओं के साथ बदलते हैं, एक ऐसा परिवेश जहाँ मानक तरीके विफल हो जाते हैं।

महत्व और दावे (Significance and Claims)

यह पेपर मशीन लर्निंग में एक मौलिक चुनौती को संबोधित करने का दावा करता है: परस्पर जुड़े, गैर-IID डेटा पर कॉज़ल फेयरनेस का अनुप्रयोग। यह प्रदर्शित करके कि संरचनात्मक प्रतिनिधित्व (WL रंगों के माध्यम से) कॉज़ल इंफरेंस के लिए आवश्यक अपरिवर्तनीयता को बहाल कर सकते हैं, यह कार्य शुद्ध सांख्यिकीय निष्पक्षता से जटिल ML अनुप्रयोगों में कारण-आधारित निष्पक्षता की ओर बढ़ने के लिए प्रेरित करता है। लेखक अपने निष्कर्षों को एल्गोरिथमिक फेयरनेस में क्लासिक IID धारणाओं को शिथिल करने की दिशा में एक कदम के रूप में प्रस्तुत करते हैं, जो नेटवर्क संरचनाओं और हस्तक्षेप से उत्पन्न होने वाले पूर्वाग्रह को कम करने के लिए एक सिद्धांत आधारित दृष्टिकोण प्रदान करता है। यह कार्य सभी ग्राफ फेयरनेस समस्याओं को हल करने का दावा नहीं करता है, बल्कि विशेष रूप से गैर-IID सेटिंग्स के लिए सिद्धांत-आधारित कॉज़ल अन्वेषण के अंतराल को लक्षित करता है।