💻 computer science

Identifying Structural Biases from Causal Mechanism Shifts

यह शोध पत्र स्ट्रुबी (StruBI) एल्गोरिदम प्रस्तुत करता है, जो छिपे हुए कन्फाउंडिंग (confounding) और चयन पूर्वाग्रहों (selection biases) की पहचान करने और उनके बीच अंतर करने के लिए विभिन्न वातावरणों में कारण तंत्र के बदलावों (causal mechanism shifts) की निर्भरता का लाभ उठाता है, जिससे सख्त i.i.d. और बिना-अनियंत्रित-चर (no-unmeasured-variable) मान्यताओं पर निर्भर पारंपरिक कारण खोज (causal discovery) विधियों की सीमाओं को दूर किया जा सके।

मूल लेखक: Praharsh Nanavati, Jilles Vreeken, David Kaltenpoth

प्रकाशित 2026-06-19

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Praharsh Nanavati, Jilles Vreeken, David Kaltenpoth

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो यह पता लगाने की कोशिश कर रहे हैं कि एक जटिल मशीन कैसे काम करती है। आपके पास एक मैनुअल (डेटा) है और आप जानना चाहते हैं कि कौन से हिस्से किस दूसरे हिस्से को चलाने का कारण बनते हैं। आमतौर पर, जासूस दो चीजें मान लेते हैं:

सब कुछ मापा गया है: आप मशीन के हर गियर और स्प्रिंग को देख सकते हैं।
मशीन स्थिर है: जब भी आप इसे देखते हैं, यह बिल्कुल समान परिस्थितियों में चल रही होती है।

लेकिन वास्तविक दुनिया में, ये धारणाएं अक्सर गलत होती हैं। कभी-कभी, छिपे हुए गियर होते हैं जिन्हें आप देख नहीं सकते (छिपे हुए कन्फाउंडर्स/hidden confounders), या कभी-कभी, मशीन केवल तभी चलती है जब आप उसे देखने का निर्णय लेते हैं (सिलेक्शन बायस/selection bias)। यदि आप इनका हिसाब नहीं रखते हैं, तो आप यह सोच सकते हैं कि दो गियर आपस में जुड़े हुए हैं जबकि वे नहीं हैं, या आप किसी टूटे हुए हिस्से को पूरी तरह से मिस कर सकते हैं।

यह पेपर एक नया जासूसी टूल पेश करता है जिसे STRUBI (स्ट्रक्चरल बायस आइडेंटिफिकेशन) कहा जाता है, जो आपको यह पहचानने में मदद करता है कि इन छिपी हुई समस्याओं को कैसे पहचाना जाए, यह देखते हुए कि मशीन अलग-अलग वातावरणों (जैसे अलग-अलग दिन, अलग-अलग सेटिंग्स, या अलग-अलग प्रयोगों) में कैसे व्यवहार करती है।

यह कैसे काम करता है, इसके लिए सरल उपमाओं (analogies) का उपयोग किया गया है:

मुख्य विचार: "रिपल इफेक्ट" (लहर का प्रभाव)

कल्पना कीजिए कि आपके पास डोमिनोज़ की एक पंक्ति है।

सामान्य मामला (Unbiased): यदि आप एक डोमिनो को धक्का देते हैं, तो केवल वही डोमिनोज़ गिरते हैं जो सीधे उससे जुड़े होते हैं। यदि आप किसी दूसरे कमरे में एक विशिष्ट डोमिनो के लिए नियम बदलते हैं, तो केवल उस डोमिनो का व्यवहार बदलता है। अन्य अपरिवर्तित रहते हैं।
छिपा हुआ कन्फाउंडर (The "Ghost Hand" - अदृश्य हाथ): कल्पना कीजिए कि एक अदृश्य हाथ (एक छिपा हुआ चर/variable) एक साथ दो डोमिनोज़ को धक्का दे रहा है। यदि आप उस अदृश्य हाथ के काम करने के तरीके को बदलते हैं, तो दोनों डोमिनोज़ का व्यवहार एक ही समय में बदल जाता है, भले ही वे एक-दूसरे को छू नहीं रहे हों। वे उस "भूतिया हाथ" के कारण एक साथ चलते हैं।
सिलेक्शन बायस (The "Bouncer" - बाउंसर): कल्पना कीजिए कि एक क्लब में एक बाउंसर है जो केवल उन्हीं लोगों को अंदर आने देता है जो लंबे हैं। यदि बाउंसर ऊंचाई की आवश्यकता को बदलता है, तो यह न केवल यह बदलता है कि कौन अंदर आता है, बल्कि यह पहले से अंदर मौजूद लोगों की औसत ऊंचाई को भी बदल देता है, और यहाँ तक कि लाइन में खड़े उन लोगों के व्यवहार को भी बदल देता है जो अंदर आने का इंतजार कर रहे हैं। "बाउंसर" में आया बदलाव लाइन में जुड़े सभी लोगों तक ऊपर की ओर (upstream) लहर की तरह फैलता है।

STRUBI रणनीति

लेखकों ने महसूस किया कि ये दो समस्याएं (भूतिया हाथ बनाम बाउंसर) अलग-अलग संदर्भों में डेटा पर अलग-अलग "फिंगरप्रिंट" छोड़ती हैं।

चरण 1: बदलावों पर नज़र रखें। वे देखते हैं कि वातावरण बदलने पर प्रत्येक चर (variable) के "नियम" कैसे बदलते हैं। क्या वे अकेले बदलते हैं, या वे एक साथ बदलते हैं?
चरण 2: कनेक्शन की जाँच करें। वे यह देखने के लिए एक गणितीय ट्रिक (म्युचुअल इंफॉर्मेशन) का उपयोग करते हैं कि क्या चर एक साथ "नाच" रहे हैं। यदि विभिन्न संदर्भों में दो चर बिल्कुल एक ही समय में अपना व्यवहार बदलते हैं, तो वे संभवतः एक छिपे हुए कारण से जुड़े होते हैं।
चरण 3: "अपस्ट्रीम" टेस्ट। यह जादुई चरण है।
- यदि बदलने वाले चर केवल एक रैंडम समूह हैं, तो यह एक छिपा हुआ कन्फाउंडर (Ghost Hand) होने की संभावना है।
- यदि बदलने वाले चरों में सभी पूर्वज (ancestors) शामिल हैं (चेन में माता-पिता, दादा-दादी और परदादा-परदादी), तो यह सिलेक्शन बायस (The Bouncer) होने की संभावना है। सिलेक्शन बायस विशेष है क्योंकि यह पूरे वंश वृक्ष (family tree) को विरूपण (distortion) में खींच लेता है।

एल्गोरिदम: STRUBI

पेपर एक एल्गोरिदम प्रस्तावित करता है जिसका नाम STRUBI है ताकि इस जासूसी कार्य को स्वचालित किया जा सके।

यह कई अलग-अलग संदर्भों से डेटा लेता है।
यह जाँचता है कि कौन से चर अपना व्यवहार एक साथ बदलते हैं।
यह उन चरों के "फैमिली ट्री" (कारण ग्राफ/causal graph) को देखता है।
यदि बदलने वाले चरों का समूह "एन्सेस्ट्रली क्लोज्ड" (ancestrally closed) है (यानी इसमें उनके ऊपर की चेन में मौजूद सभी लोग शामिल हैं), तो यह इसे सिलेक्शन बायस के रूप में चिह्नित करता है।
यदि बदलने वाला समूह केवल एक रैंडम क्लस्टर है, तो यह इसे हिडन कन्फाउंडिंग के रूप में चिह्नित करता है।

क्या यह काम करता है?

लेखकों ने STRUBI का परीक्षण किया:

नकली डेटा (Fake Data): उन्होंने कंप्यूटर सिमुलेशन बनाए जहाँ उन्हें ठीक-ठाक पता था कि क्या टूटा हुआ है। STRUBI अन्य मौजूदा तरीकों की तुलना में टूटे हुए हिस्सों को खोजने और त्रुटि के प्रकार को पहचानने में बहुत बेहतर था।
वास्तविक डेटा (Real Data): उन्होंने मानव प्रतिरक्षा कोशिकाओं में प्रोटीन एक-दूसरे को कैसे संकेत देते हैं, इस बारे में एक प्रसिद्ध डेटासेट का उपयोग किया। इस वास्तविक दुनिया के परिदृश्य में, STRUBI ने सही ढंग से पहचाना कि कौन से प्रोटीन छिपे हुए कारकों से प्रभावित हो रहे थे और कौन से डेटा एकत्र करने के तरीके से प्रभावित (skewed) हो रहे थे।

निचोड़ (The Bottom Line)

पेपर का दावा है कि यह देखकर कि वातावरण बदलने पर सिस्टम के विभिन्न हिस्से कैसे बदलते हैं, हम गणितीय रूप से सिद्ध कर सकते हैं कि डेटा छिपे हुए कारणों द्वारा खराब किया जा रहा है या हमारे डेटा देखने के तरीके द्वारा। STRUBI टूल हमारे कॉज़ल मॉडल (causal models) को साफ करने का एक नया, अधिक सटीक तरीका है ताकि हम दुनिया कैसे काम करती है, इसके बारे में गलत निष्कर्ष न निकालें।

समस्या विवरण
कारण खोज (Causal discovery) विधियाँ पारंपरिक रूप से दो मजबूत धारणाओं पर निर्भर करती हैं: कारण पर्याप्तता (causal sufficiency - सभी प्रासंगिक चर मापे गए हैं) और स्वतंत्र और समान रूप से वितरित (i.i.d.) डेटा। व्यवहार में, ये धारणाएँ अक्सर अनमापे गए कन्फाउंडर्स (unmeasured confounders) और चयन पूर्वाग्रह (selection bias) के कारण खंडित हो जाती हैं, जिससे भ्रामक निर्भरता और गलत कारण अनुमान उत्पन्न होते हैं। जबकि मौजूदा विधियाँ विशिष्ट स्थितियों में गुप्त कन्फाउंडिंग (latent confounding) या चयन को पहचान सकती हैं, उनके बीच अंतर करना—विशेष रूप से तब जब डेटा गैर-i.i.d. हो और कई परिवेशों (environments) से एकत्र किया गया हो—एक महत्वपूर्ण चुनौती बनी हुई है। यह शोध पत्र विभिन्न संदर्भों में देखे गए कारण तंत्र परिवर्तनों (causal mechanism shifts) से संरचनात्मक पूर्वाग्रहों (संरचनात्मक विषमताओं: छिपी हुई कन्फाउंडिंग और चयन पूर्वाग्रह) की पहचान करने की समस्या का समाधान करता है।

कार्यप्रणाली
लेखक एक सैद्धांतिक ढांचा और एक व्यावहारिक एल्गोरिदम, STRUBI (स्ट्रक्चरल बायस आइडेंटिफिकेशन), प्रस्तावित करते हैं, जो परिवेशों के माध्यम से बदलते कारण तंत्रों का विश्लेषण करके संरचनात्मक पूर्वाग्रहों का पता लगाने और वर्गीकरण करने के लिए है।

सैद्धांतिक आधार:
- शोध पत्र आंतरिक तंत्र परिवर्तन (intrinsic mechanism shifts - एक चर की वास्तविक डेटा-जनरेटिंग प्रक्रिया में परिवर्तन) और अवलोकित तंत्र परिवर्तन (observed mechanism shifts - अवलोकित चरों के सशर्त वितरण में परिवर्तन) के बीच अंतर करता है।
- मुख्य अंतर्दृष्टि: संरचनात्मक पूर्वाग्रह निर्भर (dependent) तंत्र परिवर्तन उत्पन्न करते हैं, जबकि निष्पक्ष प्रणालियाँ स्वतंत्र परिवर्तन प्रदर्शित करती हैं।
  - छिपी हुई कन्फाउंडिंग (Hidden Confounding): एक गुप्त कन्फाउंडर $Z$ में आंतरिक परिवर्तन उसके बच्चों ( $X, Y$ ) में अवलोकित परिवर्तन लाता है, लेकिन उनके पूर्वजों (ancestors) या अन्य असंबंधित चरों को प्रभावित नहीं करता है।
  - चयन पूर्वाग्रह (Selection Bias): एक गुप्त चयन चर (कोलाइडर) $S$ में आंतरिक परिवर्तन उसके सभी पूर्वजों ( $X, Y, W$ ) में अवलोकित परिवर्तन लाता है।
- पूर्वज कवरेज (Ancestral Coverage): लेखक "पूर्वज कवरेज" ($cov(A) $) को चरों के एक सेट$ A$ और उसके पूर्वजों के सेट के अनुपात के रूप में परिभाषित करते हैं। वे सिद्ध करते हैं कि विरल (sparse) तंत्र परिवर्तनों के तहत, चयन पूर्वाग्रह से प्रभावित चरों के सेट का कवरेज 1 होगा (पूर्वजों द्वारा बंद/ancestrally closed), जबकि कन्फाउंडिंग से प्रभावित चरों के सेट का कवरेज आमतौर पर 1 से काफी कम होगा।
STRUBI एल्गोरिदम:
- इनपुट: विभिन्न संदर्भों में अवलोकित डेटा, एक अवलोकित कारण ग्राफ $G$ , और थ्रेशोल्ड (thresholds)।
- चरण 1 (परिवर्तन का पता लगाना): प्रत्येक अवलोकित चर के लिए, एल्गोरिदम संदर्भों के बीच सशर्त स्वतंत्रता परीक्षण (KCI टेस्ट का उपयोग करके) करता है ताकि यह पता लगाया जा सके कि क्या स्थानीय तंत्र $P(X_i | pa(X_i))$ में परिवर्तन हुआ है। यह संदर्भों को तंत्र अपरिवर्तनीयता (mechanism invariance) के ब्लॉक्स में विभाजित करता है।
- चरण 2 (निर्भरता की पहचान): एल्गोरिदम विभिन्न चरों के विभाजन पैटर्न के बीच एडजस्टेड म्यूचुअल इंफॉर्मेशन (AMI) की गणना करता है। उच्च AMI वाले चरों को जुड़े हुए घटकों (connected components) में समूहित किया जाता है, जो यह दर्शाता है कि वे एक साझा गुप्त कारण (या तो कन्फाउंडर या चयन चर) साझा करते हैं।
- चरण 3 (वर्गीकरण): प्रत्येक पहचाने गए उपसमूह के लिए, एल्गोरिदम दिए गए कारण ग्राफ पर पूर्वज कवरेज की गणना करता है।
  - यदि कवरेज $\ge$ थ्रेशोल्ड $\tau_2$ है, तो उपसमूह को चयन पूर्वाग्रह (Selection Bias) के अधीन वर्गीकृत किया जाता है।
  - यदि कवरेज $<$ थ्रेशोल्ड $\tau_2$ है, तो उपसमूह को छिपी हुई कन्फाउंडिंग (Hidden Confounding) के अधीन वर्गीकृत किया जाता है।
  - कम AMI वाले उपसमूहों को निष्पक्ष (Unbiased) के रूप में वर्गीकृत किया जाता है।

प्रमुख योगदान

संरचनात्मक पूर्वाग्रहों की पहचान: यह शोध पत्र एक औपचारिक प्रमाण प्रदान करता है कि निर्भर तंत्र परिवर्तनों को देखकर, विशेष रूप से कन्फाउंडिंग (बच्चों को प्रभावित करना) और चयन (पूर्वजों को प्रभावित करना) के बीच टोपोलॉजिकल अंतर का लाभ उठाकर, गैर-i.i.d. डेटा से संरचनात्मक पूर्वाग्रहों की पहचान की जा सकती है।
गैर-पैरामीट्रिक दृष्टिकोण: पूर्ववर्ती कार्य, जिन्हें अक्सर पैरामीट्रिक धारणाओं (जैसे लीनियर गौसियन मॉडल) या विशिष्ट डेटा संरचनाओं (जैसे अनुक्रमिक डेटा) की आवश्यकता होती है, के विपरीत, STRUBI गैर-पैरामीट्रिक है और सामान्य कारण तंत्रों पर लागू होता है।
STRUBI एल्गोरिदम: एक व्यावहारिक, अनुभवजन्य रूप से परीक्षण योग्य विधि जो तंत्र परिवर्तन का पता लगाने, म्यूचुअल इंफॉर्मेशन विश्लेषण और ग्राफ टोपोलॉजी को एकीकृत करती है ताकि पूर्वाग्रहों को वर्गीकृत किया जा सके और प्रभावित चरों के सेट को पुनः प्राप्त किया जा सके।
ग्राफ त्रुटि के प्रति मजबूती: विधि यह प्रदर्शित करती है कि जब इनपुट कारण ग्राफ ज्ञात होने के बजाय अनुमानित (inferred) हो, तब भी यह मजबूत रहती है और ग्राउंड ट्रुथ ग्राफ का उपयोग करने के समान प्रदर्शन करती है।

प्रायोगिक परिणाम
लेखक सिंथेटिक और वास्तविक दुनिया के डेटासेट पर STRUBI का मूल्यांकन करते हैं:

सिंथेटिक डेटा: विभिन्न आकारों के अर्दोस-एर्नी (Erdős-Rényi) ग्राफों पर प्रयोगों से पता चलता है कि STRUBI तीन कार्यों में अत्याधुनिक बेसलाइन्स (FCI वेरिएंट, CoCo, और Latent-Selection विधियों सहित) से काफी बेहतर प्रदर्शन करता है: गुप्त चरों की उपस्थिति का पता लगाना, प्रभावित चरों के सेट को पुनः प्राप्त करना, और पूर्वाग्रह के प्रकार (कन्फाउंडिंग बनाम चयन) को वर्गीकृत करना। STRUBI उच्च F1 स्कोर प्राप्त करता है, भले ही कारण ग्राफ ग्राउंड ट्रुथ के बजाय सीखा गया (TOPIC का उपयोग करके) हो।
वास्तविक दुनिया का डेटा (सेल सिग्नलिंग): सैक्स एट अल (Sachs et al.) के फ्लो साइटोमेट्री डेटासेट पर एक केस स्टडी यह दर्शाता है कि जटिल जैविक प्रणालियों के लिए STRUBI की प्रयोज्यता क्या है। जब कन्फाउंडिंग या चयन पूर्वाग्रह का अनुकरण करने के लिए PKC को रोक दिया गया था, तो STRUBI ने सही ढंग से पूर्वाग्रह के प्रकार की पहचान की और प्रभावित नोड्स के बहुमत को पुनः प्राप्त किया (चयन के मामले में पूर्वज, कन्फाउंडिंग के मामले में बच्चे), और CoCo एवं JCI-FCI जैसे प्रतिस्पर्धियों से बेहतर प्रदर्शन किया, जो चयन पूर्वाग्रह परिदृश्य में प्रभावित उपसमूहों को सटीक रूप से पुनः प्राप्त करने में विफल रहे।

महत्व और दावे
शोध पत्र का दावा है कि STRUBI सख्त i.i.d. और कारण पर्याप्तता की धारणाओं को शिथिल करके कारण खोज में एक महत्वपूर्ण प्रगति प्रदान करता है। निर्भर तंत्र परिवर्तनों के विशिष्ट टोपोलॉजिकल हस्ताक्षरों का लाभ उठाकर, यह विधि पैरामीट्रिक मॉडल की आवश्यकता के बिना छिपी हुई कन्फाउंडिंग और चयन पूर्वाग्रह के बीच अंतर कर सकती है। लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण व्यवहार में अच्छी तरह काम करता है, प्रभावित चरों के सेट और पूर्वाग्रह के प्रकार को सटीक रूप से पुनः प्राप्त करता है, और बड़े अंतर से मौजूदा विधियों से बेहतर प्रदर्शन करता है। वे सीमाओं को स्वीकार करते हुए कहते हैं कि विधि मार्कोव स्थिति (Markov condition) और फेथफुलनेस (faithfulness) की धारणा लेती है, और इसे परिवर्तनों को विश्वसनीय रूप से पता लगाने के लिए प्रति संदर्भ पर्याप्त नमूना आकार और पर्याप्त संदर्भों की आवश्यकता होती है। हालांकि, परिणाम बताते हैं कि STRUBI वास्तविक दुनिया के गैर-i.i.d. परिवेशों में संरचनात्मक पूर्वाग्रहों की पहचान करने के लिए एक मजबूत उपकरण है।

मुख्य विचार: "रिपल इफेक्ट" (लहर का प्रभाव)

STRUBI रणनीति

एल्गोरिदम: STRUBI

क्या यह काम करता है?

निचोड़ (The Bottom Line)

इसी तरह के और पेपर