तकनीकी सारांश: दुर्लभ घटनाओं के कारणत्मक पथों का औपचारिककरण और असत्यता सिद्ध करना

1. समस्या विवरण

यह शोध पत्र दुर्लभ घटनाओं (आउटलेयर्स), जैसे कि प्राकृतिक आपदाएं, बाजार की गिरावट, या सिस्टम की विफलता, के लिए कारणत्मक स्पष्टीकरण प्रदान करने की चुनौती को संबोधित करता है। जबकि मौजूदा रूट कॉज एनालिसिस (मूल कारण विश्लेषण) विधियाँ कारणों के एक छोटे सेट की पहचान करने में प्रभावी हैं, वे अक्सर उन विशिष्ट तंत्रों और उप-ग्राफों को पकड़ने में विफल रहती हैं जिनके माध्यम से ये कारण देखे गए परिणाम तक प्रसारित होते हैं। इसके अतिरिक्त, पूर्ण कारण मॉडल अक्सर अज्ञात होते हैं, और चरम-मूल्य सिद्धांत (extreme-value theory) या निरंतर चर धारणाओं पर निर्भर मानक दृष्टिकोण दुर्लभ लेकिन गैर-चरम घटनाओं या असतत डोमेन के लिए उपयुक्त नहीं हैं।

मुख्य समस्या एक "कारणत्मक पथ" (causal pathway) की औपचारिक, परीक्षण योग्य अवधारणा के अभाव की है जो सरल मौखिक स्पष्टीकरणों और विस्तृत कारण मॉडलिंग के बीच के अंतर को पाट सके। वर्तमान विधियाँ यह मापने में संघर्ष करती हैं कि क्या प्रस्तावित घटनाओं की एक श्रृंखला किसी विशिष्ट दुर्लभ अवलोकन के लिए एक वैध स्पष्टीकरण बनाती है, विशेष रूप से तब जब पूर्ण कारण ग्राफ उपलब्ध न हो या जब स्पष्टीकरण आंशिक मॉडल ज्ञान के तहत सुदृढ़ रहना आवश्यक हो।

2. कार्यप्रणाली

2.1 कारणत्मक पथों का औपचारिककरण और स्पष्टीकरण स्कोर

लेखक बाइनरी घटनाओं के लिए कारणत्मक पथों को औपचारिक रूप देने के लिए स्ट्रक्चरल इक्वेशन मॉडल्स (SEMs) और डायरेक्टेड एसाइक्लिक ग्राफ्स (DAGs) पर आधारित एक ढांचे का परिचय देते हैं।

• घटनाओं का क्लस्टर: एक बाइनरी चरों का सेट $B$ जो एक कारण DAG $C$ द्वारा जुड़ा हुआ है। एक उपसमुच्चय $R$ उन मूल कारणों (root causes) का प्रतिनिधित्व करता है जहाँ तंत्र "दूषित" या हस्तक्षेप (intervened upon) किए गए हैं।
• स्पष्टीकरण स्कोर (Explanation Score): ओस्टरले एट अल. (2025) पर आधारित, यह पेपर एक घटना $X=x$ द्वारा $Y=y$ को समझाने के लिए एक स्पष्टीकरण स्कोर $E(x \to y)$ को इस प्रकार परिभाषित करता है:
  $$E(x \to y) := 1 - \frac{\log P(Y=y | do(X=x))}{\log P(Y=y)}$$
  यह स्कोर मापता है कि हस्तक्षेप $do(X=x)$ इसकी पूर्व प्रायिकता (prior rarity) के सापेक्ष $Y=y$ की संभावना को कितना बढ़ाता है। 1 के करीब का स्कोर एक मजबूत स्पष्टीकरण का संकेत देता है।
• पाथवे स्पष्टीकरण स्कोर (Pathway Explanation Score): इस सीमा को संबोधित करने के लिए कि मूल कारण अकेले पूरे प्रसार (propagation) की व्याख्या नहीं करते हैं, लेखक एक पाथवे स्पष्टीकरण स्कोर $E^K_{R \to t}$ को परिभाषित करते हैं। यह स्कोर मूल्यांकन करता है कि क्या मूल कारणों $R$ को 1 पर सेट करने से लक्षित घटना (target event) की दुर्लभता के सापेक्ष घटनाओं का संपूर्ण क्लस्टर (मध्यस्थों सहित) संभावित हो जाता है।
  $$E^K_{R \to t} := 1 - \frac{\log P(B=1 | do(B_R=1))}{\log P(B_t=1)}$$
  यह मीट्रिक उन स्पष्टीकरणों को दंडित करता है जहाँ मध्यवर्ती घटनाएँ (intermediate events) हस्तक्षेप के बाद भी अनिश्चित बनी रहती हैं, जिससे यह सुनिश्चित होता है कि पथ सुसंगत है।

2.2 कारणत्मक अमूर्तीकरण और बाइनराइजेशन (Causal Abstraction and Binarization)

निरंतर या जटिल चरों को संभालने के लिए, पेपर पाथवे एब्स्ट्रैक्शन का प्रस्ताव करता है, जो विस्तृत कारण मॉडलों को सरल बाइनरी पथों में मैप करने की एक विधि है।

• विशेषता एकरूपता (Feature Monotonicity): चरों को फीचर फंक्शन $\tau$ (जैसे, $X \ge x$) का उपयोग करके बाइनरी घटनाओं में परिवर्तित किया जाता है। ढांचा यह आवश्यक करता है कि ये फीचर्स "फीचर मोनोटोनिसिटी" को संतुष्ट करें, यह सुनिश्चित करते हुए कि पैरेंट (parent) के फीचर मान में वृद्धि होने से चाइल्ड (child) के फीचर मान की संभावना बढ़ जाती है।
• प्राकृतिक सूक्ष्म-साक्षात्कार (Natural Micro-Realization): मोटे तौर पर परिभाषित (coarse-grained/binary) चरों पर हस्तक्षेप की समस्या को हल करने के लिए, लेखक एक "प्राकृतिक सूक्ष्म-साक्षात्कार" को परिभाषित करते हैं। इसमें बाइनरी बाधा के दिए गए सशर्त वितरण से अंतर्निहित निरंतर चरों को खींचना शामिल है, जो प्रभावी रूप से सूक्ष्म-स्तरीय मॉडल में हस्तक्षेप का अनुकरण करता है।
• सटीकता मीट्रिक (Accuracy Metric): एक अमूर्तीकरण की गुणवत्ता को एब्स्ट्रैक्ट मॉडल और वास्तविक प्रोजेक्टेड वितरण के बीच KL-डाइवर्जेंस द्वारा मापा जाता है, जिसे लक्षित घटना की दुर्लभता द्वारा सामान्यीकृत (normalize) किया जाता है।

2.3 निरंतरता जाँच (Consistency Checks) के माध्यम से मूल्यांकन

यह ढांचा निरंतरता जाँचों के माध्यम से कारणत्मक स्पष्टीकरणों की असत्यता (falsification) को सक्षम बनाता है:

• मात्रात्मक निरंतरता (Quantitative Consistency): यदि कोई पथ प्रस्तावित किया जाता है, तो नोड्स के बीच संक्रमण की संभावनाएँ (जैसे, $P(B_j=1 | B_i=1)$) स्पष्टीकरण स्कोर के साथ सुसंगत होनी चाहिए। यदि इन संभावनाओं का गुणनफल लक्ष्य की संभावना को पर्याप्त रूप से नहीं बढ़ाता है, तो स्पष्टीकरण को कमजोर माना जाता है।
• गुणात्मक निरंतरता (Qualitative Consistency): ढांचे का उपयोग प्रस्तावित पथ के उप-संरचनाओं के बारे में एजेंटों (जैसे, LLMs) से प्रश्न पूछने के लिए किया जा सकता है ताकि यह सत्यापित किया जा सके कि विशिष्ट संदर्भों में दावा किए गए कारणत्मक संबंध बने रहते हैं या नहीं।

3. मुख्य योगदान

1. कारणत्मक पथों की औपचारिक परिभाषा: पेपर एक कारणत्मक पथ को केवल मूल कारणों के सेट के रूप में नहीं, बल्कि एक टुपल $(C, P, B, B_t, B_R, P_B)$ के रूप में परिभाषित करता है, जहाँ $P$ लक्षित घटना की व्याख्या करने वाला उप-ग्राफ है। यह पूर्ण कारण ग्राफ $C$ (संदर्भ के लिए उपयोग किया जाता है) और व्याख्यात्मक पथ $P$ के बीच अंतर करता है।
2. पाथवे स्पष्टीकरण स्कोर: एक नवीन मीट्रिक जो यह आकलन करके स्पष्टीकरण की गुणवत्ता को मापता है कि क्या मूल कारण घटनाओं के संपूर्ण अनुक्रम को संभावित बनाते हैं, न कि केवल लक्ष्य को। यह स्कोर तंत्रों के विलगित (disjoint) सेटों पर योगात्मक (additive) है और शापली वैल्यू (Shapley values) की संदर्भ-निर्भरता संबंधी समस्याओं से बचता है।
3. घटना-स्तर का अमूर्तीकरण (Event-Level Abstraction): पाथवे एब्स्ट्रैक्शन का परिचय जटिल, निरंतर, या आंशिक रूप से ज्ञात मॉडलों से सरल, मौखिक रूप से व्यक्त किए जाने योग्य कारणत्मक स्पष्टीकरण प्राप्त करने की अनुमति देता है। यह परीक्षण योग्य निहितार्थों को बनाए रखते हुए चरों के "कोर्स-ग्रैनिंग" (coarse-graining) को संभालने का एक कठोर तरीका प्रदान करता है।
4. असत्यता सिद्ध करना (Falsifiability): यह स्पष्ट करने की प्रतिबद्धता (commitment) को अनिवार्य बनाकर कि कौन से तंत्र अपेक्षित रूप से व्यवहार कर रहे थे और किन्हें परिवर्तित किया गया था, ढांचा कारणत्मक स्पष्टीकरणों को असत्यता सिद्ध करने योग्य बनाता है। यह ऐसी स्थितियाँ प्रदान करता है (जैसे, लॉग-लाइक्लीहुड गैप पर लेम्मा 3.7) जिसके तहत एक स्पष्टीकरण को खारिज किया जा सकता है।

4. परिणाम और प्रदर्शन

• सैद्धांतिक सीमाएँ (Theoretical Bounds): लेखक सिद्ध करते हैं कि मजबूत स्थानीय कारणत्मक स्पष्टीकरण (उच्च युग्मवार स्कोर) एक मजबूत वैश्विक पथ स्पष्टीकरण की गारंटी नहीं देते हैं। वे उच्च पथ स्कोर के लिए आवश्यक शर्तें निकालते हैं, जैसे कि उन मध्यवर्तियों (mediators) से बचना जो अपने पैरेंट्स की तुलना में काफी कम संभावित हैं।
• आवश्यकता के साथ संबंध (Relation to Necessity): पेपर प्रदर्शित करता है कि दुर्लभ घटनाओं के लिए, एक सकारात्मक स्पष्टीकरण स्कोर 'उच्च संभावना की आवश्यकता' (Probability of Necessity - PN) को इंगित करता है, जिसका अर्थ है कि मूल कारण घटना के होने के लिए आवश्यक होने की उच्च संभावना है, भले ही स्कोर पूर्ण न हो।
• LLM मूल्यांकन केस स्टडी: लेखकों ने दीर्घकालिक बेघर होने के कारणों के संबंध में एक लार्ज लैंग्वेज मॉडल (LLM) द्वारा उत्पन्न कारणत्मक पथों का मूल्यांकन करने के लिए अपने ढांचे को लागू किया।
  • LLM ने एक पथ $A \to B \to C \to D \to E$ उत्पन्न किया।
  • संक्रमण संभावनाओं के लिए LLM से प्रश्न पूछकर, लेखकों ने $\approx 0.29$ का पाथवे स्पष्टीकरण स्कोर निकाला।
  • इस कम स्कोर का कारण एक कमजोर कड़ी ($C \to D$) थी, जहाँ "अपार्टमेंट खोने" से "पारिवारिक अलगाव" के बीच का संक्रमण पर्याप्त संभावित नहीं था।
  • इस अभ्यास ने प्रदर्शित किया कि ढांचा मौखिक स्पष्टीकरणों में कमजोर कड़ियों की मात्रात्मक पहचान कर सकता है और उन्हें बेहतर बनाने के लिए संशोधनों (जैसे, एक सीधा लिंक जोड़ना या नोड्स को फिर से लिखना) का सुझाव दे सकता है।

5. महत्व और दावे

पेपर यह दावा करता है कि वह दुर्लभ घटनाओं के कारणत्मक स्पष्टीकरणों पर चर्चा करने के लिए एक औपचारिक, मात्रात्मक भाषा प्रदान करके कारण अनुमान (causal inference) और व्याख्यात्मक AI (XAI) के क्षेत्र को आगे बढ़ाता है।

• अंतराल को भरना: यह सरल मौखिक स्पष्टीकरणों (जो अक्सर सहज लेकिन परीक्षण योग्य नहीं होते) और विस्तृत कारण मॉडलिंग (जो अक्सर बहुत जटिल या अज्ञात होता है) के बीच के अंतर को पाटता है।
• असत्यता सिद्ध करने की क्षमता (Falsifiability): प्राथमिक महत्व कारणत्मक स्पष्टीकरणों को असत्यता सिद्ध करने योग्य बनाने में निहित है। यह स्पष्ट करने की प्रतिबद्धता को अनिवार्य बनाकर कि स्पष्टीकरण एक विशिष्ट सेट के हस्तक्षेप योग्य संभावनाओं को दर्शाता है, ढांचा डेटा या विशेषज्ञ विश्वास के विरुद्ध अनुभवजन्य या तार्किक जाँच की अनुमति देता है।
• AI सुरक्षा और पारदर्शिता: लेखक इस कार्य को AI प्रणालियों द्वारा उत्पन्न कारणत्मक कथनों की सत्यता का आकलन करने की दिशा में एक कदम के रूप में देखते हैं। कारणत्मक स्पष्टीकरणों को स्पष्ट पथों के रूप में औपचारिक रूप देकर, सामाजिक रूप से महत्वपूर्ण घटनाओं के दोषपूर्ण कारण संबंधी विवरणों का पता लगाना संभव हो जाता है, जो जनरेटिव AI की विश्वसनीयता में योगदान देता है।

लेखक विनम्र रहते हैं, यह नोट करते हुए कि ढांचा स्वचालित रूप से एक वैध कारण DAG या हस्तक्षेप योग्य संभावनाओं की सच्चाई को सिद्ध नहीं करता है; बल्कि, यह डेटा-संचालित तरीके से संभाव्यता पर चर्चा करने और मूल्यांकन करने के लिए आवश्यक अवधारणाएं और मीट्रिक प्रदान करता है।