"Cause" is Mechanistic Narrative within Scientific Domains: An Ordinary Language Philosophical Critique of "Causal Machine Learning"
यह शोध पत्र साधारण भाषा दर्शन (ordinary language philosophy) को लागू करते हुए "कारण संबंधी मशीन लर्निंग" (causal machine learning) के आधार की आलोचना करता है, यह तर्क देते हुए कि वास्तविक कार्य-कारण संबंध मौलिक रूप से यांत्रिक है, और यह दावा करता है कि निश्चित कारण संबंधी दावे केवल उन क्षेत्रों में ही वैध हैं जहाँ पूर्ण यांत्रिक मॉडल मौजूद हों (जैसे भौतिकी) और जटिल प्रणालियों (जैसे जीव विज्ञान और सामाजिक विज्ञान) के लिए विभिन्न विषयों के संचित साक्ष्यों की आवश्यकता होती है, जिससे वैज्ञानिक अनुसंधान में कारण संबंधी निश्चितता को बढ़ा-चढ़ाकर बताने के विरुद्ध अधिक सावधानी बरतने का आग्रह किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
द ग्रेट डिटेक्टिव गेम: क्यों "कारण" केवल एक चीज़ नहीं है
कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे एक जासूस हैं। विज्ञान और कंप्यूटर की दुनिया में, इस समय एक बहुत बड़ा चलन चल रहा है जिसे "कॉज़ल मशीन लर्निंग" (Causal Machine Learning) कहा जाता है। यह एक सुपर-स्मार्ट कंप्यूटर को आवर्धक लेंस (magnifying glass) देने और उससे यह पूछने जैसा है कि चीजें वास्तव में क्यों होती हैं, बजाय इसके कि वह केवल यह देखे कि दो चीजें अक्सर एक साथ क्यों होती हैं। उदाहरण के लिए, सिर्फ इसलिए कि जुलाई में आइसक्रीम की बिक्री और शार्क के हमलों दोनों में वृद्धि होती है, इसका मतलब यह नहीं है कि आइसक्रीम शार्क के हमलों का कारण है; वे दोनों गर्मी के कारण होते हैं। विज्ञान में इस "असली कारण" को खोजना एक पवित्र लक्ष्य (holy grail) है क्योंकि यह हमें समस्याओं को ठीक करने, बीमारियों को ठीक करने और बेहतर तकनीक बनाने में मदद करता है।
लेकिन यहाँ पेचीदा हिस्सा यह है: "कारण" (cause) का वास्तव में क्या अर्थ है? भौतिकी (physics) की प्रयोगशाला में, "कारण" एक बिलियर्ड बॉल द्वारा दूसरी बॉल को मारने जैसा है; यह एक सटीक, गणितीय धक्का है। एक अस्पताल में, "कारण" घटनाओं की एक जटिल श्रृंखला हो सकती है जिसमें आपके जीन, आपका आहार और आपका वातावरण शामिल है। एक शहर में, "कारण" एक कहानी हो सकती है कि कैसे एक नए कानून ने लोगों के व्यवहार को बदल दिया। हम जिस शोध पत्र (paper) की खोज करने जा रहे हैं, वह एक बड़ा सवाल पूछता है: क्या हम सभी अलग-अलग दुनियाओं में कारणों को खोजने के लिए एक ही तरह के कंप्यूटर टूल्स का उपयोग कर सकते हैं? लेखक, जो शोधकर्ताओं की एक टीम है, तर्क देते हैं कि इसका उत्तर एक ज़ोरदार "नहीं" है। वे सुझाव देते हैं कि एक ही कंप्यूटर फॉर्मूले को सब कुछ समझाने के लिए मजबूर करना एक घड़ी को ठीक करने, एक पेंटिंग बनाने और एक केक बेक करने के लिए एक ही समय में हथौड़े का उपयोग करने जैसा है। यह हथौड़े के लिए काम कर सकता है, लेकिन यह घड़ी को तोड़ देगा और केक को खराब कर देगा।
शोध पत्र का बड़ा विचार: एक आकार सबके लिए उपयुक्त नहीं है
यह शोध पत्र एक दार्शनिक जासूसी कहानी है जो "कारण" शब्द की जांच करती है। लेखक एक पद्धति का उपयोग करते हैं जिसे "ऑर्डिनरी लैंग्वेज फिलॉसफी" (Ordinary Language Philosophy) कहा जाता है, जो मूल रूप से एक फैंसी तरीका है यह कहने का कि, "आइए देखें कि वास्तविक लोग वास्तविक जीवन में शब्दों का उपयोग वास्तव में कैसे करते हैं।" वे तर्क देते हैं कि "कारण" शब्द का अर्थ बदल जाता है, यह इस पर निर्भर करता है कि आप किस "कबीले" (tribe) के वैज्ञानिकों से बात कर रहे हैं।
भौतिकी का कबीला: द परफेक्ट मशीन
भौतिकी और इंजीनियरिंग में, दुनिया एक विशाल, पूरी तरह से निर्मित घड़ी की तरह है। यदि आप जानते हैं कि गियर (समीकरण) क्या हैं और आप एक को धक्का देते हैं (कारण), तो आप सटीक गणना कर सकते हैं कि दूसरे गियर कहाँ जाएंगे (प्रभाव)। यहाँ, "कारण" एक गणितीय बल है। यदि आप एक पत्थर गिराते हैं, तो गुरुत्वाकर्षण उसे नीचे खींचता है। गणित पूरी कहानी का सटीक वर्णन करता है। इस दुनिया में, डेटा में पैटर्न खोजने वाले कंप्यूटर मॉडल वास्तव में "कारण" को खोज सकते हैं क्योंकि सिस्टम बंद (closed) है और नियम ज्ञात हैं।
जीव विज्ञान का कबीला: द मेसी जंगल
अब, जीव विज्ञान और चिकित्सा की ओर बढ़ें। यहाँ दुनिया एक जंगली जंगल की तरह है। यह एक "ओपन सिस्टम" (open system) है, जिसका अर्थ है कि चीजें लगातार बाहरी दुनिया के साथ ऐसे तरीकों से बातचीत करती हैं जिन्हें हम पूरी तरह से माप नहीं सकते। मानव शरीर इतना जटिल है कि आप एक एकल गणितीय समीकरण नहीं लिख सकते जो हर कोशिका, हर रसायन और हर विचार की व्याख्या कर सके। लेखक कहते हैं कि जीव विज्ञान में, आप केवल एक ग्राफ को देखकर यह नहीं कह सकते कि "A ने B को कारण बनाया।" इसके बजाय, आपको एक "नैरेटिव" (कथा/कहasi) बनानी होगी। आपको सांख्यिकीय सुरागों (जैसे क्लिनिकल ट्रायल से प्राप्त डेटा) को उस कहानी के साथ जोड़ना होगा कि कैसे यह काम करता है (जैसे कि कैसे एक दवा धमनियों को अवरुद्ध करती है)। आपको निश्चित होने के लिए कई अलग-अलग कोणों से सबूतों की आवश्यकता है।
सामाजिक विज्ञान का कबीला: द स्टोरीटेलर्स
अंत में, सामाजिक विज्ञान (जैसे मनोविज्ञान, अर्थशास्त्र और समाजशास्त्र) हैं। यहाँ चीजें वास्तव में बहुत पेचीदा हो जाती हैं। इंसान बिखरे हुए, अप्रत्याशित और कहानियों से भरे होते हैं। लेखक तर्क देते हैं कि इन क्षेत्रों में, "कारण" अक्सर एक ऐसी कहानी है जो हमें खुद को समझने में मदद करती है। उदाहरण के लिए, एक थेरेपिस्ट किसी मरीज की मदद यह बताकर कर सकता है कि कैसे उनके अतीत ने उनके वर्तमान को आकार दिया। यह कहानी कोई गणितीय समीकरण नहीं है, लेकिन यह उस तरह से "सत्य" है जो व्यक्ति को बेहतर महसूस करने और अलग तरह से कार्य करने में मदद करती है। लेखक बताते हैं कि सामाजिक विज्ञान वर्तमान में संघर्ष कर रहा है क्योंकि यह भौतिकी की तरह व्यवहार करने की कोशिश करता है, जो उन चीजों को साबित करने के लिए सख्त गणित का उपयोग करता है जो वास्तव में मानवीय अर्थ और व्याख्या के बारे में हैं।
"कॉज़ल मशीन लर्निंग" की समस्या
यह शोध पत्र "कॉज़ल मशीन लर्निंग" के नए चलन पर कड़ी नज़र डालता है। ये कंप्यूटर प्रोग्राम हैं जो एक मानचित्र (ग्राफ) बनाने की कोशिश करते हैं जो दिखाता है कि चर (variables) कैसे जुड़े हुए हैं। वे "यदि A घटना B से पहले होती है, और वे आपस में जुड़े हुए हैं, तो A, B का कारण बनता है" जैसे नियमों का उपयोग करते हैं।
लेखक कहते हैं कि यह दृष्टिकोण खतरनाक है क्योंकि यह मानता है कि दुनिया एक बंद, पूर्ण मशीन (जैसे भौतिकी) है, जबकि यह अक्सर एक बिखरा हुआ, खुला सिस्टम (जैसे जीव विज्ञान या समाज) होता है। वे बताते हैं कि ये कंप्यूटर मॉडल अक्सर वास्तविक दुनिया में विफल हो जाते हैं क्योंकि वे उन सभी छिपे हुए कारकों (जैसे आपका मूड, आपका इतिहास, या मौसम) का हिसाब नहीं रख पाते जो परिणाम को प्रभावित करते हैं।
शोध पत्र स्पष्ट रूप से इस विचार के खिलाफ तर्क देता है कि एक कंप्यूटर डेटासेट को देखकर निर्णायक रूप से कह सकता है कि, "यही कारण है।" वे कहते हैं कि जब तक कंप्यूटर एक बंद भौतिकी प्रयोगशाला में काम नहीं कर रहा है जहाँ नियम ज्ञात हैं, ये मॉडल केवल अनुमान लगा रहे हैं। वे "अति-आत्मविश्वासी" (overconfident) हैं। लेखक चेतावनी देते हैं कि यदि हम इन कंप्यूटर मानचित्रों पर बहुत अधिक भरोसा करते हैं, तो हम चिकित्सा या नीति में गलत निर्णय ले सकते हैं क्योंकि कंप्यूटर कहानी के बिखरे हुए मानवीय हिस्सों को छोड़ देता है।
समाधान: जासूसों की एक टीम
तो, उत्तर क्या है? लेखक सुझाव देते हैं कि हमें अधिक विनम्र होने की आवश्यकता है। एक ही कंप्यूटर मॉडल पर सत्य बताने के लिए निर्भर रहने के बजाय, हमें हर जगह से साक्ष्य जुटाने की आवश्यकता है।
कल्प_ना कीजिए कि आप यह पता लगाने की कोशिश कर रहे हैं कि जंगल क्यों मर रहा है।
- भौतिक विज्ञानी मिट्टी के रसायन विज्ञान के समीकरणों को देखता है।
- जीव विज्ञानी कीटों और पेड़ों को देखता है।
- समाजशास्त्री यह देखता है कि स्थानीय लोग भूमि का उपयोग कैसे करते हैं।
- कहानी सुनाने वाला (Storyteller) उन बुजुर्गों को सुनता है कि जंगल उनके लिए क्या मायने रखता था।
शोध पत्र सुझाव देता है कि "कारण" तभी वास्तविक होता है जब ये सभी अलग-अलग दृष्टिकोण सहमत हों। इसे "साक्ष्यों की प्रचुरता" (preponderance of evidence) कहा जाता है। यह एक पूर्ण गणितीय प्रमाण के बारे में नहीं है; यह विभिन्न आवाजों के एक समूह के बारे में है जो एक ही कहानी सुना रहे हैं।
भविष्य के लिए, लेखक सुझाव देते हैं कि हमें कंप्यूटर को कारण और प्रभाव के अंतिम न्यायाधीश के रूप में मानने के बजाय, उन्हें पैटर्न देखने में मदद करने वाले उपकरणों के रूप में उपयोग करना चाहिए, लेकिन हमें हमेशा उन पैटर्न की वास्तविक दुनिया की कहानियों और विशेषज्ञ ज्ञान के साथ जांच करनी चाहिए। वे एक नया सोचने का तरीका प्रस्तावित करते हैं जिसे "हर्मेनेयूटिक्स" (Hermeneutics) कहा जाता है, जो व्याख्या की कला है। इसका अर्थ है यह समझना कि कभी-कभी, "सत्य" एक संख्या नहीं होता; यह एक ऐसी कहानी है जो लोगों को समझ में आती है।
मुख्य निष्कर्ष (Takeaway)
इस शोध पत्र का मुख्य निष्कर्ष यह है कि "कारण" एक अकेली चीज़ नहीं है। यह बदल जाता है कि आप एक गिरते हुए पत्थर, धड़कते हुए दिल, या मानव मस्तिष्क का अध्ययन कर रहे हैं। लेखक सुझाव देते हैं कि "कॉज़ल AI" के बारे में वर्तमान उत्साह थोड़ा एक जाल है। यह जटिल, बिखरी हुई समस्याओं को हल करने के लिए एक सरल, कठोर उपकरण का उपयोग करने की कोशिश करता है।
वे यह नहीं कहते कि हमें कंप्यूटरों का उपयोग करना बंद कर देना चाहिए। इसके बजाय, वे कहते हैं कि हमें सावधानी के साथ उनका उपयोग करना चाहिए। हमें विज्ञान के बीच के अंतरों का सम्मान करने की आवश्यकता है। भौतिकी में, गणित राजा है। जीव विज्ञान में, हमें गणित और तंत्र (mechanism) के मिश्रण की आवश्यकता है। सामाजिक विज्ञान में, हमें गणित, कहानियों और मानवीय समझ को एक साथ काम करने की आवश्यकता है।
शोध पत्र "एपिस्टेमिक वर्च्यू" (Epistemic Virtue) के आह्वान के साथ समाप्त होता है, जो "बौद्धिक ईमानदारी" कहने का एक फैंसी तरीका है। यह वैज्ञानिकों और AI डेवलपर्स से यह स्वीकार करने के लिए कहता है कि वे कब किसी चीज़ को निश्चित रूप से नहीं जानते हैं। "हमने कारण खोज लिया है!" चिल्लाने के बजाय, उन्हें कहना चाहिए, "यहाँ एक पैटर्न है जो एक संभावना का सुझाव देता है, लेकिन निर्णय लेने से पहले आइए पूरी कहानी को देखें।" यह एक अनुस्मारक है कि एक जटिल दुनिया में, हमारे पास सबसे शक्तिशाली उपकरण सुपर-कंप्यूटर नहीं है; यह विभिन्न प्रकार की कहानियों को सुनने और उन्हें एक ऐसे सत्य में बुनने की क्षमता है जो समझ में आता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।