← नवीनतम पेपर
💻 computer science

Do-Calculus Interventions in Predictive Coding Networks: Formal Correspondence, Empirical Validation, and Architectural Prescriptions for Clinical Causal AI

यह शोध पत्र प्रेडिक्टिव कोडिंग नेटवर्क डायनेमिक्स और पर्ल के डू-कैलकुलस (do-calculus) के बीच एक औपचारिक पत्राचार स्थापित करता है, जो सैद्धांतिक व्युत्पत्ति और नैदानिक बेंचमार्क पर अनुभवजन्य सत्यापन के माध्यम से यह प्रदर्शित करता है कि विशिष्ट वास्तुशिल्प हस्तक्षेप इन नेटवर्कों को सटीक रूप से कारण तर्क (causal reasoning) करने और इंटरवेंशनल प्रभावों का अनुमान लगाने में मानक साहचर्य मॉडलों (associational models) से बेहतर प्रदर्शन करने में सक्षम बनाते हैं।

मूल लेखक: Hassan Farooq

प्रकाशित 2026-07-07
📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Hassan Farooq

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ इस शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।

मुख्य विचार: भविष्यवाणी बनाम क्रिया (Predicting vs. Doing)

कल्पना कीजिए कि आप एक डॉक्टर हैं जो मरीजों का इलाज करना सीख रहे हैं।

  • मानक AI (द "ऑब्ज़र्वर" या प्रेक्षक): यह AI उस छात्र की तरह है जो केवल दुनिया को देखता है। वह देखता है कि जिन मरीजों ने दवा A ली, वे आमतौर पर ठीक हो गए। वह यह पैटर्न सीख लेता है: दवा A = अच्छा परिणाम। लेकिन वह यह नहीं समझता कि क्यों। यदि आप उससे पूछें, "क्या होगा अगर हम मरीज को दवा A लेने के लिए मजबूर करें?" तो वह भ्रमित हो सकता है क्योंकि उसने कभी ऐसी स्थिति नहीं देखी जहाँ डॉक्टर ने दवा लेने के लिए मजबूर किया हो; उसने केवल उन मरीजों को देखा जिन्होंने अपने विशिष्ट लक्षणों के आधार पर दवा चुनी या जिसे उन्हें दिया गया।
  • नया AI (द "इंटरवेनर" या हस्तक्षेप करने वाला): यह पेपर प्रेडिक्टिव कोडिंग (Predictive Coding) पर आधारित एक नए प्रकार के AI को पेश करता है। इस AI को एक ऐसे वैज्ञानिक के रूप में सोचें जो दुनिया कैसे काम करती है, इसका एक मानसिक मॉडल बनाता है। यह केवल पैटर्न को याद नहीं करता; यह कारण-और-प्रभाव (cause-and-effect) का अनुकरण (simulate) करता है।

पेपर पूछता है: क्या यह "वैज्ञानिक" AI, "प्रेक्षक" AI की तुलना में "क्या होगा यदि?" (हस्तक्षेप/interventions) वाले सवालों के जवाब बेहतर तरीके से दे सकता है?

मुख्य तंत्र: "क्लैंप एंड कट" (Clamp and Cut) की तरकीब

यह पेपर इस AI को वैज्ञानिक की तरह सोचने के लिए एक विशेष तरकीब प्रस्तावित करता है।

  1. सेटअप: कल्पना कीजिए कि AI के पास विचारों का एक नेटवर्क है जो एक फैमिली ट्री (वंशवृक्ष) की तरह जुड़ा हुआ है। ऊपरी विचार (जैसे "जेनेटिक्स") मध्यवर्ती विचारों (जैसे "लक्षणों") को प्रभावित करते हैं, जो निचले विचारों (जैसे "उपचार") को प्रभावित करते हैं।
  2. समस्या: सामान्य जीवन में, यदि आप एक लक्षण देखते हैं, तो आपका मस्तिष्क उसके कारण के बारे में अपने अनुमान को अपडेट करता है। यदि आप एक उपचार देखते हैं, तो आपका मस्तिष्क उसके कारण के बारे में अपने अनुमान को अपडेट करता है।
  3. तरकीब (Do-Calculus): एक हस्तक्षेप (जैसे किसी मरीज को दवा लेने के लिए मजबूर करना) का अनुकरण करने के लिए, पेपर कहता है कि आपको दो चीजें करनी चाहिए:
    • क्लैंप (Clamp): "उपचार" नोड को एक विशिष्ट मान (जैसे "दवा A लें") पर लॉक कर दें।
    • कट (Cut): "लक्षणों" से "उपचार" तक के कनेक्शन को काट दें।

उदाहरण:
एक कठपुतली के खेल की कल्पना करें।

  • सामान्य AI: कठपुतली चलाने वाला (लक्षण) डोर खींचता है, और कठपुतली (उपचार) हिलती है। कठपुतली की गति दर्शकों को बताती है कि कठपुतली चलाने वाला क्या कर रहा है।
  • इंटरवेंशनल AI: आप कठपुतली के हाथ को पकड़ते हैं और उसे हाथ हिलाने के लिए मजबूर करते हैं (Clamp)। फिर, आप कठपुतली के हाथ को कठपुतली चलाने वाले के हाथ से जोड़ने वाली डोर को काट देते हैं (Cut)। अब, कठपुतली हाथ हिला रही है, लेकिन इसलिए नहीं क्योंकि कठपुतली चलाने वाले ने संकेत दिया है, बल्कि इसलिए क्योंकि आपने उसे मजबूर किया है। AI समझ जाता है: "कठपुतली हाथ हिला रही है, लेकिन यह कठपुतली चलाने वाले के संकेत के कारण नहीं है। यह इसलिए है क्योंकि मैंने इसे मजबूर किया है।"

यह पेपर गणितीय रूप से (प्रपोजिशन 1) सिद्ध करता है कि यदि आप उनके विशिष्ट AI आर्किटेक्चर में यह "क्लैंप एंड कट" करते हैं, तो यह हस्तक्षेप (intervention) की गणितीय परिभाषा (पर्ल का do-ऑपरेटर) की सटीक नकल करता है।

प्रयोग: क्या यह वास्तव में काम करता है?

लेखकों ने तीन अलग-अलग परिदृश्यों में इसका परीक्षण किया:

1. टॉय टेस्ट (प्रूफ ऑफ कॉन्सेप्ट)
उन्होंने तीन नोड्स वाला एक छोटा, सरल संसार बनाया: डायग्नोसिस \rightarrow लक्षण \rightarrow उपचार।

  • परिणाम: जब उन्होंने "लक्षण" को मौजूद होने के लिए मजबूर किया और "डायग्नोसिस" से संबंध को काट दिया, तो AI ने डायग्नोसिस और लक्षणों के बीच के सामान्य लिंक को सही ढंग से अनदेखा कर दिया। इसने सिद्ध किया कि सरल, नियंत्रित वातावरण में गणित बिल्कुल वैसा ही काम करता है जैसा भविष्यवाणी की गई थी।

2. वास्तविक दुनिया का परीक्षण ("बेबी हेल्थ" डेटासेट)
उन्होंने शिशु स्वास्थ्य (IHDP) के बारे में एक डेटासेट का उपयोग किया यह देखने के लिए कि क्या यह AI भविष्यवाणी कर सकता है कि क्या होगा यदि किसी बच्चे को एक विशिष्ट उपचार दिया जाए, भले ही प्रशिक्षण डेटा केवल वही दिखा रहा था जो वास्तव में हुआ था।

  • प्रतिद्वंद्वी: एक मानक AI (MLP) जो केवल पैटर्न को याद करता है।
  • परिणाम: मानक AI ने "क्या होगा यदि?" वाले सवालों पर बहुत बड़ी गलतियाँ कीं। नया प्रेडिक्टिव कोडिंग AI काफी कम गलतियाँ करता है।
  • पेंच: नया AI अतीत में जो हुआ उसे बताने में (अवलोकन संबंधी डेटा) मानक AI की तुलना में वास्तव में खराब था। हालांकि, यह नई स्थितियों के तहत भविष्य की भविष्यवाणी करने में बहुत बेहतर था।
  • सबक: अतीत को याद रखने में अच्छा होने का मतलब यह नहीं है कि आप भविष्य की भविष्यवाणी करने में भी अच्छे हैं यदि नियम बदल दिए जाएं।

3. "सीक्रेट सॉस" (एब्लेशन स्टडीज)
लेखकों ने यह पता लगाने की कोशिश की कि नया AI बेहतर क्यों काम करता है। उन्होंने पाया कि एक मुख्य कारक है: लेटेंट डायमेंशन (Latent Dimension) (इसे AI की "शॉर्ट-टर्म मेमोरी" के आकार के रूप में सोचें)।

  • छोटी मेमोरी (अच्छा): यदि AI की मेमोरी छोटी है, तो वह अतीत के सभी उलझे हुए, भ्रमित करने वाले विवरणों को याद नहीं रख पाता है। इसे कारण-और-प्रभाव के सरल, मूल नियमों को सीखने के लिए मजबूर होना पड़ता है। इसने इसे हस्तक्षेप (interventions) के लिए बेहतरीन बना दिया।
  • बड़ी मेमोरी (बुरा): यदि मेमोरी बहुत बड़ी है, तो AI हर छोटी संयोग और विवरण को याद कर लेता है। जब नियम बदलते हैं, तो यह भ्रमित हो जाता है।
  • उदाहरण: एक छोटी नोटबुक वाला छात्र भौतिकी के केवल सबसे महत्वपूर्ण नियमों को लिखने के लिए मजबूर होता है। एक विशाल पाठ्यपुस्तक वाला छात्र हर विशिष्ट उदाहरण को याद करने की कोशिश कर सकता है, जो उन्हें तब भ्रमित कर देता है जब कोई नई समस्या सामने आती है।

4. अस्पताल टेस्ट (MIMIC-IV)
उन्होंने इसे ICU डेटा (MIMIC-IV) पर टेस्ट किया।

  • समस्या: इस छोटे डेटासेट में, AI संघर्ष कर रहा था क्योंकि "उपचार" को उसके डिजाइन में "परिणाम" से स्पष्ट रूप से नहीं जोड़ा गया था।
  • समाधान: उन्होंने PCNetworkV3 बनाया, जिसने AI को उपचार से परिणाम तक एक सीधा "वायरिंग" दिया, जिससे मेमोरी बॉटलनेक (bottleneck) से बचा जा सके।
  • परिणाम: इस संस्करण ने उपचार के वास्तविक प्रभाव (Average Treatment Effect) की गणना सफलतापूर्वक की, जिसमें केवल 8.3% की त्रुटि थी, जबकि पिछला संस्करण पूरी तरह विफल रहा था।

निष्कर्षों का सारांश

  1. सिद्धांत: आप एक प्रेडिक्टिव कोडिंग नेटवर्क को एक कारण संबंधी तर्क (causal reasoning) मशीन में बदल सकते हैं, यदि आप एक वेरिएबल को "क्लैंप" करते हैं और उसके आने वाले एरर सिग्नल को "काट" देते हैं।
  2. प्रमाण: यह सरल गणितीय मॉडलों में पूरी तरह से काम करता है और वास्तविक दुनिया के डेटा पर "क्या होगा यदि?" परिदृश्यों की भविष्यवाणी करने में मानक AI की तुलना में काफी बेहतर है।
  3. डिजाइन नियम: यदि आप AI को कारण संबंधी तर्क (causal reasoning) में अच्छा बनाना चाहते हैं, तो आपको इसे जितना संभव हो उतना बड़ा नहीं बनाना चाहिए। आपको इसकी "मेमोरी" (लेटेंट डायमेंशन) इतनी छोटी रखनी चाहिए कि यह दुनिया के नियमों को सीखने के बजाय केवल उदाहरणों को याद करने के बजाय नियमों को सीखने के लिए मजबूर हो।
  4. आर्किटेक्चर: क्लिनिकल डेटा के लिए, AI को सही ढंग से काम करने के लिए "उपचार" से "परिणाम" तक एक सीधा रास्ता चाहिए।

यह पेपर क्या दावा नहीं करता है:

  • यह दावा नहीं करता कि यह AI कल ही मरीजों का इलाज करने के लिए तैयार है।
  • यह दावा नहीं करता कि यह सभी प्रकार के मेडिकल डेटा (जैसे इमेज या टाइम-सीरीज) के लिए काम करता है।
  • यह दावा नहीं करता कि यह 'कॉज़ल AI' का एकमात्र तरीका है, बल्कि यह बताता है कि यह विशिष्ट जैविक-प्रेरित आर्किटेक्चर एक अनूठा लाभ देता है।

संक्षेप में, यह पेपर दिखाता है कि एक ऐसा AI बनाकर जो यह नकल करता है कि मस्तिष्क त्रुटियों (errors) की भविष्यवाणी कैसे करता है, और फिर परीक्षण के दौरान कुछ इनपुट को "अनदेखा" करने के लिए मजबूर करके, हम एक ऐसी मशीन बना सकते हैं जो "यदि हम इसे बदल दें तो क्या होगा?" जैसे सवालों के जवाब देने में आश्चर्यजनक रूप से अच्छी होती है, बशर्ते हम उसकी आंतरिक मेमोरी को छोटा और केंद्रित रखें।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →