🤖 machine learning

Towards Continuous-time Causal Foundation Models

यह शोध पत्र एक निरंतर-समय कारण मॉडल (continuous-time causal foundation model) प्रस्तावित करता है जो पृथक प्रेक्षणों (decoupled observations) के साथ महीन-ग्रिड एकीकरण (fine-grid integration) के माध्यम से अवलोकन अनुसूचियों के प्रति प्रक्षेपवक्र-नियम अपरिवर्तनीयता (trajectory-law invariance) सुनिश्चित करता है, जो विविध गैररेखीय गतिकी और अनियमित डेटा परिदृश्यों में सरल एकीकरण विधियों की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।

मूल लेखक: Dennis Thumm, Ruben Wiedemann, Ying Chen

प्रकाशित 2026-05-29

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Dennis Thumm, Ruben Wiedemann, Ying Chen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक सुपर-स्मार्ट AI को भविष्य बताने के लिए प्रशिक्षित करने की कोशिश कर रहे हैं, जैसे कि एक ऐसा सिस्टम जो समय के साथ बदलता रहता है—जैसे कि मानव शरीर में दवा का संचार, या किसी विंड टनल (wind tunnel) का अचानक आए झोंके के प्रति व्यवहार।

आमतौर पर, AI मॉडल समय को "स्नैपशॉट्स" (snapshots) के रूप में देखते हैं—जैसे कि एक फ्लिपबुक जिसमें प्रत्येक पन्ना एक निश्चित क्षण (1 सेकंड, 2 सेकंड, 3 सेकंड) होता है। लेकिन वास्तविक दुनिया घड़ी की टिक-टिक का इंतज़ार नहीं करती। यह निरंतर बहती है।

यह शोध पत्र इस बारे में है कि कैसे एक AI को केवल स्नैपशॉट के बजाय इस प्रवाह (flow) को समझने के लिए कैसे सिखाया जाए। यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:

1. समस्या: "स्टॉप-स्टार्ट" का जाल (The "Stop-Start" Trap)

लेखक एक सामान्य गलती की ओर इशारा करते हैं। यदि आप एक निरंतर प्रक्रिया (जैसे बहती नदी) के बारे में AI को केवल विशिष्ट समय पर लिए गए स्नैपशॉट दिखाकर सिखाने की कोशिश करते हैं, तो AI स्नैपशॉट्स के शेड्यूल को सीख जाता है, न कि स्वयं नदी को।

उपमा: कल्पना कीजिए कि आप यह सीखने की कोशिश कर रहे हैं कि एक कार कैसे गति पकड़ती (accelerate करती) है।
- गलत तरीका (डिस्क्रीट/नाइव): आप केवल हर बार अपनी पलक झपकते ही स्पीडोमीटर देखते हैं। यदि आप धीरे झपकते हैं, तो आपको धीमी त्वरण दिखाई देती है। यदि आप तेज़ी से झपकते हैं, तो आपको तेज़ त्वरण दिखाई देती है। AI यह सीख जाता है कि "आप कितनी तेज़ी से पलक झपकते हैं" वह गति निर्धारित करता है, न कि इंजन।
- परिणाम: AI भ्रमित हो जाता है। यदि आप उसे पलक झपकने का एक नया शेड्यूल दिखाते हैं, तो वह विफल हो जाता है क्योंकि उसने आपके पलक झपकने के पैटर्न को सीखा है, न कि कार के भौतिक विज्ञान (physics) को।

2. समाधान: "हाई-स्पीड कैमरा" (The "High-Speed Camera")

यह शोध पत्र इन मॉडलों को प्रशिक्षित करने का एक नया तरीका प्रस्तावित करता है जिसे कंटीन्यूअस-टाइम कॉज़ल फाउंडेशन मॉडल्स (Continuous-Time Causal Foundation Models) कहा जाता है। अंतराल के बीच केवल एक स्नैपशॉट लेने के बजाय, वे "हाई-स्पीड कैमरा" दृष्टिकोण का उपयोग करते हैं।

उपमा: कार को समझने के लिए, आप इंजन के चलने को बहुत उच्च गति पर रिकॉर्ड करते हैं (हजारों फ्रेम प्रति सेकंड), जिससे त्वरण का एक आदर्श, सुचारू वीडियो बनता है। फिर, आप AI को यह सुचारू वीडियो दिखाते हैं।
ट्रिक: भले ही AI का परीक्षण केवल धीमे स्नैपशॉट पर किया जाए (जैसे कि एक डॉक्टर द्वारा दिन में एक बार मरीज की जांच करना), इसने पहले ही उच्च-गति वाले प्रशिक्षण से सुचारू, निरंतर भौतिकी (continuous physics) सीख ली है। वह "नदी के नियम" को जानता है, न कि केवल "स्नैपशॉट्स के नियम" को।

3. प्रशिक्षण के तीन स्तर (The Three Levels of Training)

लेखकों ने यह वर्गीकृत करने के लिए कि विभिन्न मॉडल समय को कितनी अच्छी तरह संभालते हैं, एक "टियर लिस्ट" बनाई है:

टियर 1 (द फ्लिपबुक): पुराना तरीका। AI केवल निश्चित समय चरणों (time steps) को जानता है। यदि समय बदलता है, तो यह विफल हो जाता है।
टियर 2 (द लेज़ी कैमरामैन): AI निरंतर होने की कोशिश करता है लेकिन प्रेक्षणों (observations) के बीच केवल एक बार तस्वीर लेता है। यह बेहतर है, लेकिन यदि समय के अंतराल बदलते हैं, तो यह अभी भी भ्रमित हो जाता है। यह केवल दो धुंधली तस्वीरों के आधार पर कार की गति का अनुमान लगाने जैसा है।
टियर 3 (द हाई-स्पीड प्रो): यह वही है जो यह शोध पत्र प्राप्त करता है। AI एक अत्यंत सूक्ष्म ग्रिड (हजारों छोटे चरणों) पर भौतिकी का अनुकरण करता है और फिर केवल वही विशिष्ट समय दिखाता है जिसकी उसे आवश्यकता होती है।
- परिणाम: AI सिस्टम के वास्तविक, अपरिवर्तनीय नियमों को सीख जाता है। उसे इससे कोई फर्क नहीं पड़ता कि प्रेक्षण हर सेकंड, हर घंटे, या यादृच्छिक (random) समय पर आ रहे हैं।

4. प्रयोग: क्या यह वास्तव में काम करता है?

टीम ने दो प्रकार के "फिजिक्स इंजन" के साथ इसका परीक्षण किया:

लीनियर (Linear): सरल, सीधी रेखा वाला भौतिक विज्ञान (जैसे एक स्प्रिंग)।
नॉन-लीनियर (Non-linear): जटिल, घुमावदार भौतिक विज्ञान (जैसे एक अराजक मौसम प्रणाली)।

उन्होंने "लेज़ी कैमरामैन" (टियर 2) को "हाई-स्पीड प्रो" (टियर 3) के खिलाफ खड़ा किया।

निष्कर्ष: हाई-स्पीड प्रो हर बार जीता।
आश्चर्य: जब AI को हाई-स्पीड पद्धति के साथ प्रशिक्षित किया गया, तो उसे यह बताने की भी आवश्यकता नहीं थी कि "अवलोकन के बीच कितना समय बीता।" वह स्वाभाविक रूप से प्रवाह को समझ गया। लेकिन जब इसे लेज़ी पद्धति के साथ प्रशिक्षित किया गया, तो अच्छा प्रदर्शन करने के लिए AI को स्पष्ट रूप से समय के अंतराल बताने की आवश्यकता थी।

5. वास्तविक दुनिया का परीक्षण ("जीरो-शॉट" टेस्ट)

लेखकों ने अपने नए AI का उपयोग उस वास्तविक डेटा पर करने का प्रयास किया जिसे उसने पहले कभी नहीं देखा था (Zero-Shot)।

फार्माकोकाइनेटिक्स (Pharmacokinetics): रक्त में दवा के स्तर की भविष्यवाणी करना (Theophylline और Warfarin)। AI ने दवा के बढ़ने और घटने को आश्चर्यजनक रूप से अच्छी तरह से ट्रैक किया, भले ही इसे सिंथेटिक डेटा पर प्रशिक्षित किया गया था।
भौतिक प्रणालियाँ (Physical Systems): एक विंड टनल प्रयोग। AI ने सफलतापूर्वक भविष्यवाणी की कि पंखे की शक्ति में अचानक बदलाव के प्रति विंड टनल की गति कैसे प्रतिक्रिया करेगी।

मुख्य निष्कर्ष (The Bottom Line)

यह शोध पत्र AI के लिए एक बेहतर "टाइम मशीन" बनाता है। AI को केवल डेटा बिंदुओं के बीच के अंतराल को याद करने के बजाय, चीजों के बदलने के सुचारू, निरंतर नियमों को सीखने के लिए मजबूर करके (एक हाई-स्पीड सिमुलेशन का उपयोग करके), AI भविष्य की भविष्यवाणी करने में बहुत अधिक स्मार्ट हो जाता है, भले ही डेटा अजीब या अनियमित समय पर आ रहा हो।

यह शोध पत्र क्या दावा नहीं करता है:

यह दावा नहीं करता कि यह अभी डॉक्टरों या इंजीनियरों को बदलने के लिए तैयार है।
यह दावा नहीं करता कि यह हर प्रकार की टाइम-सीरीज समस्या को हल करता है।
यह स्वीकार करता है कि वास्तविक दुनिया के परीक्षण "प्रारंभिक" थे और महत्वपूर्ण स्थितियों में उपयोग किए जाने से पहले इस पर अधिक काम करने की आवश्यकता है।

यह एक आधारभूत कदम है: यह साबित करना कि यदि आप एक AI को समय को 'सीढ़ी के पत्थरों की एक श्रृंखला' के बजाय 'बहती हुई नदी' के रूप में देखने के लिए प्रशिक्षित करते हैं, तो वह ब्रह्मांड के नियमों को बहुत बेहतर तरीके से सीखता है।

तकनीकी सारांश: निरंतर-समय कारण संबंधी आधारभूत मॉडलों (Continuous-time Causal Foundation Models) की ओर

1. समस्या विवरण

प्रायर-डेटा फिटेड नेटवर्क (PFNs) ने सिंथेटिक स्ट्रक्चरल कॉज़ल मॉडल्स (SCMs) पर ट्रांसफॉर्मर को प्री-ट्रेन करके सारणीबद्ध डेटा (tabular data) और असतत-समय (discrete-time) समय श्रृंखलाओं में कारण अनुमान (causal inference) का सफलतापूर्वक विस्तार किया है। हालाँकि, मौजूदा टेम्पोरल कॉज़ल प्रायर्स (temporal causal priors) केवल पूर्णांक ग्रिड (integer grids) पर कार्य करते हैं। इन्हें स्टोकेस्टिक डिफरेंशियल इक्वेशंस (SDEs) के रूप में तंत्रों को फिर से लिखकर और प्रत्येक अवलोकन अंतराल (observation gap) में एक बार इंटीग्रेट करके निरंतर समय में विस्तारित करने का एक सहज प्रयास वास्तविक निरंतरता प्राप्त करने में विफल रहता है।

मुख्य समस्या यह है कि यदि किसी SDE को केवल अवलोकन अंतरालों पर स्टेप किया जाता है (नेइव इंटीग्रेशन), तो प्रक्षेपवक्र (trajectory) का संयुक्त नियम विशिष्ट अवलोकन अनुसूची (observation schedule) पर निर्भर करता है। फलस्वरूप, प्रायर प्रभावी रूप से "SDE की पोशाक में" एक असतत-समय मार्कोव मॉडल बना रहता है, जो इस आवश्यकता को पूरा करने में विफल रहता है कि डेटा-जनरेटिंग प्रक्रिया इस बात से अपरिवर्तित रहनी चाहिए कि इसे कब देखा गया। यह सीमा उन डोमेन के लिए महत्वपूर्ण है जहाँ अनियमित, अनुसूची-विषम (schedule-heterogeneous) डेटा होता है, जैसे कि फार्माकोकाइनेटिक्स (नैदानिक रूप से चुने गए सैंपलिंग समय), परिवर्तनशील-विलंब घटनाओं वाले भौतिक सिस्टम, और लापता डेटा वाले इलेक्ट्रॉनिक हेल्थ रिकॉर्ड्स।

2. कार्यप्रणाली

2.1. निरंतर-समय कारण संबंधी प्रायर्स को परिभाषित करना

यह शोध पत्र एक निरंतर-समय कारण संबंधी प्रायर के लिए एक सटीक मानदंड स्थापित करता है: एक नमूना लिए गए प्रक्षेपवक्र (sampled trajectory) का संयुक्त नियम अवलोकन अनुसूची के प्रति अपरिवर्तनीय (invariant) होना चाहिए। अवलोकन अनुसूची को शुद्ध मापन (measurement) माना जाता है, न कि अंतर्निहित टेम्पोरल SCM का हिस्सा।

इस मानदंड के आधार पर, लेखक तीन-स्तरीय वर्गीकरण प्रस्तावित करते हैं:

टियर (A) असतत (Discrete): मानक असतत-समय SCMs जो केवल एक पूर्णांक ग्रिड पर परिभाषित हैं।
टियर (B) नेइव निरंतर (Naive Continuous): एक SDE जिसे प्रत्येक अवलोकन अंतराल पर एक बार इंटीग्रेट किया जाता है (अवलोकन ग्रिड पर Euler–Maruyama)। प्रक्षेपवक्र का नियम $\Delta_i$ के साथ बदलता है, जो निरंतरता मानदंड को पूरा करने में विफल रहता है।
टियर (C) फाइन-ग्रिड निरंतर (Fine-Grid Continuous): SDE को एक महीन ग्रिड ( $\Delta_{fine} \ll \min \Delta_{obs}$ ) पर इंटीग्रेट किया जाता है और फिर अवलोकन अनुसूची के लिए सबसैंपल किया जाता है। जैसे-जैसे $\Delta_{fine} \to 0$ होता है, यह वास्तविक SDE नियम की ओर अभिसरित होता है, जो निरंतरता मानदंड को लगभग संतुष्ट करता है।

2.2. निरंतर-समय प्रायर का निर्माण

प्रस्तावित निर्माण एक रैंडम डायरेक्टेड एसाइक्लिक ग्राफ (DAG) पर टियर (C) को साकार करता है जिसमें निम्नलिखित घटक शामिल हैं:

ग्राफ सैंपलिंग: वेरिएबल्स को एक रैंडम DAG या कैनोनिकल स्ट्रक्चर्स (जैसे, बैक-डोर, फ्रंट-डोर, इंस्ट्रुमेंटल वेरिएबल्स) से सैंपल किया जाता है। हिडन कन्फाउंडर्स (Hidden confounders) को शामिल किया जा सकता है।
मैकेनिज्म फैमिलीज़:
- लीनियर ड्रिफ्ट (Linear Drift): ऑर्नस्टीन–उलेनबैक (OU) प्रोसेसेज जहाँ ड्रिफ्ट पेरेंट्स का एक लीनियर कॉम्बिनेशन है।
- नॉनलीनियर ड्रिफ्ट (Nonlinear Drift): लीनियर पैरेंटल सम के स्थान पर 'tanh' एक्टिवेशन वाले छोटे मल्टी-लेयर पर्सेप्ट्रॉन्स (MLPs), जिन्हें स्थिरता सुनिश्चित करने के लिए बाउंड किया गया है।
रेजीम स्विचिंग (Regime Switching): कुछ प्रक्षेपवक्र एक निरंतर-समय रेजीम-स्विचिंग TSCM का पालन करते हैं जिसमें एक 'स्टिकी मार्कोव ट्रांजिशन मैट्रिक्स' होता है, जो स्ट्रक्चरल ब्रेक्स (जैसे, फार्माकोलॉजी में अवशोषण बनाम निष्कासन चरण) को मॉडल करता है।
इंटरवेंशन (Interventions): प्रायर विशिष्ट विंडोज़ पर हार्ड (वैल्यू सेट करना), सॉफ्ट (ड्रिफ्ट को शिफ्ट करना), और टाइम-वेरिंग इंटरवेंशन का समर्थन करता है। काउंटरफैक्टुअल्स को उसी विएनर नॉइज़ (Wiener noise) को पुनः उपयोग करके जेनरेट किया जाता है।
सिमुलेशन: प्रक्षेपवल्स को फाइन ग्रिड पर Euler–Maruyama का उपयोग करके इंटीग्रेट करके जेनरेट किया जाता है, जिसमें प्रत्येक फाइन स्टेप पर ब्राउनियन इंक्रीमेंट्स को फिर से सैंपल किया जाता है, और फिर अनियमित अवलोकन अनुसूची के लिए सबसैंपल किया जाता है।

2.3. आर्किटेक्चर: $\Delta t$ -जागरूक PFN एनकोडर

मॉडल एक प्रायर-इंटरवेंशन विंडो पर संचालित होने वाले कॉज़ल ट्रांसफॉर्मर एनकोडर का उपयोग करता है।

टाइम एम्बेडिंग: सीखे गए पूर्णांक पोजीशनल एम्बेडिंग्स के बजाय, मॉडल निरंतर समय के फूरियर एम्बेडिंग का उपयोग करता है: $\phi(t) = W_\phi [\sin(2\pi f_k t), \cos(2\pi f_k t)]$ ।
गैप एम्बेडिंग: इंटर-ऑब्जर्वेशन गैप्स ( $\Delta t_i$ ) को $\log(1+\Delta t_i)$ ट्रांसफॉर्म के बाद उसी फैमिली का उपयोग करके एम्बेड किया जाता है।
इन्फरेंस: मॉडल देखे गए डेटा, टाइमस्टैम्प, इंटरवेंशन स्पेसिफिकेशन और एक क्वेरी टाइम को लेता है ताकि इंटरवेंशन के तहत आउटकम के वितरण की भविष्यवाणी की जा सके।

3. मुख्य योगदान

निरंतरता मानदंड (Continuity Criterion): एक औपचारिक परिभाषा जो प्रक्षेपवक्र-लॉ इनवेरियन्स (trajectory-law invariance) की मांग करती है, जिसे तीन-स्तरीय वर्गीकरण के माध्यम से संचालित किया गया है।
टियर (C) निर्माण: फाइन-ग्रिड इंटीग्रेशन, रैंडम DAGs, OU/MLP ड्रिफ्ट्स और अनियमित अनुसूचियों का उपयोग करके निरंतर-समय प्रायर्स का एक व्यावहारिक कार्यान्वयन।
अनुभवजन्य सत्यापन (Empirical Validation): एक नियंत्रित $2 \times 2$ एब्लेशन अध्ययन (एनकोडर $\times$ इंटीग्रेटर) जो यह प्रदर्शित करता है कि फाइन-ग्रिड इंटीग्रेशन, नेइव इंटीग्रेशन की तुलना में श्रेष्ठ है, विशेष रूप से जब मूल्यांकन ग्रिड अधिक सूक्ष्म (refine) होते हैं।

4. प्रयोगात्मक परिणाम

4.1. एब्लेशन अध्ययन

लेखकों ने दो प्रायर्स (Linear-OU और Nonlinear Neural-Drift) और दो इंटीग्रेटर्स (Naive बनाम Fine) और दो एनकोडर्स (Positional-only बनाम Time-aware) पर PFNs को प्रशिक्षित किया।

इंटीग्रेटर प्रदर्शन: फाइन-ग्रिड इंटीग्रेशन ने दोनों प्रायर्स और मूल्यांकन विवों (discretizations) में 8 में से 8 प्रयोगात्मक सेल्स में नेइव इंटीग्रेशन से बेहतर प्रदर्शन किया। प्रदर्शन का अंतर ( $\Delta$ ) मॉनोटोनिक रूप से बढ़ता गया जैसे-जैसे मूल्यांकन ग्रिड सूक्ष्म होता गया (उदाहरण के लिए, न्यूरल प्रायर पर, जैसे-जैसे मूल्यांकन सबस्टेप्स रिफाइन हुए, अंतर +0.0048 से बढ़कर +0.0088 हो गया)। यह पुष्टि करता है कि फाइन-ग्रिड ट्रेनिंग मॉडल को वास्तविक SDE सीमा के साथ संरेखित करती है, जबकि नेइव ट्रेनिंग डिस्क्रीटाइजेशन बायस (discretization bias) पैदा करती है।
एनकोडर प्रदर्शन: टाइम-अवेयर एनकोडर (गैप्स का फूरियर एम्बेडिंग) का लाभ इंटीग्रेटर पर सशर्त था।
- नेइव इंटीग्रेशन के साथ, टाइम-अवेयर एनकोडर ने पोजीशनल-ओनली एनकोडर की तुलना में काफी बेहतर प्रदर्शन किया, जिससे शेड्यूल-डिपेंडेंट डायनेमिक्स की भरपाई हुई।
- फाइन इंटीग्रेशन के साथ, एनकोडर का चुनाव अनुभवजन्य रूप से निष्प्रभावी (inert) था (शून्य अंतर), जो यह सुझाव देता है कि डेटा-जनरेटिंग प्रक्रिया पर्याप्त रूप से शेड्यूल-इनवेरिएंट हो गई थी, जिससे स्पष्ट गैप फीचर्स की आवश्यकता समाप्त हो गई।

4.2. ज़ीरो-शॉट ट्रांसफर (प्रारंभिक)

पेपर तीन वास्तविक दुनिया के डेटासेट्स पर बिना फाइन-ट्यूनिंग के प्रारंभिक ज़ीरो-शॉट ट्रांसफर परिणाम रिपोर्ट करता है:

फार्माकोकाइनेटिक्स (Theophylline & Warfarin): मॉडल ने वारफारिन प्लाज्मा कंसंट्रेशन पर मजबूत सहसंबंध ( $r \approx 0.88$ ) प्राप्त किया, जो डोज-ड्रिवन प्रक्षेपवल्स को ट्रैक करता है। थियोफिलाइन पर प्रदर्शन मध्यम था ( $r \approx 0.53$ लीनियर के लिए)। लेखकों ने नोट किया कि नेइव बेसलाइन्स की तुलना में RMSE में सुधार छोटा था क्योंकि कंसंट्रेशन डेटा का क्लस्टरिंग बहुत संकीर्ण था, लेकिन पियर्सन सहसंबंध ने डायनेमिक ट्रैकिंग की पुष्टि की।
फिजिकल सिस्टम्स (Causal Chamber): एक विंड-टनल इम्पल्स रिग पर, मिक्स्ड-मैकेनिज्म PFN ने RPM डायनेमिक्स पर $r = 0.95$ का पियर्सन सहसंबंध प्राप्त किया, जो लीनियर मॉडल ( $r = 0.39$ ) से काफी बेहतर था। यह सुझाव देता है कि मॉडल ने सफलतापूर्वक नॉनलीनियर, सैचुरेटिंग एक्सपोनेंशियल डायनेमिक्स को कैप्चर किया।

5. महत्व और दावे

यह पेपर दावा करता है कि यह निरंतर-समय कारण संबंधी आधारभूत मॉडलों के लिए एक सटीक निरंतरता मानदंड प्रदान करता है, जो "SDE क्लॉथिंग" वाले डिस्क्रीट मॉडल्स से आगे बढ़ता है। प्राथमिक महत्व यह प्रदर्शित करने में है कि वास्तविक SDE सीमा के साथ संरेखित होने के लिए फाइन-ग्रिड इंटीग्रेशन आवश्यक है, जैसा कि सूक्ष्म मूल्यांकन ग्रिड पर बढ़ते प्रदर्शन अंतर से सिद्ध होता है।

लेखक वास्तविक दुनिया के अनुप्रयोगों के संबंध में अपने दावों में विनम्र हैं:

ज़ीरो-शॉट ट्रांसफर परिणामों को "प्रारंभिक" और "पुष्टि करने वाला" (corroborative) बताया गया है, न कि अभी तक डोमेन-विशिष्ट बेसलाइन्स (जैसे, NONMEM) के प्रतिस्पर्धी।
'कॉज़ल चैंबर' पर सफलता के लिए एक स्ट्रक्चरली अनसूटेड "व्हाइट नॉइज़" बेंचमार्क से स्पष्ट बाइनरी इंटरवेंशन और वास्तविक डायनेमिक्स वाले डेटासेट पर स्विच करने की आवश्यकता थी।
पेपर सीमाओं को स्वीकार करता है, जिनमें मल्टी-सीड रेप्लिकेशन की आवश्यकता, वर्तमान न्यूरल ड्रिफ्ट्स द्वारा टाइम-कोरिलेटेड नॉइज़ (केवल मार्कोव नॉइज़) को कैप्चर करने में असमर्थता, और वास्तविक डेटा ट्रांसफर की प्रारंभिक प्रकृति शामिल है।

यह कार्य स्वयं को वास्तविक निरंतर-समय कारण अनुमान की दिशा में एक आधारभूत कदम के रूप में स्थापित करता है, जो एक ऐसा निर्माण प्रदान करता है जो ट्रांसफॉर्मर्स को अनियमित अवलोकन अनुसूचियों वाले SDE-संचालित TSCMs के परिवार में कॉज़ल इन्फरेंस को एमोर्टाइज़ (amortize) करने की अनुमति देता है।