🤖 machine learning

Faithful Embeddings of Irregular and Asynchronous Data for Online Log-NCDEs

यह शोध पत्र Log-NCDEs के लिए एक निरंतर और आक्षेपित (injective) एम्बेडिंग विधि प्रस्तावित करता है जो बिना इंटरपोलेशन के डेटा वृद्धियों (increments) से सीधे लॉग-सिग्नेचरों का निर्माण करता है, जिससे अनियमित और विषम (asynchronous) समय-श्रृंखला डेटा की सटीक, कुशल और सुदृढ़ ऑनलाइन मॉडलिंग सक्षम होती है।

मूल लेखक: Benjamin Walker, Alexandre Bloch, Lingyi Yang, Sam Morley, Terry Lyons

प्रकाशित 2026-05-29

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Benjamin Walker, Alexandre Bloch, Lingyi Yang, Sam Morley, Terry Lyons

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

बड़ी समस्या: खाली जगहों को भरने की कोशिश करना

कल्पना कीजिए कि आप एक कहानी समझने की कोशिश कर रहे हैं, लेकिन आपके पास जो पन्ने हैं वे फटे हुए हैं, गायब हैं और बेतरतीब समय पर मिल रहे हैं। कभी आपको पूरा पन्ना मिलता है; तो कभी सिर्फ एक वाक्य।

अधिकांश कंप्यूटर मॉडल (जैसे वे जो AI चैटबॉट्स को चलाते हैं या शेयर की कीमतों की भविष्यवाणी करते हैं) ऐसे कहानियों को पढ़ने के लिए बनाए जाते हैं जहाँ पन्ने बिल्कुल क्रम में, एक के बाद एक, बिना किसी अंतराल के मिलते हैं। इस तरह के अव्यवस्थित और अनियमित डेटा को इन मॉडलों में फिट करने के लिए, वैज्ञानिक आमतौर पर "खाली जगहों को भरने" की कोशिश करते हैं। वे अनुमान लगाते हैं कि जो पन्ने उपलब्ध नहीं हैं, उनके बीच क्या हुआ होगा।

इंटरपोलेशन (Interpolation): दो बिंदुओं के बीच एक चिकनी रेखा खींचना।
इम्प्यूटेशन (Imputation): आस-पास के नंबरों के आधार पर एक गायब संख्या का अनुमान लगाना।

पेपर की आलोचना: लेखक तर्क देते हैं कि यह "अनुमान लगाना" खतरनाक है। यदि आप दो डेटा पॉइंट्स के बीच एक चिकनी रेखा खींचते हैं, तो आप एक ऐसी कहानी बना सकते हैं जो कभी हुई ही नहीं थी। आप कंप्यूटर को फर्जी जानकारी खिला रहे हैं, जिससे गलत निर्णय लिए जा सकते हैं।

समाधान: एक "निष्ठावान" (Faithful) संदेशवाहक

डेटा के बीच के अंतराल में क्या हुआ इसका अनुमान लगाने के बजाय, लेखक डेटा को कंप्यूटर तक भेजने का एक नया तरीका प्रस्तावित करते हैं। वे इसे "फिथफुल एम्बेडिंग" (Faithful Embedding) कहते हैं।

इसे एक संदेश सेवा (Messenger Service) की तरह समझें जो केवल वही रिपोर्ट करती है जो उसने देखा है, उससे अधिक कुछ नहीं।

पुराना तरीका (Interpolation): संदेशवाहक कहता है, "मैंने आपको 1:00 बजे देखा, और मैंने 2:00 बजे फिर देखा, इसलिए मैं मान लेता हूँ कि आप उन दोनों के बीच सीधी रेखा में चले।" (यह गलत हो सकता है; शायद आप दौड़े हों, रुक गए हों, या किसी दुकान पर गए हों)।
नया तरीका (Faithful): संदेशवाहक कहता है, "मैंने आपको 1:00 बजे देखा। फिर, 2:00 बजे, मैंने आपको फिर से देखा। उन दो समयों के बीच आपके स्थान में जो अंतर आया है, वह यह रहा।"

कंप्यूटर को यह जानने की ज़रूरत नहीं है कि आप बीच में कैसे चले; उसे केवल आपके शुरुआत, अंत और परिवर्तन को जानने की आवश्यकता है। यह डेटा को वास्तविकता के प्रति "निष्ठावान" रखता है।

यह कैसे काम करता है: "लॉग-सिग्नेचर" (Log-Signature) रेसिपी

यह पेपर एक विशिष्ट गणितीय उपकरण पेश करता है जिसे Log-NCDE (न्यूरल कंट्रोल्ड डिफरेंशियल इक्वेशन) कहा जाता है। इस प्रक्रिया को बिखरे हुए डेटा के साथ काम करने योग्य बनाने के लिए, उन्होंने अवलोकनों (observations) को गणित में बदलने के लिए एक विशेष रेसिपी बनाई है।

कल्पना कीजिए कि आप एक जंगल में एक हाइकर (पगडंडी पर चलने वाले) की यात्रा को ट्रैक कर रहे हैं, लेकिन आपको केवल बेतरतीब समय पर उनसे टेक्स्ट मैसेज मिलते हैं।

इन्क्रीमेंट (The Increment): "आप कहाँ हैं?" पूछने के बजाय, सिस्टम पूछता है "पिछले मैसेज के बाद आप कितनी दूर चले?" और "किस दिशा में?"
गिनती (The Count): यह भी नोट करता है, "अरे, एक मैसेज अभी आया!" यह महत्वपूर्ण है क्योंकि यदि हाइकर स्थिर रहता है लेकिन एक मैसेज भेजता है कि "मैं अभी भी यहीं हूँ," तो यह इस बात से अलग है कि उसने कोई मैसेज ही नहीं भेजा। सिस्टम इन घटनाओं को गिनता है ताकि वह ट्रैक न खो दे।
"लॉग-सिग्नेचर" (The Log-Signature): यह असली जादू है। यह यात्रा के एक पूरे हिस्से (एक अंतराल) को एक एकल, संक्षिप्त "फिंगरप्रिंट" में सारांशित करने का एक तरीका है।
- हर एक कदम को देखने के बजाय, सिस्टम एक विशिष्ट समय ब्लॉक के दौरान कुल परिवर्तन को देखता है।
- यह न केवल दूरी को पकड़ता है, बल्कि मोड़ों और घुमावों को भी पकड़ता है (जैसे कि यदि हाइकर एक घेरे में चला हो)। इसे "उच्च-क्रम की जानकारी" (higher-order information) को कैप्चर करना कहा जाता है।

यह गेम-चेंजर क्यों है?

लेखक दो मुख्य बातें सिद्ध करते हैं:

अनुमान की आवश्यकता नहीं: आपको दो डेटा पॉइंट्स के बीच एक चिकना रास्ता बनाने की ज़रूरत नहीं है। यदि आप केवल परिवर्तनों और समय के अंतराल को सटीक रूप से रिकॉर्ड करते हैं, तो एक स्मार्ट कंप्यूटर मॉडल उतना ही अच्छा (या बेहतर) सीख सकता है जितना कि यदि आपने उस रास्ते का अनुमान लगाया होता।
गति और दक्षता: क्योंकि यह सिस्टम समय के हिस्सों को इन "फिंगरप्रिंट्स" (लॉग-सिग्नेचर) में सारांशित कर देता है, यह डेटा को बहुत तेज़ी से प्रोसेस कर सकता है।
- उपमा: कल्पना कीजिए कि आप 1,000 पन्नों की किताब पढ़ रहे हैं।
  - पुराना तरीका: आप हर एक शब्द को एक-एक करके पढ़ते हैं, यहाँ तक कि उन्हें भी जिन्हें आप पहले से जानते हैं।
  - नया तरीका: आप हर अध्याय को एक वाक्य में सारांशित करते हैं, और फिर उन वाक्यों को पढ़ते हैं। आप पूरी कहानी बहुत तेज़ी से प्राप्त कर लेते हैं, और आप ऐसा तब भी कर सकते हैं जब किताब अभी लिखी जा रही हो (ऑनलाइन कंप्यूटेशन)।

परिणाम: कठिन डेटा, बेहतर उत्तर

टीम ने दो प्रकार की चुनौतियों पर परीक्षण किया:

सिंथेटिक डेटा (काल्पनिक दुनिया): उन्होंने कंप्यूटर सिमुलेशन बनाए जहाँ डेटा अनियमित रूप से, एसिंक्रोनसली (अलग-अलग चैनलों पर अलग-अलग समय पर) और विरल रूप से (बहुत सारी जानकारी गायब) आता था।
- परिणाम: उनकी विधि मजबूत थी। भले ही 95% डेटा गायब था, उनका मॉडल फिर भी अच्छी तरह से काम कर रहा था। अन्य मॉडल जो "खाली जगहों को भरने" पर निर्भर थे, बुरी तरह विफल रहे क्योंकि उनके अनुमान गलत थे।
वास्तविक दुनिया का डेटा (असली दुनिया): उन्होंने दिल की धड़कन या कीड़ों की गतिविधियों जैसी चीजों को वर्गीकृत करने के लिए उपयोग किए जाने वाले मानक डेटासेट पर परीक्षण किया।
- परिणाम: उनके मॉडल तेज़ थे (कुछ मामलों में 3,000 गुना तक तेज़) और अधिक सटीक थे, खासकर जब डेटा बिखरा हुआ या अव्यवस्थित था।

निष्कर्ष

यह पेपर तर्क देता है कि जब बिखरे हुए, वास्तविक दुनिया के डेटा के साथ काम करना हो, तो ईमानदारी ही सबसे अच्छी नीति है। अंतराल में क्या हुआ इसका अनुमान लगाने की कोशिश न करें। इसके बजाय, जो आपने देखा, कितना बदलाव आया और कब हुआ, इसे सटीक रूप से रिकॉर्ड करें। इस ईमानदार डेटा को पैकेज करने के लिए एक विशेष गणितीय सारांश (लॉग-सिग्नेचर) का उपयोग करके, आप ऐसे AI मॉडल बना सकते हैं जो तेज़, अधिक सटीक और वास्तविक दुनिया की अराजकता को संभालने में बहुत बेहतर हैं।

तकनीकी सारांश: अनियमित और एसिंक्रोनस डेटा के लिए निष्ठावान एम्बेडिंग (Faithful Embeddings) हेतु ऑनलाइन Log-NCDEs

समस्या विवरण

कंटीन्यूअस-टाइम मशीन लर्निंग मॉडल, जैसे कि न्यूरल कंट्रोल्ड डिफरेंशियल इक्वेशंस (NCDEs) और Log-NCDEs, अनियमित, एसिंक्रोनस और स्पार्स (sparse) टाइम-सीरीज डेटा को प्रोसेस करने के लिए एक स्वाभाविक ढांचा प्रदान करते हैं। हालांकि, एक महत्वपूर्ण डिज़ाइन बाधा बनी हुई है: डिस्क्रीट ऑब्जर्वेशन को एक निरंतर-समय पथ (continuous-time path) में कैसे एम्बेड किया जाए जिससे आर्टिफैक्ट्स (artifacts) उत्पन्न न हों।

मानक दृष्टिकोण डेटा को फीड करने से पहले एक निरंतर ऑब्जर्वेशन पाथ को पुनर्गठित करने के लिए इंटरपोलेशन (interpolation) या इम्प्यूटेशन (imputation) पर निर्भर करते हैं। जैसा कि पेपर में दर्शाया गया है, इन विधियों के महत्वपूर्ण नुकसान हैं:

इम्प्यूटेशन (Imputation) उन लुप्त मानों को भर देता है जो वास्तव में कभी देखे ही नहीं गए।
इंटरपोलेशन (Interpolation) डेटा की देखी गई रेंज से बाहर के मान उत्पन्न कर सकता है या मापन के बीच कृत्रिम गतिकी (artificial dynamics) थोप सकता है।
ये पुनर्निर्माण चरण प्रतिनिधित्व में "अनदेखे व्यवहार" (unobserved behaviour) को शामिल कर देते हैं, जिससे मॉडल को संभावित रूप से अवास्तविक इनपुट को संसाधित करने के लिए मजबूर होना पड़ता है।

पेपर का तर्क है कि एक निष्ठावान (faithful) निरंतर-समय प्रतिनिधित्व को केवल उसी जानकारी को संरक्षित करना चाहिए जो वास्तव में देखी गई है, और अनदेखे व्यवहार के पुनर्निर्माण को मॉडलिंग प्रक्रिया पर छोड़ देना चाहिए, न कि एम्बेडिंग प्रक्रिया पर।

कार्यप्रणाली (Methodology)

1. सैद्धांतिक आधार: निष्फेद एम्बेडिंग (Faithful Embeddings)

लेखक एक निष्ठावान एम्बेडिंग (faithful embedding) की अवधारणा को औपचारिक रूप देते हैं। वे एक यूनिवर्सल ट्रांसफर परिणाम (लेम्मा 1) सिद्ध करते हैं, जो कहता है कि यदि डेटा स्पेस $X$ और मॉडल इनपुट स्पेस $P$ हासडॉर्फ टोपोलॉजिकल स्पेस (Hausdorff topological spaces) हैं, और एम्बेडिंग $\phi: X \to P$ निरंतर (continuous) और इंजेक्टिव (injective) है, तो $P$ के कॉम्पैक्ट सबसेट्स पर डाउनस्ट्रीम मॉडल की सार्वभौमिकता (universality) मूल डेटा स्पेस $X$ पर स्थानांतरित हो जाती है।

यह इंगित करता है कि NCDEs और Log-NCDEs जैसे यूनिवर्सल मॉडल्स के लिए, एम्बेडिंग को पथ का पुनर्निर्माण करने की आवश्यकता नहीं है; इसे केवल एक निरंतर, इंजेक्टिव मैप होने की आवश्यकता है जो अलग-अलग डेटा स्ट्रीम की विशिष्टता को बनाए रखे।

2. प्रस्तावित एम्बेडिंग: Log-NCDE कंट्रोल पाथ

Morrill et al. [2022] द्वारा NCDEs के लिए पेश किए गए रेक्टिलिनियर कंट्रोल पाथ (rectilinear control path) पर आधारित, लेखक विशेष रूप से Log-NCDEs के लिए एक निष्फेद एम्बेडिंग का निर्माण करते हैं। मानक NCDEs, जो कंट्रोल पाथ के पॉइंटवाइज मानों का उपयोग करते हैं, के विपरीत, Log-NCDEs इंटरवल लॉग-सिग्नेचर (interval log-signatures) पर कार्य करते हैं।

प्रस्तावित एम्बेडिंग इस प्रकार कार्य करती है:

इनपुट प्रतिनिधित्व (Input Representation): इनपुट में डिस्क्रीट ऑब्जर्वेशन $x = ((t_0, s_0, x_0), \dots, (t_n, s_n, x_n))$ की एक स्ट्रीम और निरंतर रूप से देखे गए वेरिएबल्स $C$ (जैसे, समय) शामिल हैं।
इन्क्रीमेंटल एनकोडिंग (Incremental Encoding): मानों का इंटरपोलेशन करने के बजाय, प्रत्येक ऑब्जर्वेशन को एक ली-अलजेब्रा इन्क्रीमेंट (Lie-algebra increment) $\Delta_i$ $Δ_{i}$ में बदल दिया जाता है। यह इन्क्रीमेंट कैप्चर करता है:
- पिछले ऑब्जर्वेशन के बाद से प्रत्येक देखे गए चैनल के लिए मान में परिवर्तन।
- एक समर्पित "काउंट कोऑर्डिनेट" में इन्क्रीमेंट, ताकि दोहराए गए मान और नए ऑब्जर्वेशन की अनुपस्थिति के बीच अंतर किया जा सके।
- वैकल्पिक रूप से, उच्च-क्रम की स्थानीय जानकारी (जैसे, प्रीकंप्यूटेड साइन्ड एरिया) यदि उपलब्ध हो।
इंटरवल कंपोजिशन (Interval Composition): किसी भी क्वेरी अंतराल $[\alpha, \beta)$ $[α, β)$ के लिए, एम्बेडिंग एक सिग्नेचर फैक्टर $G_{\alpha, \beta}$ $G_{α, β}$ का निर्माण करती है जो निम्नलिखित को कंपोज़ करती है:
- घटनाओं के अंतराल के दौरान निरंतर रूप से देखे गए वेरिएबल्स (जैसे, समय) से सिग्नेचर फैक्टर्स।
- अंतराल के भीतर होने वाले प्रत्येक डिस्क्रीट इवेंट के लिए एक्सपोनेंशियल फैक्टर्स $E_i = \exp(\Delta_i)$ ।
लॉग-सिग्नेचर एक्सट्रैक्शन (Log-Signature Extraction): कंपोज़ किए गए सिग्नेचर $G_{\alpha, \beta}$ पर लॉग लगाने से अंतराल लॉग-सिग्नेचर $\Phi_{\alpha, \beta}$ प्राप्त होता है।

यह निर्माण ऑनलाइन कंप्यूटेशन और एसोसिएटिव स्कैन्स (associative scans) के माध्यम से पैरेलल-इन-टाइम प्रोसेसिंग को सक्षम बनाता है, क्योंकि अंतराल का लॉग-सिग्नेचर उस अंतराल के अंत तक के ऑब्जर्वेशन पर निर्भर करता है।

3. मॉडल आर्किटेक्चर: Log-SLiCE

लेखक इस एम्बेडिंग को स्ट्रक्चर्ड लीनियर CDEs (SLiCEs) के भीतर लागू करते हैं, विशेष रूप से Log-SLiCE वेरिएंट के रूप में।

अंतराल पर हिडन स्टेट का विकास अंतराल लॉग-सिग्नेचर द्वारा संचालित एक Log-ODE अपडेट द्वारा नियंत्रित होता है।
लीनियर मॉडल्स के लिए, अंतराल फ्लो का एक क्लोज्ड-फॉर्म समाधान है जिसमें लॉग-सिग्नेचर के मैट्रिक्स एक्सपोनेंशियल शामिल हैं।
यह संरचना अंतराल के माध्यम से हिडन स्टेट्स को एसोसिएटिव स्कैन का उपयोग करके समानांतर में कंप्यूट करने की अनुमति देती है, जिससे अनुक्रमिक ODE सॉल्वर की तुलना में कम्प्यूटेशनल जटिलता काफी कम हो जाती है।

मुख्य योगदान (Key Contributions)

निफेद एम्बेडिंग का औपचारिकीकरण: पेपर सिद्ध करता है कि निरंतर, इंजेक्टिव एम्बेडिंग्स मॉडल इनपुट स्पेस से वापस डेटा स्पेस में अपनी सार्वभौमिकता को स्थानांतरित करती हैं, जो इंटरपोलेशन चरणों को हटाने को उचित ठहराती हैं।
नवीन एम्बेडिंग निर्माण: अनियमित स्ट्रीम के लिए एक निरंतर और इंजेक्टिव एम्बेडिंग जो ऑब्जर्वेशन को टेंसर-अलजेब्रा फैक्टर्स (इन्क्रीमेंट्स) के रूप में रिकॉर्ड करती है और बिना इंटरपोलेशन के उन्हें अंतराल लॉग-सिग्नेचर्स में कंपोज़ करती है।
कुशल Log-SLiCE कार्यान्वयन: Log-NCDEs के लिए एक पैरेलल-इन-टाइम एल्गोरिदम जो अंतराल लॉग-सिग्नेचर फॉर्मूलेशन का लाभ उठाता है, जिससे लंबी सीक्वेंसों पर कुशल ट्रेनिंग और इन्फरेंस संभव होता है।
अनुभवजन्य सत्यापन (Empirical Validation): अनियमितता, एसिंक्रोनस और डेटा स्पर्सिटी (sparsity) के प्रति सटीकता, दक्षता और मजबूती प्रदर्शित करने वाले व्यापक प्रयोग।

प्रयोगात्मक परिणाम (Experimental Results)

1. दक्षता और सटीकता (EigenWorms)

EigenWorms डेटासेट (प्रति सीरीज़ 17,984 ऑब्जर्वेशन) पर, Log-ODE विधि और Log-SLiCE (BD-SLiCE) के संयोजन ने प्राप्त किया:

सटीकता: 86.1% टेस्ट एक्यूरेसी (मानक NCDE के 75.0% के मुकाबले), जो 11.1 प्रतिशत अंक का सुधार है।
गति: ट्रेनिंग स्टेप समय में लगभग 3,000 गुना की कमी (26.02s से 0.009s तक)।
मेमोरी: मानक NCDEs के समान GPU मेमोरी का उपयोग बनाए रखा।

2. अनियमित सैंपलिंग के लिए सामान्यीकरण (Synthetic Coupled Data)

एक सिंथेटिक साइनुसोइडल सिस्टम का उपयोग करके, लेखकों ने क्रॉस-रेजीम जनरलइज़ेशन का परीक्षण किया।

एसिंक्रोनस स्पार्स (asynchronous sparse) डेटा पर प्रशिक्षित मॉडल (सबसे कठिन रेजीम) अन्य सभी सैंपलिंग रेजीम्स (सिंक्रोनस रेगुलर, सिंक्रोनस इर रेगुलर, एसिंक्रोनस इर रेगुलर) में मजबूत रहे।
रेगुलर डेटा पर प्रशिक्षित मॉडल एसिंक्रोनस स्पार्स सेटिंग्स में विफल रहे, जिससे पता चलता कि उन्होंने फिक्स्ड सैंपलिंग ग्रिड के आधार पर शॉर्टकट सीख लिए थे।
निष्फेद एम्बेडिंग ने मॉडल्स को ऑब्जर्वेशन ग्रिड की परवाह किए बिना अंतर्निहित गतिकी सीखने में सक्षम बनाया।

3. उच्च-क्रम सूचना का दोहन (Brownian Motion)

ब्राउनियन मोशन द्वारा संचालित एक लीनियर सिस्टम में, जहाँ समाधान दूसरे-क्रम के ली-ब्रैकेट टर्म्स (Lévy area) पर निर्भर करता है:

लेवल 2 लॉग-सिग्नेचर (जिसमें एरिया इंफॉर्मेशन शामिल है) का उपयोग करने वाले मॉडल्स ने लेवल 1 (इन्क्रीमेंट्स) का उपयोग करने वालों की तुलना में काफी कम मीन स्क्वेर्ड एरर (MSE) प्राप्त किया।
दृष्टिकोण ने सफलतापूर्वक उच्च-क्रम की प्रीकंप्यूटेड जानकारी को शामिल किया, जो प्रथम-क्रम के इन्क्रीमेंट्स से परे लचीलापन प्रदर्शित करता है।

4. इनपुट ड्रॉपिंग के प्रति मजबूती (UEA Benchmarks)

छह UEA मल्टीवेरिएट टाइम-सीरीज क्लासिफिकेशन डेटासेट्स पर, लेखकों ने गंभीर इनपुट ड्रॉपिंग (95% तक ऑब्जर्वेशन हटाना) का अनुकरण किया।

BD-SLiCE ने प्रस्तावित एम्बेडिंग के साथ उच्च प्रदर्शन बनाए रखा, जो 64.0% (कोई ड्रॉप नहीं) से गिरकर केवल 62.5% (95% ड्रॉप) रह गया।
इसने सभी ड्रॉपिंग स्तरों पर सर्वश्रेष्ठ औसत रैंक हासिल की, और रिकरेंट बेसलाइन्स (S5, LRU, S6, Mamba) और मानक NCDEs को, विशेष रूप से गंभीर स्पर्सिफिकेशन के तहत पछाड़ दिया।

महत्व और दावे

पेपर का दावा है कि निरंतर-समय प्रतिनिधित्व को अनोखी व्यवहार के पुनर्निर्माण के बजाय देखे गए डेटा को संरक्षित करने को प्राथमिकता देनी चाहिए। "निफेद एम्बेडिंग" को औपचारिक रूप देकर और यह सिद्ध करके कि वे डाउनस्ट्रीम मॉडल्स की सार्वभौमिकता को बनाए रखते हैं, लेखक इंटरपोलेशन-आधारित एम्बेडिंग को छोड़ने का सैद्धांतिक औचित्य प्रदान करते हैं।

प्रस्तावित विधि इंटरपोलेशन-आधारित एम्बेडिंग के लिए एक निफेद, ऑनलाइन और कुशल विकल्प प्रदान करती है। यह इनपुट सैंपलिंग समय को आउटपुट क्वेरी ग्रिड से अलग करती है, पैरेलल कंप्यूटेशन का समर्थन करती है, और अनियमितता, एसिंक्रोनस और डेटा स्पर्सिटी के प्रति बेहतर मजबूती प्रदर्शित करती है। परिणाम बताते हैं कि यूनिवर्सल निरंतर-समय मॉडल्स के लिए, एम्बेडिंग की गुणवत्ता इस बात में निहित है कि वह देखे गए इन्क्रीमेंट्स और अंतराल को कितनी निष्ठा से एनकोड करती है, न कि इसमें कि वह ऑब्जर्वेशन के बीच के पथ का अनुमान कैसे लगाती है।