🤖 machine learning

Multivariate Time Series Forecasting needs Cross Variable Loss

यह शोध पत्र क्रॉस-वेरिएबल लॉस (CvLoss) का प्रस्ताव करता है, जो एक संरचनात्मक रेगुलराइज़र (structural regularizer) है जो भविष्य के पूर्वानुमानों में क्रॉस-वेरिएबल निर्भरताओं को स्पष्ट रूप से बाधित करके डायरेक्ट फोरकास्टिंग (Direct Forecasting) में मौजूद उद्देश्य अंतराल (objective gap) को संबोधित करता है, जिससे मल्टीवेरिएट टाइम सीरीज़ फोरकास्टिंग मॉडल्स के प्रदर्शन में सुधार होता है।

मूल लेखक: Kuiye Ding, Yifan Hu, Hanchen Wang, Hao Xue

प्रकाशित 2026-08-07

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Kuiye Ding, Yifan Hu, Hanchen Wang, Hao Xue

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप पूरे एक सप्ताह के लिए एक शहर के मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं। आपके पास सैकड़ों सेंसरों का डेटा है: तापमान, आर्द्रता (humidity), हवा की गति और वायु दाब। यदि आप हवा को देखे बिना कल के तापमान का अनुमान लगाने की कोशिश करते हैं, या आर्द्रता की जाँच किए बिना हवा का अनुमान लगाने की कोशिश करते हैं, तो आप गलत हो सकते हैं। वास्तविक दुनिया में, ये चीजें अलग-थलग नहीं होती हैं; ये एक साथ नृत्य करती हैं। जब हवा तेज होती है, तो तापमान गिर जाता है, और आर्द्रता बदल जाती है। यही मल्टीवेरिएट टाइम सीरीज़ फोरकास्टिंग (Multivariate Time Series Forecasting) का मूल है: एक ऐसे भविष्य की भविष्यवाणी करना जहाँ कई अलग-अलग चर (variables) साझा नियमों और छिपे हुए संबंधों से प्रभावित होकर एक साथ विकसित होते हैं।

वर्षों से, सबसे स्मार्ट कंप्यूटर मॉडल इस समस्या को इस तरह हल करने की कोशिश कर रहे हैं जैसे प्रत्येक चर को कक्षा में एक अलग छात्र की तरह माना जाए। वे तापमान के इतिहास को देखते हैं, भविष्य के तापमान की भविष्यवाणी करते हैं, फिर हवा के इतिहास को देखते हैं, और भविष्य की हवा की भविष्यवाणी करते हैं, और यह सब एक-दूसरे से बात किए बिना करते हैं। यह दृष्टिकोण, जिसे डायरेक्ट फोरकास्टिंग (Direct Forecasting) कहा जाता है, एक ऐसे छात्र से निबंध लिखने के लिए कहने जैसा है जिसने कभी यह नहीं जांचा कि उसकी कहानी दूसरों से मेल खाती है या नहीं। हालांकि यह सरल कार्यों के लिए ठीक काम करता है, लेकिन यह तब विफल हो जाता है जब चर गहराई से जुड़े होते हैं, जैसे कि एक व्यस्त शहर में ट्रैफिक लाइट या वित्तीय बाजार में शेयर की कीमतें। मॉडल औसत रूप से व्यक्तिगत संख्याओं को "सही" तो बता सकते हैं, लेकिन वे जो समग्र चित्र बनाते हैं वह अराजक और भौतिक रूप से असंभव होता है।

यह शोध पत्र, जिसका शीर्षक है "Multivariate Time Series Forecasting needs Cross Variable Loss", इसी समस्या को संबोधित करता है। लेखक, कुइये डिंग (Kuiye Ding) और उनकी टीम का तर्क है कि वर्तमान में कंप्यूटर जिस तरह से भविष्य की भविष्यवाणी करने के लिए सीखते हैं, उसमें एक महत्वपूर्ण कड़ी गायब है: भविष्य में स्वयं चरों के बीच का संबंध। वे CvLoss (Cross-Variable Loss) नामक एक नया उपकरण प्रस्तावित करते हैं जो कंप्यूटर को डेटा के "सामाजिक नियमों" का सम्मान करने के लिए मजबूर करता है, यह सुनिश्चित करता है कि यदि एक चर उछलता है, तो दूसरे चर इस तरह से प्रतिक्रिया दें जो तर्कसंगत हो।

समस्या: "लोन वुल्फ" (अकेला योद्धा) रणनीति

लेखकों की खोज को समझने के लिए, आइए देखें कि वर्तमान मॉडल कैसे काम करते हैं। कल्पना कीजिए कि दोस्तों का एक समूह एक सरप्राइज पार्टी की योजना बना रहा है। वर्तमान विधि (Direct Forecasting) प्रत्येक मित्र से स्वतंत्र रूप से पार्टी के विवरण का अनुमान लगाने के लिए पूछने जैसी है। मित्र A समय का अनुमान लगाता है, मित्र B स्थान का, और मित्र C भोजन का। वे व्यक्तिगत रूप से सही हो सकते हैं, लेकिन यदि मित्र A कहता है "दोपहर" और मित्र B कहता है "आधी रात", तो योजना विफल हो जाती है।

डेटा की दुनिया में, यह "लोन वुल्फ" रणनीति इस तथ्य को अनदेखा करती है कि चर अक्सर एक साथ विकसित होते हैं। एक शहर के ट्रैफिक नेटवर्क में, यदि अचानक बारिश होती है, तो ट्रैफिक केवल एक सेंसर पर धीमा नहीं होता; यह सैकड़ों सेंसरों पर एक साथ धीमा हो जाता है। यदि कोई मॉडल भविष्यवाणी करता है कि एक सड़क जाम है जबकि समानांतर सड़क खाली है, तो इसने सिस्टम की भौतिक वास्तविकता का उल्लंघन किया है। लेखक बताते हैं कि मानक प्रशिक्षण विधियाँ, जो केवल प्रत्येक व्यक्तिगत भविष्यवाणी की त्रुटि को कम करने पर ध्यान केंद्रित करती हैं (जैसे कि यह देखना कि क्या अनुमानित तापमान वास्तविक तापमान से मेल खाता है), इन संरचनात्मक गलतियों को पकड़ने में विफल रहती हैं। वे इस विसंगति को "ऑब्जेक्टिव गैप" (Objective Gap) कहते हैं। यह एक छात्र को केवल उनकी वर्तनी (spelling) के आधार पर ग्रेड देने जैसा है, यह नजरअंदाज करते हुए कि उनकी कहानी का कोई तार्किक अर्थ ही नहीं है।

समाधान: "ग्रुप चैट" रेगुलराइज़र

लेखक CvLoss पेश करते हैं, जो एक चतुर एड-ऑन है जो मॉडल के लिए एक सख्त शिक्षक या ग्रुप चैट मॉडरेटर की तरह कार्य करता है। केवल यह जाँचने के बजाय कि अंतिम संख्याएँ सत्य के कितने करीब हैं, CvLoss यह जाँचता है कि संख्याओं के बीच के संबंध सही हैं या नहीं।

यह कैसे काम करता है, एक मनोरंजक उपमा का उपयोग करते हुए:
कल्पना कीजिए कि मॉडल एक गाना बजाने वाला बैंड है। मानक विधि (MSE) प्रत्येक संगीतकार को व्यक्तिगत रूप से सुनती है। यदि ड्रमर ताल से थोड़ा भटक जाता है, तो यह उसे दंडित करती है। लेकिन इसे इस बात की परवाह नहीं है कि ड्रमर जैज़ रिदम बजा रहा है जबकि गिटारवादक हेवी मेटल रिफ बजा रहा है। गाना सुनने में बहुत खराब लगता है, भले ही व्यक्तिगत स्वर अनुरोध के अनुसार "करीब" हों।

CvLoss वह कंडक्टर है जो पूरे बैंड को सुनता है। यह संगीतकारों के बीच के "किनारों" (edges) की जाँच करता है। यदि ड्रमर तेज होता है, तो बेस गिटार वादक को भी तेज होना चाहिए। यदि गिटारवादक धीमा होता है, तो गायक को ताल बदलनी चाहिए। CvLoss मॉडल को दंडित करता है यदि दो चरों की भविष्यवाणियों के बीच का अंतर उनके वास्तविक पिछले व्यवहार के अंतर से मेल नहीं खाता है। यह मॉडल को यह सीखने के लिए मजबूर करता है कि "यदि वेरिएबल A ऊपर जाता है, तो वेरिएबल B आमतौर पर एक विशिष्ट तरीके से ऊपर (या नीचे) जाता है।"

लेखक इसे एक "स्ट्रक्चरल रेगुलराइज़र" के रूप में वर्णित करते हैं। इसे विभिन्न चरों की भविष्यवाणियों को जोड़ने वाले एक रबर बैंड के रूप में सोचें। यदि मॉडल एक ऐसी दिशा में एक भविष्यवाणी को खींचने की कोशिश करता है जो उसके पड़ोसियों के साथ संबंध को तोड़ देती है, तो रबर बैंड वापस खिंच जाता है और त्रुटि को सुधार देता है। यह सुनिश्चित करता है कि भविष्य का पूर्वानुमान एक सुसंगत, सिंक्रोनाइज्ड सिस्टम की तरह दिखे, न कि यादृच्छिक अनुमानों के संग्रह की तरह।

उन्होंने क्या पाया: एक बेहतर सामूहिक प्रदर्शन

टीम ने बिजली के उपयोग, यातायात प्रवाह और मौसम के पैटर्न सहित विभिन्न वास्तविक दुनिया के डेटासेट पर इस नए "ग्रउंट चैट" नियम का परीक्षण किया। उन्होंने CvLoss को आज उपलब्ध कई सबसे उन्नत पूर्वानुमान मॉडलों में शामिल किया।

परिणाम सुसंगत और प्रभावशाली थे। इस एकल संरचनात्मक नियम को जोड़ने से मॉडल भविष्य की भविष्यवाणी करने में काफी बेहतर हो गए।

सटीकता में वृद्धि: ट्रैफिक फ्लो जैसे जटिल डेटासेट (800 से अधिक सेंसरों के साथ) पर, त्रुटि कुछ मामलों में लगभग 11% कम हो गई। बिजली के डेटा पर भी सुधार काफी महत्वपूर्ण थे।
संरचना को ठीक करना: लेखकों ने दिखाया कि जबकि पुराने मॉडल ट्रैफिक की सही मात्रा की भविष्यवाणी कर सकते थे, वे अक्सर पैटर्न को गलत कर देते थे। CvLoss के साथ, मॉडलों ने वास्तविक जीवन में होने वाले सिंक्रोनाइज्ड उछाल और गिरावट की भविष्यवाणी करना सीख लिया।
कोई अतिरिक्त लागत नहीं: सबसे दिलचस्प निष्कर्षों में से एक यह है कि यह "कंडक्टर" बैंड को धीमा नहीं करता है। CvLoss का उपयोग केवल मॉडल के सीखने (ट्रेनिंग) के दौरान किया जाता है। एक बार जब मॉडल वास्तविक दुनिया में भविष्यवाणियां करने के लिए तैयार हो जाता है, तो रबर बैंड हटा दिए जाते हैं, और मॉडल पहले की तरह ही तेज़ चलता है।

उन्होंने क्या खारिज किया

यह शोध पत्र इस बारे में बहुत स्पष्ट है कि CvLoss क्या नहीं है। यह खराब डेटा को ठीक करने वाला कोई जादुई डंडा नहीं है, और न ही इसके लिए यह आवश्यक है कि मॉडल का ढांचा पूरी तरह से नया हो। लेखक स्पष्ट रूप से कहते हैं कि आपको पूरा कंप्यूटर मस्तिष्क फिर से बनाने की आवश्यकता नहीं है; आपको बस यह बदलने की आवश्यकता है कि यह कैसे सीखता है। वे इस विचार को भी खारिज करते हैं कि हमें यह जानने की आवश्यकता है कि प्रत्येक चर दूसरे से कैसे जुड़ता है, उसका सटीक, जटिल गणितीय सूत्र पहले से ही क्या है। CvLoss तब भी काम करता है जब मॉडल केवल यह मान लेता है कि "सब कुछ एक-दूसरे से जुड़ा हो सकता है," जिससे डेटा को विशिष्ट कनेक्शन सिखाने की अनुमति मिलती है।

निष्कर्ष

यह शोध पत्र सुझाव देता है कि जटिल प्रणालियों की भविष्यवाणी करने का भविष्य कंप्यूटर को केवल संख्याओं के बारे में नहीं, बल्कि संबंधों के बारे में सिखाने में निहित है। एक सरल "क्रॉस-वेरिएबल लॉस" जोड़कर, हम मॉडलों को भौतिक रूप से असंभव भविष्यवाणियां करने से रोक सकते हैं और उन्हें वास्तविक दुनिया के समन्वित नृत्य को समझने में मदद कर सकते हैं। यह एक याद दिलाता है कि जुड़ी हुई दुनिया में, आप किसी एक चीज़ के भविष्य की भविष्यवाणी तब तक नहीं कर सकते जब तक कि आप यह नहीं समझते कि वह बाकी सब के साथ कैसे चलती है। लेखक दिखाते हैं कि थोड़े से संरचनात्मक मार्गदर्शन के साथ, मौजूदा सर्वश्रेष्ठ मॉडल भी बहुत बेहतर तरीके से गाना बजाना सीख सकते हैं।

तकनीकी सारांश: मल्टीवेरिएट टाइम सीरीज़ फोरकास्टिंग के लिए क्रॉस-वेरिएबल लॉस (Cross-Variable Loss)

1. समस्या की परिभाषा और प्रेरणा

मल्टीवेरिएट टाइम सीरीज़ फोरकास्टिंग (MTSF) का लक्ष्य कई परस्पर संबंधित चरों (variables) के भविष्य के मूल्यों की भविष्यवाणी करना है। जबकि हालिया प्रगति मुख्य रूप से इनपुट-साइड चैनल डिपेंडेंसी (ऐतिहासिक विशेषताओं से प्रतिनिधित्व निकालना) को मॉडल करने पर केंद्रित रही है, यह शोध पत्र तर्क देता है कि आउटपुट-साइड डिपेंडेंसी—अर्थात भविष्य के पूर्वानुमानों के बीच अंतर्निहित सहसंबंधों—की काफी उपेक्षा की गई है।

वर्तमान मुख्यधारा के दृष्टिकोण मुख्य रूप से डायरेक्ट फोरकास्टिंग (DF) प्रतिमान का पालन करते हैं। इस प्रतिमान में, एक मॉडल $f_\theta: \mathbb{R}^{H \times D} \to \mathbb{R}^{T \times D}$ मैपिंग सीखता है ताकि $D$ चरों के लिए $T$ -स्टेप पूर्वानुमान उत्पन्न किए जा सकें। हालाँकि, मानक DF प्रशिक्षण पॉइंट-वाइज लॉस फंक्शन्स (जैसे, मीन स्क्वेर्ड एरर, MSE) पर निर्भर करता है जो प्रत्येक टाइम-स्टेप और वेरिएबल एंट्री को एक स्वतंत्र स्केलर प्रेडिक्शन के रूप में मानता है।

लेखक इस दृष्टिकोण में एक महत्वपूर्ण सीमा की पहचान करते हैं:

भौतिक विसंगति (Physical Mismatch): वास्तविक दुनिया के मल्टीवेरेट सिस्टम (जैसे, वित्तीय बाजार, ट्रैफिक नेटवर्क) साझा सिस्टम डायनेमिक्स प्रदर्शित करते हैं जहाँ चर एक साथ विकसित होते हैं। भविष्य के पूर्वानुमानों को अंधाधुंध अलग करना इन भौतिक नियमों का उल्लंघन करता है, जिससे ऐसे पूर्वानुमान मिल सकते हैं जो संख्यात्मक रूप से पॉइंट-वाइज सटीक तो हो सकते हैं लेकिन संरचनात्मक रूप से विरोधाभासी (जैसे, बाजार के नियमों या भौतिक बाधाओं का उल्लंघन करना) हो सकते हैं।
ऑब्जेक्टिव गैप (The Objective Gap): संभाव्यता (probabilistic) के दृष्टिकोण से, मानक पॉइंट-वाइज MSE अनुकूलन यह मानता है कि प्रेडिक्शन रेसिडुअल्स (residuals) एक पूरी तरह से स्वतंत्र, आइसोट्रोपिक गौसियन वितरण (डायगोनल कोवेरिएंस मैट्रिक्स) का पालन करते हैं। हालाँकि, क्रॉस-वेरिएबल और लैग्ड डिपेंडेंसी के कारण, रेसिडुअल्स का वास्तविक स्पैटियोटेम्पोरल कोवेरिएंस मैट्रिक्स महत्वपूर्ण नॉन-जीरो ऑफ-डायगोनल तत्वों वाला होता है। यह मानक लॉस और डेटा के वास्तविक जॉइंट डिस्ट्रीब्यूशन के बीच एक सैद्धांतिक "ऑब्जेक्टिव गैप" ( $\Delta \neq 0$ ) बनाता है। फलस्वरूप, पॉइंट-वाइज MSE को कम करना मूल डेटा के जॉइंट ज्योमेट्रिक टोपोलॉजी को कैप्चर करने में विफल रहता है।

2. कार्यप्रणाली: क्रॉस-वेरिएबल लॉस (CvLoss)

इस ऑब्जेक्टिव गैप को संबोधित करने के लिए, लेखक क्रॉस-वेरिएबल लॉस (CvLoss) का प्रस्ताव करते हैं, जो एक प्लग-इन स्ट्रक्चरल रेगुलराइज़र है जो स्पष्ट रूप से विभिन्न चरों के बीच पूर्वानुमान रेसिडुअल्स की निरंतरता को नियंत्रित करता है।

2.1 सैद्धांतिक आधार

लेखक एक ग्राफ-स्ट्रक्चर्ड परिप्रेक्ष्य का उपयोग करके समस्या को औपचारिक रूप देते हैं। वे प्रेडिक्शन एरर वेक्टर $e$ को परिभाषित करते हैं और यह मानते हैं कि वास्तविक रेसिडुअल्स एक स्ट्रक्चर्ड प्रिसिजन मैट्रिक्स $\Sigma_{ST}^{-1}$ वाले मल्टीवेरिएट गौसियन वितरण का पालन करते हैं जिसमें नॉन-जीरो ऑफ-डायगोनल तत्व होते हैं।

प्रपोजिशन 3.2 स्थापित करता है कि एक स्ट्रक्चर्ड प्रिसिजन मैट्रिक्स वाले गौसियन के नेगेटिव लॉग-लाइक्लीहुड को कम करना, मानक MSE को एक क्रॉस-वेरिएबल ग्राफ पर स्क्वेर्ड ग्राफ टोटल वेरिएशन (TV) पेनल्टी के साथ कम करने के बराबर है।
जबकि सिद्धांत एक $\ell_2$ (स्क्वेर्ड) पेनल्टी का सुझाव देता है, लेखक अनुभवजन्य रूप से पेनल्टी टर्म के लिए $\ell_1$ नॉर्म चुनते हैं। यह चुनाव स्थानीय विसंगतियों या वेरिएबल-विशिष्ट झटकों के प्रति कम संवेदनशील होने की आवश्यकता से प्रेरित है जो एक स्क्वेर्ड पेनल्टी पर हावी हो सकते हैं, जबकि ग्राफ-लेवल रेसिड्यूल कंसिस्टेंसी को बढ़ावा देना भी आवश्यक है।

2.2 लॉस फॉर्मूलेशन

CvLoss पैच नोड्स (patch nodes) पर कार्य करता है। फोरकास्ट होराइजन $T$ को लंबाई $L$ के $P$ गैर-ओवरलैपिंग पैच में विभाजित किया गया है। प्रत्येक नोड $v$ एक विशिष्ट वेरिएबल के लिए एक पैच का प्रतिनिधित्व करता है।

ग्राफ निर्माण: एक क्रॉस-वेरिएबल ग्राफ बनाया जाता है जहाँ किनारे (edges) चरों को जोड़ते हैं। लेखक तीन प्रकार के किनारों को परिभाषित करते हैं:
1. सिनक्रोनस एजेस (Synchronous edges): एक ही टाइम स्टेप पर चरों को जोड़ते हैं (समवर्ती इंटरैक्शन को कैप्चर करते हैं)।
2. एसिंक्रोनस एजेस (Asynchronous edges): अलग-अलग टाइम स्टेप्स पर चरों को जोड़ते हैं (लैग्ड प्रोपेगेशन को कैप्चर करते हैं)।
3. फुली कनेक्टेड एजेस (Fully connected edges): डिफॉल्ट सेटिंग, जिसमें डोमेन-विशिष्ट प्रायर्स के बिना कवरेज को अधिकतम करने के लिए सिनक्रोनस और एसिंक्रोनस दोनों इंटरैक्शन शामिल हैं।
लॉस गणना: ग्राफ में प्रत्येक किनारे $(i, j)$ के लिए, लॉस प्रेडिक्शन के स्ट्रक्चरल अंतर और ग्राउंड ट्रुथ के बीच के अंतर को दंडित (penalize) करता है।
$L_{cv} = \frac{1}{|E| \times L} \sum_{(i,j) \in E} \| (\hat{z}_i - \hat{z}_j) - (z_i - z_j) \|_1$
नोड-वाइज रेसिडुअल्स $e_i = \hat{z}_i - z_i$ का उपयोग करते हुए, यह ग्राफ पर रेसिडुअल्स के टोटल वेरिएशन के रूप में सरल हो जाता है:
$L_{cv} = \frac{1}{|E| \times L} \sum_{(i,j) \in E} \| e_i - e_j \|_1 = \frac{1}{|E| \times L} \| \tilde{A} \text{vec}(E) \|_1$
जहाँ $\tilde{A}$ ग्राफ का लिफ्टेड इंसिडेंस मैट्रिक्स है।

2.3 ट्रेनिंग ऑब्जेक्टिव

अंतिम ट्रेनिंग ऑब्जेक्टिव मानक पॉइंट-वाइज DF लॉस ( $L_{df}$ ) को स्ट्रक्चरल रेगुलराइज़र ( $L_{cv}$ ) के साथ जोड़ता है:
$L_\alpha = (1 - \alpha) \cdot L_{df} + \alpha \cdot L_{cv}$
जहाँ $\alpha \in (0, 1)$ एक फिक्स्ड हाइपरपैरामीटर है जिसे वैलिडेशन सेट पर ट्यून किया गया है। महत्वपूर्ण रूप से, CvLoss मॉडल-एग्नोस्टिक और प्लग-एंड-प्ले है, जो इन्फरेंस प्रक्रिया को बदले बिना विभिन्न बैकबोन्स (Transformers, MLPs, आदि) के साथ सहजता से एकीकृत होता है।

3. मुख्य योगदान

ऑब्जेक्टिव गैप की पहचान: शोध पत्र प्रदर्शित करता है कि मानक पॉइंट-वाइज लर्निंग ऑब्जेक्टिव्स भविष्य के पूर्वानुमानों के बीच अंतर्निहित इंटर-चैनल डिपेंडेंसी की उपेक्षा करते हैं, जिससे वास्तविक स्पैटियोटेम्पोरल सहसंबंधों के साथ एक सैद्धांतिक मिसमैच पैदा होता है।
CvLoss का प्रस्ताव: एक नवीन स्ट्रक्चरल रेगुलराइज़र जो क्रॉस-वेरिएबल ग्राफ पर रेसिड्यूल कंसिस्टेंसी फॉर्मूलेशन के माध्यम से इंटर-चैनल संबंधों को स्पष्ट रूप से नियंत्रित करता है। यह सिनक्रोनस और एसिंक्रोनस दोनों इंटरैक्शन में निरंतरता को प्रोत्साहित करता है।
अनुभवजन्य सत्यापन (Empirical Validation): व्यापक प्रयोगों से पता चलता है कि CvLoss विविध डेटासेट्स (ETT, ECL, Traffic, Weather, PEMS) और आर्किटेक्चर (iTransformer, TimeFilter, TQNet, आदि) पर स्टेट-ऑफ-द-आर्ट (SOTA) मॉडल्स में लगातार सुधार करता है, जो न्यूनतम कम्प्यूटेशनल ओवरहेड के साथ बेहतर प्रेडिक्टिव प्रदर्शन प्राप्त करता है।

4. प्रयोगात्मक परिणाम

लेखकों ने विभिन्न बैकबोन्स का उपयोग करके 12 मानक बेंचमार्क पर CvLoss का मूल्यांकन किया। मुख्य निष्कर्ष इस प्रकार हैं:

प्रदर्शन लाभ: CvLoss जोड़ने से फोरकास्टिंग एरर (MSE और MAE) में लगातार कमी आई। उदाहरण के लिए, ट्रैफिक डेटासेट पर, MAE में 0.014 की कमी आई। 114 बैकबोन-नियंत्रित तुलनाओं में, CvLoss 111 मामलों में सुधार करता है, 2 में समान रहा, और 1 मामले में पीछे रहा, जिससे MSE में 3.39% और MAE में 3.61% की औसत सापेक्ष त्रुटि कमी आई।
स्ट्रक्चरल रिकवरी: क्रॉस-वेरिएबल कोरिलेशन मैट्रिसेस के विज़ुअलाइज़ेशन दिखाते हैं कि CvLoss के साथ प्रशिक्षित मॉडल बेसलाइन्स की तुलना में ग्राउंड-ट्रुथ कोरिलेशन स्ट्रक्चर को काफी बेहतर तरीके से रिकवर करते हैं। ECL डेटासेट पर, CvLoss ने प्लेन iTransformer बेसलाइन की तुलना में 84.83% क्रॉस-वेरिएबल एंट्रीज के लिए स्ट्रक्चरल एरर में सुधार किया।
अन्य ऑब्जेक्टिव्स के साथ तुलना: CvLoss ने 11 अन्य लर्निंग ऑब्जेक्टिव्स को पछाड़ दिया, जिनमें शेप-अलाइनमेंट लॉसेस (Soft-DTW), लाइक्लीहुड मैक्सिमाइजेशन (QDF, Time-o1), और डिस्ट्रीब्यूशन बैलेंसिंग मेथड्स शामिल हैं।
एब्लेशन स्टडीज (Ablation Studies):
- टोपोलॉजी: फुली कनेक्टेड ग्राफ (सिनक्रोनस और एसिंक्रोनस एजेस को मिलाकर) ने सर्वश्रेष्ठ प्रदर्शन किया, जो दोनों प्रकार के इंटरैक्शन को मॉडल करने की आवश्यकता की पुष्टि करता है।
- हाइपरपैरामीटर्स: विधि $\alpha$ के चयन के प्रति मजबूत है, जिसमें इष्टतम प्रदर्शन आमतौर पर $\alpha \approx 0.5$ के आसपास पाया जाता है। यह पैच लेंथ वेरिएशंस के प्रति भी मजबूत है।
दक्षता (Efficiency):
- इन्फरेंस: CvLoss इन्फरेंस के दौरान शून्य ओवरहेड डालता है क्योंकि इसे ट्रेनिंग के बाद कंप्यूटेशन ग्राफ से हटा दिया जाता है।
- ट्रेनिंग: हालांकि पूर्ण ग्राफ $O(P^2D^2)$ की क्वाड्रेटिक जटिलता पेश करता है, लेखक प्रदर्शित करते हैं कि रैंडम एज सैंपलिंग (प्रति बैच 1000 किनारों तक सीमित करना) प्रेडिक्टिव सटीकता से समझौता किए बिना ट्रेनिंग समय को स्थिर स्तर तक प्रभावी ढंग से कम करती है।

5. महत्व और सीमाएं

महत्व:
यह शोध पत्र तर्क देता है कि मल्टीवेरिएट टाइम सीरीज़ फोरकास्टिंग (MTSF) को बेहतर बनाने के लिए भविष्य के चरों के स्ट्रक्चरल ज्योमेट्री को मॉडल करना एक सरल लेकिन प्रभावी दिशा है। केवल इनपुट-साइड डिपेंडेंसी से हटकर आउट-साइड स्ट्रक्चरल कंसिस्टेंसी पर ध्यान केंद्रित करके, CvLoss मानक लॉस फंक्शन्स की गणितीय धारणाओं और सह-विकसित (co-evolving) सिस्टम की भौतिक वास्तविकता के बीच के अंतर को पाटता है। यह मौजूदा फोरकास्टिंग मॉडल्स को आर्किटेक्चरल बदलावों की आवश्यकता के बिना बढ़ाने के लिए एक यूनिवर्सल, लाइटवेट मैकेनिज्म प्रदान करता है।

सीमाएं:

ग्राफ निर्माण: डिफॉल्ट दृष्टिकोण एक फुली कनेक्टेड ग्राफ का उपयोग करता है, जिसमें बहुत उच्च-आयामी सिस्टम में अनइंफॉर्मेटिव इंटरैक्शन शामिल हो सकते हैं। जबकि रैंडम सैंपलिंग स्केलेबिलिटी को संबोधित करती है, एडेप्टिव ग्राफ स्ट्रक्चर सीखना एक भविष्य की दिशा है।
दायरा (Scope): यह कार्य नियमित बेंचमार्क डेटासेट्स पर डिटर्मिनिस्टिक फोरकास्टिंग पर केंद्रित है। प्रोबेबिलिस्टिक फोरकास्टिंग, अनियमित सैंपलिंग और मिसिंग-वैल्यू परिदृश्यों के विस्तार को संबोधित नहीं किया गया है।
सैद्धांतिक बनाम अनुभवजन्य: लेखक स्वीकार करते हैं कि हालांकि उनका सैद्धांतिक व्युत्पन्न (प्रपोजिशन 3.2) $\ell_2$ (स्क्वेर्ड) पेनल्टी का समर्थन करता है, उपयोग की गई पद्धति अनुभवजन्य साक्ष्य के आधार पर $\ell_1$ नॉर्म का उपयोग करती है। सिद्धांत एक रिलेशन-अवेयर कंस्ट्रेंट की आवश्यकता को प्रेरित करता है, लेकिन यह विशेष रूप से उपयोग किए गए $\ell_1$ फॉर्म को सख्ती से व्युत्पन्न नहीं करता है।

निष्कर्षतः, CvLoss मल्टीवेरेट फोरकास्ट को रेगुलराइज़ करने का एक सिद्धांतपूर्ण तरीका प्रदान करता है, यह सुनिश्चित करता है कि अनुमानित भविष्य के चर उनके अंतर्निहित भौतिक और सांख्यिकीय डिपेंडेंसी के अनुरूप विकसित हों।