🤖 machine learning

CombinationTS: A Modular Framework for Understanding Time-Series Forecasting Models

यह शोध पत्र CombinationTS को प्रस्तुत करता है, जो एक मॉड्यूलर संभाव्य ढांचा (probabilistic framework) है जो टाइम-सीरीज़ पूर्वानुमान मॉडलों को विघटित करके यह दर्शाता है कि जटिल एनकोडर आर्किटेक्चर की तुलना में सुव्यवस्थित डेटा एम्बेडिंग और इनपुट रूपांतरण अक्सर बेहतर प्रदर्शन और स्थिरता प्रदान करते हैं, जो मॉडल की जटिलता बढ़ाने की आवश्यकता को चुनौती देते हैं।

मूल लेखक: Xiaorui Wang, Fanda Fan, Chenxi Wang, Yuxuan Yang, Rui Tang, Kuoyu Gao, Simiao Pang, Yuanfeng Shang, Zhipeng Liu, Wanling Gao, Lei Wang, Jianfeng Zhan

प्रकाशित 2026-05-05

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xiaorui Wang, Fanda Fan, Chenxi Wang, Yuxuan Yang, Rui Tang, Kuoyu Gao, Simiao Pang, Yuanfeng Shang, Zhipeng Liu, Wanling Gao, Lei Wang, Jianfeng Zhan

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

समय-श्रृंखला पूर्वानुमान (time-series forecasting - जैसे शेयर की कीमतों, मौसम, या ऊर्जा उपयोग के भविष्य के रुझानों का अनुमान लगाना) की दुनिया की कल्पना एक उच्च-दांव वाली कुकिंग प्रतियोगिता (cooking competition) के रूप में करें। वर्षों से, शेफ (शोधकर्ता) अधिक जटिल, बहु-परतीय ओवन (AI मॉडल) बनाकर जीतने की कोशिश कर रहे हैं। वे दावा करते हैं कि उनका नया "सुपर-ओवन" जिसमें 50 नॉब्स और एक डिजिटल मस्तिष्क है, सबसे अच्छा है क्योंकि उसने एक विशिष्ट परीक्षण में सबसे स्वादिष्ट केक बनाया था।

हालांकि, इस पेपर के लेखक, CombinationTS, तर्क देते हैं कि प्रतियोगिता गलत तरीके से तय की गई है। उनका मानना है कि इनमें से कई "विजेता" ओवन वास्तव में बेहतर खाना नहीं बना रहे हैं; वे बस सामग्री के साथ भाग्यशाली थे या उस एक विशेष परीक्षण में उपयोग किए गए तापमान सेटिंग्स के कारण सफल रहे।

यहाँ इस पेपर का मुख्य संदेश है, जिसे सरल अवधारणाओं और उपमाओं में विभाजित किया गया है:

1. समस्या: "ब्लैक बॉक्स" और "किस्मत का एक शॉट"

वर्तमान में, वैज्ञानिक इन पूर्वानुमान मॉडलों को ब्लैक बॉक्स की तरह मानते हैं। आप एक तरफ डेटा डालते हैं, और दूसरी तरफ से एक भविष्यवाणी निकलती है। यदि परिणाम अच्छा है, तो वे कहते हैं, "हमारा नया जटिल इंजन अद्भुत है!"

लेकिन लेखक कहते हैं कि यह भ्रामक है। यह कहने जैसा है कि एक कार तेज़ है क्योंकि इसमें नया इंजन है, जबकि वास्तव में कार को ढलान पर और हवा के अनुकूल दिशा में चलाया गया था।

एट्रिब्यूशन गैप (Attribution Gap): हमें नहीं पता कि सफलता इंजन (अंदर की जटिल गणित) से आई है या ईंधन (डेटा को कैसे तैयार और देखा गया) से।
बेंचमार्किंग संकट (Benchmarking Crisis): अधिकांश शोधकर्ता केवल अपना एकल "सर्वश्रेष्ठ" परिणाम ही रिपोर्ट करते हैं। यह एक गोल्फर द्वारा केवल उस एक छेद को दिखाने जैसा है जहाँ उसने "होल-इन-वन" किया और उन 17 अन्य छेदों को अनदेखा कर दिया जहाँ उसे संघर्ष करना पड़ा। यह श्रेष्ठता का एक झूठा अहसास पैदा करता है।

2. समाधान: "लेगो" (Lego) फ्रेमवर्क

इसे ठीक करने के लिए, लेखकों ने CombinationTS बनाया है। इसे पूर्वानुमान मॉडलों के लिए एक लेगो डिसअसेंबली किट के रूप में समझें।

हर मॉडल को एक विशाल, अपरिवर्तनीय ईंट के रूप में देखने के बजाय, वे हर मॉडल को पांच अलग-अलग, विनिमेय (interchangeable) लेगो ब्लॉक्स में तोड़ देते हैं:

इनपुट ट्रांसफॉर्मेशन (Input Transformation): खाना पकाने से पहले आप सामग्री को कैसे धोते और काटते हैं।
एम्बेडिंग (Embedding): आप प्लेट पर सामग्री को कैसे सजाते हैं (डेटा का दृश्य/view)।
एनकोडर (Encoder): वास्तविक खाना पकाने की प्रक्रिया (जटिल तर्क)।
डिकोडर (Decoder): व्यंजन को सजाना (प्लेटिंग)।
आउटपुट ट्रांसफॉर्मेशन (Output Transformation): अंतिम गार्निश या सॉस डालना।

यह फ्रेमवर्क शोधकर्ताओं को इन ब्लॉक्स को आपस में बदलने की अनुमति देता है। आप मॉडल A से "काटने" का तरीका, मॉडल B से "सजाने" का तरीका और मॉडल C से "पकाने" का तरीका ले सकते हैं ताकि यह देखा जा सके कि वास्तव में कौन सा हिस्सा सबसे अधिक काम कर रहा है।

3. निर्णय लेने का नया तरीका: "मौसम की रिपोर्ट" बनाम "एक अकेला दिन"

एक एकल दिन (एक विशिष्ट सेटिंग) पर मॉडल का मूल्यांकन करने के बजाय, CombinationTS मूल्यांकन को एक मौसम पूर्वानुमान की तरह मानता है।

वे केवल यह नहीं पूछते, "क्या आज बारिश हुई?" (पॉइंट एस्टीमेट)।
वे पूछते हैं, "अगले महीने में बारिश की औसत संभावना क्या है, और उसमें कितना उतार-चढ़ाव होता है?" (डिस्ट्रीब्यूशन)।

वे हर मॉडल का परीक्षण सैकड़ों अलग-अलग "मौसम स्थितियों" (विभिन्न सेटिंग्स, डेटा आकार और रैंडम सीड्स) के तहत करते हैं ताकि दो संख्याएँ निकाल सकें:

प्रभावशीलता ( $\mu$ ): यह औसतन कितना अच्छा है?
स्थिरता ( $\sigma$ ): यह कितना विश्वसनीय है? क्या सेटिंग्स में थोड़ा बदलाव होने पर यह विफल हो जाता है?

4. बड़े आश्चर्य (पैराडॉक्स/विरोधाभास)

इन हजारों "लेगो" प्रयोगों को चलाने के बाद, उन्होंने तीन चीजें पाईं जो सबकी धारणाओं को चुनौती देती हैं:

A. "आइडेंटिटी" विरोधाभास (सबसे सरल उपकरण जीतता है)

दावा: सभी को लगा था कि टाइम सीरीज़ को समझने के लिए आपको एक सुपर-जटिल "मस्तिष्क" (जैसे ट्रांसफार्मर) की आवश्यकता है।
वास्तविकता: एक बार जब आप सामग्री को सही ढंग से व्यवस्थित कर लेते हैं (एम्बेडिंग), तो एक पैरामीटर-मुक्त "आइडेंटिटी" एनकोडर (जो मूल रूप से एक दर्पण की तरह है जो डेटा को बिना बदले आगे भेज देता है) अक्सर जटिल मस्तिष्क के समान या उससे भी बेहतर प्रदर्शन करता है।
उपमा: यह पता चला कि यदि आप अपनी सब्जियों को सही ढंग से काटते हैं (अच्छा डेटा व्यू), तो आपको उन्हें पकाने के लिए एक फैंसी रोबोटिक शेफ की आवश्यकता नहीं है; एक साधारण चम्मच भी ठीक काम करता है। "शेफ" की जटिलता केवल शोर (noise) जोड़ने का काम कर रही थी।

B. "साइकिल" का रहस्य (तैयारी पकाने से अधिक महत्वपूर्ण है)

दावा: खाना पकाने की प्रक्रिया में जटिल गणित जोड़ने से मदद मिलती है।
वास्तविकता: तैयारी के चरण के दौरान स्ट्रक्चरल प्रायर्स (structural priors) जोड़ना बेहतर है। उदाहरण के लिए, यदि आप जानते हैं कि डेटा में एक दैनिक चक्र (जैसे ट्रैफिक या बिजली) है, तो मॉडल को स्पष्ट रूप से यह बताना कि "यह हर 24 घंटे में दोहराता है" बेहतर काम करता है, बजाय इसके कि एक जटिल मॉडल को इसे शून्य से सीखने के लिए छोड़ दिया जाए।
उपमा: एक रसोइये को पूरी प्याज देने और एक बहुत ही जटिल चाकू देकर उम्मीद करने से बेहतर है कि आप रसोइये के लिए प्याज को पहले से काटकर रख दें।

C. फ्रीक्वेंसी इल्यूजन (Frequency Illusion)

दावा: डेटा को "फ्रीक्वेंसी लेंस" (जैसे प्रकाश को विभाजित करने वाला प्रिज्म) के माध्यम से देखना हमेशा अधिक स्थिर होता है।
वास्तविकता: हालांकि फ्रीक्वेंसी के माध्यम से देखना कभी-कभी औसत परिणाम को थोड़ा बेहतर बनाता है, लेकिन यह मॉडल को अधिक स्थिर नहीं बनाता है। यह एक ट्रेड-ऑफ है, कोई जादुई समाधान नहीं।

5. निष्कर्ष: "सर्वश्रेष्ठ" स्कोर के पीछे भागना बंद करें

यह पेपर निष्कर्ष निकालता है कि यह क्षेत्र नाजुक और भाग्यशाली परिणामों के आधार पर "स्टेट-ऑफ-द-आर्ट" (SOTA) खिताबों के पीछे भाग रहा है।

नया नियम: यदि आप दावा करना चाहते हैं कि आपका नया मॉडल बेहतर है, तो आप केवल एक उच्च स्कोर दिखाकर काम नहीं चला सकते। आपको यह साबित करना होगा कि आपका नया घटक कई अलग-अलग स्थितियों में एक सरल, पैरामीटर-मुक्त बेसलाइन (आइडेंटिटी मॉडल) की तुलना में औसतन बेहतर काम करता है और अधिक स्थिर है।

संक्षेप में: यदि एक साधारण दर्पण भी उतना ही अच्छा काम कर रहा है, तो एक बड़ा और अधिक जटिल इंजन बनाने के पीछे न पड़ें। और अपने एक भाग्यशाली शॉट का बखान करना बंद करें; हमें अपने पूरे सीजन का औसत प्रदर्शन दिखाएं।

तकनीकी सारांश: CombinationTS

1. समस्या विवरण (Problem Statement)

टाइम-सीरीज फोरकास्टिंग (TSF) में हालिया प्रगति ने आर्किटेक्चरल जटिलता में तीव्र वृद्धि की है, फिर भी रिपोर्ट किए गए स्टेट-ऑफ-द-आर्ट (SOTA) लाभ अक्सर सांख्यिकीय रूप से नाजुक या गलत तरीके से आरोपित होते हैं। यह क्षेत्र दो मौलिक पद्धतिगत कमियों का सामना कर रहा है:

एट्रिब्यूशन गैप (The Attribution Gap): मौजूदा मूल्यांकन मॉडलों को अविभाज्य "ब्लैक बॉक्स" के रूप में देखते हैं, जिससे डेटा व्यू (एम्बेडिंग) के योगदान को मॉडलिंग मॉड्यूल (एनकोडर) के योगदान के साथ मिला दिया जाता है। यह स्पष्ट नहीं है कि प्रदर्शन में सुधार डेटा प्रस्तुति के तरीके से हुआ है या डेटा प्रोसेसिंग के तरीके से।
बेंचमार्किंग संकट (The Benchmarking Crisis): मानक प्रोटोकॉल पॉइंट एस्टीमेट्स (जैसे, एक एकल रैंडम सीड या एक निश्चित कॉन्फ़िगरेशन) पर निर्भर करते हैं, जो "फेयरनेस ट्रैप" (उप-इष्टतम सेटिंग्स का उपयोग करके क्षमता को कम आंकना) या "बेस्ट ट्रैप" (पीक परिणामों को चयनात्मक रूप से चुनना) में फंस जाते हैं। ये पॉइंट एस्टीमेट्स वास्तविक दुनिया के हाइपरपैरामीटर्स की एपिस्टेमिक अनिश्चितता के तहत एक डिज़ाइन के अपेक्षित प्रदर्शन ( $\mu$ ) और स्थिरता ( $\sigma$ ) को पकड़ने में विफल रहते हैं।

परिणामस्वरूप, यह निर्धारित करना कठिन है कि आधुनिक TSF लाभ वास्तविक आर्किटेक्चरल रीजनिंग को दर्शाते हैं या वे केवल बेहतर डेटा व्यू और अनुकूल मूल्यांकन स्थितियों द्वारा संचालित हैं।

2. कार्यप्रणाली: CombinationTS फ्रेमवर्क (Methodology)

"मॉडल चयन" से "मॉड्यूलर एट्रिब्यूशन" की ओर बढ़ने के लिए, लेखक CombinationTS का प्रस्ताव करते हैं, जो एक स्व-निहित संभाव्य मूल्यांकन ढांचा (probabilistic evaluation framework) है।

2.1 मॉड्यूलर डिकंपोजिशन (Modular Decomposition)

यह फ्रेमवर्क फोरकास्टिंग पाइपलाइन को पांच ऑर्थोगोनल, इंटरचेंजेबल चरणों में विभाजित करता है, जिससे आर्किटेक्चरल घटकों के अलगाव और पुनर्संयोजन की अनुमति मिलती है:

इनपुट ट्रांसफॉर्मेशन ( $T_{in}$ ): कच्चे सिग्नल में स्ट्रक्चरल प्रायर्स (जैसे, नॉर्मलाइजेशन, डिट्रेंडिंग, डिकंपोजिशन) इंजेक्ट करता है।
एम्बेडिंग ( $E$ ): डेटा व्यू (टोकेनाइजेशन रणनीति) को परिभाषित करता है, जैसे कि पॉइंट-वाइज, पैच-वाइज, या वेरिएट-वाइज एम्बेडिंग्स।
एनकोडर ( $\Phi$ ): मॉडलिंग मॉड्यूल (जैसे, ट्रांसफॉर्मर, MLP, आइडेंटिटी) जो इंटरैक्शन को कैप्चर करने के लिए जिम्मेदार है।
डिकोडर ( $D$ ): लेटेंट फीचर्स को फोरकास्टिंग होराइजन तक प्रोजेक्ट करता है।
आउटपुट ट्रांसफॉर्मेशन ( $T_{out}^{-1}$ ): $T_{in}$ का उल्टा ऑपरेशन (जैसे, ट्रेंड्स को पुनः जोड़ना)।

2.2 संभाव्य मूल्यांकन प्रोटोकॉल (Probabilistic Evaluation Protocol)

"इवैल्यूएटोलॉजी" (Evaluatology) के सिद्धांतों पर आधारित, यह फ्रेमवर्क आर्किटेक्चरल विश्लेषण को सिग्नल-नॉइज़ डिसेंटैंगलमेंट समस्या के रूप में देखता है।

इवैलुएटेड ऑब्जेक्ट (EO): जांच के अधीन विशिष्ट मॉड्यूल वेरिएंट (जैसे, एक विशिष्ट एनकोडर)।
इवैलुएशन कंडीशन (EC): एक स्टोकेस्टिक वातावरण जिसमें पूरक मॉड्यूल, ट्रेनिंग हाइपरपैरामीटर्स और रैंडमनेस के स्रोत शामिल हैं।
शेयर्ड कंडीशन स्पेस ( $\Omega$ ): एक एकल कॉन्फ़िगरेशन को फिक्स करने के बजाय, यह फ्रेमवर्क कंडीशंस के एक व्यापक वितरण (distribution) को सैंपल करता है।
स्ट्रैटिफाइड मोंटे कार्लो एस्टीमेशन: $\Omega$ $Ω$ से $K$ $K$ साझा सैंपल्स के माध्यम से युग्मित मूल्यांकन (paired evaluations) करके, यह फ्रेमवर्क प्रत्येक घटक के लिए दो वितरण सांख्यिकी (distributional statistics) को परिमाणित करता है:
- मार्जिनलाइज्ड परफॉरमेंस ( $\hat{\mu}$ ): कंडीशंस के माध्यम से अपेक्षित प्रदर्शन।
- स्टेबिलिटी ( $\hat{\sigma}$ ): कंडीशन वेरिएशंस के प्रति प्रदर्शन की संवेदनशीलता।

यह दृष्टिकोण नाजुक पॉइंट एस्टीमेट्स से आगे बढ़कर मजबूत वितरण सांख्यिकी की ओर बढ़ता है, जिससे आर्किटेक्चरल आवश्यकता की निष्पक्ष तुलना संभव होती है।

3. प्रमुख योगदान और अनुभवजन्य निष्कर्ष (Key Contributions and Empirical Findings)

छह बेंचमार्क (वेदर, इलेक्ट्रिसिटी, और चार ETT सबसेट्स) पर बड़े पैमाने पर युग्मित मूल्यांकन के माध्यम से, लेखक तीन अनुभवजन्य निष्कर्ष प्रस्तुत करते हैं जो प्रचलित अंतर्ज्ञानों को चुनौती देते हैं:

3.1 "आइडेंटिटी" विरोधाभास (The "Identity" Paradox)

निष्कर्ष: एक बार जब डेटा व्यू (एम्बेडिंग) को अच्छी तरह से डिज़ाइन किया जाता है, तो एक पैरामीटर-मुक्त आइडेंटिटी एनकोडर अक्सर ट्रांसफॉर्मर और मिक्सर्स जैसे जटिल बैकबोन की तुलना में तुलनीय या यहाँ तक कि बेहतर प्रभावशीलता ( $\hat{\mu}$ ) और स्थिरता ( $\hat{\sigma}$ ) प्राप्त करता है।
निहितार्थ: मानक बेंचमार्क पर, डीप मॉडलिंग मॉड्यूल अक्सर आवश्यक फीचर एक्सट्रैक्टर्स के बजाय ओवर-पैरामीटराइज्ड नॉइज़ जनरेटर्स के रूप में कार्य करते हैं। प्राथमिक प्रदर्शन बाधा डेटा व्यू फॉर्मूलेशन में है, न कि मॉडलिंग मॉड्यूल में।
साक्ष्य: सांख्यिकीय महत्व परीक्षण (Mann–Whitney U) पुष्टि करते हैं कि एग्रीगेटेड डेटासेट्स में आइडेंटिटी एनकोडर, ट्रांसफॉर्मर और MLPs की तुलना में काफी कम MSE प्राप्त करते हैं।

3.2 स्ट्रक्चरल प्रायर्स की सशर्त उपयोगिता (Conditional Utility of Structural Priors)

निष्कर्ष: इनपुट ट्रांसफॉर्मेशन्स सार्वभौमिक रूप से श्रेष्ठ नहीं हैं। स्पष्ट आवधिक इंडक्टिव बायस (जैसे, लर्नेबल साइकल्स) निरंतर लाभ प्रदान करते हैं। हालांकि, नैव डिकंपोजिशन रणनीतियां (जैसे, मल्टी-स्केल स्प्लिटिंग) अक्सर प्रदर्शन को कम करती हैं, जब तक कि उन्हें परिष्कृत क्रॉस-कंपोनेंट इंटरैक्शन के साथ न जोड़ा जाए।
निहितार्थ: आर्किटेक्चरल सिनर्जी आवश्यक है; घटकों के बीच गहरा मिक्सिंग लागू करने वाले तंत्र के बिना केवल डिकंपोजिशन पर्याप्त नहीं है।

3.3 स्पेक्ट्रल मॉडलिंग का प्रभावशीलता लाभ (Effectiveness Gain of Spectral Modeling)

निष्कर्ष: फ्रीक्वेंसी-डोमेन मॉडलिंग (जैसे, फूरियर/वेवलेट) टेम्पोरल बेसलाइन्स की तुलना में उच्च प्रभावशीलता ( $\hat{\mu}$ ) प्रदान करती है लेकिन अस्थिरता ( $\sigma$ ) में कोई महत्वपूर्ण कमी नहीं लाती है।
निहितार्थ: स्पेक्ट्रल लाभ बेहतर सिग्नल रिप्रेजेंटेशन से आता है, न कि हाइपरपैरामीटर वेरिएशन के प्रति बढ़ी हुई मजबूती से। इसके अलावा, स्पेक्ट्रल प्रोसेसिंग कुछ डेटासेट्स पर पैरामीटर-मुक्त आइडेंटिटी बेसलाइन को पार करने में विफल रहती है, जो बताता है कि अटेंशन मैकेनिज्म पर इसके लाभ केवल सिग्नल डिस्टॉर्शन को कम करने के कारण हैं।

4. महत्व और दावे (Significance and Claims)

यह पेपर एक नई प्रेडिक्टिव आर्किटेक्चर प्रस्तावित करने के बजाय एक मानकीकृत प्रोटोकॉल फॉर आर्किटेक्चरल ऑडिटिंग प्रदान करने का दावा करता है। इसका महत्व इस प्रकार है:

प्रमाण के बोझ को फिर से परिभाषित करना (Reframing the Burden of Proof): लेखक एक नया मूल्यांकन सिद्धांत प्रस्तावित करते हैं जहाँ भविष्य के नवाचारों को एक मजबूत आइडेंटिटी बेसलाइन पर महत्वपूर्ण मार्जिनलाइज्ड परफॉरमेंस ( $\hat{\mu}$ ) और स्टेबिलिटी ( $\hat{\sigma}$ ) प्रदर्शित करना चाहिए। केवल नाजुक लीडरबोर्ड पीक्स को रिपोर्ट करना वैज्ञानिक रूप से अनुचित माना जाता है।
रीजनिंग और भ्रम के बीच अंतर करना (Distinguishing Reasoning from Illusion): CombinationTS डेटा व्यू ऑप्टिमाइजेशन या अनुकूल हाइपरपैरामीटर अलाइनमेंट द्वारा संचालित "प्रगति के भ्रम" से वास्तविक रीजनिंग क्षमताओं को अलग करने के लिए एक लेंस के रूप में कार्य करता है।
ओपन साइंस (Open Science): लेखक घटक-स्तरीय अनुसंधान (component-level research) को सुलभ बनाने के लिए एक मॉड्यूलर लाइब्रेरी और पूर्ण प्रयोगात्मक लॉग जारी करते हैं, जो टाइम-सीरीज फोरकास्टिंग में "रिप्रोड्यूसिबिलिटी संकट" को संबोधित करता है।

यह कार्य TSF समुदाय के लिए फिक्स्ड लीडरबोर्ड पर SOTA हासिल करने के बजाय उन विशिष्ट तंत्रों का कठोरता से ऑडिट करने की वकालत करता है जो प्रदर्शन को संचालित करते हैं, ताकि यह सुनिश्चित किया जा सके कि आर्किटेक्चरल जटिलता वास्तविक, मजबूत सुधारों द्वारा न्यायसंगत है।