तकनीकी सारांश: पाठ्य स्थितियों के साथ प्रतितथ्यात्मक समय श्रृंखला पूर्वानुमान (Counterfactual Time Series Forecasting with Textual Conditions)

समस्या की परिभाषा

वास्तविक दुनिया के परिदृश्यों में समय श्रृंखला पूर्वानुमान (Time series forecasting) अक्सर ऐतिहासिक पैटर्न और तथ्यात्मक भविष्य की स्थितियों पर निर्भरता के कारण बाधित होता है, जो जटिल, स्टोकेस्टिक और काल्पनिक ("क्या होगा यदि") परिदृश्यों को समझने में विफल रहता है। मौजूदा विधियाँ आमतौर पर ऐतिहासिक अवलोकनों या सरल, संरचित भविष्य के हस्तक्षेपों (जैसे, बाइनरी इवेंट इंडिकेटर्स) पर निर्भर करती हैं, जो असंरचित, वास्तविक दुनिया की जटिलताओं तक अनुकूलन करने की उनकी क्षमता को सीमित करती हैं। इसके अलावा, प्रतितथ्यात्मक स्थितियों (counterfactual conditions)—जहाँ पाठ में वर्णित भविष्य की घटना वास्तव में नहीं हुई और इसलिए ग्राउंड-ट्रूथ समय श्रृंखला डेटा का अभाव है—के तहत पूर्वानुमान प्रदर्शन का मूल्यांकन करना, पारंपरिक सटीकता-आधारित मेट्रिक्स जैसे कि मीन स्क्वेर्ड एरर (MSE) के लिए एक मौलिक चुनौती प्रस्तुत करता है।

यह शोध पत्र पाठ्य स्थितियों के साथ प्रतितथ्यात्मक समय श्रृंखला पूर्वानुमान के कार्य को औपचारिक रूप देता है। इसका लक्ष्य निम्नलिखित पर आधारित भविष्य की समय श्रृंखला अनुक्रमों की भविष्यवाणी करना है:

1. ऐतिहासिक समय श्रृंखला डेटा ($x_h$) और उससे जुड़ी ऐतिहासिक पाठ्य स्थितियाँ ($c_h$)।
2. भविष्य की पाठ्य स्थितियाँ ($c_f$) जो तथ्यात्मक (प्रेक्षित) या प्रतितथ्यात्मक (काल्पनिक/स्टोकेस्टिक) हो सकती हैं।

पहचाने गए प्रमुख चुनौतियाँ शामिल हैं:

• पैटर्न संघर्ष (Pattern Conflicts): ऐतिहासिक गतिकी और भविष्य की स्थितियाँ परस्पर विरोधी पैटर्न प्रदर्शित कर सकती हैं (जैसे, विश्व कप फाइनल के कारण सामान्य कम-ट्रैफिक घंटों के बावजूद ट्रैफिक स्पाइक्स होना)।
• अनुकूलन क्षमता (Adaptability): केवल तथ्यात्मक डेटा पर प्रशिक्षित मॉडल अनदेखी प्रतितथ्यात्मक संयोजनों के अनुकूल होने में संघर्ष करते हैं, जिससे अक्सर होमोजेनाइज्ड (एकसमान) पूर्वानुमान उत्पन्न होते हैं।
• मूल्यांकन (Evaluation): प्रतितथ्यात्मक सेटिंग्स में ग्राउंड-ट्रूथ भविष्य के अनुक्रमों की अनुपस्थिति पारंपरिक संख्यात्मक मेट्रिक्स को अप्रभावी बना देती है।

कार्यप्रणाली: TADIFF

लेखक TADIFF (Text-Attributive Time series Diffusion) का प्रस्ताव करते हैं, जो एक मल्टीमॉडल डिफ्यूजन मॉडल है जिसे एक नवीन टेक्स्ट-एट्रिब्यूशन मैकेनिज्म के माध्यम से इन चुनौतियों से निपटने के लिए डिज़ाइन किया गया है।

1. टेक्स्ट-एट्रिब्यूशन मैकेनिज्म (Text-Attribution Mechanism)

ऐतिहासिक पैटर्न और भविष्य की स्थितियों के प्रभाव को संतुलित करने के लिए, TADIFF समय श्रृंखला को आंतरिक विशेषताओं (intrinsic features - ऐतिहासिक स्थितियों से स्वतंत्र मौलिक गुण, जैसे ट्रैफ़िक में जनसांख्यिकीय संरचनाएं) और बाहरी स्थितियों (extrinsic conditions - मौसम या घटनाओं जैसे प्रासंगिक कारक) में विभाजित करता है।

• एट्रिब्यूशन स्टेज (Inference): मॉडल ऐतिहासिक अनुक्रम ($x_{h,0}$) से ऐतिहासिक बाहरी स्थितियों ($c_h$) के प्रभाव को "नष्ट" करने के लिए एक कंडीशन-अवेयर डिफ्यूजन फॉरवर्ड प्रोसेस का उपयोग करता है, जिससे आंतरिक विशेषता ($x_{h,T}$) प्राप्त होती है। यह पूर्वानुमान प्रक्रिया के लिए प्रारंभिक शोर अवस्था (initial noise state) के रूप में कार्य करता है।
• फोरकास्टिंग स्टेज: मॉडल मूल ऐतिहासिक अनुक्रम ($x_{h,0}$) और लक्षित भविष्य की स्थिति ($c_f$) पर डिनोइजिंग प्रक्रिया को कंडिशन करता है। यह भविष्य के अनुक्रम को उत्पन्न करने के लिए निकाले गए आंतरिक फीचर ($x_{h,T}$) को शुरुआती बिंदु के रूप में उपयोग करता है, जिससे यह सुनिश्चित होता है कि पूर्वानुमान अंतर्निहित आंतरिक गतिकी का सम्मान करते हुए नई पाठ्य स्थिति के अनुकूल हो।

2. प्रशिक्षण रणनीति (Training Strategy)

• संयुक्त अनुकूलन (Joint Optimization): मॉडल को दो उद्देश्यों के साथ प्रशिक्षित किया जाता है:
  • एट्रिब्यूशन लॉस ($L_A$): ऐतिहासिक स्थितियों के आधार पर ऐतिहासिक डेटा से आंतरिक विशेषताओं को एट्रिब्यूट करते समय शोर अनुमान त्रुटि को कम करता है।
  • फोरकास्टिंग लॉस ($L_F$): भविष्य के घटकों के लिए शोर अनुमान त्रुटि को कम करता है, जिसे केवल भविष्य के घटकों को सुपरवाइज करने के लिए मास्क किया गया है।
• प्रतितथ्यात्मक डेटा ऑग्मेंटेशन और फाइनट्यूनिंग: विविध स्थितियों के प्रति अनुकूलन क्षमता में सुधार के लिए, लेखक एक प्रतितथ्यात्मक डेटासेट का निर्माण करते हैं जिसमें ऐतिहासिक अनुक्रमों को वैकल्पिक भविष्य की स्थितियों के साथ यादृच्छिक रूप से जोड़ा जाता है। वे एक फाइनट्यूनिंग एल्गोरिदम का प्रस्ताव करते हैं जो सिंथेटिक प्रतितथ्यात्मक डेटा पर मॉडल को अनुकूलित करने के लिए सिमेंटिक मेट्रिक्स (DTTC) का उपयोग करता है, जिससे तथ्यात्मक सटीकता से समझौता किए बिना सामान्यीकरण बढ़ता है।

3. मूल्यांकन ढांचा (DTTC)

ग्राउंड ट्रूथ की अनुपस्थिति में पूर्वानुमानों का मूल्यांकन करने के लिए, यह शोध पत्र DTTC (Disentangled Time Series and Text Consistency) पेश करता है, जो कंट्रास्टिव लर्निंग पर आधारित एक सिमेंटिक मूल्यांकन मेट्रिक है।

• DTTC-I: ऐतिहासिक अनुक्रम की आंतरिक विशेषताओं और पूर्वानुमान के बीच निरंतरता को मापता है।
• DTTC-E: पूर्वानुमान और बाहरी भविष्य की पाठ्य स्थितियों के बीच निरंतरता को मापता है।
  DTTC मॉडल एक ड्यूल-एनकोडर आर्किटेक्चर (टाइम सीरीज़ एनकोडर और टेक्स्ट एनकोडर) का उपयोग करता है जो समय के माध्यम से आंतरिक विशेषताओं और समय श्रृंखला एवं पाठ के बीच बाहरी विशेषताओं को संरेखित करने के लिए प्रशिक्षित है।

मुख्य योगदान

1. कार्य का निरूपण (Task Formulation): पाठ्य स्थितियों के साथ प्रतितथ्यात्मक समय श्रृंखला पूर्वानुमान का परिचय, जो लचीला, कंडीशन-अवेयर पूर्वानुमान सक्षम बनाता है।
2. मूल्यांकन ढांचा: एक व्यापक ढांचा जो संख्यात्मक सटीकता (तथ्यात्मक सेटिंग्स के लिए) को सिमेंटिक निरंतरता (DTTC) के साथ जोड़ता है, जो काल्पनिक परिदृश्यों में ग्राउंड ट्रूथ की कमी को संबोधित करता है।
3. मॉडल आर्किटेक्चर: एक डिफ्यूजन मॉडल TADIFF का विकास, जिसमें एक टेक्स्ट-एट्रिब्यूशन मैकेनिज्म है जो पाठ्य संदर्भों से ऐतिहासिक आंतरिक पैटर्न को अलग करता है।
4. प्रशिक्षण रणनीति: एक प्रतितथ्यात्मक फाइनट्यूनिंग दृष्टिकोण जो निर्मित डेटा और सिमेंटिक मेट्रिक्स का उपयोग करके मॉडल की अनुकूलन क्षमता को बढ़ाता है।

प्रयोगात्मक परिणाम

लेखकों ने सिंथेटिक (Synth) और वास्तविक दुनिया के डेटासेट्स (ETTm1, Traffic, Exchange, Weather) पर TADIFF का मूल्यांकन किया।

• तथ्यात्मक प्रदर्शन (Factual Performance): TADIFF ने यूनिमोडल बेसलाइन्स (जैसे, DLinear, PatchTST) और मल्टीमॉडल बेसलाइन्स (जैसे, VerbalTS, TimeMMD, IATSF) की तुलना में बेहतर संख्यात्मक सटीकता (MAE, MSE) और सिमेंटिक निरंतरता (DTTC-I, DTTC-E) प्राप्त की।
• प्रतितथ्यात्मक प्रदर्शन (Counterfactual Performance): ग्राउंड ट्रूथ के बिना सेटिंग्स में, TADIFF ने मजबूत सामान्यीकरण प्रदर्शित किया, उच्चतम DTTC स्कोर प्राप्त किया, जो दर्शाता है कि यह ऐतिहासिक बाधाओं और काल्पनिक भविष्य की स्थितियों के बीच प्रभावी ढंग से संतुलन बनाता है।
• एब्लेशन अध्ययन (Ablation Studies):
  • टेक्स्ट-एट्रिब्यूशन: इस मैकेनिज्म को हटाने से दोनों सिमेंटिक निरंतरता और संख्यात्मक सटीकता में महत्वपूर्ण गिरावट आई, विशेष रूप से प्रतितथ्यात्मक सेटिंग्स में, जो आंतरिक विशेषताओं को अलग करने में इसकी भूमिका की पुष्टि करता है।
  • प्रतितथ्यात्मक फाइनट्यूनिंग: प्रतितथ्यात्मक डेटा पर फाइनट्यूनिंग ने तथ्यात्मक डेटा पर संख्यात्मक सटीकता से समझौता किए बिना सिमेंटिक निरंतरता में सुधार किया।
  • प्रारंभिक शोर (Initial Noise): विश्लेषण ने दिखाया कि टेक्स्ट-एट्रिब्यूशन डिफ्यूजन मॉडल के प्रारंभिक शोर स्थान को अनुकूलित करता है, जिससे अधिक सघन क्लस्टर बनते हैं और अधिक प्रभावी कंडीशनल डैनोइजिंग की ओर ले जाता है।

महत्व और दावे

शोध पत्र का दावा है कि TADIFF जटिल स्थितियों के तहत प्रतितथ्यात्मक पूर्वानुमानों के मॉडलिंग और मूल्यांकन के लिए नए रास्ते खोलता है। ऐतिहासिक प्रक्षेपवक्रों और सरल श्रेणीबद्ध हस्तक्षेपों पर निर्भरता से आगे बढ़कर, प्रस्तावित विधि उन परिदृश्यों के लिए अधिक तर्कसंगत और लचीला पूर्वानुमान की अनुमति देती है जहाँ भविष्य की गतिकी अतीत से काफी भिन्न होती है।

लेखक तीन संभावित सकारात्मक सामाजिक प्रभावों को रेखांकित करते हैं:

1. जटिल, स्टोकेस्टिक धारणाओं के तहत निर्णय लेने में सहायता करना (जैसे, "यदि एक बड़े आयोजन के दौरान तूफान आता है तो क्या होगा?")।
2. उन समय श्रृंखला पूर्वानुमानों के लिए अभिनव मूल्यांकन विधियाँ प्रदान करना जहाँ ग्राउंड ट्रूथ उपलब्ध नहीं है।
3. समय श्रृंखला विश्लेषण में मल्टीमॉडल जानकारी के बेहतर उपयोग को प्रेरित करना।

शोध पत्र अपनी सीमाओं के संबंध में एक मध्यम रुख बनाए रखता है, जो मॉडल-आधारित मेट्रिक्स के साथ विभिन्न लंबाई के पूर्वानुमानों के मूल्यांकन की चुनौतियों को नोट करता है, लेकिन वास्तविक दुनिया के निर्णय लेने के लिए प्रस्तावित ढांचे की उपयोगिता पर जोर देता है।