तकनीकी सारांश: VeriTime – प्रक्रिया-सत्यापनीय विचार डेटा संश्लेषण और शेड्यूलिंग के माध्यम से टाइम सीरीज़ तर्क (Reasoning)

1. समस्या विवरण

टाइम सीरीज़ (TS) डेटा वित्त, स्वास्थ्य सेवा और ऊर्जा जैसे डोमेन में सर्वव्यापी है, फिर भी LLMs को TS कार्यों के लिए मजबूत तर्क क्षमताओं से लैस करना एक महत्वपूर्ण चुनौती बनी हुई है। जबकि हालिया प्रगति, विशेष रूप से सुदृढीकरण शिक्षण (RL) और चेन-ऑफ-थॉट (CoT) तर्क द्वारा उन्नत LLMs, आशाजनक संकेत दिखाती है, लेकिन टाइम सीरीज़ के लिए उनका अनुप्रयोग तीन प्राथमिक अंतरालों के कारण बाधित है:

1. डेटा की कमी: सावधानीपूर्वक क्यूरेट किए गए TS-CoT प्रशिक्षण डेटा की कमी है जिसमें मध्यवर्ती तर्क चरणों को निर्देशित करने के लिए प्रक्रिया-सत्यापनीय एनोटेशन शामिल हों।
2. अकुशल शेड्यूलिंग: मौजूदा दृष्टिकोण अक्सर डेटा शेड्यूलिंग की अनदेखी करते हैं, जिससे प्रशिक्षण के दौरान डेटा दक्षता में कमी आती है।
3. एल्गोरिदम का बेमेल होना: टाइम सीरीज़ तर्क के लिए वर्तमान RL एल्गोरिदम परिणाम-आधारित पुरस्कारों पर अत्यधिक निर्भर हैं, जो मध्यवर्ती तर्क चरणों की वैधता को सत्यापित करने के लिए आवश्यक प्रक्रिया-स्तरीय संकेतों की उपेक्षा करते हैं।

परिणामस्वरूप, मौजूदा विधियाँ अक्सर वास्तविक दुनिया की टाइम सीरीज़ में निहित अंतर्निहित रिलेशनल संरचनाओं और मल्टी-स्केल टेम्पोरल सहसंबंधों को स्पष्ट रूप से समझने में विफल रहती हैं, और इसके बजाय बुनियादी प्रॉम्प्टिंग या केवल परिणाम-आधारित अनुकूलन पर निर्भर रहती हैं।

2. कार्यप्रणाली: VeriTime फ्रेमवर्क

लेखक VeriTime का प्रस्ताव करते हैं, जो एक ऐसा फ्रेमवर्क है जिसे डेटा संश्लेषण, डेटा शेड्यूलिंग और अनुकूलित RL प्रशिक्षण के त्रि-आयामी दृष्टिकोण के माध्यम से टाइम सीरीज़ तर्क के लिए LLMs को तैयार करने के लिए डिज़ाइन किया गया है।

2.1. टाइम सीरीज़ रीजनिंग डेटा सिंथेसिस (TSRgen)

डेटा अंतराल को दूर करने के लिए, लेखक TSRgen पेश करते हैं, जो एक स्वचालित पाइपलाइन है जो TSRBench, एक मल्टीमॉडल टाइम सीरीज़-टेक्स्ट डेटासेट का निर्माण करती है।

• डेटा स्रोत: TSRBench सिंथेटिक डेटा (ChatTS से) और वास्तविक दुनिया के डेटा (मेडिकल, एनर्जी और बायो-एकौस्टिक्स डोमेन से) दोनों को एकीकृत करता है ताकि सात विशिष्ट कार्यों को कवर किया जा सके, जिनमें विसंगति का पता लगाना (anomaly detection), परिदृश्य एट्रिब्यूशन (scenario attribution) और अनुमानात्मक गणना (inferential calculation) शामिल हैं।
• TS-अनुकूलित CoT: सामान्य CoT के विपरीत, TSRgen टाइम सीरीज़ गुणों के लिए विशिष्ट छह-चरणीय, तार्किक रूप से क्रमबद्ध तर्क पथ (trajectory) लागू करता है:
  1. कार्य इरादा विश्लेषण (Task intent analysis)।
  2. कार्य-प्रासंगिक प्रमुख पैटर्न का चयन (जैसे, रुझान, थ्रेशोल्ड)।
  3. चयनित पैटर्न का उपयोग करके टाइम सीरीज़ नमूनों का विश्लेषण।
  4. प्रारंभिक उत्तरों का निर्माण।
  5. आत्म-चिंतन और सत्यापन (Self-reflection and verification)।
  6. विचार प्रक्रिया का सारांश।
• प्रक्रिया-सत्यापनीय एनोटेशन: पाइपलाइन एक नियम-आधारित एक्सट्रैक्टर और एक शक्तिशाली रीजनिंग मॉडल (DeepSeek-R1) का उपयोग करके तर्क पथ (reasoning trajectories) उत्पन्न करती है। महत्वपूर्ण रूप से, यह अंतिम ग्राउंड ट्रुथ के साथ-साथ मध्यवर्ती चरणों के लिए प्रक्रिया-सत्यापनीय लेबल निकालता है (जैसे, लक्षित इकाई की पहचान करना, पैटर्न चयन को सत्यापित करना)। यह न केवल अंतिम उत्तर बल्कि स्वयं तर्क प्रक्रिया के पर्यवेक्षण (supervision) की अनुमति देता है।

2.2. डेटा शेड्यूलिंग के साथ अनुकूलित RL

VeriTime एक दो-चरणीय सुदृढीकरण फाइन-ट्यूनिंग (RFT) फ्रेमवर्क का उपयोग करता है जो प्रशिक्षण दक्षता में सुधार के लिए एक चयनात्मक रोलआउट रणनीति का उपयोग करता है।

• कठिनाई पदानुक्रम (Difficulty Hierarchy): डेटासेट को कार्य वर्गीकरण और मॉडल प्रदर्शन के आधार पर "आसान" (परिदृश्य-आधारित) और "कठिन" (ज्ञान-आधारित) नमूनों में वर्गीकृत किया गया है।
• चरण 1 (वार्म-अप और SFT): एक बेस मॉडल को एक छोटे उपसमूह पर सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) के माध्यम से इनिशियलाइज़ किया जाता है। यह वार्म-अप किया गया मॉडल फिर परिदृश्य-आधारित डेटा पर अनुमान (inference) करता है ताकि इसे "सामान्य" (सही ढंग से हल किया गया) और "कठिन" (विफल) उपसमूहों में विभाजित किया जा सके।
• चरण 2 (लक्षित RFT):
  • मॉडल को बुनियादी तर्क पैटर्न को सुदृढ़ करने के लिए सामान्य उपसमूह पर SFT के माध्यम से और अधिक फाइन-ट्यून किया जाता है।
  • Reinforcement Learning ( GRPO एल्गोरिदम का उपयोग करके) विशेष रूप से कठिन उपसमूह पर लागू किया जाता है। यह चयनात्मक दृष्टिकोण यह सुनिश्चित करता है कि मॉडल उन चुनौतीपूर्ण मामलों पर RL संसाधनों को केंद्रित करे जहाँ वह सबसे प्रभावी ढंग से सीख सकता है, जिससे आसान नमूनों पर RL की अस्थिरता से बचा जा सके।

2.3. बहु-उद्देश्यीय पुरस्कार डिजाइन (Multi-Objective Reward Design)

तर्क पथ को अनुकूलित करने के लिए, VeriTime एक सूक्ष्म, बहु-उद्देश्यीय पुरस्कार फ़ंक्शन $R(y)$ पेश करता है जो तीन घटकों को जोड़ता है:

1. संरचनात्मक पुरस्कार ($r_{struct}$): आउटपुट टेम्प्लेट के पालन को लागू करते हैं (फॉर्मेट रिवॉर्ड $r_{fmt}$) और उपयुक्त प्रतिक्रिया लंबाई ($r_{len}$)।
2. हार्ड रिवॉर्ड ($r_{hard}$): अंतिम उत्तर की तथ्यात्मक शुद्धता पर आधारित एक प्राथमिक सिग्नल।
3. प्रक्रिया पुरस्कार ($r_{process}$): ये स्पष्ट रूप से TS-अनुकूलित CoT के अनुरूप मध्यवर्ती चरणों का मूल्यांकन करते हैं:
   • कार्य बोध ($r_{intent}$): कार्य के उद्देश्य की सही पहचान को सत्यापित करता है।
   • महत्वपूर्ण पैटर्न ($r_{pattern}$): आवश्यक टेम्पोरल पैटर्न की पहचान के लिए पुरस्कृत करता है।
   • उत्तर संरेखण ($r_{align}$): जाँच करता है कि क्या प्रारंभिक उत्तर ग्राउंड ट्रुथ के साथ संरेखित है।
   • उत्तर सत्यापन ($r_{verify}$): प्रतिबिंब (reflection) के बाद अंतिम स्व-सत्यापित निर्णय की शुद्धता के लिए पुरस्कृत करता है।

3. मुख्य योगदान

पेपर तीन प्राथमिक योगदान का दावा करता है:

1. TSRgen पाइपलाइन और TSRBench: पहला टाइम सीरीज़ रीजनिंग डेटासेट जो सात विविध कार्यों को कवर करने वाले, सिंथेटिक और वास्तविक दुनिया के डेटा से प्राप्त प्रक्रिया-सत्यापनीय एनोटेशन के साथ TS-अनुकूलित CoT तर्क पथों को एकीकृत करता है।
2. दो-चरणीय RFT फ्रेमवर्क: एक अभिनव प्रशिक्षण रणनीति जो SFT और RL को एक डेटा शेड्यूलिंग तंत्र के साथ जोड़ती है जो कठिनाई के आधार पर सीखने योग्य नमूनों को गतिशील रूप से चुनती है, जिससे प्रशिक्षण दक्षता में सुधार होता है।
3. बहु-उद्देश्यीय पुरस्कार प्रणाली: एक पुरस्कार डिजाइन जो मध्यवर्ती तर्क चरणों को स्पष्ट रूप से पर्यवेक्षित करता है, जो केवल परिणाम-आधारित अनुकूलन से आगे बढ़कर टाइम सीरीज़ तर्क की तार्किक सुसंगतता और वैधता को बढ़ाता है।

4. प्रयोगात्मक परिणाम

व्यापक प्रयोग TSRBench, TimeSeriesExam, और DROP पर किए गए, जिसमें कॉम्पैक्ट मॉडल (Qwen2.5-3B और Qwen3-4B) को बेस के रूप में उपयोग किया गया।

• प्रदर्शन लाभ: VeriTime बेसलाइन से काफी बेहतर प्रदर्शन करता है। परिदृश्य-आधारित कार्यों पर, Qwen2.5-3B ने अपने बेस संस्करण की तुलना में औसत 100% से अधिक सुधार (जैसे, विसंगति का पता लगाने में +239.56%) हासिल किया। Qwen3-4B ने सभी कार्यों में निरंतर लाभ दिखाया, जिसमें 14.67% का समग्र सुधार और अनुमानात्मक गणना में 22.74% की वृद्धि देखी गई।
• बड़े मॉडलों के साथ तुलना: उल्लेखनीय रूप से, VeriTime के साथ प्रशिक्षित कॉम्पैक्ट 3B–4B मॉडलों ने बड़े प्रोप्रायटरी LLMs (जैसे, GPT-4o-mini, DeepSeek-R1-Distill-7B) और विशेष टाइम सीरीज़ लैंग्वेज मॉडल्स (Time-MQA, Time-R1) के बराबर या उनसे बेहतर तर्क क्षमताएं प्राप्त कीं।
• दक्षता: TS-अनुकूलित CoT दृष्टिकोण ने अनुमान (inference) टोकन के उपयोग को काफी कम कर दिया, जो बेस मॉडल की तुलना में कार्यों में औसतन 71% की टोकन कमी प्राप्त करता है, जो अक्सर अनफोकस्ड और लंबी विश्लेषण उत्पन्न करता था।
• एब्लेशन अध्ययन (Ablation Studies): प्रक्रिया पुरस्कारों या डेटा शेड्यूलिंग रणनीति को हटाने से प्रदर्शन में महत्वपूर्ण गिरावट आई, जो मध्यवर्ती चरणों को पर्यवेक्षित करने और डेटा कठिनाई को क्यूरेट करने की आवश्यकता की पुष्टि करता है।

5. महत्व और दावे

पेपर का तर्क है कि टाइम सीरीज़ विश्लेषण के लिए तर्क प्रक्रिया की वैधता और व्याख्यात्मकता (interpretability) महत्वपूर्ण है। परिणाम-आधारित पर्यवेक्षण से प्रक्रिया-सत्यापनीय तर्क की ओर बढ़कर, VeriTime मध्यम आकार के LLMs को जटिल टेम्पोरल रीजनिंग कार्यों में महारत हासिल करने में सक्षम बनाता है जिनके लिए पहले बड़े मॉडलों या विशेष आर्किटेक्चर की आवश्यकता होती थी।

लेखक दावा करते हैं कि उनका कार्य टाइम सीरीज़ विश्लेषण में LLM तर्क के उपयोग के लिए एक आशाजनक दिशा स्थापित करता है, यह प्रदर्शित करते हुए कि डेटा की गुणवत्ता (विशेष रूप से प्रक्रिया-सत्यापनीय CoT) और रणनीतिक डेटा शेड्यूलिंग शुद्ध डेटा वॉल्यूम या मॉडल स्केल की तुलना में प्रदर्शन के लिए अधिक महत्वपूर्ण हैं। फ्रेमवर्क सफलतापूर्वक सामान्य LLM क्षमताओं और टाइम सीरीज़ तर्क की विशिष्ट, जटिल मांगों के बीच के अंतर को पाटता है।