← नवीनतम पेपर
💻 संगणक विज्ञान

Structure-Aware Behavioral Alignment of Large Language Models for Robust Time Series Forecasting

यह शोध पत्र TSLLM-BO को प्रस्तुत करता है, जो एक दो-चरणीय ढांचा है जो निरंतर, दीर्घ-क्षितिज भविष्यवाणी कार्यों (long-horizon prediction tasks) पर सुदृढीकरण शिक्षण (reinforcement learning) को लागू करने की चुनौतियों से निपटने के लिए एक समय-पाठ संरेखण वास्तुकला (time-text alignment architecture) को एक अवकलनीय मिश्रित पुरस्कार (differentiable composite reward) और डायनेमिक पॉलिसी क्लिपिंग (Dynamic Policy Clipping) के साथ जोड़कर, LLM-आधारित समय श्रृंखला पूर्वानुमान की मजबूती और संरचनात्मक निष्ठा को बढ़ाता है।

मूल लेखक: Mingliang Hu

प्रकाशित 2026-10-14
📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Mingliang Hu

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

आधुनिक दुनिया में, सेंसर, बाजारों और मशीनों से निरंतर भारी मात्रा में डेटा प्रवाहित होता है, जो संख्याओं की ऐसी धाराएं बनाता है जो मौसम के पैटर्न से लेकर बिजली के उपयोग तक सब कुछ बयां करती हैं। इन संख्याओं के अगले कदम की भविष्यवाणी करना इंजीनियरों और वैज्ञानिकों के लिए एक मौलिक चुनौती है। दशकों से, मानक दृष्टिकोण कंप्यूटर मॉडल को उनके अनुमानों और वास्तविक भविष्य के मूल्यों के बीच औसत दूरी को कम करने के लिए प्रशिक्षित करना रहा है। हालांकि यह संख्याओं को करीब लाने के लिए अच्छा काम करता है, लेकिन यह अक्सर डेटा के वास्तविक स्वरूप को पकड़ने में विफल रहता है। एक मॉडल एक सप्ताह के औसत तापमान की सटीक भविष्यवाणी कर सकता है लेकिन उस तीव्र गिरावट को मिस कर सकता है जो तूफान का संकेत देती है, या यह शेयर बाजार के समग्र रुझान को सही बता सकता है लेकिन उस विशिष्ट क्षण को देखने में विफल हो सकता है जब मंदी शुरू होती है। संख्याओं को सही पाने और उन संख्याओं द्वारा बताई गई कहानी को समझने के बीच का यही अंतर है जहाँ शोध की एक नई रेखा अपनी छाप छोड़ रही है।

शोधकर्ताओं ने हाल ही में बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) की ओर रुख किया है, जो वे शक्तिशाली कृत्रिम बुद्धिमत्ता (एआई) सिस्टम हैं जो निबंध लिखते हैं और प्रश्नों के उत्तर देते हैं, ताकि इन भविष्यवाणियों में मदद मिल सके। ये मॉडल पैटर्न और संदर्भ को पहचानने में उत्कृष्ट हैं, लेकिन जब इन्हें टाइम-सीरीज डेटा पर लागू किया जाता है, तो उन्हें मुख्य रूप से उसी पुराने तरीके से प्रशिक्षित किया गया है: बस एक अनुक्रम में अगली संख्या को यथासंभव बारीकी से मिलाने की कोशिश करना। एक नया अध्ययन बताता है कि यह दृष्टिकोण अपर्याप्त है। लेखक का तर्क है कि पूर्वानुमान में वास्तव में महारत हासिल करने के लिए, एक मॉडल को न केवल व्यक्तिगत बिंदुओं को, बल्कि पूरे अनुक्रम के व्यवहार को सीखना होगा। वे एक ऐसी विधि प्रस्तावित करते हैं जो पहले मॉडल को संख्याओं की बुनियादी बातें सिखाती है और फिर एक अलग प्रकार की सीखने की प्रक्रिया का उपयोग करती है ताकि इसके व्यवहार को डेटा की जटिल, वास्तविक संरचनाओं, जैसे कि चिकनी लहरों, अचानक मोड़ों और दीर्घकालिक रुझानों के साथ संरेखित किया जा सके।

इस कार्य के पीछे के शोधकर्ता ने एक ढांचा विकसित किया जिसे वे TSLLM-BO कहते हैं। उनका दृष्टिकोण एक दो-चरणीय रणनीति पर आधारित है जो इस बात की नकल करता है कि कैसे एक मानव किसी जटिल कौशल को सीखता है। सबसे पहले, सिस्टम 'सुपरवाइज्ड फाइन-ट्यूनिंग' के दौर से गुजरता है। इस प्रारंभिक चरण में, मॉडल को विशाल ऐतिहासिक डेटा दिखाया जाता है और यह अपने अनुमान और सत्य के बीच त्रुटि को कम करके अगले मूल्यों की भविष्यवाणी करना सीखता है। यह एक छात्र द्वारा तथ्यों को याद करने और बुनियादी गणनाओं का अभ्यास करने के समान है। यह एक विश्वसनीय आधार स्थापित करता है, जिससे यह सुनिश्चित होता है कि मॉडल स्थानीय विवरणों और चरों के बीच तत्काल संबंधों को समझता है। हालांकि, शोधकर्ता ने पाया कि यहीं रुक जाने से मॉडल असुरक्षित हो जाता है। यह स्थानीय सटीकता में तो अच्छा हो जाता है, लेकिन अक्सर व्यापक संदर्भ खो देता है, जिससे ऐसे पूर्वानुमान उत्पन्न होते हैं जो सांख्यिकीय रूप से सही दिखते हैं लेकिन अपने आकार या समय के मामले में गलत महसूस होते हैं।

इसे ठीक करने के लिए, शोधकर्ता ने एक दूसरा चरण पेश किया जो 'रीइन्फोर्समेंट लर्निंग' (सुदृढीकरण शिक्षण) का उपयोग करता है, जो एक ऐसी तकनीक है जहाँ मॉडल फीडबैक के आधार पर प्रयास और त्रुटि से सीखता है। केवल यह जाँचने के बजाय कि एक एकल संख्या सही है या गलत, यह चरण पूरे पूर्वानुमान का समग्र रूप से मूल्यांकन करता है। सिस्टम को न केवल सही नंबरों तक पहुँचने के लिए पुरस्कृत किया जाता है, बल्कि 'वेवफॉर्म' (तरंग रूप) को बनाए रखने के लिए भी, जिसका अर्थ है वक्र को चिकना और यथार्थवादी रखना, और लंबे समय तक सही रुझान बनाए रखने के लिए भी। कल्पना कीजिए कि एक मॉडल यातायात के प्रवाह की भविष्यवाणी कर रहा है; एक मानक मॉडल औसत गति को सही प्राप्त कर सकता है लेकिन एक चिकनी सड़क की भविष्यवाणी कर सकता है जब वास्तव में वहां ट्रैफिक जाम होता है। इसके विपरीत, नई विधि यह पहचानने में सक्षम होती है कि गति में अचानक गिरावट और उसके बाद धीमी रिकवरी एक विशिष्ट पैटर्न है जिसे संरक्षित किया जाना चाहिए, भले ही हर सेकंड की सटीक गति एकदम सही न हो।

इस नई पद्धति के मूल में यह निहित है कि सफलता को कैसे मापा जाता है। शोधकर्ता ने एक मिश्रित पुरस्कार प्रणाली (कंपोजिट रिवॉर्ड सिस्टम) डिजाइन की जो तीन अलग-अलग लक्ष्यों को जोड़ती है: पॉइंट सटीकता, वेवफॉर्म निरंतरता और ट्रेंड अलाइनमेंट (रुझान संरेखण)। पॉइंट सटीकता यह सुनिश्चित करती है कि संख्याएं वास्तविकता के करीब हों। वेवफॉर्म निरंतरता यह जांचती है कि भविष्यवाणी के उतार-चढ़ाव वास्तविक डेटा के उतार-चढ़ाव से मेल खाते हैं या नहीं, जिससे यह सुनिश्चित होता है कि मॉडल महत्वपूर्ण विवरणों को नजरअंदाज न करे। ट्रेंड अलाइनमेंट यह सत्यापित करता है कि भविष्यवाणी की दीर्घकालिक दिशा वास्तविक भविष्य के पथ से मेल खाती है। इन तीन लक्ष्यों को संतुलित करके, मॉडल ऐसे पूर्वानुमान उत्पन्न करना सीखता है जो न केवल संख्यात्मक रूप से सटीक हैं बल्कि संरचनात्मक रूप से भी सुदृढ़ हैं।

टाइम-सीरीज के लिए इस प्रकार के शिक्षण का उपयोग करने में एक महत्वपूर्ण बाधा स्थिरता है। जब एक मॉडल लंबी अवधि में अपनी भविष्यवाणियों में सुधार करने की कोशिश करता है, तो यह आसानी से अनियंत्रित हो सकता है, जो अच्छे और बुरे अनुमानों के बीच झूल सकता है। इसे हल करने के लिए, शोधकर्ता ने 'डायनेमिक पॉलिसी क्लिपिंग' नामक एक तंत्र पेश किया। यह एक सुरक्षा वाल्व के रूप में कार्य करता है जो यह समायोजित करता है कि किसी भी दिए गए क्षण में मॉडल को अपने व्यवहार को कितना बदलने की अनुमति है। प्रशिक्षण प्रक्रिया के शुरुआती चरण में, मॉडल को नए तरीकों का पता लगाने के लिए बड़े समायोजन करने की अनुमति दी जाती है। जैसे-जैसे यह सीखता है और एक स्थिर समाधान के करीब पहुँचता है, सिस्टम इन सीमाओं को सख्त कर देता है, जिससे मॉडल को छोटी त्रुटियों पर अत्यधिक प्रतिक्रिया करने से रोका जा सके और यह सुनिश्चित हो सके कि वह एक विश्वसनीय पैटर्न में स्थिर हो जाए। यह अनुकूल नियंत्रण मॉडल को बिना बिखरे जटिल, दीर्घकालिक व्यवहार सीखने की अनुमति देता है।

इस दृष्टिकोण के परिणामों का परीक्षण ऊर्जा खपत, मौसम के पैटर्न, यातायात प्रवाह और बीमारी के प्रसार के आंकड़ों सहित विभिन्न वास्तविक दुनिया के डेटासेट पर किया गया था। अध्ययन ने उनकी नई पद्धति की तुलना कई मजबूत मौजूदा मॉडलों के साथ की, जिसमें अन्य सिस्टम भी शामिल हैं जो बड़े भाषा मॉडलों का उपयोग करते हैं और पारंपरिक डीप लर्निंग नेटवर्क भी। लगभग हर परीक्षण में, नया ढांचा दूसरों से बेहतर प्रदर्शन करता है, विशेष रूप से कठिन परिदृश्यों में जहाँ भविष्यवाणी की अवधि लंबी हो या डेटा शोर (नॉइज़) वाला हो। उदाहरण के लिए, कई दिनों के बिजली उपयोग या यातायात पैटर्न की भविष्यवाणी करते समय, नए मॉडल ने अपने प्रतिस्पर्धियों की तुलना में भविष्य की बहुत स्पष्ट और अधिक सटीक तस्वीर बनाए रखी। इसने एक प्रकार के डेटा से सीखे गए ज्ञान को दूसरे प्रकार के डेटा पर स्थानांतरित करने की उल्लेखनीय क्षमता भी दिखाई, और उन डेटासेट पर भी अच्छा प्रदर्शन किया जिन्हें उसने पहले कभी नहीं देखा था।

शायद सबसे महत्वपूर्ण बात यह है कि मॉडल अपूर्ण डेटा के साथ अधिक मजबूत साबित हुआ। वास्तविक दुनिया की स्थितियों में, सेंसर अक्सर विफल हो जाते हैं, या डेटा खो जाता है, और शोर वास्तविक संकेत को धुंधला कर सकता है। जब शोधकर्ता ने अपने परीक्षणों में जानबूझकर शोर जोड़ा या डेटा के हिस्सों को हटाया, तो नया मॉडल दूसरों की तुलना में काफी बेहतर बना रहा। यह लापता जानकारी का सामना करने पर अराजकता में नहीं गिरा; इसके बजाय, इसने ऐसे पूर्वानुमान बनाना जारी रखा जो डेटा की अंतर्नित्व संरचना का सम्मान करते थे। यह सुझाव देता है कि केवल व्यक्तिगत संख्याओं के बजाय अनुक्रम के व्यवहार पर ध्यान केंद्रित करके, मॉडल ने इन प्रणालियों के काम करने के तरीके की गहरी समझ विकसित कर ली है।

अध्ययन ने इस प्रक्रिया की दक्षता को भी संबोधित किया। जबकि सीखने के दूसरे चरण को जोड़ने से ऐसा लग सकता है कि इसके लिए भारी मात्रा में कंप्यूटिंग शक्ति की आवश्यकता होगी, शोधकर्ता ने पाया कि उनकी पद्धति वास्तव में कुछ मौजूदा विकल्पों की तुलना में अधिक कुशल थी। मुख्य भाषा मॉडल को स्थिर रखकर और केवल उन विशिष्ट भागों को समायोजित करके जो अंतिम भविष्यवाणी के लिए जिम्मेदार हैं, वे इस विशाल प्रणाली को पुन: प्रशिक्षित किए बिना इन परिणामों को प्राप्त करने में सक्षम रहे। यह दृष्टिकोण वास्तविक दुनिया की तैनाती के लिए व्यावहारिक बनाता है, जहाँ कंप्यूटिंग संसाधन अक्सर सीमित होते हैं।

अंततः, यह कार्य सुझाव देता है कि टाइम-सीरीज पूर्वानुमान का भविष्य केवल मॉडलों को बड़ा या अधिक जटिल बनाने में नहीं है, बल्कि उन्हें उन प्रणालियों की तरह सोचने में है जिनका वे पूर्वानुमान लगाने की कोशिश कर रहे हैं। यह केवल संख्याओं को फिट करने से हटकर व्यवहार को समझने की ओर एक बदलाव है। शोधकर्ता निष्कर्ष निकालते हैं कि जबकि सुपरवाइज्ड लर्निंग एक आवश्यक आधार प्रदान करती है, व्यवहारिक संरेखण (बिवेवियरल अलाइनमेंट), जो रीइन्फोर्समेंट लर्निंग के माध्यम से प्राप्त किया गया है, उन मॉडलों को मजबूती और संरचनात्मक जागरूकता प्रदान करता है जो विश्वसनीय, दीर्घकालिक पूर्वानुमान के लिए आवश्यक है। यह दृष्टिकोण बिजली ग्रिड के प्रबंधन से लेकर बीमारी के प्रकोप का अनुमान लगाने तक के अनुप्रयोगों के लिए एक आशाजनक मार्ग प्रदान करता है, जहाँ भविष्य के आकार को सही पाना उतना ही महत्वपूर्ण है जितना कि संख्याओं को सही पाना।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →