🤖 machine learning

POEM: Phase-Aware $\mathrm{SO}(2)$ Feature Rotation for Time Series Forecasting Under Periodicity Drift

यह शोध पत्र POEM को प्रस्तुत करता है, जो एक चरण-जागरूक (phase-aware) समय श्रृंखला पूर्वानुमान ढांचा है जो एक चरण-सुधार समन्वय (phase-correction coordinate) सीखने और लेटेंट फीचर्स पर प्रतिवर्ती $\mathrm{SO}(2)$ रोटेशन लागू करके आवधिकता ड्रिफ्ट (periodicity drift) को संबोधित करता है, जिसे भविष्य के चरण निष्कर्षण (future phase extrapolation) के लिए एक दिशात्मक चरण वृद्धि अटेंशन (Directional Phase Increment Attention) तंत्र द्वारा बढ़ाया गया है।

मूल लेखक: Jiawen Zhu, Shuhan Liu, Shengxuan Li, Qiming Shi, Di Weng

प्रकाशित 2026-08-05

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Jiawen Zhu, Shuhan Liu, Shengxuan Li, Qiming Shi, Di Weng

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक दोहराते हुए पैटर्न को देखकर भविष्य की भविष्यवाणी करने की कोशिश कर रहे हैं, जैसे समुद्र तट पर आती-जाती लहरें या किसी शहर के चौराहे से गुजरने वाली कारों की दैनिक भीड़। लंबे समय से, वैज्ञानिक और कंप्यूटर इन लूपों को पहचानने में माहिर रहे हैं। वे यह मान लेते हैं कि यदि एक लहर हर 12 घंटे में टकराती है, तो वह हमेशा ठीक उसी समय टकराती रहेगी। लेकिन वास्तविक दुनिया में, जीवन अव्यवस्थित है। कभी तूफान के कारण ज्वार थोड़ा जल्दी आ जाता है; कभी छुट्टी के कारण ट्रैफिक जाम देर से शुरू होता है। शेड्यूल का यह "ड्रिफ्टिंग" (विस्थापन)—जहाँ लय तो वही रहती है लेकिन उसका समय डगमगा जाता है—कंप्यूटरों के लिए यह अनुमान लगाने में एक बड़ी सिरदर्दी है कि आगे क्या होने वाला है। टाइम सीरीज़ फोरकास्टिंग (समय श्रृंखला पूर्वानुमान) के रूप में ज्ञात यह क्षेत्र बिजली ग्रिड के प्रबंधन से लेकर हृदय गति की भविष्यवाणी करने तक, हर चीज़ के लिए महत्वपूर्ण है। बड़ा सवाल यह है: हम कंप्यूटर को यह कैसे सिखाएं कि एक पैटर्न अपना आकार खोए बिना कैसे खिंच सकता है, सिकुड़ सकता है और अपने समय को बदल सकता है?

यहाँ POEM आता है, जो झेजियांग यूनिवर्सिटी के शोधकर्ताओं द्वारा विकसित एक नई विधि है, जो डेटा के लिए एक 'टाइम-ट्रैवलिंग डांस इंस्ट्रक्टर' (समय यात्रा करने वाले नृत्य प्रशिक्षक) की तरह काम करती है। यह शोध पत्र सुझाव देता है कि इन डगमगाती लय को एक कठोर, अपरिवर्तनीय घड़ी में फिट करने के बजाय, हमें कंप्यूटर को भविष्यवाणी करने से पहले समय की गड़बड़ियों को ठीक करने के लिए डेटा को "रोटेट" (घुमाने) देने देना चाहिए। इसे एक घूमते हुए रिकॉर्ड प्लेयर को देखने की तरह समझें। यदि रिकॉर्ड थोड़ा टेढ़ा है, तो संगीत की गति तेज और धीमी होती हुई सुनाई देती है (यही "पीरियडिसिटी ड्रिफ्ट" है)। POEM केवल उस टेढ़े संगीत को सुनता ही नहीं है; यह गणना करता है कि रिकॉर्ड वास्तव में कैसे टेढ़ा हो रहा है और ध्वनि तरंगों को फिर से पूरी तरह से गोलाकार बनाने के लिए उन्हें डिजिटल रूप से "रोटेट" करता है। एक बार जब डेटा सीधा हो जाता है, तो एक सरल, हल्का प्रेडिक्टर आसानी से पैटर्न को देख सकता है और अनुमान लगा सकता है कि आगे क्या होगा। अनुमान लगाने के बाद, सिस्टम भविष्यवाणी को उसके मूल, डगमगाते आकार में वापस घुमाता है ताकि वह वास्तविकता से मेल खा सके।

शोधकर्ताओं ने पाया कि यह दृष्टिकोण आश्चर्यजनक रूपм से अच्छा काम करता है। एक गणितीय उपकरण का उपयोग करके जिसे SO(2) रोटेशन कहा जाता है—जो केवल संख्याओं के एक जोड़े को एक घेरे के चारों ओर घुमाने का एक फैंसी तरीका है—POEM जटिल समय परिवर्तनों को सुलझा सकता है। उन्होंने इसका परीक्षण मौसम के पैटर्न और शेयर बाजार से लेकर हृदय गति मॉनिटर और जन्म दर तक, नौ अलग-अलग वास्तविक दुनिया के डेटासेट्स पर किया। परिणाम बताते हैं कि POOM एक मजबूत दावेदार है, जो अक्सर सटीकता में अन्य शीर्ष विधियों को भी पीछे छोड़ देता है। उदाहरण के लिए, अमेरिकी जन्म दर को ट्रैक करने वाले एक डेटासेट पर, इस नई विधि ने पिछले प्रयासों की तुलना में त्रुटि को काफी कम कर दिया। टीम ने यह भी दिखाया कि डेटा को "रोटेट" करके, कंप्यूटर के मस्तिष्क के भीतर छिपे पैटर्न बहुत अधिक सुव्यवस्थित और संगठित हो जाते हैं, लगभग ऊन के एक उलझे हुए गोले को एक साफ स्पूल में बदलने जैसा।

हालाँकि, यह शोध पत्र इस बात का दावा करने में सावधान है कि यह ब्रह्मांड की हर समस्या को हल नहीं करता है। यह विधि तब सबसे अच्छा काम करती है जब डेटा में एक स्पष्ट, दोहराता हुआ चक्र हो जो बस समय में थोड़ा विस्थापित हो जाता है। यह सुझाव देता है कि हालांकि हम दुनिया को अपनी लय बदलने से नहीं रोक सकते, लेकिन हम इसके साथ तालमेल बिठाने वाले उपकरण बना सकते हैं। शोधकर्ताओं ने यह भी नोट किया कि हालांकि उनकी विधि मौजूदा सबसे तेज़ मॉडलों की तुलना में थोड़ी धीमी है, फिर भी यह अविश्वसनीय रूप से तेज़ है (प्रति नमूना आधा मिलीसेकंड से भी कम समय लेती है) और कुछ अन्य जटिल दृष्टिकोणों की तुलना में बहुत तेज़ है। अंततः, POEM इस तथ्य को संभालने का एक चंचल लेकिन शक्तिशाली नया तरीका प्रदान करता है कि हमारा संसार, जो कि अव्यवस्थित है, समय शायद ही कभी पूर्ण एकरूपता के साथ टिक-टिक करता है।

तकनीकी सारांश: POEM – आवधिकता विचलन (Periodicity Drift) के तहत समय श्रृंखला पूर्वानुमान के लिए चरण-जागरूक SO(2) फीचर रोटेशन

1. समस्या की परिभाषा: आवधिकता विचलन (Periodicity Drift)

समय श्रृंखला पूर्वानुमान (Time series forecasting) ऐतिहासिक डेटा में चक्रीय नियमितताओं को पहचानने पर बहुत अधिक निर्भर करता है ताकि भविष्य की अवस्थाओं का अनुमान लगाया जा सके। हालाँकि, वास्तविक दुनिया की प्रणालियाँ शायद ही कभी सख्त आवधिकता (strict periodicity) का पालन करती हैं। लेखक आवधिकता विचलन (periodicity drift) को एक महत्वपूर्ण चुनौती के रूप में पहचानते हैं, जहाँ बदलते परिचालन स्थितियों के कारण चक्र का समय और चरण (phase) समय के साथ परिवर्तित होता रहता है। फिक्स्ड-पीरियड मॉडल के विपरीत, जो यह मानते हैं कि चक्र स्थिर दरों पर दोहराए जाते हैं, आवधिकता विचलन में गैर-समान चरण प्रगति (non-uniform phase progression) शामिल होती है। इसे एक परिवर्तनशील चरण वेग (phase velocity) (जो यह नियंत्रित करता है कि चक्र कितनी तेजी से आगे बढ़ता है) और एक चरण ऑफसेट (phase offset) (जो यह नियंत्रित करता है कि चक्र कहाँ स्थित है) द्वारा पहचाना जाता है।

यह शोध पत्र तर्क देता है कि मौजूदा पद्धतियाँ, जिनमें टेम्पलेट-आधारित दृष्टिकोण और AlignTime या PhaseFormer जैसे चरण-जागरूक मॉडल शामिल हैं, अक्सर निश्चित लंबाई के टेम्पलेट्स या वैश्विक/विविक्त संरेखण (global/discretized alignment) पर निर्भर करती हैं। ये दृष्टिकोण स्थानीय साक्ष्यों से चैनल-वार चरण प्रक्षेपवक्र (channel-wise phase trajectory) को स्पष्ट रूप से निर्मित करने में विफल रहते हैं, जिससे चरण बदलावों के निरंतर, स्थानीय विकास को मॉडल करने में एक अंतराल रह जाता है।

2. कार्यप्रणाली: POEM ढांचा (The POEM Framework)

आवधिकता विचलन को संबोधित करने के लिए, लेखक POEM का प्रस्ताव करते हैं, जो एक चरण-सुधार समन्वय (phase-correction coordinate) सीखने और दो आयामों के विशेष ऑर्थोगोनल समूह, SO(2) का उपयोग करके प्रतिवर्ती रोटेशन (invertible rotations) लागू करके चरण-संबंधी परिवर्तनशीलता को कम करता है। इस ढांचे में पाँच क्रमिक मॉड्यूल शामिल हैं:

A. स्थानीय चरण-सुधार अनुमानक (Local Phase-Correction Estimator - LPCE)
यह मॉड्यूल लुक-बैक विंडो से चर-विशिष्ट चरण प्रक्षेपवक्रों का अनुमान लगाता है।

स्थानीय गतिशीलता (Local Dynamics): इनपुट अनुक्रम को ओवरलैपिंग विंडोज़ में विभाजित किया जाता है। एक स्थानीय एनकोडर (कन्वोल्यूशनल मिक्सिंग, सेल्फ-अटेंशन, टेम्पोरल एग्रीगेशन) प्रत्येक विंडो के लिए फीचर्स निकालता है।
पैरामीटराइजेशन (Parameterization): प्रत्येक विंडो और चर के लिए, मॉडल निम्नलिखित का अनुमान लगाता है:
1. चरण ऑफसेट ( $\theta$ ): एक कोणीय एंकर जिसे चक्रीय प्रकृति का सम्मान करने के लिए $(-\pi, \pi)$ के भीतर सीमित किया गया है।
2. चरण वेग ( $v$ ): एक धनात्मक स्केलर जो चक्र की प्रगति की गति को दर्शाता है, जिसे धनात्मकता सुनिश्चित करने के लिए एक क्लिप्ड MLP और एक्सपोनेन्शिएशन के माध्यम से पैरामीटराइज किया गया है।
एकीकरण (Integration): इन स्थानीय अनुमानों को एक सर्कुलर मीन और टेम्पोरल अनरैपिंग का उपयोग करके एक निरंतर, चैनल-वार चरण सुधार प्रक्षेपवक्र $\Phi_c(t)$ में एकत्रित किया जाता है।

B. चरण-निर्देशित SO(2) फीचर रोटेशन (Phase-Guided SO(2) Feature Rotation)
पूर्वानुमान से पहले, मॉडल लेटेंट फीचर्स को एक "चरण-सुधारित" स्थान में परिवर्तित करता है।

फीचर एनकोडिंग: अवलोकनों को $D$ -आयामी वेक्टर्स में एनकोड किया जाता है।
रोटेशन: फीचर वेक्टर्स को 2D सबस्पेस बनाने के लिए जोड़ों (pairs) में विभाजित किया जाता है। अनुमानित चरण सुधार कोण के ऋणात्मक का उपयोग करके इन जोड़ों पर एक SO(2) रोटेशन मैट्रिक्स $R(-\Phi_c(t))$ लागू किया जाता है।
प्रभाव: यह ऑपरेशन अनुमानित चरण बदलावों की भरपाई करता है, भौतिक लेटेंट अवस्थाओं को एक अधिक नियमित आवधिक कक्षा (periodic orbit) पर प्रोजेक्ट करता है, जिससे बाद के पूर्वानुमान कार्य को सरल बनाया जा सके।

C. चरण-सुधारित टेम्पोरल प्रेडिक्टर (Phase-Corrected Temporal Predictor)
एक हल्का मल्टी-लेयर पर्सेप्ट्रॉन (MLP) रोटेटेड, चरण-सुधारित फीचर्स पर कार्य करता है। क्योंकि चरण-प्रेरित अनियमितताओं को हटा दिया गया है, इस प्रेडिक्टर को केवल भविष्य की अवस्थाओं का पूर्वानुमान लगाने के लिए शेष टेम्पोरल डिपेंडेंसीज को मॉडल करने की आवश्यकता होती है।

D. दिशात्मक चरण वृद्धि ध्यान (Directional Phase Increment Attention - DPIA)
चूंकि आवधिकता विचलन पूर्वानुमान क्षितिज (forecast horizon) में भी जारी रहता है, इसलिए मॉडल को यह अनुमान लगाना चाहिए कि चरण कैसे विकसित होगा।

तंत्र (Mechanism): DPIA समान टेम्पोरल संदर्भों के तहत देखे गए ऐतिहासिक चरण वृद्धियों (phase increments) को प्राप्त करता है। यह टाइमस्टैम्प एनकोडिंग्स को क्वेरीज़ (भविष्य) और कीज़ (ऐतिहासिक) के रूप में उपयोग करता है।
अटेंशन (Attention): एक लर्न करने योग्य स्केल्ड कोसाइन अटेंशन मैकेनिज्म भविष्य और ऐतिहासिक टाइमस्टैम्प संदर्भों के बीच समानता के आधार पर वेट्स (weights) की गणना करता है।
एकीकरण: ऐतिहासिक चरण वृद्धियों को इन वेट्स के माध्यम से एकत्रित किया जाता है ताकि भविष्य का चरण-सुधार प्रक्षेपवक्र बनाया जा सके।

E. चरण बहाली और डिकोडिंग (Phase Restoration and Decoding)
अंतिम चरण प्रारंभिक रूपांतरण को उलट देता है।

बहाली (Restoration): भविष्य के फीचर्स (सुधारित स्थान में) को भविष्य के चरण कोणों $R(\hat{\Phi}_c(L+h))$ का उपयोग करके वापस रोटेट किया जाता है।
डिकोडिंग: एक लीनियर डिकोडर इन बहाल किए गए फीचर्स को मूल डेटा स्केल पर मैप करता है ताकि अंतिम पूर्वानुमान प्राप्त हो सके।

3. मुख्य योगदान

यह शोध पत्र तीन प्राथमिक योगदानों को रेखांकित करता है:

समस्या का सूत्रीकरण: इसने आवधिकता विचलन को आंतरिक सिस्टम डायनेमिक्स और एक परिवर्तनशील चरण के बीच के जुड़ाव के रूप में औपचारिक रूप से परिभाषित किया है जो प्रेक्षित समय अक्ष (observed time axis) को विकृत करता है।
POEM ढांचा: यह एक ऐसा तरीका पेश करता है जो एक निरंतर चरण सुधार प्रक्षेपवक्र का निर्माण करता है और फीचर्स पर SO(2) रूपांतरण लागू करता है। यह एक अधिक नियमित प्रतिनिधित्व बनाता है जिसे एक हल्का टेम्पोरल प्रेडिक्टर संभाल सकता है, जो फिक्स्ड-टेम्पलेट या ग्लोबल-अलाइनमेंट विधियों की सीमाओं को दूर करता है।
अनुभवजन्य सत्यापन (Empirical Validation): नौ वास्तविक दुनिया के बेंचमार्क पर व्यापक प्रयोग प्रतिस्पर्धी प्रदर्शन प्रदर्शित करते हैं। एब्लेशन अध्ययन और विज़ुअलाइज़ेशन पुष्टि करते हैं कि सीखे गए चरण-जागरूक रूपांतरण लेटेंट प्रक्षेपवत्तियों को नियमित करते हैं और SO(2) रोटेशन अन्य रूपांतरणों (जैसे फ्रीक्वेंसी-डोमेन सुधार या शीयर) की तुलना में बेहतर है।

4. प्रयोगात्मक परिणाम

लेखकों ने ऊर्जा (ETT), वित्त (Exchange), मौसम और अन्य डोमेन (NN5, US Birth, ZafNoo) को कवर करने वाले नौ डेटासेट्स पर POEM का मूल्यांकन किया।

प्रदर्शन: POEM ने 18 में से 12 तुलनाओं में (9 डेटासेट्स और 2 मेट्रिक्स: MSE और MAE केAcross) सर्वश्रेष्ठ या दूसरा सर्वश्रेष्ठ परिणाम प्राप्त किया। इसने अग्रणी बेसलाइन, PMDformer की तुलना में औसत MSE को 11.9% कम कर दिया, जो 9 में से 7 डेटासेट्स पर इसे पछाड़ते हुए दिखाया।
एब्लेशन अध्ययन:
- SO(2) रोटेशन को हटाने से त्रुटि काफी बढ़ गई, जो चरण सुधार की आवश्यकता की पुष्टि करती है।
- LPCE को हटाने (इसे एक साधारण लीनियर हेड से बदलने) से सबसे अधिक प्रदर्शन गिरावट हुई, जो ऑफसेट्स और वेलोसिटी के संरचित स्थानीय अनुमान की आवश्यकता को प्रमाणित करता है।
- DPIA को लीनियर प्रोजेक्शन या स्टैंडर्ड अटेंशन से बदलने से उच्च त्रुटियां हुईं, जो स्केल्ड कोसाइन अटेंशन के माध्यम से ऐतिहासिक वृद्धियों को प्राप्त करने की प्रभावकारिता का समर्थन करता है।
वैकल्पिक रूपांतरण: SO(2) रोटेशन ने फ्रीक्वेंसी-डोमेन फेज करेक्शन, फेज-कंडीशनड FiLM और फेज-कंडीशनड शीयर को पछाड़ दिया, जो यह सुझाव देता है कि जोड़े गए लेटेंट फीचर्स का नॉर्म-प्रिजर्विंग रोटेशन इस कार्य के लिए सबसे प्रभावी तंत्र है।
दक्षता: POEM कम इन्फरेंस लेटेंसी (प्रति सैंपल 0.201–0.441 ms) बनाए रखता है, जो PMDformer के तुलनीय है और SRSNet की तुलना में काफी तेज (2.5–4.3x) है।

5. महत्व और दावे

शोध पत्र का दावा है कि POEM आवधिकता विचलन के लिए एक ज्यामितीय रूप से आधारित समाधान प्रदान करता है। चरण विचलन को एक परिवर्तनशील रूप से विकसित होने वाली प्रक्रिया के रूप में मानकर और इसे SO(2) रोटेशन के माध्यम से ठीक करके, यह ढांचा एक जटिल, नॉन-स्टेशनरी पूर्वानुमान समस्या को एक अधिक नियमित समस्या में बदल देता है जिसे एक हल्का प्रेडिक्टर संभाल सकता है।

लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण पूर्ण अंतर्निहित डायनेमिकल सिस्टम को पुनः प्राप्त करने का प्रयास नहीं करता है, बल्कि केवल चरण प्रगति के विशिष्ट प्रभाव को मॉडल करता है। गुणात्मक विज़ुअलाइज़ेशन (PCA प्रोजेक्शन) दिखाते हैं कि रोटेशन के बाद फीचर प्रक्षेपवत्त (trajectories) अधिक सुचारू होते हैं और अधिक सुसंगत चक्र बनाते हैं, जो सीधे इस दावे का समर्थन करते हैं कि विधि सफलतापूर्वक चरण-संबंधी परिवर्तनशीलता को कम करती है। यह कार्य निष्कर्ष निकालता है कि यह चरण-जागरूक ज्यामितीय दृष्टिकोण गैर-समान आवधिकता की उपस्थिति में समय श्रृंखला पूर्वानुमान में सुधार के लिए एक मजबूत रणनीति है।