Single State Update Predictive Coding training for Time Series Forecasting and Anomaly Detection
यह शोध पत्र प्रेडिक्टिव कोडिंग नेटवर्क्स (Predictive Coding Networks) के लिए एक समानांतर प्रशिक्षण तकनीक प्रस्तुत करता है जो एक जनरेटिव पीसीएन (Generative PCN) को एक एनकोडिंग पीसीएन (Encoding PCN) के साथ जोड़ता है ताकि अनुक्रमिक पश्च त्रुटि प्रसार (sequential backward error propagation) को समाप्त किया जा सके, जिससे टाइम सीरीज़ फोरकास्टिंग और विसंगति का पता लगाने (anomaly detection) के लिए स्थिर, निरंतर ऑनलाइन लर्निंग सक्षम हो सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, मशीनों को अक्सर एक तैयार उत्पाद को देखकर और यह समझने के लिए पीछे की ओर काम करके सीखने के लिए सिखाया जाता है कि उसे कैसे बनाया गया था। यह विधि, जिसे बैकप्रोपैगेशन (backpropagation) कहा जाता है, आधुनिक डीप लर्निंग के पीछे का मानक इंजन है, लेकिन इसमें एक महत्वपूर्ण दोष है: इसके लिए कंप्यूटर को जानकारी को एक सख्त, चरण-दर-चरण क्रम में संसाधित करने की आवश्यकता होती है। कल्पना कीजिए कि लोगों की एक पंक्ति कमरे के पीछे से सामने तक एक संदेश पहुँचा रही है; यदि पीछे खड़ा व्यक्ति अपना विचार बदल देता है, तो त्रुटि को सुधारने के लिए संदेश को पूरी पंक्ति के माध्यम से फिर से वापस जाना होगा। यह क्रमिक प्रकृति इस प्रक्रिया को धीमा और उन छोटे, पोर्टेबल उपकरणों पर चलाना कठिन बनाती है जिन्हें वास्तविक समय में सीखने की आवश्यकता होती है। एक अलग दृष्टिकोण, जिसे प्रेडिक्टिव कोडिंग (predictive coding) कहा जाता है, एक समाधान प्रदान करता है। पीछे की ओर काम करने के बजाय, यह प्रतिमान सुझाव देता है कि मस्तिष्क और मशीनें लगातार इस बात का अनुमान लगाकर सीखती हैं कि आगे क्या होने वाला है और फिर केवल तभी अपनी आंतरिक स्थिति को समायोजित करती हैं जब वास्तविकता उस अनुमान से भिन्न होती है। लक्ष्य यह है कि ये समायोजन पूरे सिस्टम में एक साथ हों, न कि सिग्नल के एक छोर से दूसरे छोर तक यात्रा करने का इंतज़ार करने के बजाय।
घेंट यूनिवर्सिटी के शोधकर्ता मैटियो कार्डोनी और सैम लेरॉक्स ने एक नई प्रशिक्षण तकनीक विकसित की है जो वीडियो स्ट्रीम या सेंसर रीडिंग जैसे 'टाइम सीरीज़ डेटा' के लिए इस समानांतर शिक्षण अवधारणा को जीवंत बनाती है। उनका कार्य प्रेडिक्टिव कोडिंग नेटवर्क की एक निरंतर बाधा को संबोधित करता है: भले ही सिद्धांत समानांतर अपडेट की अनुमति देता है, लेकिन व्यावहारिक कार्यान्वयन अक्सर आउटपुट लेयर से इनपुट लेयर तक त्रुटि संकेतों के क्रमिक रूप से प्रसारित होने का इंतज़ार करने में ही फंसा रहता है। इसे हल करने के लिए, टीम ने एक विधि पेश की जो दो न्यूरल नेटवर्क्स को एक साथ जोड़ती है। एक नेटवर्क, जो एक जनरेटर (generator) के रूप में कार्य करता है, पिछले क्षण के आधार पर अनुक्रम के अगले क्षण की भविष्यवाणी करने का प्रयास करता है। दूसरा नेटवर्क, जो एक एनकोडर (encoder) के रूप में कार्य करता है, वास्तविक आने वाले डेटा का अवलोकन करता है। जनरेटर को एक धीमी, पुनरावृत्ति प्रक्रिया के माध्यम से अकेले सीखने के लिए मजबूर करने के बजाय, एनकोडर इसके साथ चलता है और इसकी आंतरिक गतिविधि के साथ तालमेल बिठाता है। यह साझेदारी सिस्टम को सुधार के कई दौरों के माध्यम से चक्र चलाने के बजाय, एक ही, एकीकृत चरण में अपनी पूरी आंतरिक स्थिति को अपडेट करने की अनुमति देती है।
शोधकर्ताओं ने एक सिम्युलेटेड वातावरण बनाकर इस दृष्टिकोण का परीक्षण किया जहाँ छवियों के एक मानक सेट से एक अंक (digit) काले बैकग्राउंड पर घूम रहा था। उन्होंने एक पांच-परत वाले न्यूरल नेटवर्क को इस गति के अगले फ्रेम की भविष्यवाणी करने का कार्य सौंपा। सामान्य परिस्थितियों में, अंक तिरछा घूम रहा था, लेकिन शोधकर्ताओं ने अचानक विसंगतियाँ पेश कीं, जैसे कि अंक का दिशा अचानक बदलना, दीवारों से टकराना, या यहाँ तक कि पूरी तरह से अलग संख्या में बदल जाना। सिस्टम को इन नए पैटर्न को ऑन-द-फ्लाई (on the fly) सीखना था, और नए व्यवहार को देखे जाने के बाद उसे सामान्य मानना था। इन प्रयोगों में, पारंपरिक विधि, जो त्रुटियों को सुधारने के लिए कई क्रमिक चरणों पर निर्भर करती है, पैटर्न बदलने पर संघर्ष करती है। यह अक्सर तेजी से अनुकूलित होने में विफल रही, जिससे इसके अनुमान वास्तविकता से दूर होते गए। इसके विपरीत, नया युग्मित-नेटवर्क (paired-network) दृष्टिकोण लगभग तुरंत रिकवर कर गया। जब मूवमेंट पैटर्न बदला, तो सिस्टम ने एक ही अपडेट में अपने आंतरिक प्रतिनिधित्व को समायोजित किया और सटीक रूप से नए प्रक्षेपवक्र (trajectory) की भविष्यवाणी करना शुरू कर दिया, जिससे एक स्थिर और निरंतर लर्निंग कर्व बना रहा।
परिणामों ने दिखाया कि इस सिंगल-स्टेट अपडेट तकनीक ने बहुत अधिक स्थिर शिक्षण प्रक्रिया प्रदान की। जबकि पारंपरिक विधि ने डेटा बदलने पर त्रुटि के अनियमित स्पाइक्स (spikes) उत्पन्न किए, नए दृष्टिकोण ने इन संक्रमणों को सुचारू बनाया, जिससे मॉडल को अपनी पकड़ खोए बिना नए डायनेमिक्स को सामान्य मानने की अनुमति मिली। अध्ययन सुझाव देता है कि एक सहायक नेटवर्क का उपयोग करके शिक्षण प्रक्रिया को निर्देशित करके, सिस्टम उन त्रुटियों के धीमे, क्रमिक प्रसार को बायपास कर सकता है जो आमतौर पर इस प्रकार के मॉडल्स को सीमित करते हैं। यह खोज विशेष रूप से स्मार्टफोन या सेंसर जैसे 'एज डिवाइसेस' (edge devices) के भविष्य के लिए महत्वपूर्ण है, जहाँ बिजली और प्रोसेसिंग स्पीड सीमित होती है। मशीनों को निरंतर और समानांतर में सीखने में सक्षम बनाकर, यह तकनीक ऐसे सिस्टम की ओर एक आशाजनक मार्ग प्रदान करती है जो बिना किसी लंबे सुधार चक्र के पूरा होने के भारी कम्प्यूटेशनल खर्च के, वास्तविक समय में बदलती दुनिया के अनुकूल हो सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।