कल्पना कीजिए कि आपकी स्मार्टवॉच या फिटनेस ट्रैकर आपकी कलाई पर बैठा एक छोटा, अत्यंत सूक्ष्म अवलोकन करने वाला जासूस है। इसका काम आपके शरीर के सूक्ष्म झटकों, धक्कों और हलचलों को महसूस करके यह पता लगाना है कि आप क्या कर रहे हैं। विज्ञान का यह क्षेत्र 'ह्यूमन एक्टिविटी रिकग्निशन' (HAR) कहलाता है। अपना काम करने के लिए, यह जासूस आपको 24/7 एक लंबे, धुंधले प्रवाह के रूप में नहीं देखता; इसके बजाय, यह आपकी गतिविधियों को छोटे, सुपाच्य टुकड़ों में काट देता है जिन्हें "विंडोज़" (windows) कहा जाता है, जैसे कि त्वरित स्नैपशॉट की एक श्रृंखला लेना। लंबे समय तक, जासूस प्रत्येक स्नैपशॉट को पूरी तरह से अकेला देखता था, यह पूछते हुए, "क्या यह चलना है? क्या यह दौड़ना है?" बिना यह याद रखे कि ठीक पहले या बाद के स्नैपशॉट में क्या हुआ था। इसने जासूस को थोड़ा अनाड़ी बना दिया, जिससे वह अक्सर तब भ्रमित हो जाता था जब आप एक गतिविधि से दूसरी में बदल रहे होते थे। बड़ा सवाल जिसका शोधकर्ता जूझ रहे थे, वह यह था: हम अपने जासूस को कैसे सिखा सकते हैं कि वह इन स्नैपशॉट्स के बीच के बिंदुओं को जोड़ सके ताकि वह केवल अलग-थलग चित्रों को ही नहीं, बल्कि पूरी कहानी को समझ सके?

यहाँ DeepConvContext आता है, जो मारियस बोक और उनकी टीम द्वारा प्रस्तावित एक नया और चतुर आर्किटेक्चर है, जो इस "बिंदुओं को जोड़ने" वाली समस्या को हल करने की कोशिश करता है। हर टाइम-विंडोज़ को एक अजनबी के रूप में मानने के बजाय, यह नया तरीका उन्हें एक अनुक्रम (sequence) में व्यवस्थित करता है, जैसे डोमिनोज़ की एक पंक्ति, ताकि मॉडल सीख सके कि एक गतिविधि से दूसरी गतिविधि कैसे जुड़ी है। शोधकर्ताओं ने पाया कि सीखने की प्रक्रिया को दो भागों में विभाजित करके—एक भाग जो एक एकल विंडो के भीतर के विवरणों का अध्ययन करता है, और दूसरा भाग जो यह अध्ययन करता है कि वे विंडो आपस में कैसे संबंधित हैं—यह प्रणाली बहुत अधिक स्मार्ट हो जाती है। छह अलग-अलग डेटासेट्स पर परीक्षणों में, इस दृष्टिकोण ने गतिविधि का पता लगाने की सटीकता में औसतन 5% की वृद्धि का सुझाव दिया और गतिविधियों की समयरेखा को पिछले तरीकों की तुलना में बहुत अधिक सुचारू और कम "उछल-कूद" वाला बनाया। यह साबित हुआ कि मानव गति को समझने के लिए, एक रोबोट को वर्तमान क्षण को देखने के साथ-साथ पिछले कुछ सेकंडों को याद रखने की भी उतनी ही आवश्यकता होती है।

जासूस का नया प्रशिक्षण नियम

द दशकों से, कंप्यूटर को मानव गति को पहचानने के लिए सिखाने का मानक तरीका "स्नैप" के खेल जैसा रहा है। आप सेंसर डेटा (जैसे एक्सेलेरोमीटर के झटके) का एक निरंतर प्रवाह लेते हैं और इसे ओवरलैपिंग विंडोज़ में काट देते हैं। कंप्यूटर एक विंडो को देखता है, गतिविधि का अनुमान लगाता है, और फिर अगली विंडो को देखने के लिए उसे तुरंत भूल जाता है। यह "स्लाइडिंग विंडो" दृष्टिकोण है। हालांकि यह सरल कार्यों के लिए ठीक काम करता है, इसमें एक बड़ी खामी है: यह एक खंडित समयरेखा बनाता है। यदि आप कुर्सी से उठ रहे हैं, तो कंप्यूटर एक "बैठने" वाली विंडो देख सकता है, फिर एक "खड़े होने" वाली विंडो, और बीच में भ्रमित हो सकता है क्योंकि वह संक्रमण को एक निरंतर प्रवाह के रूप में नहीं देख पाता।

इस पेपर के लेखक तर्क देते हैं कि इन मॉडलों को प्रशिक्षित करने का पुराना तरीका एक वाक्य देखे बिना एक-एक शब्द पढ़कर भाषा सीखने जैसा है। उन्होंने देखा कि अन्य क्षेत्र, विशेष रूप से कंप्यूटर विज़न (जहाँ AI वीडियो देखकर क्रियाओं को पहचानता है), इसे कैसे संभालते हैं। वीडियो विश्लेषण में, AI मॉडल अक्सर "स्थानीय" विशेषताओं (अभी क्या हो रहा है) को "वैश्विक" संदर्भ (पहले और बाद में क्या हुआ था) से अलग करते हैं। टीम ने इस विचार को पहनने योग्य सेंसरों (wearable sensors) में लाने का निर्णय लिया।

उन्होंने DeepConvContext पेश किया, जो एक दो-चरणीय जासूस है।

1. स्थानीय जासूस (इंट्रा-विंडो): सबसे पहले, सिस्टम डेटा की एक एकल विंडो को देखता है, ठीक वैसे ही जैसे पुराने मॉडल करते थे। यह उस विशिष्ट समय के टुकड़े के भीतर के विवरणों को समझने के लिए एक विशेष न्यूरल नेटवर्क (कन्वोल्यूशनल न्यूरल नेटवर्क और LSTM का मिश्रण) का उपयोग करता है। यह एक सारांश, एक "फीचर वेक्टर" उत्पन्न करता है, जो उस विंडो में क्या हुआ, इसका एक संक्षिप्त नोट है।
2. कहानीकार (इंटर-विंडो): यह जादुई हिस्सा है। उस नोट को फेंकने के बजाय, सिस्टम इन नोट्स की एक अनुक्रम (sequence) को दूसरे, बड़े मस्तिष्क (एक अन्य LSTM) में फीड करता है। यह दूसरा मस्तिष्क प्रवाह को समझने के लिए नोट्स की श्रृंखला को देखता है। वह पूछता है, "ठीक है, पिछले नोट ने 'चलना' कहा था, और वर्तमान नोट 'खड़े होना' कह रहा है, तो यह रुकने का क्षण होना चाहिए।"

पुराने तरीके काम क्यों नहीं कर पाए

इससे पहले, कुछ शोधकर्ताओं ने CausalBatch नामक विधि का उपयोग करके "भूलने" की समस्या को ठीक करने की कोशिश की थी। यह जासूस को विंडोज़ का एक बैच दिखाकर उसे यह बताने जैसा था कि, "पिछले बैच से छिपे हुए स्टेट (hidden state) को याद रखो ताकि तुम अगले से जुड़ सको।" इस पेपर के लेखक तर्क देते हैं कि यह दृष्टिकोण थोड़ा बेमेल है। यह एक छात्र को निबंध लिखने के लिए कहने जैसा है जहाँ पैराग्राफ जुड़े हुए हैं, लेकिन शिक्षक केवल इस आधार पर ग्रेड देता है कि प्रत्येक पैराग्राफ अकेले कितनी अच्छी तरह खड़ा है। मॉडल को दीर्घकालिक कनेक्शन सीखने के लिए कहा जाता है, लेकिन प्रशिक्षण संकेत (प्रतिक्रिया जो उसे मिलती है) केवल अल्पकालिक पैटर्न के बारे में बताती है।

DeepConvContext इस प्रक्रिया को बदलकर इसे ठीक करता है। विंडोज़ को बेतरतीब ढंग से मिलाने के बजाय, यह किसी व्यक्ति की समयरेखा से विंडोज़ का एक निरंतर अनुक्रम लेता है और उस पूरे अनुक्रम को एक प्रशिक्षण बैच के रूपas मानता है। यह सुनिश्चित करता है कि जब मॉडल विंडोज़ को जोड़ना सीखता है, तो वह वास्तव में एक वास्तविक, निरंतर कहानी देख रहा होता है।

परिणाम: सुचारू कहानियाँ, कम गलतियाँ

टीम ने छह व्यापक रूप से उपयोग किए जाने वाले डेटासेट्स पर अपने नए आर्किटेक्चर का परीक्षण किया, जिसमें साधारण चलने और दौड़ने से लेकर "बैठने से खड़े होने" के संक्रमण और यहाँ तक कि लैब-आधारित गतिविधियों जैसे जटिल कार्य शामिल थे। उन्होंने DeepConvContext की तुलना मानक DeepConvLSTM, CausalBatch विधि और मॉडल के एक "शैलो" (Shallow) संस्करण से की।

परिणाम उत्साहजनक थे। औसतन, DeepConvContext ने मानक तरीकों की तुलना में F1-स्कोर (सटीकता का एक माप) में 5% का सुधार किया। कुछ विशिष्ट मामलों में, सुधार 21% तक ऊँचा था। अधिक महत्वपूर्ण बात यह है कि इस मॉडल ने बहुत अधिक सुसंगत समयरेखाएँ बनाईं। शोधकर्ताओं ने इसे mAP (मीन एवरेज प्रिसिजन) नामक मीट्रिक का उपयोग करके मापा, जो यह जाँचता है कि अनुमानित गतिविधि खंड वास्तविक खंडों से कितनी अच्छी तरह मेल खाते हैं। DeepConvContext ने Shallow DeepConvLSTM की तुलना में 18 अंक अधिक स्कोर किया।

दृश्य रूप में, इसका अर्थ यह है कि पुराने मॉडल अक्सर "फ्लिकरिंग" (झिलमिलाने वाले) परिणाम देते थे—जैसे कि व्यक्ति एक ही सहज गतिविधि कर रहा हो, फिर भी एक सेकंड में "चलना", फिर "दौड़ना", फिर "चलना" का अनुमान लगाना। हालाँकि, DeepConvContext ने साफ, ठोस गतिविधि ब्लॉक उत्पन्न किए, संक्रमणों को सही ढंग से पहचाना और "कुछ नहीं" (NULL विंडोज़) को गतिविधि के रूप में गलत वर्गीकृत करने के भ्रम से बचा।

गुप्त सामग्री: LSTMs बनाम फैंसी नई तकनीक

AI की दुनिया में, "ट्रांसफॉर्मर्स" और "अटेंशन" तंत्र के बारे में बहुत चर्चा है—ये ऐसे फैंसी उपकरण हैं जो मॉडल को दूरी की परवाह किए बिना किसी भी अनुक्रम के किसी भी हिस्से को तुरंत देखने की अनुमति देते हैं। कई शोधकर्ता मानते हैं कि ये हमेशा बेहतर होते हैं। हालाँकि, लेखकों ने अपने दूसरे "कहानीकार" मस्तिष्क को इन अटेंशन-आधारित मॉडलों के साथ बदलकर प्रयोग किए।

आश्चर्यजनक रूप से, परिणामों ने सुझाव दिया कि पुराने, क्रमिक LSTM (लॉन्ग शॉर्ट-टर्म मेमोरी) नेटवर्क वास्तव में बेहतर प्रदर्शन करते हैं। LSTMs ने अटेंशन-आधारित मॉडलों की तुलना में F1-स्कोर में 5% तक बेहतर प्रदर्शन किया। लेखक सुझाव देते हैं कि चूंकि मानव गति स्वाभाविक रूप से क्रमिक और व्यवस्थित होती है (आपको पैर रखने से पहले पैर उठाना पड़ता है), इसलिए LSTMs का "लोकल" बायस, अटेंशन तंत्र के "ग्लोबल" दृश्य की तुलना में इस समस्या के लिए बेहतर फिट बैठता है, जो कभी-कभी अनुक्रम के गलत हिस्सों से विचलित हो सकते हैं।

गति और दक्षता

एक सामान्य चिंता यह है कि नए, जटिल मॉडल वास्तविक समय में घड़ी या फोन पर उपयोग के लिए बहुत धीमे होंगे। लेखकों ने इसकी सावधानीपूर्वक जाँच की। भले ही DeepConv-Context में अधिक पैरामीटर (CausalBatch विधि की तुलना में लगभग तीन गुना अधिक) हैं, फिर भी यह डेटा को लगभग उतनी ही तेज़ी से प्रोसेस करता है। इसने प्रति बैच 0.96 ms (मिलीसेकंड) की लेटेंसी हासिल की, जो पुराने, सरल तरीकों के बराबर है। इसका मतलब है कि नया "सुपर-डिटेक्टिव" आपको इंतज़ार नहीं कराता; यह अभी भी वास्तविक समय में आपकी गतिविधि का अनुमान लगा सकता है।

यह भविष्य के लिए क्या मायने रखता है

पेपर यह निष्कर्ष निकालता है कि DeepConvContext "स्लाइडिंग विंडो" समस्या को हल करने की दिशा में एक ठोस कदम है। स्थानीय विवरणों को सीखने से वैश्विक संदर्भ को अलग करके, और बिखरे हुए टुकड़ों के बजाय निरंतर अनुक्रमों पर प्रशिक्षण देकर, मॉडल मानव गति के बारे में एक बेहतर कहानी बताना सीखता है।

लेखक नोट करते हैं कि जबकि उन्होंने ऑनलाइन भविष्यवाणी (रियल-टाइम) पर ध्यान केंद्रित किया है, यह विधि ऑफलाइन विश्लेषण के लिए भी काम कर सकती है। वे यह भी बताते हैं कि यह दृष्टिकोण केवल एक विशिष्ट प्रकार के सेंसर के लिए नहीं है; इसे TinyHAR या Attend-and-Discriminate जैसे अन्य मॉडलों में भी अनुकूलित किया जा सकता है। हालाँकि, वे सतर्क रहते हैं, यह सुझाव देते हुए कि जबकि परिणाम मजबूत हैं, समुदाय को विभिन्न परिदृश्यों में इन विचारों का परीक्षण करना जारी रखना चाहिए। अंततः, वे आशा करते हैं कि यह मल्टी-स्केल दृष्टिकोण एक मानक उपकरण बन जाएगा, जिससे हमारे डिजिटल जासूस न केवल यह समझ पाएंगे कि हम क्या कर रहे हैं, बल्कि यह भी कि हम इसे कैसे कर रहे हैं, एक सुचारू संक्रमण के माध्यम से।