← नवीनतम पेपर
💻 computer science

TimeGuard: Channel-wise Pool Training for Backdoor Defense in Time Series Forecasting

डेटा एंटैंगलमेंट (data entanglement) और टास्क-फॉर्मुलेशन शिफ्ट (task-formulation shift) की चुनौतियों को संबोधित करने के लिए, जो मौजूदा सुरक्षा उपायों को टाइम सीरीज़ फोरकास्टिंग (Time Series Forecasting) के लिए अप्रभावी बना देती हैं, लेखक TimeGuard का प्रस्ताव करते हैं, जो एक ट्रेनिंग-टाइम डिफेंस है जो क्लीन मॉडल प्रदर्शन को बनाए रखते हुए बैकडोर हमलों के विरुद्ध मजबूती में उल्लेखनीय सुधार करने के लिए चैनल-वाइज पूल ट्रेनिंग (channel-wise pool training) और डिस्टेंस-रेगुलराइज्ड लॉस सिलेक्शन (distance-regularized loss selection) का उपयोग करता है।

मूल लेखक: Quang Duc Nguyen, Siyuan Liang, Yiming Li, Fushuo Huo, Dacheng Tao

प्रकाशित 2026-05-22
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Quang Duc Nguyen, Siyuan Liang, Yiming Li, Fushuo Huo, Dacheng Tao

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मौसम विज्ञानी हैं जो कल के तापमान की भविष्यवाणी करने के लिए 100 सेंसरों की टीम पर भरोसा करते हैं। आप इन सेंसरों पर हवा, बारिश और गर्मी की स्पष्ट तस्वीर देने के लिए विश्वास करते हैं।

अब, कल्पना कीजिए कि एक तोड़फोड़ करने वाला (saboteur) आपके कंट्रोल रूम में घुस आता है। वे सभी सेंसरों को नहीं तोड़ते; वे केवल तीन विशिष्ट सेंसरों के साथ छेड़छाड़ करते हैं। वे इन तीन सेंसरों को एक गुप्त, छिपा हुआ संकेत (जैसे कि ब्लिप्स का एक विशिष्ट पैटर्न) दिखाने के लिए प्रोग्राम करते हैं जब भी कोई तूफान आने वाला होता है। जब वे इस संकेत को देखते हैं, तो वे उन तीन सेंसरों को चिल्लाने के लिए मजबूर कर देते हैं, "तापमान 100 डिग्री होने वाला है!" भले ही वास्तव में कड़ाके की ठंड हो।

यदि आप अपने पूर्वानुमान मॉडल (forecasting model) को इस दूषित डेटा पर प्रशिक्षित करते हैं, तो वह एक खतरनाक नियम सीख लेता है: "यदि मैं उन तीन सेंसरों पर वह गुप्त ब्लिप देखता हूँ, तो अन्य 97 सेंसरों को अनदेखा करें और 100 डिग्री की भविष्यवाणी करें।"

यह टाइम सीरीज़ फोरकास्टिंग (Time Series Forecasting) पर एक बैकडोर अटैक (Backdoor Attack) है। मॉडल सामान्य दिनों में पूरी तरह से काम करता है, लेकिन जैसे ही वह गुप्त ट्रिगर दिखाई देता है, यह नियंत्रण से बाहर हो जाता है।

समस्या: पुराने बचाव तंत्र क्यों विफल रहे?

पेपर बताता है कि वैज्ञानिकों ने पुराने "सुरक्षा गार्डों" (जो इमेज रिकग्निशन या टेक्स्ट के लिए डिज़ाइन किए गए थे) का उपयोग करके टाइम सीरीज़ डेटा में इन तोड़फोड़ करने वालों को समय रहते पकड़ने की कोशिश की, लेकिन वे दो मुख्य कारणों से विफल रहे:

  1. "डाइल्यूटेड सूप" की समस्या (डेटा एंटैंगलमेंट):
    इमेज सुरक्षा में, यदि कोई फोटो ज़हरीली है, तो पूरी फोटो अजीब दिखती है। लेकिन टाइम सीरीज़ में, "ज़हर" केवल कुछ चैनलों (सेंसर्स) पर होता है। यदि आप पूरे डेटासेट को एक बड़े सूप के रूप में देखते हैं, तो तीन ज़हरीले सेंसर 97 साफ सेंसरों द्वारा दबा दिए जाते हैं। सुरक्षा गार्ड पूरे बर्तन को देखता है और कहता है, "यह ठीक लग रहा है," जिससे वह उस नन्हे ज़हरीले चम्मच को पहचान नहीं पाता।
  • उपमा: पूरे स्विमिंग पूल को चखकर एक ज़हर की बूंद को खोजने की कोशिश करना। आप इसे महसूस नहीं कर पाएंगे क्योंकि साफ पानी बहुत अधिक प्रभावी है।
  1. "कन्फ्यूजिंग मैथ" की समस्या (टास्क-फॉर्मुलेशन शिफ्ट):
    पुराने बचाव तंत्र अक्सर प्रशिक्षण के दौरान "गलती के स्कोर" (loss) को देखते हैं। वे मानते हैं कि ज़हरीला डेटा बड़ी गलतियाँ करता है, जबकि साफ डेटा छोटी गलतियाँ करता है। लेकिन टाइम सीरीज़ में, गणित अलग होता है। मॉडल नंबरों की भविष्यवाणी करना सीखता है, न कि श्रेणियों (categories) की। ज़हरीला डेटा और साफ डेटा दोनों समान आकार की गलतियाँ करते हैं, इसलिए सुरक्षा गार्ड उनके बीच अंतर नहीं कर पाता।
  • उपमा: एक शिक्षक द्वारा नकल करने वाले छात्र को उसके टेस्ट स्कोर को देखकर पहचानने की कोशिश करना। लेकिन नकल करने वाला और ईमानदार छात्र दोनों को "B" ग्रेड मिलता है, इसलिए शिक्षक यह अंतर नहीं कर पाता कि कौन कौन है।

समाधान: TIMEGUARD

लेखक TIMEGUARD नामक एक नया बचाव तंत्र प्रस्तावित करते हैं। पूरे डेटासेट को एक बड़े ब्लॉक के रूप में देखने के बजाय, वे रणनीति को पूरी तरह से बदल देते हैं।

1. "चैनल-वाइज पूल" (टीम कैप्टन दृष्टिकोण)
100 सेंसरों को एक विशाल समूह के रूप में मानने के बजाय, TIMEGUARD प्रत्येक सेंसर को एक व्यक्तिगत टीम सदस्य के रूप में मानता है। यह प्रत्येक सेंसर के लिए अलग से एक "विश्वसनीय पूल" (Reliable Pool) बनाता है।

  • उपमा: पूरे ऑर्केस्ट्रा का न्याय करने के बजाय, कंडक्टर प्रत्येक वायलिन वादक को व्यक्तिगत रूप से सुनता है। यदि तीसरा वायलिन वादक एक अजीब गुप्त कोड बजा रहा है, तो कंडक्टर अभ्यास सत्र से केवल उस वायलिन वादक के नोट्स को हटा देता है, जबकि अन्य 97 संगीतकारों के नोट्स को रखता है। यह "ज़हर" को सिग्नल को पतला (dilute) करने से रोकता है।

2. "टाइम-अवेयर" फिल्टर्स (जासूस के दो सुराग)
यह तय करने के लिए कि कौन से सेंसर नोट्स सुरक्षित रखने के लिए हैं, TIMEGUARD दो चतुर जाँचों का उपयोग करता है:

  • "रिवर्स कंसिस्टेंसी" चेक: टाइम सीरीज़ डेटा आमतौर पर आगे की ओर बहता है (अतीत →\to भविष्य)। बैकडोर को केवल उसी दिशा में काम करने के लिए डिज़ाइन किया गया है। TIMEGUARD डेटा को पीछे की ओर (भविष्य →\to अतीत) चलाने की कोशिश करता है। साफ डेटा दोनों दिशाओं में समझ में आता है, लेकिन ज़हरीला डेटा (गुप्त ट्रिगर) पीछे की ओर चलाने पर बिखर जाता है।
    • उपमा: कांच टूटने का वीडियो देखना। यदि आप इसे आगे चलाते हैं, तो यह वास्तविक लगता है। यदि आप इसे पीछे (कांच के टुकड़ों को वापस जुड़ते हुए) चलाते हैं, तो यह असंभव लगता है। बैकडोर एक "असंभव बैकवर्ड मूवी" की तरह है।
  • "नेबरहुड डाइवर्सिटी" चेक: ज़हरीला डेटा संदिग्ध रूप से अन्य ज़हरीले डेटा के समान दिखता है क्योंकि हमलावर एक ही ट्रिगर पैटर्न का उपयोग करता है। TIMEGUARD उन डेटा पॉइंट्स को खोजता है जो "अकेले" या विविध (diverse) हैं। यदि डेटा पॉइंट्स का एक समूह बिल्कुल एक जैसा दिखने के लिए एक साथ झुंड बना हुआ है, तो यह एक जाल है।
    • उपमा: भीड़ में, यदि लोगों का एक समूह बिल्कुल एक ही अजीब मास्क पहने हुए और एक तंग घेरे में खड़ा है, तो वे संभवतः तोड़फोड़ करने वाले हैं। TIMEGUARD विविध, सामान्य दिखने वाले लोगों को रखता है और "क्लिक" (clique) को बाहर निकाल देता है।

3. "डिस्टेंस-रेगुलराइज्ड" ट्रेनिंग (धीमी विस्तार प्रक्रिया)
एक बार जब TIMEGUARD एक छोटा, सुरक्षित समूह ढूंढ लेता है, तो यह मॉडल को प्रशिक्षित करना शुरू करता है। लेकिन यह सारा डेटा वापस नहीं डाल देता। यह धीरे-धीरे "सुरक्षित पूल" का विस्तार करता है, लगातार यह जांचते हुए कि नया डेटा पुराने "क्लिक" (ज़हर) के बहुत समान तो नहीं है। यह सुनिश्चित करता है कि मॉडल सच्चाई से सीखे बिना अनजाने में गुप्त कोड को फिर से न सीख ले।

परिणाम

लेखकों ने ट्रैफिक फ्लो, मौसम और बिजली के उपयोग जैसे वास्तविक दुनिया के डेटा का उपयोग करके स्मार्टतम हमलावरों (attacks) के खिलाफ TIMEGUARD का परीक्षण किया।

  • परिणाम: TIMEGUARD एक बड़ी सफलता रहा। इसने मॉडल को गुप्त आदेशों का पालन करने से रोका (पिछले सर्वोत्तम तरीके की तुलना में मजबूती को लगभग 2 गुना सुधार दिया)।
  • लागत: इसने मॉडल की सामान्य मौसम या ट्रैफिक की भविष्यवाणी करने की क्षमता को खराब नहीं किया। "साफ" प्रदर्शन लगभग बिल्कुल वैसा ही रहा (5% के भीतर)।

संक्षेप में: TIMEGUARD एक स्मार्ट सुरक्षा प्रणाली है जो "बड़ी तस्वीर" को देखना बंद कर देती है और डेटा में प्रत्येक "व्यक्तिगत आवाज" को सुनना शुरू करती है। डेटा को पीछे की ओर चलाने पर यह जांचकर और यह देखकर कि क्या डेटा पॉइंट्स एक-दूसरे के बहुत समान हैं, यह अच्छे डेटा को फेंके बिना ज़हर को फ़िल्टर कर देता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💻 cs →