💻 computer science

Adversarial Robustness of Time-Series Classification for Crystal Collimator Alignment

यह शोध पत्र एक डिफरेंशिएबल प्रीप्रोसेसिंग रैपर को लागू करके CERN के LHC पर क्रिस्टल-कोलिमेटर अलाइनमेंट के लिए उपयोग किए जाने वाले एक CNN की एडवरसेरियल मजबूती (adversarial robustness) को बढ़ाता है, जो ग्रेडिएंट-आधारित हमलों और फाइन-ट्यूनिंग को सक्षम बनाता है, जिससे क्लीन परफॉर्मेंस से समझौता किए बिना रोबस्ट एक्यूरेसी में 18.6% तक सुधार होता है और विश्लेषण को सीक्वेंस-लेवल टेम्पोरल कमजोरियों तक विस्तारित किया जाता है।

मूल लेखक: Xaver Fink, Borja Fernandez Adiego, Daniele Mirarchi, Eloise Matheson, Alvaro Garcia Gonzales, Gianmarco Ricci, Joost-Pieter Katoen

प्रकाशित 2026-04-09

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xaver Fink, Borja Fernandez Adiego, Daniele Mirarchi, Eloise Matheson, Alvaro Garcia Gonzales, Gianmarco Ricci, Joost-Pieter Katoen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही नाजुक, हाई-स्पीड रेडियो को ट्यून करने की कोशिश कर रहे हैं ताकि एक विशिष्ट, मंद संकेत (faint signal) को पकड़ा जा सके। यदि आप डायल को थोड़ा भी ज्यादा घुमा देते हैं, तो आप सिग्नल खो देते हैं। यदि आप इसे पर्याप्त नहीं घुमाते हैं, तो आप इसे मिस कर देते हैं। अब, कल्पना कीजिए कि इस रेडियो का उपयोग लार्ज हैड्रोन कोलाइडर (LHC) नामक एक विशाल मशीन के अंदर लगभग प्रकाश की गति से चलने वाले कणों की एक बीम को निर्देशित करने के लिए किया जा रहा है। यदि आपका अलाइनमेंट (alignment) गलत हो जाता है, तो कण गलत दीवारों से टकरा सकते हैं, जिससे नुकसान हो सकता है या पूरी मशीन बंद हो सकती है।

मानव ऑपरेटरों को इस रेडियो को पूरी तरह से ट्यून करने में मदद करने के लिए, वैज्ञानिकों ने एक "स्मार्ट असिस्टेंट" (एक न्यूरल नेटवर्क) बनाया है जो मशीन से आने वाले शोर (noise) को सुनता है और कहता है, "हाँ, यह सही जगह है!" या "नहीं, घुमाते रहो।"

यह पेपर इस बारे के बारे में है कि यह "स्मार्ट असिस्टेंट" कितना "भोला" (gullible) है और यह सुनिश्चित करने के बारे में कि इसे डेटा की छोटी, वास्तविक गड़बड़ियों (glitches) से ठगा न जा सके।

यहाँ उनके काम का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. समस्या: "स्मार्ट असिस्टेंट" और "स्टैटिक" (Static)

असिस्टेंट यह तय करने के लिए डेटा की एक स्ट्रीम (जैसे ध्वनि तरंग) को देखता है कि मशीन अलाइन्ड है या नहीं।

वास्तविक दुनिया: वास्तविक दुनिया में, सेंसर परफेक्ट नहीं होते। उनमें "स्टैटिक" (इलेक्ट्रॉनिक शोर) होता है और स्वयं बीम में उतार-चढ़ाव होता है।
खतरा: शोधकर्ताओं ने पूछा: "क्या होगा यदि कोई व्यक्ति (या प्रकृति) सिग्नल में इतना 'स्टैटिक' जोड़ दे कि असिस्टेंट को यह विश्वास दिलाने के लिए कि मशीन अलाइन्ड है जब वह वास्तव में नहीं है? या इसके विपरीत?"
खतरा: यदि असिस्टेंट को धोखा दिया जाता है, तो मशीन या तो बहुत जल्दी रुक सकती है (परफेक्ट अलाइनमेंट मिस करना) या बहुत लंबे समय तक चल सकती है (समय बर्बाद करना और नुकसान का जोखिम उठाना)।

2. वह गलती जो ज्यादातर लोग करते हैं: "क्लीन रूम" बनाम "कीचड़ भरा किचन"

आमतौर पर, जब वैज्ञानिक यह परीक्षण करते हैं कि एक स्मार्ट असिस्टेंट कितना मजबूत (robust) है, तो वे मान लेते हैं कि डेटा "साफ" है। वे सीधे उन नंबरों में नकली शोर जोड़ देते हैं जिन्हें कंप्यूटर देखता है।

पेपर का अंतर्दृष्टि (Insight): लेखकों ने महसूस किया कि यह एक साफ किचन में शेफ का परीक्षण करने जैसा है, लेकिन फिर खाना कीचड़ भरे किचन में परोसा जाता है।
वास्तविकता: असिस्टेंट के देखने से पहले, मशीन बहुत सारी "प्री-प्रोसेसिंग" करती है। यह सिग्नल को साफ करती है (normalization) और सबको एक समान आकार देने के लिए खाली जगह (padding) जोड़ती है।
उपमा: कल्पना कीजिए कि आप एक ऐसे व्यक्ति को बेवकूफ बनाने की कोशिश कर रहे हैं जो केवल अनुवादित टेक्स्ट पढ़ता है। यदि आप मूल टेक्स्ट को बदलते हैं, तो अनुवाद अजीब और अप्रत्याशित तरीकों से बदल जाता है। यदि आप सीधे अनुवाद को बदलते हैं, तो आप कुछ ऐसा बना सकते हैं जो कोई इंसान वास्तव में कभी नहीं देखेगा।
समाधान: लेखकों ने एक विशेष "रैपर" (एक अनुवादक) बनाया है जो असिस्टेंट के सामने बैठता है। यह रैपर सुनिश्चित करता है कि वे जो भी "ट्रिक" खेलने की कोशिश करते हैं, वह वास्तविक हो। यह सुनिश्चित करता है कि उनके द्वारा जोड़ा गया शोर वास्तविक दुनिया के नियमों का पालन करे (जैसे कि उस खाली स्थान को न बदलना जो उन्होंने जोड़ा था)।

3. "स्लाइडिंग विंडो" और "चेन रिएक्शन"

असिस्टेंट पूरे इतिहास को एक साथ नहीं देखता है; यह समय की एक छोटी "विंडो" देखता है, फिर एक कदम आगे स्लाइड करता है, फिर से देखता है, और फिर से स्लाइड करता है।

नई खोज: शोधकर्ताओं ने पाया कि आप असिस्टेंट को केवल एक सिंगल विंडो पर ही नहीं, बल्कि विंडोज़ की एक पूरी चेन (श्रृंखला) पर भी धोखा दे सकते हैं।
उपमा: कल्पना कीजिए कि एक सुरक्षा गार्ड लोगों की एक लाइन की जांच कर रहा है। यदि आप एक व्यक्ति पर गार्ड को धोखा देते हैं, तो वह शायद आगे बढ़ जाए। लेकिन क्या होगा यदि आप उसे लगातार दस लोगों पर धोखा देते हैं ताकि वह यह सोचे कि पूरी लाइन सुरक्षित है जब वह नहीं है?
परिणाम: उन्होंने दिखाया कि डेटा में एक छोटा, सुचारू परिवर्तन असिस्टेंट के निर्णय को समय के एक पूरे क्रम में "फ्लिप-फ्लॉप" (बदलने) के लिए मजबूर कर सकता है, जिससे एक निरंतर त्रुटि पैदा होती है जिसे मानव ऑपरेटर तुरंत नहीं पकड़ पाएगा।

4. समाधान: "मसल मेमोरी" ट्रेनिंग

एक बार जब उन्होंने असिस्टेंट को धोखा देने का तरीका जान लिया, तो उन्होंने इसे प्रतिरोध करने के लिए प्रशिक्षित किया।

विधि: उन्होंने "एडवर्सरियल फाइन-ट्यूनिंग" (Adversarial Fine-Tuning) नामक तकनीक का उपयोग किया। यह एक बॉक्सर के स्पैरिंग पार्टनर के साथ अभ्यास करने जैसा है जो ठीक जानता है कि उसे कैसे मारना है।
परिणाम: इस प्रशिक्षण के बाद, असिस्टेंट बहुत अधिक सख्त (tough) हो गया। यह "ट्रिक्स" (एडवर्सरियल अटैक्स) को बिना भ्रमित हुए संभाल सकता था, और इसने अपना सामान्य काम करने की क्षमता भी नहीं खोई। वास्तव में, यह अपने सामान्य काम में थोड़ा बेहतर भी हो गया!

यह क्यों मायने रखता है?

यह केवल कण भौतिकी (particle physics) के बारे में नहीं है। यह विश्वास के बारे में है।
जैसे-जैसे हम महत्वपूर्ण चीजों (जैसे पावर ग्रिड, सेल्फ-ड्राइविंग कारें, या मेडिकल डिवाइस) की जिम्मेदारी AI को सौंप रहे हैं, हम केवल यह उम्मीद नहीं कर सकते कि वे स्मार्ट हों। हमें यह साबित करना होगा कि वे मजबूत (robust) हैं।

यह पेपर हमें वास्तविक दुनिया में AI का परीक्षण करने के लिए एक ब्लूप्रिंट देता है:

इसका परीक्षण शून्य में न करें; इसका परीक्षण सभी अस्त-व्यस्त वास्तविक दुनिया के चरणों के साथ करें।
केवल एक क्षण का परीक्षण न करें; परीक्षण करें कि यह समय के साथ कैसे व्यवहार करता है।
इसे सबसे खराब स्थितियों को संभालने के लिए प्रशिक्षित करें ताकि चीजें गलत होने पर यह क्रैश न हो जाए।

संक्षेप में: लेखकों ने एक महत्वपूर्ण AI सिस्टम के लिए एक "स्ट्रेस टेस्ट" बनाया, यह पता लगाया कि इसे कैसे ठगा जा सकता है, और फिर इसे एक "वैक्सीन" दी ताकि यह दुनिया के सबसे बड़े पार्टिकल एक्सेलरेटर को सुरक्षित रूप से चला सके।

यहाँ शोध पत्र "Adversarial Robustness of Time-Series Classification for Crystal Collimator Alignment" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र CERN के लार्ज हैड्रोन कोलाइडर (LHC) में क्रिस्टल कोलिमेटर (crystal collimators) के संरेखण (alignment) में सहायता के लिए उपयोग किए जाने वाले एक कनवल्शनल न्यूरल नेटवर्क (CNN) की सुरक्षा और विश्वसनीयता को संबोधित करता है। ये उपकरण सुपरकंडक्टिंग मैग्नेट को होने वाले नुकसान को रोकने के लिए भटकते हुए कणों के पुंज (stray particle beams/halo) को विचलित करने के लिए महत्वपूर्ण हैं।

कार्य (The Task): CNN क्रिस्टल रोटेशन के दौरान बीम लॉस मॉनिटर्स (BLM) से प्राप्त टाइम-सीरीज विंडोज़ को तीन श्रेणियों में वर्गीकृत करता है: नो चैनलिंग (no channeling), पार्शियल वेल (partial well), और चैनलिंग (channeling - इष्टतम संरेखण)।
भेद्यता (The Vulnerability): यह प्रणाली इलेक्ट्रॉनिक रीडआउट शोर (noise) और बीम के उतार-चढ़ाव वाले शोर भरे वातावरण में काम करती है। लेखक यह जांचते हैं कि क्या एडवर्सरियल परटर्बेशन्स (adversarial perturbations - छोटे, भौतिक रूप से संभावित शोर) CNN को गलत वर्गीकरण करने के लिए प्रेरित कर सकते हैं, जिससे उप-इष्टतम संरेखण या मशीन को नुकसान हो सकता है।
मुख्य चुनौती (The Core Challenge): मानक एडवर्सरियल रोबस्टनेस विधियाँ इस संदर्भ में विफल रहती हैं क्योंकि:
1. प्रीप्रोसेसिंग मिसमैच (Preprocessing Mismatch): तैनात पाइपलाइन में डेटा-डिपेंडेंट प्रीप्रोसेसिंग (प्रति-विंडो z-नॉर्मलाइजेशन और ज़ीरो-पैडिंग) शामिल है जिसे मानक हमले अनदेखा कर देते हैं। वास्तविक पाइपलाइन द्वारा संसाधित या परिवर्तित किए जाने वाले इनपुट पर सीधे हमला करना "अव्यवहार्य" उदाहरण उत्पन्न कर सकता है।
2. संरचित खतरे (Structured Threats): वास्तविक दुनिया का शोर केवल एक साधारण $L_p$ बॉल नहीं है; इसमें चैनलों के बीच सह-संबंधित शोर (common-mode) और स्वतंत्र शोर शामिल है, जिसके लिए एक संरचित थ्रेट मॉडल की आवश्यकता होती है।
3. टेम्पोरल निरंतरता (Temporal Continuity): सिस्टम एक स्लाइडिंग विंडो का उपयोग करता है। एक हमला एकल गलत वर्गीकरण का कारण बन सकता है, लेकिन महत्वपूर्ण सुरक्षा जोखिम अनुक्रम (sequence) के गलत वर्गीकरण का है जो समय के साथ बना रहता है, जिससे मानव ऑपरेटर या स्वचालित प्रणालियाँ भ्रमित हो सकती हैं।

2. कार्यप्रणाली (Methodology)

लेखक एक ढांचा प्रस्तावित करते हैं जो तैनात प्रीप्रोसेसिंग पाइपलाइन को सीधे एडवर्सरियल अटैक प्रक्रिया में एकीकृत करता है।

A. थ्रेट मॉडल परिभाषा (Threat Model Definition)

वे एक टाइम-सीरीज विंडो $x$ के लिए एक यथार्थवादी परटर्बेशन सेट $\Delta(x)$ को परिभाषित करते हैं:

संरचना (Structure): परटर्बेशन्स को एक कॉमन-मोड घटक (बीम के उतार-चढ़ाव का अनुकरण करने के लिए BLM चैनलों में साझा) और स्वतंत्र घटकों (चैनल-विशिष्ट इलेक्ट्रॉनिक शोर) में विभाजित किया गया है।
बाधाएं (Constraints): परटर्बेशन्स को सिग्नल के भौतिक पैमाने और ज़ीरो-पैडिंग बाधाओं (पैड किए गए क्षेत्रों को शून्य रहना चाहिए) का सम्मान करना चाहिए।
एडवर्सरियल सीक्वेंस (Adversarial Sequences): वे 'एडवर्सरियल सीक्वेंस' की अवधारणा को विस्तारित करते हैं, जिसे क्रमिक स्लाइडिंग विंडोज़ में सुसंगत गलत वर्गीकरणों की एक श्रृंखला के रूप में परिभाषित किया गया है जो टेम्पोरल स्थिरता आवश्यकताओं का उल्लंघन करती है।

B. रीपैरामीट्रिज़ेशन फ्रेमवर्क (The "Wrapper")

डिप्लॉयड पाइपलाइन पर मानक ग्रेडिएंट-आधारित हमलों (जैसे PGD) को सक्षम करने के लिए, लेखक एक डिफरेंशिएबल रैपर (differentiable wrapper) पेश करते हैं:

अवधारणा: नॉर्मलाइज्ड इनपुट $z$ पर हमला करने के बजाय, वे एक लेटेंट वेरिएबल $u$ (जो $[-1, 1]$ में सीमित है) पर हमला करते हैं और इनपुट ट्रांसफॉर्मेशन को रीपैरामीट्राइज़ करते हैं।
तंत्र: रैपर स्ट्रक्चर्ड नॉइज़ मॉडल और प्रीप्रोसेसिंग चरणों (z-नॉर्मलाइजेशन और पैडिंग) को CNN से पहले एक डिफरेंशिएबल लेयर के रूप में एनकोड करता है।
- $Input = P(N(x + \delta))$
- जहाँ $\delta$ को स्ट्रक्चर्ड नॉइज़ समीकरण के माध्यम से $u$ से बनाया गया है।
लाभ: यह टूल को रॉ सिग्नल स्पेस पर अनुकूलित करने की अनुमति देता है जबकि यह सुनिश्चित करता है कि परिणामी परटर्बेशन्स वास्तविक तैनाती बाधाओं (नॉर्मलाइजेशन और पैडिंग) के तहत वैध हैं।

C. एडवर्सरियल सीक्वेंस जनरेशन (Adversarial Sequence Generation)

वे एक प्रूफ-ऑफ-कॉन्सेप्ट एल्गोरिदम प्रस्तावित करते हैं:

एल्गोरिदम एक विशिष्ट समय अंतराल पर परटर्बेशन को अनुकूलित करता है ताकि क्रमिक स्लाइडिंग विंडोज़ के क्रम में गलत वर्गीकरणों की संख्या को अधिकतम किया जा सके।
यह समय के साथ क्लासिफायर की निर्णय सीमा (decision boundary) की "स्मूथनेस" का परीक्षण करता है।

3. मुख्य योगदान (Key Contributions)

टाइम-सीरीज के लिए थ्रेट मॉडल: BLM डेटा के लिए एक भौतिक रूप से प्रशंसनीय थ्रेट मॉडल परिभाषित किया गया जो चैनल सहसंबंधों और प्रीप्रोसेसिंग बाधाओं (नॉर्मलाइजेशन/पैडिंग) को ध्यान में रखता है।
प्रीप्रोसेसिंग-अवेयर रैपर: एक हल्का, डिफरेंशिएबल रैपर डिज़ाइन किया गया जो एडवर्सरियल लाइब्रेरी को संशोधित किए बिना तैनात टाइम-सीरीज पाइपलाइनों पर मानक एडवर्सरियल फ्रेमवर्क को संचालित करने की अनुमति देता है।
एडवर्सरियल सीक्वेंस: टेम्पोरल रोबस्टनेस के प्रति-उदाहरण के रूप में 'एडवर्सरियल सीक्वेंस' की अवधारणा पेश की गई, जो यह दर्शाती है कि हमले स्लाइडिंग विंडोज़ में बने रह सकते हैं।
अनुभवजन्य सत्यापन (Empirical Validation): वास्तविक CERN डिप्लॉयमेंट पर ART और Foolbox का उपयोग करके अपने दृष्टिकोण का मूल्यांकन किया गया।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने 296 इंस्टेंस के टेस्ट सेट पर Foolbox और ART फ्रेमवर्क का उपयोग करके CNN का मूल्यांकन किया।

प्रीप्रोसेसिंग जागरूकता का प्रभाव:
- नाइव अटैक (Naive Attacks): वे हमले जो प्रीप्रोसेसिंग को अनदेखा करते हैं (सीधे नॉर्मलाइज्ड स्पेस पर हमला करते हैं) या पैडिंग को अनदेखा करते हैं, गंभीर रूप से विकृत रोबस्टनेस अनुमान प्रदान करते हैं।
- गैप: जब प्रीप्रोसेसिंग को अनदेखा किया गया, तो टूल-रिपोर्टेड रोबस्टनेस ( $RA_{tool}$ ) और पाइपलाइन-चेक की गई रोबस्टनेस ( $RA_{pipe}$ ) के बीच 9–23 प्रतिशत अंक का अंतर था।
- निष्कर्ष: तैनात पाइपलाइन को अनदेखा करने से सुरक्षा के संबंध में झूठी आत्म-भरोसा (अति-आशावादी) या झूठी चेतावनी (अति-निराशावादी) मिल सकती है।
थ्रेट मॉडल संरचना का प्रभाव:
- एक साधारण ग्लोबल $L_\infty$ बॉल के बजाय स्ट्रक्चर्ड (कॉमन + इंडिपेंडेंट) मॉडल का उपयोग करने से कुछ कॉन्फ़िगरेशन में रोबस्टनेस का लगभग 70 प्रतिशत अंक कम अनुमान लगाया गया। यह चैनल सहसंबंधों को मॉडल करने की आवश्यकता को रेखांकित करता है।
एडवर्सरियल फाइन-ट्यूनिंग (बचाव):
- लेखकों ने ऑन-द-फ्लाई PGD उदाहरणों के साथ एडवर्सरियल फाइन-ट्यूनिंग लागू की।
- परिणाम: उच्च परटर्बेशन रेडियस पर रोबस्ट एक्यूरेसी में 18.6% तक सुधार हुआ, जबकि क्लीन एक्यूरेसी वास्तव में थोड़ी बढ़ गई (0.939 से 0.943)। यह सुझाव देता है कि एडवर्सरियल ट्रेनिंग स्पार्स-डेटा व्यवस्था में प्रभावी डेटा ऑग्मेंटेशन के रूप में कार्य करती है।
एडवर्सरियल सीक्वेंस:
- प्रूफ-ऑफ-कॉन्सेप्ट हमले ने सफलतापूर्वक ऐसे सीक्वेंस बनाए जहाँ क्लासिफायर लगातार 15 सेकंड की विंडो में "चैनलिंग" से "पार्शियल वेल" में बदल गया, जो दर्शाता है कि छोटे, यथार्थवादी शोर के बावजूद निरंतर गलत वर्गीकरण संभव हैं।

5. महत्व और निहितार्थ (Significance and Implications)

सुरक्षा-महत्वपूर्ण ML (Safety-Critical ML): यह शोध पत्र प्रदर्शित करता है कि सुरक्षा-महत्वपूर्ण बुनियादी ढांचे (जैसे कण त्वरक) में, रोबस्टनेस मूल्यांकन में केवल न्यूरल नेटवर्क वेट ही नहीं, बल्कि पूरी डिप्लॉयमेंट पाइपलाइन को शामिल किया जाना चाहिए। टाइम-सीरीज डेटा के लिए मानक $L_p$ बाउंड पर्याप्त नहीं हैं।
परिचालन वास्तविकता (Operational Reality): निष्कर्ष बताते हैं कि हालांकि वर्तमान CNN कुछ हद तक मजबूत है, लेकिन यह उन एडवर्सरियल सीक्वेंस से सुरक्षित नहीं है जो ऑपरेटरों को भ्रमित कर सकते हैं। पूर्णतः स्वायत्त संरेखण के लिए आगे और सुदृढ़ीकरण (hardening) की आवश्यकता है।
सामान्यीकरण (Generalizability): "रैपर" दृष्टिकोण किसी भी टाइम-सीरीज कंट्रोल सिस्टम (जैसे मेडिकल मॉनिटरिंग, औद्योगिक नियंत्रण) के लिए लागू करने योग्य है जहाँ प्रीप्रोसेसिंग (नॉर्मलाइजेशन, फ़िल्टरिंग) इन्फरेंस पाइपलाइन का हिस्सा है।
भविष्य की दिशाएँ: लेखक नोट करते हैं कि z-नॉर्मलाइजेशन में नॉन-लीनियर ऑपरेटर्स के कारण औपचारिक सत्यापन (formal verification) वर्तमान में सीमित है। भविष्य के कार्य के लिए इन नॉन-लीनियर स्टेप्स के लिए वर्िफायर-विशिष्ट एब्स्ट्रैक्शन विकसित करने की आवश्यकता है।