🤖 machine learning

Adversarial Vulnerabilities in Neural Operator Digital Twins: Gradient-Free Attacks on Nuclear Thermal-Hydraulic Surrogates

यह अध्ययन प्रकट करता है कि न्यूरल ऑपरेटर डिजिटल ट्विन्स परमाणु तापीय-द्रवगतिकी (थर्मल-हाइड्रोलिक) प्रणालियों के लिए 1% से भी कम इनपुट का उपयोग करके होने वाले अदृश्य, ग्रेडिएंट-मुक्त प्रतिकूल हमलों (एडवर्सरियल अटैक्स) के प्रति अत्यंत संवेदनशील हैं, जो विनाशकारी भविष्यवाणी त्रुटियां उत्पन्न कर सकते हैं और तैनाती से पहले मानक सत्यापन से परे मजबूती की गारंटी की आवश्यकता पर प्रकाश डालते हैं।

मूल लेखक: Samrendra Roy, Kazuma Kobayashi, Souvik Chakraborty, Rizwan-uddin, Syed Bahauddin Alam

प्रकाशित 2026-03-25

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Samrendra Roy, Kazuma Kobayashi, Souvik Chakraborty, Rizwan-uddin, Syed Bahauddin Alam

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य चित्र: "डिजिटल ट्विन" का जाल

कल्पना कीजिए कि आपके पास एक परमाणु ऊर्जा संयंत्र (न्यूक्लियर पावर प्लांट) का डिजिटल ट्विन (Digital Twin) है। यह एक सुपर-स्मार्ट कंप्यूटर प्रोग्राम है जो एक भविष्य बताने वाले क्रिस्टल बॉल की तरह काम करता है। वास्तविक भौतिक सिमुलेशन के लिए घंटों इंतजार करने के बजाय, यह जुड़वां (twin) कुछ सेंसर रीडिंग देखकर तुरंत बता सकता है कि रिएक्टर के अंदर क्या हो रहा है (तापमान, दबाव, प्रवाह)।

वैज्ञानिक इसलिए उत्साहित हैं क्योंकि ये "न्यूरल ऑपरेटर्स" अविश्वसनीय रूप से तेज़ और सटीक हैं। वे प्रतिभाशाली शेफ (Genius Chefs) की तरह हैं जो सूप की एक बूंद चखकर तुरंत बता सकते हैं कि पूरे बर्तन का स्वाद कैसा है, नमक के आखिरी कण तक।

समस्या: इस शोध पत्र ने खोजा है कि इन प्रतिभाशाली शेफों की एक भयानक कमजोरी (blind spot) है। वे इतने संवेदनशील हैं कि यदि आप उनके कान में एक बहुत छोटा, लगभग अदृश्य झूठ फुसफुसाते हैं, तो वे चिल्लाकर कह सकते हैं कि रिएक्टर सुरक्षित है, जबकि वास्तव में वह पिघलने वाला होता है।

हमला: "फुसफुसाहट" बनाम "चीख"

शोधकर्ताओं ने इन AI मॉडलों के चार अलग-अलग प्रकारों का परीक्षण किया। उन्होंने उन्हें एडवर्सरियल अटैक्स (Adversarial Attacks) का उपयोग करके चकमा देने की कोशिश की।

उपमा: कल्पना कीजिए कि आप एक सुरक्षा गार्ड को बेवकूफ बनाने की कोशिश कर रहे हैं।
- पुराना तरीका (ग्रेडिएंट अटैक): आप गार्ड को ज़ोर से धक्का देते हैं, लेकिन वह आपको आते हुए देख लेता है और आपको रोक देता है। इसके लिए आपको उसके रहस्यों (कि उसका दिमाग कैसे काम करता है) को जानने की आवश्यकता होती है।
- नया तरीका (इस पेपर का तरीका): आप एक ग्रेडिएंट-फ्री (gradient-free) विधि का उपयोग करते हैं। आपको उसके रहस्यों को जानने की ज़रूरत नहीं है। आप बस अलग-अलग छोटी-छोटी कोशिशें (nudges) करते हैं जब तक कि आपको वह विशिष्ट स्थान न मिल जाए जहाँ एक छोटा सा धक्का उसे गिरा सकता है।

चौंकाने वाला परिणाम:
शोधकर्ताओं ने पाया कि वे AI द्वारा देखे जा रहे डेटा के 1% से भी कम हिस्से को बदल सकते हैं (जैसे 100 में से केवल एक या दो सेंसर की रीडिंग बदलना)।

इनपुट (Input): एक बहुत छोटा बदलाव। नई सेंसर रीडिंग अभी भी सामान्य और सुरक्षित सीमाओं के भीतर है। यह किसी भी इंसान या मानक अलार्म सिस्टम के लिए पूरी तरह से असली दिखती है।
आउटपुट (Output): AI का अनुमान पूरी तरह से पागल हो जाता है। त्रुटि (error) एक मामूली 1.5% (बिल्कुल ठीक) से बढ़कर 60% (विनाशकारी विफलता) हो जाती है।
छलावा (Stealth): AI का नया, गलत अनुमान अभी भी मानक सुरक्षा जांच के लिए "सामान्य" दिखता है। यह Z-score टेस्ट (विसंगतियों के लिए एक सांख्यिकीय जांच) को पास कर लेता है। यह भेड़ के भेष में भेड़िये जैसा है जिसे चरवाहे का कुत्ता भी सूंघ नहीं पाता।

चार मॉडल: चार वास्तुकारों की कहानी

पेपर ने इन AI मॉडलों के चार अलग-अलग "आर्किटेक्चर" (डिज़ाइन) का परीक्षण किया। वे इन हमलों के प्रति बहुत अलग तरह से प्रतिक्रिया करते हैं, जिसे लेखक "सेंसिटिविटी मैप" (Sensitivity Map) के माध्यम से समझाते हैं।

सोचिए कि AI का मस्तिष्क 102 दरवाजों (इनपुट) वाला एक भवन है। शोधकर्ता जानना चाहते थे: कौन सा दरवाजा, अगर आप उसे धकेलते हैं, तो पूरे भवन को हिला देगा?

उन्होंने एक अवधारणा पेश की जिसे इफेक्टिव परटर्बेशन डायमेंशन ( $d_{eff}$ ) कहा जाता है। इसे एक "फोकस स्कोर" के रूप में सोचें।

कम फोकस स्कोर ( $d_{eff} \approx 1$ ): भवन एक अकेले स्तंभ (pillar) पर टिका है। यदि आप उस एक स्तंभ को धकेलते हैं, तो पूरी इमारत गिर जाती है।
उच्च फोकस स्कोर ( $d_{eff} \approx 30$ ): भवन 30 स्तंभों पर टिका है। इसे गिराने के लिए आपको 30 के 30 स्तंभों को एक साथ धकेलना होगा।

यहाँ बताया गया है कि चारों मॉडलों का प्रदर्शन कैसा रहा:

1. POD-DeepONet: "नाजुक लेकिन सीमित" मॉडल

मिजाज: यह मॉडल एक ही मजबूत स्तंभ पर बने घर जैसा है।
हमला: उस एक स्तंभ को खोजना बेहद आसान है। शोधकर्ताओं को वह तुरंत मिल गया।
ट्विस्ट: भले ही उन्होंने वह स्तंभ ढूंढ लिया, लेकिन घर पूरी तरह से ढहा नहीं। क्यों? क्योंकि इस मॉडल के पास एक "सुरक्षा जाल" (Low-Rank Projection) है। यह सभी भविष्यवाणियों को एक सुचारू, सीमित सीमा के भीतर रहने के लिए मजबूर करता है। यह एक ट्रैम्पोलिन की तरह है: आप ऊँचा कूद सकते हैं, लेकिन आप अंतरिक्ष में नहीं उड़ सकते।
परिणाम: हमला करना आसान था, लेकिन नुकसान सीमित था।

2. S-DeepONet: "परफेक्ट स्टॉर्म" (सबसे खतरनाक)

मिजाज: यह मॉडल एक ऐसे घर जैसा है जिसमें 4 या 5 मुख्य स्तंभ हैं, और वे सभी कांच के बने हैं।
हमला: शोधकर्ताओं को ये 4-5 स्तंभ आसानी से मिल गए। क्योंकि स्तंभ कांच के हैं (उच्च संवेदनशीलता), उन्हें धकेलने से भारी नुकसान होता है।
परिणाम: यह सबसे बुरा परिदृश्य (worst-case scenario) था। 3 सेंसरों पर एक छोटे से धक्के ने AI को यह अनुमान लगाने पर मजबूर कर दिया कि रिएक्टर पिघल रहा है, जबकि सब कुछ ठीक था। इसमें "ढूंढने में आसान" और "तोड़ने में आसान" का सही मिश्रण था।

3. MIMONet और NOMAD: "किला" (Fortress)

मिजाज: ये मॉडल 30 मजबूत स्तंभों वाले किले की तरह हैं जो चारों ओर फैले हुए हैं।
हमला: इसे तोड़ने के लिए हमलावर को 30 अलग-अलग सेंसरों को एक ही समय में धकेलना होगा।
परिणाम: इसे तोड़ना बहुत कठिन है। शोधकर्ताओं को उसी स्तर की अराजकता पैदा करने के लिए बहुत अधिक मेहनत करनी पड़ी (अधिक सेंसर बदलने पड़े)।

खतरे का "दो-कारक" नियम

पेपर एक सरल नियम के साथ समाप्त होता है कि एक मॉडल कितना खतरनाक है। यह केवल इस बारे में नहीं है कि वह कितना संवेदनशील है; यह दो चीजों के गुणनफल के बारे में है:

कंसंट्रेशन (Concentration): मॉडल को तोड़ने के लिए कितने इनपुट की आवश्यकता है? (जितने कम, उतना बुरा)।
एम्प्लीफिकेशन (Amplification): जब आप इसे तोड़ते हैं, तो मॉडल कितना बड़ा विस्फोट करता है? (जितना अधिक, उतना बुरा)।

S-DeepONet सबसे खतरनाक था क्योंकि इसमें कम कंसंट्रेशन (कमजोर कड़ी ढूंढना आसान) और उच्च एम्प्लीफिकेशन (कमजोर कड़ी के कारण बड़ा विस्फोट होना) दोनों थे।

वास्तविक दुनिया के लिए इसका महत्व

हम एक ऐसे भविष्य की ओर बढ़ रहे हैं जहाँ AI परमाणु संयंत्रों, पावर ग्रिडों और मौसम के पूर्वानुमान को नियंत्रित करेगा। हम वर्तमान में इन मॉडलों पर भरोसा करते हैं क्योंकि वे कागज़ पर "सटीक" हैं।

पेपर की चेतावनी:

सटीकता (Accuracy) का मतलब सुरक्षा (Safety) नहीं है: एक मॉडल सामान्य दिनों में 99% सटीक हो सकता है, लेकिन उस दिन 0% विश्वसनीय हो सकता है जब कोई इसे धोखा देने की कोशिश करता है।
अदृश्य खतरा: क्योंकि ये हमले इतने छोटे (डेटा के 1% से कम को बदलना) हैं और भौतिक सीमाओं के भीतर रहते हैं, वर्तमान सुरक्षा अलार्म इन्हें नहीं देख पाएंगे। AI ऑपरेटर को आत्मविश्वास से बताएगा, "सब कुछ ठीक है," जबकि वास्तव में रिएक्टर खतरे में होगा।
समाधान: हमें केवल तेज़ मॉडल बनाने की ज़रूरत नहीं है; हमें मजबूत (robust) मॉडल बनाने की ज़रूरत है। हमें उन्हें ऐसे डिज़ाइन करने की आवश्यकता है ताकि उनमें वे "कांच के स्तंभ" न हों। हमें वास्तविक दुनिया के बुनियादी ढांचे को चलाने से पहले उन्हें इन "फुसफुसाहट" वाले हमलों के साथ टेस्ट करना होगा।

सारांश उपमा

कल्पना कीजिए कि एक डिजिटल ट्विन एक मौसम भविष्यवक्ता (weather forecaster) है।

सामान्य दिन: भविष्यवक्ता एकदम सटीक है।
हमला: एक हैकर एक दूर के गाँव में एक सेंसर के तापमान रीडिंग को बहुत मामूली मात्रा (0.1 डिग्री) से बदल देता है।
परिणाम: भविष्यवक्ता, अपने तर्क में एक छिपे हुए दोष के कारण, अचानक शहर में कैटेगरी 5 के तूफान की भविष्यवाणी कर देता है, भले ही आसमान साफ हो।
खतरा: शहर में निकासी (evacuation) शुरू हो जाती है, जिससे भगदड़ और आर्थिक नुकसान होता है, और यह सब एक सेंसर में एक छोटे से, अदृश्य झूठ के कारण होता है।

यह पेपर साबित करता है कि हमारे वर्तमान "प्रतिभाशाली" AI मौसम भविष्यवक्ता (और परमाणु ट्विन) बिल्कुल इसी तरह के धोखे के प्रति संवेदनशील हैं, और हमें उन्हें काम संभालने देने से पहले उनके तर्क को ठीक करने की आवश्यकता है।

यहाँ शोध पत्र "Adversarial Vulnerabilities in Neural Operator Digital Twins: Gradient-Free Attacks on Nuclear Thermal-Hydraulic Surrogates" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

न्यूरल ऑपरेटर्स (जैसे, DeepONet, FNO) परमाणु रिएक्टरों जैसे सुरक्षा-महत्वपूर्ण बुनियादी ढांचे के लिए डिजिटल ट्विन्स (digital twins) के भविष्य कहने वाले मुख्य आधार (predictive core) के रूप में तेजी से उभर रहे हैं, जो विरल सेंसर डेटा (sparse sensor data) से भौतिक क्षेत्रों के वास्तविक समय पुनर्निर्माण को सक्षम करते हैं। जबकि ये मॉडल वैलिडेशन डेटासेट्स पर उच्च सटीकता (अक्सर <2% त्रुटि) प्राप्त करते हैं, उनकी एडवर्सरियल मजबूती (adversarial robustness) अभी भी अनिश्चित है।

यह शोध पत्र एक महत्वपूर्ण अंतराल को संबोधित करता है: क्या न्यूरल ऑपरेटर्स को ऐसे भौतिक रूप से सुसंगत, विरल व्यवधानों (perturbations) द्वारा मूर्ख बनाया जा सकता है जो मानक सत्यापन मेट्रिक्स द्वारा पता लगाने योग्य नहीं हैं?

थ्रेट मॉडल (The Threat Model): एक एडवरसरी (adversary) डिजिटल ट्विन तक पहुँचने से पहले सेंसर रीडिंग (जैसे, इनलेट वेलोसिटी, तापमान, या वॉल हीट फ्लक्स) को दूषित करती है।
प्रतिबंध (Constraints): व्यवधान भौतिक रूप से व्यवहार्य (physically feasible) होने चाहिए (सेंसर अंशांकन सीमाओं और संरक्षण नियमों के भीतर) और विरल (sparse) होने चाहिए ( <1% इनपुट को प्रभावित करते हैं) ताकि विसंगति पहचान (anomaly detection) को सक्रिय न किया जा सके।
जोखिम (The Risk): एक सफल हमला डिजिटल ट्विन को सुरक्षित थर्मल मार्जिन रिपोर्ट करने के लिए प्रेरित कर सकता है, जबकि वास्तविक स्थितियाँ सामग्री विफलता (material failure) की सीमाओं के करीब पहुँच रही हों, जिससे विनाशकारी परिचालन निर्णय लिए जा सकते हैं।

2. कार्यप्रणाली (Methodology)

लेखक एक ग्रेडिएंट-फ्री एडवर्सरियल अटैक फ्रेमवर्क प्रस्तावित करते हैं जो हाई-डायमेंशनल कंटीन्यूअस फील्ड रिग्रेशन के लिए तैयार किया गया है, जो मानक वर्गीकरण-आधारित हमलों से आगे बढ़ता है।

A. अटैक फ्रेमवर्क: डिफरेंशियल इवोल्यूशन (DE)

चूंकि औद्योगिक सेटिंग्स में न्यूरल ऑपरेटर्स अक्सर प्रोप्रायटरी ब्लैक बॉक्स होते हैं (जहाँ ग्रेडिएंट एक्सेस की कमी होती है) और उनके आउटपुट उच्च-आयामी ( $\mathbb{R}^{15,908}$ ) होते हैं, इसलिए ग्रेडिएंट-आधारित विधियाँ (जैसे, PGD) अक्सर अव्यवहार्य या अक्षम होती हैं।

एल्गोरिदम: लेखक डिफरेंशियल इवोल्यूशन (DE) को अपनाते हैं, जो एक पॉपुलेशन-आधारित अनुकूलन एल्गोरिदम है।
एनकोडिंग: प्रत्येक कैंडिडेट सॉल्यूशन $k$ जोड़े (इंडेक्स, वैल्यू) को एनकोड करता है, जो यह दर्शाता है कि किन इनपुट कोऑर्डिनेट्स को और कितना बदला जाना है।
प्रतिबंध:
- विरलता ( $L_0$ ): विरत इनपुट की संख्या को सीमित करता है ( $k \in \{1, 3, 5, 10\}$ )।
- भौतिक व्यवहार्यता (Physical Feasibility): व्यवधानों को मानकीकृत स्पेस में ट्रेनिंग डिस्ट्रीब्यूशन के $\pm 1\sigma$ के भीतर प्रतिबंधित किया गया है, जिससे यह सुनिश्चित होता है कि वे वास्तविक भौतिक परिचालन स्थितियों (जैसे, वैध तापमान और वेग) के अनुरूप हों।
उद्देश्य: क्लीन प्रेडिक्शन और अटैक्ड प्रेडिक्शन के बीच रिलेटिव $L_2$ एरर को अधिकतम करना।

B. बेंचमार्क सेटअप

डोमेन: न्यूक्लियर थर्मल-हाइड्रॉलिक्स (सिंगल-पास रेक्टेंगुलर-चैनल हीट एक्सचेंजर)।
इनपुट्स: 102-डायमेंशनल बाउंड्री कंडीशंस (2 ग्लोबल पैरामीटर्स: इनलेट वेलोसिटी/टेम्परेचर; 100 स्पेशियल पॉइंट्स फॉर वॉल हीट फ्लक्स)।
आउटपुट्स: 3,977 मेश पॉइंट्स $\times$ 4 फील्ड्स (प्रेशर, $u, v, w$ वेलोसिटीज)।
मूल्यांकित मॉडल्स: चार विशिष्ट न्यूरल ऑपरेटर आर्किटेक्चर:
1. MIMONet: कॉनकेटेनेशन-आधारित मैपिंग।
2. NOMAD: मल्टी-ब्रांच विद मल्टीप्लिकेटिव फ्यूजन।
3. S-DeepONet: बाउंड्री डिपेंडेंसीज के लिए GRU एनकोडर का उपयोग करने वाला सीक्वेंशियल DeepONet।
4. POD-DeepONet: लो-रैंक आउटपुट प्रोजेक्शन के लिए प्रॉपर ऑर्थोगोनल डिकंपोजिशन (POD) का उपयोग करता है।

C. डायग्नोस्टिक मेट्रिक: इफेक्टिव परटर्बेशन डायमेंशन ( $d_{eff}$ )

कुछ मॉडल दूसरों की तुलना में अधिक असुरक्षित क्यों हैं, इसे समझाने के लिए लेखक $d_{eff}$ पेश करते हैं, जो इनपुट-आउटपुट सेंसिटिविटी के संकेंद्रण को मापने वाला एक जैकोबियन-आधारित मेट्रिक है:
$d_{eff} = \frac{(\sum_{i=1}^d \|J_{b}[:, i]\|_2)^2}{\sum_{i=1}^d \|J_{b}[:, i]\|_2^2}$

$d_{eff} \approx 1$ : संवेदनशीलता एक एकल दिशा में केंद्रित है (सिंगल-पॉइंट हमलों के प्रति अत्यधिक संवेदनशील)।
$d_{eff} \approx d$ : संवेदनशीलता समान रूप से वितरित है (विरल हमलों के प्रति मजबूत)।

3. मुख्य योगदान (Key Contributions)

चरम भेद्यता की खोज: प्रदर्शित किया कि न्यूरल ऑपरेटर्स अत्यंत विरल ( $L_0 < 1\%$ ) और भौतिक रूप से व्यवहार्य व्यवधानों के प्रति अत्यधिक संवेदनशील हैं। हमले वैलिडेशन सटीकता को $\sim1.5\%$ से बढ़ाकर 37–63% रिलेटिव $L_2$ एरर तक गिरा सकते हैं।
ग्रेडिएंट-फ्री दक्षता: दिखाया कि DE, ग्रेडिएंट पैथोलॉजी (जैसे, POD-DeepONet) वाले आर्किटेक्चर पर PGD जैसे ग्रेडिएंट-आधारित हमलों से बेहतर प्रदर्शन करता है और ब्लैक-बॉक्स परिदृश्यों के लिए आवश्यक है।
टू-फैक्टर वल्नेरेबिलिटी मॉडल: स्थापित किया कि हमले की सफलता इन दो कारकों के बीच परस्पर क्रिया पर निर्भर करती है:
- सेंसिटिविटी कंसंट्रेशन ( $d_{eff}$ ): संवेदनशीलता कितनी स्थानीयकृत है।
- सेंसिटिविटी मैग्नीट्यूड: इनपुट-आउटपुट कपलिंग की पूर्ण शक्ति।
- मुख्य अंतर्दृष्टि: केवल उच्च कंसंट्रेशन (POD-DeepONet) ही उच्च भेद्यता की गारंटी नहीं देता है यदि आउटपुट प्रोजेक्शन एरर एम्प्लीफिकेशन को सीमित करता है।
स्टील्थ प्रदर्शन: सिद्ध किया कि सिंगल-पॉइंट हमले ( $L_0=1$ ) मानक z-स्कोर विसंगति पहचान के लिए 100% अदृश्य हैं, क्योंकि व्यवधान सांख्यिकीय मानदंडों के भीतर रहते हैं।

4. मुख्य परिणाम (Key Results)

A. अटैक सक्सेस रेट्स

S-DeepONet: सबसे असुरक्षित आर्किटेक्चर। केवल 3 विरत इनपुट्स ( $L_0=3$ ) के साथ 94.5% सफलता और 5 इनपुट्स के साथ 30% एरर थ्रेशोल्ड पर 100% सफलता प्राप्त की।
POD-DeepONet: सबसे चरम सेंसिटिविटी कंसंट्रेशन ( $d_{eff} \approx 1$ ) के बावजूद, इसने मध्यम भेद्यता (अधिकतम ~30% सफलता) दिखाई। यह इसके लो-रैंक आउटपुट प्रोजेक्शन के कारण है जो एरर एम्प्लीफिकेशन पर एक "सीलिंग" के रूप में कार्य करता है।
MIMONet और NOMAD: वितरित संवेदनशीलता ( $d_{eff} \approx 32$ ) प्रदर्शित करते हैं, जिन्हें उच्च सफलता प्राप्त करने के लिए समन्वित मल्टी-पॉइंट हमलों की आवश्यकता होती है, लेकिन फिर भी वे असुरक्षित हैं (NOMAD के लिए $L_0=10$ पर 62% सफलता तक)।

B. फील्ड-लेवल इम्पैक्ट

हमलों ने स्पेशियल हॉटस्पॉट रिलोकेशन, फ्लो पैटर्न इन्वर्जन, और सेफ्टी मार्जिन उल्लंघन उत्पन्न किए।
महत्वपूर्ण रूप से, जबकि ग्लोबल एरर मेट्रिक्स (मीन $L_2$ ) में उछाल आया, हमले एग्रीगेट वैलिडेशन मेट्रिक्स द्वारा अदृश्य रहे।
एम्प्लीफिकेशन: <1% इनपुट को प्रभावित करने वाले व्यवधान के परिणामस्वरूप आउटपुट फील्ड में 5–8 गुना बड़ा सापेक्ष परिवर्तन हुआ।

C. सैद्धांतिक निष्कर्ष

इम्पॉसिबिलिटी रिजल्ट: यह शोध पत्र सिद्ध करता है कि उच्च सोबोलेव सटीकता (Sobolev accuracy) प्राप्त करने वाले न्यूरल ऑपरेटर्स के लिए, एडवर्सरियल भेद्यता एक अंतर्निहित परिणाम है। जैसे-जैसे एप्रोक्सिमेशन एरर ( $\epsilon$ ) कम होता है, क्लीन और एडवर्सरियल एरर के बीच का अंतर बढ़ता जाता है।
ट्रांसफरेबिलिटी: एडवर्सरियल उदाहरण अत्यधिक आर्किटेक्चर-विशिष्ट होते हैं। S-DeepONet के लिए तैयार किए गए व्यवधान अन्य मॉडलों को विफल करने में असफल रहे (ट्रांसफर सफलता < 6%), जो सुझाव देता है कि एन्सेम्बल मेथड्स एक प्रभावी रक्षा हो सकती है।

5. महत्व और निहितार्थ (Significance and Implications)

सुरक्षा-महत्वपूर्ण परिनियोजन: ये निष्कर्ष इस धारणा को चुनौती देते हैं कि उच्च वैलिडेशन सटीकता वाले मॉडल परमाणु या ग्रिड प्रबंधन के लिए भरोसेमंद हैं। मानक वैलिडेशन प्रोटोकॉल एडवर्सरियल मजबूती का आकलन करने के लिए अपर्याप्त हैं।
नया अटैक सरफेस: यह शोध पत्र डिजिटल ट्विन्स में "सेंसर-टू-प्रेडिक्शन" पाथवे को एक नवीन और खतरनाक अटैक सरफेस के रूप में पहचानता है, जो पारंपरिक एक्चुएटर हेरफेर से अलग है।
डिज़ाइन गाइडलाइन्स:
- प्री-डिप्लॉयमेंट डायग्नोस्टिक्स: इंजीनियरों को परिनियोजन से पहले $d_{eff}$ और सेंसिटिविटी मैग्नीट्यूड दोनों का मूल्यांकन करना चाहिए। कम $d_{eff}$ और उच्च मैग्नीट्यूड वाले मॉडल उच्चतम जोखिम वाले हैं।
- डिफेंस स्ट्रैटेजीज: प्रस्तावित रक्षाओं में आर्किटेक्चरल एन्सेम्बल (कम ट्रांसफरेबिलिटी का लाभ उठाने के लिए), फिजिक्स-इन्फॉर्म्ड एनोमली डिटेक्शन (संरक्षण नियमों की जाँच करना), और ट्रेनिंग के दौरान सेंसिटिविटी रेगुलराइजेशन शामिल हैं।
व्यापक प्रभाव: यह कार्य वैज्ञानिक मशीन लर्निंग के लिए एक मौलिक चुनौती के रूप में इंटरपोलेशन सटीकता और एडवर्सरियल मजबूती के बीच के अंतर को स्थापित करता है, जिसके लिए साइबर-फिजिकल सिस्टम में AI के लिए नए प्रमाणन मानकों की आवश्यकता है।

निष्कर्षतः, यह शोध पत्र न्यूरल ऑपरेटर्स के लिए एक कठोर, भौतिकी-जागरूक स्ट्रेस-टेस्टिंग फ्रेमवर्क प्रदान करता है, जो प्रकट करता है कि वर्तमान अत्याधुनिक मॉडल संरचनात्मक कमजोरियों से ग्रस्त हैं जिनका उपयोग सुरक्षा-महत्वपूर्ण बुनियादी ढांचे में विनाशकारी विफलताओं का कारण बनने के लिए किया जा सकता है, जबकि वे पारंपरिक निगरानी प्रणालियों के लिए अदृश्य बने रहते हैं।