तकनीकी सारांश: MiniFool - भौतिकी-बाधा-जागरूक मिनिमाइज़र-आधारित एडवर्सरियल अटैक्स (Adversarial Attacks)

समस्या विवरण

कण और एस्ट्रोपार्टिकल भौतिकी (particle and astroparticle physics) में, डीप न्यूरल नेटवर्क (DNNs) डेटा विश्लेषण के लिए, विशेष रूप से घटनाओं को सिग्नल और बैकग्राउंड श्रेणियों में वर्गीकृत करने के लिए, तेजी से केंद्रीय भूमिका निभा रहे हैं। हालांकि, ये नेटवर्क लेबल किए गए मोंटे कार्लो सिमुलेशन पर प्रशिक्षित होते हैं, जिनमें प्रायोगिक उपकरणों के सूक्ष्म मिसमॉडलिंग (mismodeling) हो सकते हैं। ऐसा मिसमॉडलिंग नेटवर्कों को गैर-भौतिक विशेषताओं (non-physical features) को सीखने के लिए प्रेरित कर सकता है, जिससे वास्तविक प्रयोगात्मक डेटा पर प्रदर्शन कम हो जाता है।

मानक एडवर्सरियल अटैक एल्गोरिदम (जैसे, FGSM, PGD, DeepFool) उन न्यूनतम परिवर्तनों को खोजने के लिए डिज़ाइन किए गए हैं जो वर्गीकरण को बदल देते हैं। हालांकि, ये विधियाँ आमतौर पर भौतिक सीमाओं (जैसे, संरक्षण नियम, गैर-ऋणात्मक संकेत) या प्रयोगात्मक अनिश्चितताओं की परवाह किए बिना दूरी मेट्रिक्स (जैसे, $L_\infty$ या $L_2$) को कम करती हैं। फलस्वरूप, नेटवर्क को मूर्ख बनाने के लिए आवश्यक परिवर्तन अक्सर भौतिक रूप से असंभव डेटा इवेंट्स का प्रतिनिधित्व करते हैं। यह प्रयोगों के संदर्भ में हमला सफलता दरों के सांख्यिकीय और भौतिक व्याख्या को कठिन या असंभव बनाता है। एक ऐसी हमला पद्धति की आवश्यकता है जो नेटवर्क के निर्णयों का मजबूती से आकलन करने और गलत वर्गीकृत घटनाओं की पहचान करने के लिए प्रयोगात्मक अनिश्चितताओं का सम्मान करे।

कार्यप्रणाली: MiniFool एल्गोरिदम

लेखक MiniFool प्रस्तुत करते हैं, जो एक नया एल्गोरिदम है जो भौतिकी-प्रेरित एडवर्सरियल अटैक्स को लागू करता है। पारंपरिक तरीकों के विपरीत, जो पिक्सेल या फीचर मानों में पूर्ण न्यूनतम परिवर्तन की तलाश करते हैं, MiniFool एक लागत फलन (cost function) को कम करता है जो लक्षित वर्गीकरण स्कोर और प्रयोगात्मक अनिश्चितताओं द्वारा मात्रात्मक रूप से निर्धारित भौतिक संभाव्यता (physical plausibility) के बीच संतुलन बनाता है।

मुख्य सूत्र (Core Formulation)

एल्गोरिदम $m$ क्लासेज वाले वर्गीकरण कार्य पर कार्य करता है। दिए गए इनपुट $\vec{x}_0$ और एक लक्षित स्कोर $g$ (आमतौर पर एक आत्मविश्वासी वर्गीकरण को पलटने के लिए $g=0$) के लिए, MiniFool एक एडवर्सरियल इनपुट $\vec{x}_a$ की खोज करता है जो कुल मेट्रिक $\lambda$ को कम करता है:

$$\lambda(\vec{x}_0; \vec{x}_a; \vec{\theta}) = \eta(\vec{x}_0; \vec{x}_a) + \beta \cdot (f_{i^*}(\vec{x}_a; \vec{\theta}) - g)^2$$

जहाँ:

• $\eta$ (इनपुट मेट्रिक): प्रत्येक फीचर के मूल फीचर्स के सापेक्ष माध्य-वर्ग विचलन (mean-squared deviations) के वर्ग $L_2$ नॉर्म का वर्ग, जिसे प्रत्येक फीचर की प्रयोगात्मक अनिश्चितता $\sigma_i$ द्वारा सामान्यीकृत किया गया है:
  $$\eta = \frac{1}{N} \sum_{i=1}^{N} \left( \frac{x_{0,i} - x_{a,i}}{\sigma_i} \right)^2$$
  यह मेट्रिक $\chi^2$ सांख्यिकी के समान है। इसे सहसंबंधित (correlated) फीचर्स के लिए कोवेरिएंस मैट्रिक्स का उपयोग करके विस्तारित किया जा सकता है।
• लक्षित स्कोर टर्म (Target Score Term): लक्षित क्लास के लिए नेटवर्क के आउटपुट $f_{i^*}$ और वांछित स्कोर $g$ के बीच का वर्ग अंतर।
• $\beta$: इन पदों को पुन: भारित करने के लिए एक ट्यूनेबल मेटा-पैरामीटर (डिफ़ॉल्ट 1), जो तब उपयोगी होता है जब आउटपुट सामान्यीकृत संभावनाएँ नहीं होती हैं।
• अटैक पैरामीटर ($s$): मजबूती का आकलन करने के लिए, नाममात्र की अनिश्चितताओं $\vec{\sigma}_0$ को एक स्केलर $s$ द्वारा स्केल किया जाता है ($\vec{\sigma} = s \cdot \vec{\sigma}_0$)। $s$ को स्कैन करके, एक यह निर्धारित कर सकता है कि वर्गीकरण को पलटने के लिए अनिश्चितता का कितना परिमाण आवश्यक है।

अनुकूलन (Optimization)

न्यूनतमीकरण (Minimization) Adam optimizer का उपयोग करके किया जाता है। यह प्रक्रिया ग्रेडिएंट-साइन विधियों की तुलना में अधिक गणना-गहन (computationally demanding) है, जिसमें वर्कस्टेशन पर प्रति इवेंट सेकंड लगते हैं, लेकिन यह ऐसे समाधान प्रदान करती है जो मानी गई प्रयोगात्मक अनिश्चितताओं के साथ सांख्यिकिक रूप से सुसंगत हैं। एल्गोरिदम को TensorFlow और PyTorch दोनों में लागू किया गया है।

मुख्य योगदान और परिणाम

पेपर तीन अलग-अलग डोमेन में MiniFool को मान्य करता है:

1. MNIST डिजिट क्लासिफिकेशन (वार्म-अप)

• सेटअप: 28x28 ग्रेस्केल छवियों (98%+ सटीकता) पर प्रशिक्षित एक मानक फीडफॉरवर्ड नेटवर्क।
• परिणाम:
  • MiniFool ने न्यूनतम विक्षेपण (perturbations) के साथ वर्गीकरण को सफलतापूर्वक बदला (जैसे, "9" से "4" में) और गलत वर्गीकरण को सुधारा (जैसे, "9" को "8" के रूप में गलत वर्गीकृत किया गया था, जिसे "9" में सुधारा गया)।
  • रोबस्टनेस विश्लेषण: जब हमले के पैरामीटर $s$ को स्कैन किया गया, तो गलत वर्गीकृत छवियों ने आत्मविश्वास स्कोर में तेजी से गिरावट दिखाई, जबकि सही वर्गीकृत छवियां बहुत बड़े $s$ मानों तक मजबूत बनी रहीं। यह पुष्टि करता है कि गलत भविष्यवाणियां डेटा अनिश्चितताओं के अनुरूप विक्षेपण के प्रति कम मजबूत होती हैं।

2. IceCube टॉ न्यूट्रिनो आइडेंटिफिकेशन

• संदर्भ: IceCube डिटेक्टर में चेरेनकोव लाइट पैटर्न की 2D छवियों का उपयोग करके बैकग्राउंड इलेक्ट्रॉन न्यूट्रिनों ($\nu_e$) के विरुद्ध खगोलीय टॉ न्यूट्रिनों ($\nu_\tau$) की पहचान करना।
• सेटअप: हमलों को सिम्युलेटेड इवेंट्स और 2024 के विश्लेषण में पहचाने गए सात वास्तविक उम्मीदवार इवेंट्स पर लागू किया गया। अनिश्चितताओं को रिकॉर्ड किए गए आयाम के 10% के रूप में मॉडल किया गया।
• परिणाम:
  • सात वास्तविक उम्मीदवार इवेंट्स के लिए, छह को वर्गीकरण बदलने के लिए $s \approx 10$ (यानी 100% अनिश्चितता का संकेत) की आवश्यकता थी, जो उच्च मजबूती को दर्शाता है।
  • एक इवेंट $s < 1$ पर बदल गया, जो सुझाव देता है कि यह संभवतः एक गलत वर्गीकृत बैकग्राउंड इवेंट था।
  • यह अंतर मूल विश्लेषण में 0.5 इवेंट के बैकग्राउंड अनुमान के साथ संरेखित होता है, जो प्रदर्शित करता है कि MiniFool चयनित इवेंट सैंपल्स की शुद्धता को स्वतंत्र रूप से सत्यापित कर सकता है।

3. CMS B-जेट टैगिंग

• संदर्भ: CMS Open Data पर DeepJet नेटवर्क का उपयोग करके b-क्वार्क्स से उत्पन्न होने वाले जेट्स की पहचान करना।
• सेटअप: नेटवर्क 600 से अधिक इनपुट मात्राओं को प्रोसेस करता है। चूंकि सभी इनपुट्स के लिए विशिष्ट अनिश्चितताओं को मापने में कठिनाई है, इसलिए एक सरलीकृत मॉडल का उपयोग किया गया जहाँ सभी अनिश्चितताओं को इकाई (unity) के रूप में सेट किया गया और $s$ द्वारा स्केल किया गया।
• परिणाम:
  • स्ट्रेस टेस्ट: जैसे-जैसे $s$ बढ़ता है, AUC (Area Under the Curve) 0.932 (नाममात्र) से घटकर 0.752 हो जाता है। महत्वपूर्ण गिरावट $s = 3 \times 10^{-4}$ पर शुरू हुई।
  • रोबस्टनेस स्कैन: उच्च प्रारंभिक विश्वास ($P \ge 87\%$) वाले 200 जेट्स के उपसमूह के लिए, शुरुआत में गलत वर्गीकृत जेट्स की तुलना में सही वर्गीकृत जेट्स को बदलने के लिए काफी बड़े $s$ मानों की आवश्यकता थी।
  • यह उच्च-आयामी, विषम कण भौतिकी डेटा के लिए एल्गोरिदम की सामान्य क्षमता की पुष्टि करता है।

महत्व और दावे

पेपर का दावा है कि MiniFool कण भौतिकी में न्यूरल नेटवर्क के निर्णयों की मजबूती का परीक्षण करने का एक भौतिक रूप से सार्थक तरीका प्रदान करता है। इसकी प्राथमिक महत्ता निम्नलिखित है:

1. भौतिक संभाव्यता (Physical Plausibility): लागत फलन में प्रयोगात्मक अनिश्चितताओं को शामिल करके, परिणामी विक्षेपण भौतिक रूप से संभव डेटा विविधताओं का प्रतिनिधित्व करते हैं, मानक हमलों के विपरीत जो गैर-भौतिक आर्टिफैक्ट्स उत्पन्न कर सकते हैं।
2. रोबस्टनेस मूल्यांकन: हमले के पैरामीटर $s$ को स्कैन करने की क्षमता शोधकर्ताओं को यह मापने की अनुमति देती है कि एक वर्गीकरण वर्गीकरण विफल होने से पहले कितनी प्रयोगात्मक अनिश्चितता को सहन कर सकता है। यह व्यक्तिगत इवेंट क्लासिफिकेशन की विश्वसनीयता के लिए एक मीट्रिक के रूप में कार्य करता है।
3. गलत वर्गीकरण का पता लगाना: विधि लगातार सही और गलत वर्गीकृत इवेंट्स के बीच अंतर करती है; गलत वर्गीकृत इवेंट्स कम अनिश्चितता स्केल के साथ "फ्लिपेबल" (बदलने योग्य) होते हैं जबकि मजबूत, सही वर्गीकरण अधिक होते हैं।
4. सामान्य प्रयोज्यता: एल्गोरिदम किसी विशिष्ट डिटेक्टर या डेटा प्रकार तक सीमित नहीं है, जैसा कि इमेज डेटा (MNIST), टाइम-सीरीज/2D डिटेक्टर डेटा (IceCube), और उच्च-आयामी काइनेमैटिक डेटा (CMS) पर इसकी सफलता से सिद्ध होता है।

लेखक नोट करते हैं कि हालांकि वर्तमान कार्यान्वयन ग्रेडिएंट-आधारित हमलों की तुलना में धीमा है, फिर भी यह भौतिक विश्लेषणों को मान्य करने के लिए एक अनूठा उपकरण प्रदान करता है। वे सुझाव देते हैं कि भविष्य के कार्य अधिक जटिल, यथार्थवादी अनिश्चितता मॉडल लागू करने और इस पद्धति को प्रशिक्षण प्रक्रिया (एडवर्सरियल ट्रेनिंग) में एकीकृत करने की खोज करने पर केंद्रित होना चाहिए, हालांकि वर्तमान कम्प्यूटेशनल लागत इसे छोटे डेटासेट्स तक सीमित करती है।