🤖 machine learning

Robustness of neural networks to random noise perturbations of their inputs

यह शोध पत्र एक सरल, कुशल, ब्लैक-बॉक्स मजबूती माप प्रस्तावित करता है जो वास्तविक दुनिया के डेटासेट पर प्रयोगों के माध्यम से सत्यापित और तुलनात्मक विश्लेषण के लिए रोबस्टनेस कर्व्स (robustness curves) की शुरूआत द्वारा उन्नत, रैंडम इनपुट नॉइज़ के तहत एक न्यूरल नेटवर्क के मीन स्क्वेर्ड एरर (mean squared error) पर एक संभाव्य ऊपरी सीमा प्रदान करता है।

मूल लेखक: Mark Levene, Martyn Harris

प्रकाशित 2026-07-01

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Mark Levene, Martyn Harris

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ लेवेन और हैरिस के शोध पत्र "Robustness of neural networks to random noise perturbations of their inputs" का सरल, रोजमर्रा की भाषा और उपमाओं (analogies) के साथ अनुवाद दिया गया है।

बड़ी तस्वीर: "नाजुक जीनियस" (Fragile Genius) की समस्या

कल्पना कीजिए कि आपने एक प्रतिभाशाली छात्र (एक न्यूरल नेटवर्क) को परीक्षा देने के लिए प्रशिक्षित किया है। आपने उन्हें इतनी अच्छी तरह से सिखाया है कि वे अभ्यास परीक्षाओं (practice exams) में पूर्ण अंक प्राप्त करते हैं। यह उनकी सटीकता (Accuracy) है।

लेकिन यहाँ एक पेंच है: क्या होगा यदि आप उन्हें असली परीक्षा दें, लेकिन किसी ने कागज पर थोड़ा सा 'स्टैटिक नॉइज़' (static noise) बना दिया हो? शायद स्याही का एक धब्बा, कॉफी का दाग, या कुछ अक्षर थोड़े धुंधले हों।

प्रश्न: क्या छात्र घबराकर पूरी तरह से फेल हो जाता है? या वह अपनी आँखें सिकोड़ता है, धब्बे को अनदेखा करता है, और फिर भी सही उत्तर देता है?
अवधारणा: इस "गंदगी" या "शोर" के बावजूद सही ढंग से काम करने की क्षमता को रोबस्टनेस (Robustness/मजबूती) कहा जाता है।

यह शोध पत्र एक ऐसा टूल बनाने के बारे में है जो ठीक से माप सके कि एक न्यूरल नेटवर्क कितना "शोर-सहनशील" (noise-tolerant) है।

उन्होंने इसका परीक्षण कैसे किया: "स्टैटिक नॉइज़" प्रयोग

लेखकों ने नेटवर्क के दिमाग (इसके आंतरिक वेट्स/weights) को बदलकर इसे तोड़ने की कोशिश नहीं की। इसके बजाय, उन्होंने नेटवर्क को वैसा ही रखा जैसा वह था और केवल इनपुट (वह डेटा जो वह देखता है) के साथ छेड़छाड़ की।

उपमा (Analogy):
इनपुट डेटा को एक स्पष्ट तस्वीर के रूप में सोचें। शोधकर्ताओं ने उस फोटो को लिया और उसमें गौसियन नॉइज़ (Gaussian noise) जोड़ दिया।

गौसियन नॉइज़ क्या है? कल्पना कीजिए कि आप एक पुराने टीवी पर "स्टैटिक" (झिलमिलाहट) बढ़ा रहे हैं। चित्र दानेदार हो जाता है। आप जितना अधिक स्टैटिक जोड़ेंगे, छवि को देखना उतना ही कठिन हो जाएगा।
प्रक्रिया: उन्होंने एक प्रशिक्षित नेटवर्क लिया, इनपुट में थोड़ा सा स्टैटिक जोड़ा, देखा कि उत्तर में कितना बदलाव आया, थोड़ा और स्टैटिक जोड़ा, और यह तब तक दोहराया जब तक कि उत्तर पूरी तरह से गड़बड़ नहीं हो गया।

नया टूल: "रोबस्टनेस कर्व" (Robustness Curve)

केवल यह कहने के बजाय कि "यह विफल हो गया," लेखकों ने एक विजुअल ग्राफ बनाया जिसे रोबस्टनेस कर्व कहा जाता है।

उपमा (Analogy):
कल्पना कीजिए कि एक कार पहाड़ी पर चढ़ रही है।

फ्लैट शुरुआत (The Linear Regime): शुरुआत में, आप थोड़ा सा शोर (एक छोटी पहाड़ी) जोड़ते हैं। कार (नेटवर्क) इसे महसूस भी नहीं करती। त्रुटि (error) स्थिर रहती है। यह "सुरक्षित क्षेत्र" है।
नी (The Knee/मोड़): अचानक, पहाड़ी ढलान वाली हो जाती है। कार संघर्ष करने लगती है। त्रुटि तेजी से बढ़ने लगती है। यह कर्व का "नी" (घुटने वाला मोड़) है।
सैचुरेशन (The Cliff/चट्टान): अंततः, शोर इतना अधिक होता है कि कार बस अपने पहिए घुमा रही होती है। और अधिक शोर जोड़ने से स्थिति बहुत अधिक खराब नहीं होती क्योंकि वह पहले से ही पूरी तरह से खो चुकी है। कर्व ऊपर की ओर समतल (flatten out) हो जाता है।

उन्होंने इस रेखा को खींचने के लिए गोम्पर्ट्ज फंक्शन (Gompertz function) नामक एक गणितीय आकार का उपयोग किया (जो एक "S" आकार जैसा दिखता है)। इसने उन्हें मूल परीक्षण की कठिनाई के बावजूद विभिन्न नेटवर्कों की निष्पक्ष तुलना करने की अनुमति दी।

"रोबस्टनेस इंडेक्स": सबसे मजबूत कौन है?

उन्होंने इसका परीक्षण पांच अलग-अलग वास्तविक दुनिया के डेटासेट्स (जैसे कैंसर से होने वाली मौतों, फ्लू टीकाकरण दरों, हृदय रोग, स्तन कैंसर और हस्तलिखित अंकों को पहचानने) पर किया।

उन्होंने उन्हें रैंक करने के लिए एक रोबस्टनेस इंडेक्स (0 से 1 का स्कोर) की गणना की।

उच्च स्कोर (High Score): नेटवर्क गलतियाँ करने से पहले बहुत अधिक शोर को संभाल सकता है।
कम स्कोर (Low Score): नेटवर्क बहुत नाजुक है; थोड़ा सा भी शोर इसके उत्तर को खराब कर देता है।

परिणाम (क्रम):
उनके प्रयोगों के आधार पर, यहाँ "सबसे मजबूत" से "सबसे नाजुक" तक की रैंकिंग दी गई है:

कैंसर से होने वाली मौतें: सबसे मजबूत। यह सबसे अधिक शोर को संभाल सकता था।
फ्लू टीकाकरण दरें: बहुत मजबूत।
स्तन कैंसर: ठीक-ठाक मजबूती।
हृदय रोग: कम मजबूत।
MNIST (हस्तलिखित अंक): सबसे कम मजबूत। भले ही यह एक प्रसिद्ध डेटासेट है, लेकिन शोर जोड़े जाने पर नेटवर्क बहुत जल्दी भ्रमित हो गया।

यह क्यों मायने रखता है (शोध पत्र के अनुसार)

लेखक इस बात पर जोर देते हैं कि सटीकता (Accuracy) और रोबस्टनेस (Robustness) अक्सर एक-दूसरे के विपरीत होते हैं। एक नेटवर्क आदर्श डेटा (उच्च सटीकता) के लिए जीनियस हो सकता है, लेकिन यदि डेटा थोड़ा भी गंदा है (कम रोबस्टनेस), तो वह पूरी तरह से आपदा बन सकता है।

उनका तरीका एक "ब्लैक बॉक्स" टेस्ट है। आपको यह जानने की आवश्यकता नहीं है कि न्यूरल नेटवर्क अंदर से कैसे बना है; आप बस इसमें शोर वाला डेटा फीड करते हैं, त्रुटि को मापते हैं, और कर्व बनाते हैं। यह आपको यह कहने का एक स्पष्ट, गणितीय तरीका देता है कि: "यह मॉडल वास्तविक दुनिया में उपयोग के लिए सुरक्षित है जहाँ डेटा कभी भी पूर्ण नहीं होता," या "यह मॉडल बहुत नाजुक है और इसे और काम की आवश्यकता है।"

एक वाक्य में सारांश

यह शोध पत्र एक सरल और कुशल तरीका पेश करता है जिससे यह मापा जा सके कि एक न्यूरल नेटवर्क कितना "स्टैटिक नॉइज़" झेल सकता है इससे पहले कि वह विफल होने लगे, जिसके लिए एक विजुअल "S-आकार" के कर्व का उपयोग करके विभिन्न मॉडलों को सबसे मजबूत से सबसे नाजुक तक रैंक किया जाता है।

तकनीकी सारांश: न्यूरल नेटवर्क के इनपुट में रैंडम नॉइज़ परटर्बेशन के प्रति मजबूती (Robustness)

समस्या विवरण
यह शोध पत्र न्यूरल नेटवर्क (NN) की मजबूती (robustness) के मूल्यांकन को संबोधित करता है, विशेष रूप से तब, जब इनपुट मानों को रैंडम नॉइज़ द्वारा विक्षेपित (perturb) किया जाता है। जबकि सटीकता (जिसे मीन स्क्वेर्ड एरर (MSE) या मल्टी-क्लास ब्रियर स्कोर (MBS) के माध्यम से मापा जाता है) मॉडल की गुणवत्ता का एक मानक मीट्रिक है, यह रैंडम गॉसियन नॉइज़ जैसी स्थितियों के तहत स्थिरता को ध्यान में नहीं रखता है। लेखक एक ज्ञात ट्रेड-ऑफ (trade-off) का उल्लेख करते हैं जहाँ सटीकता बढ़ाने से मजबूती कम हो सकती है। मौजूदा शोध अक्सर नेटवर्क के भार (weights) को संशोधित करने पर केंद्रित होता है या वर्गीकरण (classification) समस्याओं तक सीमित होता है; यह कार्य प्रशिक्षित NN को एक "ब्लैक बॉक्स" के रूप में मानता है और रिग्रसन (regression) तथा वर्गीकरण दोनों कार्यों के लिए इनपुट परटर्बेशन पर ध्यान केंद्रित करता है।

कार्यप्रणाली (Methodology)
प्रस्तावित दृष्टिकोण में तीन-चरणीय कार्यप्रणाली शामिल है:

परटर्बेशन और मजबूती माप ( $\theta$ -robustness):
लेखक एक मानक विचलन $\sigma$ और एक सार्थकता स्तर (significance level) $\alpha$ के दिए गए मान के लिए, एक प्रशिक्षित NN के लिए एक मजबूती माप, $\theta$ , को परिभाषित करते हैं। माप $\rho(\sigma, \alpha, NN)$ , $1-\alpha$ की प्रायिकता के साथ इनपुट परटर्बेशन $\epsilon \sim N(0, \sigma^2)$ के तहत MSE (या MBS) के ऊपरी स्तर (upper bound) को दर्शाता है।

गणना: इसे मोंटे कार्लो पद्धति (एल्गोरिदम 1) का उपयोग करके अनुमानित किया जाता है। एल्गोरिदम $m$ रैंडम नॉइज़ वेक्टर्स उत्पन्न करता है, प्रत्येक के लिए परिणामी MSE की गणना करता है, उन्हें क्रमबद्ध करता है, और $(1-\alpha)m$ -वें पर्सेंटाइल पर मान चुनकर $\theta$ के रूप में मजबूती सीमा प्राप्त करता है।
इनपुट हैंडलिंग: मिश्रित फीचर प्रकारों वाले वास्तविक दुनिया के डेटासेट के लिए, विधि केवल संख्यात्मक (numeric) फीचर्स को ही विक्षेपित करती है। एक विशिष्ट संख्यात्मक फीचर के लिए नॉइज़ वेरिएंस को उसके एम्पीरिकल स्टैंडर्ड डेविएशन द्वारा स्केल किया जाता है। एक प्रायिकता $p$ यह निर्धारित करती है कि डेटा आइटम का एक विशिष्ट संख्यात्मक फीचर विक्षेपित होगा या नहीं।

रोबस्टनेस कर्व्स (Robustness Curves):
परटर्बेशन परिमाण और त्रुटि के बीच संबंध को विज़ुअलाइज़ करने के लिए, लेखक "रोबस्टनेस कर्व्स" पेश करते हैं। ये कर्व शोर के मानक विचलन $\sigma$ के विरुद्ध सामान्यीकृत रोबस्टनेस अनुपात $\rho(\sigma, \alpha, NN) / \text{MSE}_0$ (जहाँ $\text{MSE}_0$ बेसलाइन एरर है) को प्लॉट करते हैं। यह सामान्यीकरण विभिन्न डेटासेट्स के बीच स्केल-फ्री तुलना की अनुमति देता है।
गोम्पर्ट्ज़ फंक्शन (Gompertz Function) के साथ मॉडलिंग:
रोबस्टनेस कर्व्स को चार-पैरामीटर वाले गोम्पर्ट्ज़ फंक्शन के साथ फिट किया जाता है, जो विकास और संतृप्ति (saturation) घटनाओं के लिए उपयोग किया जाने वाला एक सिग्मोइडल कर्व है। फिट को निर्धारण गुणांक ( $R^2$ ) का उपयोग करके मूल्यांकित किया जाता है। कर्व के मुख्य बिंदुओं की पहचान की जाती है:

नी पॉइंट (Knee Point): इन्फ्लेक्शन (inflection) से पहले अधिकतम वक्रता बिंदु, जो उस रैखिक क्षेत्र के अंत को चिह्नित करता है जहाँ त्रुटि धीरे-धीरे बढ़ती है।
इन्फ्लेक्शन पॉइंट (Inflection Point): अधिकतम विकास दर का बिंदु।
हाफ-मैक्सिमम स्लोप (Half-Maximum Slope): एक मध्यवर्ती थ्रेशोल्ड।

इन फिट्स के आधार पर, लेखक एक रोबस्टनेस इंडेक्स ( $G_i$ ) को परिभाषित करते हैं। वर्टिकल एसिम्प्टोट्स (vertical asymptotes) को हटाने के लिए गोम्पर्ट्ज़ कर्व्स को सामान्यीकृत करके, वे विभिन्न डेटासेट्स के "ग्रोथ रेट" ( $b$ ) और "इन्फ्लेक्शन पॉइंट" ( $c$ ) की तुलना करते हैं। एक सापेक्ष रोबस्टनेस इंडेक्स ( $R_{ij}$ ) की गणना यह निर्धारित करने के लिए की जाती है कि अंतराल $[0, 1]$ का वह कौन सा हिस्सा है जहाँ एक कर्व दूसरे के नीचे रहता है (जो कम त्रुटि और उच्च मजबूती को दर्शाता है)।

प्रायोगिक सेटअप और परिणाम
विधि को पांच वास्तविक दुनिया के डेटासेट्स पर सत्यापित किया गया:

रिग्रसन: "Deaths from Cancer" और "Flu vaccination rates" (छोटे डेटासेट, $n=31$ )।
वर्गीकरण: "Heart disease," "Wisconsin diagnostic Breast Cancer," और "MNIST" (हस्तलिखित अंक)।

इन डेटासेट्स के लिए फीडफॉरवर्ड न्यूरल नेटवर्क (FNNs) को प्रशिक्षित किया गया। लेखकों ने सत्यापित किया कि उनका बेसलाइन प्रदर्शन (MSE, RMSE, F1 स्कोर) साहित्य के मानकों के तुलनीय था।

कर्व फिटिंग: गोम्पर्ट्ज़ फंक्शन ने सभी डेटासेट्स के लिए उत्कृष्ट फिट प्रदान किया ( $R^2 > 0.99$ ), जो पुष्टि करता है कि जैसे-जैसे शोर बढ़ता है, प्रदर्शन का S-आकार का क्षरण होता है।
थ्रेशोल्ड विश्लेषण: रिग्रसन कार्यों के लिए, लेखकों ने पाया कि बेसलाइन MSE के दोगुने का उपयोगकर्ता-निर्धारित थ्रेशोल्ड ( $y=2$ ) एक तर्कसंगत मीट्रिक है। वर्गीकरण कार्यों के लिए, कर्व का "नी पॉइंट" अधिक उपयुक्त था।
रोबस्टनेस पदानुक्रम (Hierarchy): रोबस्टनेस इंडेक्स ( $G_i$ ) का उपयोग करके, डेटासेट्स को उनकी मजबूती के आधार पर रैंक किया गया। "Deaths from Cancer" डेटासेट ने सबसे मजबूत मॉडल ( $G_1 = 0.9866$ ) दिया, उसके बाद "Flu vaccination rates," "Breast Cancer," "Heart disease," और अंत में "MNIST" ( $G_5 = 0.1708$ ) आया। परिणामी पदानुक्रम है:
$\text{Deaths from Cancer} > \text{Flu vaccination rates} > \text{Breast Cancer} > \text{Heart disease} > \text{MNIST}$

महत्व और दावे
शोध पत्र का दावा है कि यह आंतरिक भार या आर्किटेक्चर संशोधनों की आवश्यकता के बिना न्यूरल नेटवर्क की मजबूती को मापने के लिए एक सरल, कुशल और ब्लैक-बॉक्स विधि प्रदान करता है। मुख्य योगदान शामिल हैं:

एक संभाव्य ऊपरी सीमा (Probabilistic Upper Bound): एक निर्दिष्ट कॉन्फिडेंस लेवल के साथ गॉसियन नॉइज़ के तहत MSE/MBS के ऊपरी स्तर का अनुमान लगाने की एक विधि।
रोबस्टनेस कर्व्स: प्रदर्शन के क्षरण का विश्लेषण करने के लिए एक विज़ुअलाइज़ेशन टूल, जो रैखिक क्षेत्रों और संतृप्ति बिंदुओं को प्रकट करता है।
तुलनात्मक मीट्रिक: गोम्पर्ट्ज़ कर्व पैरामीटर्स पर आधारित एक रोबस्टनेस इंडेक्स का परिचय, जो विभिन्न डेटासेट्स और मॉडल्स के बीच मजबूती की मात्रात्मक तुलना की अनुमति देता है।

लेखक निष्कर्ष निकालते हैं कि हालांकि उनकी विधि परीक्षण किए गए डेटासेट्स के लिए प्रभावी है, भविष्य के कार्यों को अतिरिक्त डेटासेट्स पर इसका सत्यापन करना चाहिए और रोबस्टनेस की अवधारणा को वेरिएशनल ऑटोएनकोडर्स (VAEs) जैसे जेनेरेटिव मॉडल्स तक विस्तारित करना चाहिए। वे स्पष्ट रूप से कहते हैं कि यह विधि अन्य ML एल्गोरिदम के लिए भी मान्य है, बशर्ते उन्हें प्रशिक्षित होने के बाद नियतात्मक (deterministic) ब्लैक बॉक्स के रूप में माना जा सके।