← नवीनतम पेपर
💻 computer science

Differential Zonotopes for Verifying Global Robustness of DNNs

यह शोध पत्र TwoSafe को प्रस्तुत करता है, जो एक नवीन स्टैटिक एनालिसिस टूल है और डीप न्यूरल नेटवर्क की ग्लोबल रोबस्टनेस को कुशलतापूर्वक सत्यापित करने के लिए डिफरेंशियल हेलो ज़ोनोटोप्स (differential halo zonotopes) का उपयोग करता है, जो सटीकता और स्केलेबिलिटी दोनों में मौजूदा अत्याधुनिक तकनीकों से काफी बेहतर प्रदर्शन करता है।

मूल लेखक: Anagha Athavale, Samuel Teuber, Matteo Maffei, Ezio Bartocci, Dejan Nickovic, Georg Weissenbacher

प्रकाशित 2026-06-23
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Anagha Athavale, Samuel Teuber, Matteo Maffei, Ezio Bartocci, Dejan Nickovic, Georg Weissenbacher

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपने एक बहुत ही स्मार्ट रोबोट (एक डीप न्यूरल नेटवर्क) बनाया है जो महत्वपूर्ण निर्णय लेता है, जैसे कि भौतिकी के प्रयोग में कणों (particles) की पहचान करना या सेंसर डेटा के आधार पर यह पहचानना कि कोई व्यक्ति चल रहा है या खड़ा है। आप पूरी तरह से सुनिश्चित होना चाहते हैं कि आपका रोबोट शोर (noise) या अपूर्ण डेटा (जैसे सेंसर की खराबी या कैमरा लेंस पर दाग) से भ्रमित न हो जाए।

यह शोध पत्र इस बारे में है कि एक नया, सुपर-कुशल तरीका कैसे यह परीक्षण कर सकता है कि क्या ये रोबोट उस शोर को संभालने के लिए कितने "मजबूत" (tough) हैं।

यहाँ उनके काम का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. समस्या: हर संभावित परिदृश्य की जाँच करना

आमतौर पर, जब हम एक रोबोट का परीक्षण करते हैं, तो हम देखते हैं कि क्या वह एक विशिष्ट चित्र के लिए काम करता है और फिर हम देखते हैं कि क्या वह उसी चित्र में थोड़ा सा शोर जोड़ने के बाद भी काम करता है। इसे लोकल रोबस्टनेस (Local Robustness) कहा जाता है। यह एक पुल की जाँच करने जैसा है कि क्या वह एक समय में एक कार के गुजरने पर टिकता है।

लेकिन लेखक ग्लोबल रोबस्टनेस (Global Robustness) की जाँच करना चाहते थे। यह बहुत अधिक कठिन है। यह पूछने जैसा है: "यदि कोई भी दो कारें एक साथ पुल से गुजरती हैं, और वे एक-दूसरे के करीब हैं, तो क्या पुल अभी भी सुरक्षित रहेगा?"

  • चुनौती: इनपुट के हर संभव जोड़े की जाँच करना समुद्र तट पर रेत के हर कण को गिनने जैसा है। इसमें इतनी अधिक कंप्यूटिंग शक्ति लगती है कि पुराने उपकरण केवल बहुत छोटे, सरल रोबोटों (जिनमें बहुत कम "न्यूरॉन्स" होते हैं) को ही संभाल पाते थे।

2. पुराना तरीका बनाम नया तरीका

पुराना तरीका ("ब्रूट फोर्स" दृष्टिकोण):
पिछले उपकरणों ने इसे दो रोबोटों को अलग-अलग जांचकर और फिर उनके परिणामों को घटाकर हल करने का प्रयास किया। कल्पना कीजिए कि दो धावकों के बीच के अंतर को मापने के लिए आप उन्हें अलग-अलग समय देते हैं और बाद में गणित का उपयोग करके तुलना करते हैं। समस्या यह है कि "गणित" वाला हिस्सा त्रुटियाँ पैदा करता है, जिससे परिणाम बहुत अस्पष्ट हो जाता है और बड़े रोबोटों के लिए उपयोगी नहीं रहता।

नया तरीका ("लॉक-स्टेप" दृष्टिकोण):
लेखकों ने एक नया टूल बनाया जिसे TwoSafe कहा जाता है। दोनों जाँचों को अलग-अलग चलाने के बजाय, वे उन्हें एक साथ, बिल्कुल तालमेल (sync) में चलाते हैं।

  • उपमा: कल्पना कीजिए कि दो जुड़वां भाई एक दौड़ में भाग ले रहे हैं। उन्हें अलग-अलग समय देने और बाद में उनकी तुलना करने के बजाय, आप उन्हें हाथ पकड़कर या एक रस्सी से बंधकर दौड़ते हुए देखते हैं। आप दौड़ते समय उनके हाथों के बीच की दूरी को मापते हैं।
  • नवाचार: वे ज़ोनोटोप (Zonotope) नामक एक गणितीय आकार का उपयोग करते हैं (इसे एक लचीले, बहु-आयामी गुब्बारे के रूप में सोचें) जो जुड़वाओं को ट्रैक करता है। उन्होंने इसका एक विशेष संस्करण बनाया जिसे डिफरेंशियल हेलो ज़ोनोटोप (Differential Halo Zonotope) कहा जाता है।
    • "हेलो" (Halo) जुड़वाओं के चारों ओर एक सुरक्षा बुलबुले की तरह है। यह उन्हें थोड़ा अलग होने की अनुमति देता है (शोर/परिवर्तन का अनुकरण करने के लिए) लेकिन इस बात पर कड़ी पकड़ रखता है कि वे वास्तव में कितनी दूर जा सकते हैं। यह पुराने तरीके की "अस्पष्ट गणित" वाली त्रुटियों को रोकता है।

3. एक स्मार्ट नियम: "कॉन्फिडेंस" (विश्वास) का लूपहोल

यह शोध पत्र एक नया नियम भी पेश करता है कि "विफलता" (failure) किसे माना जाए।

  • कठोर नियम (Asymmetric): यदि रोबोट एक स्पष्ट तस्वीर देखता है (99% निश्चित कि यह "कुत्ता" है), और थोड़ा सा शोर इसे "बिल्ली" कहने पर मजबूर कर देता है (भले ही वह केवल 10% निश्चित हो), तो कठोर नियम कहता है: फेल (FAIL)। इससे कोई फर्क नहीं पड़ता कि रोबोट "बिल्ली" के लेबल के बारे में अनिश्चित था; उसने अपना विचार बदल लिया, इसलिए वह टूटा हुआ है।
  • स्मार्ट नियम (Symmetric): लेखक कहते हैं, "रुको जरा।" यदि रोबोट एक "कुत्ता" देखता है (99% निश्चित) और शोर उसे "बिल्ली" (10% निश्चित) कहने पर मजबूर करता है, तो यह वास्तव में ठीक है! रोबोट अनिवार्य रूप से कह रहा है, "मुझे लगता है कि यह एक कुत्ता है, लेकिन यदि आप मुझे अनुमान लगाने के लिए मजबूर करते हैं, तो मैं 'बिल्ली' के बारे में वास्तव में अनिश्चित हूँ।"
    • उपमा: एक सुरक्षा गार्ड की कल्पना करें। यदि वह 99% सुनिश्चित है कि एक व्यक्ति कर्मचारी है, लेकिन थोड़ी सी धुंध के कारण वह हिचकिचाता है और कहता है, "शायद अजनबी?" (कम आत्मविश्वास के साथ), तो उसे नौकरी से नहीं निकाला जाना चाहिए। उसे केवल तभी दोषी माना जाना चाहिए यदि वह आत्मविश्वास से चिल्लाकर कहे "अजनबी!" जबकि वह वास्तव में एक कर्मचारी हो।
    • यह नया सिमेट्रिक (Symmetric) नियम इस टूल को बहुत अधिक जटिल रोबोटों को सत्यापित करने की अनुमति देता क्योंकि यह उन "कम-आत्मविश्वास" वाली गलतियों को अनदेखा कर देता है जिन्हें इंसान स्वाभाविक रूप से पकड़ लेते या अनदेखा कर देते।

4. परिणाम: विस्तार (Scaling Up)

लेखकों ने अपने नए टूल, TwoSafe का परीक्षण वास्तविक दुनिया के रोबोटों पर किया जिनका उपयोग निम्नलिखित में किया जाता है:

  • पार्टिकल फिजिक्स (LHC): विशाल कोलाइडर में कणों को छाँटना।
  • ह्यूमन एक्टिविटी रिकग्निशन (HAR): पहनने योग्य सेंसरों का उपयोग करके यह पता लगाना कि कोई व्यक्ति चल रहा है या बैठा है।
  • एयर ट्रैफिक कंट्रोल (ACAS): विमानों की टक्कर को रोकना।

परिणाम:

  • गति: TwoSafe पिछले सर्वश्रेष्ठ उपकरणों की तुलना में काफी तेज़ था।
  • आकार: जहाँ पुराने उपकरण केवल छोटे रोबोटों (लगभग 15 न्यूरॉन्स) को संभाल सकते थे, वहीं TwoSafe ने 500 न्यूरॉन्स वाले रोबोटों और 561 आयामों (dimensions) वाले इनपुट को सफलतापूर्वक सत्यापित किया। यह एक साइकिल की जाँच करने से लेकर एक विशाल कार्गो जहाज की जाँच करने तक अपग्रेड करने जैसा है।
  • सटीकता: पुराने उपकरण अक्सर "फॉल्स अलार्म" (यह सोचकर कि रोबोट टूटा हुआ है जबकि वह नहीं था) देते थे क्योंकि उनका गणित बहुत कच्चा था। TwoSafe बहुत अधिक सटीक था, जिसने वहां सुरक्षा सिद्ध की जहां अन्य विफल रहे।

सारांश

यह शोध पत्र एक नया गणितीय "सुरक्षा कवच" (डिफरेंशियल हेलो ज़ोनोटोप्स) प्रस्तुत करता है जो हमें यह परीक्षण करने की अनुमति देता है कि जटिल AI सिस्टम अपने पूरे ऑपरेटिंग रेंज में शोर के प्रति कितने मजबूत हैं। एक साथ परीक्षण चलाकर और "आत्मविश्वास" की अधिक वास्तविक परिभाषा अपनाकर, वे AI सिस्टम को सत्यापित करने में सफल रहे जो पहले जाँचने के लिए बहुत बड़े और जटिल थे।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💻 cs →