← नवीनतम पेपर
🤖 machine learning

CEAR: Certified Ensemble Adversarial Robustness in DNNs

यह शोध पत्र CEAR प्रस्तुत करता है, जो एक एन्सेम्बल-आधारित रक्षा विधि है जो कई डेटासेट के विरुद्ध एडेप्टिव व्हाइट-बॉक्स हमलों के खिलाफ श्रेष्ठ प्रमाणित सुदृढ़ता (certified robustness) प्राप्त करने के लिए एम्पिरिकल ट्रेनिंग को रैंडमाइज्ड स्मूथिंग और नवीन वोटिंग तंत्रों के साथ जोड़ती है।

मूल लेखक: Daniel Sadig, Mohammadreza Maleki, Hamed Karimi, Reza Samavi

प्रकाशित 2026-06-02
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Daniel Sadig, Mohammadreza Maleki, Hamed Karimi, Reza Samavi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक मूल्यवान इमारत की रक्षा के लिए विशेषज्ञ गार्डों की एक टीम (एक डीप न्यूरल नेटवर्क) है। उनका काम आगंतुकों को पहचानना और सही लोगों को अंदर आने देना है। हालाँकि, चतुर चोर (एडवर्सरियल अटैक्स) ऐसे होते हैं जो किसी आगंतुक के रूप में मामूली, लगभग अदृश्य बदलाव कर सकते हैं—जैसे कि एक थोड़ी अलग टोपी या मुद्रा में सूक्ष्म बदलाव—ताकि गार्डों को धोखा देकर किसी अपराधी को अंदर आने दिया जा सके।

यह पेपर एक नया सुरक्षा तंत्र पेश करता है जिसे CEAR (सर्टिफाइड एनसेंबल एडवर्सरियल रोबस्टनेस) कहा जाता है। केवल एक गार्ड या चोरों को रोकने के लिए एक ही प्रकार के तरीके पर निर्भर रहने के बजाय, CEAR तीन स्मार्ट रणनीतियों के संयोजन का उपयोग करता है ताकि सुरक्षा टीम को बेवकूफ बनाना लगभग असंभव हो जाए।

यहाँ बताया गया है कि CEF कैसे काम करता है, जिसे सरल अवधारणाओं में विभाजित किया गया है:

1. विविध गार्डों की एक टीम (द एनसेंबल)

अधिकांश सुरक्षा प्रणालियाँ एक एकल गार्ड या समान गार्डों की एक टीम का उपयोग करती हैं। यदि कोई चोर एक को धोखा देने का तरीका ढूंढ लेता है, तो वे उन सभी को धोखा दे सकते हैं।

  • CEAR का समाधान: CEAR अलग-अलग गार्डों की एक पूरी टीम (एक "एनसेंबल") को काम पर रखता है। लेकिन यहाँ एक मोड़ है: प्रत्येक गार्ड दुनिया को थोड़ा अलग तरह से देखता है।
  • उपमा: कल्पना कीजिए कि प्रत्येक गार्ड को थोड़े धुंधले चश्मे का एक अलग जोड़ा दिया गया है। एक जोड़ी दूसरे की तुलना में थोड़ी अधिक धुंधली है। क्योंकि वे आगंतुक को अलग-अलग "लेंस" के माध्यम से देखते हैं, इसलिए एक ट्रिक जो गार्ड A को भ्रमित करती है, वह गार्ड B को भ्रमित नहीं करेगी। यह एक चोर के लिए एक ही ट्रिक ढूंढना बहुत कठिन बना देता है जो पूरी टीम पर काम कर सके।

2. "सॉफ्ट" ट्रेनिंग (टेम्परेचर के साथ डिस्टिलेशन)

आमतौर आमतौर पर, गार्डों को बहुत सख्त होने के लिए प्रशिक्षित किया जाता है: "यह एक बिल्ली है, वह एक कुत्ता है।" लेकिन सख्त गार्ड आसानी से भ्रमित हो जाते हैं।

  • CEAR का समाधान: सिस्टम एक "हेड टीचर" का उपयोग करता है जो गार्डों को प्रशिक्षित करता है। केवल यह कहने के बजाय कि "यह एक बिल्ली है," हेड टीचर कहता है, "यह 80% बिल्ली जैसा दिखता है, लेकिन इसमें थोड़ा सा कुत्ते का अंश भी है।"
  • उपमा: यह एक बच्चे को जानवरों को पहचानने के लिए सिखाने जैसा है कि भेड़िया कुत्ते से कितना मिलता-जुलता है, बजाय इसके कि केवल कठोर परिभाषाओं को याद किया जाए। यह गार्डों के निर्णय लेने की प्रक्रिया को "सुचारू" (स्मूथ) बनाता है। यदि कोई चोर बिल्ली के कान को थोड़ा सा बदल देता है, तो गार्ड अचानक घबराकर यह नहीं सोचता कि यह एक कार है; वे अभी भी आत्मविश्वास से कहते हैं, "यह अभी भी एक बिल्ली है।"

3. "स्टैटिक" इन्फरेंस (नॉइजी लॉजिट्स)

जब वास्तव में कोई आगंतुक दरवाजे पर आता है, तो चोर गार्डों की प्रतिक्रिया का अध्ययन करने की कोशिश करते हैं ताकि वे अंदर घुस सकें।

  • CEAR का समाधान: हर बार जब किसी आगंतुक की जाँच की जाती है, तो सिस्टम गार्डों के देखने से पहले इमेज में थोड़ा सा रैंडम "स्टैटिक" या "शोर" (नॉइज़) जोड़ देता है।
  • उपमा: कल्पना कीजिए कि गार्ड एक ऐसी खिड़की के माध्यम से आगंतुक को देख रहे हैं जो लगातार थोड़ी कंपन कर रही है। भले ही चोर यह गणना करने की कोशिश करे कि गार्ड को धोखा देने के लिए अपने चेहरे को ठीक से कैसे हिलाया जाए, निरंतर कंपन उस गणना को बेकार बना देता है। चोर यह अनुमान नहीं लगा सकता कि गार्ड अगली बार क्या देखेगा।

4. स्मार्ट वोटिंग सिस्टम

एक बार जब सभी गार्डों ने अपना निर्णय ले लिया, तो टीम तय कैसे करती है कि कौन सही है? CEAR इस बात पर निर्भर करते हुए दो अलग-अलग वोटिंग विधियों का उपयोग करता है कि वे कितने आश्वस्त हैं।

  • विधि A: "जियोमेट्रिक मीडियन" (आत्मविश्वासी स्थितियों के लिए)

    • यह कैसे काम करता है: यदि गार्ड ज्यादातर सहमत हैं, तो यह विधि "आउटलेयर्स" (असामान्य परिणामों) को नजरअंदाज करते हुए बीच का रास्ता निकालती है।
    • उपमा: कल्पना कीजिए कि दोस्तों का एक समूह तरबूज के वजन का अनुमान लगा रहा है। यदि एक दोस्त 5 पाउंड और दूसरा 500 पाउंड कहता है, लेकिन बाकी सभी 20 पाउंड कहते हैं, तो "जियोमेट्रिक मीडियन" उन अजीब अनुमानों को अनदेखा करता है और वास्तविक सहमति पर टिके रहता है। यह तब बहुत अच्छा होता है जब सभी काफी आश्वस्त होते हैं।

  • विधि B: "रोबस्ट वेटेड" वोट (भ्रमित करने वाली स्थितियों के लिए)

    • यह कैसे काम करता है: यदि आगंतुक की पहचान करना कठिन है (उच्च शोर), तो यह विधि उन गार्डों की बात अधिक सुनती है जो ऐतिहासिक रूप से कठिन मामलों को संभालने में सबसे सटीक रहे हैं।
    • उपमा: यदि तरबूज कंबल में लिपटा हुआ है और देखना कठिन है, तो आप सभी की बात समान रूप से नहीं सुनते। आप उस दोस्त की बात अधिक सुनते हैं जो लिपटी हुई वस्तुओं का अनुमान लगाने में सबसे अच्छा माना जाता है। यह सुनिश्चित करता है कि टीम उन गार्डों से विचलित न हो जो वर्तमान में भ्रमित हैं।

5. "सुरक्षा का प्रमाण पत्र"

सबसे रोमांचक हिस्सा यह है कि CEAR केवल यह आशा नहीं करता कि यह सुरक्षित है; यह इसे सिद्ध करता है।

  • उपमा: अधिकांश सुरक्षा प्रणालियाँ कहती हैं, "हमें लगता है कि हम सुरक्षित हैं।" CEH एक सुरक्षा निरीक्षक की तरह है जो इमारत के चारों ओर घूमता है और कहता है, "मैं गणितीय रूप से सिद्ध कर सकता हूँ कि चाहे चोर दरवाजे को कितना भी हिलाए (एक निश्चित सीमा तक), ताला नहीं टूटेगा।"
  • पेपर दिखाता है कि CEAF पिछले तरीकों की तुलना में "हिलाने" (परटर्बेशन) की एक बहुत बड़ी सीमा में अपनी सुरक्षा सिद्ध कर सकता है।

उन्होंने क्या पाया?

शोधकर्ताओं ने तीन अलग-अलग "प्रशिक्षण मैदानों" (डेटासेट्स) पर इस प्रणाली का परीक्षण किया:

  1. MNIST: साधारण हस्तलिखित अंक (जैसे एक बुनियादी सुरक्षा परीक्षण)।
  2. CIFAR10: रोजमर्रा की वस्तुओं की रंगीन तस्वीरें (जैसे एक व्यस्त सड़क)।
  3. TinyImageNet: अधिक जटिल, उच्च-रिज़ॉल्यूशन वाली छवियां (जैसे एक भीड़भाड़ वाला हवाई अड्डा)।

परिणाम:

  • बेहतर सुरक्षा: CEAF ने सिद्ध किया कि यह पिछले तरीकों की तुलना में अधिक शक्तिशाली हमलों का सामना कर सकता है।
  • कम ट्रांसफ़रेबिलिटी: एक ट्रिक जो टीम के एक गार्ड पर काम कर गई, वह दूसरों पर काम नहीं आई, इसलिए चोर अपने ट्रिक्स का पुन: उपयोग नहीं कर सके।
  • स्मार्ट अनुकूलन: सिस्टम जानता था कि कब "जियोमेट्रिक मीडियन" का उपयोग करना है (जब चीजें स्पष्ट हों) और कब "रोबस्ट वेटेड" वोट पर स्विच करना है (जब चीजें अव्यवस्थित हों), जिससे सुरक्षा कड़ी बनी रही।

संक्षेप में, CEAF एक ऐसी सुरक्षा टीम है जो विविध दृष्टिकोणों, सुचारू प्रशिक्षण, रैंडम शोर और स्मार्ट वोटिंग का उपयोग करती है ताकि गणितीय रूप से गारंटी दी जा सके कि वे चतुर चोरों से नहीं डरेंगे, भले ही चोरों को पता हो कि गार्ड कैसे काम करते हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.LG →