AdvSerial: Physical Adversarial Attacks on Infrastructure-mounted Pedestrian Detectors via Semantic Feature Suppression

एक ऐसी दुनिया की कल्पना करें जहाँ आपकी आँखें और मस्तिष्क को एक सुपर-स्मार्ट कैमरा कंप्यूटर द्वारा बदल दिया गया है। यह आधुनिक "AI विजन" की वास्तविकता है, एक ऐसी तकनीक जो सेल्फ-ड्राइविंग कारों को पैदल यात्रियों को देखने में मदद करती है, सुरक्षा कैमरों को भीड़ गिनने में मदद करती है, और व्यस्त राजमार्गों पर नज़र रखती है। ये सिस्टम लोगों को पहचानने में अविश्वसनीय रूप से अच्छे हैं, लेकिन उनकी एक गुप्त कमजोरी है: उन्हें चकमा दिया जा सकता है। ठीक वैसे ही जैसे एक इंसान को एक चतुर ऑप्टिकल इल्यूजन (दृष्टि भ्रम) द्वारा मूर्ख बनाया जा सकता है, इन AI कैमरों को विशेष पैटर्न द्वारा भ्रमित किया जा सकता है जो हमें शोर (noise) की तरह दिखते हैं लेकिन कंप्यूटर के लिए एक "नेत्र पट्टी" (blindfold) की तरह काम करते हैं। इस अध्ययन के क्षेत्र को "एडवर्सरियल अटैक्स" (adversarial attacks) कहा जाता है। यह कैमरे को हथौड़े से तोड़ने के बारे में नहीं है; यह एक ऐसा चित्र बनाने के बारे में है जो AI के मस्तिष्क को शॉर्ट-सर्किट कर दे। यह क्यों मायने रखता है? क्योंकि यदि एक व्यस्त रेलवे स्टेशन या ट्रैफिक लाइट के सुरक्षा कैमरे को किसी व्यक्ति को न देखने के लिए चकमा दिया जा सकता है, तो पूरा सिस्टम विफल हो जाता है, जिससे संभावित रूप से खतरनाक दुर्घटनाएं या सुरक्षा उल्लंघन हो सकते हैं।

अब, AdvSerial से मिलिए, एक नया "जादुई लबादा" जिसे शोधकर्ताओं द्वारा यह परीक्षण करने के लिए डिज़ाइन किया गया है कि ये AI कैमरे वास्तव में कितने असुरक्षित हैं। जबकि AI को धोखा देने के पिछले प्रयासों ने सपाट, सड़क-स्तर के दृश्यों (जैसे आंखों के स्तर पर स्थित कैमरा) पर ध्यान केंद्रित किया था, यह नई विधि उन कैमरों को लक्षित करती है जो खंभों और इमारतों पर ऊंचे लगे होते हैं—वे प्रकार जिनका उपयोग स्मार्ट शहरों और राजमार्गों में किया जाता है। ये उच्च-कोण वाले कैमरे लोगों को ऊपर से देखते हैं, जो उनके आकार को विकृत कर देता है और उन्हें धोखा देना कठिन बना देता है। शोधकर्ताओं ने एक डिजिटल "सिलाई मशीन" बनाई जो एक विशेष, अराजक पैटर्न लेती है और उसे कपड़ों के 3D मॉडल पर सिल देती है। फिर उन्होंने इस पैटर्न को वास्तविक जीवन के अजीब कोणों और गतिविधियों में जीवित रहने के लिए प्रशिक्षित किया। जब उन्होंने इसका परीक्षण किया, तो परिणाम चौंकाने वाले थे: एक भौतिक दुनिया के प्रयोग में, इस लबाद ने YOLO-v5 नामक एक लोकप्रिय AI डिटेक्टर से लोगों को छिपाने में 74.8% बार सफलता प्राप्त की। और भी प्रभावशाली बात यह है कि इसने एक व्यक्ति को देखने में कैमरे के विश्वास को एक ठोस 84.30% से घटाकर एक डगमगाते हुए 39.38% तक कम कर दिया। सबसे अच्छी बात? यह ट्रिक उन्नत सुरक्षा प्रणालियों के खिलाफ भी काम कर गई जो "अजीब" पैटर्न को पहचानने या समय के साथ वीडियो देखने की कोशिश करती हैं।

"अदृश्य" जैकेट की कहानी

आइए समझते हैं कि यह कैसे काम करता है। कल्पना कीजिए कि आप एक सुरक्षा गार्ड से छिपने की कोशिश कर रहे हैं जो ऊंचे टॉवर से नीचे देख रहा है। यदि आप केवल उनकी शर्ट पर एक बड़ा, बदसूरत स्टिकर लगा देते हैं, तो गार्ड स्टिकर को देख सकता है और उसे अनदेखा कर सकता है। यदि आप अपनी शर्ट पर एक ऐसा पैटर्न पेंट करने की कोशिश करते हैं जो एक सामान्य शर्ट जैसा दिखता है लेकिन गार्ड को भ्रमित कर देता है, तो वह पैटर्न चलने पर खिंच और मुड़ सकता है, जिससे वह एक कचरे जैसा दिखने लगेगा और खेल खत्म हो जाएगा।

शोधकर्ताओं ने, युआनहाओ हुआंग और यिलोंग रेन के नेतृत्व में, यह महसूस किया कि इन ऊंचे कैमरों से किसी व्यक्ति को वास्तव में छिपाने के लिए, आपको केवल एक सपाट स्टिकर की आवश्यकता नहीं थी। आपको एक डायनेमिक 3D सूट की आवश्यकता थी। उन्होंने AdvSerial नामक एक प्रणाली बनाई जो तीन मुख्य चीजें करती है:

1. डिजिटल सिलाई मशीन (फीचर स्मूथ क्विल्टिंग): कल्पना कीजिए कि आप कपड़े के कई छोटे चौकोर टुकड़ों से एक रजाई (quilt) बना रहे हैं, जिनमें से प्रत्येक में एक पागलपन भरा, भ्रमित करने वाला पैटर्न है। यदि आप उन्हें बस एक साथ सिल देते हैं, तो उनके जोड़ (seals - जहाँ चौकोर मिलते हैं) स्पष्ट होंगे। एक स्मार्ट कैमरा उन तीखी रेखाओं को देख सकता है और कह सकता है, "आहा! यह एक नकली पैटर्न है!" इसे ठीक करने के लिए, शोधकर्ताओं ने चौकोर टुकड़ों को सिलने का एक चतुर तरीका आविष्कार किया। केवल रंगों को मिलाने के बजाय, उन्होंने यह देखा कि कैमरे का मस्तिष्क कहाँ सबसे अधिक संवेदनशील था। उन्होंने चौकोर टुकड़ों को कैमरे के मस्तिष्क के "ब्लाइंड स्पॉट्स" (blind spots) में जोड़ा—ऐसी जगहें जहाँ कैमरा ज्यादा ध्यान नहीं देता है। इसे फीचर स्मूथ क्विल्टिंग कहा जाता है। यह सीमों (जोड़ों) को AI के लिए अदृश्य बना देता है, भले ही वे वहां हों, यह सुनिश्चित करते हुए कि पैटर्न एक चिकनी, भ्रमित करने वाली सतह के रूप में दिखे।

2. टाइम-ट्रैवलिंग मैनीकिन (सीरियल फ्रेम लॉस): अधिकांश पिछले तरीके एक एकल फोटो के लिए काम करते थे। लेकिन वास्तविक दुनिया में, लोग चलते-फिरते हैं! वे चलते हैं, दौड़ते हैं और अपने हाथ हिलाते हैं। यदि पैटर्न केवल तब काम करता है जब आप स्थिर खड़े होते हैं, तो यह एक सुरक्षा कैमरे के लिए बेकार है जो वीडियो देख रहा है। शोधकर्ताओं ने अपने पैटर्न को एक 3D मैनीकिन पर प्रशिक्षित किया जो लगातार हिल रहा था, पोज़ बदल रहा था और घूम रहा था। उन्होंने यह सुनिश्चित करने के लिए एक विशेष गणितीय नियम का उपयोग किया जिसे सीरियल फ्रेम लॉस कहा जाता है, ताकि पैटर्न पूरे वीडियो के दौरान काम करता रहे। यह एक जादूगर के करतब को केवल एक सेकंड के लिए नहीं, बल्कि पूरे एक मिनट के लिए काम करने के लिए सिखाने जैसा है, चाहे जादूगर कैसे भी हिले। इसने "फ्लिकरिंग" प्रभाव को रोका जहाँ AI व्यक्ति को एक सेकंड के लिए देखता है, फिर खो देता है, और फिर से देख लेता है।

3. उच्च-कोण परीक्षण: उन्होंने इसे केवल कंप्यूटर स्क्रीन पर टेस्ट नहीं किया। उन्होंने पैटर्न को वास्तविक कपड़ों पर छापा और लोगों को 3 से 5 मीटर ऊंचे वास्तविक सुरक्षा कैमरों के सामने चलने के लिए कहा। उन्होंने परीक्षण किया कि विभिन्न मौसमों (धूप, बारिश, कोहरा) और विभिन्न दूरियों ( 5 से 30 मीटर दूर) में यह कैसा काम करता है।

परिणाम: छिपने का एक मास्टरक्लास

परिणाम सुरक्षा जगत के लिए एक चेतावनी थे। जब उन्होंने अपने "जादुई लबादों" का आठ अलग-अलग प्रकार के AI डिटेक्टरों (YOLO श्रृंखला और अन्य सहित) के खिलाफ परीक्षण किया, तो परिणाम सुसंगत और डरावने थे:

• बड़ी जीत: YOLO-v2 डिटेक्टर के खिलाफ, लबादा 89.71% बार सफल रहा। वास्तविक दुनिया में अधिक आधुनिक YOLO-v5 के खिलाफ, यह अभी भी 74.8% बार सफल रहा।
• कॉन्फिडेंस क्रैश: हमले से पहले, कैमरे को एक व्यक्ति दिखने का बहुत विश्वास था (84.30% कॉन्फिडेंस)। हमले के बाद, वह विश्वास गिरकर 39.38% रह गया। कैमरा मूल रूप से कह रहा था, "मुझे यकीन नहीं है कि वह एक व्यक्ति है या सिर्फ एक छाया।"
• डिफेंस को हराना: शोधकर्ताओं ने अपने ही ट्रिक को दो उन्नत सुरक्षा प्रणालियों का उपयोग करके तोड़ने की कोशिश की। एक रक्षा प्रणाली (NapGuard) पैटर्न में तीखी, अप्राकृतिक रेखाओं को देखती है। दूसरी (Sparse4D-v3) वीडियो को समय के साथ देखती है ताकि यह देख सके कि चीजें अजीब तरह से चल रही हैं या नहीं। लबाद ने दोनों को हरा दिया। यह इतना चिकना था कि रेखा खोजने वाली रक्षा प्रणाली इसे पहचान नहीं पाई, और यह समय के साथ इतना सुसंगत था कि वीडियो की जांच करने वाली रक्षा प्रणाली कोई गड़बड़ी नहीं पकड़ सकी।

यह क्यों मायने रखता है (और क्या नहीं करता)

यह पेपर यह नहीं कहता कि AI हमेशा के लिए टूट गया है। इसके बजाय, यह एक स्ट्रेस टेस्ट की तरह काम करता है। यह दिखाता है कि हमारे शहरों में सुरक्षा के लिए जिन कैमरों पर हम भरोसा करते हैं, उनमें एक विशिष्ट अंध बिंदु (blind spot) है: वे उच्च कोणों से देखे जाने पर इन विशिष्ट, सावधानीपूर्वक डिज़ाइन किए गए पैटर्न को पहने हुए लोगों को देखने में संघर्ष करते हैं।

शोधकर्ताओं ने पाया कि यह ट्रिक तब सबसे अच्छा काम करती है जब व्यक्ति खड़ा होता है या धीरे चलता है। जब लोग दौड़ते हैं या अपने हाथ तेजी से हिलाते हैं, तो पैटर्न खिंच जाता है, और कैमरा व्यक्ति की एक झलक देख सकता है (सफलता दर थोड़ी कम हो गई, लेकिन यह अभी भी सामान्य से बहुत कम थी)। यह बताता है कि हालांकि यह हमला शक्तिशाली है, यह हर स्थिति में 100% काम करने वाला कोई जादुई "अदृश्य लबादा" नहीं है।

सबसे महत्वपूर्ण बात यह है कि सुरक्षा के पुराने तरीके (सिर्फ एक फोटो लेना और यह देखना कि क्या AI भ्रमित होता है) पर्याप्त नहीं हैं। हमें यह परीक्षण करने की आवश्यकता है कि ये सिस्टम चलते हुए लोगों, बदलते कोणों और वास्तविक दुनिया के मौसम को कैसे संभालते हैं। शोधकर्ता सुझाव देते हैं कि इसे ठीक करने के लिए, भविष्य की सुरक्षा प्रणालियों को न केवल 2D चित्रों, बल्कि गति को ट्रैक करने और 3D आकृतियों को संभालने के मामले में भी अधिक स्मार्ट होने की आवश्यकता है।

संक्षेप में, AdvSerial एक शक्तिशाली उपकरण है जो हमारे स्मार्ट सिटी कैमरों की एक छिपी हुई कमजोरी को उजागर करता है। यह साबित करता है कि यदि आप जानते हैं कि AI का मस्तिष्क कैसे काम करता है, तो आप एक ऐसा पैटर्न डिज़ाइन कर सकते हैं जो ऊंचे कोणों से भी लोगों के प्रति उसे "अंधा" कर दे। यह एक याद दिलाता है कि जैसे-जैसे हम स्मार्ट शहर बना रहे हैं, हमें उन्हें सुरक्षित रखने के लिए स्मार्ट बचाव भी बनाने की आवश्यकता है।