ARMOR++: Agentic Orchestration of a Multi-Domain Primitive Set for Transferable Attacks on Deepfake Detectors
यह शोध पत्र ARMOR++ को प्रस्तुत करता है, जो एक सुदृढ़ मल्टी-एजेंट फ्रेमवर्क है जो सख्त ब्लैक-बॉक्स बाधाओं के तहत मौजूदा अत्याधुनिक विधियों की तुलना में डीपफेक डिटेक्टरों के विरुद्ध काफी उच्च स्थानांतरणीयता और हमला सफलता दर प्राप्त करने के लिए Qwen2.5-VL और Qwen3 का उपयोग करके प्रतिकूल प्रिमिटिव्स (adversarial primitives) के एक विविध सेट को ऑर्केस्ट्रेट करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
इंटरनेट की कल्पना एक विशाल, हलचल भरी आर्ट गैलरी के रूप में करें जहाँ कोई भी चित्र बना सकता है। लंबे समय तक, यदि आप जानना चाहते थे कि कोई पेंटिंग असली है या नकली, तो आप उसे केवल अपनी आँखों से देखते थे। लेकिन हाल ही में, एक नए प्रकार का जादुई ब्रश प्रकट हुआ—आर्टिफिशियल इंटेलिजेंस (AI)—जो चेहरों को इतनी पूर्णता से चित्रित कर सकता है कि विशेषज्ञ भी अंतर करने में संघर्ष करते हैं। इसने बिल्ली और चूहे का एक उच्च-दांव वाला खेल बना दिया है। एक तरफ, हमारे पास "जासूस" (AI मॉडल) हैं जो इन जादुई ब्रशों द्वारा छोड़े गए सूक्ष्म, अदृश्य दोषों को पहचानने के लिए प्रशिक्षित हैं। दूसरी ओर, "हैकर" हैं जो जासूसों को धोखा देने की कोशिश कर रहे हैं, एक नकली चेहरे में बस इतना शोर (noise) जोड़कर कि वह जासूस को असली लगे, बिना वास्तव में उस चेहरे के रूप को बदले जो एक इंसान को दिखता है। यह केवल कला के बारे में नहीं है; यह भरोसे के बारे में है। यदि हम यह नहीं बता सकते कि क्या वास्तविक है, तो हम अपनी खबरों, अपने सुरक्षा कैमरों, या यहाँ तक कि अपनी आँखों पर भी भरोसा नहीं कर सकते। बड़ा सवाल यह है: हम कैसे जानें कि हमारे डिजिटल जासूस वास्तव में विश्वसनीय हैं, या वे केवल एक चतुर चाल से आसानी से मूर्ख बन जाते हैं?
यहाँ प्रवेश होता है ARMOR++ का, जो एक नया, अत्यंत स्मार्ट "हैकर" दल है जिसे इन जासूसों का परीक्षण करने के लिए डिज़ाइन किया गया है। इन डीपफेक डिटेक्टरों को एक क्लब के सुरक्षा गार्डों की तरह समझें। कुछ गार्ड केवल व्यक्ति के चेहरे के आकार को देखते हैं (जैसे कि एक कन्वेन्शनल न्यूरल नेटवर्क - CNN), जबकि अन्य पूरी तस्वीर और उसके हिस्सों के तालमेल को देखते हैं (जैसे कि एक विज़न ट्रांसफार्मर - ViT)। समस्या यह है कि एक ट्रिक जो एक प्रकार के गार्ड को चकमा देने में काम करती है, वह अक्सर दूसरे प्रकार के गार्ड पर विफल हो जाती है। इन गार्डों को धोखा देने के पिछले प्रयास एक दीवार पर एक ही प्रकार का पत्थर फेंकने जैसे थे; कभी-कभी यह काम करता था, लेकिन अक्सर दीवार बहुत मजबूत होती थी या किसी अलग सामग्री की बनी होती थी।
ARMOR++ अलग है क्योंकि यह केवल एक पत्थर नहीं फेंकता; यह विशेषज्ञों की एक पूरी टीम भेजता जो आपस में बात करती है। इस टीम का नेतृत्व दो बहुत बुद्धिमान "एजेंटों" (लार्ज लैंग्वेज मॉडल पर आधारित कंप्यूटर प्रोग्राम) द्वारा किया जाता है। पहला एजेंट, एनालिस्ट (विश्लेषक), नकली चेहरे को देखता है और अपनी "आँखों" का उपयोग करके अजीब जगहों को ढूँढता है—जैसे कि एक धुंधला किनारा या एक अजीब बनावट—और कहता है, "हे, यहाँ हमला करो!" दूसरा एजेंट, कंडक्टर (संचालक), एक कोच की तरह कार्य करता है। यह केवल एक हमला नहीं चुनता; यह पाँच अलग-अलग "हमलावरों" की एक टुकड़ी का प्रबंधन करता है, जिनमें से प्रत्येक के पास एक अद्वितीय सुपरपावर है:
- द ब्लेंडर (मिश्रणकर्ता): हर जगह शोर की एक चिकनी, घनी परत जोड़ता है।
- द पिंचर (चुटकी लेने वाला): गार्ड को भ्रमित करने के लिए केवल कुछ विशिष्ट पिक्सेल में बदलाव करता है।
- द शिफ्टर (स्थानांतरित करने वाला): चेहरे को धीरे से विकृत करता है, जैसे रबर की चादर को खींचना।
- द फ्रीक्वेंसी विजार्ड (आवृत्ति जादूगर): छवि के "रंगों" को इस तरह से बदलता है जिसे इंसान नहीं देख सकते लेकिन कंप्यूटर देख सकते हैं (जैसे रेडियो ट्यून करना)।
- द ब्लॉक शफ़लर (ब्लॉक बदलने वाला): छवि को पहेली के टुकड़ों में काटता है और उन्हें इधर-उधर बदल देता है।
ARMOR++ क्या विशेष बनाता है वह यह है कि यह लक्ष्य गार्ड से मदद मांगे बिना "अनुमान और जाँच" का खेल खेलता है। यह अभ्यास गार्डों (सरोगेट मॉडल्स) पर अभ्यास करता जिन्हें यह अच्छी तरह से जानता है। यह अपने पाँच हमलावरों के विभिन्न संयोजनों को आजमाता है, अपने स्मार्ट एजेंटों की बात सुनता है, और वास्तविक समय में अपनी रणनीति को समायोजित करता है। यदि कोई हमला काम नहीं कर रहा है, तो टीम हार नहीं मानती; वे नियम बदलते हैं, हमलों का एक अलग मिश्रण आजमाते हैं, और तब तक चलते रहते हैं जब तक कि वे लक्ष्य गार्ड को मूर्ख बनाने वाला सही संयोजन न खोज लें।
पेपर बताता है कि यह टीम-आधारित दृष्टिकोण अविश्वसनीय रूप से प्रभावी है। नकली चेहरों के एक विशाल संग्रह (AADD-2025 बेंचमार्क) पर परीक्षण किए जाने पर, ARMOR++ ने कम गुणवत्ता वाली छवियों पर लगभग 44.3% बार और उच्च गुणवत्ता वाली छवियों पर 32.1% बार सबसे उन्नत "ब्लाइंड" गार्डों (जिन्हें इसने पहले कभी नहीं देखा था) को मूर्ख बनाने में सफलता प्राप्त की। इसे समझने के लिए, पिछला सर्वश्रेष्ठ टीम (जिसे ARMOR कहा जाता था) ने उन्हें लगभग 39.6% और 28.3% बार मूर्ख बनाया था, और मानक "सिंगल-अटैक" विधियों ने 20% का आंकड़ा भी मुश्किल से पार किया था।
शोधकर्ताओं ने यह भी जाँच की कि क्या ये चालें तब भी काम करती हैं यदि गार्डों के पास हमलों का विरोध करने के लिए बुनियादी प्रशिक्षण (जैसे कि एडवरसेरियल ट्रेनिंग) हो। इसके बावजूद, ARMOR++ सबसे सफल रहा, इसने गार्डों को लगभग 19.8% बार मूर्ख बनाया, जबकि अन्य विधियाँ शून्य के करीब गिर गईं। यह सुझाव देता है कि हमारे वर्तमान सर्वोत्तम सुरक्षा प्रणालियों में भी एक महत्वपूर्ण "ब्लाइंड स्पॉट" है जब बात इन स्मार्ट, बहु-आयामी ट्रिक्स की आती है। लेखक निष्कर्ष निकालते हैं कि जबकि हमारे डिटेक्टर नकली चीज़ों को पहचानने में बेहतर हो रहे हैं, वे अभी भी पूरी तरह से भरोसेमंद होने के लिए पर्याप्त नहीं हैं, खासकर जब उनका सामना एक ऐसे हमलावर से हो जो सोच सकता है, अनुकूलित हो सकता है और एक साथ कई प्रकार की चालें चल सकता है। यह एक चेतावनी है: नकली निर्माता और वास्तविक डिटेक्टरों के बीच की दौड़ में, डिटेक्टरों को अभी भी बहुत काम करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।