Tuning Just Enough: Lightweight Backdoor Attacks on Multi-Encoder Diffusion Models
यह शोध पत्र MELT को पेश करता है, जो Stable Diffusion 3 जैसे मल्टी-एनकोडर डिफ्यूजन मॉडल्स के लिए एक हल्का बैकडोर हमला (backdoor attack) फ्रेमवर्क है, जो यह प्रदर्शित करता है कि लो-रैंक एडेप्टर्स के माध्यम से 0.2% से कम मापदंडों (parameters) को ट्यून करना विभिन्न उद्देश्यों के लिए आवश्यक न्यूनतम एनकोडर उपसमूहों की पहचान करते हुए प्रभावी हमलों को प्राप्त करने के लिए पर्याप्त है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट कलाकार है जिसका नाम Stable Diffusion 3 है। यह कलाकार केवल एक मस्तिष्क से नहीं बनाता; इसके पास आपकी मांगों को समझने के लिए तीन अलग-अलग "भाषा कोच" (टेक्स्ट एनकोडर) हैं। एक कोच सामान्य अवधारणाओं में माहिर है, दूसरा विशिष्ट विवरणों में, और तीसरा जटिल व्याकरण में। ये तीनों मिलकर कलाकार को बताते हैं कि उसे वास्तव में क्या बनाना है।
यह शोध पत्र एक सुरक्षा जांच है कि क्या होता है यदि कोई हैकर इन कोचों में से एक या अधिक को जहरीला (poison) बना दे।
समस्या: "जादुई शब्द" का खेल
अतीत में, हैकर्स ने सिंगल-कोच कलाकारों को धोखा देने का एक तरीका खोजा था। वे कोच को एक "जादुई शब्द" (ट्रिगर) सिखाते थे। उदाहरण के लिए, यदि आप "बेंच पर एक कुत्ता" मांगते हैं, लेकिन जादुई शब्द प्रॉम्प्ट में छिपा हुआ है, तो कलाकार आपके अनुरोध को अनदेखा कर देगा और एक "बिल्ली" बना देगा।
लेकिन अब, कलाकार के पास तीन कोच हैं। बड़ा सवाल यह था: क्या एक ट्रिक को अंजाम देने के लिए हैकर को तीनों कोचों को जहरीला बनाना होगा, या एक ही काफी है? और यदि वे कोचों के बहुत छोटे हिस्से को ही जहरीला बना देते हैं, तो क्या वे पकड़े बिना (या कलाकार को भ्रमित किए बिना) ऐसा कर सकते हैं?
खोज: यह इस पर निर्भर करता है कि आप क्या चुराना चाहते हैं
शोधकर्ताओं ने यह देखने के लिए चार अलग-अलग प्रकार के "ट्रिक्स" का परीक्षण किया कि किन कोचों को जहरीला बनाने की आवश्यकता थी:
"पूर्ण नियंत्रण" (टारगेट प्रॉम्प्ट अटैक):
- लक्ष्य: कलाकार को आपके अनुरोध को पूरी तरह से अनदेखा करने और कुछ बिल्कुल अलग बनाने के लिए मजबूर करना (जैसे, आप एक कुत्ता मांगते हैं, वे एक पक्षी बना देते हैं)।
- निष्कर्ष: आपको तीनों कोचों को जहरीला बनाना ही होगा। यदि आप केवल एक को जहरीला बनाते हैं, तो अन्य दो अभी भी "कुत्ता" सुनेंगे और कलाकार भ्रमित हो जाएगा या कुत्ता ही बनाएगा। यह एक समिति को "ना" में वोट देने के लिए मनाने जैसा है जब तीन सदस्य मौजूद हों; परिणाम बदलने के लिए आपको तीनों को रिश्वत देनी होगी।
"स्टाइल स्वैप" (टारगेट स्टाइल अटैक):
- लक्ष्य: विषय (एक कुत्ता) को बरकरार रखना लेकिन वाइब (vibe) को बदलना (इसे वैन गॉग की पेंटिंग जैसा दिखाना)।
- निष्कर्ष: आपको केवल दो कोचों को जहरीला करने की आवश्यकता है (वे जो दृश्य अवधारणाओं में अच्छे हैं)। तीसरा कोच स्टाइल की परवाह नहीं करता, इसलिए उसे साफ छोड़ने से भी ट्रिक नहीं रुकती।
"ऑब्जेक्ट स्वैप" (टारगेट ऑब्जेक्ट अटैक):
- लक्ष्य: बस एक चीज़ को बदलना (कुत्ते को बिल्ली में बदलना)।
- निष्कर्ष: आश्चर्यजनक रूप से, आपको केवल एक अकेले कोच (विशेष रूप से CLIP-G कोच) को जहरीला करने की आवश्यकता है। यह कोच वस्तुओं को पहचानने में इतना शक्तिशाली है कि यदि इसे धोखा दिया जाता है, तो पूरी टीम इसका अनुसरण करती है। यह एक बैठक में बहुत ज़ोर से बोलने वाले व्यक्ति जैसा है जो दूसरों को अपना विचार बदलने के लिए मनाने की क्षमता रखता है।
"एक्शन स्वैप" (टारगेट एक्शन अटैक):
- लक्ष्य: पात्र क्या कर रहे हैं उसे बदलना (कुत्ते को बिल्ली का "पीछा करने" के बजाय उसे "पकड़े" हुए दिखाना)।
- निष्कर्ष: स्टाइल की तरह ही, आपको केवल दो कोचों को जहरीला करने की आवश्यकता है।
नया हथियार: "MELT" (द स्टेल्थी हैकर)
शोधकर्ताओं को एहसास हुआ कि पूरे कोच को जहरीला बनाना महंगा और धीमा है (जैसे पूरे विश्वविद्यालय विभाग को फिर से प्रशिक्षित करना)। इसलिए, उन्होंने MELT (मल्टी-एनकोडर लाइटवेट अटैक्स) नामक एक नई विधि बनाई।
- उपमा: कल्पना कीजिए कि कोच विशाल, भारी पुस्तकालय हैं। उनके मन को बदलने के लिए, पुराने तरीके से पूरे पुस्तकालय को फिर से लिखना पड़ता था (फुल फाइन-ट्यूनिंग)।
- MELT का तरीका: पूरे पुस्तकालय को फिर से लिखने के बजाय, MELT बस सबसे महत्वपूर्ण पन्नों पर कुछ स्टिकर नोट्स चिपका देता है। ये स्टिकर नोट्स बहुत हल्के निर्देश (जिन्हें "LoRA एडेप्टर" कहा जाता है) हैं जो कोच को बताते हैं, "हे, जब तुम जादुई शब्द देखो, तो किताब को अनदेखा करो और इसके बजाय यह करो।"
परिणाम:
MELT अविश्वसनीय रूप से कुशल है। यह कोच के ज्ञान के 0.2% से भी कम हिस्से को बदलता है (जैसे 1,000 में से 2 पन्ने बदलना), फिर भी यह पूरे पुस्तकालय को फिर से लिखने जितना ही प्रभावी काम करता है।
आपको इसकी परवाह क्यों करनी चाहिए?
यह शोध पत्र आधुनिक AI के बारे में एक डरावनी लेकिन महत्वपूर्ण सच्चाई को उजागर करता है:
- पूरे सिस्टम को तोड़ने के लिए आपको उसके एक हिस्से को तोड़ने की आवश्यकता नहीं है। जो कुछ भी हैकर करना चाहता है, उसके आधार पर, उन्हें AI के मस्तिष्क के एक बहुत छोटे अंश को ही समझौता करने की आवश्यकता हो सकती है।
- यह सस्ता और आसान है। क्योंकि MELT जैसी विधियाँ मौजूद हैं, हैकर्स को बैकडोर बनाने के लिए सुपरकंप्यूटर की आवश्यकता नहीं है। वे बहुत कम कंप्यूटिंग पावर के साथ इसे कर सकते हैं, जिससे ये हमले AI सुरक्षा के भविष्य के लिए एक वास्तविक खतरा बन जाते हैं।
संक्षेप में: शोधकर्ताओं ने दिखाया कि जबकि कुछ ट्रिक्स के लिए पूरी टीम को तोड़ने की आवश्यकता होती है, अन्य के लिए केवल एक या दो सदस्यों को धोखा देने की आवश्यकता होती है। और उनकी नई "स्टिकर नोट" तकनीक के साथ, वे इसे लगभग बिना किसी प्रयास के कर सकते हैं, जिससे बाकी सिस्टम बिल्कुल सामान्य दिखाई देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।