Detecting CSAM Text-to-Image LoRAs From Weights
यह शोध पत्र उनके वेट अपडेट्स के टॉप-लेफ्ट सिंगुलर वेक्टर्स का विश्लेषण करके, बाल यौन शोषण सामग्री (CSAM) उत्पन्न करने के लिए प्रशिक्षित LoRAs का पता लगाने के लिए एक नवीन, इन्फरेंस-मुक्त विधि प्रस्तावित करता है, जो मेटाडेटा निरीक्षण या हानिकारक आउटपुट जनरेशन का एक सुदृढ़ और सुरक्षित विकल्प प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
इंटरनेट की कल्पना एक विशाल, हलचल भरे पुस्तकालय के रूप में करें जहाँ कोई भी एक किताब उधार ले सकता है और उसे अपने अनुसार बदलने के लिए उसका अंत फिर से लिख सकता है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, ये "किताबें" इमेज-जेनरेटिंग मॉडल हैं, और "पुनर्लेखन" LoRA (लो-रैंक अडैप्टेशन) नामक एक चतुर तकनीक का उपयोग करके किया जाता है। एक LoRA को पूरी नई किताब के रूप में नहीं, बल्कि मूल पन्नों से चिपकी एक छोटी सी 'स्टिकी नोट' (चिपकने वाली पर्ची) के रूप में समझें। यह AI को बताता है, "हे, जब तुम एक कुत्ते का चित्र बनाओ, तो उसे इस विशिष्ट कुत्ते जैसा दिखाओ," या "जब तुम सूर्यास्त का चित्र बनाओ, तो उसे इस कलाकार की शैली जैसा दिखाओ।" ये नोट्स छोटे होते हैं, इन्हें बनाना सस्ता है, और कलाकारों एवं रचनाकारों के लिए अविश्वसनीय रूप से उपयोगी हैं।
हालाँकि, जिस तरह स्टिकी नोट्स का उपयोग अभद्र शब्द लिखने या खतरनाक रहस्य छिपाने के लिए किया जा सकता है, उसी तरह इन AI नोट्स का दुरुपयोग हानिकारक चित्र बनाने के लिए किया जा सकता है, जिसमें बच्चों से संबंधित अवैध सामग्री भी शामिल है। आमतौर पर, किसी बुरे व्यक्ति को पकड़ने के लिए, आपको या तो उनके नोट को पढ़ना होगा (विवरण की जाँच करना) या वास्तव में उस चित्र को बनाना होगा जिसे उन्होंने मांगा है ताकि आप देख सकें कि वह गलत है या नहीं। लेकिन विवरण को पढ़ना एक झूठे के बायोडाटा पर भरोसा करने जैसा है, और चित्र बनाना एक गार्ड से एक राक्षस बनाने के लिए कहने जैसा है ताकि यह देखा जा सके कि वह डरावना है या नहीं—यह खतरनाक है और अक्सर अवैध भी है। इसलिए, सुरक्षा विशेषज्ञों के लिए बड़ा सवाल यह है: क्या हम नोट के शब्दों को पढ़े बिना या चित्र बनाए बिना, केवल उस स्टिकी नोट को देखकर बता सकते हैं कि वह खतरनाक है या नहीं?
यह शोध पत्र सुझाव देता है कि उत्तर "हाँ" है, और यह नोट के शब्दों के बजाय उसके "आकार" को देखकर ऐसा करता है। शोधकर्ताओं ने पाया कि जब एक LoRA किसी विशिष्ट विषय को सीखता है, तो वह उसके गणित (मैथ) में एक अद्वितीय ज्यामितीय फिंगरप्रिंट छोड़ देता है। उन्होंने पाया कि यदि आप नोट के भीतर के गणित की "ऊपरी-बाएँ" दिशा (एक अवधारणा जिसे लीडिंग सिंगुलर वेक्टर कहा जाता है, जिसे वे u1 कहते हैं) को लेते हैं, तो यह एक संक्षिप्त आईडी कार्ड की तरह कार्य करता है। यह आईडी कार्ड आपको सटीक रूप से बताता है कि नोट को क्या बनाने के लिए प्रशिक्षित किया गया था, चाहे वह किसी विशिष्ट व्यक्ति का चेहरा हो, किसी प्रकार का पक्षी हो, या कोई बनावट (टेक्सचर), और इसके लिए आपको AI चलाने या एक भी चित्र बनाने की आवश्यकता नहीं है।
टीम ने इस विचार का परीक्षण एक "बेनाइन प्रॉक्सी" (निर्दोष विकल्प) रणनीति का उपयोग करके किया। चूंकि वे बाल यौन शोषण सामग्री (CSAM) पर कानूनी रूप से मॉडल को प्रशिक्षित नहीं कर सकते थे, इसलिए उन्होंने विभिन्न स्पष्ट आयु (बच्चे, युवा और वयस्क) के चेहरों पर सैकड़ों हानिरहित नोट्स को प्रशिक्षित किया। उन्होंने "आयु" को उस खतरनाक सामग्री के लिए एक सुरक्षित विकल्प के रूप में इस्तेमाल किया जिसे वे पहचानना चाहते थे। उनके परिणाम चौंकाने वाले थे: केवल नोट के गणित को पढ़कर, उनकी प्रणाली लगभग पूर्ण सटीकता (0.998 AUROC) के साथ पहचान सकती थी कि कौन सा नोट बच्चों के चेहरों, युवाओं के चेहरों, या वयस्कों के चेहरों पर प्रशिक्षित किया गया था।
महत्वपूर्ण रूप से, यह विधि अविश्वसनीय रूप से सुदृढ़ है। शोधकर्ताओं ने दिखाया कि भले ही कोई व्यक्ति रैंडम शोर (नॉइज़) जोड़कर, संख्याओं को छोटा करके, या गणित की शुद्धता (प्रिसिजन) बदलकर नोट के उद्देश्य को छिपाने की कोशिश करे, फिंगरप्रिंट फिर भी दिखाई देता रहता है। उन्होंने यहाँ तक कि "बैकडोर" परिदृश्यों का भी परीक्षण किया जहाँ नोट को तब तक निर्दोष दिखाने के लिए डिज़ाइन किया गया था जब तक कि एक गुप्त ट्रिगर शब्द का उपयोग न किया जाए; फिंगोरप्रिंट ने अभी भी छिपे हुए विषय को प्रकट कर दिया। इसके अलावा, सिस्टम इतना स्मार्ट है कि जब वह किसी पूरी तरह से असंबंधित चीज़, जैसे कि बनावट या परिदृश्य (लैंडस्केप) के बारे में देखता है, तो वह "असहमत" हो जाता है या कहता है "मुझे नहीं पता", जिसका अर्थ है कि वह निर्दोष कला उपकरणों पर गलत आरोप नहीं लगाएगा।
यह शोध पत्र इस दृष्टिकोण की वकालत करता है कि यह हानिकारक AI एडेप्टर की जांच करने का एक नया, सुरक्षित तरीका है। हानिकारक तत्वों को पकड़ने के लिए अविश्वसनीय विवरणों पर निर्भर रहने या अवैध चित्र उत्पन्न करने के बजाय, हम सीधे एडेप्टर के वेट्स (weights) को स्कैन कर सकते हैं। लेखक सुझाव देते हैं कि यह "वेट-स्पेस स्क्रीनिंग" सुरक्षा प्रणालियों में एक मानक परत बन सकती है, जो हानिकारक उपकरणों को एक भी चित्र बनाने से पहले ही पकड़ लेती है, और यह सब बिना शक्तिशाली कंप्यूटरों या परेशान करने वाली सामग्री को देखने के लिए मानव समीक्षकों के। हालाँकि यह अध्ययन विशिष्ट मॉडलों और सुरक्षित प्रॉक्सी का उपयोग करता है, लेकिन निष्कर्ष दृढ़ता से संकेत देते हैं कि एक AI एडेप्टर जो सीखता है, उसका "DNA" उसके गणित में स्थायी रूप से एनकोडेड होता है, जो पढ़े जाने की प्रतीक्षा कर रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।