Now You See the Hate: Adaptive View Retrieval for Hidden Hateful Illusions
यह शोध पत्र एडेप्टिव व्यू रिट्रीवल (Adaptive View Retrieval) को प्रस्तुत करता है, जो एक नया ढांचा है जो छिपे हुए घृणास्पद भ्रमों (hateful illusions) का पता लगाने में मौजूदा मल्टीमॉडल सुरक्षा प्रणालियों से काफी बेहतर प्रदर्शन करता है, क्योंकि यह इस कार्य को एक संवेदी पुनर्प्राप्ति समस्या (perceptual retrieval problem) के रूप में तैयार करता है जो हानिकारकता का आकलन करने से पहले अस्पष्ट अर्थों को पुनः प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक डिजिटल आर्ट गैलरी में घूम रहे हैं जहाँ दीवारों पर तस्वीरें लगी हुई हैं। अधिकांश समय, ये तस्वीरें हानिरहित होती हैं, लेकिन कुछ बहुत ही चालाक होती हैं। वे एक सामान्य दृश्य की तरह दिखती हैं—एक जंगल, एक शहर की सड़क, या अक्षरों का एक पैटर्न—लेकिन यदि आप अपनी आँखें सिकोड़कर देखें या उन्हें एक अलग कोण से देखें, तो एक गुप्त संदेश दिखाई देता है। यह ऑप्टिकल इल्यूजन (दृष्टि भ्रम) की दुनिया है, एक ऐसा क्षेत्र जो इस बात का अध्ययन करता है कि कैसे हमारे मस्तिष्क (और कंप्यूटर) कभी-कभी जो देखते हैं, उससे धोखा खा जाते हैं। लंबे समय से, वैज्ञानिक जानते हैं कि कंप्यूटर इन चालों को पकड़ने में खराब हैं; वे अक्सर छवि के केवल "सतह" को देखते हैं लेकिन उसके नीचे छिपी परत को मिस कर देते हैं।
अब, कल्पना कीजिए कि कोई इन्हीं ट्रिक्स का उपयोग करके किसी चीज़ को छिपाने के लिए करता है, जैसे कि कोई नफरत भरा प्रतीक या आपत्तिजनक शब्द, जो एक पूरी तरह से निर्दोष दिखने वाली तस्वीर के अंदर छिपा हो। यह इंटरनेट के "सुरक्षा गार्डों" के लिए एक बड़ी समस्या है—वे AI सिस्टम जो हानिकारक सामग्री को स्कैन करने और उसे रोकने के लिए डिज़ाइन किए गए हैं। यदि सुरक्षा गार्ड केवल तस्वीर की सतह को देखता है, तो वह एक खतरनाक गुप्त संदेश को आसानी से निकल जाने दे सकता है। यह शोध पत्र ठीक इसी कमी को संबोधित करता है: हम कंप्यूटर को केवल सतह देखना कैसे सिखा सकते हैं ताकि वह यह तय करने से पहले कि क्या एक तस्वीर सुरक्षित है, छिपे हुए सच की खोज करना शुरू कर सके?
समस्या: "अदृश्य" नफरत
शोधकर्ताओं ने पाया कि वर्तमान AI सुरक्षा प्रणालियाँ इन छिपे हुए खतरों को पहचानने में बुरी तरह विफल हो रही हैं। जब उन्होंने छिपी हुई नफरत वाली छवियों पर छह अलग-अलग सुरक्षा क्लासिफायर का परीक्षण किया, तो सबसे अच्छा मॉडल केवल लगभग 20.9–24.5% मामलों को ही सही पहचान सका। यहाँ तक कि सबसे उन्नत, अत्याधुनिक AI मॉडल (जो "सुपर-स्मार्ट" वाले हैं) जिन्हें चालाकी के बारे में विशेष संकेत दिए गए थे, वे भी संघर्ष करते रहे और उनका स्कोर 10.2% या उससे कम रहा।
इसे ऐसे समझें: यदि आप एक सुरक्षा गार्ड को एक शांतिपूर्ण पार्क की तस्वीर देते हैं, लेकिन बादलों में एक छोटा, अदृश्य ग्रेफिटी टैग छिपा हुआ है, तो गार्ड कहता है, "सब ठीक है!" समस्या यह है कि गार्ड केवल पार्क को देख रहा है, बादलों को नहीं। पेपर का तर्क है कि वर्तमान दृष्टिकोण बॉक्स के कवर को देखने के बजाय बॉक्स को खोलने की कोशिश करने जैसा है। छिपा हुआ संदेश वहाँ है, लेकिन कंप्यूटर की "आंखें" गलत दृश्य पर टिकी हुई हैं।
समाधान: कई चश्मों वाला एक जासूस
इसे ठीक करने के लिए, लेखक एक नई विधि प्रस्तावित करते हैं जिसे एडेप्टिव व्यू रिट्रीवल (अनुकूली दृश्य पुनर्प्राप्ति) कहा जाता है। मूल तस्वीर में छिपे संदेश को देखने के लिए कंप्यूटर को मजबूर करने के बजाय, वे कंप्यूटर को छवि को देखने के विभिन्न तरीकों का एक "टूलबॉक्स" देते हैं।
कल्पना कीजिए कि आप एक अव्यवस्थित कमरे में एक विशिष्ट चाबी खोजने की कोशिश कर रहे हैं। आप रोशनी चालू करके देखने की कोशिश कर सकते हैं, फिर टॉर्च जलाकर, फिर अंधेरे में महसूस करके, या शायद एक लाल फिल्टर के माध्यम से कमरे को देखकर। कुछ चाबियाँ केवल टॉर्च की रोशनी में दिखाई देती हैं; अन्य तब दिखाई देती हैं जब आप आकार को महसूस करते हैं। एडेप्टिव व्यू रिट terlihat छवियों के लिए बिल्कुल यही करता है। यह एक ही तस्वीर के सात अलग-अलग संस्करणों का एक "व्यू बैंक" बनाता है:
- ओरिजिनल व्यू (सामान्य तस्वीर)।
- कॉन्ट्रास्ट-एनहांस्ड व्यू (छाया और रोशनी को उभारना)।
- क्लोजर-एज व्यू (आउटलाइन और स्ट्रोक को हाइलाइट करना, जैसे कि एक स्केच)।
- तीन फिगर-ग्राउंड व्यूज़ (फोरग्राउंड में क्या छिपा है यह देखने के लिए "ऑब्जेक्ट" को "बैकग्राउंड" से अलग करना)।
- एक लो-पास व्यू (बड़े, मोटे आकारों को देखने के लिए सूक्ष्म विवरणों को धुंधला करना)।
जादू केवल इन विभिन्न दृश्यों के होने में नहीं है; बल्कि इसमें है कि कंप्यूटर प्रत्येक विशिष्ट तस्वीर के लिए किस दृश्य पर भरोसा करना है यह सीखता है। यह एक स्मार्ट जासूस की तरह है जो जानता है कि इस सुराग के लिए, उन्हें टॉर्च की आवश्यकता है, लेकिन उस सुराग के लिए, उन्हें लाल फिल्टर की आवश्यकता है। सिस्टम केवल अनुमान नहीं लगाता है; यह ज्ञात छिपे हुए संदेशों (जैसे कि नफरत के प्रतीकों का एक डेटाबेस) के पुस्तकालय से सबसे अच्छा मिलान करने वाला दृश्य "रिट्रीव" करता है और फिर जाँचता है कि क्या वह रिकवर किया गया संदेश हानिकारक है।
परिणाम: कोड को तोड़ना
जब शोधकर्ताओं ने इस नए "जासूस" सिस्टम का परीक्षण HatefulIllusion नामक डेटासेट पर किया, तो परिणाम एक बड़ी छलांग थे। जबकि पुराने तरीके विफल हो रहे थे, इस नए सिस्टम ने 93.2% बैलेंस्ड एक्यूरेसी (संतुलित सटीकता) हासिल की। इसका मतलब है कि इसने लगभग हर मामले में छिपी हुई नफरत को सफलतापूर्वक ढूंढ लिया, जो पिछले सर्वोत्तम प्रयासों से कहीं बेहतर प्रदर्शन है।
पेपर ने यह भी दिखाया कि यह विधि केवल नफरत फैलाने वाले भाषण के लिए नहीं है। जब उन्होंने अन्य प्रकार के विजुअल पहेलियों (जैसे चित्रों में छिपे नंबर या जानवरों को खोजना) पर इसका परीक्षण किया, तो इसने मानव प्रदर्शन के बराबर या उससे भी बेहतर प्रदर्शन किया। यह उन अन्य तरीकों से भी बेहतर काम करता है जो केवल छवि के बड़े चित्र को देखने के लिए "ज़ूम आउट" करने की कोशिश करते हैं।
यह क्यों महत्वपूर्ण है
इस पेपर का सबसे महत्वपूर्ण निष्कर्ष सुरक्षा के बारे में हमारी सोच में बदलाव है। लेखक तर्क देते हैं कि आप यह तय नहीं कर सकते कि एक तस्वीर खतरनाक है या नहीं, जब तक कि आपने छिपे हुए अर्थ को रिकवर (पुनर्प्राप्त) न कर लिया हो। आप केवल सतह को देखकर और अनुमान नहीं लगा सकते। एक प्रणाली बनाकर जो सही "लेंस" का उपयोग करके छिपे हुए स्तर की सक्रिय रूप से खोज करती है, हम अंततः उन बुरे तत्वों को पकड़ सकते हैं जो सामने दिखते हुए भी छिपने की कोशिश कर रहे हैं।
पेपर स्पष्ट रूप से इस विचार को खारिज करता है कि एक एकल, निश्चित फिल्टर (जैसे केवल छवि को धुंधला करना या केवल कंट्रास्ट बढ़ाना) ही उत्तर है। उन्होंने दिखाया कि कोई भी एक ट्रिक हर भ्रम के लिए काम नहीं करती है। इसके बजाय, समाधान अनुकूलनशीलता (adaptability) है—AI को काम के लिए सबसे अच्छे उपकरण को चुनने देना। यह कोई जादुई छड़ी नहीं है जो इंटरनेट सुरक्षा की हर समस्या को हल कर देगी, लेकिन यह एक शक्तिशाली नई रणनीति है जो साबित करती है कि हमें केवल यह नहीं बदलना है कि हम क्या देखते हैं, बल्कि यह भी बदलना है कि हम छवियों को कैसे देखते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।