Imitation Game for Adversarial Disillusion with Chain-of-Thought Reasoning in Generative AI
यह शोध पत्र "इमिटेशन गेम" (Imitation Game) नामक एक एकीकृत रक्षा ढांचे का प्रस्ताव करता है, जो इनपुट को उनकी मूल अवस्था में वापस करने के बजाय उनके अर्थ संबंधी सार को पुनर्गठित करके निगमनात्मक (deductive) और आगमनात्मक (inductive) दोनों प्रकार के प्रतिकूल भ्रमों (adversarial illusions) को बेअसर करने के लिए एक चेन-ऑफ-थॉट-संचालित मल्टीमॉडल जनरेटिव एजेंट का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र (paper) का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।
बड़ी समस्या: मशीन के दिमाग को धोखा देना
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान सुरक्षा गार्ड (AI) है जिसे लोगों और वस्तुओं को पहचानने के लिए प्रशिक्षित किया गया है। आमतौर पर, यह गार्ड अपने काम में बहुत माहिर होता है। लेकिन, उन्हें धोखा देने के दो चालाकी भरे तरीके हैं:
"डिडक्टिव" (Deductive) चाल (अदृश्य मुखौटा):
इसे एक ऐसे मास्टर जालसाज के रूप में सोचें जो गार्ड की नियम पुस्तिका का अध्ययन करता है। वे फोटो में एक छोटा सा, लगभग अदृश्य बदलाव करते हैं—जैसे पुराने टीवी पर दिखने वाले 'स्टैटिक' की तरह कुछ पिक्सेल जोड़ना। एक इंसान के लिए, फोटो बिल्कुल वैसी ही दिखती है। लेकिन AI के लिए, वे सूक्ष्म बदलाव एक "जादुई मंत्र" की तरह काम करते हैं जो गार्ड को मजबूर कर देते हैं कि वह कहे, "यह कुत्ता नहीं है, बल्कि एक टोस्टर है!" AI अपने ही तर्क का पालन कर रहा है, लेकिन इनपुट को इस तरह से घुमाया गया है कि वह तर्क टूट जाए।"इंडक्टिव" (Inductive) चाल (जहरीला प्रशिक्षण):
यह अलग है। इसमें हमलावर ड्यूटी के दौरान गार्ड को नहीं ठगते, बल्कि वे गार्ड के काम शुरू करने से पहले उसके ट्रेनिंग स्कूल में घुस जाते हैं। वे ट्रेनिंग सामग्री में एक गुप्त 'ट्रिगर' डाल देते हैं। उदाहरण के लिए, वे गार्ड को सिखाते हैं: "यदि आप कोने में एक छोटा सफेद वर्ग देखते हैं, तो वह हमेशा एक बम है।" बाद में, जब गार्ड उस सफेद वर्ग वाली एक साधारण फोटो देखता है, तो वह घबरा जाता है और उसे बम घोषित कर देता है। गार्ड का दिमाग एक विशिष्ट ट्रिगर के प्रति प्रतिक्रिया करने के लिए फिर से तैयार (rewired) कर दिया गया है।
शोध पत्र इन्हें "एडवर्सरियल इल्यूजन" (Adversarial Illusions) कहता है। ये कंप्यूटरों के लिए ऑप्टिकल इल्यूजन (दृष्टि भ्रम) की तरह हैं जो उन्हें ऐसी चीजें दिखाते हैं जो वहां नहीं हैं या उन्हें वास्तविक चीजों को देखने से रोकते हैं।
सुधारने का पुराना तरीका: "डीनॉइजिंग" (Denoising) फ़िल्टर
पारंपरिक रूप से, जब कोई AI धोखा खा जाता है, तो विशेषज्ञ फोटो को "साफ" करने की कोशिश करते हैं। वे इस चालाकी को लेंस पर लगी धूल के धब्बे की तरह मानते हैं। वे फ़िल्टर (जैसे JPEG कंप्रेशन या डिफ्यूजन मॉडल) का उपयोग करके छवि को रगड़कर साफ करते हैं, इस उम्मीद में कि वे "शोर" (noise) को हटा देंगे और मूल चित्र को बहाल कर देंगे।
खामी: यह एक गंदे शीशे को कपड़े से पोंछकर साफ करने जैसा है। कभी-कभी यह काम करता है, लेकिन अक्सर आप गंदगी को और फैला देते हैं या दृश्य को इतना धुंधला कर देते हैं कि आप कांच के पीछे खड़े व्यक्ति को पहचान ही नहीं पाते। पुराने तरीके इस बात पर जोर देते हैं कि फोटो को बिल्कुल मूल फोटो जैसा बनाया जाए, जो पूरी तरह से करना कठिन है।
नया विचार: "इमिटेशन गेम" (नकल का खेल)
लेखक एक बिल्कुल अलग दृष्टिकोण प्रस्तावित करते हैं। गंदे शीशे को साफ करने के बजाय, वे सुझाव देते हैं कि एक रचनात्मक कलाकार को काम पर रखें जो तस्वीर को देखे और शुरुआत से एक नई तस्वीर बनाए।
यहाँ उनका "इमिटेशन गेम" कैसे काम करता है:
- कलाकार (AI एजेंट): वे एक शक्तिशाली AI का उपयोग करते हैं (जैसे ChatGPT और DALL-E का संयोजन) जो छवियों को समझने और नई छवियां बनाने, दोनों में कुशल है।
- नियम (चेन-ऑफ-थॉट): वे कलाकार को निर्देशों का एक विशेष सेट देते हैं। वे कलाकार से कहते हैं: "इस तस्वीर को देखो। कल्पना करो कि तुमने इस वस्तु को पहले कभी नहीं देखा है। पिक्सेल की हुबहू नकल करने की कोशिश मत करो। इसके बजाय, इस बारे में सोचो कि यह वस्तु क्या बनाती है। इसकी मुख्य आकृतियाँ क्या हैं? इसके रंग क्या हैं? इसकी बनावट (texture) कैसी है? अब, अपनी समझ के आधार पर इस वस्तु की एक बिल्कुल नई तस्वीर बनाओ।"
- परिणाम: कलाकार उन सूक्ष्म, अदृश्य "जादुई मंत्रों" या "जहरीले ट्रिगर्स" को अनदेखा कर देता है क्योंकि वे वस्तु के वास्तविक सार का हिस्सा नहीं हैं। वे केवल मूल अर्थ पर ध्यान केंद्रित करते हैं। वे एक ताज़ा, साफ छवि तैयार करते हैं जो वस्तु जैसी दिखती है लेकिन धोखे से मुक्त होती है।
उपमा:
कल्पना कीजिए कि एक बच्चे को बिल्ली का एक चित्र दिखाया गया है जिसे अदृश्य स्याही से इस तरह घिसे-पिटे तरीके से लिखा गया है कि बच्चा उसे कुत्ता समझने लगे।
- पुराना तरीका: आप उन रेखाओं को मिटाने की कोशिश करते हैं। यह बहुत अस्त-व्यस्त होता है, और हो सकता है कि आप बिल्ली की मूंछें भी मिटा दें।
- नया तरीका: आप बच्चे से पूछते हैं, "बिल्ली कैसी दिखती है?" बच्चा सोचता है, "बिल्लियों के नुकीले कान, मूंछें और एक पूंछ होती है।" फिर, वह अपनी याददाश्त से एक नई बिल्ली बनाता है। अदृश्य स्याही के निशान गायब हो जाते हैं क्योंकि बच्चे ने उनकी नकल नहीं की; उन्होंने बस यह याद रखा कि बिल्ली वास्तव में क्या है।
उन्होंने क्या पाया
शोधकर्ताओं ने प्रयोगशाला में 10 वस्तुओं (जैसे गोल्फ बॉल, चर्च, या पैराशूट) के एक मानक सेट का उपयोग करके इस विचार का परीक्षण किया। उन्होंने AI पर दोनों प्रकार के हमलों (अदृश्य मुखौटा और जहरीला प्रशिक्षण) का प्रयोग किया।
- परिणाम: पुराने सफाई के तरीकों (जैसे JPEG फ़िल्टर) ने थोड़ी मदद की, लेकिन वे अक्सर AI को भ्रमित कर देते थे या केवल आधी समस्या को ठीक कर पाते थे।
- विजेता: "इमिटेशन गेम" अविश्वसनीय रूप से अच्छा काम कर गया। इसने लगभग हर मामले में AI को "भ्रम से मुक्त" (disillusioned) करने में सफलता प्राप्त की। चाहे वह सूक्ष्म शोर हो या गहरा बैठा हुआ बैकडोर, कलाकार AI ने धोखे के पार देखा, वस्तु को समझा और एक साफ संस्करण बनाया जिसे सुरक्षा गार्ड सही ढंग से पहचान सके।
निष्कर्ष
यह शोध पत्र तर्क देता है कि हमें AI की गलती को सुधारने के लिए क्षतिग्रस्त छवि को पूरी तरह से बहाल करने की आवश्यकता नहीं है। इसके बजाय, हम एक स्मार्ट, रचनात्मक AI का उपयोग वस्तु को पुनः कल्पना (re-imagine) करने के लिए कर सकते हैं। वस्तु के सार पर ध्यान केंद्रित करके, न कि छवि के विशिष्ट पिक्सेल पर, हम धोखों को हटा सकते हैं और AI की सत्य को देखने की क्षमता को बहाल कर सकते हैं।
लेखक स्वीकार करते हैं कि एक ऐसे AI का पूरी तरह से अनुकरण करना कठिन है जो किसी वस्तु के बारे में कुछ भी नहीं जानता, और वे AI के नियमों को लेकर चिंतित हैं, लेकिन उनका मुख्य संदेश स्पष्ट है: कभी-कभी, भ्रम के पार देखने का सबसे अच्छा तरीका सत्य की कल्पना शून्य से करना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।