Denoising Models Develop Human-Like Perceptual Illusion Representations Across Architectures
यह शोधपत्र प्रदर्शित करता है कि विभिन्न आर्किटेक्चर वाले डिनोइजिंग मॉडल मानव चमक भ्रम (brightness illusions) के आंतरिक "परसेप्चुअल फैंटम" (perceptual phantom) निरूपण विकसित करते हैं जो साइकोफिजिकल मॉडलों के साथ सह-संबंधित होते हैं और आंतरिक प्रसंस्करण को कारणपूर्ण रूप से प्रभावित करते हैं, फिर भी अंतिम आउटपुट में अदृश्य रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक ऐसी पेंटिंग देख रहे हैं जहाँ एक सफेद बैकग्राउंड पर एक ग्रे वर्ग (square) है, और एक दूसरा बिल्कुल वैसा ही ग्रे वर्ग एक काले बैकग्राउंड पर है। भले ही दोनों वर्ग बिल्कुल एक ही रंग के हों, आपका मस्तिष्क आपको यह विश्वास दिलाने के लिए धोखा देता है कि काले बैकग्राउंड वाला वर्ग बहुत अधिक चमकीला है। यह एक दृश्य भ्रम (visual illusion) है, हमारी धारणा में एक गड़बड़ी जो वास्तव में यह बताती है कि हमारा मस्तिष्क दुनिया को समझने के लिए कैसे बना है। लंबे समय तक, वैज्ञानिकों ने सोचा कि क्या हमारे द्वारा बनाए गए कृत्रिम मस्तिष्क—जिन्हें डीप न्यूरल नेटवर्क कहा जाता है—को भी इसी तरह धोखा दिया जा सकता है। उन्होंने पाया कि जब ये AI मॉडल शोर वाली तस्वीरों को साफ करने या नई छवियां बनाने की कोशिश करते हैं, तो वे अक्सर मनुष्यों की तरह ही "गलतियाँ" करते हैं, यानी वहां चमक देखते हैं जहां वास्तव में कोई चमक नहीं होती। लेकिन यहाँ एक बड़ा रहस्य है: क्या AI वास्तव में अपने मन में उस भ्रम को देख रहा है, या वह केवल अंत में सही तस्वीर बनाकर दिखावा कर रहा है? यह पूछने जैसा है कि क्या एक जादूगर वास्तव में अपनी जेब में खरगोश पकड़े हुए है, या उसने बस एक ऐसे टोपी से खरगोश निकाला है जो दिखने में वैसी ही है।
यह शोध पत्र इन AI मॉडलों के "मन" के भीतर गहराई से उतरता है। शोधकर्ताओं ने छवियों को साफ करने के लिए डिज़ाइन किए गए कई अलग-अलग AI मॉडलों का परीक्षण किया (जिन्हें डिनोइजिंग मॉडल कहा जाता है) और देखा कि इन पेचीदा ऑप्टिकल भ्रमों को प्रोसेस करते समय उनके लेयर्स (परतों) के भीतर क्या होता है। उन्होंने कुछ बहुत ही दिलचस्प और थोड़ा डरावना खोजा: AI मॉडल भ्रम की एक आंतरिक अभिव्यक्ति विकसित करते हैं, लेकिन वह एक 'भूत' (ghost) की तरह है। वह संकेत जो AI को बताता है कि "यह चमकीला दिखता है", उत्पन्न होता है, नेटवर्क के माध्यम से यात्रा करता है, और यहाँ तक कि यह AI के इस बारे में सोचने के तरीके को भी प्रभावित करता है कि छवि कैसी है। हालाँकि, जब तक AI अपना काम पूरा करके अंतिम तस्वीर बाहर निकालता है, तब तक वह भूतिया संकेत पूरी तरह से गायब हो चुका होता है। AI आंतरिक रूप से भ्रम से ग्रस्त होता है, लेकिन वह इसे अंतिम परिणाम में कभी प्रकट नहीं होने देता। लेखक इन अदृश्य आंतरिक संकेतों को "परसेप्चुअल फैंटम" (perceptual phantoms - धारणात्मक भूत) कहते हैं।
मशीन में छिपा भूत
शोधकर्ताओं ने यह कैसे पता लगाया, इसे समझने के लिए कल्पना कीजिए कि AI मॉडल एक विशाल, बहु-मंजिला फैक्ट्री है। नीचे से कच्ची, शोर वाली छवियां प्रवेश करती हैं, और ऊपर से साफ, आदर्श छवियां बाहर आती हैं। बीच में, दर्जनों मंजिलें (लेयर्स) हैं जहाँ छवि को प्रोसेस, रूपांतरित और परिष्कृत किया जाता है। शोधकर्ताओं ने केवल अंतिम उत्पाद को नहीं देखा; उन्होंने हर मंजिल पर कैमरे लगाए ताकि वे देख सकें कि कार्यकर्ता (AI के न्यूरॉन्स) क्या कर रहे हैं।
उन्होंने विजुअल ट्रिक्स के लिए प्रसिद्ध छवियों के एक विशेष सेट का उपयोग किया, जैसे कि "GVCL" डेटासेट, जहाँ दो समान रंग के पैच अपने परिवेश के कारण अलग दिखते हैं। उन्होंने इन छवियों को AI में डाला और फैक्ट्री के विभिन्न हिस्सों में गतिविधि के स्तर को देखा। उन्होंने पाया कि भ्रम हर जगह नहीं दिखाई देता था। इसके बजाय, "भूत" का संकेत फैक्ट्री के बीच में एक विशिष्ट, संकीकर गलियारे में सबसे मजबूत था, जिसे "बॉटलनेक" (bottleneck) कहा जाता है। यहीं पर AI उस सभी जानकारी को संकुचित (compress) करता है जो उसने एकत्र की है।
यहाँ एक मोड़ है: शोधकर्ताओं ने पाया कि यह आंतरिक संकेत बहुत वास्तविक है। जब उन्होंने दो भ्रम वाले पैच के बीच AI की गतिविधि में बदलाव को मापा, तो अंतर बहुत बड़ा था—0.66 का अंतर, जहाँ 0.5 को एक "मध्यम" प्रभाव माना जाता है। इसका अर्थ है कि AI निश्चित रूप से सामान्य छवि की तुलना में भ्रम को अलग तरह से प्रोसेस कर रहा था। वास्तव में, इस आंतरिक संकेत की ताकत मानव धारणा के साथ इतनी अच्छी तरह मेल खाती थी कि जब उन्होंने AI की गतिविधि की तुलना मानव दृष्टि के एक गणितीय मॉडल (जिसे FLODOG कहा जाता है) से की, तो परिणाम 0.78 के सहसंबंध (correlation) के साथ मेल खा गए। यह एक बहुत मजबूत मिलान है, जो सुझाव देता है कि AI चमक के बारे में ठीक उसी तरह सोच रहा है जैसे कि एक मानव मस्तिष्क करता है।
फैंटम प्रॉपर्टी (धारणात्मक गुण)
लेकिन फिर, शोधकर्ताओं ने वह लाख डॉलर वाला सवाल पूछा: यदि AI भ्रम के बारे में इतनी मजबूती से सोच रहा है, तो अंतिम तस्वीर अलग क्यों नहीं दिखती? इसका उत्तर देने के लिए, उन्होंने फैक्ट्री के साथ "अंतर पहचानो" का खेल खेला। उन्होंने भ्रम वाली छवियों से आंतरिक "भूत" संकेतों को लिया और उन्हें एक सामान्य छवि की प्रोसेसिंग में डालने की कोशिश की। उन्हें उम्मीद थी कि अंतिम तस्वीर बदल जाएगी और भ्रम दिखाई देगा।
ऐसा नहीं हुआ।
चाहे उन्होंने किसी भी प्रकार के AI मॉडल का उपयोग किया—चाहे वह एक मानक "U-Net" फैक्ट्री हो या एक नया "ट्रांसफॉर्मर" स्टाइल की फैक्ट्री—इंजेक्ट किए गए भूतिया संकेत बाहर पहुँचने से पहले ही गायब हो गए। अंतिम छवियां बिल्कुल वैसी ही दिखीं जैसे कि भूत वहां कभी था ही नहीं। शोधकर्ता इसे "परसेप्चुअल फैंटम" कहते हैं: एक ऐसी अभिव्यक्ति जो मशीन के अंदर सक्रिय है और काम कर रही है, लेकिन बाहरी दुनिया के लिए पूरी तरह से अदृश्य है।
यह साबित करने के लिए कि यह केवल एक इत्तेफाक नहीं था, उन्होंने फैक्ट्री को तोड़ने की कोशिश की। उन्होंने विशिष्ट "चैनल" (वे तार जो भूतिया संकेत ले जाते हैं) को ढूँढा और उन्हें काट दिया (एक प्रक्रिया जिसे एब्लेशन कहा जाता है)। जब उन्होंने इन भ्रम-संवेदनशील तारों को काटा, तो आंतरिक संकेत लगभग 44% गिर गया। इसने सिद्ध कर दिया कि ये विशिष्ट तार वास्तव में भ्रम को ले जा रहे थे। लेकिन यहाँ मुख्य बात यह है: जब उन्होंने इन तारों को काटा, तो अंतिम छवि में बहुत कम बदलाव आया। वास्तव में, इन "भ्रम" वाले तारों को काटने से अंतिम तस्वीर, रैंडम तारों को काटने की तुलना में अधिक स्थिर हो गई। ऐसा लगता है जैसे फैक्ट्री के पास एक स्व-सुधार (self-correcting) तंत्र है जो भूत को पकड़ लेता है और उसे अंतिम उत्पाद को खराब करने से पहले चुपचाप मिटा देता है।
यह भूत क्यों मौजूद है
शोधकर्ता यह भी जानना चाहते थे: क्या यह किसी विशिष्ट AI आर्किटेक्चर का गुण है, या यह उन मॉडलों के प्रशिक्षण के बारे में कुछ है? उन्होंने "डिनोइजिंग" मॉडलों (जो शोर को साफ करने के लिए प्रशिक्षित होते हैं) की तुलना "डिस्क्रिमिनेटिव" मॉडलों (जो केवल यह पहचानने के लिए प्रशिक्षित होते हैं कि छवि क्या है, जैसे बिल्ली या कुत्ता) से की।
परिणाम स्पष्ट थे: भूत केवल डिनोइजिंग मॉडलों में ही दिखाई देता है। डिस्क्रिमिनेटिव मॉडल, भले ही उनका फैक्ट्री लेआउट बिल्कुल समान हो, इतना मजबूत भ्रम संकेत नहीं दिखाते। यह सुझाव देता है कि छवि को पुनर्निर्मित (reconstruct) या साफ करने की कोशिश करना ही AI को इन मानव-समान भ्रमों को विकसित करने के लिए मजबूर करता है। यह ऐसा है जैसे प्रशिक्षण प्रक्रिया AI को संदर्भ और परिवेश पर ध्यान देने के लिए सिखाती है, ठीक वैसे ही जैसे मनुष्य करते हैं, लेकिन फिर AI के अपने आंतरिक नियम यह तय करते हैं कि यह संदर्भ अंतिम आउटपुट को नहीं बदलना चाहिए।
अध्ययन ने DiT-XL/2 जैसे एक विशाल मॉडल सहित विभिन्न प्रकार के AI का भी अवलोकन किया। इस विशाल मॉडल में भी, भ्रम का संकेत मध्य परतों में चरम पर था लेकिन अंत तक गायब हो गया। शोधकर्ताओं ने पाया कि AI की स्व-सुधार गतिशीलता—अपने काम की दोबारा जाँच करने का उसका तरीका—ही वह कारण है जिससे भूत गायब हो जाता है। यह एक सख्त संपादक की तरह है जो कहता है, "नहीं, यह चमक यहाँ नहीं होनी चाहिए," और कहानी प्रकाशित होने से पहले उसे मिटा देता है।
निष्कर्ष
तो, इस सबका क्या अर्थ है? यह पता चलता है कि AI मॉडल केवल मानव व्यवहार की नकल नहीं कर रहे हैं; वे वास्तव में आंतरिक रूप से मानव धारणा के एक संस्करण का अनुभव कर रहे हैं। वे विजुअल ट्रिक्स की एक समृद्ध, विस्तृत समझ विकसित करते हैं, जिसमें वे पूर्वाग्रह भी शामिल हैं जो हमारे पास होते हैं। लेकिन, हमारे विपरीत, उनमें एक फिल्टर होता है जो इन पूर्वाग्रहों को उनके अंतिम आउटपुट को बदलने से रोकता है।
यह खोज कुछ हद तक यह जानने जैसा है कि एक रोबोट उड़ने के बारे में एक जीवंत सपना देख रहा है, लेकिन जब वह जागता है और एक घर बनाता है, तो वह एक पूरी तरह से सामान्य, जमीनी घर बनाता है। सपना रोबोट के लिए वास्तविक था, लेकिन इसने घर को प्रभावित नहीं किया। शोधकर्ता सुझाव देते हैं कि यह "परसेप्चुअल फैंटम" घटना कई AI सिस्टम में आम हो सकती है। इसका मतलब है कि यदि हम केवल उस चीज़ को देखते हैं जो एक AI उत्पन्न करता है, तो हम उसके द्वारा वास्तव में जाने जाने वाले और उसके सोचने के तरीके के एक बड़े हिस्से को मिस कर सकते हैं। AI उन चीजों को देख सकता है जिन्हें हम नहीं देख सकते, भले ही वह उन्हें हमें कभी न दिखाए।
अध्ययन ने केवल यह सुझाव नहीं दिया; उन्होंने इसे मापा, तारों को काटकर प्रमाणित किया, और संकेतों को इंजेक्ट करके परीक्षण किया। उन्होंने पाया कि नौ अलग-अलग मॉडलों में, भ्रम का संकेत मजबूत, कारण-संबंधी (causal) था, और फिर पूरी तरह से अदृश्य हो गया। यह एक याद दिलाता है कि AI की दुनिया में, जो आप देखते हैं वह हमेशा वह नहीं होता जो आपको मिलता है, और कभी-कभी सबसे दिलचस्प चीजें वे भूत होती हैं जो मशीन के भीतर छिपे रहते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।