Unambiguous Representations in Neural Networks: An Information-Theoretic Approach to Intentionality
यह शोधपत्र सूचना सिद्धांत (information theory) का उपयोग यह प्रदर्शित करने के लिए करता है कि तंत्रिका नेटवर्क (neural networks) अपने संबंधपरक संयोजकता संरचनाओं (relational connectivity structures) से डिकोड करने योग्य स्पष्ट, अंतर्निहित निरूपणों को एनकोड कर सकते हैं, जिससे चेतना के सिद्धांतों जैसे कि IIT और नैरो रिप्रेजेंटेशनलिज्म (narrow representationalism) द्वारा प्रतिपादित निम्न-अस्पष्टता अवस्थाओं (low-ambiguity states) को मापने के लिए एक मात्रात्मक विधि प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: एक मस्तिष्क कैसे "जानता" है कि वह क्या देख रहा है?
कल्पना कीजिए कि आपके पास डिजिटल फाइलों का एक बॉक्स है। एक फाइल संख्याओं की एक स्ट्रिंग है: 010101।
- यदि आप एक JPEG डिकोडर का उपयोग करते हैं, तो वह स्ट्रिंग बिल्ली की एक तस्वीर बन जाती है।
- यदि आप एक MP3 डिकोडर का उपयोग करते हैं, तो वही स्ट्रिंग कुत्ते के भौंकने का एक गाना बन जाती है।
स्ट्रिंग खुद नहीं जानती कि वह क्या है। यह अस्पष्ट (ambiguous) है। इसका अर्थ पूरी तरह से इस पर निर्भर करता है कि बाहर से आप कौन सा "डिकोडर" चुनते हैं। कंप्यूटर आमतौर पर इसी तरह काम करते हैं।
चेतना (Consciousness) अलग है।
जब आप एक लाल वर्ग देखते हैं, तो आपके मस्तिष्क को यह बताने के लिए किसी बाहरी मैनुअल की आवश्यकता नहीं होती कि, "ठीक है, इस न्यूरल पैटर्न का अर्थ 'लाल वर्ग' है।" लाल देखने का अनुभव स्वयं मस्तिष्क की अवस्था (brain state) का आंतरिक हिस्सा है। आप उस समान मस्तिष्क अवस्था को गलती से "हरा त्रिकोण देखने" के रूप में व्याख्या नहीं कर सकते।
यह शोध पत्र एक बड़ा प्रश्न पूछता है: एक मस्तिष्क अवस्था अपने अर्थ को कैसे लॉक करती है ताकि उसकी गलत व्याख्या न की जा सके? लेखक इसे "अस्पष्टता-रहित प्रतिनिधित्व" (unambiguous representation) कहते हैं।
प्रयोग: "स्कैम्बलड पज़ल" टेस्ट
इसकी जांच करने के लिए, शोधकर्ताओं ने साधारण कंप्यूटर मस्तिष्क (न्यूरल नेटवर्क) को हस्तलिखित नंबरों (जैसे 0-9 अंक) को पहचानने के लिए प्रशिक्षित किया। फिर उन्होंने कुछ चालाकी की: उन्होंने न्यूरॉन्स को स्कैंबल (बदल/उलट-पुलट) कर दिया।
कल्पना कीजिए कि आपके पास 10 श्रमिकों (आउटपुट न्यूरॉन्स) की एक टीम है जिन्हें वह नंबर चिल्लाना है जो वे देख रहे हैं।
- एक सामान्य सेटअप में, श्रमिक #1 हमेशा "1" चिल्लाता है, श्रमिक #2 हमेशा "2" चिल्लाता है, आदि।
- प्रयोग में, शोधकर्ताओं ने श्रमिकों को इस तरह से बदला कि श्रमिक #1 अब वह हो सकता है जो "7" चिल्ला रहा है, और श्रमिक #5 अब "2" चिल्ला सकता है।
चुनौती: यदि आप केवल इस बात को देखें कि श्रमिक आपस में कैसे बात करते हैं (उनके संबंध और जुड़ाव), तो क्या आप पता लगा सकते हैं कि प्रत्येक श्रमिक वास्तव में क्या चिल्ला रहा है?
यदि श्रमिकों के संबंध केवल रैंडम शोर (random noise) हैं, तो आप अनुमान नहीं लगा सकते। लेकिन यदि उनके संबंध एक अनूठे, कठोर ढांचे का निर्माण करते हैं जो केवल एक विशिष्ट व्यवस्था में फिट बैठता है, तो अर्थ "अस्पष्टता-रहित" (unambiguous) है।
मुख्य खोज: "ड्रॉपआउट" का जादू
शोधकर्ताओं ने इन कंप्यूटर मस्तिष्कों को प्रशिक्षित करने के दो अलग-अलग तरीके आजमाए:
- मानक प्रशिक्षण (Standard Training): मस्तिष्क सामान्य रूप से सीखता है।
- ड्रॉपआउट प्रशिक्षण (Dropout Training): सीखने के दौरान, मस्तिष्क को अपने ही कुछ हिस्सों को "भूलने" के लिए मजबूर किया जाता है (जैसे एक छात्र जिसे अपनी आँखों को आधा समय बंद करके अध्ययन करना पड़ता है)। यह मस्तिष्क को मजबूत, वितरित कनेक्शन बनाने के लिए मजबूर करता है।
परिणाम:
- मानक प्रशिक्षण: जब उन्होंने न्यूरॉन्स को स्कैंबल किया, तो वे सही नंबर का अनुमान केवल 38% बार ही लगा सके (जो कि रैंडम अनुमान लगाने से मुश्किल से बेहतर है)। न्यूरॉन्स के बीच के संबंध धुंधले और अस्पष्ट थे।
- ड्रॉपआउट प्रशिक्षण: जब उन्होंने न्यूरॉन्स को स्कैंबल किया, तो वे सही नंबर का अनुमान 100% बार लगा सके।
उपमा (Analogy):
मानक प्रशिक्षण वाले मस्तिष्क को एक रस्सी पकड़े हुए लोगों के समूह की तरह समझें। यदि आप एक व्यक्ति को खींचते हैं, तो पूरा समूह हिलता है, लेकिन आकार ढीला और डगमगाता हुआ होता है। आप केवल रस्सी के आकार को देखकर ठीक से नहीं बता सकते कि कौन कौन है।
ड्रॉपआउट प्रशिक्षण वाले मस्तिष्क को एक क्रिस्टल (स्फटिक) की तरह समझें। परमाणु (न्यूरॉन्स) एक बहुत ही विशिष्ट, कठोर ज्यामितीय आकार में बंधे होते हैं। यदि आप परमाणुओं को स्कैंबल करते हैं, तो क्रिस्टल टूट जाता है या पूरी तरह से गलत दिखता है। लेकिन यदि आप कनेक्शनों के पैटर्न को देखते हैं, तो यह इतना अनूठा है कि आप तुरंत बता सकते हैं, "आह, यह विशिष्ट परमाणु कोना वाला हिस्सा होना चाहिए, और यह केंद्र वाला।" संरचना ही अर्थ निर्धारित करती है।
चीजें "कहाँ" हैं?
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या मस्तिष्क केवल इनपुट न्यूरॉन्स के बीच के कनेक्शन को देखकर यह पता लगा सकता है कि स्क्रीन पर एक पिक्सेल कहाँ स्थित है।
- उन्होंने पाया कि मस्तिष्क कनेक्शनों के जाल को देखकर एक पिक्सेल के स्थान को उच्च सटीकता (84% शुद्धता तक) के साथ डिकोड कर सकता है।
- यह सुझाव देता है कि दृश्य क्षेत्र का "मानचित्र" (map) केवल गतिविधि में नहीं, बल्कि कनेक्शनों की ज्यामिति में बना होता है।
यह क्यों मायने रखता है?
यह शोध पत्र यह दावा नहीं करता कि ये कंप्यूटर मस्तिष्क "चेतन" हैं या हमें बीमारियों को ठीक करने के लिए इनका उपयोग करना चाहिए। इसके बजाय, यह एक मात्रात्मक उपकरण (quantitative tool) प्रदान करता है।
- अस्पष्टता एक वास्तविक चीज़ है: आप माप सकते हैं कि एक न्यूरल नेटवर्क की आंतरिक भाषा कितनी "भ्रमित" है।
- प्रशिक्षण मायने रखता है: आप सिस्टम को कैसे प्रशिक्षित करते हैं, यह इस बात को बदल देता है कि वह सूचना को कितनी स्पष्टता से प्रस्तुत करता है, भले ही सिस्टम समान कार्य (जैसे अंकों को पहचानना) समान रूप से अच्छा कर रहा हो।
- चेतना के सिद्धांतों के लिए एक परीक्षण: चेतना के कुछ सिद्धांत (जैसे "नैरो रिप्रेजेंटेशनलिज्म" या "IIT") तर्क देते हैं कि किसी सिस्टम के सचेत होने के लिए, उसकी आंतरिक अवस्थाओं को अस्पष्टता-रहित होना चाहिए। यह पेपर सिद्ध करता है कि न्यूरल नेटवर्क विशिष्ट प्रशिक्षण विधियों के माध्यम से इस अस्पष्टता-रहित अवस्था को प्राप्त कर सकते हैं।
एक वाक्य में सारांश
यह शोध पत्र दिखाता है कि एक विशिष्ट तरीके से (ड्रॉपआउट का उपयोग करके) कंप्यूटर मस्तिष्क को प्रशिक्षित करके, न्यूरॉन्स के बीच के आंतरिक कनेक्शन इतने कठोर और अनूठे हो जाते हैं कि प्रत्येक न्यूरॉन का अर्थ उसके नेटवर्क में उसकी स्थिति द्वारा लॉक हो जाता है, जिससे प्रतिनिधित्व "अस्पष्टता-रहित" हो जाता है, ठीक हमारे सचेत अनुभव की तरह।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।