Theory of Subjective Entropy: Cognition as compression of information
यह शोध पत्र व्यक्तिपरक एंट्रॉपी (Theory of Subjective Entropy) का प्रस्ताव करता है, जो यादृच्छिकता (randomness) को डेटा और एक एजेंट के आंतरिक मॉडल के बीच एक संबंध के रूप में औपचारिक रूप देता है, और प्रयोगों के माध्यम से यह प्रदर्शित करता है कि कॉन्टेक्स्ट-ट्री वेटिंग (Context-Tree Weighting) एल्गोरिदम का संपीड़नीयता (compressibility) का माप पारंपरिक आवृत्ति-आधारित मॉडलों की तुलना में मानव अनुक्रम भविष्यवाणी सटीकता का बेहतर पूर्वानुमान लगाता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका मस्तिष्क एक सुपर-स्मार्ट जासूस है जो एक रहस्य सुलझाने की कोशिश कर रहा है, लेकिन वह रहस्य केवल यादृच्छिक घटनाओं (random events) की एक धारा है, जैसे कि बार-बार एक ही सिक्के का उछलना। दशकों से, वैज्ञानिकों ने "शैनन एंट्रॉपी" (Shannon entropy) नामक एक उपकरण का उपयोग करके इन घटनाओं को देखा है, जो मूल रूप से यह पूछता है: "क्या यह सिक्का निष्पक्ष है?" यदि सिक्का निष्पक्ष है, तो उत्तर "हाँ, यह पूरी तरह से यादृच्छिक है" होगा, और जासूस हार मान लेगा, यह मानते हुए कि खोजने के लिए कोई पैटर्न नहीं है। लेकिन क्या होगा यदि समस्या सिक्के में नहीं है? क्या होगा यदि समस्या जासूस की नोटबुक में है? यह शोध पत्र विज्ञान के एक दिलचस्प कोने पर केंद्रित है जिसे एल्गोरिदम सूचना सिद्धांत (Algorithmic Information Theory) और सक्रिय अनुमान (Active Inference) कहा जाता है। एल्गोरिदम सूचना सिद्धांत को एक फ़ाइल को कितना "कंप्रेस" (compress) किया जा सकता है—जैसे कि किसी फोल्डर को छोटा करने के लिए उसे ज़िप करना—इसके अध्ययन के रूप में समझें। यदि आप इसे कसकर ज़िप कर सकते हैं, तो वहां एक पैटर्न है। यदि यह बहुत बड़ा रहता है, तो यह वास्तव में यादृच्छिक है। सक्रिय अनुमान यह विचार है कि हमारे मस्तिष्क लगातार यह अनुमान लगाने की कोशिश करते हैं कि आगे क्या होने वाला है, ताकि वे अपनी "आश्चर्य" (surprise) की मात्रा को कम कर सकें। हम इस पर इसलिए ध्यान देते हैं क्योंकि यह दुनिया को देखने के हमारे नजरिए को बदल देता है: शायद ब्रह्मांड अराजक नहीं है, बल्कि हमारे आंतरिक मॉडल इतने अच्छे नहीं हैं कि वे छिपे हुए क्रम को देख सकें।
लेखक, मिकाएल लिंडमार्क मोसगार्ड और जैकब कार्गो मोर्टेंसन, एक नया विचार प्रस्तावित करते हैं जिसे व्यक्तिपरक एंट्रॉपी का सिद्धांत (Theory of Subjective Entropy) कहा जाता है। उनका बड़ा दावा यह है कि "यादृच्छिकता" (randomness) केवल सिक्के या स्रोत का गुण नहीं है; यह घटनाओं के अनुक्रम और उसे देखने वाले व्यक्ति के आंतरिक मॉडल के बीच का एक संबंध है। इसकी जांच करने के लिए, उन्होंने 159 प्रतिभागियों के साथ दो ऑनलाइन प्रयोग किए। प्रतिभागियों ने एक खेल खेला जहाँ उन्हें अपनी स्क्रीन पर दिखने वाले एक वर्ग (square) के रंग (नीला या नारंगी) का अनुमान लगाना था। वर्ग एक बाइनरी अनुक्रम (जैसे 1s और 0s) का पालन कर रहे थे जो वैश्विक रूप से यादृच्छिक (globally random) होने के लिए बनाए गए थे—यानी, यदि आप पूरी प्रक्रिया को देखें, तो यह एक निष्पक्ष सिक्के के उछाल जैसा दिखता जिसमें कोई पैटर्न नहीं था। हालाँकि, शोधकर्ताओं ने कॉन्टेक्स्ट-ट्री वेटिंग (Context-Tree Weighting - CTW) नामक एक विशेष गणितीय उपकरण का उपयोग करके इन अनुक्रमों को छोटे टुकड़ों में विभाजित किया। कुछ हिस्से "सब-एंट्रोपिक" (sub-entropic) थे, जिसका अर्थ था कि उनमें छिपे हुए, कंप्रेस करने योग्य पैटर्न थे जिन्हें CTW मॉडल पहचान सकता था। अन्य हिस्से "सुपर-एंट्रोपिक" (super-entropic) थे, जो वास्तव में अव्यवस्थित और असंपीडित (incompressible) थे।
यहाँ मोड़ आता है: भले ही पूरा अनुक्रम यादृच्छिक था, प्रतिभागियों ने यादृच्छिक अनुमान नहीं लगाया। अध्ययन में पाया गया कि जब अनुक्रम एक "सब-एंट्रोपिक" क्षेत्र (एक ऐसा हिस्सा जिसमें छिपा हुआ पैटर्न था) में गिरता था, तो प्रतिभागी अगले रंग की भविष्यवाणी करने में काफी बेहतर थे। वास्तव में, एक हिस्सा जितना अधिक "कंप्रेस करने योग्य" (compressible) होता (जितना अधिक CTW मॉडल उसे सिकोड़ सकता था), प्रतिभागियों की सटीकता उतनी ही अधिक होती थी। शोध पत्र सुझाव देता है कि मनुष्य इन CTW मॉडलों की तरह कार्य कर रहे हैं, जो देखे गए डेटा के लिए सबसे छोटा "ज़िप फ़ाइल" खोजने की निरंतर कोशिश करते हैं। जब वे एक पैटर्न पाते हैं, तो वे बेहतर अनुमान लगाने में सक्षम होते हैं।
महत्वपूर्ण रूप से, लेखकों ने कुछ सरल स्पष्टीकरणों को खारिज कर दिया। उन्होंने दिखाया कि प्रतिभागी केवल यह नहीं गिन रहे थे कि अब तक कितने नीले या नारंगी रंग दिखाई दिए हैं (एक साधारण आवृत्ति गणना); बल्कि वे वास्तव में गहरे, अधिक जटिल संरचनाओं का पता लगा रहे थे। उन्होंने अपने परिणामों की तुलना एक "निष्पक्ष सिक्के" के आधार से भी की और पाया कि जबकि समग्र सटीकता 50% (संयोग) के करीब थी, स्थानीय सटीकता पैटर्न वाले क्षेत्रों में स्पष्ट रूप से अधिक थी। शोध पत्र का सुझाव है कि ऐसा इसलिए होता है क्योंकि हमारे मस्तिष्क फ्री एनर्जी मिनिमाइजेशन (free energy minimization) के सिद्धांत द्वारा संचालित होते हैं—मूल रूप से, हमारे मस्तिष्क आश्चर्य से नफरत करते हैं, इसलिए वे जानकारी को कंप्रेस करने और दुनिया को अधिक पूर्वानुमानित बनाने के लिए सक्रिय रूप से पैटर्न की खोज करते हैं।
अध्ययन ने उच्च सटीकता के साथ इसका मापन किया। 89,520 परीक्षणों में से, उन्होंने 22,000 से अधिक "सब-एंट्रोपिक" क्षेत्रों और 22,000 "सुपर-एंट्रोपिक" क्षेत्रों की पहचान की। उन्होंने पाया कि एक सब-एंट्रोपिक क्षेत्र में प्रत्येक अतिरिक्त "कंप्रेशन" (एक माप कि पैटर्न को कितना सिकोड़ा जा सकता है) के लिए, सही अनुमान लगाने की संभावना बढ़ जाती है। सुपर-एंट्रोपिक क्षेत्रों में, जहाँ कोई पैटर्न मौजूद नहीं था, प्रतिभागियों की सटीकता संयोग के करीब रही, और दिलचस्प बात यह है कि जैसे-जैसे अव्यवस्थित क्षेत्र लंबे होते गए, वे पैटर्न खोजने की कोशिश करना बंद कर देते दिखे, जिससे पता चलता है कि वे यह जानने में पर्याप्त समझदार थे कि कब हार माननी है।
तो, इसका क्या अर्थ है? यह सुझाव देता है कि भले ही दुनिया पूरी तरह से यादृच्छिक दिखाई दे, हमारे मस्तिष्क लगातार वास्तविकता के "ज़िप कोड" की तलाश कर रहे हैं। हम केवल शोर (noise) नहीं देखते; हम संभावित संरचना देखते हैं। यदि किसी अनुक्रम में एक छिपा हुआ पैटर्न है, भले ही वह बहुत छोटा क्यों न हो, हमारे आंतरिक मॉडल उस पर पकड़ बना सकते हैं और अपने भविष्यवाणियों में सुधार कर सकते हैं। शोध पत्र निष्कर्ष निकालता है कि "यादृच्छिकता" व्यक्तिपरक है: एक अनुक्रम एक साधारण पर्यवेक्षक के लिए यादृच्छिक हो सकता है लेकिन एक स्मार्ट पर्यवेक्षक के लिए पूर्ण व्यवस्था से भरा हो सकता है। यह ढांचा न केवल स्क्रीन पर रंगों के अनुमान की व्याख्या करता है; यह हमें यह सोचने का एक नया तरीका भी प्रदान करता है कि सभी संज्ञानात्मक प्रणालियाँ (cognitive systems) सूचना को कैसे संसाधित करती हैं, यह सुझाव देते हुए कि सोचने की क्रिया वास्तव में ब्रह्मांड को समझने योग्य बनाने के लिए उसे कंप्रेस करने की क्रिया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।