Entropy Production Bounds the Accuracy of Computation in Markov Networks

जीवित चीजें लगातार समस्याओं को हल कर रही हैं। एक जीवाणु अपने पड़ोसियों के घनत्व को महसूस करता है ताकि यह तय कर सके कि कब झुंड बनाना है; एक पत्ती अचानक धूप के बढ़ने से बचने के लिए अपनी आंतरिक रसायन विज्ञान को समायोजित करती है; एक कोशिका पोषक तत्वों की सांद्रता का अनुमान लगाती है ताकि यह जान सके कि कब बढ़ना है। प्रत्येक मामले में, अणुओं का एक नेटवर्क एक गणना करता है, जो बाहरी दुनिया से प्राप्त बदलते संकेत को एक उपयोगी क्रिया में बदल देता है। यह प्रक्रिया तात्कालिक नहीं होती है। क्योंकि सूचना इन आणविक नेटवर्कों के माध्यम से एक सीमित गति से चलती है, इसलिए सिस्टम की आंतरिक अवस्था हमेशा बदलते परिवेश से थोड़ी पीछे रहती है। यह विलंब त्रुटियों को जन्म देता है, जिससे जीव वर्तमान वास्तविकता के बजाय अतीत की वास्तविकता पर प्रतिक्रिया करता है। इन त्रुटियों को सुधारने और उतार-चढ़ाव वाली दुनिया के साथ तालमेल बिठाने के लिए, सिस्टम को ऊर्जा खर्च करनी पड़ती है, जिससे आसपास के वातावरण में ऊष्मा का क्षय होता है।

दशकों से, वैज्ञानिक समझते आए हैं कि व्यवस्था बनाए रखने और कार्य करने के लिए ऊर्जा की आवश्यकता होती है। हालांकि, उस ऊर्जा की लागत और गणना की सटीकता के बीच संबंध स्थापित करने वाला एक सटीक नियम अब तक अज्ञात रहा है। शोधकर्ताओं सोंगेला डब्ल्यू. चेन और डेविड टी. लिमर ने अब एक मौलिक ऊष्मप्रवैगिकी सीमा (thermodynamic limit) निकाली है कि एक स्टोकेस्टिक नेटवर्क कितनी सटीकता से गणना कर सकता है। वे दिखाते हैं कि इस अनिवार्य विलंब के कारण होने वाली त्रुटि, एंट्रॉपी उत्पादन की दर (यानी अपशिष्ट ऊष्मा) और इस बात के विशिष्ट माप द्वारा सख्ती से बद्ध है कि सिस्टम अपने पिछले अवस्थाओं को कितनी देर तक याद रखता है। उनका कार्य प्रकट करता है कि सटीक गणना करने के लिए, एक नेटवर्क को या तो बहुत अधिक ऊर्जा खर्च करनी होगी या अपनी धीमी आंतरिक गतिविधियों में संचित एक लंबे समय तक चलने वाली स्मृति (मेमोरी) रखनी होगी।

लेखकों ने प्रतिवर्ती नेटवर्कों (reversible networks) का अध्ययन किया, जो ऐसे सिस्टम हैं जहाँ अंतर्निहित भौतिक नियम अवस्थाओं के बीच संक्रमण को उलटने की अनुमति देते हैं, एक ऐसी स्थिति जो साम्यावस्था (equilibrium) में कई जैविक प्रक्रियाओं में सत्य है। उन्होंने एक समय-निर्भर इनपुट को ट्रैक करने वाले नेटवर्कों पर ध्यान केंद्रित किया, जैसे कि रासायनिक संकेत की बढ़ती सांद्रता। नेटवर्क के आउटपुट में कुल त्रुटि के दो अलग-अलग स्रोत पाए गए। पहला है एक प्रतिनिधित्व त्रुटि (representation error), जो तब उत्पन्न होती है जब नेटवर्क की मूल संरचना ही इनपुट को वांछित आउटपुट से मैप करने में सक्षम नहीं होती, भले ही वह पूरी तरह से स्थिर क्यों न हो। दूसरा है एक लैग एरर (lag error), जो इसलिए होता है क्योंकि नेटवर्क का संभाव्यता वितरण (probability distribution) नई स्थितियों के अनुरूप ढलने और उनके साथ तालमेल बिठाने में समय लेता है। शोधकर्ताओं ने प्रदर्शित किया कि यह लैग एरर ही वह महत्वपूर्ण घटक है जो ऊष्मप्रवैगिकी द्वारा नियंत्रित होता है।

गणितीय विश्लेषण और कंप्यूटर सिमुलेशन के माध्यम से, टीम ने स्थापित किया कि लैग एरर का वर्ग, एंट्रॉपी उत्पादन दर और सिस्टम की स्मृति को दर्शाने वाले एक समय स्थिरांक (time constant) के गुणनफल से अधिक नहीं हो सकता। यह स्मृति समय इस बात से निर्धारित होता है कि अकेले छोड़ दिए जाने पर नेटवर्क का आउटपुट चर स्वाभाविक रूप से कितनी देर तक उतार-चढ़ाव करता है। यदि आउटपुट बहुत धीरे बदलता है, तो सिस्टम अतीत की जानकारी को लंबे समय तक थामे रखता है, जो एक मजबूत स्मृति के रूप में कार्य करता है। यदि आउटपुट तेजी से उतार-चढ़ाव करता है, तो स्मृति कम होती है। लेखकों द्वारा व्युत्पन्न असमानता एक सख्त ट्रेड-ऑफ (tradeoff) का संकेत देती है: बदलते संकेत को ट्रैक करने में त्रुटि को कम करने के लिए, एक सिस्टम को या तो अधिक ऊर्जा का क्षय करना होगा या उन गतियों पर निर्भर रहना होगा जो बहुत धीरे-धीरे शिथिल (relax) होती हैं, जिससे जानकारी लंबे समय तक संग्रहीत रहती है।

इस सिद्धांत की सार्वभौमिकता का परीक्षण करने के लिए, शोधकर्ताओं ने कृत्रिम नेटवर्कों और वास्तविक जैविक प्रणालियों के मॉडलों दोनों पर अपने ढांचे को लागू किया। उन्होंने विशिष्ट इनपुट संकेतों को ट्रैक करने के लिए दस अवस्थाओं वाले कृत्रिम नेटवर्कों को प्रशिक्षित किया, जिसमें वे कार्य भी शामिल थे जिनमें कोई स्मृति की आवश्यकता नहीं थी और वे कार्य भी जिनमें सही वर्तमान आउटपुट उत्पन्न करने के लिए सिस्टम को पिछले इनपुट को याद रखने की आवश्यकता थी। मेमोरी-निर्भर कार्यों में, नेटवर्क ने सूचना संग्रहीत करने के लिए अपनी स्वयं की धीमी रिलैक्सेशन डायनेमिक्स का उपयोग किया, प्रभावी रूप से विलंब (lag) को एक कम्प्यूटेशनल संसाधन के रूप में इस्तेमाल किया। इन मामलों में, त्रुटि अनुमानित ऊष्मप्रवैगिकी सीमा से नीचे रही, और जब ऊर्जा का क्षय उन विशिष्ट धीमी मोड (modes) के साथ संरेखित था जो प्रासंगिक जानकारी ले जाते थे, तो यह सीमा सबसे सटीक थी।

अध्ययन में जैविक सूचना प्रसंस्करण के चार अलग-अलग मॉडलों का परीक्षण किया गया: एक लिगैंड-गेटेड आयन चैनल जो रासायनिक प्रतिक्रिया में खुलता है, एक जेनेटिक स्विच जिसे लैक रिप्रेशर (Lac repressor) कहा जाता है जो जीन अभिव्यक्ति को नियंत्रित करता है, एक बैक्टीरियल क्वोरम-सेंसिंग सिस्टम जो समूह व्यवहार का समन्वय करता है, और पौधों में एक फोटोप्रोटेक्शन तंत्र जो अतिरिक्त प्रकाश ऊर्जा को नष्ट करता है। प्रत्येक मामले में, शोधकर्ताओं ने वास्तविक पर्यावरणीय उतार-चढ़ाव की नकल करने वाले यादृच्छिक, समय-परिवर्तित इनपुट के प्रति सिस्टम की प्रतिक्रिया का अनुकरण किया। उन्होंने वास्तविक ट्रैकिंग त्रुटि की गणना की और इसकी तुलना सिस्टम के एंट्रॉपी उत्पादन और मेमोरी समय से प्राप्त सैद्धांतिक सीमा से की। सभी मॉडलों में, उनकी जटिलता या जैविक कार्य के बावजूद, लैग एरर कभी भी ऊष्मप्रवैगिक सीमा से अधिक नहीं हुआ।

परिणाम इस बात पर प्रकाश डालते हैं कि सभी ऊर्जा व्यय कम्प्यूटेशन के लिए समान रूप से उपयोगी नहीं होते हैं। वे सिस्टम जो उन दिशाओं में ऊर्जा का क्षय करते हैं जो उनके द्वारा कंप्यूट किए जाने वाले आउटपुट से असंबंधित हैं, वे उनकी सटीकता में सुधार नहीं करते हैं। केवल वही क्षय जो नेटवर्क के धीमे, आउटपुट-प्रासंगिक मोड पर प्रक्षेपित (projected) होता है, त्रुटि को कम करने में प्रभावी रूप से योगदान देता है। यह निष्कर्ष बताता है कि जैविक नेटवर्क अपनी ऊर्जा खपत को उन विशिष्ट पथों में निर्देशित करने के लिए विकसित हुए हैं जो अतीत को याद रखने और प्रतिक्रिया करने की उनकी क्षमता को बढ़ाते हैं। यह कार्य जैविक गणना की ऊर्जा लागत को समझने के लिए एक मात्रात्मक ढांचा प्रदान करता है, यह दिखाते हुए कि सटीकता मुफ्त नहीं है, बल्कि या तो निरंतर ईंधन जलाने या एक लंबे समय तक चलने वाली स्मृति बनाए रखने के माध्यम से खरीदी जाती है।

शोधकर्ताओं ने पुष्टि की कि उनका सैद्धांतिक बंधन तब भी बना रहता है जब सिस्टम साम्यावस्था से बहुत दूर संचालित होता है, हालांकि यह संबंध तब सबसे सटीक होता है जब सिस्टम अपनी स्थिर अवस्था (steady state) के करीब रहता है। बैक्टीरियल क्वोरम-सेंसिंग मॉडल और प्लांट फोटोप्रोटेक्शन सिस्टम के सिमुलेशन में, बाउंड का द्विघातीय सन्निकटन (quadratic approximation) त्रुटि का एक विश्वसनीय भविष्यवक्ता बना रहा, भले ही इनपुट सिग्नल अचानक बदल गए हों। अध्ययन निष्कर्ष निकालता है कि एक स्टोकेस्टिक नेटवर्क की सटीक गतिशील गणना करने की क्षमता, इसके द्वारा किए जाने वाले क्षय और इसकी स्मृति की अवधि के बीच के अंतर्संबंध द्वारा मौलिक रूप से सीमित है। यह सिद्धांत जीवित प्रणालियों के डिजाइन और उन्हें दोहराने के लिए इंजीनियर किए गए सिंथेटिक रासायनिक सर्किट की संभावित सीमाओं को समझने के लिए एक नया दृष्टिकोण प्रदान करता है।