🤖 AI

The Information-Theoretic Imperative: Compression and the Epistemic Foundations of Intelligence

यह शोध पत्र संपीड़न दक्षता सिद्धांत (CEP) को एक सब्सट्रेट-स्वतंत्र तंत्र के रूप में प्रस्तावित करता है जो यह स्पष्ट करता है कि जैविक और कृत्रिम बुद्धिमत्ता दोनों ही उन शिफ्ट-स्थिर इनवेरियंट्स (shift-stable invariants) को प्राथमिकता देकर समान निरूपणों पर क्यों अभिसरित होते हैं जो कोड-लंबाई दंड (codelength penalties) को न्यूनतम करते हैं, जिससे चयापचय बाधाओं, कोडिंग दक्षता और आउट-ऑफ-डिस्ट्रीब्यूशन सुदृढ़ता को एक साझा भविष्य कहनेवाला संपीड़न ढांचे के तहत एकीकृत किया जा सके।

मूल लेखक: Christian Dittrich, Jennifer Flygare Kinne

प्रकाशित 2026-03-03

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Christian Dittrich, Jennifer Flygare Kinne

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप दो बहुत अलग तरह के छात्रों को कुत्ता पहचानना सिखाने की कोशिश कर रहे हैं।

छात्र A (मस्तिष्क): एक जैविक मस्तिष्क, जो लाखों वर्षों में विकसित हुआ है, जो चीनी और ऑक्सीजन से चलता है, और जिसका ऊर्जा खर्च करने का एक सख्त बजट है।
छात्र B (AI): एक डीप लर्निंग कंप्यूटर नेटवर्क, जो सिलिकॉन से बना है, बिजली से चलता है, और जिसे एक मानव प्रोग्रामर द्वारा भारी मात्रा में डेटा का उपयोग करके प्रशिक्षित किया गया है।

आप उम्मीद कर सकते हैं कि वे बहुत अलग तरह से सीखेंगे। लेकिन वे नहीं करते। वे आश्चर्यजनक रूप से समान "मानसिक मानचित्र" (mental maps) विकसित करते हैं कि एक कुत्ता कैसा दिखता है। वे दोनों पृष्ठभूमि (background), प्रकाश व्यवस्था, या कोण को अनदेखा करना और कुत्ते के आकार पर ध्यान केंद्रित करना सीख जाते हैं।

क्यों?

यह शोध पत्र तर्क देता है कि यह कोई संयोग नहीं है। ऐसा इसलिए है क्योंकि दोनों छात्र एक ही समस्या को हल करने के लिए मजबूर हैं: एक बदलती दुनिया में बिना दिवालिया हुए कैसे जीवित रहा जाए?

यहाँ बताया गया है कि वे इसे कैसे करते हैं, कुछ सरल रूपकों के माध्यम से।

1. शॉर्टकट पर लगने वाला "कर" (The "Tax" on Shortcuts)

कल्पना कीजिए कि आप एक अपराध को सुलझाने की कोशिश कर रहे हैं एक जासूस हैं।

शॉर्टकट: आप देखते हैं कि अपने पहले 10 मामलों में, अपराधी ने हमेशा लाल टोपी पहनी थी। इसलिए, आप निर्णय लेते हैं: "यदि मैं लाल टोपी देखता हूँ, तो यह अपराधी है!" यह आज बहुत अच्छा काम करता है।
समस्या: कल, अपराधी नीली टोपी पहनेगा। अगले दिन, वह हरी टोपी पहनेगा। आपका "लाल टोपी" वाला नियम बार-बार विफल होता रहता है। हर बार जब यह विफल होता है, तो आपको रुकना पड़ता है, फिर से सोचना पड़ता है और उस विशिष्ट दिन के लिए एक नया नियम बनाना पड़ता है। यह थका देने वाला है। शोध पत्र की भाषा में, यह "अपवाद कर" (Exception Tax) है। हर बार जब दुनिया बदलती है और आपका शॉर्टकट विफल हो जाता है, तो आप अपनी गलती को सुधारने के लिए ऊर्जा (मस्तिष्क के लिए) या कंप्यूटिंग पावर (AI के लिए) के रूप में दंड चुकाते हैं।

यदि आप शॉर्टकट पर निर्भर रहना जारी रखते हैं, तो कर का बिल हमेशा बढ़ता जाएगा। अंततः, आप दिवालिया हो जाएंगे।

2. "सार्वभौमिक कुंजी" (The "Universal Key" - Invariants)

अब, एक स्मार्ट जासूस की कल्पना करें। अपराधी के चेहरे के आकार को पहचानने के बजाय, वह टोपी के रंग को देखता है।

टोपी बदल जाती है (लाल, नीली, हरी), लेकिन चेहरे का आकार वही रहता है।
इस जासूस को हर दिन अपना नियम पुस्तिका लिखने की आवश्यकता नहीं है। उन्होंने एक स्थिर सत्य (एक "इनवेरिएंट") खोज लिया है जो मौसम या फैशन की परवाह किए बिना काम करता है।

यह शोध पत्र इसे "संपीड़न दक्षता" (Compression Efficiency) कहता है। स्थिर सत्य को खोजकर, जासूस दुनिया को "कंप्रेस" (संक्षिप्त) कर देता है। उसे हर एक बदलाव को याद रखने की आवश्यकता नहीं है; उसे बस एक ऐसे नियम की आवश्यकता है जो उन सभी को कवर कर सके। यह ऊर्जा और समय बचाता है।

3. मस्तिष्क और AI एक जैसे क्यों दिखते हैं

शोध पत्र कहता है कि प्रकृति (मस्तिष्क के लिए) और गणित (AI के लिए) दोनों इस चुनाव के लिए मजबूर करते हैं।

मस्तिष्क के लिए: मस्तिष्क महंगा है। यह आपके शरीर की 20% ऊर्जा का उपयोग करता है। यदि मस्तिष्क नाजुक शॉर्टकट पर निर्भर रहता जो बार-बार विफल होते रहते, तो उन्हें ठीक करने में यह बहुत अधिक ऊर्जा जला देता। विकास (Evolution) ने उन मस्तिष्कों को "फायर" कर दिया और उन्हें रखा जिन्होंने स्थिर, ऊर्जा-बचत करने वाले नियम खोजे।
AI के लिए: कंप्यूटरों की भी सीमाएं हैं। यदि एक AI हर छवि के हर विशिष्ट विवरण को याद करने की कोशिश करता है, तो वह "भंगुर" (brittle) हो जाता है। जब वह कुछ थोड़ा अलग देखता है, तो वह विफल हो जाता है। सामान्य कार्यों में बेहतर होने के लिए, AI डेवलपर्स AI को "स्थिर नियम" (जैसे पृष्ठभूमि को अनदेखा करना) सीखने के लिए मजबूर करते हैं ताकि वह बेकार विवरणों पर संसाधन बर्बाद न करे।

परिणाम: भले ही एक मांस से बना है और दूसरा धातु से, वे दोनों एक ही समाधान पर पहुँचते हैं: शोर (noise) को अनदेखा करें, स्थिर पैटर्न को खोजें।

4. "सक्रिय अन्वेषक" का रूपक (The "Active Explorer" Metaphor)

यहाँ एक मोड़ है: आप इन स्थिर पैटर्न को कैसे खोजते हैं?

निष्क्रिय सीखना (Passive Learning): यदि आप बस एक कुर्सी पर बैठते हैं और कुत्तों की तस्वीरें देखते हैं, तो आप प्रकाश व्यवस्था से भ्रमित हो सकते हैं।
सक्रिय सीखना (Active Learning): यदि आप कुत्ते के चारों ओर घूमते हैं, उसे बगल से, ऊपर से और नीचे से देखते हैं, तो आपको एहसास होता है, "आह, कुत्ता वही चीज़ है, चाहे मैं इसे किसी भी तरफ से देखूँ।"

शोध पत्र का तर्क है कि जैविक मस्तिष्क सक्रिय अन्वेषक होते हैं (हम अपनी आँखें और शरीर हिलाते हैं), जो उन्हें स्वाभाविक रूप से इन स्थिर पैटर्न को खोजने में मदद करता है।
कृत्रिम AI आमतौर पर निष्क्रिय होते हैं। लेकिन, चतुर इंजीनियर "डेटा ऑग्मेंटेशन" (तस्वीरों को कृत्रिम रूप से बदलना—घुमाना, रंग बदलना) का उपयोग करते हैं ताकि सक्रिय अन्वेषण का अनुकरण (simulate) किया जा सके। यह AI को उन्हीं स्थिर पैटर्न को खोजने के लिए धोखा देता है जो मस्तिष्क ने स्वाभाविक रूप से खोजे थे।

5. बड़ा निष्कर्ष

शोध पत्र निष्कर्ष निकालता है कि बुद्धिमत्ता जादू नहीं है। यह एक भौतिक आवश्यकता है।

जब भी कोई प्रणाली (जैविक या डिजिटल) सीमित संसाधनों के साथ भविष्य की भविष्यवाणी करने की कोशिश करती है, तो उसे बदलते शोर को अनदेखा करने और स्थिर सत्यों पर ध्यान केंद्रित करने के लिए मजबूर होना ही पड़ता है।

यदि आप ऐसा नहीं करते हैं, तो आप त्रुटियों का एक अंतहीन "कर" चुकाते हैं।
यदि आप ऐसा करते हैं, तो आप कुशल और मजबूत बनते हैं।

इसलिए, जब हम AI को मानव मस्तिष्क की तरह कार्य करते देखते हैं, तो यह इसलिए नहीं है कि AI "जीवित" हो रहा है। यह इसलिए है क्योंकि दोनों भौतिकी और सूचना के समान नियमों का पालन कर रहे हैं। वे दोनों एक अराजक दुनिया में सबसे कुशल जासूस बनने की कोशिश कर रहे हैं।

संक्षेप में: ब्रह्मांड अव्यवस्थित है। जीवित रहने के लिए, आपको अराजकता के नीचे सरल, अपरिवर्तनीय नियमों को खोजना होगा। चाहे आप इंसान हों या रोबोट, यदि आप बुद्धिमान बनना चाहते हैं, तो आपको वही करना होगा।

यहाँ क्रिश्चियन डिट्रिच और जेनिफर किन द्वारा लिखित शोध पत्र "The Information-Theoretic Imperative and Compression Efficiency: Why Brains and Deep Networks Converge" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या: अभिसरण का रहस्य (The Convergence Mystery)

यह शोध पत्र तंत्रिका विज्ञान (neuroscience) और आर्टिफिशियल इंटेलिजेंस (AI) में एक मौलिक पहेली को संबोधित करता है: जैविक तंत्रिका नेटवर्क (मस्तिष्क) और इंजीनियर किए गए डीप न्यूरल नेटवर्क (DNNs) इतने अलग आधार (substrates), अनुकूलन गतिकी (optimization dynamics) और विकासवादी इतिहास होने के बावजूद समान प्रतिनिधि संरचनाओं (representational structures) पर क्यों अभिसरित होते हैं?

अवलोकन: प्रदर्शन-अनुकूलित DNNs प्राइमेट वेंट्रल स्ट्रीम प्रतिक्रियाओं (जैसे, CNN फीचर्स इन्फीरियर टेम्पोरल कॉर्टेक्स गतिविधि की भविष्यवाणी करते हैं) की मात्रात्मक भविष्यवाणी करते हैं। दोनों प्रणालियाँ स्पार्स कोडिंग (sparse coding), पदानुक्रमित अमूर्तता (hierarchical abstraction), और नगण्य रूपांतरणों (nuisance transformations) के प्रति अपरिवर्तनीयता (invariance) प्रदर्शित करती हैं।
अंतराल (The Gap): मौजूदा स्पष्टीकरण (साझा प्राकृतिक छवि सांख्यिकी, कार्य संरचना, या आर्किटेक्चरल इंडक्टिव बायस जैसे कि कन्वेल्यूशन) अपर्याप्त हैं। वे यह समझाने में विफल रहते हैं कि क्यों अलग-अलग बाधाओं वाले सिस्टम (जीव विज्ञान में चयापचय सीमाएं/स्थानीय प्लास्टिसिटी बनाम AI में प्रचुर कंप्यूट/बैकप्रोपैगेशन) समान समाधानों पर पहुँचते हैं।
मुख्य प्रश्न: कौन सा सबस्ट्रेट-स्वतंत्र भौतिक अवरोध (substrate-independent physical constraint) विकसित और इंजीनियर किए गए दोनों शिक्षण प्रणालियों को समान प्रतिनिधि समाधानों की ओर निर्देशित करता है?

2. कार्यप्रणाली और सैद्धांतिक ढांचा (Methodology and Theoretical Framework)

लेखक दो मुख्य सिद्धांतों पर आधारित एक एकीकृत ढांचे का प्रस्ताव करते हैं: सूचना-सैद्धांतिक अनिवार्यता (Information-Theoretic Imperative - ITI) और संपीड़न दक्षता सिद्धांत (Compression Efficiency Principle - CEP)।

A. सूचना-सैद्धांतिक अनिवार्यता (ITI)

परिभाषा: "सक्रिय बने रहने वाले" (active persisters) निकायों के लिए (वे प्रणालियाँ जो अनिश्चित वातावरण में नियमन के माध्यम से संगठित अवस्थाओं को बनाए रखती हैं), सीमित संसाधनों (ऊर्जा, स्मृति, समय) के तहत अस्तित्व बनाए रखना भविदात्मक संपीड़न (predictive compression) की ओर एक मजबूत चयन दबाव बनाता है।
तर्क: जीवित रहने के लिए, एक प्रणाली को भविष्य की अवस्थाओं की भविष्यवाणी करनी चाहिए। सीमित संसाधनों के तहत, कच्चा इतिहास (raw history) संग्रहीत करना असंभव है; प्रणाली को भविष्यवाdien प्रासंगिकता को संरक्षित करने के लिए संवेदी डेटा को एक संक्षिप्त आंतरिक संरचना में संपीड़ित करना होगा।
क्षेत्र: यह जैविक विकास (चयापचय बजट) और AI प्रशिक्षण (कंप्यूट/डेटा बजट) दोनों पर लागू होता है।

B. संपीड़न दक्षता सिद्धांत (CEP)

परिभाषा: वितरण बदलावों (distribution shifts - वातावरण, संदर्भ, या शासन में परिवर्तन) के तहत, कुशल संपीड़न "शॉर्टकट" (बदलाव-अस्थिर सहसंबंधों) को दंडित करता है और बदलाव-स्थिर अपरिवर्तनीयताओं (shift-stable invariants) को प्राथमिकता देता है।
तंत्र (The "Exception Tax"):
- शॉर्टकट (Shortcuts): उन सहसंबंधों पर निर्भर प्रतिनिधित्व जो विभिन्न वातावरणों में बदलते हैं (जैसे, एक वस्तु वर्ग के साथ सहसंबंधित बैकग्राउंड टेक्सचर), एक बढ़ते हुए "अपवाद कर" (exception tax) का कारण बनते हैं। औपचारिक रूप से, यह पर्यावरणीय विविधता ( $E$ ) के सापेक्ष रैखिक अतिरिक्त कोडलेंथ (linear excess codelength/regret) के रूप में प्रकट होता है।
- इनवेरियंट्स (Invariants): बदलाव-स्थिर संरचना (जैसे, प्रकाश व्यवस्था के बावजूद वस्तु का आकार) को एनकोड करने वाले प्रतिनिधित्व अनुकूलन लागत को कम करते हैं। वे केवल उप-रैखिक पछतावा (sublinear regret) ही वहन करते हैं (जो अनुमान त्रुटि द्वारा नियंत्रित होता है, न कि पैच संचय द्वारा)।
क्रॉसओवर ( $E^*$ ): एक पर्यावरणीय विविधता थ्रेशोल्ड ( $E^*$ ) मौजूद है जिसके बाद, पर्यावरण-विशिष्ट "पैच" (शॉर्टकट) बनाए रखने की लागत, अपरिवर्तनीय तंत्र को सीखने की संरचनात्मक लागत से अधिक हो जाती है। $E^*$ के बाद, अपरिवर्तनीय प्रतिनिधित्व संपीड़न-कुशल समाधान बन जाते हैं।

C. कारण संबंध सेतु (Causality Bridge - सशर्त)

शोध पत्र स्पष्ट करता है कि केवल अपरिवर्तनीयता (invariance) ही कारणता (causality) की गारंटी नहीं देती है।
शर्त: यदि वातावरण हस्तक्षेप-समृद्ध बदलाव (intervention-rich shifts) (स्वतंत्र कारकों को बाधित करना) प्रदान करता है और लगभग मॉड्यूलर कारण संरचना (Independent Causal Mechanisms - ICM) प्रदर्शित करता है, तो CEP द्वारा चयनित बदलाव-स्थिर अपरिवर्तनीयताएँ कारण तंत्रों (causal mechanisms) के साथ संरेखित होती हैं।
परिणाम: इन स्थितियों के तहत, प्रणाली ऐसे प्रतिनिधित्व सीखती है जो स्थानीय अपडेट और हस्तक्षेप-अपरिवर्तनीय भविष्यवाणी का समर्थन करते हैं।

3. प्रमुख योगदान (Key Contributions)

1. जीव विज्ञान और AI का एकीकरण

यह शोध पत्र मस्तिष्क और AI के अभिसरण के लिए एक एकल भौतिक स्पष्टीकरण प्रदान करता है। यह तर्क देता है कि दोनों प्रणालियाँ भविष्यवाdien संपीड़न के तहत एक ही रेट-डिस्टॉर्शन फ्रंटियर (rate-distortion frontier) का नेविगेशन कर रही हैं।

जीव विज्ञान: चयापचय संबंधी बाधाएं मस्तिष्क को मिसमैच सिग्नलिंग/प्लास्टिसिटी के तीव्र सीमांत लागत (marginal cost) को कम करने के लिए मजबूर करती हैं।
AI: अनुकूलन उद्देश्य (Negative Log-Likelihood) कोडलेंथ को कम करते हैं; वितरण बदलाव शॉर्टकट-आधारित संपीड़न की अक्षमता को उजागर करते हैं।

2. कोडलेंथ और रिग्रेट के माध्यम से संचालन

उच्च-आयामी म्यूचुअल इंफॉर्मेशन (जो इंफॉर्मेशन बॉटलनेक सिद्धांतों में सामान्य है) के बजाय, लेखक सिद्धांत को भविदात्मक कोडलेंथ (predictive codelength) और बदलाव के तहत अतिरिक्त कोडलेंथ (regret) का उपयोग करके संचालित करते हैं।

मीट्रिक: $\Delta L = L_{shifted} - L_{baseline}$ ।
भविष्यवाणी: शॉर्टकट रणनीतियाँ $\Delta L \propto E$ (रैखिक वृद्धि) दिखाती हैं; इनवेरियंट रणनीतियाँ $\Delta L \propto \log E$ या उप-रैखिक वृद्धि दिखाती हैं।

3. जैविक रहस्यों का समाधान

यह ढांचा तीन विशिष्ट जैविक घटनाओं की व्याख्या करता है:

चयापचय बजट: मस्तिष्क की उच्च ऊर्जा लागत मिसमैच सिग्नलिंग/प्लास्टिसिटी के तीव्र सीमांत लागत के तर्क द्वारा न्यायसंगत है; अक्षम रणनीतियों (जिसके लिए निरंतर पुन: पैचिंग की आवश्यकता होती है) को खारिज कर दिया जाता है।
संवेदी दक्षता: प्रारंभिक संवेदी प्रणालियाँ (जैसे, मक्खी के मोशन न्यूरॉन्स) सैद्धांतिक सीमाओं के करीब पहुँचते हैं क्योंकि सख्त संसाधन बजट फ्रंटियर-खोजने वाले अनुकूलन को मजबूर करता है।
वेंट्रल पदानुक्रम (Ventral Hierarchy): V1 से IT तक का क्रम (बढ़ती सहनशीलता/अपरिवर्तनीयता) सक्रिय संवेदन द्वारा उत्पन्न प्राकृतिक बदलाव परिवार के माध्यम से विवरण लंबाई (description length) को कम करने के लिए एक प्रगतिशील निष्कर्षण है।

4. परीक्षण योग्य भविष्यवाणियाँ और असत्यता (Falsifiability)

शोध पत्र चार विशिष्ट, परीक्षण योग्य भविष्यवाणियाँ रेखांकित करता है (अनुभाग 6):

दक्षता-मजबूती युग्मन (Efficiency-Robustness Coupling): फ्रंटियर-सापेक्ष उच्च दक्षता बेहतर आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) मजबूती के साथ सहसंबंधित होनी चाहिए।
रिग्रेट स्केलिंग सेपरेशन (Regret Scaling Separation): "शॉर्टकट-फ्लिपिंग" बदलावों के तहत, शॉर्टकट और इनवेरियंट रणनीतियों के बीच कोडलेंथ का अंतर पर्यावरणीय विविधता ( $E$ ) के साथ रैखिक रूप से बढ़ता है।
$\epsilon$ -ट्रैकिंग: सीखी गई अपरिवर्तनीयताएँ प्रशिक्षण के दौरान अनुभव किए गए विशिष्ट बदलाव परिवार ( $\epsilon$ ) का अनुसरण करती हैं, न कि किसी सार्वभौमिक पूर्वधारणा (universal prior) का।
सक्रिय संवेदन लाभ (Active Sensing Advantage): सक्रिय/इंटरैक्टिव डेटा जनरेशन (समृद्ध $\epsilon$ ) वाली प्रणालियाँ निष्क्रिय प्रणालियों की तुलना में शॉर्टकट निर्भरता को कम करती हैं।

4. परिणाम और साक्ष्य (Results and Evidence)

यह शोध पत्र एक नए डेटासेट को प्रस्तुत करने के बजाय मौजूदा साहित्य का संश्लेषण करता है और नए प्रयोगात्मक प्रोटोकॉल प्रस्तावित करता है।

जैविक साक्ष्य:
- मक्खी के फोटोरिसेप्टर्स: प्राकृतिक उद्दीपनों के तहत लगभग इष्टतम कोडिंग दक्षता प्रदर्शित करते हैं, जो सख्त चयापचय बाधाओं के अनुरूप है।
- वेंट्रल स्ट्रीम: पदानुक्रमित सहनशीलता (V1 $\to$ IT) भविष्यवाdien स्थिरता बनाए रखने के लिए नगण्य भिन्नता को त्यागने की आवश्यकता के साथ संरेखित होती है।
- चयापचय लागत: सिनैप्टिक प्लास्टिसिटी की उच्च लागत "अपवाद कर" (exception tax) परिकल्पना का समर्थन करती है; बार-बार पुनर्गठन करना चयापचय रूप से महंगा है।
AI साक्ष्य:
- शॉर्टकट लर्निंग: DNNs अक्सर स्पूरियस सहसंबंधों (जैसे, टेक्सचर बायस) का लाभ उठाते हैं जो वितरण बदलाव (ImageNet-C, ObjectNet) के तहत विफल हो जाते हैं, जिससे उच्च "रिग्रेट" होता है।
- ऑग्मेंटेशन (Augmentation): डेटा ऑग्मेंटेशन सक्रिय संवेदन के एक इंजीनियर प्रॉक्सी के रूप में कार्य करता है, जो नेटवर्क को बदलाव-स्थिर अपरिवर्तनीयताओं को सीखने के लिए मजबूर करता है।
- ग्रोकिंग (Grokking): वह घटना जहाँ नेटवर्क याद रखने (memorization) से सामान्यीकरण (generalization) की ओर संक्रमण करता है, उसे रैखिक रिग्रेट (पैचिंग) से उप-रैखिक रिग्रेट (इनवेरियंट संरचना) की ओर एक बदलाव के रूप में व्याख्यायित किया जाता है।
- RLHF: मानव फीडबैक से सुदृढीकरण (Reinforcement Learning from Human Feedback) को एक बदलाव परिवार को संकीर्ण करने के रूप में फ्रेम किया गया है, जो संभावित रूप से प्राथमिकता-स्थिर लेकिन बदलाव-नाजुक (shift-fragile) प्रतिनिधित्व की ओर ले जाता है (पालतू बनाने/domestication के समान)।

5. महत्व और निहितार्थ (Significance and Implications)

बुद्धि का भौतिकी (Physics of Intelligence): यह शोध पत्र तर्क देता है कि बुद्धि कार्बन या सिलिकॉन का एक अनूठा गुण नहीं है, बल्कि अनिश्चितता के तहत बने रहने के लिए संगठित पदार्थ का एक भौतिक परिणाम है। संपीड़न आवश्यक हो जाता है, और बदलाव-स्थिरता फायदेमंद हो जाती है।
"ब्लैक बॉक्स" संरेखण से परे: यह मस्तिष्क-AI संरेखण की व्याख्या को "संयोग" या "साझा डेटा" से हटाकर एक "साझा बाधा चैनल" (shared constraint channel) पर ले जाता है। यह सुझाव देता है कि यदि हम समान बाधाओं (सीमित संसाधन + बदलते वातावरण) वाले सिस्टम बनाते हैं, तो वे समान प्रतिनिधित्व पर अवश्य ही अभिसरित होंगे।
AI के लिए डिजाइन सिद्धांत:
- मजबूती में सुधार के लिए, प्रशिक्षण को स्पष्ट रूप से क्रॉस-एनवायरनमेंट रिग्रेट (न कि केवल इन-डिस्ट्रीब्यूशन लॉस) को दंडित करना चाहिए।
- सक्रिय डेटा जनरेशन और विविध बदलाव परिवार कारण तंत्रों की खोज के लिए महत्वपूर्ण हैं।
- ओवरपैरामीट्राइजेशन (Overparameterization) क्रॉसओवर ( $E^*$ ) को विलंबित कर सकता है, जिससे शॉर्टकट लंबे समय तक बने रहते हैं, लेकिन यह मौलिक ट्रेड-ऑफ को समाप्त नहीं करता है।
न्यूरोसाइंस: यह तंत्रिका "रिग्रेट" (इंटीग्रेटेड मिसमैच नेगेटिविटी या अनुकूलन की चयापचय लागत के माध्यम से) को मापने के लिए एक मात्रात्मक ढांचा प्रदान करता है।

निष्कर्ष

यह शोध पत्र तर्क देता है कि मस्तिष्क और डीप नेटवर्क का अभिसरण वितरण बदलाव के तहत भविष्यवाdien संपीड़न द्वारा आकार दिया गया एक सबस्ट्रेट-स्वतंत्र आकर्षण बेसिन (substrate-independent basin of attraction) का प्रमाण है। सूचना-सैद्धांतिक अनिवार्यता भविष्यवाणी की आवश्यकता को लागू करती है, और संपीड़न दक्षता सिद्धांत यह निर्धारित करता है कि बदलते वातावरणों के तहत, केवल वे ही प्रतिनिधित्व जीवित रह सकते हैं जो बदलाव-स्थिर अपरिवर्तनीयताओं (और विशिष्ट स्थितियों के तहत, कारण तंत्रों) को एनकोड करते हैं, क्योंकि वे रैखिक रिग्रेट के "अपवाद कर" से बच सकते हैं। यह ढांचा जैविक बाधाओं (चयापचय) और इंजीनियरिंग उद्देश्यों (लॉस मिनिमाइजेशन) को प्रतिनिधि शिक्षण के एकल भौतिक सिद्धांत में एकीकृत करता है।