🤖 machine learning

Learning to Theorize the World from Observation

विकासात्मक संज्ञानात्मक विज्ञान से प्रेरित, यह शोध पत्र "लर्निंग-टू-थ्योराइज़" (सिद्धांत बनाने की सीख) प्रस्तुत करता है, जो न्यूरल थ्योरलाइज़र (NEO) मॉडल द्वारा प्रतिपादित एक प्रतिमान है, जो स्पष्टीकरण-संचालित सामान्यीकरण को सक्षम करने के लिए कच्चे गैर-पाठ्य अवलोकनों से स्पष्ट, निष्पादन योग्य गुप्त प्रोग्रामों का अनुमान लगाता है।

मूल लेखक: Doojin Baek, Gyubin Lee, Junyeob Baek, Hosung Lee, Sungjin Ahn

प्रकाशित 2026-05-06

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Doojin Baek, Gyubin Lee, Junyeob Baek, Hosung Lee, Sungjin Ahn

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Learning to Theorize the World from Observation" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करते हुए विवरण दिया गया है।

मुख्य विचार: "अनुमान लगाने" से "समझने" तक

कल्पना कीजिए कि आप एक जादूगर को टोपी से खरगोश निकालते हुए देख रहे हैं।

वर्तमान AI (अनुमान लगाने वाला/The Predictor): अधिकांश आधुनिक AI सिस्टम एक बहुत ही सूक्ष्म अवलोकन करने वाले दर्शक की तरह होते हैं। वे उस ट्रिक को हज़ार बार देखते हैं और अनुमान लगाने में बहुत माहिर हो जाते हैं, जैसे, "ठीक है, अगली बार जब जादूगर अपना हाथ हिलाएगा, तो एक खरगोश दिखाई देगा।" वे भविष्य की भविप्ति (prediction) करने में बेहतरीन हैं, लेकिन उन्हें वास्तव में यह नहीं पता होता कि वह ट्रिक कैसे काम करती है। यदि जादूगर टोपी या खरगोश बदल देता है, तो AI भ्रमित हो जाता है।
इस पेपर का दृष्टिकोण (सिद्धांत बनाने वाला/The Theorizer): यह पेपर पूछता है: क्या होगा अगर AI केवल खरगोश का अनुमान न लगाए, बल्कि उसके पीछे के तंत्र (mechanism) को समझ ले? क्या होगा अगर उसे समझ आ जाए, "आह, जादूगर के पास टोपी में एक गुप्त डिब्बा है"? यह सिद्धांत सीखना (Learning to Theorize) है। केवल परिणाम को याद करने के बजाय, AI एक आंतरिक "सिद्धांत" (नियमों का एक समूह) बनाता है जो यह समझाता है कि चीजें क्यों होती हैं।

समस्या: "ब्लैक बॉक्स" बनाम "लेगो सेट"

लेखकों का तर्क है कि वर्तमान AI मॉडल ब्लैक बॉक्स की तरह हैं। वे एक इनपुट लेते हैं (बिल्ली की तस्वीर) और एक आउटपुट देते हैं (कुत्ते की तस्वीर), लेकिन उनके अंदर का रूपांतरण गणित की एक उलझी हुई गांठ की तरह होता है।

उलझी हुई गांठ: यदि आप AI को एक नई ट्रिक दिखाते हैं (जैसे, कुत्ते का बिल्ली में बदलना), तो वह विफल हो जाता है क्योंकि उसने कभी व्यक्तिगत चरणों को नहीं सीखा; उसने केवल विशिष्ट "बिल्ली-से-कुत्ता" वाली गांठ को याद किया था।
लेगो सेट (Lego Set): लेखक चाहते हैं कि AI एक बच्चे की तरह सीखे जो लेगो ब्रिक्स (Lego bricks) के साथ खेल रहा है। एक पूरा किला याद रखने के बजाय, बच्चा व्यक्तिगत ईंटों (दीवारें, खिड़कियाँ, छतें) और उन्हें आपस में जोड़ने के तरीके को सीखता है। यदि बच्चा एक नया किला देखता है, तो वह उसे बना सकता है क्योंकि वह ईंटों को समझता है, न कि इसलिए कि उसने उस विशिष्ट किले को याद किया है।

समाधान: "न्यूरल थ्योराइज़र" (NEO)

इसे साकार करने के लिए, शोधकर्ताओं ने एक नया AI मॉडल बनाया जिसे NEO (Neural Theorizer) कहा जाता है। यह कैसे काम करता है, इसे खाना पकाने की उपमा से समझते हैं:

सामग्री (प्रिमिटिव्स/Primitives): कल्पना कीजिए कि आपको केक बनते हुए देखने का एक वीडियो दिया गया है, लेकिन आपको रेसिपी नहीं बताई गई है। आप केवल कच्चे आटे को केक में बदलते हुए देखते हैं। NEO का काम बुनियादी "सामग्री" या "चालों" (जैसे, "मिलाना", "गर्म करना", "चीनी डालना") का पता लगाना है। इसे ये शब्द पहले से नहीं पता; यह इन्हें अपने आप खोज लेता है।
रेसिपी (प्रोग्राम): एक बार जब NEO बुनियादी चालों को खोज लेता है, तो वह उन्हें एक क्रम (प्रोग्राम) में व्यवस्थित करने की कोशिश करता है जो आटे को केक में बदल दे।
"सबसे छोटा रास्ता" नियम (MDL): NEO एक नियम का पालन करता है जिसे मिनिमम डिस्क्रिप्शन लेंथ (Minimum Description Length) कहा जाता है। इसे एक सख्त संपादक के रूप में सोचें। यदि NEO केक को तीन चरणों में समझा सकता है, तो वह दस चरणों का उपयोग नहीं करेगा। यह सबसे सरल, सबसे कुशल रेसिपी खोजने की कोशिश करता है। यह इसे वास्तविक मौलिक चालों को खोजने के लिए मजबूर करता है, न कि जटिल, अनावश्यक चरण बनाने के लिए।

उन्होंने इसका परीक्षण कैसे किया: "OTIB" बेंचमार्क

इसे सिद्ध करने के लिए, उन्होंने OTIB (Observation-to-Theory Induction Benchmark) नामक एक परीक्षण बनाया। उन्होंने AI को कोई निर्देश, लेबल या "सही उत्तर" नहीं दिए। उन्होंने बस "पहले" और "बाद के" चित्रों के जोड़े दिए (जैसे कि एक ग्रिड वर्ल्ड जहाँ एक ब्लॉक हिलता है, या संख्याएँ जिन्हें गुणा किया जाता है)।

उन्होंने AI का तीन तरीकों से परीक्षण किया:

वही पुराना सामान: क्या यह उस ट्रिक को समझा सकता है जिसे इसने प्रशिक्षण के दौरान देखा था? (आसान)
नया मिश्रण: क्या यह एक ऐसी ट्रिक को समझा सकता है जिसे इसने कभी नहीं देखा, लेकिन जो उन्हीं बुनियादी चालों से बनी है? (उदाहरण के लिए, यदि इसने "ऊपर जाना" और "दाएं जाना" सीखा है, तो क्या यह "ऊपर-दाएं जाना" समझ सकता है?)
लंबी अवधि: क्या यह एक ऐसी ट्रिक को समझा सकता है जो इसके द्वारा देखी गई किसी भी चीज़ से बहुत लंबी है? (उदाहरण के लिए, यदि इसने 3-चरणीय ट्रिक्स सीखी हैं, तो क्या यह 10-चरणीय ट्रिक को समझ सकता है?)

परिणाम: यह क्यों मायने रखता है

परिणाम स्पष्ट थे:

पुराने AI मॉडल: वे "वही पुराने सामान" के लिए बेहतरीन थे लेकिन नए मिश्रणों और लंबी ट्रिक्स में पूरी तरह विफल रहे। वे केवल पैटर्न को याद कर रहे थे, नियमों को नहीं समझ रहे थे।
NEO (द थ्योराइज़र): यह नए मिश्रणों और लंबी ट्रिक्स में उत्कृष्ट रहा। क्योंकि इसने "लेगो ब्रिक्स" (प्रिमिटिव्स) को खोज लिया था और उन्हें आपस में जोड़ना सीख लिया था, इसलिए यह उन चीजों के लिए भी स्पष्टीकरण बना सकता था जिन्हें इसने पहले कभी नहीं देखा था।

"अहा!" क्षण (The "Aha!" Moment):
पेपर दिखाता है कि NEO ने केवल उत्तर को याद नहीं किया; इसने वास्तव में दुनिया के छिपे हुए "व्याकरण" को खोज लिया। उदाहरण के लिए, एक गणित कार्य में, इसने पता लगाया कि दुनिया "2 से गुणा करें", "3 से गुणा करें", आदि से बनी है, भले ही इसे ये शब्द कभी नहीं बताए गए थे। फिर इसने उन बिल्डिंग ब्लॉक्स का उपयोग उन जटिल गणितीय समस्याओं को हल करने के लिए किया जिनका इसने पहले कभी सामना नहीं किया था।

सारांश

यह पेपर AI के सीखने के एक नए तरीके का परिचय देता है। केवल एक भविष्यवक्ता होने के बजाय जो यह अनुमान लगाता है कि आगे क्या होगा, AI एक वैज्ञानिक बन जाता है। यह दुनिया को देखता है, जटिल घटनाओं को सरल, पुन: प्रयोज्य बिल्डिंग ब्लॉक्स में तोड़ता है, और दुनिया कैसे काम करती है, इसे समझाने के लिए अपना स्वयं का "सिद्धांत" (एक प्रोग्राम) लिखता है। यह इसे उन सरल नियमों को पुनर्संयोजित करके नई, अजीब स्थितियों को समझने की अनुमति देता है जिन्हें यह पहले से जानता है, ठीक वैसे ही जैसे एक मानव बच्चा सोचने के लिए सीखता है।

तकनीकी सारांश: अवलोकन से दुनिया के सिद्धांत को सीखना

1. समस्या विवरण

समकालीन AI विश्व मॉडल मुख्य रूप से "समझ" को लेटेंट या ऑब्जर्वेशन स्पेस में भविष्य की अवस्थाओं का सटीक अनुमान लगाने की क्षमता के रूप में संचालित करते हैं। हालाँकि, विकासात्मक संज्ञानात्मक विज्ञान (developmental cognitive science) यह सुझाव देता है कि मानवीय समझ केवल भविष्यवाणी से नहीं, बल्कि दुनिया कैसे काम करती है इसके आंतरिक, पुन: प्रयोज्य सिद्धांतों (theories) के निर्माण से उभरती है, जो अक्सर भाषा अधिग्रहण से पहले ही हो जाती है। यह "थ्योरी-थ्योरी" (theory-theory) प्रतिपादित करती है कि संज्ञान (cognition) में देखे गए घटनाओं के लिए संरचित, कंपोजिशनल स्पष्टीकरणों की खोज शामिल है।

वर्तमान AI प्रणालियों में एक महत्वपूर्ण अंतर मौजूद है: वे भविष्यवाणी या पुनर्निर्माण के लिए अनुकूलित हैं, और अक्सर उलझे हुए मिश्रित रूपांतरणों (entangled composite transformations) को सीख लेती हैं जो सहसंबंधों (correlations) को तो पकड़ते हैं लेकिन उनमें व्यवस्थित सामान्यीकरण (systematic generalization) के लिए आवश्यक कंपोजिशनल संरचना का अभाव होता है। ये मॉडल स्पष्ट, पुन: प्रयोज्य तंत्रों की खोज करने में विफल रहते हैं जो यह समझा सकें कि अवलोकन कैसे और क्यों उत्पन्न होते हैं, जिससे वे वितरण बदलाव (distribution shifts) या ज्ञात कारकों के नवीन संयोजनों (novel compositions) के सामने आते समय भंगुर (brittle) हो जाते हैं।

मुख्य समस्या जिसे संबोधित किया गया है वह है: क्या एक कृत्रिम प्रणाली केवल कच्चे, गैर-भाषाई संवेदी इनपुट के अवलोकन मात्र से दुनिया के स्पष्ट व्याख्यात्मक सिद्धांतों का निर्माण करना सीख सकती है, बिना भाषा, कार्य लेबल, या ग्राउंड-ट्रुथ प्रोग्राम पर्यवेक्षण पर निर्भर हुए?

2. कार्यप्रणाली: लर्निंग-टू-थ्योराइज़ (L2T) और NEO

लेखक लर्निंग-टू-थ्योराइज़ (L2T) प्रस्तावित करते हैं, जो एक लर्निंग प्रतिमान (paradigm) है जहाँ मॉडल कच्चे अवलोकन युग्मों $(x, y)$ से निष्पादनीय, कंपोजिशनल प्रोग्राम (सिद्धांत) निकालते हैं। एक सिद्धांत को एक स्रोत अवलोकन $x$ को लक्ष्य $y$ में बदलने वाले पुन: प्रयोज्य प्रिमिटिव ऑपरेशंस (primitive operations) के अनुक्रम के रूप में परिभाषित किया गया है।

L2T को क्रियान्वित करने के लिए, पेपर न्यूरल थ्योराइज़र (NEO) पेश करता है, जो एक संभाव्य न्यूरल मॉडल है जिसके निम्नलिखित मुख्य घटक हैं:

2.1. संभाव्य ढांचा (Probabilistic Framework)

NEO एक डिस्क्रीट प्रोग्राम $\tau$ (प्रिमिटिव्स का एक अनुक्रम) और एक एक्जीक्यूशन ट्रेस $s$ जैसे लेटेंट वेरिएबल्स को पेश करके सशर्त संभावना $p_\theta(y | x)$ को मॉडल करता है। मॉडल एक जेनेरेटिव प्रक्रिया मानता है जहाँ एक एनकोडर $x$ को एक प्रारंभिक लेटेंट अवस्था में मैप करता है, एक "थ्योरी प्रोग्रामर" क्रमिक रूप से प्रिमिटिव्स का चयन करता है, और एक साझा ट्रांजिशन मॉडल इन प्रिमिटिव्स को निष्पादित करता है ताकि अंतिम अवस्था उत्पन्न की जा सके, जिसे $y$ को पुनर्गठित करने के लिए डिकोड किया जाता है।

2.2. लर्नड लैंग्वेज ऑफ थॉट (Learned Language of Thought)

एक पूर्व-निर्धारित प्रतीकात्मक भाषा का उपयोग करने के बजाय, NEO सीधे डेटा से एक लैंग्वेज ऑफ थॉट सीखता है।

प्रिमिटिव्स (Primitives): मॉडल एक वेक्टर-क्वांटाइज्ड (VQ-VAE) कोडबुक के माध्यम से ऑपरेशंस का एक डिस्क्रीट वोकैबुलरी प्रेरित करता है। इन प्रिमिटिव्स का कोई पूर्व-निर्धारित अर्थ नहीं है; उनका अर्थ इस बात से प्राप्त होता है कि वे लेटेंट अवस्थाओं को कैसे रूपांतरित करते हैं।
कंपोजिशन (Composition): थ्योरी प्रोग्रामर $q_\phi(z_{ik} | s_k, y)$ एक गोल-कंडीशन्ड पॉलिसी के रूप में कार्य करता है, जो लेटेंट अवस्था को लक्ष्य $y$ की ओर ले जाने के लिए अगले प्रिमिटिव का चयन करता है। यह मॉडल को स्पष्ट पर्यवेक्षण के बिना संरचित प्रोग्रामों में प्रिमिटिव्स को कंपोज करने की अनुमति देता है।

2.3. मिनिमम डिस्क्रिप्शन लेंथ (MDL) सिद्धांत

अति-विघटन (over-decomposition - अनावश्यक रूप से लंबे प्रोग्राम बनाना) को रोकने और प्रिमिटिव्स के सबसे पुन: प्रयोज्य सेट की खोज को प्रोत्साहित करने के लिए, NEO MDL सिद्धांत का उपयोग करता है। मॉडल एक इष्टतम प्रोग्राम लंबाई $k^*$ चुनता है जो पुनर्निर्माण सटीकता और प्रोग्राम संक्षिप्तता के बीच संतुलन बनाता है:
$k^* = \arg \min_{k} \lambda_{MDL}^k \cdot \ell(y, \hat{y}_k)$
यह तंत्र मॉडल को सबसे संक्षिप्त सटीक स्पष्टीकरण खोजने के लिए प्रेरित करता है, जो स्वाभाविक रूप से उलझे हुए अनुक्रमों को याद रखने के बजाय मौलिक प्रिमिटिव्स की खोज को प्राथमिकता देता है।

2.4. स्टेट ग्राउंडिंग (State Grounding)

एक प्रमुख नवाचार स्टेट ग्राउंडिंग है। यह सुनिश्चित करने के लिए कि मध्यवर्ती लेटेंट अवस्थाएँ वैध अवलोकनों के अनुरूप हों (मॉडल को ऐसे "शॉर्टकट" ट्रांजिशन सीखने से रोकने के लिए जो डेटा मैनिफोल्ड से भटक जाते हैं), NEO मध्यवर्ती अवस्थाओं पर एक डिकोड-एनकोड कंसिस्टेंसी लॉस लागू करता है। यह सुनिश्चित करता है कि अनुमानित प्रोग्राम में प्रत्येक चरण, सीखे गए लेटेंट स्पेस के भीतर एक सार्थक रूपांतरण है।

2.5. इन्फरेंस और टेस्ट-टाइम स्केलिंग

टेस्ट टाइम पर, NEO एक सिद्धांत का अनुमान लगाने के लिए तब तक प्रिमिटिव्स का क्रमिक चयन करता है जब तक कि पुनर्निर्माण त्रुटि एक थ्रेशोल्ड से नीचे न गिर जाए। क्योंकि मॉडल एक कंपोजिशनल संरचना सीखता है, यह लेंथ जनरलाइजेशन (प्रशिक्षण के दौरान देखे गए प्रोग्रामों से लंबे प्रोग्रामों को संभालना) का समर्थन करता है। इसके अलावा, थ्योरी प्रोग्रामर की संभाव्य प्रकृति टेस्ट-टाइम सर्च (NEO-S) को सक्षम बनाती है, जहाँ जटिल, अनदेखे संयोजनों पर सटीकता में सुधार के लिए कई उम्मीदवार सिद्धांतों को सैंपल किया जाता है और बहुमत मतदान (majority voting) के माध्यम से चुना जाता है।

3. मूल्यांकन: ऑब्जर्वेशन-टू-थ्योरी इंडक्शन बेंचमार्क (OTIB)

लेखक OTIB पेश करते हैं, जो यह मूल्यांकन करने के लिए डिज़ाइन किया गया है कि क्या मॉडल प्रोग्राम पर्यवेक्षण के बिना कच्चे अवलोकनों से पुन: प्रयोज्य सिद्धांत निकाल सकते हैं।

सेटअप: प्रशिक्षण डेटा उन अवलोकन युग्मों से बना है जो लेटेंट प्रोग्राम द्वारा उत्पन्न होते हैं। प्रशिक्षण सेट में संभावित प्रोग्राम संयोजनों का एक अंश $\alpha$ शामिल है, जबकि शेष को होल्ड-आउट (Compositional Out-of-Distribution) के रूप में रखा गया है।
मेट्रिक्स: प्रदर्शन को सेल्फ-एक्सप्लेनेबिलिटी (सपोर्ट पेयर से लक्ष्य का पुनर्निर्माण) और ट्रांसफरेबिलिटी (एक नए क्वेरी इनपुट $x'$ पर $y'$ की भविष्यवाणी करने के लिए अनुमानित सिद्धांत को लागू करना) द्वारा मापा जाता है। ट्रांसफरेबिलिटी वह महत्वपूर्ण मीट्रिक है जो यह निर्धारित करती है कि क्या एक पुन: प्रयोज्य सिद्धांत सीखा गया है या केवल एक इंस्टेंस-विशिष्ट मैपिंग।
डोमेन: बेंचमार्क को तीन डोमेन में स्थापित किया गया है:
1. GridWorld: मोशन प्रिमिटिव्स के साथ 10x10 ग्रिड।
2. अरिथमेटिक फैक्टराइजेशन: प्राइम नंबर्स द्वारा गुणा के माध्यम से पूर्णांक रूपांतरण।
3. इमेज एडिटिंग: रोटेशन, ब्राइटनेस और मास्किंग जैसे ऑपरेशंस द्वारा रूपांतरित CIFAR-10 इमेज।

4. मुख्य परिणाम

प्रयोगों से पता चलता है कि NEO सभी सेटिंग्स में मोनोलिथिक बेसलाइन्स (डिस्क्रीट/कंटीन्यूअस VQ-VAEs और $\beta$ -VAEs) की तुलना में काफी बेहतर प्रदर्शन करता है:

कंपोजिशनल जनरलाइजेशन: जबकि बेसलाइन्स उच्च इन-डिस्ट्रीब्यूशन प्रदर्शन प्राप्त करते हैं, वे कंपोजिशनल OOD कार्यों पर लगभग शून्य ट्रांसफरेबिलिटी के साथ ढह जाते हैं। NEO उच्च ट्रांसफरेबिलिटी बनाए रखता है (जैसे, GridWorld OOD पर ~0.93), जो यह सिद्ध करता है कि यह इनपुट-आउटपुट मैपिंग को याद करने के बजाय पुन: प्रयोज्य प्रिमिटिव्स सीखता है।
लेंथ जनरलाइजेशन: NEO सफलतापूर्वक उन प्रोग्रामों की लंबाई तक सामान्यीकरण करता है जो प्रशिक्षण के दौरान देखे गए प्रोग्रामों से लंबे हैं (जैसे, GridWorld में लंबाई 8, Arithmetic में लंबाई 6), एक ऐसी क्षमता जहाँ बेसलाइन्स पूरी तरह से विफल हो जाते हैं।
प्रिमिटिव डिस्कवरी: विश्लेषण दिखाता है कि NEO वास्तविक ग्राउंड-ट्रुथ प्रिमिटिव सेट को रिकवर करता है, भले ही प्रिमिटिव्स को प्रशिक्षण के दौरान कभी भी अकेले नहीं देखा गया हो (कम $\alpha$ )। मॉडल सफलतापूर्वक उलझे हुए प्रशिक्षण उदाहरणों को परमाणु (atomic), पुन: प्रयोज्य इकाइयों में विघटित करता है।
टेस्ट-टाइम स्केलिंग: NEO-S वेरिएंट, जो इन्फरेंस के दौरान सैंपलिंग-आधारित सर्च का उपयोग करता है, लॉन्ग-होरिज़न कार्यों पर प्रदर्शन को और बढ़ाता है, जो पुष्टि करता है कि कंपोजिशनल संरचना प्रभावी प्रोग्राम एक्सप्लोरेशन को सक्षम करती है।

5. महत्व और दावे

यह पेपर खुद को एक प्रूफ ऑफ कॉन्सेप्ट के रूप में प्रस्तुत करता है, जो AI लर्निंग ऑब्जेक्टिव्स में एक बदलाव की ओर इशारा करता है: भविष्यवाणी-केंद्रित विश्व मॉडलों से व्याख्या-संचालित, कंपोजिशनल समझ की ओर।

सैद्धांतिक योगदान: यह इस परिकल्पना को मान्य करता है कि संरचित, कंपोजिशनल सिद्धांत कच्चे, गैर-मौखिक अवलोकनों से बिना प्रतीकात्मक पर्यवेक्षण के प्रेरित किए जा सकते हैं, जो AI लर्निंग ऑब्जेक्टिव्स को विकासात्मक संज्ञानात्मक विज्ञान से "बेबी एज अ साइंटिस्ट" (बच्चा एक वैज्ञानिक के रूप में) दृष्टिकोण के साथ संरेखित करता है।
मेथोडोलॉजिकल योगदान: यह प्रदर्शित करता है कि सिद्धांतों को निष्पादित प्रोग्रामों के रूप में प्रस्तुत करना, जिसमें सीखे गए प्रिमिटिव्स और ग्राउंडेड इंटरमीडिएट स्टेट्स शामिल हैं, एक व्यवस्थित सामान्यीकरण को सक्षम करता जिसे मोनोलिथिक लेटेंट रिप्रजेंटेशन प्राप्त नहीं कर सकते।
सीमित दायरा: लेखक स्पष्ट रूप से सीमाओं को स्वीकार करते हैं। वर्तमान फॉर्मूलेशन छोटे, डिस्क्रीट प्रिमिटिव सेट्स और छोटे प्रोग्राम लेंथ को मानता है, जो अत्यधिक जटिल, निरंतर या स्टोकेस्टिक वास्तविक दुनिया की गतिशीलता के लिए स्केलेबिलिटी को सीमित करता है। प्रयोग नियंत्रित सिंथेटिक बेंचमार्क तक सीमित हैं। इस कार्य को एक कार्यान्वयन-तैयार सिस्टम के बजाय लर्निंग मैकेनिज्म के एक मौलिक अध्ययन के रूप में प्रस्तुत किया गया है।

निष्कर्षतः, यह पेपर तर्क देता है कि लर्निंग को "लर्निंग-टू-थ्योराइज़" के रूप में फ्रेम करके, AI सिस्टम पुन: प्रयोज्य, कंपोजिशनल और नवीन घटनाओं के प्रति सामान्यीकृत होने में सक्षम आंतरिक व्याख्यात्मक संरचनाएं प्राप्त कर सकते हैं, जिससे वे मशीन अंडरस्टैंडिंग की एक समृद्ध धारणा के करीब पहुँच सकते हैं।