📊 statistics

Learning to Extrapolate to New Tasks: A Relational Approach to Task Extrapolation

यह शोध पत्र रिलेशनल टास्क एक्सट्रपलेटर (RTE) को प्रस्तुत करता है, जो एक ऐसा एल्गोरिदम है जो ज्ञात एंकर कार्यों और लक्ष्य कार्यों के बीच रिलेशनल ट्रांसफॉर्मेशन सीखने के माध्यम से अनदेखे कार्यों में व्यवस्थित सामान्यीकरण (सिस्टमैटिक जनरलाइजेशन) सक्षम बनाता है, जिससे यह आउट-ऑफ-रेंज पैरामीटर्स, बढ़ी हुई गहराई, या नवीन कंपोजिशन वाले फंक्शन और सीक्वेंस प्रेडिक्शन परिदृश्यों में मौजूदा विधियों से बेहतर प्रदर्शन करता है।

मूल लेखक: Adam Ousherovitch, Yixin Wang

प्रकाशित 2026-05-29

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Adam Ousherovitch, Yixin Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को लक्ष्यों पर तोप चलाने के लिए सिखा रहे हैं।

समस्या: "सेफ ज़ोन" का जाल
वर्तमान में, अधिकांश AI मॉडल उन छात्रों की तरह हैं जो केवल विशिष्ट प्रश्नों को रटकर परीक्षा की तैयारी करते हैं। यदि आप उनसे ऐसा प्रश्न पूछते हैं जिसे उन्होंने पहले देखा है, या जो उनके देखे गए प्रश्न के बहुत समान है, तो वे 'A' ग्रेड प्राप्त करते हैं। लेकिन यदि आप उनसे थोड़ा अलग प्रश्न पूछते हैं—जैसे कि उन्हें एक ऐसे लक्ष्य पर निशाना लगाने के लिए कहना जो उनके अभ्यास किए गए किसी भी लक्ष्य से 10% अधिक दूर है—तो वे अक्सर पूरी तरह से विफल हो जाते हैं।

यहाँ तक कि आधुनिकतम स्मार्ट AI (जैसे वे जो कोड लिखते हैं या आपसे चैट करते हैं) भी इसमें संघर्ष करते हैं। वे "इंटरपोलेशन" (जो वे जानते हैं उसके बीच के अंतराल को भरने) में बेहतरीन हैं, लेकिन "एक्सट्रपलेशन" (अपनी ट्रेनिंग की सीमाओं के बाहर क्या होता है, इसका अनुमान लगाने) में बेहद खराब हैं। वे दुनिया के अंतर्निlying नियमों को समझने के बजाय रटे हुए पैटर्न पर निर्भर रहते हैं।

समाधान: "रिलेशनल टास्क एक्सट्रपलेटर" (RTE)
इस शोध पत्र के लेखक AI को सिखाने का एक नया तरीका प्रस्तावित करते हैं, जिसे RTE कहा जाता है। हर संभव लक्ष्य को रटने के बजाय, RTE AI को यह सिखाता है कि कार्य एक-दूसरे में कैसे बदलते हैं।

इसे इस प्रकार समझें:

पुराना तरीका (इंडक्टिव): AI 30 mph, 40 mph और 50 mph की गति से चलाई गई तोप के गोले के सटीक पथ को रटने की कोशिश करता है। जब उसे 65 mph की गति पर निशाना लगाने के लिए कहा जाता है, तो वह घबरा जाता है क्योंकि उसके पास उस गति के लिए कोई डेटा नहीं होता।
नया तरीका (RTE/रिलेशनल): AI गतियों के बीच के संबंध को समझता है। वह महसूस करता है, "यदि मैं गति को 10 mph बढ़ाता हूँ, तो तोप का गोला 20% अधिक दूर जाएगा।"
- परीक्षण के समय, जब उसे 65 mph की गति पर निशाना लगाने के लिए कहा जाता है, तो AI शून्य से अनुमान नहीं लगाता। इसके बजाय, वह कहता है: "ठीक है, मैं जानता हूँ कि 60 mph की गति पर लक्ष्य कैसे भेदना है (यह मेरा एंकर/Anchor है)। मुझे वह ट्रांसफॉर्मेशन (नियम) भी पता है जो 60 mph वाले शॉट को 65 mph वाले शॉट में बदल देता है। मैं उस नए शॉट को हल करने के लिए अपने 60 mph वाले ज्ञान पर उस नियम को लागू करूँगा।"

यह कैसे काम करता है: "एंकर और शिफ्ट" रणनीति
यह शोध पत्र तीन मुख्य परिदृश्यों का उपयोग करके इसे समझाता है:

पैरामीटर एक्सट्रपलेशन (सेटिंग्स बदलना):
- उपमा: कल्पना कीजिए कि आप जानते हैं कि 1 कप चीनी के साथ केक कैसे बनाया जाता है। अब आप 1.5 कप चीनी के साथ केक बनाना चाहते हैं।
- RTE दृष्टिकोण: बेकिंग को नए सिरे से सीखने के बजाय, AI "1 कप वाला केक" (एंकर) लेता है और "प्लस 0.5 कप" का नियम (ट्रांसफॉर्मेशन) लागू करके नए परिणाम की भविष्यवाणी करता है।
लेंथ एक्सट्रपलेशन (इसे लंबा बनाना):
- उपमा: आप जानते हैं कि 5 शब्दों वाला वाक्य कैसे लिखा जाता है। आपको 9 शब्दों वाला वाक्य लिखना है।
- RTE दृष्टिकोण: AI 5-शब्दों वाले वाक्य को लेता है (एंकर) और "4 और शब्द जोड़ें" का नियम (ट्रांसफॉर्मेशन) सीखता है ताकि वह विस्तार कर सके, न कि हर संभावित 9-शब्दों वाले वाक्य को रटने के बजाय।
कंपोजिशनल एक्सट्रपलेशन (मिश्रण और मिलान करना):
- उपमा: आप जानते हैं कि सेब छीलना है और केला काटना है। आपने कभी किसी को सेब काटते या केला छीलते नहीं देखा है।
- RTE दृष्टिकोण: AI समझ जाता है कि यह कार्य केवल "छीलना" + "काटना" है। वह "छीलने" के कौशल (एंकर) को लेता है और सेब पर "काटने" के नियम (ट्रांसफॉर्मेशन) को लागू करता है, भले ही उसने पहले कभी इस विशिष्ट संयोजन को न देखा हो।

गुप्त सूत्र: "Task2Vec" (मानचित्र)
इसे सफल बनाने के लिए, AI को सही "एंकर" कार्य खोजने के लिए एक मानचित्र की आवश्यकता होती है। शोध पत्र एक उपकरण का उपयोग करता है जिसे Task2Vec कहा जाता है।

कल्पना कीजिए कि प्रत्येक संभावित कार्य (हर प्रकार का केक, हर वाक्य की लंबाई, अक्षरों की हर स्ट्रिंग) एक मानचित्र पर एक शहर है।
समान कार्य एक-दूसरे के करीब हैं; भिन्न कार्य दूर हैं।
जब AI के सामने एक नया, कठिन कार्य आता है, तो वह अपने मानचित्र को देखता है, अपने सबसे करीबी शहर (एंकर) को ढूंढता है जिसे वह पहले से जानता है, और नए शहर तक पहुँचने की दिशा और दूरी (ट्रांसफॉर्मेशन) की गणना करता है।

उन्होंने क्या पाया
शोधकर्ताओं ने इनका परीक्षण किया:

गणितीय फलन (Math functions): संख्याओं की उस सीमा के बाहर वक्रों (curves) की भविष्यवाणी करना जहाँ AI को प्रशिक्षित किया गया था।
पॉलीनोमियल्स (Polynomials): निम्न-डिग्री वाले समीकरणों का उपयोग करके उच्च-डिग्री वाले समीकरणों की भविष्यवाणी करना।
भाषा मॉडल (LLMs): बड़े भाषा मॉडलों को उन तर्क पहेलियों या कोड जनरेशन में बेहतर बनाना जो उनके प्रशिक्षण के दौरान देखे गए कार्यों से अधिक लंबे या जटिल थे।

परिणाम
प्रत्येक परीक्षण में, RTE पद्धति ने मानक AI मॉडलों की तुलना में काफी बेहतर प्रदर्शन किया।

मानक मॉडल एक "दीवार" से टकरा जाते हैं और प्रशिक्षण से बहुत अलग होने पर विफल हो जाते हैं।
RTE मॉडल "एंकर + ट्रांसफॉर्मेशन" के तरीके का उपयोग करके उस दीवार को सफलतापूर्वक पार कर लेते हैं।

महत्वपूर्ण सीमाएँ (जो शोध पत्र कहता है)
शोध पत्र सावधानीपूर्वक नोट करता है कि RTE कोई जादू नहीं है। यह केवल तभी काम करता है जब:

नया कार्य पुराने कार्यों से संबंधित हो (आप AI को ऐसी समस्या हल करने के लिए नहीं कह सकते जिसमें पूरी तरह से अलग भौतिकी हो जो उसके प्रशिक्षण डेटा में मौजूद ही नहीं है)।
AI के पास शुरू करने के लिए एक अच्छा "एंकर" कार्य खोजने की क्षमता होनी चाहिए।

सारांश
यह शोध पत्र AI को केवल अतीत को रटने के बजाय, परिवर्तन के नियमों को समझने में मदद करने का एक तरीका पेश करता है। AI को यह सिखाकर कि "मैं जानता हूँ कि X कैसे किया जाता है, और मैं जानता हूँ कि X से Y कैसे बनता है," यह प्रणाली उन समस्याओं को हल कर सकती है जिन्हें उसने पहले कभी नहीं देखा, बशर्ते वे समस्याएँ उन्हीं निर्माण खंडों (building blocks) से बनी हों जिन्हें वह पहले से जानता है।

तकनीकी सारांश: नई कार्यों के लिए एक्सट्रपलेशन सीखना: कार्य एक्सट्रपलेशन के लिए एक रिलेशनल दृष्टिकोण

1. समस्या विवरण (Problem Statement)

आधुनिक शिक्षण प्रणालियाँ, जिनमें बड़े पैमाने के फाउंडेशन मॉडल शामिल हैं, अपने प्रशिक्षण वितरण (training distribution) के भीतर इंटरपोलेशन करने में उत्कृष्ट हैं, लेकिन वे अपने समर्थन (support) से बाहर स्थित कार्यों (out-of-support या OOS) में सामान्यीकरण करने में संघर्ष करती हैं। यह विफलता संरचित सेटिंग्स में भी बनी रहती है, जैसे कि प्रशिक्षण सीमा से परे मापदंडों (parameters) वाली फलनों (functions) की भविष्यवाणी करना, कम्पोजिशनल गहराई को बढ़ाना, या ज्ञात प्रिमिटिव्स (primitives) को अनदेखे तरीकों से पुनर्संयोजित करना। वर्तमान मॉडल अक्सर डोमेन के जनरेटिव तंत्र (generative mechanisms) को आंतरिक रूप से समझने के बजाय प्रशिक्षण वितरण से जुड़े ह्यूरिस्टिक्स (heuristics) पर निर्भर करते हैं, जिससे उनके अनुभव की सीमाओं पर संतृप्ति (saturation) आ जाती है।

यह शोध पत्र कार्य एक्सट्रपलेशन (task extrapolation) को एक ऐसे लक्ष्य कार्य के रूप में परिभाषित करता है जहाँ कार्य-निर्धारित संरचना स्वयं प्रशिक्षण समर्थन के बाहर होती है। टास्क एक्सट्रपलेशन को आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) या लेंथ जनरलाइजेशन (length generalization) के विपरीत देखा जाता है, जहाँ परीक्षण इनपुट प्रशिक्षण इनपुट के संघ (unions) या विस्तार होते हैं; टास्क एक्सट्रपलेशन के लिए कार्य संरचना के रूपांतरण के बारे में तर्क करने की आवश्यकता होती है। लेखक तर्क देते हैं कि हालांकि मनमाने ढंग से अनदेखे कार्यों तक एक्सट्रपलेशन करना एक 'इल-पोज़्ड' (ill-posed) समस्या है, फिर भी कई वास्तविक दुनिया के कार्य साझा, अज्ञात संरचनाओं के माध्यम से व्यवस्थित रूप से संबंधित होते हैं।

2. कार्यप्रणाली: रिलेशनल टास्क एक्सट्रपलेटर (RTE)

मुख्य प्रस्ताव रिलेशनल टास्क एक्सट्रपलेटर (RTE) है, जो एक एल्गोरिदम है जो एक्सट्रपलेशन को एक ट्रांसडक्टिव समस्या (transductive problem) के रूप में पुनर्गठित करता है। केंद्रीय अवलोकन यह है कि एक्सट्रपलेशन स्वाभाविक रूप से रिलेशनल है: सफलता इस बात पर निर्भर करती है कि कार्य एक-दूसरे में कैसे रूपांतरित होते हैं।

2.1. मुख्य तंत्र (Core Mechanism)

RTE एक अनदेखे लक्ष्य कार्य $f_{\theta^*}$ को दो घटकों में विभाजित करता है जो प्रशिक्षण के दौरान देखे गए थे:

एक एंकर कार्य ( $f_{anc}$ ): प्रशिक्षण वितरण के भीतर एक परिचित कार्य।
एक रूपांतरण ( $\phi$ ): एक सापेक्ष विवरण जो एंकर को लक्ष्य से जोड़ता है (जैसे, एक पैरामीटर शिफ्ट, एक रिकर्सिव एक्सटेंशन स्टेप, या एक कंपोजिशन ऑपरेटर)।

सीधे कार्य मापदंडों से आउटपुट का मानचित्रण सीखने के बजाय, RTE एक रिलेशनल ऑपरेटर $\Psi$ सीखता है जो एक एंकर-रूपांतरण युग्म को लक्ष्य कार्य के भविष्यवाणियों के साथ मैप करता है:
$\hat{y} = \Psi(x, f_{anc}, \phi)$
यह कठिन आउट-ऑफ-सपोर्ट (OOS) एक्सट्रपलेशन समस्या को एक अधिक सुलभ आउट-ऑफ-कॉम्बिनेशन (OOC) समस्या में बदल देता है। एंकर और रूपांतरण दोनों ही प्रशिक्षण डेटा में व्यक्तिगत रूप से देखे गए हैं, भले ही उनका विशिष्ट संयोजन नया हो।

2.2. तीन एक्सट्रपलेशन रिजीम (Three Extrapolation Regimes)

लेखक तीन कैनोनिकल रिजीम में RTE को लागू करते हैं:

पैरामीटर एक्सट्रपलेशन (सतत/Continuous): कार्य निरंतर मापदंडों द्वारा इंडेक्स किए जाते हैं। रूपांतरण पैरामीटर स्पेस में शिफ्ट हैं ( $\phi = \Delta\theta$ )। ऑपरेटर यह सीखता है कि पैरामीटर शिफ्ट के तहत फंक्शन कर्व्स कैसे विकृत होते हैं।
लेंथ एक्सट्रपलेशन (रिकर्सिव/Recursive): कार्यों को पदानुक्रमित जटिलता (जैसे, बहुपद डिग्री) द्वारा व्यवस्थित किया जाता है। रूपांतरण एक $L-1$ की जटिलता वाले कार्य को $L$ तक विस्तारित करने वाला एक इंडक्टिव स्टेप है (जैसे, एक नया पद जोड़ना)।
कंपोजिशनल एक्सट्रपलेशन (कॉम्बिनेटोरियल/Combinatorial): कार्यों को प्रिमिटिव्स (जैसे, $f \circ g$ ) को संयोजित करके बनाया जाता है। एक घटक एंकर के रूप में कार्य करता है, और दूसरा रूपांतरण तर्क (transformation argument) के रूप में।

2.3. इन्फरेंस और सर्च (Inference and Search)

एक व्यावहारिक चुनौती यह है कि जब टास्क डिस्क्रिप्टर लेटेंट (latent) हों तो एंकर और रूपांतरण का चयन कैसे किया जाए। RTE इसे प्रॉक्सी ज्योमेट्री (Task2Vec एम्बेडिंग का उपयोग करके, जो फिशर इंफॉर्मेशन मैट्रिक्स से प्राप्त होती है) और एक दो-चरणीय प्रक्रिया के माध्यम से संबोधित करता है:

प्रशिक्षण (Training): मॉडल प्रशिक्षण कार्यों के युग्मों $(f_i, f_j)$ पर प्रेडिक्शन एरर को कम करके $\Psi$ सीखता है, जहाँ रूपांतरण $\phi_{ij}$ ज्ञात या अनुमानित है।
इन्फरेंस (Inference):
- कंटीन्यूअस रिजीम: एक ज्यामितीय शॉर्टकट का उपयोग करता है। लक्ष्य संदर्भ (target context) को एम्बेड किया जाता है, और प्रशिक्षण लाइब्रेरी में निकटतम पड़ोसी को एंकर के रूप में चुना जाता है। रूपांतरण को प्रॉक्सी स्पेस में वेक्टर अंतर के रूप में अनुमानित किया जाता है।
- डिस्क्रीट रिजीम (लेंथ/कंपोजिशन): एक एमोर्टाइज्ड सर्च (amortized search) का उपयोग करता है। एक डिकंपोजर नेटवर्क संभावित एंकर-रूपांतरण युग्मों का प्रस्ताव करता है, जिन्हें फिर स्पार्स टारगेट कॉन्टेक्स्ट पर उनकी संभावना या रिकंस्ट्रक्शन एरर का मूल्यांकन करके पुनः रैंक किया जाता है।

2.4. सीक्वेंस मॉडल्स (LLMs) में विस्तार

RTE को LLMs में टास्क एक्सट्रपलेशन को एक सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) समस्या के रूप में फ्रेम करके विस्तारित किया गया है। रिलेशनल ऑपरेटर को एक फाइन-ट्यून्ड इंस्ट्रक्शन-फॉलोइंग मॉडल के रूप में स्थापित किया गया है। टेस्ट टाइम पर, मॉडल को एक एंकर टास्क (डेमोन्स्ट्रेशन), एक ट्रांसफॉर्मेशन डिस्क्रिप्शन (जैसे, "शिफ्ट बिट इंडेक्स 3"), और एक क्वेरी के साथ प्रॉम्प्ट किया जाता है। मॉडल एंकर पर रूपांतरण तर्क को लागू करना सीखता है ताकि लक्ष्य को हल किया जा सके। इन्फरेंस में उम्मीदवार डिकम्पोजिशन पर एक डिस्क्रीट सर्च शामिल है, जो उन्हें स्पार्स कॉन्टेक्स्ट पर मॉडल की संभावना (likelihood) के आधार पर स्कोर करता है।

3. प्रमुख योगदान (Key Contributions)

रिलेशनल टास्क एक्सट्रपलेशन (RTE): एक एल्गोरिद्मिक ढांचा जो एक्सट्रपलेशन को OOC समस्याओं में बदलने के लिए कार्यों के बीच संबंधों का लाभ उठाता है।
एक्सट्रपलेशन रिजीम: पैरामीटर, लेंथ और कंपोजिशनल एक्सट्रपलेशन सेटिंग्स में RTE का औपचारिक इंस्टेंशिएशन।
प्रशिक्षण और इन्फरेंस प्रोटोकॉल: प्रॉक्सी ज्योमेट्री के लिए Task2Vec एम्बेडिंग का उपयोग करके प्रोटोकॉल का विकास और एक्सट्रपलेशन को एक ऑप्टिमाइजेशन समस्या के रूप में तैयार करना। LLMs के लिए, बाह्य संकेतों के बिना सर्च और वेरिफिकेशन के लिए प्रॉक्सी रिवॉर्ड के रूप में स्पार्स कॉन्टेक्स्ट पर लाइक्लीहुड का उपयोग।
अनुभवजन्य सत्यापन (Empirical Validation): सिंथेटिक फंक्शन प्रेडिक्शन कार्यों और LLM बेंचमार्क (Sparse Parity, CodeIO) पर व्यापक मूल्यांकन।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखक RTE का मानक इंडक्टिव बेसलाइन्स और ऑरेकल वेरिएंट्स (जिनके पास ग्राउंड-ट्रुथ डिकम्पोजिशन तक पहुंच है) के विरुद्ध मूल्यांकन करते हैं।

सिंथेटिक फंक्शन प्रेडिक्शन:
- पैरामीटर एक्सट्रपलेशन: इंडक्टिव मॉडल आउट-ऑफ-रेंज मापदंडों पर विनाशकारी रूप से विफल हो जाते हैं (MSE $\approx 10^5$ ) क्योंकि सीमा संतृप्ति (boundary saturation) होती है। RTE एरर को महत्वपूर्ण रूप से कम करता है (MSE $\approx 10^2$ ), जो ऑरेकल प्रदर्शन के करीब पहुँच जाता है।
- लेंथ एक्सट्रपलेशन: RTE उच्च-डिग्री बहुपदों (polynomials) की भविष्यवाणी करने में साधारण बेसलाइन्स की तुलना में काफी बेहतर प्रदर्शन करता है (MSE 0.37 बनाम 0.58), हालांकि अपूर्ण एंकर रिट्रीवल के कारण ऑरेकल की तुलना में एक अंतर बना रहता है।
- कंपोजिशनल एक्सट्रपलेशन: RTE अनदेखे फंक्शन कंपोजिशन पर बेसलाइन्स (0.39) की तुलना में कम एग्रीगेट MSE (0.29) प्राप्त करता है, और अंतर्निहित प्रिमिटिव्स का सफलतापूर्वक अनुमान लगाता है।
LLM प्रयोग:
- स्पार्स पैरिटी (लेंथ): RTE ट्रेनिंग के दौरान अनदेखे सबसेट साइज के लिए सटीकता को 52.86% (बेसलाइन) से बढ़ाकर 66.07% कर देता है, जिससे रिकर्सिव स्ट्रक्चर को रिकवर किया जा सके।
- कोडIO (कंपोजिशन): RTE फ्यू-शॉट (19.8%) और चेन-ऑफ-थॉट (30.2%) बेसलाइन्स की तुलना में सटीकता को लगभग दोगुना (45.3%) कर देता है, जो प्रभावी रूप से मॉडल को वैध एल्गोरिद्मिक चरणों तक सीमित करता है।

5. महत्व और सीमाएं (Significance and Limitations)

यह पेपर दावा करता है कि RTE कार्य स्थानों के रिलेशनल स्ट्रक्चर का लाभ उठाकर सामान्यीकरण के लिए एक व्यवस्थित दृष्टिकोण प्रदान करता है। यह प्रदर्शित करता है कि मॉडल प्रशिक्षण समर्थन से परे एक्सट्रपलेशन कर सकते हैं यदि वे नए कार्यों को ज्ञात घटकों और रूपांतरणों में विघटित (decompose) करना सीख लें।

सीमाएं और भविष्य की दिशाएं:

इन्फरेंस लागत: आदर्श एकल-पास इंडक्टिव मॉडल्स के विपरीत, RTE को इष्टतम डिकम्पोजिशन की पहचान करने के लिए टेस्ट-टाइम कंप्यूटेशन की आवश्यकता होती है।
मैनिफोल्ड डेंसिटी (पहुंच योग्यता): RTE मानता है कि लक्ष्य कार्य एक ऐसे रूपांतरण के माध्यम से सुलभ है जो प्रशिक्षण वितरण में मौजूद है। पूरी तरह से पराई (alien) तंत्र अभी भी अपहुंच योग्य हैं।
पहचान क्षमता (Identifiability): डिस्क्रीट रिजीम में, वर्तमान दृष्टिकोण प्रशिक्षण के दौरान ग्राउंड-ट्रुथ रिलेशनल मेटाडेटा पर निर्भर करता है। हालांकि लेखक एक्सपेक्टेशन-मैक्सिमाइजेशन (EM) के माध्यम से सेल्फ-लेबलिंग का प्रस्ताव करते हैं, लेकिन शून्य से लेटेंट रिलेशनल स्ट्रक्चर को समझना एक खुला प्रश्न बना हुआ है।
मल्टी-स्टेप एक्सट्रपलेशन: हालांकि प्रारंभिक परिणाम इटरेटिव शिफ्ट के साथ सफलता दिखाते हैं, लेकिन संचयी त्रुटियों (compounding errors) के बिना कई रूपांतरणों को जोड़ने के लिए आगे के अनुसंधान की आवश्यकता है।

लेखक इस बात पर जोर देते हैं कि RTE कोई सार्वभौमिक ब्लैक-बॉक्स समाधान नहीं है, बल्कि विशेष रूप से उन डोमेन के लिए डिज़ाइन किया गया है जिनमें अंतर्निहित रिलेशनल स्ट्रक्चर होता है, जो मॉडल्स को सतही हेयुरिस्टिक्स के बजाय जनरेटिव तंत्र को आंतरिक बनाने और पुन: उपयोग करने का मार्ग प्रदान करता है।