🤖 machine learning

Efficiently Learning Branching Networks for Multitask Algorithmic Reasoning

यह शोध पत्र ब्रांचिंग न्यूरल नेटवर्क्स का परिचय देता है, जो एक नवीन आर्किटेक्चर है जो कॉनवेक्स रिलैक्सेशन (convex relaxation) का उपयोग करके कार्यों को पदानुक्रमित रूप से एक वृक्ष संरचना में विभाजित करके मल्टीटास्क एल्गोरिद्मिक तर्क को कुशलतापूर्वक सीखता है, जिससे विभिन्न बेंचमार्क पर प्रदर्शन में उल्लेखनीय सुधार होता है और कम्प्यूटेशनल लागत कम होती है।

मूल लेखक: Dongyue Li, Zhenshuo Zhang, Minxuan Duan, Edgar Dobriban, Hongyang R. Zhang

प्रकाशित 2026-07-15

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Dongyue Li, Zhenshuo Zhang, Minxuan Duan, Edgar Dobriban, Hongyang R. Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कंडक्टर हैं जो एक विशाल ऑर्केस्ट्रा को केवल एक गाना नहीं, बल्कि एक साथ तीस अलग-अलग जटिल सिम्फनी बजाना सिखाने की कोशिश कर रहे हैं। कुछ गाने एक ही धुन साझा करते हैं; कुछ आपस में बुरी तरह टकराते हैं। यदि आप हर संगीतकार को एक ही विशाल शीट संगीत का उपयोग करके एक ही समय में हर गाना बजाने के लिए मजबूर करते हैं, तो परिणाम शोर का एक ढेर होगा। संगीतकार भ्रमित हो जाएंगे, सुर आपस में मिल जाएंगे, और प्रदर्शन खराब हो जाएगा। यह बिल्कुल वही होता है जब शोधकर्ता एक एकल न्यूरल नेटवर्क को कई अलग-अलग "एल्गोरिदम तर्क" (algorithmic reasoning) कार्यों को—जैसे कि भूलभुलैया में सबसे छोटा रास्ता खोजना या संख्याओं की सूची को क्रमबद्ध करना—एक साथ हल करने के लिए प्रशिक्षित करने की कोशिश करते हैं। यह लेख तर्क देता है कि यह "एक-आकार-सभी-के-लिए-उपयुक्त" (one-size-fits-all) दृष्टिकोण हस्तक्षेप (interference) का कारण बनता है, जहाँ एक कार्य का तर्क (जैसे कि Breadth-First Search) दूसरे कार्य (जैसे कि Depth-First Search) के काम में बाधा डालता है, जिससे प्रदर्शन खराब हो जाता है।

लेखक, जो नॉर्थईस्टर्न यूनिवर्सिटी और यूनिवर्सिटी ऑफ पेन्सिलवेनिया की एक टीम है, एक चतुर नया समाधान प्रस्तावित करते हैं जिसे ब्रांचिंग नेटवर्क्स (branching networks) कहा जाता है। ऑर्केस्ट्रा को सब कुछ एक साथ बजाने के लिए मजबूर करने के बजाय, वे एक पेड़ के आकार का कंडक्टर का पोडियम (tree-shaped conductor's podium) बनाते हैं।

यह इस प्रकार काम करता है:

पेड़ की संरचना (The Tree Structure): एक पेड़ की कल्पना करें जहाँ तना प्रदर्शन की शुरुआत है। जैसे-जैसे संगीत आगे बढ़ता है (परत दर परत), पेड़ शाखाओं में विभाजित होता है। कुछ शाखाएं उन कार्यों द्वारा साझा की जाती हैं जो समान हैं, जबकि अन्य उन कार्यों के लिए अलग हो जाती हैं जो पूरी तरह से भिन्न हैं। उदाहरण के लिए, पेपर में पाया गया कि "Breadth-First Search" और "Bellman-Ford" चचेरे भाई की तरह हैं; वे पहले कुछ चरणों के लिए एक ही पथ साझा करते हैं, इसलिए वे एक ही संगीतकारों (न्यूरल नेटवर्क लेयर्स) को साझा कर सकते हैं। लेकिन "Depth-forst Search" एक विद्रोही है जो जल्दी ही एक अलग रास्ता अपना लेता है, इसलिए उसे अपनी खुद की शाखा मिलती है।
जादुई मानचित्र (The Algorithm): आप सोच सकते हैं, "लेकिन आपको कैसे पता चलेगा कि कौन से कार्य किस शाखा पर belong करते हैं? बहुत सारे संयोजन हैं!" लेखक स्वीकार करते हैं कि हर एक संभावना की जांच करना बहुत समय लेगा (जिसकी जटिलता $O(k^n L)$ है, जो एक गणितीय दुःस्वप्न है)। इसके बजाय, उन्होंने एक तेज़, स्मार्ट शॉर्टकट का आविष्कार किया। वे एक ऐसी तकनीक का उपयोग करते हैं जो "ग्रेडिएंट्स" (सोचिए कि ये संगीत के फिंगरप्रिंट या किसी कार्य का मॉडल के प्रति विशिष्ट 'अहसास' हैं) को देखते हैं ताकि यह अनुमान लगाया जा सके कि दो कार्य कितने समान हैं, बिना उन्हें पूरी तरह से प्रशिक्षित किए। यह उन्हें रिकॉर्ड समय में पेड़ का मानचित्र बनाने की अनुमति देता है, जिससे जटिलता घटकर केवल $O(nL)$ रह जाती है। यह एक ऐसे GPS की तरह है जो तुरंत जानता है कि कौन सी सड़कें आपस में मिलती हैं और कहाँ से अलग होती हैं, जिससे हर मार्ग की जांच करने के लिए हर रास्ता चलाने की आवश्यकता नहीं पड़ती।

इस शोध पत्र ने वास्तव में क्या पाया:
शोधकर्ताओं ने इस विचार का परीक्षण CLRS नामक एक प्रसिद्ध बेंचमार्क पर किया, जिसमें 12 अलग-अलग ग्राफ एल्गोरिदम शामिल हैं। उन्होंने पाया कि उनका ब्रांचिंग नेटवर्क, जिसे वे AutoBRANE कहते हैं, एक स्पष्ट विजेता है।

इसने सटीकता में मौजूदा सर्वोत्तम "सिंगल नेटवर्क" प्रयासों को 3.7% से पछाड़ दिया।
इसने अन्य "ब्रांचिंग" प्रयासों को 1.2% से पछाड़ दिया।
लेकिन असली जादू इसकी दक्षता में था: इसने पिछले सर्वोत्तम तरीकों की तुलना में 48% कम समय (GPU घंटे) और 26% कम मेमोरी का उपयोग किया।

वे यहीं नहीं रुके। उन्होंने टेक्स्ट-आधारित तर्क कार्यों के लिए भी इसका परीक्षण किया जो बड़े लैंग्वेज मॉडल्स (जैसे Llama और Qwen) का उपयोग करते हैं। इन विशाल मॉडल्स (34 बिलियन पैरामीटर्स तक) के साथ भी, उनके तरीके ने बेसलाइन की तुलना में सटीकता में 3.2% का सुधार किया। 21 मिलियन किनारों (edges) और 500 विभिन्न कम्युनिटी लेबलिंग कार्यों वाले एक विशाल परीक्षण में, उनके दृष्टिकोण ने सटीकता में 28% की वृद्धि की और अन्य ब्रांचिंग विधियों की तुलना में 4.5 गुना तेज़ी से काम किया।

यह पेपर किन बातों को खारिज करता है:
लेखक इस बारे में बहुत स्पष्ट हैं कि क्या काम नहीं करता है। वे स्पष्ट रूप से इस विचार के विरुद्ध तर्क देते हैं कि एक एकल, सपाट न्यूरल नेटवर्क इन सभी कार्यों को कुशलतापूर्वक संभाल सकता है। उन्होंने दिखाया कि जब आप एक ही नेटवर्क को एक साथ विभिन्न एल्गोरिदम के सभी चरणों को सीखने के लिए मजबूर करते हैं, तो कार्य एक-दूसरे में हस्तक्षेप करते हैं, जिससे मॉडल लड़खड़ा जाता है। उन्होंने इस विचार को भी खारिज कर दिया कि आपको प्रत्येक कार्य के लिए एक पूरी तरह से अलग, विशाल मॉडल की आवश्यकता है, यह नोट करते हुए कि इसके लिए $n$ मॉडल स्टोर करने की आवश्यकता होगी (जहाँ $n$ कार्यों की संख्या है), जो कि मेमोरी के लिहाज से एक आपदा है। उनका ब्रांचिंग ट्री एक "गोल्डिलॉक्स" (Goldilocks) समाधान है: न तो बहुत सख्त (एकल नेटवर्क की तरह), न ही बहुत भारी (n अलग नेटवर्क्स की तरह)।

वे कितने आश्वस्त हैं?
पेपर काफी आत्मविश्वासी है, लेकिन वे अपनी भाषा के प्रति सावधान हैं। उन्होंने आठ अलग-अलग आर्किटेक्चर और कई डेटासेट्स पर इन परिणामों को मापा (measured) है। उन्होंने केवल अनुमान नहीं लगाया; उन्होंने प्रयोग किए।

उन्होंने सिद्ध किया (proved) कि उनके "ग्रेडिएंट-आधारित एफिनिटी" स्कोर (जिस तरह से वे समानता को मापते हैं) एक मॉडल के वास्तविक प्रदर्शन की भविष्यवाणी 5% से कम त्रुटि के साथ कर सकते हैं।
उन्होंने प्रदर्शन किया (demonstrated) कि उनके द्वारा स्वचालित रूप से सीखे गए ट्री स्ट्रक्चर वास्तव में मानवीय अंतर्ज्ञान (human intuition) से मेल खाते हैं कि कौन से एल्गोरिदम समान हैं (जैसे कि सभी "DFS-आधारित" एल्गोरिदम को एक साथ समूहबद्ध करना)।
उन्होंने दिखाया (showed) कि यह तरीका छोटे ग्राफ मॉडल और विशाल लैंग्वेज मॉडल्स दोनों के लिए काम करता है।

यह पेपर सुझाव देता है कि यह दृष्टिकोण AI को चरण-दर-चरण तर्क करने के लिए सिखाने के लिए एक नया द्वार खोलता है, ठीक वैसे ही जैसे एक इंसान विभिन्न प्रकार की पहेलियों को हल करने के लिए यह समझकर सीखता है कि कौन सी पहेलियाँ एक ही अंतर्निहित तर्क साझा करती हैं। यह कोई जादुई छड़ी नहीं है जो सब कुछ तुरंत हल कर देती है, बल्कि यह अराजकता को व्यवस्थित करने का एक अत्यधिक कुशल, गणितीय रूप से ठोस तरीका है। लेखक यह भी उल्लेख करते हैं कि हालांकि उन्होंने ये परिणाम पाए हैं, लेकिन यह गहरा प्रश्न कि कुछ एल्गोरिदम दूसरों की तुलना में सीखना कठिन क्यों होते हैं (जैसे कि क्यों "Prim's algorithm" को "BFS" की तुलना में अधिक प्रशिक्षण नमूनों की आवश्यकता थी) भविष्य के अन्वेषण के लिए एक खुला रहस्य बना हुआ है।

तकनीकी सारांश: ब्रांचिंग नेटवर्क्स को कुशलतापूर्वक सीखना (Efficiently Learning Branching Networks for Multitask Algorithmic Reasoning)

1. समस्या विवरण (Problem Statement)

एल्गोरिद्मिक रीजनिंग (Algorithmic reasoning) में उन चरण-दर-चरण तार्किक अनुमानों (logical inferences) का समावेश होता है जो शास्त्रीय एल्गोरिदम (जैसे, Breadth-First Search, Bellman-Ford) को निष्पादित करने के लिए आवश्यक हैं। जबकि पूर्ववर्ती कार्यों ने एकल एल्गोरिदम के निष्पादन ट्रेसेस (execution traces) की भविष्यवाणी करने के लिए न्यूरल नेटवर्क को सफलतापूर्वक प्रशिक्षित किया है, मल्टीटास्क एल्गोरिद्मिक रीजनिंग (multitask algorithmic reasoning)—यानी कई अलग-अलग एल्गोरिद्मिक कार्यों को एक साथ हल करना—अभी भी कम खोजा गया क्षेत्र है।

विभिन्न एल्गोरिदम के निष्पादन ट्रेसेस के बीच हस्तक्षेप (interference) के कारण एक ही न्यूरल नेटवर्क को कई कार्यों के लिए प्रशिक्षित करना स्वाभाविक रूप से कठिन है। उदाहरण के लिए, जबकि Breadth-First Search (BFS) और Bellman-Ford समान मध्यवर्ती नोड लेबल साझा कर सकते हैं, Depth-First Search (DFS) अक्सर विशिष्ट चरणों पर अलग हो जाता है। एक मोनोलिथिक (monolithic) नेटवर्क, जिसे सभी कार्यों की भविष्यवाणी करने के लिए मजबूर किया जाता है, परस्पर विरोधी ग्रेडिएंट्स (conflicting gradients) से ग्रस्त होता है, जबकि प्रत्येक कार्य के लिए अलग नेटवर्क को प्रशिक्षित करने में अत्यधिक मेमोरी लागत ( $O(n)$ मॉडल $n$ कार्यों के लिए) आती है। मुख्य चुनौती एक ऐसा आर्किटेक्चर डिजाइन करने की है जो सभी संभावित ब्रांचिंग संरचनाओं की व्यापक खोज की कम्प्यूटेशनल जटिलता के बिना, समान कार्यों के बीच विशिष्ट मापदंडों (parameters) को गतिशील रूप से साझा कर सके और असमान कार्यों को अलग कर सके।

2. कार्यप्रणाली: AutoBRANE

लेखक AutoBRANE (Automated BRAnching NEtworks) प्रस्तावित करते हैं, जो एक रिकर्सिव (recursive), ट्री-स्ट्रक्चर्ड ब्रांचिंग नेटवर्क का निर्माण करता है। यह आर्किटेक्चर विभिन्न कार्यों के विशिष्ट उपसमूहों को उनके सीखे गए साम्य (similarity) के आधार पर विशिष्ट परतों (मॉड्यूल्स) को साझा करने की अनुमति देता है, जबकि जहाँ कार्य का तर्क अलग होता है, वहाँ वे अलग मॉड्यूल्स में विभाजित हो जाते हैं।

2.1 मुख्य आर्किटेक्चर (Core Architecture)

नेटवर्क में $L$ परतें होती हैं। एक एकल साझा मॉडल या $n$ अलग-अलग मॉडलों के बजाय, आर्किटेक्चर प्रत्येक परत पर $n$ कार्यों के विभाजन को सीखता है।

ब्रांचिंग लॉजिक (Branching Logic): समान मध्यवर्ती निष्पादन चरणों वाले कार्य एक दिए गए स्तर पर एक ही न्यूरल नेटवर्क मॉड्यूल (जैसे, एक GNN लेयर या एक LoRA एडैप्टर) को साझा करते हैं।
स्केलेबिलिटी (Scalability): $L$ परतों पर एक $k$ -ary ट्री संरचना के लिए एक नाइव (naive) खोज में $O(k^{nL})$ जटिलता की आवश्यकता होगी। AutoBRANE इसे एक टॉप-डाउन, लेयर-वाइज विभाजन रणनीति का उपयोग करके $O(nL)$ तक कम कर देता है।

2.2 तीव्र सन्निकटन प्रक्रिया (The Fast Approximation Procedure)

मुख्य नवाचार एक कुशल एल्गोरिदम है जो प्रत्येक संभावित उपसमूह के लिए अलग-अलग मॉडल प्रशिक्षित किए बिना कार्यों के विभाजनों को निर्धारित करता है। यह प्रक्रिया लॉस लैंडस्केप (loss landscape) के प्रथम-क्रम सन्नकन (first-order approximations) पर निर्भर करती है:

आरंभीकरण (Initialization): एक बेस मॉडल को सभी कार्यों पर संयुक्त रूप से प्रशिक्षित किया जाता है ताकि एक इनिशियलाइज़ेशन $W^{(0)}$ प्राप्त किया जा सके।
ग्रेडिएंट-आधारित समानता (Gradient-Based Affinity): किसी भी कार्यों के उपसमूह $S_k$ $S_{k}$ के लिए, लॉस $\hat{L}(f_{W}(S_k))$ $\hat{L} (f_{W} (S_{k}))$ को इनिशियलाइज़ेशन के ग्रेडिएंट्स का उपयोग करके अनुमानित किया जाता है। विशेष रूप से, यह विधि ग्रेडिएंट्स $\nabla f_{W^{(0)}}$ $\nabla f_{W^{(0)}}$ को फीचर्स के रूप में मानती है और $S_k$ $S_{k}$ पर प्रशिक्षित एक मॉडल के प्रदर्शन का अनुमान लगाने के लिए एक कॉनवेक्स रिलैक्सेशन (लॉजिस्टिक्स रिग्रेशन) को हल करती है।
- लेयर $l$ पर कार्यों $i$ और $j$ के बीच एफिनिटी स्कोर (affinity score) $T^{(i)}_{j,l}$ को दोनों कार्यों को शामिल करने वाले यादृच्छिक (random) उपसमूहों पर अनुमानित लॉस का औसत निकालकर अनुमानित किया जाता है।
- यह बार-बार प्रशिक्षण की आवश्यकता को समाप्त करता है, जिससे प्रति लेयर लागत $O(n)$ तक कम हो जाती है।
कॉनवेक्स रिलैक्सेशन और क्लस्टरिंग (Convex Relaxation & Clustering): एल्गोरिदम इन एफिनिटी स्कोर्स का उपयोग करके कार्यों को $k$ समूहों में विभाजित करने के लिए एक कॉनवेक्स रिलैक्सेशन प्रोग्राम का उपयोग करता है जो इंट्रा-क्लस्टर एफिनिटी को अधिकतम करता है। यह विभाजन लेयर 1 से $L$ तक रिकर्सिव रूप से किया जाता है।

2.3 प्रयोज्यता (Applicability)

यह विधि मॉडल-अज्ञेय (model-agnostic) है। इसे निम्नलिखित पर लागू किया जा सकता है:

ग्राफ न्यूरल नेटवर्क (GNNs): प्रत्येक कार्य क्लस्टर को प्रत्येक लेयर पर विशिष्ट GNN मॉड्यूल्स असाइन करके।
लार्ज लैंग्वेज मॉडल्स (LLMs): एक प्री-ट्रेंड LLM पर लो-रैंक एडैप्टर्स (LoRA) के ब्रांचिंग स्ट्रक्चर का निर्माण करके।

3. प्रमुख योगदान (Key Contributions)

फास्ट एप्रोक्सिमेशन एल्गोरिदम: लेखक एक प्रक्रिया विकसित करते हैं जो ब्रांचिंग नेटवर्क का उपयोग करके इष्टतम पैरामीटर-शेयरिंग प्रतिमानों (paradigms) की पहचान करती है। वे अनुभवजन्य रूप से पुष्टि करते हैं कि यह प्रथम-क्रम टेलर एक्सपेंशन (first-order Taylor expansion) विभिन्न GNNs और LLMs (34 बिलियन पैरामीटर्स तक) पर वास्तविक प्रदर्शन का 5% से कम त्रुटि के साथ अनुमान लगाता है।
ऑटोमैटिक ब्रांचिंग नेटवर्क डिज़ाइन: यह पेपर एक आर्किटेक्चर पेश करता है जो पदानुक्रमित कार्य विभाजन संरचना (hierarchical task partitioning structure) को स्वचालित रूप से सीखता है, जो कई एल्गोरिद्मिक रीजनिंग कार्यों में औसत प्रदर्शन में सुधार करता है और किसी भी बेस मॉडल के लिए लागू योग्य है।
दक्षता और प्रदर्शन के बीच संतुलन (Efficiency and Performance Trade-offs): यह दृष्टिकोण मौजूदा मल्टीटास्क और ब्रांचिंग बेसलाइन्स की तुलना में रनटाइम, मेमोरी उपयोग और सटीकता के बीच एक बेहतर संतुलन प्राप्त करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

4.1 सन्निकटन सटीकता (Approximation Accuracy)

चार GNN आर्किटेक्चर (MPNN, GAT, Triplet-GMPNN, Edge Transformer) और चार LLMs (Qwen, Llama, CodeLlama) पर किए गए प्रयोगों से पता चलता है कि प्रथम-क्रम टेलर विस्तार सन्निकटन, जब वेट डिस्टेंस इनिशियलाइज़ेशन से 10% के भीतर हो, तो GNNs के लिए <1% और LLMs के लिए <5% का सापेक्ष एरर देता है।

4.2 CLRS बेंचमार्क (ग्राफ एल्गोरिदम)

CLRS बेंचमार्क से 12 ग्राफ एल्गोरिद्मिक रीजनिंग कार्यों पर मूल्यांकन:

प्रदर्शन: AutoBRANE औसत सटीकता में स्टेट-ऑफ-द-आर्ट सिंगल मल्टीटास्क नेटवर्क (Edge Transformer) से 3.7% बेहतर प्रदर्शन करता है। यह सबसे मजबूत मल्टीटास्क बेसलाइन्स (LearningToBranch और GradTAG) से भी 1.2% बेहतर है।
दक्षता: यह विधि सर्वश्रेष्ठ मल्टीटास्क बेसलाइन्स की तुलना में GPU ट्रेनिंग घंटों को 48% और मेमोरी उपयोग को 26% कम करती है।
स्ट्रक्चर डिस्कवरी: सीखा गया ब्रांचिंग स्ट्रक्चर एल्गोरिद्मिक लॉजिक के अनुरूप पदानुक्रमित क्लस्टरिंग को प्रकट करता है (जैसे, BFS और Bellman-Ford को एक साथ रखना, और DFS-आधारित एल्गोरिदम को अलग क्लस्टर करना)।

4.3 टेक्स्ट-आधारित रीजनिंग (LLMs)

टेक्स्ट-आधारित ग्राफ रीजनिंग बेंचमार्क (CLRS-Text, GraphQA, GraphWiz) पर, जहाँ LoRA एडैप्टर्स का उपयोग किया जाता है:

AutoBRANE सबसे मजबूत मल्टीटास्क बेसलाइन (GradTAG) की तुलना में औसत टेस्ट एक्यूरेसी में 3.2% का सुधार करता है।
यह प्राकृतिक भाषा सेटिंग्स में भी कार्यों की भिन्न स्तर की समानता को कैप्चर करने की इसकी क्षमता को प्रदर्शित करता है।

4.4 बड़े पैमाने पर कम्युनिटी डिटेक्शन (Large-Scale Community Detection)

21 मिलियन किनारों (edges) और 500 कम्युनिटी लेबलिंग कार्यों वाले डेटासेट पर:

AutoBRANE मौजूदा मल्टीटास्क और ब्रांचिंग आर्किटेक्चर की तुलना में 28% सटीकता लाभ प्राप्त करता है।
यह LearningToBranch की तुलना में रनटाइम को 4.5× कम करता है और GradTAG की तुलना में काफी कम मेमोरी का उपयोग करता है।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि ब्रांचिंग आर्किटेक्चर मल्टीटास्क एल्गोरिद्मिक रीजनिंग के लिए एक महत्वपूर्ण प्रगति है। एल्गोरिद्मिक निष्पादन ट्रेसेस के बीच भिन्नता के स्तरों को स्पष्ट रूप से मॉडल करके, AutoBRANE उस हस्तक्षेप (interference) को कम करता है जो मोनोलिथिक मल्टीटास्क मॉडल्स को प्रभावित करता है।

लेखक इस बात पर जोर देते हैं कि उनका कार्य न्यूरल नेटवर्क में एल्गोरिद्मिक शिक्षणीयता (algorithmic learnability) और सामान्यीकरण (generalization) को समझने के महत्व को पुख्ता करता है। उनका मानना है कि मध्यवर्ती एल्गोरिद्मिक अवस्थाओं की भविष्यवाणी करने की क्षमता तर्क करने की क्षमताओं के लिए एक कठोर बेंचमार्क है, जो अक्सर वर्तमान लार्ज लैंग्वेज मॉडल्स (LLMs) की कमियों को उजागर करती है (जो प्रॉम्प्ट किए जाने पर इन कार्यों पर प्रशिक्षित GNNs की तुलना में लगभग 65% खराब प्रदर्शन करते हैं)।

यह कार्य यह दावा नहीं करता है कि यह सभी रीजनिंग समस्याओं को हल करता है, बल्कि कई एल्गोरिद्मिक कार्यों को एक साथ सीखने के लिए एक स्केलेबल, कुशल फ्रेमवर्क स्थापित करता है। यह रेखांकित करता है कि न्यूरल नेटवर्क के माध्यम से एक एल्गोरिदम की "शिक्षणीयता" उसके निष्पादन ट्रेस की जटिलता से जुड़ी है और ब्रांचिंग स्ट्रक्चर पैरामीटर शेयरिंग और कार्य-विशिष्ट विशेषज्ञता के बीच के संतुलन को प्रभावी ढंग से नेविगेट कर सकते हैं।

6. सीमाएँ और भविष्य की दिशाएँ (Limitations and Future Directions)

पेपर नोट करता है कि हालांकि सन्निकटन (approximation) अत्यधिक सटीक है, यह इस धारणा पर निर्भर करता है कि नेटवर्क अच्छी तरह से इनिशियलाइज्ड है और लीनियर एप्रोक्सिमेशन वेट्स के स्थानीय परिवेश में मान्य है। लेखकों द्वारा सुझाए गए भविष्य के कार्यों में एल्गोरिद्मिक रीजनिंग कार्यों की सैंपल कॉम्प्लेक्सिटी (sample complexity) और इन-कॉन्टेक्स्ट लर्नेबिलिटी (in-context learnability) को बेहतर ढंग से समझना, साथ ही रैंडमाइज्ड एल्गोरिदम की शिक्षणीयता का पता लगाना शामिल है।