🤖 AI

Recurrent Reasoning on Symbolic Puzzles with Sequence Models

यह शोधपत्र RecurrReason को प्रस्तुत करता है, जो चार आवर्ती तर्क पहेलियों (recurrent logic puzzles) का एक कठिनाई-नियंत्रित बेंचमार्क है, यह प्रदर्शित करने के लिए कि हालांकि फाइन-ट्यून किए गए ट्रांसफॉर्मर मॉडल ब्लॉक वर्ल्ड (Block World) जैसे विशिष्ट कार्यों पर उच्च सटीकता प्राप्त कर सकते हैं, उनकी तर्क क्षमताएं अत्यधिक आर्किटेक्चर-निर्भर और आउट-ऑफ-डिस्ट्रीब्यूशन चुनौतियों या रिवर क्रॉसिंग (River Crossing) जैसे जटिल ट्रांज़िशन फंक्शन वाले कार्यों के सामने भंगुर होती हैं।

मूल लेखक: Gowrav Mannem, Chowdhury Marzia Mahjabin, Jason Chen, Shivank Garg, Kevin Zhu

प्रकाशित 2026-06-16

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Gowrav Mannem, Chowdhury Marzia Mahjabin, Jason Chen, Shivank Garg, Kevin Zhu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन थोड़े नादान रोबोट को पहेलियाँ सुलझाना सिखा रहे हैं। आप यह देखना चाहते हैं कि क्या वह वास्तव में नियमों को समझता है या वह केवल उन पैटर्न के आधार पर अनुमान लगा रहा है जो उसने अभ्यास के दौरान देखे थे। यह शोध पत्र, जिसका शीर्षक "Recurrent Reasoning on Symbolic Puzzles with Sequence Models" है, यह पता लगाने के लिए एक कठोर परीक्षण स्थापित करता है।

यहाँ बताया गया है कि उन्होंने क्या किया, जिसे सरल रूप में समझाया गया है।

सेटअप: AI के लिए एक नया "जिम"

शोधकर्ताओं ने RecurrReason नामक एक नया प्रशिक्षण मैदान बनाया। इसे चार विशिष्ट प्रकार की व्यायाम मशीनों (पहेलियों) वाले एक जिम के रूप में सोचें, जिनमें से प्रत्येक एक N लेबल वाले डायल (1 से 10 तक) को घुमाने पर कठिन होती जाती है।

चार पहेलियाँ हैं:

टावर ऑफ हनोई (Tower of Hanoi): एक बड़े डिस्क को छोटे के ऊपर रखे बिना डिस्क को पेग्स के बीच ले जाना।
नदी पार करना (River Crossing): लोगों और उनके "एजेंटों" को नाव के माध्यम से नदी के पार ले जाना बिना किसी के खाए जाने के (एक सुरक्षा नियम)।
चेकर्स जंपिंग (Checkers Jumping): बोर्ड पर चेकर को स्लाइड और जंप करके अदला-बदली करना।
ब्लॉक वर्ल्ड (Block World): एक लक्ष्य चित्र से मेल खाने के लिए मेज पर ब्लॉक्स को इधर-उधर ले जाना।

इस जिम की मुख्य विशेषता यह है कि शोधकर्ताओं को हर पहेली को हल करने का परफेक्ट, सबसे छोटा रास्ता पता है। वे देख सकते हैं कि रोबोट कहाँ गलत होता है।

एथलीट: दो अलग-अलग प्रकार के दिमाग

उन्होंने यह देखने के लिए दो अलग-अलग प्रकार के AI "दिमागों" (मॉडल्स) का परीक्षण किया कि कौन सा नियमों को सीख सकता है:

"T5" दिमाग (Encoder-Decoder): कल्पना कीजिए कि इस रोबोट के पास एक दो-तरफा दर्पण (two-way mirror) है। यह सोचने के दौरान वर्तमान पहेली की स्थिति और अंतिम लक्ष्य चित्र दोनों को एक साथ देख सकता है। यह कोई भी कदम उठाने से पहले पूरी तस्वीर देखता है।
"GPT-2" दिमाग (Decoder-Only): कल्पना कीजिए कि इस रोबोट के पास एक एक-तरफा दर्पण (one-way mirror) है। यह वर्तमान स्थिति को देख सकता है, लेकिन लक्ष्य चित्र इसके पीछे छिपा हुआ है। इसे केवल वही अनुमान लगाना होगा जो इसने अभी देखा है, बिना गंतव्य को "झाँके" हुए।

परिणाम: कौन टेस्ट में पास हुआ?

परिणाम आश्चर्यजनक और बहुत स्पष्ट थे:

1. "ब्लॉक वर्ल्ड" की सफलता की कहानी

पहेली: ब्लॉक्स को इधर-उधर ले जाना।
परिणाम: T5 रोबोट एक उस्ताद बन गया, जिसने उन आसान पहेलियों को 97% और उन सुपर-हार्ड पहेलियों को 81% हल किया जिन्हें उसने पहले कभी नहीं देखा था।
क्यों? यह पहेली "लोकल" (स्थानीय) है। एक ब्लॉक को हिलाने के लिए, आपको केवल ढेर के सबसे ऊपरी हिस्से की जांच करने की आवश्यकता है। यह ढेर के ऊपर रखी किताब को यह देखने जैसा है कि क्या वह ढीली है। T5 रोबोट लक्ष्य और शीर्ष ब्लॉक को एक साथ आसानी से देख सकता था।

2. "रिवर क्रॉसिंग" और "टावर ऑफ हनोई" की विफलता

पहेलियाँ: लोगों को नदी के पार सुरक्षित पहुँचाना या डिस्क को एक विशिष्ट क्रम में स्टैक करना।
परिणाम: दोनों रोबलेट पूरी तरह से विफल रहे। वे रिवर क्रॉसिंग पहेली पर 0% और टावर ऑफ हनोई पर लगभग 0% स्कोर करते हैं।
क्यों? इन पहेलियों के लिए "ग्लोबल" (वैश्विक) सोच की आवश्यकता होती है।
- रिवर क्रॉसिंग: आपको यह सुनिश्चित करने के लिए नदी के दोनों ओर के हर एक व्यक्ति की जांच करनी होगी कि कोई असुरक्षित न हो। यह एक पार्टी आयोजित करने जैसा है जहाँ आपको किसी को भी अंदर आने देने से पहले हर मेहमान के दूसरे के साथ संबंधों की जांच करनी पड़ती है। रोबोट अभिभूत हो गए।
- टावर ऑफ हनोई: चरणों की संख्या तेजी से (exponentially) बढ़ती है (हर अतिरिक्त डिस्क के साथ दोगुनी हो जाती है)। यह एक सीढ़ी चढ़ने जैसा है जहाँ हर बार जब आप एक पायदान जोड़ते हैं, तो सीढ़ी की ऊंचाई दोगुनी हो जाती है। रोबोट चरणों की भारी संख्या में खो गए।

बड़े सबक (The "Aha!" Moments)

1. आर्किटेक्चर आकार से अधिक महत्वपूर्ण है
T5 रोबोट वास्तव में GPT-2 रोबोट (124 मिलियन "न्यूरॉन्स") की तुलना में छोटा (60 मिलियन "न्यूरॉन्स") था। फिर भी, T5 जीत गया।

उपमा: यह एक बड़ा दिमाग होने के बारे में नहीं है; यह सही प्रकार का दिमाग होने के बारे में है। T5 की योजना बनाते समय लक्ष्य को देखने की क्षमता (दो-तरफा दर्पण) उसका गुप्त हथियार थी। GPT-2 रोबोट, बड़ा होने के बावजूद, सोचते समय लक्ष्य के प्रति अंधा था, जिससे वह विफल रहा।

2. प्री-ट्रेनिंग हमेशा मदद नहीं करती
शोधकर्ताओं ने उन रोबोट्स का उपयोग किया जिन्होंने पहले ही लाखों किताबें पढ़ी थीं (प्री-ट्रेन्ड) बनाम वे रोबोट्स जो शून्य से शुरू हुए थे।

निष्कर्ष: प्री-ट्रेन्ड रोबोट्स ने केवल "ब्लॉक वर्ल्ड" पहेली के लिए T5 की मदद की। कठिन पहेलियों पर, दुनिया भर की सारी पढ़ाई भी काम नहीं आई।
सबक: आप केवल "पढ़कर" तर्क वाली पहेली को हल नहीं कर सकते। यदि पहेली के लिए जटिल, ग्लोबल नियमों की जांच करने की आवश्यकता है (जैसे रिवर क्रॉसिंग सुरक्षा नियम), तो सामान्य ज्ञान काम नहीं आता। रोबole को उन नियमों को संभालने के लिए एक विशिष्ट संरचना की आवश्यकता होती है।

3. "एरर स्नोबॉल" (Error Snowball) प्रभाव
यह पेपर बताता है कि इन पहेलियों में, यदि आप एक छोटी सी गलती करते हैं, तो पूरा समाधान बिखर जाता है।

उपमा: कल्पना कीजिए कि एक पतली रस्सी (tightrope) पर चल रहे हैं। यदि आप एक छोटी रस्सी (ब्लॉक वर्ल्ड) पर एक बार डगमगाते हैं, तो आप उबर सकते हैं। लेकिन यदि आप 1,000 मील लंबी रस्सी पर चल रहे हैं (टावर ऑफ हनोई), तो शुरुआत में एक मामूली डगमगाहट का मतलब है कि आप आधे रास्ते से पहले ही निश्चित रूप से गिर जाएंगे।

निष्कर्ष

पेपर यह निष्कर्ष निकालता है कि AI के लिए जटिल, बहु-चरणीय तर्क समस्याओं को वास्तव में हल करने के लिए, हम केवल मॉडल्स को बड़ा नहीं बना सकते या उन्हें अधिक डेटा नहीं दे सकते। हमें ऐसे आर्किटेक्चर बनाने की आवश्यकता है जो योजना बनाते समय लक्ष्य को "देख" सकें और ऐसी पहेलियों को संभाल सकें जहाँ नियम सरल और लोकल हों। यदि पहेली के लिए हर चरण पर पूरे बोर्ड की जांच करने की आवश्यकता है, तो वर्तमान AI मॉडल एक कठिन दीवार से टकरा जाते हैं, चाहे वे कितने भी बड़े क्यों न हों।

तकनीकी सारांश: अनुक्रमिक मॉडलों के साथ प्रतीकात्मक पहेलियों पर पुनरावर्ती तर्क (Recurrent Reasoning)

समस्या विवरण
लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर प्रतीकात्मक और एल्गोरिद्मिक कार्यों में स्पष्ट दक्षता प्रदर्शित करते हैं, फिर भी यह प्रदर्शन अक्सर तब नाजुक व्यवहार को छिपा देता है जब समस्या की लंबाई, कठिनाई बढ़ती है, या वे प्रशिक्षण वितरण से थोड़ा विचलित हो जाते हैं। वर्तमान रीजनिंग बेंचमार्क अक्सर केवल एक वैध अंतिम उत्तर उत्पन्न करने के बजाय समाधान प्रक्रिया की मजबूती, लघुता (minimality) और स्थिरता को प्राथमिकता देते हैं। यह शोध पत्र तर्क देता है कि एल्गोरिद्मिक समस्याओं के लिए, शुद्धता के लिए न केवल एक संभावित अंत बिंदु की आवश्यकता है, बल्कि वैध मध्यवर्ती क्रियाओं को बार-बार चुनने, अवैध ट्रांज़िशन से बचने और लंबी अवधि तक निरंतरता बनाए रखने की क्षमता की भी आवश्यकता है। लेखक तर्क देते हैं कि एल्गोरिद्मिक तर्क (algorithmic reasoning) वास्तविक मजबूती और सतही पैटर्न मिलान (pattern matching) के बीच अंतर करने के लिए एक महत्वपूर्ण सेटिंग के रूप में कार्य करता है।

कार्यप्रणाली: RecurrReason बेंचमार्क
इन सीमाओं को संबोधित करने के लिए, लेखक एक कठिनाई-नियंत्रित बेंचमार्क RecurrReason पेश करते हैं जिसमें चार पुनरावर्ती तर्क पहेलियाँ शामिल हैं:

ब्लॉक वर्ल्ड (Block World): स्टैक में ब्लॉकों को पुनर्व्यवस्थित करना।
चेकर्स जंपिंग (Checkers Jumping): एक रैखिक बोर्ड पर लाल और नीले चेकर्स की स्थिति बदलना।
टावर ऑफ हनोई (Tower of Hanoi): आकार संबंधी बाधाओं के तहत पेग्स के बीच डिस्क को स्थानांतरित करना।
रिवर क्रॉसिंग (River Crossing): सुरक्षा बाधाओं के साथ नदी के पार अभिनेता-एजेंट जोड़ों को ले जाना।

बेंचमार्क का निर्माण निम्नलिखित विशेषताओं के साथ किया गया है:

स्केलेबल कठिनाई: प्रत्येक पहेली को एक पूर्णांक $N \in \{1, \dots, 10\}$ द्वारा पैरामीटराइज किया गया है।
इष्टतम प्रक्षेपवक्र (Optimal Trajectories): सभी उदाहरणों को इष्टतम प्रक्षेपवक्र उत्पन्न करने के लिए ब्रेडथ-फर्स्ट सर्च (BFS) का उपयोग करके हल किया गया है, जिसमें कुल 10,817 अद्वितीय पहेलियाँ और 285,933 मूव्स शामिल हैं।
कार्य सूत्रीकरण: कार्य को "अगला-चरण-अनुमानित करें" (predict-the-next-step) समस्या के रूप में तैयार किया गया है। मॉडल वर्तमान अवस्था ( $s_t$ ) और लक्ष्य अवस्था ( $g$ ) प्राप्त करता है और अगले चरण ( $s_{t+1}$ ) की भविष्यवाणी करता है। मूल्यांकन बिना ग्राउंड-ट्रुथ मध्यवर्ती अवस्थाओं के ऑटो-रिग्रेसिव रोलआउट्स के माध्यम से किया जाता है।
मूल्यांकन प्रोटोकॉल: मॉडल को $N=1$ से $7$ वाले उदाहरणों पर प्रशिक्षित किया जाता है और होल्ड-आउट इन-डिस्ट्रीबशन (in-distribution) उदाहरणों ( $N=1$ से $7$) और आउट-ऑफ-डिस्ट्रीबशन (OOD) उदाहरणों ( $N=8$ से $10$) पर मूल्यांकन किया जाता है। मेट्रिक्स में प्रक्षेपवक्र सफलता दर, मूव वैधता और इष्टतमता अंतराल (optimality gap) शामिल हैं।

प्रायोगिक सेटअप
यह अध्ययन सुसंगत डेटा विभाजन और प्रशिक्षण स्थितियों (स्क्रैच, ज़ीरो-शॉट, और फाइन-ट्यून) के तहत दो ट्रांसफॉर्मर परिवारों का बेंचमार्क करता है:

T5-शैली (एन्कोडर-डिकोडर): एक 60M पैरामीटर वाला मॉडल (T5-small) जहाँ एन्कोडर संयोजित अवस्था और लक्ष्य पर द्विदिश ध्यान (bidirectional attention) की गणना करता है, जिससे लक्ष्य हर चरण में एक "प्रथम-श्रेणी" (first-class) कंडीशनिंग सिग्नल बन जाता है।
GPT-2-शैली (डिकोडर-ओनली): एक 124M पैरामीटर वाला मॉडल (GPT-2) जो कॉज़ल मास्क (causal mask) का उपयोग करता है, जो वर्तमान अवस्था के टोकन को लक्ष्य टोकनों (जो अनुक्रम में बाद में आते हैं) पर ध्यान केंद्रित करने से रोकता है, जिससे लक्ष्य-निर्देशित योजना के लिए एक संरचनात्मक बाधा (structural bottleneck) उत्पन्न होती है।

मुख्य परिणाम
प्रयोगों से पता चलता है कि पहेली की संरचना मॉडल के पैमाने या प्री-ट्रेनिंग की तुलना में सीखने की क्षमता (learnability) का अधिक मजबूत निर्धारक है:

ब्लॉक वर्ल्ड सफलता: फाइन-ट्यून किए गए प्री-ट्रेंड T5 मॉडल ने 97.27% वैलिडेशन सटीकता और 81.00% OOD सटीकता प्राप्त की। यह सफलता पहेली के स्थानीय ट्रांज़िशन फंक्शन (केवल स्टैक के शीर्ष की जाँच करना, $O(1)$ जटिलता), रैखिक समाधान लंबाई वृद्धि ( $L(N) = O(N)$ ), और घने प्रशिक्षण संकेतों के कारण है।
अन्य पहेलियों पर विफलता:
- रिवर क्रॉसिंग: सभी स्थितियों के तहत सभी मॉडल्स का स्कोर 0.00% रहा। इस पहेली के लिए प्रत्येक चरण पर वैश्विक बाधा सत्यापन ( $O(N)$ ) की आवश्यकता होती है और इसमें एक कॉम्बिनेटोरियल एक्शन स्पेस है, जिसने सभी आर्किटेक्चर को पराजित कर दिया।
- टावर ऑफ हनोई: मॉडल्स ने अधिकतम 11.11% वैलिडेशन सटीकता प्राप्त की (केवल मामूली $N=1$ मामलों में) और 0.00% OOD। घातीय समाधान लंबाई ( $2^N - 1$ ) संचयी त्रुटियों (compounding errors) का कारण बनती है जो $N=1$ से परे सामान्यीकरण को रोकती है।
- चेकर्स जंपिंग: मॉडल्स ने अधिकतम 1.11% वैलिडेशन सटीकता प्राप्त की, केवल उन मामूली मामलों को हल किया जहाँ प्रारंभिक अवस्था लक्ष्य अवस्था के समान है। द्विघात (quadratic) समाधान लंबाई और डेड-एंड्स से बचने की आवश्यकता अप्राप्य सिद्ध हुई।
आर्किटेक्चर बनाम स्केल: छोटा T5 मॉडल (60M) बड़े GPT-2 मॉडल (124M) की तुलना में काफी बेहतर प्रदर्शन करता है। लेखक इस सफलता का श्रेय एन्कोडर-डिकोडर आर्किटेक्चर की लक्ष्य पर द्विदिश ध्यान देने की क्षमता को देते हैं, जबकि डिकोडर-ओनली मॉडल्स में कॉज़ल मास्क एक संरचनात्मक बाधा पैदा करता है जो प्रभावी योजना को रोकता है।
प्री-ट्रेनिंग ट्रांसफर: प्री-ट्रेनिंग के लाभ केवल उन पहेलियों के लिए देखे गए जिनमें स्थानीय रूप से संरचित ट्रांज़िशन फंक्शन थे (ब्लॉक वर्ल्ड)। वैश्विक बाधाओं (रिवर क्रॉसिंग) या पुनरावर्ती अपघटन (टावर ऑफ हनोई) के लिए यह कोई ट्रांसफर प्रदान नहीं करता है।

विफलता मोड विश्लेषण (Failure Mode Analysis)
लेखक पहेली संरचना से संबंधित विशिष्ट विफलता मोड की पहचान करते हैं:

अवैध मूव्स (Invalid Moves): वैश्विक रूप से बाधित पहेलियों (टावर ऑफ हनोई, रिवर क्रॉसिंग) में प्रमुख विफलताएं, जो बाधाओं को सामान्य करने में विफलता को दर्शाती हैं।
लूप्स (Loops): डिकोडर-ओनली मॉडल्स के लिए ब्लॉक वर्ल्ड में प्राथमिक विफलता मोड, जो लक्ष्य-निर्देशित चयन के बिना आंशिक नियम सीखने का सुझाव देता है।
समयपूर्व रुकना (Premature Stops): टावर ऑफ हनाई पर GPT-2 में देखा गया, जो प्रशिक्षण डेटा में स्टॉप टोकन के सांख्यिकीय ओवर-रिप्रेजेंटेशन से जुड़ा है।

महत्व और दावे
शोध पत्र का दावा है कि आर्किटेक्चरल इंडक्टिव बायस (inductive biases), स्केल से अधिक महत्वपूर्ण हैं व्यवस्थित एल्गोरिद्मिक तर्क के लिए। विशेष रूप से:

संरचनात्मक नियतत्ववाद (Structural Determinism): एक पहेली की सीखने की क्षमता तीन संरचनात्मक गुणों द्वारा निर्धारित होती है: ट्रांज़िशन लोकैलिटी, एक्शन स्पेस का आकार, और समाधान लंबाई वृद्धि। लेखक एक संचयी त्रुटि मॉडल को औपचारिक रूप करते हैं जो दिखाता है कि सफलता की संभावना समाधान लंबाई के साथ तेजी से घटती है ( $P \approx e^{-\epsilon L(N)}$ )।
लक्ष्य कंडीशनिंग (Goal Conditioning): द्विदिश लक्ष्य कंडीशनिंग (जैसा कि T5 में है) लक्ष्य-निर्देशित योजना के लिए महत्वपूर्ण है, जबकि कॉज़ल अटेंशन (जैसा कि GPT-2 में है) एक संरचनात्मक बाधा बनाता है जो बड़े पैरामीटर काउंट के बावजूद प्रभावी योजना को रोकता है।
प्री-ट्रेनिंग की सीमाएं: प्री-ट्रेनिंग एक पदानुक्रमित इंडक्टिव बायस प्रदान करती है जो केवल स्थानीय रूप से विघटनीय संरचनाओं वाले कार्यों में स्थानांतरित होती है। यह स्वाभाविक रूप से वैश्विक बाधाओं या पुनरावर्ती गहराई को संभालने के लिए मॉडल को सुसज्जित नहीं करती है।
भविष्य की दिशा: परिणाम बताते हैं कि LLMs में विश्वसनीय बहु-चरणीय तर्क के लिए या तो आर्किटेक्चरल सर्च क्षमताओं या स्पष्ट प्रतीकात्मक बाधा जाँच (symbolic constraint checking) की आवश्यकता है, न कि केवल मॉडल के आकार को बढ़ाने की।

लेखक निष्कर्ष निकालते हैं कि RecurrReason लंबाई सामान्यीकरण (length generalization), लक्ष्य-निर्देशित योजना, और व्यवस्थित एल्गोरिद्मिक तर्क के लिए आर्किटेक्चरल आवश्यकताओं पर भविष्य के कार्य के लिए एक नियंत्रित परीक्षण स्थल प्रदान करता है।

सेटअप: AI के लिए एक नया "जिम"

एथलीट: दो अलग-अलग प्रकार के दिमाग

परिणाम: कौन टेस्ट में पास हुआ?

बड़े सबक (The "Aha!" Moments)

निष्कर्ष

इसी तरह के और पेपर