कल्पना कीजिए कि आप एक प्रतिभाशाली लेकिन थोड़े भुलक्कड़ रोबोट को एक जटिल पहेली हल करना सिखाने की कोशिश कर रहे हैं। आप सोच सकते हैं कि यदि आप रोबोट को एक सुपर-स्मार्ट दिमाग (एक लार्ज लैंग्वेज मॉडल, या LLM) दें और उससे कहें कि "बस इसे सुलझा लो," तो वह सफल हो जाएगा। लेकिन आर्टिफिशियल इंटेलिजेंस की दुनिया में, ये मॉडल अविश्वसनीय पैटर्न-मैचर्स की तरह हैं जो कभी-कभी एक लंबी, बहु-चरणीय यात्रा की योजना बनाने के लिए कहे जाने पर संघर्ष करते हैं। वे कहानियाँ लिखने या बातचीत करने में बहुत अच्छे हैं, लेकिन जब बात सख्त तर्क वाली पहेलियों की आती है—जैसे ब्लॉकों को इधर-उधर ले जाना या टावर ऑफ हनोई (Tower of Hanoi) को हल करना—तो वे अक्सर रास्ता भटक जाते हैं, नियमों या उन चरणों को भूल जाते हैं जो उन्होंने अभी-अभी लिए थे। यह एक बड़ी बात है क्योंकि यदि हम चाहते हैं कि AI वास्तविक दुनिया के कार्यों जैसे गोदामों को व्यवस्थित करने या रोबोट को नेविगेट करने में हमारी मदद करे, तो उसे बिना मूर्खतापूर्ण गलतियाँ किए आगे की योजना बनाने में सक्षम होना चाहिए। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं, वह यह है: क्या AI वास्तव में योजना बनाने के लिए बहुत मंद है, या यह बस गलत उपकरण का उपयोग कर रहा है?

यह पेपर सुझाव देता है कि AI अनिवार्य रूप से मंद नहीं है; यह बस एक साथ बहुत कुछ करने की कोशिश कर रहा है। लेखक, एहसान फुतुही और नाथन आर. स्टर्टेवेंट, "चेन ऑफ कम्प्यूटेशन" (COC) नामक एक नया तरीका प्रस्तावित करते हैं। AI को एक ही बड़ी सांस में पूरा समाधान लिखने के लिए कहने के बजाय (जो कि एक इंसान को एक बार में पूरी किताब याद करने के लिए कहने जैसा है), वे AI को एक लूप के भीतर रखते हैं जिसमें एक विशेष "स्क्रैचपैड" होता है जिसे स्ट्रक्चर्ड कॉन्टेक्स्ट विंडो (SCW) कहा जाता है। इसे एक रोबोट के साथ एक स्टिकी नोट पैड की तरह समझें। पूरे प्लान को याद रखने के बजाय, रोबोट पैड पर एक निर्देश को देखता है, उस एक छोटे से कदम को करता है, पैड पर अगला निर्देश लिखता है, और फिर अगले निर्देश की ओर इशारा करता है। यह "फॉलो द लीडर" के खेल की तरह है जहाँ रोबोट खुद लीडर और फॉलोअर दोनों है, लगातार अपना नक्शा अपडेट कर रहा है।

शोधकर्ताओं ने इस विचार का परीक्षण तीन क्लासिक पहेलियों पर किया: टावर ऑफ हनोई (डिस्क को पेग्स के बीच ले जाना), ब्लॉक्सवर्ल्ड (BlocksWorld - ब्लॉकों को स्टैक करना), और पैनकेक पज़ल (Pancake Puzzle - पैनकेक्स को पलटकर सॉर्ट करना)। उन्होंने पाया कि जब उन्होंने AI को यह "स्क्रैचपैड" सिस्टम दिया, तो अपेक्षाकृत छोटे AI मॉडल भी, जिन्हें शुरुआत से प्रशिक्षित किया गया था, इन पहेलियों को अद्भुत सटीकता के साथ हल कर सके—ब्लॉक और पैनकेक पहेलियों पर 99.89% से अधिक सफलता दर। जादू यह था कि AI को पूरा इतिहास याद रखने की आवश्यकता नहीं थी; उसे बस वर्तमान निर्देश को पढ़ना था, अगला कदम तय करने के लिए गणित करना था, और यह लिखना था कि आगे कहाँ देखना है।

हालाँकि, इस पेपर ने एक विशिष्ट कमजोरी भी खोजी। जब पहेलियाँ बहुत बड़ी हो गईं (जैसे कई डिस्क के साथ टावर ऑफ हनोई), तो AI गलतियाँ करने लगा, लेकिन इसलिए नहीं कि वह योजना भूल गया था। असल में, AI सरल गणित में उलझ रहा था। जब रोबोट को अगले कदम का पता लगाने के लिए "डिस्क नंबर 7 माइनस 1" की गणना करनी थी, तो वह कभी-कभी संख्या गलत कर देता था, खासकर यदि उसने पहले कभी वह विशिष्ट संख्या नहीं देखी थी। लेखकों ने दिखाया कि यदि वे AI की मदद करते (यानी उसके लिए गणित कर देते या एक विशेष "स्टैक" सिस्टम का उपयोग करते जिसमें जटिल गणित की आवश्यकता नहीं होती), तो AI टावर ऑफ हनोई के सबसे कठिन संस्करणों (20 डिस्क तक) को भी पूरी तरह से हल कर सकता था। यह सुझाव देता है कि AI का प्लानिंग ब्रेन वास्तव में काफी मजबूत है, लेकिन अपनी पूरी क्षमता तक पहुँचने के लिए उसे अंकगणित और मेमोरी मैनेजमेंट में थोड़ी मदद की आवश्यकता है।

बड़ी तस्वीर: AI योजना बनाने में क्यों संघर्ष करता है

यह समझने के लिए कि यह पेपर क्यों मायने रखता है, हमें पहले इस कहानी के दो मुख्य पात्रों को समझना होगा: लार्ज लैंग्वेज मॉडल्स (LLMs) और प्लानिंग।

LLMs वे सुपर-स्मार्ट AI दिमाग हैं जिनके बारे में आपने सुना होगा, जैसे वे जो निबंध या कोड लिखते हैं। उन्हें भारी मात्रा में टेक्स्ट पर प्रशिक्षित किया जाता है, जिससे वे वाक्य में अगले शब्द की भविष्यवाणी करना सीखते हैं। क्योंकि उन्होंने बहुत कुछ पढ़ा है, वे पैटर्न पहचानने में माहिर हैं। यदि आप उनसे ड्रैगन के बारे में एक कहानी लिखने के लिए कहते हैं, तो वे ऐसा कर सकते हैं क्योंकि उन्होंने हजारों ड्रैगन की कहानियाँ देखी हैं। हालाँकि, "प्लानिंग" अलग है। प्लानिंग एक भूलभुलैया को हल करने या यात्रा आयोजित करने जैसा है: आपको कई कदम आगे सोचना होता है, याद रखना होता है कि आपने क्या किया, और यह सुनिश्चित करना होता है कि आप नियमों को न तोड़ें।

लंबे समय से, वैज्ञानिकों ने देखा है कि जबकि LLMs बातचीत करने में बेहतरीन हैं, वे योजना बनाने में बहुत खराब हैं। यदि आप एक LLM को किसी चीज़ को गिराए बिना ब्लॉकों के ढेर को एक स्थान से दूसरे स्थान पर ले जाने के लिए कहते हैं, तो वह अक्सर एक ऐसा प्लान देता है जो नियमों को तोड़ देता है या कोई चरण भूल जाता है। यह निराशाजनक है क्योंकि हम चाहते हैं कि AI वास्तविक दुनिया में उपयोगी हो, जहाँ चीजों को सही क्रम में किया जाना आवश्यक है।

एक सिद्धांत है कि LLMs वास्तव में "ट्यूरिंग-कम्प्लीट" (Turing-complete) हैं, जो एक फैंसी गणितीय तरीका है यह कहने का कि वे किसी भी गणना को कर सकते हैं जो एक कंप्यूटर कर सकता है, जिसमें जटिल योजना बनाना भी शामिल है। लेकिन व्यवहार में, वे विफल होते दिखते हैं। यह पेपर इसी बड़े सवाल का जवाब तलाशता है: क्यों? क्या AI का दिमाग योजना बनाने के लिए मौलिक रूप से टूटा हुआ है, या यह सिर्फ यह है कि हम उससे कार्य को गलत तरीके से करवा रहे हैं?

समस्या: "वन-शॉट" ट्रैप (The "One-Shot" Trap)

कल्पना कीजिए कि आप रूबिक क्यूब (Rubik's Cube) हल करने की कोशिश कर रहे हैं। यदि कोई आपसे बिना रुके सोचने के एक ही वाक्य में पूरा समाधान (20 या 30 चालों का क्रम) लिखने के लिए कहे, तो आप गलत हो सकते हैं। आप बीच के चरणों को भूल सकते हैं या रंगों को मिला सकते हैं।

यही तब होता है जब हम एक मानक LLM को योजना बनाने के लिए कहते हैं। हम आमतौर पर इसे एक प्रॉम्प्ट देते हैं जैसे "इस पहेली को हल करें," और यह एक बार में ही चालों की पूरी सूची बनाने की कोशिश करता है। पेपर इसे "सिंगल-पास, फुल कॉन्टेक्स्ट" (Single-Pass, Full Context) कहता है। समस्या यह है कि जैसे-जैसे पहेली बड़ी होती जाती है, चालों की सूची लंबी होती जाती है। AI को उन सभी चालों को एक साथ अपने "दिमाग" (कॉन्टेक्स्ट विंडो) में रखना पड़ता है। जैसे-जैसे सूची बढ़ती है, AI नियंत्रण खोने लगता है। यह एक दोस्त के साथ बातचीत करने के साथ-साथ ग्रोसरी लिस्ट, फोन नंबर और एक गणित की समस्या को भी याद रखने जैसा है। अंततः, AI भ्रमित हो जाता है, शुरुआत में ही कोई गलती करता है, और फिर पूरा प्लान बिखर जाता है।

लेखक तर्क देते हैं कि AI योजना बनाने में बुरा नहीं है; वह बस एक विशाल, अव्यवस्थित निर्देशों की सूची को अपने दिमाग में रखने में बुरा है।

समाधान: "चेन ऑफ कम्प्यूटेशन" (COC)

इसे ठीक करने के लिए, लेखकों ने चेन ऑफ कम्प्यूटेशन (COC) नामक एक नया सिस्टम बनाया। AI को एक बार में पूरा प्लान लिखने के लिए कहने के बजाय, उन्होंने AI को एक लूप के भीतर रखा।

कल्पना कीजिए कि AI एक कारखाने में काम करने वाला रोबोट है। उसे पूरे कारखाने का विशाल ब्लूप्रिंट देने के बजाय, आप उसे एक स्ट्रक्चर्ड कॉन्टेक्स्ट विंडो (SCW) देते हैं। SCW को कागज की टेप की एक लंबी रोल की तरह समझें, जैसे पुराने कंप्यूटरों में इस्तेमाल होने वाली कागज की टेप या एक बहुत लंबा स्टिकी नोट।

यहाँ रोबोट इस नए सिस्टम के साथ कैसे काम करता है:

1. पढ़ना (Read): रोबोट टेप पर पहला निर्देश पढ़ता है।
2. सोचना (Think): वह उस एक निर्देश के आधार पर तय करता है कि आगे क्या करना है।
3. लिखना (Write): वह टेप के अंत में एक नया निर्देश लिखता है।
4. पॉइंट करना (Point): वह एक "पॉइंटर" (जैसे एक तीर) लिखता है जो कहता है, "जाओ और इस निर्देश के ठीक बाद वाले निर्देश को देखो।"
5. दोहराना (Repeat): रोबोट अपनी "आँख" को नए निर्देश पर ले जाता है और फिर से वही प्रक्रिया करता है।

रोबोट को पूरा प्लान याद रखने की आवश्यकता नहीं होती। उसे केवल वर्तमान निर्देश पर ध्यान केंद्रित करना होता है और यह तय करना होता है कि आगे क्या करना है। यह "फॉलो द लीडर" के खेल की तरह है जहाँ रोबोट लगातार अपने लिए नक्शा अपडेट कर रहा है।

पेपर में पॉइंटर नामक एक विशेष टूल पेश किया गया है। यह पॉइंटर रोबोट को बताता है कि उसे अगली बार टेप के किस हिस्से को देखना है। यह महत्वपूर्ण है क्योंकि यह रोबोट के "ध्यान" (attention) को सूचनाओं के समुद्र में डूबने के बजाय एक छोटे, प्रबंधनीय टुकड़े पर केंद्रित रखता है।

प्रयोग: रोबोट का परीक्षण

लेखकों ने इस नए रोबोट का परीक्षण तीन प्रसिद्ध पहेलियों पर किया ताकि यह देखा जा सके कि क्या यह बेहतर योजना बनाना सीख सकता है।

1. ब्लॉक्सवर्ल्ड (BlocksWorld)
यह एक पहेली है जहाँ आपके पास मेज पर कुछ ब्लॉक रखे हैं, और आपको उन्हें एक विशिष्ट आकार में पुनर्व्यवस्थित करना है। आप केवल एक ढेर के ऊपर के ब्लॉक को ही हिला सकते हैं।

• परिणाम: रोबोट इसमें अविश्वसनीय रूप से अच्छा था। यहाँ तक कि जब पहेली बहुत जटिल हो गई (40 ब्लॉकों के साथ), तब भी रोबोट ने 100% बार इसे सफलतापूर्वक हल किया। उसने "सब कुछ अनस्टैक करो, फिर दोबारा स्टैक करो" की रणनीति सीखी और इसे किसी भी नए अरेंजमेंट पर लागू कर सका जिसे उसने पहले कभी नहीं देखा था।

2. पैनकेक पहेली (The Pancake Puzzle)
इस पहेली में, आपके पास अलग-अलग आकार के पैनकेक्स का एक ढेर होता है। आप केवल ढेर के ऊपरी हिस्से को पलट सकते हैं (जैसे पैन में पैनकेक को पलटना) ताकि उन्हें आकार के अनुसार व्यवस्थित किया जा सके। लक्ष्य उन्हें आकार के अनुसार सॉर्ट करना है।

• परिणाम: ब्लॉक्सवर्ल्ड की तरह, रोबोट ने इसमें भी कमाल किया। उसने लगभग हर पहेली को हल किया, यहाँ तक कि 40 पैनकेक्स के साथ भी। एकमात्र समय जब वह "विफल" हुआ, वह तब था जब पैनकेक्स पहले से ही सॉर्ट किए हुए थे और उसने उन्हें फिर से पलटने की कोशिश की। लेकिन चूंकि पलटने और फिर से पलटने से अंतिम परिणाम पर कोई बुरा प्रभाव नहीं पड़ा, इसलिए वह लक्ष्य तक पहुँच ही गया। इससे पता चला कि रोबोट ने पहेली के मूल तर्क को सीख लिया है।

3. टावर ऑफ हनोई (Tower of Hanoi - TOH)
यह सबसे कठिन पहेली है। आपके पास तीन पेग्स (pegs) और अलग-अलग आकार की डिस्क का एक ढेर है। आपको पूरे ढेर को एक पेग से दूसरे पेग पर ले जाना है, लेकिन आप कभी भी एक बड़ी डिस्क को छोटी डिस्क के ऊपर नहीं रख सकते। इसमें आवश्यक चालों की संख्या एक्सपोनेंशियल (exponentially) रूप से बढ़ती है (यह बहुत तेज़ी से बहुत बड़ी हो जाती है)।

• परिणाम: यहाँ, रोबोट अच्छा था, लेकिन पूर्ण नहीं। उसने छोटे डिस्क (15 डिस्क तक) के लिए लगभग 92% पहेलियाँ हल कीं। जैसे-जैसे पहेलियाँ कठिन होती गईं, वह गलतियाँ करने लगा।

रहस्य: रोबोट क्यों विफल हुआ?

लेखक केवल "यह काम कर गया" पर नहीं रुके। वे जानना चाहते थे कि वे सबसे कठिन पहेलियों पर क्यों विफल हुए। उन्होंने टावर ऑफ हनोई पर रोबोट द्वारा की गई गलतियों को बारीकी से देखा।

उन्होंने पाया कि रोबोट योजना को न समझ पाने के कारण विफल नहीं हो रहा था। उसे पता था कि कौन सी डिस्क को कहाँ ले जाना है। समस्या गणित (Math) थी।

योजना को ट्रैक रखने के लिए, रोबोट को सरल अंकगणित करना था, जैसे "यदि मेरे पास 7 डिस्क हैं, तो मुझे पहले 6 डिस्क को हटाना होगा।" उसे "7 घटा 1" की गणना करनी थी ताकि "6" प्राप्त हो सके। पेपर में पाया गया कि जब रोबोट को ऐसी संख्या मिली जो उसने पहले कभी नहीं देखी थी (जैसे कि एक बहुत बड़ी डिस्क संख्या), तो वह गणित गलत कर देता था। वह "7 घटा 1" को "5" या "8" के रूप में निकाल सकता था, और फिर पूरा प्लान पटरी से उतर जाता था।

यह एक बहुत बड़ी खोज थी। इसका मतलब था कि रोबोट का "प्लानिंग ब्रेन" वास्तव में पूरी तरह से काम कर रहा था। विफलता तर्क (logic) में नहीं थी; यह कैलकुलेटर (calculator) में थी।

समाधान: गणित और मेमोरी में मदद करना

यह साबित करने के लिए, लेखकों ने दो अलग-अलग सुधारों का प्रयास किया:

सुधार 1: सिम्बोलिक मैथ (Symbolic Math)
उन्होंने रोबोट को खुद गणित करने के बजाय "सिम्बोलिक" निर्देश देने का निर्णय लिया। उदाहरण के लिए, "डिस्क 6 को हिलाएं" कहने के बजाय, रोबोट "(n-1) डिस्क को हिलाएं" कहेगा। फिर, एक अलग, सरल कंप्यूटर प्रोग्राम (एक अंकगणित मॉड्यूल) वास्तविक गणित करेगा और रोबole को वास्तविक संख्या बताएगा।

• परिणाम: जब उन्होंने ऐसा किया, तो रोबोट की सफलता दर बढ़ गई। वह पहेलियों को पूरी तरह से हल कर सका क्योंकि उसे नंबर गलत करने की चिंता नहीं करनी थी। इसने साबित कर दिया कि प्लानिंग वाला हिस्सा ठीक था; गणित ही बाधा (bottleneck) थी।

सुरा 2: द स्टैक (The Stack - PDA)
लेखकों ने महसूस किया कि टावर ऑफ हनोई के लिए, रोबोट को अलग-अलग निर्देशों को खोजने के लिए टेप पर कूदने की भी आवश्यकता नहीं है। उसे केवल स्टैक के शीर्ष (top of the stack) को देखना है और शीर्ष पर नए निर्देश जोड़ने हैं। यह बिल्कुल वैसा ही है जैसे कंप्यूटर विज्ञान में "स्टैक" काम करता है (Last-In, First-Out)।
उन्होंने रोबोट के काम को एक डिटरमिनिस्टिक पुशडाउन ऑटोमेटन (Deterministic Pushdown Automaton - PDA) के रूप में पुनर्गठित किया। यह एक फैंसी शब्द है एक ऐसी मशीन के लिए जो केवल एक स्टैक का उपयोग करती है।

• परिणाम: इस नए सेटअप के साथ, रोबोट ने टावर ऑफ हनोई की पहेलियों को 100% सफलता के साथ हल किया, यहाँ तक कि 20 डिस्क के साथ भी (जिसमें 10 लाख से अधिक चालों की आवश्यकता होती है!)। उसे अगले निर्देश को खोजने के लिए जटिल गणित करने की आवश्यकता नहीं थी क्योंकि स्टैक ने इसे स्वचालित रूप से संभाल लिया।

इसका क्या अर्थ है

यह पेपर सुझाव देता है कि लार्ज लैंग्वेज मॉडल्स स्वाभाविक रूप से योजना बनाने में बुरे नहीं हैं। समस्या यह थी कि हम उनसे एक साथ बहुत कुछ करने के लिए कह रहे थे: पूरी योजना याद रखना, गणित करना और अगला कदम तय करना, और यह सब एक विशाल टेक्स्ट वॉल के सामने करना।

कार्य को छोटे, पुनरावृत्त (iterative) चरणों में तोड़कर और उन्हें एक "स्क्रैचपैड" (SCW) देकर, AI बहुत प्रभावी ढंग से योजना बनाना सीख सकता है। पेपर दिखाता है कि भले ही छोटे AI मॉडल, जिन्हें शून्य से प्रशिक्षित किया गया हो, जटिल योजना रणनीतियों को सीख सकते हैं यदि उन्हें सही उपकरण दिए जाएं।

मुख्य निष्कर्ष यह है कि AI का "तर्क" (reasoning) मजबूत है, लेकिन इसके "अंकगणित" (arithmetic) और "मेमोरी मैनेजमेंट" को मदद की आवश्यकता है। यदि हम योजना के तर्क को गणित से अलग कर दें और AI को अपने चरणों को प्रबंधित करने के लिए एक संरचित तरीका दें, तो वह उन समस्याओं को हल कर सकता है जिन्हें पहले बहुत कठिन माना जाता था।

लेखक निष्कर्ष निकालते हैं कि हालांकि उन्होंने एक बड़ा कदम उठाया है, लेकिन अभी भी बहुत कुछ सीखना बाकी है। वे यह जांचना चाहते हैं कि "पॉइंटर" सिस्टम AI की मदद कैसे करता है और क्या इस पद्धति का उपयोग भविष्य में और भी अधिक जटिल, वास्तविक दुनिया के नियोजन कार्यों के लिए किया जा सकता है। लेकिन फिलहाल, उन्होंने दिखा दिया है कि थोड़े से स्ट्रक्चर के साथ, AI वास्तव में एक बहुत अच्छा प्लानर हो सकता है।