The Horizon Gap: Planning, Memory, Execution, Training, and Evaluation for Long-Horizon LLM Agents
यह शोध पत्र "होराइजन गैप" (horizon gap) को बहु-चरणीय कार्यों में फ्रंटियर भाषा मॉडलों की विफलता के रूप में परिभाषित करता है, कार्य, मॉडल और सिस्टम के गुणों के बीच अंतर करने के लिए 1,547 हालिया अध्ययनों का सर्वेक्षण करता है, और यह तर्क देता है कि जैसे-जैसे कार्य के क्षितिज (horizons) लंबे होते जाते हैं, केवल परिणाम-आधारित फीडबैक की घटती सूचनात्मकता के जवाब में क्षेत्र का स्टेप-लेवल संकेतों की ओर बढ़ना एक आवश्यक प्रतिक्रिया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लंबी दूरी की समस्या: जब AI रास्ते में खो जाता है
कल्पना कीजिए कि आप एक बेहद बुद्धिमान, अति-तेज़ रोबोट को कहानी लिखना सिखा रहे हैं। यदि आप उससे एक वाक्य लिखने के लिए कहते हैं, तो वह इसे पलक झपकते ही पूरी तरह से कर सकता है। लेकिन क्या होता है अगर आप उसे एक पूरा उपन्यास लिखने के लिए कहें, या एक जटिल प्रोजेक्ट को प्रबंधित करने के लिए कहें जिसमें घंटों लगते हैं? यह AI एजेंट्स (AI agents) की दुनिया है। एक साधारण चैटबॉट के विपरीत जो केवल एक प्रश्न का उत्तर देता है, एक एजेंट एक ऐसा रोबोट है जो सोच सकता है, कार्य कर सकता है (जैसे बटन क्लिक करना या कोड लिखना), देख सकता है कि क्या हुआ, और फिर तय कर सकता है कि आगे क्या करना है। यह एक डिजिटल कर्मचारी की तरह है।
बड़ी चुनौती जिसका सामना वैज्ञानिक अभी कर रहे हैं, वह है "क्षितिज" (horizon)। रोजमर्रा की भाषा में, क्षितिज का अर्थ है कि आपको कितनी दूर तक देखना है। एक छोटा क्षितिज पिज्जा ऑर्डर करने जैसा है: आप कॉल करते हैं, वे डिलीवर करते हैं, और आप खाते हैं। एक लंबा क्षितिज एक घर बनाने जैसा है: आपको नींव रखनी होगी, दीवारें खड़ी करनी होंगी, छत लगानी होगी और पेंट करना होगा, और यह सब करते हुए यह भी याद रखना होगा कि आपने तीन दिन पहले क्या किया था। समस्या यह है कि सबसे स्मार्ट AI मॉडल भी, जो कठिन गणितीय समस्याओं को तुरंत हल कर सकते हैं, अक्सर तब भटक जाते हैं जब कार्य लंबा हो जाता है। वे शायद किसी शुरुआती निर्णय को भूल जाते हैं, काम आधा होने पर ही उसे समाप्त घोषित कर देते हैं, या चुपचाप अपने लक्ष्य से भटक जाते हैं। एक AI जो एक त्वरित कदम में क्या कर सकता है और वह जो लंबे समय तक विश्वसनीय रूप से पूरा कर सकता है, उसके बीच के इस अंतर को "होराइजन गैप" (Horizon Gap) कहा जाता है। इसे ठीक करना समझना महत्वपूर्ण है क्योंकि यदि हम चाहते हैं कि AI उन वास्तविक दुनिया के कार्यों में हमारी मदद करे जिनमें घंटों या दिन लगते हैं, तो हमें यह जानना होगा कि वे क्यों विफल होते हैं और उन्हें क्रैश होने से कैसे रोका जाए।
महान AI रोड ट्रिप: हॉराइजन गैप को ठीक करना
इस शोध पत्र में, लेखक उन जासूसों की एक विशाल टीम की तरह कार्य करते हैं जिन्होंने 2024 और 2026 के बीच प्रकाशित 1,500 से अधिक शोध पत्रों की समीक्षा की है। उनका मिशन? यह पता लगाना कि AI एजेंट लंबी यात्राओं पर क्यों खो जाते हैं और शोधकर्ता इसे ठीक करने के लिए क्या करने की कोशिश कर रहे हैं। वे मॉडल की एक एकल-कदम की बुद्धिमत्ता और एक लंबे कार्य को पूरा करने की उसकी क्षमता के बीच की दूरी को "होराइजन गैप" कहते हैं।
चीजों को समझने के लिए, लेखकों को पहले उन तीन शब्दों को सुलझाना पड़ा जिन्हें लोग अक्सर आपस में मिला देते हैं, जैसे कार के इंजन को उसके गैस टैंक के साथ भ्रमित करना:
- लॉन्ग-होरिज़न (Long-Horizon): यह कार्य के बारे में है। इसका अर्थ है कि काम के लिए कई चरणों की आवश्यकता है, जैसे एक लंबी सड़क यात्रा।
- लॉन्ग-कॉन्टेक्स्ट (Long-Context): यह मॉडल के मस्तिष्क के बारे में है। यह वह जानकारी है जिसे AI एक ही क्षण में अपने दिमाग में रख सकता है।
- लॉन्ग-टर्म मेमोरी (Long-Term Memory): यह सिस्टम की नोटबुक के बारे में है। यह कि क्या AI कल की बातों को आज उपयोग करने के लिए याद रख सकता है, भले ही वर्तमान "बातचीत" समाप्त हो गई हो।
पत्र का तर्क है कि आपके पास एक बहुत लंबी नोटबुक (मेमोरी) हो सकती है लेकिन छोटा दिमाग (कॉन्टेक्स्ट), या एक विशाल दिमाग हो सकता है लेकिन कोई नोटबुक नहीं; ये अलग-अलग समस्याएं हैं जिन्हें अलग-अलग समाधानों की आवश्यकता है।
लेखकों ने अपने निष्कर्षों को छह मुख्य अध्यायों में व्यवस्थित किया, जो एक लंबे कार्य के जीवन को शुरू से अंत तक ट्रैक करते हैं:
1. योजना (Planning): मानचित्र बनाम दिशा-सूचक यंत्र (The Map vs. The Compass)
जब एक AI एक लंबे कार्य को शुरू करता है, तो उसे एक योजना की आवश्यकता होती है। कुछ शोधकर्ता एक कदम भी आगे बढ़ने से पहले पूरी यात्रा का एक आदर्श मानचित्र बनाने की कोशिश करते हैं। लेकिन पत्र बताता है कि यह अक्सर विफल हो जाता है क्योंकि दुनिया अप्रत्याशित है। यदि आप पहले से ही पूरी सड़क यात्रा की योजना बनाते हैं, तो आप उस ट्रैफिक में फंस सकते हैं जिसके बारे में आपको पता नहीं था। रुझान इंटरलीविंग (interleaving) की ओर बढ़ रहा है: एक कदम उठाना, आसपास देखना, और फिर अगला कदम तय करना। यह एक निश्चित मानचित्र के बजाय दिशा-सूचक यंत्र (कम्पास) के साथ गाड़ी चलाने जैसा है। आप चलते समय बदलाव करते हैं।
2. स्मृति (Memory): बैकपैक बनाम लाइब्रेरी
जैसे-जैसे AI अधिक कदम उठाता है, वह बहुत सारी जानकारी उत्पन्न करता है। यदि वह सब कुछ अपने तत्काल मस्तिष्क (कॉन्टेक्स्ट) में रखने की कोशिश करता है, तो अंततः उसके पास जगह खत्म हो जाती है या वह कहानी की शुरुआत भूल जाता है। पत्र दिखाता है कि अधिकांश शोधकर्ता अब बाहरी लाइब्रेरी (जैसे एक बैकपैक या फाइलिंग कैबिनेट) बना रहे हैं जहाँ AI नोट्स रख सकता है और आवश्यकता पड़ने पर उन्हें निकाल सकता है। हालाँकि, एक पेंच है: यदि लाइब्रेरी बहुत अव्यवस्थित हो जाती है, तो AI गलत नोट निकाल सकता है या पुराने नोट्स को अपडेट करना भूल सकता है। पत्र सुझाव देता है कि "भूलना" वास्तव में एक बग नहीं बल्कि एक फीचर हो सकता है, ताकि लाइब्रेरी उपयोगी बनी रहे।
3. निष्पादन (Execution): सुरक्षा जाल (The Safety Net)
यह वह हिस्सा है जहाँ AI वास्तव में काम करता है। पत्र पाता है कि सफलता का रहस्य केवल एक स्मार्ट AI मॉडल होना नहीं है; बल्कि एक बेहतर हार्नेस (harness) (मॉडल के चारों ओर का सॉफ्टवेयर रैपर) होना है। मॉडल को इंजन समझें और हार्नेस को कार के सस्पेंशन और ब्रेक समझें। यदि इंजन बंद हो जाता है, तो एक अच्छा हार्नेस उसे पकड़ लेता है, उसे ठीक करता है, और कार को चलते रहने में मदद करता है। शोध से पता चलता है कि जिन प्रणालियों में मजबूत "रिकवरी" लॉजिक होता है—यानी गलती को पहचानने और उसे तुरंत ठीक करने के तरीके—वे उन प्रणालियों की तुलना में लंबे कार्यों में बहुत बेहतर होते हैं जो केवल इस उम्मीद पर निर्भर रहते हैं कि AI कभी गलती नहीं करेगा।
4. प्रशिक्षण (Training): हर कदम से सीखना
आमतौर पर, हम AI को एक कार्य के अंत में ग्रेड देकर प्रशिक्षित करते हैं (जैसे अंतिम परीक्षा में A या F मिलना)। लेकिन एक लंबे कार्य के लिए, अंत तक प्रतीक्षा करना कि "आप विफल रहे" बहुत देर हो चुकी होती है। पत्र प्रोसेस रिवॉर्ड्स (process rewards) की ओर बदलाव को उजागर करता है। केवल अंतिम परिणाम को ग्रेड देने के बजाय, शोधकर्ता AI को उसके द्वारा उठाए गए प्रत्येक कदम पर फीडबैक देने की कोशिश कर रहे हैं। यह एक कोच की तरह है जो सीजन के अंत में नहीं, बल्कि अभ्यास के दौरान टिप्स देता है। यह AI को यह सीखने में मदद करता है कि कैसे बेहतर बनना है, न कि केवल यह कि उत्तर क्या है।
5. मूल्यांकन (Evaluation): क्या हम सही चीज़ माप रहे हैं?
यहाँ पत्र आलोचनात्मक हो जाता है। लेखक बताते हैं कि कई परीक्षण जिनका उपयोग हम यह देखने के लिए करते हैं कि क्या AI लंबे कार्यों में अच्छा है, वे दोषपूर्ण हैं। उदाहरण के लिए, कुछ परीक्षण कह सकते हैं कि एक AI ने कोडिंग समस्या को "हल" कर लिया है क्योंकि उसने एक ऐसा पैच ढूंढ लिया जो एक सरल परीक्षण को पास कर देता है, भले ही कोड वास्तव में गलत हो। पत्र का तर्क है कि हमें केवल अंतिम स्कोर (Pass/Fail) को देखना बंद करना चाहिए और ट्रैजेक्टरी (trajectory)—उस पूरे पथ को देखना चाहिए जो AI ने लिया। क्या वह भटक गया? क्या उसने सुधार किया? क्या वह अपने लक्ष्य से विचलित हुआ? पत्र सुझाव देता है कि कई वर्तमान "सफलता" स्कोर कमजोर परीक्षणों या AI द्वारा उत्तर रटने के कारण पैदा हुए भ्रम हो सकते हैं।
6. आधार (The Foundation): यह सब क्यों टूटता है
अंत में, पत्र सिद्धांत पर विचार करता है। यह सुझाव देता है कि त्रुटियां केवल एक सीधी रेखा में नहीं जुड़ती हैं। कभी-कभी, एक AI लंबे समय तक ठीक काम करता है और फिर अचानक "मेल्टडाउन" (पतन) में गिर जाता है। अन्य समय में, वह बिना किसी को पता चले चुपचाप अपना लक्ष्य बदल लेता है (गोल ड्रिफ्ट)। लेखक स्वीकार करते हैं कि हमारे पास अभी तक कोई पूर्ण सिद्धांत नहीं है जो सटीक रूप से भविष्यवाणी कर सके कि ये विफलताएं कब या क्यों होती हैं। हम जानते हैं कि वे होती हैं, लेकिन भविष्यवाणी करना कि वे कब होंगी, अभी भी एक रहस्य है।
मुख्य निष्कर्ष
सबसे महत्वपूर्ण बात जो यह पत्र सुझाता है वह यह है कि "हार्नेस" (AI के चारों ओर बनाए गए उपकरण और सुरक्षा जाल) उतना ही महत्वपूर्ण हो सकता है जितना कि स्वयं AI मॉडल। एक स्मार्ट मॉडल जिसका हार्नेस खराब है, लंबे कार्यों में विफल हो जाएगा, जबकि एक औसत दर्जे का मॉडल जिसका बेहतरीन हार्नेस है, सफल हो सकता है।
लेखक हमें एक छिपे हुए जाल के बारे में भी चेतावनी देते हैं: कोरिलेटेड मेजरमेंट बायस (Correlated Measurement Bias)। यह एक फैंसी तरीका है यह कहने का कि यदि हम उसी प्रकार के "अच्छे कदम" के संकेतों का उपयोग AI को प्रशिक्षित करने और परीक्षण करने के लिए करते हैं, तो हम खुद को धोखा दे सकते हैं। यह एक छात्र की तरह है जो केवल उन अभ्यास प्रश्नों को पढ़ता है जो शिक्षक द्वारा टेस्ट में उपयोग किए जाने वाले हैं; वे एक शानदार स्कोर प्राप्त कर सकते हैं लेकिन फिर भी विषय को नहीं समझ पाते।
संक्षेप में, यह पत्र यह दावा नहीं करता कि हमने लंबी दूरी की समस्या को हल कर लिया है। इसके बजाय, यह युद्ध के मैदान का नक्शा तैयार करता है। यह हमें बताता है कि AI का भविष्य केवल बड़े दिमाग बनाने के बारे में नहीं है; यह बेहतर बैकपैक, बेहतर मानचित्र, बेहतर सुरक्षा जाल और बेहतर तरीके बनाने के बारे में है जिससे यह मापा जा सके कि क्या AI वास्तव में कदम-दर-कदम अच्छा काम कर रहा है। यात्रा लंबी है, और AI अभी भी सीख रहा है कि बिना गिरे इसे कैसे चला जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।