From Plan to Action: How Well Do Agents Follow the Plan?
यह शोध पत्र 16,991 एजेंट प्रक्षेपवक्रों (trajectories) का एक व्यवस्थित विश्लेषण प्रस्तुत करता है जो यह प्रकट करता है कि जबकि स्पष्ट योजनाएं आम तौर पर कार्य सफलता में सुधार करती हैं, एजेंट अक्सर ओवरफिटेड आंतरिक वर्कफ़्लो पर निर्भरता के कारण उनका पालन करने में विफल रहते हैं, और खराब तरीके से डिज़ाइन की गई या गलत संरेखित योजनाएं वास्तव में प्रदर्शन को कम कर सकती हैं, जो योजना के रटने के बजाय अनुकूलन योग्य तर्क सिखाने वाले प्रशिक्षण प्रतिमानों की आवश्यकता पर प्रकाश डालती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अपनी फैक्ट्री में एक टूटी हुई मशीन को ठीक करने के लिए एक बहुत ही बुद्धिमान, लेकिन थोड़े बिखराव वाले (scattered) प्रशिक्षु (apprentice) को काम पर रखा है। आप उन्हें पालन करने के लिए एक रेसिपी (एक योजना) देते हैं:
- टूटे हुए हिस्से को ढूँढें।
- यह देखने के लिए कि वह कैसे टूटता है, उसका परीक्षण करें।
- उसे ठीक करें।
- यह जाँचें कि क्या सुधार वास्तव में काम कर रहा है।
यह शोध पत्र एक सरल लेकिन गहरा प्रश्न पूछता है: क्या प्रशिक्षु वास्तव में रेसिपी का पालन करता है, या वह बस बिना सोचे-समझे काम करता है?
शोधकर्ताओं ने हजारों "ट्रायल" का अध्ययन किया जहाँ AI एजेंटों ने वास्तविक सॉफ़्टवेयर बग्स को ठीक करने की कोशिश की। वे यह देखना चाहते थे कि क्या AI को एक सख्त चरण-दर-चरण योजना देने से वास्तव में मदद मिलती है, या AI योजना को अनदेखा कर देता है और अपनी स्वयं की (कभी-कभी अव्यवस्थित) सहज बुद्धि पर निर्भर रहता है।
यहाँ उनके निष्कर्षों का विवरण दिया गया, जिसमें रोजमर्रा के उपमाओं (analogies) का उपयोग किया गया है:
1. "मशीन में भूत" (आंतरिक आदतें)
भले ही शोधकर्ताओं ने पूरी रेसिपी हटा दी थी, AI घबराया नहीं। वह उन आदतों पर वापस आ गया जो उसने अपने प्रशिक्षण के दौरान सीखी थीं।
- उपमा: यह एक शेफ से बिना रेसिपी के खाना बनाने के लिए कहने जैसा है। भले ही कागज पास न हो, फिर भी वे प्याज काटेंगे, फिर मांस तलेंगे, क्योंकि उन्होंने इसी तरह खाना बनाना सीखा है।
- परिणाम: AI ने "मानक" चरणों (ढूँढना, परीक्षण करना, ठीक करना, जाँच करना) का पालन लगभग 60-80% बार किया, भले ही उसे ऐसा करने के लिए नहीं कहा गया था। योजना एक सुरक्षा रेल (safety rail) की तरह काम करती है; इसके बिना, AI रास्ते से अधिक भटक जाता है।
2. "खराब रेसिपी" बिना रेसिपी से भी बदतर है
शोधकर्ताओं ने AI को एक दोषपूर्ण रेसिपी देने की कोशिश की। उदाहरण के लिए, उन्होंने AI को बताया: "बग ढूँढें, और फिर तुरंत उसे ठीक करें, परीक्षण के चरण को छोड़ते हुए।"
- उपमा: कल्पना कीजिए कि एक डॉक्टर आपसे कहे कि निदान (diagnosis) को छोड़ दें और सीधे सर्जरी करें।
- परिणाम: यह विनाशकारी था। AI का प्रदर्शन एक खराब योजना के साथ, बिना किसी योजना के मुकाबले अधिक खराब रहा। जब AI को एक टूटी हुई कार्यप्रणाली का पालन करने के लिए मजबूर किया गया, तो वह भ्रमित हो गया और अधिक बार विफल हुआ। ऐसा लगता है कि AI एक खराब निर्देश को अनदेखा करना और अपनी स्वयं की (बेहतर) सहज बुद्धि पर भरोसा करना पसंद करता है, लेकिन खराब निर्देश फिर भी उसके ध्यान को गड़बड़ा देता है।
3. "अति-इंजीनियर्ड" रेसिपी
उन्होंने रेसिपी में अतिरिक्त चरण जोड़ने का भी प्रयास किया, जैसे "अपने परिवर्तनों का सारांश लिखें" या "पहले बहुत सारे पुराने परीक्षण चलाएं।"
- उपमा: आप प्रशिक्षु से कहते हैं, "इंजन को ठीक करने से पहले, आपको कार धोनी होगी, तेल की जांच करनी होगी और टायर के दबाव के बारे में एक कविता भी लिखनी होगी।"
- परिणाम: इसने AI की गति धीमी कर दी और इसे कम सफल बनाया। AI अतिरिक्त, अनावश्यक चरणों से विचलित हो गया। यह पता चलता है कि कम ही अधिक है। यदि योजना AI के सोचने के स्वाभाविक तरीके से मेल नहीं खाती है, तो अधिक चरण जोड़ने से केवल शोर (noise) पैदा होता है।
4. "बार-बार याद दिलाना" काम करता है
सबसे दिलचस्प निष्कर्षों में से एक रिमाइंडर (याद दिलाने) के बारे में था। जैसे-जैसे AI अधिक समय तक काम करता गया, वह मूल योजना को भूलने लगा (एक घटना जिसे "कॉन्टेक्स्ट विंडो प्रेशर" कहा जाता है)।
- उपमा: एक छात्र की कल्पना करें जो एक लंबी परीक्षा दे रहा है। यदि शिक्षक हर कुछ मिनटों में फुसफुसाता है, "याद रखें, चरण 2 परीक्षण है!", तो छात्र ट्रैक पर रहता है।
- परिणाम: जब शोधकर्ताओं ने AI को समय-समय पर योजना की याद दिलाई, तो AI निर्देशों का बहुत बेहतर पालन करने लगा और अधिक बग्स को ठीक किया। योजना को लगातार "टॉप ऑफ माइंड" (दिमाग में सक्रिय) रहने की आवश्यकता होती है।
5. "हार्ड मोड" की समस्या
अंत में, उन्होंने AI का परीक्षण कठिन, स्वच्छ समस्याओं (SWE-bench Pro) पर किया जिन्हें AI ने पहले नहीं देखा था।
- उपमा: प्रशिक्षु उस विशिष्ट टूटे हुए टोस्टर को ठीक करने में बहुत अच्छा था जिसका उसने अभ्यास किया था (क्योंकि उसने उत्तर रट लिया था), लेकिन एक बिल्कुल नए, जटिल माइक्रोवेव दिए जाने पर, वह पूरी रेसिपी ही भूल गया।
- परिणाम: इन कठिन, "स्वच्छ" समस्याओं पर, योजना के प्रति AI का अनुपालन काफी कम हो गया। यह सुझाव देता है कि आसान समस्याओं के लिए, AI शायद केवल समाधान को रट रहा था, न कि वास्तव में योजना के माध्यम से तर्क कर रहा था।
मुख्य निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि हम AI को गलत तरीके से सिखा रहे हैं।
वर्तमान में, हम AI के दिमाग में विशिष्ट रेसिपी को "हार्ड-कोड" करने की कोशिश कर रहे हैं। लेकिन AI एक ऐसे इंसान की तरह है जो कार्य के तर्क को समझकर सबसे अच्छा सीखता है, न कि चरणों की एक कठोर सूची को रटकर।
- समस्या: यदि रेसिपी AI के आंतरिक तर्क से मेल नहीं खाती है, तो वह विफल हो जाता है।
- समाधान: AI को एक कठोर स्क्रिप्ट देने के बजाय, हमें इसे अनुकूलनशील (adaptable) बनाना चाहिए। हमें इसे सोचना और तर्क करना सिखाने की आवश्यकता है ताकि वह एक स्क्रिप्ट के बजाय मौके पर अपनी योजना खुद बना सके।
संक्षेप में: AI एजेंट बुद्धिमान हैं, लेकिन वे आसानी से विचलित हो जाते हैं। एक अच्छी योजना मदद करती है, लेकिन एक बुरी योजना नुकसान पहुँचाती है। भविष्य उन्हें बेहतर स्क्रिप्ट देने के बारे में नहीं है; यह उन्हें अपनी खुद की स्क्रिप्ट लिखना सिखाने के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।