Online Monitoring and Corrective Steering of Programming Agents
यह शोध पत्र LivePlan प्रस्तुत करता है, जो एक लागत प्रभावी ढांचा है जो वास्तविक समय में व्यवहार संबंधी विचलन का पता लगाने के लिए एक नियत (deterministic) मॉनिटर का उपयोग करने और लक्षित सुधारों के लिए चुनिंदा रूप से एक LLM सलाहकार से परामर्श करने के माध्यम से जटिल GitHub इश्यूज़ पर प्रोग्रामिंग एजेंटों के प्रदर्शन को बढ़ाता है, जिससे न्यूनतम ओवरहेड के साथ समाधान दर में महत्वपूर्ण सुधार प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ कंप्यूटर अपना स्वयं का सॉफ़्टवेयर लिख सकते हैं, बग्स को ठीक कर सकते हैं और अपने आप नई सुविधाएँ बना सकते हैं। यह "AI एजेंट्स" का क्षेत्र है, जो डिजिटल कार्यकर्ता हैं जो लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग करते हैं—वही स्मार्ट दिमागी शक्ति जो चैटबॉट्स के पीछे होती है—कोड को पढ़ने, यह समझने के लिए कि क्या गलत है, और उसे ठीक करने की कोशिश करने के लिए। लेकिन यहाँ एक पेंच है: ये डिजिटल कार्यकर्ता पूर्ण नहीं हैं। कभी-कभी वे भटक जाते हैं, रास्ते से उतर जाते हैं, एक ही गलती को बार-बार दोहराते हैं, या काम पूरा होने से पहले ही हार मान लेते हैं। यह एक बहुत ही स्मार्ट लेकिन आसानी से भ्रमित होने वाले रोबोट को एक विशिष्ट पुस्तक खोजने के लिए एक विशाल पुस्तकालय में भेजने जैसा है; वह गलत अनुभाग पढ़ना शुरू कर सकता है, एक बंद दरवाजे को खोलने की कोशिश में लूप में फंस सकता है, या पुस्तक खोजने से पहले ही जाने का निर्णय ले सकता है। शोधकर्ता इस पर गहराई से ध्यान देते हैं क्योंकि यदि हम चाहते हैं कि AI बड़े सॉफ़्टवेयर प्रोजेक्ट्स को ठीक करने जैसे जटिल, वास्तविक दुनिया के काम संभाल सके, तो हमें यह सुनिश्चित करना होगा कि ये एजेंट्स अपने लक्ष्यों से भटक न जाएं या मृत अंत (dead ends) पर समय और पैसा बर्बाद न करें।
यहाँ आता है LIVEPLAN, एक नया सिस्टम जिसे इन कोडिंग रोबोट्स के लिए एक सतर्क, रियल-टाइम कोच के रूप में कार्य करने के लिए डिज़ाइन किया गया है। शोधकर्ता, शुयांग लियू और उनकी टीम ने देखा कि इन भटकते हुए एजेंट्स को ठीक करने के पिछले प्रयासों में एक बड़ी खामी थी: वे अक्सर एक ही AI मस्तिष्क का उपयोग करके रोबोट के काम का "निर्णय" लेने और "सलाह देने" का प्रयास करते थे। यह एक अकेले रेफरी से यह उम्मीद करने जैसा था कि वह फाउल के लिए सीटी भी बजाए और तुरंत खिलाड़ी को यह भी बताए कि खेल को कैसे खेलना है। समस्या क्या थी? रेफरी भ्रमित हो सकता है, एक ऐसा फाउल बना सकता है जो हुआ ही नहीं था, और गलत निर्देश दे सकता है जो वास्तव में खिलाड़ी को और भी अधिक गड़बड़ी करने के लिए प्रेरित कर सकते हैं।
LIVEPLAN इस काम को दो अलग-अलग भूमिकाओं में विभाजित करके हल करता है। सबसे पहले, यह एक डिटरमिनिस्टिक मॉनिटर (deterministic monitor) का उपयोग करता है—इसे एक सख्त, नियम मानने वाले ट्रैफिक पुलिसकर्मी के रूप में सोचें। यह पुलिसकर्मी अनुमान नहीं लगाता या भ्रम पैदा नहीं करता; यह केवल परेशानी के विशिष्ट, स्पष्ट संकेतों पर नज़र रखता है, जैसे कि रोबलेट का लगातार दो बार एक ही कदम उठाना, एक महत्वपूर्ण सुरक्षा जांच को छोड़ देना, या बहुत लंबे समय तक एक ही दीवार को घूरते रहना। यदि ट्रैफिक पुलिसकर्मी को कोई समस्या दिखती है, तो वह एक स्मार्ट एडवाइजर (smart advisor) (एक शक्तिशाली AI) को बुलाता है ताकि पटरी पर वापस आने के लिए एक त्वरित, उच्च-स्तरीय टिप दी जा सके। मुख्य बात यह है कि सलाहकार केवल तभी बोलता है जब ट्रैफिक पुलिसकर्मी कहता है, "हे, यहाँ एक समस्या है," न कि बिना मांगे सलाह देकर रोबोट को लगातार बाधित करता है।
टीम ने वास्तविक दुनिया के GitHub इश्यूज़ पर इस सिस्टम का परीक्षण किया, जो बड़े सॉफ़्टवेयर प्रोजेक्ट्स में बग्स को ठीक करने के लिए 'टू-डू लिस्ट' की तरह होते हैं। उन्होंने पाया कि LIVEPLAN एक गेम-चेंजर साबित हुआ। मानक "वैनिला" एजेंट्स की तुलना में, जो बिना किसी कोच के चलते हैं, LIVEPLAN ने काफी अधिक समस्याओं को हल करने में मदद की—सबसे कठिन कार्यों पर सफलता दर को 15.2% तक बढ़ाया, और औसतन 9.9% का सुधार किया। शायद सबसे प्रभावशाली बात यह है कि इसने प्रत्येक फिक्स के लिए लगभग $0.08 की मामूली लागत जोड़कर यह उपलब्धि हासिल की।
पेपर यह भी दिखाता है कि क्या होता है जब आप इस सावधानीपूर्ण दृष्टिकोण का उपयोग नहीं करते हैं। उन्होंने अन्य तरीकों का परीक्षण किया जो रोबोट की पूरी यात्रा की योजना को फिर से बनाने (re-plan) की कोशिश करते थे या बहुत बार-बार चेक-इन करते थे। वे अक्सर उल्टा असर करते थे: "री-प्लानिंग" करने वाले कोच कभी-कभी ऐसी समस्याएं बना देते थे जो मौजूद ही नहीं थीं और रोबोट को गलत दिशा में दौड़ा देते थे, जबकि "फ्रीक्वेंट चेक-इन्स" अक्सर उपयोगी होने के लिए बहुत देर से सलाह देते थे। LIVEPLAN का स्पष्ट संकेतों के इंतजार करने का दृष्टिकोण बीच का सही रास्ता (sweet spot) साबित हुआ। इसने एजेंट्स को उन पेचीदा मध्य और कठिन समस्याओं के माध्यम से सफलतापूर्वक निर्देशित किया जो आमतौर पर उन्हें उलझा देती हैं, बिना उन कामों को बिगाड़े जिनमें वे पहले से ही अच्छे थे। संक्षेप में, एक सरल नियम-जांचकर्ता को दरवाजे पर नज़र रखने देने और केवल आवश्यकता पड़ने पर ही बड़े दिमाग को बुलाने के तरीके से, शोधकर्ताओं ने एक तरीका खोज निकाला जिससे ये डिजिटल कार्यकर्ता केंद्रित, कुशल और काम पूरा करने की अधिक संभावना रखते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।