Towards Agentic Runtime Healing
यह शोध पत्र "Healer" को प्रस्तुत करता है, जो एक नवीन ढांचा (framework) है जो वास्तविक समय में अनुकूलित त्रुटि-निवारण कोड (error-handling code) को गतिशील रूप से उत्पन्न करने और निष्पादित करने के लिए लार्ज लैंग्वेज मॉडल्स का लाभ उठाता है, जिससे अप्रत्याशित रनटाइम त्रुटियों से उबरने में उच्च सफलता दर प्राप्त होती है और यह एजेंटिक, स्व-उपचार (self-healing) सॉफ्टवेयर प्रणालियों की दिशा में एक महत्वपूर्ण कदम है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका कंप्यूटर प्रोग्राम एक व्यस्त रसोई में काम करने वाला एक शेफ है। आमतौर पर, शेफ एक रेसिपी (कोड) का पूरी तरह से पालन करता है। लेकिन कभी-कभी, कुछ अप्रत्याशित हो जाता है: शेफ ऐसी सब्जी काटने की कोशिश करता है जो वहां मौजूद ही नहीं है, या वह केक को उस ओवन में रखने की कोशिश करता है जो पहले से ही भरा हुआ है। सॉफ्टवेयर की दुनिया में, इसे रनटाइम एरर (runtime error) कहा जाता है।
पारंपरिक रूप से, जब शेफ कोई गलती करता है, तो रसोई बंद हो जाती है। शेफ रुक जाता है, ग्राहक भूखे रह जाते हैं, और एक मानव मैनेजर को आना पड़ता है, यह पता लगाना पड़ता है कि क्या गलत हुआ था, और अगली बार के लिए रेसिपी को फिर से लिखना पड़ता है। आज अधिकांश सॉफ्टवेयर इसी तरह काम करते हैं: यदि वे क्रैश हो जाते हैं, तो वे तब तक क्रैश ही रहते हैं जब तक कि कोई इंसान उन्हें ठीक न कर दे।
नया विचार: "AI सूस-शेफ" (AI Sous-Chef)
यह पेपर एक नया कॉन्सेप्ट पेश करता है जिसे हीलर (Healer) कहा गया है। कल्पना कीजिए कि हीलर एक अविश्वसनीय रूप से स्मार्ट, तुरंत उपलब्ध AI सूस-शेफ है जो मुख्य शेफ के ठीक बगल में खड़ा है।
जब मुख्य शेफ किसी चीज़ से टकराकर पैन गिरा देता है (एरर), तो रसोई बंद करने के बजाय, AI सूस-शेफ तुरंत काम संभाल लेता है। वह केवल "ओह नहीं!" कहकर मैनेजर को बुलाने के बजाय, तुरंत उस गड़बड़ी को देखता है, स्थिति को समझता है, और तत्काल समस्या को हल करने के लिए एक नया, छोटा निर्देश एक स्टिकी नोट पर लिख देता है।
उदाहरण के लिए, यदि एरर यह है कि "बर्तन पहले से ही चूल्हे पर है," तो AI तुरंत लिख सकता है, "ठीक है, चलिए बस एक दूसरा बर्तन इस्तेमाल करते हैं," और वह निर्देश मुख्य शेफ को सौंप देता है। मुख्य शेफ उसे पढ़ता है, उसका पालन करता है, और बिना रुके खाना बनाना जारी रखता है।
यह कैसे काम करता है (जादुई ट्रिक)
शोधकर्ताओं ने इस विचार का परीक्षण करने के लिए एक सिस्टम बनाया है। यहाँ वह चरण-दर-चरण प्रक्रिया दी गई है जिसका उन्होंने वर्णन किया है:
- क्रैश (The Crash): प्रोग्राम को एक ऐसे एरर का सामना करना पड़ता है जिसकी उसने उम्मीद नहीं की थी।
- स्नैपशॉट (The Snapshot): सिस्टम उस सटीक क्षण में हो रही हर चीज़ की एक त्वरित "फोटो" लेता है: एरर मैसेज, कोड कहाँ टूटा, और वेरिएबल्स (सामग्री) क्या कर रहे थे।
- पूछना (The Ask): यह स्नैपशॉट एक लार्ज लैंग्वेज मॉडल (LLM) को भेजा जाता है। LLM को एक अत्यंत बुद्धिमान लाइब्रेरियन के रूप में सोचें जिसने दुनिया की हर कुकबुक पढ़ी है। सिस्टम लाइब्रेरियन से पूछता है: "यहाँ समस्या है। एक त्वरित समाधान लिखें ताकि हम काम जारी रख सकें।"
- सुधार (The Fix): लाइब्रेरियन कोड का एक छोटा सा हिस्सा ( "हीलिंग कोड") लिखता है।
- रीस्टार्ट (The Restart): सिस्टम तुरंत इस नए कोड को चलाता है। यह प्रोग्राम की स्थिति (स्टेट) को बदल देता है (जैसे बर्तन को बदलना) ताकि एरर खत्म हो जाए, और प्रोग्राम बिना किसी रुकावट के चलता रहता है जैसे कुछ हुआ ही न हो।
उन्होंने क्या पाया
टीम ने हजारों टूटे हुए प्रोग्रामों पर इस "AI सूस-शेफ" का परीक्षण किया। यहाँ क्या हुआ:
- यह आश्चर्यजनक रूप से अच्छा काम करता है: जब उन्होंने सबसे स्मार्ट AI मॉडल (GPT-4) का उपयोग किया, तो इसने लगभग 73% समय सफलतापूर्वक प्रोग्राम को ठीक किया और इसे चलते रहने दिया।
- यह काम पूरा कर देता है: लगभग 39% मामलों में, प्रोग्राम केवल चलता ही नहीं रहा; बल्कि उसने कार्य को सही ढंग से पूरा भी किया और सही उत्तर दिया।
- ट्रेनिंग मदद करती है: उन्होंने पाया कि यदि वे AI को विशेष रूप से इन त्रुटियों को ठीक करने के लिए "सिखाते" हैं (उसे अच्छे सुधारों के उदाहरण दिखाकर), तो छोटे और कम शक्तिशाली AI मॉडल भी बड़े और महंगे मॉडलों के लगभग बराबर प्रदर्शन कर सकते हैं।
पेच: AI पर भरोसा करना
पेपर एक बड़े जोखिम की ओर भी इशारा करता है। क्योंकि AI चलते समय कोड लिख रहा है, यह गलती भी कर सकता है।
- जोखिम: कल्पना कीजिए कि AI सूस-शेफ "गर्म ओवन" की समस्या को ठीक करने के लिए पूरे भवन की गैस बंद करने का निर्देश देता है। यह एक आपदा होगी।
- वास्तविकता: शोधकर्ताओं ने पाया कि हालांकि AI चीजों को ठीक करने में अच्छा है, लेकिन कभी-कभी यह जोखिम भरे काम करता है, जैसे महत्वपूर्ण चरणों को छोड़ देना या गलत वेरिएबल्स को बदल देना।
- समाधान: वे सुझाव देते हैं कि हमें "सुरक्षा जांच" (safety checks) की आवश्यकता है। इसे AI सूस-शेफ को "सुरक्षित उपकरणों" की एक सूची देने जैसा समझें जिन्हें उपयोग करने की उन्हें अनुमति है। वे बर्तन बदल सकते हैं या तापमान बदल सकते हैं, लेकिन वे मुख्य गैस लाइन को नहीं छू सकते। यह रसोई को सुरक्षित रखते हुए भी AI को मदद करने की अनुमति देता है।
निष्कर्ष
यह पेपर खुद को ठीक करने वाले (self-healing) सॉफ्टवेयर बनाने की दिशा में पहला कदम है। किसी इंसान द्वारा क्रैश को ठीक करने का इंतज़ार करने के बजाय, हमारे पास जल्द ही ऐसा सॉफ्टवेयर हो सकता है जो अपने स्वयं के छेदों को भरने और काम जारी रखने के लिए AI का उपयोग करता है।
हालाँकि, लेखक स्पष्ट हैं: यह अभी एक प्रोटोटाइप है। हमें यह सुनिश्चित करने की आवश्यकता है कि AI चीजों को ठीक करने की कोशिश करते समय अनजाने में उन्हें खराब न कर दे। लेकिन इसकी क्षमता बहुत बड़ी है: ऐसा सॉफ्टवेयर जो अधिक लचीला हो, जिसके क्रैश होने की संभावना कम हो, और जो अपनी गलतियों से खुद उबर सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।