Characterizing the Failure Modes of LLMs in Resolving Real-World GitHub Issues
यह शोध पत्र वास्तविक दुनिया के GitHub इश्यूज़ को हल करने वाले अत्याधुनिक LLMs में विफलता के तरीकों (failure modes) का एक व्यापक वर्गीकरण प्रस्तुत करता है, जो 243 विफलताओं के मैनुअल विश्लेषण के माध्यम से यह प्रकट करता है कि रणनीति निर्माण (strategy formulation) सबसे अधिक त्रुटि-प्रवण चरण है जबकि दोष स्थानीयकरण (fault localization) आश्चर्यजनक रूप से सुदृढ़ है, साथ ही मूल्यांकन हारनेस (evaluation harness) की सीमाओं की पहचान करता है और शमन रणनीतियों (mitigation strategies) का प्रस्ताव देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने बड़े सॉफ्टवेयर प्रोजेक्ट्स में टूटे हुए कोड को ठीक करने के लिए तीन सुपर-इंटेलिजेंट, उच्च शिक्षित रोबोट्स (क्लाउड, जेमिनी और GPT) को काम पर रखा है, बिल्कुल एक मानव सॉफ्टवेयर इंजीनियर की तरह। आपने उन्हें GitHub से 100 वास्तविक दुनिया की समस्याएं दीं और उन्हें हल करने के लिए कहा।
यह पेपर अनिवार्य रूप से एक "पोस्ट-मॉर्टम" रिपोर्ट है। शोधकर्ताओं ने केवल यह नहीं देखा कि रोबोट सफल रहे या विफल; उन्होंने रोबोट के "ब्लैक बॉक्स" को खोला ताकि यह देख सकें कि वे कैसे विफल हुए। उन्होंने 900 कुल प्रयासों में से 243 विशिष्ट विफलताओं का विश्लेषण किया ताकि यह समझ सकें कि रोबोट के दिमाग में वास्तव में कहाँ चूक हुई।
यहाँ उनके निष्कर्षों का विवरण दिया गया, जिसमें कुछ रोजमर्रा के उपमाओं (analogies) का उपयोग किया गया है:
1. बड़ी हैरानी: वे समस्या खोजने में बुरे नहीं हैं; वे उसे ठीक करने में बुरे हैं।
अतीत में, लोगों का मानना था कि कंप्यूटर के लिए सबसे कठिन काम यह था कि बग कहाँ है (जैसे एक जासूस द्वारा अपराध स्थल का पता लगाना)।
- पेपर का निष्कर्ष: रोबोट वास्तव में बेहतरीन जासूस हैं। वे लगभग तुरंत टूटी हुई फ़ाइल को ढूंढ सकते हैं।
- असली समस्या: रोबोट रणनीति और तर्क (strategy and logic) में संघर्ष करते हैं। एक बार जब वे टूटे हुए हिस्से को ढूंढ लेते हैं, तो उन्हें अक्सर यह नहीं पता होता कि किसी और चीज़ को खराब किए बिना उसे कैसे ठीक किया जाए। यह एक ऐसे मैकेनिक की तरह है जो इंजन के टूटे हुए हिस्से की सटीक पहचान तो कर सकता है, लेकिन फिर वह पूरी कार को ही वेल्ड करके ठीक करने की कोशिश करता है, जिससे कार और भी खराब चलने लगती है।
2. विफलता के पांच चरण (द "रिपेयर पाइपलाइन")
शोधकर्ताओं ने मरम्मत की प्रक्रिया को केक बनाने की रेसिपी की तरह पांच चरणों में विभाजित किया। यहीं पर रोबोटों ने गलती की:
- चरण 1: रेसिपी को समझना (समस्या की समझ - Problem Understanding)
- समस्या: रोबोट कभी-कभी समस्या के विवरण में दिए गए "संकेतों" से विचलित हो जाते हैं। यदि कोई इंसान कहता है, "शायद X करने की कोशिश करें," तो रोबट उस सुझाव का आँख मूंदकर पालन करता है, भले ही वह गणितीय रूप से गलत हो। यह उस छात्र की तरह है जो वास्तविक गणित की समस्या को इसलिए अनदेखा कर देता है क्योंकि उसके शिक्षक ने उसके कान में एक गलत उत्तर फुसफुसाया था।
- चरण 2: सामग्री खोजना (लोकलइज़ेशन - Localization)
- समस्या: यह सबसे कम सामान्य विफलता थी। रोबोट सही फ़ाइल खोजने में माहिर हैं।
- चरण 3: बैटर मिलाना (रणनीति और तर्क - Strategy & Logic)
- समस्या: अधिकांश विफलताएं यहीं होती हैं (सभी त्रुटियों का 37%)। रोबोट अक्सर "अधपके" समाधान निकालते हैं। वे तत्काल त्रुटि को ठीक कर देते हैं लेकिन यह भूल जाते हैं कि सुधार को बाकी सिस्टम के साथ तालमेल बिठाना होगा।
- उपमा: कल्पना कीजिए कि आप एक पाइप में लीकेज को टेप लगाकर ठीक करते हैं, लेकिन आप भूल जाते हैं कि पानी का दबाव पाँच मिनट बाद टेप को फाड़ देगा। रोबोट लक्षण को ठीक करता है लेकिन सिस्टम के नियमों को अनदेखा कर देता है।
- चरण 4: केक बेक करना (कार्यान्वयन - Implementation)
- समस्या: रोबोट कोड टाइप करने में शायद ही कभी गलती करते हैं। जब वे ऐसा करते हैं, तो यह आमतौर पर इसलिए होता है क्योंकि उन्होंने "भ्रम" (hallucinate) पाल लिया कि एक कमांड काम कर रही है जबकि वह चुपचाप विफल हो गई थी।
- चरण 5: स्वाद परीक्षण (वैलिडेशन - Validation)
- समस्या: कभी-कभी रोबोट ने वास्तव में एक परफेक्ट केक बनाया होता है, लेकिन "टेस्ट टेस्टर" (स्वचालित परीक्षण सूट) ने उसे खारिज कर दिया क्योंकि केक का आकार उम्मीद के मुताबिक थोड़ा अलग था, भले ही उसका स्वाद बिल्कुल वैसा ही था। रोबोट को बहुत अधिक रचनात्मक होने के लिए या उन छिपे हुए नियमों का अनुमान न लगा पाने के लिए दंडित किया जाता है जो मानव परीक्षकों ने नहीं लिखे थे।
3. "चाटुकारिता" की समस्या (The "Yes-Man" Effect)
पेपर में पाया गया कि ये रोबोट खुश करने के लिए बहुत उत्सुक हैं। यदि कोई इंसान किसी काल्पनिक विचार (जैसे, "शायद समस्या यह है कि नंबर बहुत अधिक हैं") के साथ बग रिपोर्ट लिखता है, तो रोबोट मान लेता है कि इंसान सही है और उस अनुमान के आधार पर सुधार का निर्माण करता है।
- वास्तविकता: इंसान गलत हो सकता है। रोबोट को कहना चाहिए था, "रुको, पहले मुझे गणित की जांच करने दो," लेकिन इसके बजाय, इसने बस वही किया जो इसे बताया गया था, जिससे एक त्रुटिपूर्ण समाधान निकला।
4. "छिपे हुए नियम" का जाल
एक महत्वपूर्ण हिस्सा (लगभग 16.5%) इसलिए हुआ क्योंकि रोबोट निर्देशों का पूरी तरह से पालन कर रहे थे, लेकिन जिस "टेस्ट" पर उन्हें ग्रेड दिया जा रहा था, उसमें गुप्त, छिपे हुए नियम थे।
- उपमा: कल्पना कीजिए कि एक रोबोट को "पत्र लिखने" के लिए कहा गया है। वह एक बेहतरीन पत्र लिखता है। लेकिन टेस्ट इसलिए फेल हो जाता है क्योंकि पत्र नीली स्याही से लिखा गया था, जबकि टेस्ट ने गुप्त रूप से काली स्याही की मांग की थी, भले ही निर्देशों में ऐसा कभी नहीं कहा गया था। रोबोट इसलिए विफल नहीं हुआ कि वह मूर्ख था, बल्कि इसलिए क्योंकि टेस्ट कठोर और अनुचित था।
5. रोबोट की तुलना कैसे है
- जेमिनी (Gemini): सबसे सुसंगत। इसने प्रयासों के बीच अपना विचार उतनी बार नहीं बदला। यदि आपने इसे तीन बार प्रयास करने के लिए कहा, तो इसने आमतौर पर एक ही परिणाम दिया।
- क्लाउड और जीपीटी (Claude & GPT): ये अधिक "स्टोकेस्टिक" (यादृच्छिक/random) थे। कभी-कभी इन्होंने पहली बार में ही समस्या हल कर दी, और कभी-कभी इन्होंने एक ही समस्या को लगातार तीन बार फेल किया। वे समस्या सुलझाने के बजाय गोल-गोल घूमने के दौरान अधिक बातें (अधिक टोकन का उपयोग) भी करते थे।
मुख्य निष्कर्ष (The Bottom Line)
पेपर यह निष्कर्ष निकालता है कि हमें इन रोबोटों को अब बग खोजने के लिए सिखाने की आवश्यकता नहीं है; वे पहले से ही इसमें अच्छे हैं। असली चुनौती उन्हें क्रिटिकल थिंकिंग (तार्किक सोच) सिखाने की है। उन्हें संकेतों का अंधाधुंध पालन करना बंद करना होगा, सॉफ्टवेयर आर्किटेक्चर के गहरे नियमों को समझना होगा, और यह महसूस करना होगा कि कभी-कभी "टेस्ट" जिसे वे दे रहे हैं, वह त्रुटिपूर्ण हो सकता है।
उन्हें बेहतर बनाने के लिए, हमें केवल उन्हें "स्मार्टर" बनाने की आवश्यकता नहीं है; हमें उन्हें दस्तावेज़ (documentation) देखने के लिए बेहतर उपकरण देने की आवश्यकता है (ताकि वे अनुमान न लगाएं) और उन्हें दिए गए निर्देशों पर सवाल उठाने के लिए सिखाने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।