Failure by Interference: Language Models Make Balanced Parentheses Errors When Faulty Mechanisms Overshadow Sound Ones
यह शोध पत्र प्रकट करता है कि भाषा मॉडल दोषपूर्ण तंत्रों द्वारा सुदृढ़ तंत्रों को बाधित किए जाने के कारण संतुलित कोष्ठक (parentheses) कार्यों में विफल हो जाते हैं, और RASteer का परिचय देता है, जो एक स्टीयरिंग विधि है जो सामान्य कोडिंग क्षमताओं को नुकसान पहुँचाए बिना विश्वसनीय घटकों को प्रवर्धित करके सटीकता को लगभग 100% तक बढ़ा देती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक पहेली सुलझाने के लिए 100 विशेषज्ञों की एक टीम है। पहेली सरल है: कोड की एक पंक्ति में सभी कोष्ठकों (parentheses) को संतुलित करना सुनिश्चित करें। उदाहरण के लिए, यदि आप एक ब्रैकेट ( खोलते हैं, तो आपको उसे ) के साथ बंद करना होगा।
आप सोचेंगे कि एक सुपर-स्मार्ट AI (एक लार्ज लैंग्वेज मॉडल) इसके लिए एकदम सही होगा। लेकिन आश्चर्यजनक रूप से, यहाँ तक कि स्मार्ट AI भी अक्सर विफल हो जाते हैं, खासकर जब कोष्ठक ((())) की तरह एक के ऊपर एक रखे हों।
"फेलियर बाय इंटरफेरेंस" (हस्तक्षेप द्वारा विफलता) नामक यह शोध पत्र जांच करता है कि ऐसा क्यों होता है और बिना AI को फिर से प्रशिक्षित (retrain) किए इसे कैसे ठीक किया जाए।
समस्या: विशेषज्ञों का एक शोर भरा कमरा
शोधकर्ताओं ने पाया कि एक AI निर्णय लेने के लिए केवल एक "मस्तिष्क" पर निर्भर नहीं रहता है। इसके बजाय, यह हजारों छोटे आंतरिक हिस्सों (जिन्हें अटेंशन हेड्स और न्यूरॉन्स कहा जाता है) का उपयोग करता है जो एक ही समय में अपने सुझाव चिल्लाकर देते हैं।
इसे एक भीड़भाड़ वाले कमरे की तरह समझें जहाँ हर कोई अगले शब्द पर वोट देने की कोशिश कर रहा है:
- ध्वनि तंत्र (Sound Mechanisms): कमरे में कुछ विशेषज्ञ वास्तव में कोष्ठकों को गिनने में बहुत अच्छे हैं। वे जानते हैं कि ब्रैकेट को कब बंद करना है।
- दोषपूर्ण तंत्र (Faulty Mechanisms): बाकी कमरा शोर से भरा है। कुछ विशेषज्ञ भ्रमित हैं, कुछ अनुमान लगा रहे हैं, और कुछ गलत उत्तर बहुत जोर से चिल्ला रहे हैं।
विफलता: AI इसलिए विफल नहीं होता क्योंकि उसमें स्मार्ट विशेषज्ञों की कमी है, बल्कि इसलिए होता है क्योंकि शोर मचाने वाले, भ्रमित विशेषज्ञ स्मार्ट विशेषज्ञों की तुलना में अधिक जोर से चिल्ला रहे हैं। स्मार्ट सलाह शोर में दब जाती है। शोध पत्र इसे "फेलियर बाय इंटरफेरेंस" कहता है।
खोज: "सुपर-एक्सपर्ट्स" को खोजना
शोधकर्ताओं ने सात अलग-अलग AI मॉडलों (छोटे से लेकर बड़े तक) के अंदर झाँका और एक दिलचस्प बात पाई:
- अधिकांश हिस्से विशेषज्ञ (Specialists) हैं: कई आंतरिक हिस्से केवल सरल कार्यों (जैसे एक जोड़ी कोष्ठक) के लिए अच्छी तरह काम करते हैं, लेकिन कार्य कठिन होने पर (जैसे चार जोड़ी कोष्ठक) विफल हो जाते हैं।
- कुछ हिस्से सामान्यज्ञ (Generalists) हैं: कुछ बहुत ही गिने-चुने हिस्से अविश्वसनीय रूप से भरोसेमंद हैं। वे कितने भी कोष्ठक होने पर भी पूरी तरह से काम करते हैं।
- उदाहरण: एक मॉडल (CodeLlama-7b) में, एक छोटा सा हिस्सा (एक अटेंशन हेड) वास्तव में पहेली को हल करने में पूरे मॉडल से भी बेहतर था!
समाधान: RASTEER (वॉल्यूम नॉब)
चूंकि स्मार्ट हिस्से मौजूद हैं लेकिन उन्हें अनदेखा किया जा रहा है, इसलिए शोधकर्ताओं ने RASTEER नामक एक विधि विकसित की।
कल्पना कीजिए कि AI के आंतरिक हिस्से एक साउंड सिस्टम के स्पीकर हैं।
- पहले: "भ्रमित" स्पीकर वॉल्यूम 10 पर हैं, और "स्मार्ट" स्पीकर वॉल्यूम 1 पर हैं। परिणाम शोर का एक ढेर है।
- RASTEER: यह विधि एक वॉल्यूम नॉब की तरह काम करती है। यह स्मार्ट, भरोसेमंद स्पीकरों की पहचान करती है और उनका वॉल्यूम थोड़ा बढ़ा देती है। यह दूसरों को म्यूट नहीं करती; यह बस यह सुनिश्चित करती है कि स्मार्ट आवाजें शोर के ऊपर सुनाई देने के लिए पर्याप्त तेज हों।
परिणाम:
- चमत्कारी सुधार: कुछ मॉडलों के लिए, जो 0% उत्तर सही दे रहे थे, केवल शीर्ष 10 स्मार्ट हिस्सों का वॉल्यूम बढ़ाने से उनकी सटीकता लगभग 100% तक पहुँच गई।
- कोई दुष्प्रभाव नहीं: महत्वपूर्ण रूप से, इसने अन्य चीजों के लिए कोड लिखने की AI की क्षमता को नहीं तोड़ा। वास्तव में, कुछ मॉडलों के लिए, उनके सामान्य कोडिंग कौशल में थोड़ा सुधार हुआ।
- यह अन्यत्र भी काम करता है: उन्होंने गणित की समस्याओं (अंकगणितीय तर्क) पर इसका परीक्षण किया और समान सुधार (20% तक बेहतर) देखे।
उन्होंने क्या नहीं किया (और किससे बचना चाहिए)
- उन्होंने AI को फिर से प्रशिक्षित नहीं किया: उन्होंने AI को नया डेटा नहीं दिया या उसके मस्तिष्क की संरचना को नहीं बदला। उन्होंने बस सोचने के क्षण के दौरान उसके मौजूदा हिस्सों का उपयोग करने के तरीके को ट्यून किया।
- उन्होंने एक "सर्किट" नहीं खोजा: पिछले शोध ने त्रुटियों को ठीक करने के लिए तर्क के सटीक पथ (जैसे सर्किट डायग्राम) को मैप करने की कोशिश की थी। शोधकर्ताओं ने पाया कि यह बहुत जटिल था और छोटे मॉडलों के लिए अच्छी तरह काम नहीं करता था। उनका "वॉल्यूम नॉब" दृष्टिकोण सरल और अधिक प्रभावी था।
- उन्होंने यह दावा नहीं किया कि यह सभी AI त्रुटियों को ठीक करता है: यह विशेष रूप से सरल सिंटैक्टिक कार्यों (जैसे कोष्ठक और गणित) को लक्षित करता है जहाँ AI के पास ज्ञान तो है लेकिन वह आंतरिक शोर से भ्रमित हो जाता है।
मुख्य निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि AI मॉडल अक्सर अति-योग्य (overqualified) लेकिन अल्प-उपयोगी (underutilized) होते हैं। उनके पास सरल समस्याओं को हल करने के लिए सही उपकरण हैं, लेकिन वे आंतरिक शोर के पहाड़ के नीचे दब जाते हैं। भरोसेमंद उपकरणों का "वॉल्यूम बढ़ाकर", हम AI को बिना दोबारा बनाए काफी स्मार्ट बना सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।