Don't Repeat Yourself: Stopping Verbatim Loops at Sampling Time
यह शोध पत्र "डोंट रिपीट योरसेल्फ" (DRY) को प्रस्तुत करता है, जो कि एक सैंपलिंग-टाइम लॉजिट एडजस्टमेंट है जो उन टोकन को दंडित करके जो पहले के संदर्भ से सटीक सफिक्स मिलान को बढ़ाते हैं, बड़े भाषा मॉडलों में वर्बेटिम लूपिंग को प्रभावी रूप से कम करता है, जिससे प्रदर्शन में गिरावट या मॉडल पुनरप्रशिक्षण की आवश्यकता के बिना लेक्सिकल विविधता और प्रवाह में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) उन टेक्स्ट-जनरेटिंग टूल्स के पीछे के इंजन हैं जिन्होंने हमारे लिखने, कोडिंग करने और मशीनों के साथ संवाद करने के तरीके को नया रूप दिया है। ये सिस्टम एक वाक्य में अगले शब्द की भविष्यवाणी करके काम करते हैं, एक बार में एक हिस्सा, जो कि उससे पहले आए हुए हर शब्द के आधार पर एक प्रतिक्रिया तैयार करता है। अधिकांश मामलों में, वे उल्लेखनीय रूप से प्रवाहपूर्ण होते हैं, जटिल विचारों को बुनने और मानवीय शैली की नकल करने में सक्षम होते हैं। हालाँकि, वे एक विशिष्ट, निराशाजनक दोष से ग्रस्त होते हैं जिसे "वर्बेटिम लूपिंग" (verbatim looping) कहा जाता है। जब कोई मॉडल अटक जाता है, तो यह एक वाक्यांश या वाक्य को बार-बार दोहराने लगता है, कभी-कभी सैकड़ों शब्दों तक, जैसे कि वह भूल गया हो कि उसने अभी-अभी यह कहा था। ऐसा इसलिए होता है क्योंकि मॉडल का अपना आउटपुट पैटर्न को पुख्ता करता है, जिससे एक फीडबैक लूप बन जाता है जिसे तोड़ना कठिन होता है। जबकि डेवलपर्स ने लंबे समय से मॉडल को उन शब्दों का उपयोग न करने के लिए कहकर इसे ठीक करने की कोशिश की है जो उसने पहले देखे हैं, ये सीधे और कठोर उपकरण अक्सर टेक्स्ट की गुणवत्ता को खराब कर देते हैं, आवश्यक फॉर्मेटिंग को बाधित करते हैं या लेखन को रोबोटिक बना देते हैं।
एक नया अध्ययन इस समस्या को संभालने का एक स्मार्ट तरीका पेश करता है, जिसे "डोंट रिपीट योरसेल्फ" (Don't Repeat Yourself) या DRY कहा जाता है। मॉडल को उस शब्द के लिए दंडित करने के बजाय जिसका उपयोग उसने पहले किया है, यह नया दृष्टिकोण स्वयं वाक्य की संरचना को देखता है। यह प्रतीक्षा करता है कि क्या मॉडल एक ऐसे पैटर्न को पूरा करने वाला है जो पहले भी टेक्स्ट में दिखाई दे चुका है। यदि मॉडल केवल एक ऐसे शब्द को दोहरा रहा है जो एक सामान्य संरचना का हिस्सा है, जैसे कि संवाद में वक्ता का लेबल या सूची में बुलेट पॉइंट, तो यह विधि उसे अकेला छोड़ देती है। लेकिन यदि मॉडल शब्दों के एक ऐसे अनुक्रम को आगे बढ़ाना शुरू करता है जो पिछले अनुभाग से बिल्कुल मेल खाता है, तो यह विधि मॉडल को धीरे से एक अलग रास्ता चुनने के लिए प्रेरित करती है। यह अंतर महत्वपूर्ण है क्योंकि यह मॉडल को अपनी प्राकृतिक लय और फॉर्मेटिंग बनाए रखने की अनुमति देता है और साथ ही उस अनियंत्रित पुनरावृत्ति को रोकता है जिसके कारण वह अटक जाता है।
शोधकर्ताओं ने इस विचार का परीक्षण विभिन्न प्रकार के कंप्यूटर मॉडल्स पर किया, छोटे मॉडल्स से लेकर अरबों पैरामीटर्स वाले विशाल सिस्टम तक, जिन्हें व्यक्तिगत लैपटॉप पर चलाया जा सकता है। उन्होंने विभिन्न प्रकार के प्रॉम्प्ट्स का उपयोग करते हुए हजारों जनरेशन चलाए, जिनमें रचनात्मक लेखन, लंबी बातचीत और स्ट्रक्चर्ड फॉर्मेटिंग कार्य शामिल थे। परिणाम स्पष्ट थे: इस नई विधि ने बिना कुछ किए जाने की तुलना में इन सटीक पुनरावृत्ति लूपों की दर को लगभग आधा कम कर दिया। इससे भी महत्वपूर्ण बात यह है कि इसने लेखन की गुणवत्ता को नुकसान पहुँचाए बिना ऐसा किया। वास्तव में, इस विधि से उत्पन्न टेक्स्ट पुराने, कठोर दंडों द्वारा उत्पादित टेक्स्ट की तुलना में अधिक विविध और विविध था। जब शोधकर्ताओं ने नई विधि की तुलना उद्योग में वर्तमान में उपयोग किए जाने वाले मानक उपकरणों से की, तो पुराने उपकरणों ने या तो लूप को रोकने में विफल रहे या, जब उन्होंने ऐसा किया, तो उन्होंने टेक्स्ट को अप्राकृतिक बना दिया और फॉर्मेटिंग को बिगाड़ दिया।
यह सुनिश्चित करने के लिए कि सुधार नए मेथड के विशिष्ट तर्क से आया है न कि केवल सिस्टम में रैंडम नॉइज़ जोड़ने से, टीम ने एक विशेष कंट्रोल टेस्ट चलाया। उन्होंने मॉडल पर समान मात्रा में हस्तक्षेप लागू किया लेकिन पैटर्न के मिलान वाले विशिष्ट नियम के बिना। इस कंट्रोल ग्रुप ने लूप को नहीं रोका, जिससे यह सिद्ध हुआ कि नए मेथड की सफलता इसके द्वारा पुनरावृत्ति की विशिष्ट संरचना को पहचानने और बाधित करने की क्षमता से आती है। अध्ययन ने यह भी देखा कि क्या यह फिक्स मॉडल की कठिन समस्याओं को हल करने या जटिल निर्देशों का पालन करने की क्षमता को नुकसान पहुँचाता है। तर्क और ज्ञान को मापने वाले परीक्षणों पर, नए मेथड ने अनियंत्रित मॉडल के समान ही प्रदर्शन किया, जबकि पुराने तरीकों के कारण प्रदर्शन में गिरावट देखी गई। यह सुझाव देता है कि नया दृष्टिकोण अपनी बुद्धिमत्ता का त्याग किए बिना वास्तविक दुनिया के अनुप्रयोगों में उपयोग के लिए सुरक्षित है।
इस कार्य का प्रभाव प्रयोगशाला से परे तक फैला हुआ है। इस पद्धति को पहले से ही कई लोकप्रिय ओपन-सोर्स सॉफ्टवेयर फ्रेमवर्क्स द्वारा अपनाया जा चुका है जो स्थानीय AI अनुप्रयोगों को संचालित करते हैं, जिसका अर्थ है कि उपयोगकर्ता तुरंत इसका लाभ उठाना शुरू कर सकते हैं। शब्दों के व्यक्तिगत शब्दों के बजाय शब्दों के अनुक्रम पर ध्यान केंद्रित करके, शोधकर्ताओं ने इन शक्तिशाली उपकरणों को लूप में फंसने से रोकने का एक तरीका खोजा है, जिससे यह सुनिश्चित होता है कि वे लंबी बातचीत और जटिल कार्यों के लिए उपयोगी, प्रवाहपूर्ण और विश्वसनीय बने रहें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।