Why LLMs Refuse to Summarize More in Long Contexts?
यह शोध पत्र प्रकट करता है कि बड़े भाषा मॉडल इनपुट की लंबाई के सापेक्ष अत्यधिक उप-रैखिक (sublinear) वृद्धि के साथ सारांश उत्पन्न करते हैं, जो यह दर्शाता है कि जबकि प्रॉम्प्ट निर्देश न्यूनतम प्रभाव डालते हैं, लंबाई-विशिष्ट डेटा पर फाइन-ट्यूनिंग सारांश के आकार को नियंत्रित करने के लिए प्राथमिक लीवर है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक डिजिटल सहायक की कल्पना करें जो पूरी लाइब्रेरी पढ़ सकता है, जटिल सॉफ़्टवेयर लिख सकता है, या हफ्तों तक एक शोध परियोजना का प्रबंधन कर सकता है। ऐसा करने के लिए, सहायक जो कुछ भी देखता और करता है, उसका एक चलता हुआ लॉग रखता है, एक ऐसा इतिहास जो हर क्रिया के साथ लंबा होता जाता है। यह इतिहास 'कॉन्टेक्स्ट विंडो' नामक एक अस्थायी मेमोरी स्पेस में संग्रहीत होता है। हालाँकि ये विंडोज़ विशाल होती हैं, जिनमें लाखों शब्द समा सकते हैं, लेकिन वे अनंत नहीं हैं। जब कोई कार्य बहुत लंबा खिंच जाता है, तो मेमोरी भर जाती है, और सहायक शुरुआत के सबसे महत्वपूर्ण विवरणों को भूलने का जोखिम उठाता है। इसे हल करने के लिए, इंजीनियर 'समराइजेशन' (सारांश लेखन) नामक तकनीक का उपयोग करते हैं। विचार सरल है: इससे पहले कि मेमोरी बहुत भर जाए, सहायक अपने लंबे इतिहास को एक छोटे, अधिक सघन संस्करण में बदल देता है, शोर को हटाते हुए केवल मुख्य संकेत को सुरक्षित रखता है, और फिर उस सारांश से अपना काम जारी रखता है। यह एक लंबी बातचीत को याद रखने के लिए नोट्स लेने का एक डिजिटल रूप है।
हालाँकि, पेंसिल्वेनिया स्टेट यूनिवर्सिटी के शोधकर्ताओं का एक नया अध्ययन बताता है कि यह सुरक्षा जाल एक सूक्ष्म लेकिन महत्वपूर्ण तरीके से विफल हो रहा है। शोधकर्ताओं ने जांच की कि क्या इन आर्टिफिशियल इंटेलिजेंस मॉडलों को वास्तव में सारांश बनाते समय अधिक विवरण रखने के लिए कहा जा सकता है। वे जानना चाहते थे कि क्या जैसे-जैसे इतिहास लंबा होता है, क्या सारांश भी लंबा हो सकता है, जिससे मूल जानकारी का एक स्थिर अंश सुरक्षित रहे। इसके बजाय, उन्होंने पाया कि इन मॉडलों की एक कठिन सीमा है। चाहे कहानी कितनी भी लंबी क्यों न हो जाए, सारांश लगभग एक ही आकार का रहता है, जिससे संरक्षित की जाने वाली जानकारी का अंश बहुत कम हो जाता है। यहाँ तक कि जब इंसान स्पष्ट रूप से कंप्यूटर को लंबा सारांश लिखने के लिए कहते हैं, तो कंप्यूटर पालन करने से इनकार कर देता है, और अपनी छोटी आदतों पर टिका रहता है। शोधकर्ताओं ने पाया कि इस व्यवहार को बदलने का एकमात्र तरीका कंप्यूटर से बेहतर तरीके से अनुरोध करना नहीं, बल्कि उसे लंबे सारास्यों के उदाहरणों पर फिर से प्रशिक्षित (रिट्रेन) करना है।
टीम ने ग्यारह अलग-अलग लार्ज लैंग्वेज मॉडल्स पर इस व्यवहार का परीक्षण किया, जिनमें सामान्य उद्देश्य वाले सहायकों से लेकर विशिष्ट कोडिंग और रीजनिंग टूल्स तक शामिल थे। उन्होंने इन मॉडलों को ऐसे इनपुट दिए जो केवल एक हजार शब्दों से लेकर एक लाख शब्दों तक बढ़ते गए, जिसमें लंबे दस्तावेज़ और कोडिंग समस्याओं को हल करने वाले एजेंटों के वास्तविक लॉग दोनों का उपयोग किया गया। एक आदर्श प्रणाली में, यदि इनपुट सौ गुना बड़ा हो जाता है, तो सारांश को विवरण का समान स्तर बनाए रखने के लिए आनुपातिक रूप से बढ़ना चाहिए। इसके बजाय, मॉडल ऐसे व्यवहारित हुए जैसे वे एक ढर्रे में फंस गए हों। जैसे ही इनपुट बढ़कर एक लाख शब्दों तक पहुँचा, सारांश में बहुत कम वृद्धि हुई। वास्तव में, उस विशाल पैमाने पर, मूल इनपुट का एक प्रतिशत से भी कम हिस्सा सारांश में जीवित बचा। उस आकार के दस्तावेज़ के लिए, इसका अर्थ यह है कि मूल पाठ के प्रत्येक सौ वाक्यों में से केवल एक वाक्य ही अंतिम सारांश में पहुँच सका। बाकी सब खो गया। यह पैटर्न इस बात पर निर्भर नहीं था कि मॉडल को कोडिंग, सामान्य बातचीत या जटिल तर्क के लिए डिज़ाइन किया गया था। मॉडल का आकार भी मदद नहीं कर सका; यहाँ तक कि सबसे बड़े, सबसे शक्तिशाली मॉडलों ने भी ऐसे सारांश तैयार किए जो कार्य के लिए बहुत छोटे थे।
शोधकर्ताओं ने फिर एक अधिक सीधा दृष्टिकोण अपनाया। उन्हें संदेह था कि मॉडलों को शायद केवल स्पष्ट निर्देश की आवश्यकता है। उन्होंने वही विशाल इनपुट लिए और प्रॉम्प्ट में विशिष्ट कमांड जोड़े, मॉडलों को शब्दों, वर्णों या टोकन में मापे गए एक निश्चित लंबाई का सारांश लिखने के लिए कहा। उन्होंने मॉडलों से मूल पाठ के एक चौथाई, एक तिहाई, या यहाँ तक कि आधे आकार का सारांश मांगा। परिणाम निराशाजनक रूप से सुसंगत थे। हालांकि मॉडलों ने पूछे जाने पर थोड़े लंबे सारांश लिखे, लेकिन वे बहुत जल्दी एक कठिन सीमा (सीलिंग) पर पहुँच गए। यदि शोधकर्ताओं ने सोलह हजार शब्दों का सारांश मांगा, तो मॉडल कुछ हज़ार शब्दों के बाद लिखना बंद कर देते थे, और बाकी के अनुरोध को अनदेखा कर देते थे। मॉडल मांग के अनुसार खुद को विस्तार देने में असमर्थ लग रहे थे, चाहे लंबाई को कैसे भी मापा जाए या अनुरोध को कैसे भी कहा जाए। दिए गए निर्देशों ने लंबाई में थोड़ी सी वृद्धि तो की, लेकिन महत्वपूर्ण विवरणों के नुकसान को रोकने के लिए यह कहीं भी पर्याप्त नहीं थी।
इससे शोधकर्ताओं इस आश्चर्यजनक निष्कर्ष पर पहुँचे: समस्या प्रॉम्प्ट या इनपुट में नहीं, बल्कि प्रशिक्षण डेटा (ट्रेनिंग डेटा) में है। इसे सिद्ध करने के लिए, उन्होंने दो मॉडलों को लिया और केवल विभिन्न लंबाई के सारांशों का उपयोग करके उन्हें हल्का पुन: प्रशिक्षण (फाइन-ट्यूनिंग) दिया। एक समूह को बहुत छोटे सारांशों पर प्रशिक्षित किया गया, और दूसरे को बहुत लंबे सारांशों पर। जब उन्होंने इन पुन: प्रशिक्षित मॉडलों का परीक्षण उन्हीं तटस्थ निर्देशों के साथ किया, तो परिणाम नाटकीय रूप से बदल गए। छोटे सारांशों पर प्रशिक्षित मॉडल ने और भी छोटे टेक्स्ट लिखे, जबकि लंबे सारांशों पर प्रशिक्षित मॉडल ने काफी लंबे टेक्स्ट लिखे, भले ही प्रॉम्प्ट में लंबाई का उल्लेख कभी नहीं किया गया था। यह सुझाव देता है कि मॉडलों ने अपने प्रशिक्षण डेटा से संक्षिप्तता की एक डिफ़ॉल्ट आदत सीख ली है, एक ऐसी आदत जो अन्यथा करने के किसी भी अनुरोध को दरकिनार कर देती है। सारांश का आकार इनपुट के आकार पर आधारित एक लचीली गणना नहीं है; यह मॉडल के डीएनए में बसी एक कठोर व्यवहार है।
स्वायत्त एजेंटों (ऑटोनॉमस एजेंट्स) के लिए इसके निहितार्थ महत्वपूर्ण हैं। ये सिस्टम लंबे कार्यों को पूरा करने के लिए सारांश पर निर्भर करते हैं, लेकिन यदि सारांश बहुत छोटा है, तो फ़ाइल पाथ, एक असफल प्रयास, या एक विशिष्ट बाधा जैसा महत्वपूर्ण विवरण हमेशा के लिए खो जाता है। एक बार खो जाने के बाद, एजेंट इसे पुनः प्राप्त नहीं कर सकता और इसे फिर से खोजने में समय बर्बाद करने या बिना सोचे-समझे आगे बढ़ने के लिए मजबूर होता है। अध्ययन से पता चलता है कि केवल एक लंबे सारांश का अनुरोध करके एजेंट को "अधिक याद रखने" के लिए कहना एक विश्वसनीय समाधान नहीं है। समाधान बेहतर प्रॉम्प्टिंग में नहीं, बल्कि सारांश बनाने वालों के प्रशिक्षण में उपयोग किए जाने वाले डेटा को बदलने में निहित है। जब तक प्रशिक्षण डेटा इन मॉडलों को सिखा नहीं देता कि जैसे-जैसे संदर्भ बढ़ता है वैसे ही अधिक विवरण सुरक्षित रखें, तब तक लंबे-समय तक चलने वाले कार्यों के लिए जिन डिजिटल सहायकों पर हम भरोसा करते हैं, वे अपनी स्मृति खोते रहेंगे—एक छोटे, अपरिवर्तनीय सारांश के माध्यम से।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।